TensorFlow, Keras và TensorBoard cho giám sát mô hình

TensorFlow, được Google Brain phát triển và phát hành năm 2015, không chỉ là một thư viện học sâu — đó là toàn bộ một hệ sinh thái để xây dựng, huấn luyện, triển khai, và giám sát các mô hình học máy ở bất kỳ quy mô nào. Trong khi PyTorch chiếm ưu thế trong nghiên cứu, TensorFlow vẫn là cường quốc trong sản xuất, được triển khai trong các hệ thống xử lý hàng tỷ dự đoán mỗi ngày tại Google, Airbnb, Twitter, và hàng nghìn công ty khác.

Hệ sinh thái này bao trùm toàn bộ chu trình sống của ML:

• Keras — API cấp cao để xây dựng và huấn luyện mô hình, giờ đã được tích hợp đầy đủ vào TensorFlow dưới dạng tf.keras
• TensorBoard — Bộ công cụ hình ảnh hóa để giám sát huấn luyện, so sánh các thí nghiệm, và gỡ lỗi mô hình
• tf.data — Các pipeline dữ liệu hiệu suất cao để cung cấp dữ liệu lớn cho mô hình
• TensorFlow Serving — Phục vụ mô hình cấp sản xuất với quản lý phiên bản, xử lý theo lô (batching), và gia tốc phần cứng
• TensorFlow Lite — Môi trường thực thi được tối ưu hóa cho thiết bị di động và thiết bị biên (edge)
• TensorFlow.js — Chạy mô hình trực tiếp trong trình duyệt

Sự bao trùm này là điểm mạnh lớn nhất của TensorFlow. Bạn có thể tạo mẫu một mô hình trong một notebook Jupyter với Keras, huấn luyện nó trên một cụm GPU, giám sát huấn luyện với TensorBoard, phục vụ nó với TF Serving đằng sau một API, và triển khai một phiên bản đã nén lên một Raspberry Pi — tất cả trong cùng một framework. Đối với các ứng dụng tài chính nơi bạn có thể cần các mô hình chạy cả trong một công cụ giao dịch trên cloud (kết nối đến API của GaiaEx) và trên một máy trạm cục bộ để nghiên cứu, tính linh hoạt này quan trọng.

Keras được thiết kế với một nguyên tắc chỉ đạo: giảm tải nhận thức của việc xây dựng mạng nơ-ron. Nó đạt được điều này qua hai API xây dựng mô hình, mỗi API phù hợp với các mức độ phức tạp khác nhau.

Sequential API là đơn giản nhất — một chồng tuyến tính các layer:

import tensorflow as tf
from tensorflow import keras

model = keras.Sequential([
    keras.layers.Dense(128, activation="relu", input_shape=(20,)),
    keras.layers.Dropout(0.3),
    keras.layers.Dense(64, activation="relu"),
    keras.layers.Dropout(0.2),
    keras.layers.Dense(1, activation="sigmoid"),
])

Đối với các mô hình có nhiều đầu vào, nhiều đầu ra, các layer chung, hoặc các kết nối bỏ qua (skip connection), Functional API cho bạn toàn quyền kiểm soát ở cấp graph:

price_input = keras.Input(shape=(60, 5), name="price_sequence")
meta_input = keras.Input(shape=(10,), name="metadata")

x = keras.layers.LSTM(64, return_sequences=True)(price_input)
x = keras.layers.LSTM(32)(x)

combined = keras.layers.concatenate([x, meta_input])
combined = keras.layers.Dense(64, activation="relu")(combined)
output = keras.layers.Dense(1, activation="sigmoid")(combined)

model = keras.Model(inputs=[price_input, meta_input],
                    outputs=output)

Mô hình này nhận hai đầu vào — một chuỗi giá 60 bước được xử lý bởi các LSTM chồng lên nhau, và một vector metadata gồm các đặc trưng tĩnh — kết hợp chúng, và xuất ra một dự đoán hướng. Kiến trúc này phổ biến trong ML tài chính khi bạn muốn kết hợp các mô hình thời gian (hành động giá gần đây) với thông tin ngữ cảnh (chế độ độ biến động, funding rate, ngày trong tuần).

Các loại layer chính cho các ứng dụng tài chính: Dense cho các đặc trưng dạng bảng, LSTM và GRU cho chuỗi thời gian, Conv1D để học các mô hình thời gian cục bộ, và MultiHeadAttention cho mô hình hóa chuỗi kiểu transformer.

Sau khi xây dựng, một mô hình Keras phải được biên dịch với ba thành phần: một bộ tối ưu hóa, một hàm mất mát, và các chỉ số đánh giá.

model.compile(
    optimizer=keras.optimizers.Adam(learning_rate=1e-3),
    loss="binary_crossentropy",
    metrics=["accuracy", keras.metrics.AUC(name="auc")],
)

history = model.fit(
    X_train, y_train,
    epochs=100,
    batch_size=64,
    validation_data=(X_val, y_val),
    callbacks=[...],
)

Callback là các điểm móc thực thi tại các thời điểm cụ thể trong quá trình huấn luyện — sau mỗi epoch, batch, hoặc khi các điều kiện nhất định được đáp ứng. Chúng tự động hóa việc quản lý huấn luyện mà nếu không sẽ yêu cầu giám sát thủ công:

• EarlyStopping — Dừng huấn luyện khi mất mát validation ngừng cải thiện trong patience epoch. Ngăn overfitting và lãng phí tính toán. Đặt restore_best_weights=True để tự động quay lại checkpoint tốt nhất.
• ModelCheckpoint — Lưu mô hình mỗi khi hiệu suất validation cải thiện. Không bao giờ để mất mô hình tốt nhất của bạn do lỗi huấn luyện hoặc overfitting ở các epoch sau.
• ReduceLROnPlateau — Giảm tốc độ học khi mất mát validation đình trệ (plateau). Điều này thường mở khóa thêm hiệu suất mà một tốc độ học cố định bỏ lỡ — mô hình thực hiện các bước lớn ban đầu, sau đó tinh chỉnh với các bước nhỏ hơn.

callbacks = [
    keras.callbacks.EarlyStopping(
        monitor="val_loss", patience=15,
        restore_best_weights=True),
    keras.callbacks.ModelCheckpoint(
        "best_model.keras", monitor="val_auc",
        mode="max", save_best_only=True),
    keras.callbacks.ReduceLROnPlateau(
        monitor="val_loss", factor=0.5,
        patience=5, min_lr=1e-6),
    keras.callbacks.TensorBoard(log_dir="./logs"),
]

TensorBoard là bộ công cụ hình ảnh hóa của TensorFlow, và đó là một trong những công cụ quý giá nhất trong quy trình làm việc của bất kỳ người hành nghề ML nào — dù bạn dùng TensorFlow, PyTorch, hoặc JAX. Nó biến các log huấn luyện thô thành các bảng điều khiển tương tác cho thấy điều gì đang xảy ra bên trong mô hình của bạn.

Khởi động TensorBoard bằng cách chỉ nó đến thư mục log của bạn:

# Terminal
tensorboard --logdir=./logs --port=6006

# Hoặc trong notebook Jupyter
%load_ext tensorboard
%tensorboard --logdir ./logs

Các hình ảnh hóa chính cho việc phát triển mô hình tài chính:

Scalars — Các đường cong mất mát huấn luyện và validation được vẽ theo thời gian. Khoảng cách giữa chúng cho thấy overfitting: một mất mát huấn luyện tiếp tục giảm trong khi mất mát validation tăng nghĩa là mô hình của bạn đang ghi nhớ nhiễu. Huấn luyện lành mạnh cho thấy cả hai đường cong giảm cùng nhau, với đường cong validation cao hơn một chút so với huấn luyện.

Histogram — Phân phối của trọng số, độ chệch (bias), và các hàm kích hoạt qua các layer và epoch. Chú ý đến phân phối trọng số sụp xuống về không (gradient biến mất), nổ lên các giá trị lớn (huấn luyện không ổn định), hoặc các hàm kích hoạt bão hòa ở 0 hoặc 1 (nơ-ron chết). Những vấn đề này vô hình trong đường cong mất mát nhưng rõ ràng trong histogram.

Embeddings — Chiếu các biểu diễn nhiều chiều vào không gian 2D hoặc 3D dùng t-SNE hoặc PCA. Hình ảnh hóa xem mô hình của bạn có học được cách phân tách các chế độ thị trường, hạng mục tài sản, hoặc trạng thái biến động khác nhau trong các biểu diễn nội tại của nó hay không.

HParams — So sánh các quét siêu tham số (hyperparameter) qua các thí nghiệm. Chạy cùng một mô hình với các tốc độ học, kiến trúc, và giá trị dropout khác nhau, sau đó xác định tổ hợp nào tạo ra các chỉ số validation tốt nhất. So sánh có hệ thống này thay thế thí nghiệm ngẫu hứng bằng lựa chọn mô hình dựa trên bằng chứng.

TensorBoard cũng hoạt động với PyTorch qua lớp torch.utils.tensorboard.SummaryWriter — các công cụ hình ảnh hóa không phụ thuộc framework, đây là một trong những lý do TensorBoard đã trở thành tiêu chuẩn thực tế xuyên suốt hệ sinh thái ML.

Khi bộ dữ liệu của bạn quá lớn để chứa trong bộ nhớ — một tình huống phổ biến khi làm việc với dữ liệu cấp tick từ các sàn giao dịch như GaiaEx — tf.data cung cấp một pipeline dữ liệu hiệu quả, song song hóa để luôn cung cấp dữ liệu cho GPU của bạn mà không cần nạp mọi thứ cùng một lúc.

dataset = tf.data.Dataset.from_tensor_slices((features, labels))
dataset = (dataset
    .window(60, shift=1, drop_remainder=True)
    .flat_map(lambda w: w.batch(60))
    .batch(64)
    .prefetch(tf.data.AUTOTUNE)
)

Lệnh gọi prefetch(AUTOTUNE) là quan trọng — nó cho phép việc nạp dữ liệu và tính toán mô hình chồng lấp lên nhau, vậy nên GPU không bao giờ nhàn rỗi chờ batch tiếp theo. Đối với các bộ dữ liệu tài chính có kỹ thuật đặc trưng phức tạp, bạn có thể xích các phép biến đổi .map() chạy song song, tính toán các chỉ báo và chuẩn hóa ngay tại thời điểm chạy thay vì tính trước và lưu trữ.

TensorFlow Serving là một hệ thống cấp sản xuất để triển khai các mô hình đằng sau một API gRPC hoặc REST hiệu suất cao. Nó xử lý quản lý phiên bản mô hình (phục vụ mô hình mới trong khi vẫn giữ mô hình cũ làm phương án dự phòng), gộp lô yêu cầu (request batching, kết hợp nhiều yêu cầu inference để tăng hiệu quả GPU), và gia tốc phần cứng — tất cả đều quan trọng cho các hệ thống giao dịch nơi cả độ trễ và độ tin cậy đều quan trọng.

# Xuất một SavedModel
model.save("models/price_predictor/1")

# Phục vụ với Docker
# docker run -p 8501:8501 \
#   --mount type=bind,source=$(pwd)/models,target=/models \
#   -e MODEL_NAME=price_predictor \
#   tensorflow/serving

Một kiến trúc sản xuất điển hình: bot giao dịch của bạn kết nối đến luồng WebSocket của GaiaEx, tính toán các đặc trưng theo thời gian thực, gửi các yêu cầu inference đến TF Serving, và nhận các dự đoán trong vài milli giây đơn chữ số. Khi bạn huấn luyện lại trên dữ liệu mới, triển khai mô hình đã cập nhật thành phiên bản 2 — TF Serving thay thế nó vào mà không có downtime.

TensorFlow Lite nén các mô hình để triển khai trên thiết bị di động, hệ thống nhúng, và phần cứng biên (edge). Qua các kỹ thuật như lượng tử hóa (chuyển trọng số dấu phẩy động 32-bit sang số nguyên 8-bit), cắt gọt (pruning, loại bỏ các trọng số gần bằng không), và tối ưu hóa kiến trúc, TF Lite có thể co nhỏ một mô hình 4 lần hoặc hơn trong khi vẫn giữ được phần lớn độ chính xác. Điều này cho phép chạy inference trực tiếp trên các thiết bị có tính toán hạn chế — hữu ích cho các node giao dịch biên hoặc bảng điều khiển giám sát cần hoạt động độc lập với hạ tầng cloud.

# Chuyển đổi một mô hình Keras sang TF Lite
converter = tf.lite.TFLiteConverter.from_saved_model("models/v1")
converter.optimizations = [tf.lite.Optimize.DEFAULT]
tflite_model = converter.convert()

with open("model.tflite", "wb") as f:
    f.write(tflite_model)

TensorFlow so với PyTorch — bạn nên chọn cái nào cho các ứng dụng tài chính?

• Cho nghiên cứu và tạo mẫu: PyTorch. Các graph động của nó, API kiểu Python, và vị trí thống trị trong nghiên cứu học thuật nghĩa là nhiều bài báo bao gồm mã PyTorch hơn, nhiều hướng dẫn dùng PyTorch hơn, và gỡ lỗi trực quan hơn.
• Cho triển khai sản xuất ở quy mô lớn: TensorFlow vẫn giữ những lợi thế. TF Serving, TF Lite, và TensorFlow.js cung cấp các con đường triển khai đã được kiểm chứng qua chiến trận mà TorchServe và ONNX Runtime của PyTorch vẫn còn đang trưởng thành hướng tới.
• Cho ML tài chính cụ thể: Bắt đầu với PyTorch để phát triển và thí nghiệm mô hình. Nếu các yêu cầu sản xuất của bạn đòi hỏi sự trưởng thành của TF Serving hoặc triển khai edge của TF Lite, chuyển đổi các mô hình tốt nhất của bạn. Nhiều nhóm dùng PyTorch cho nghiên cứu và TensorFlow cho triển khai, kết nối chúng qua định dạng ONNX (Open Neural Network Exchange).

Sự thật trung thực: cả hai framework đang hội tụ lại. TensorFlow đã áp dụng thực thi tức thời (eager execution); PyTorch đã thêm torch.compile để tối ưu hóa ở cấp graph. Keras bản thân nó giờ đây hỗ trợ PyTorch, JAX, và TensorFlow làm backend. Framework tốt nhất là framework mà nhóm của bạn hiểu rõ và có thể chuyển giao mã sản xuất với nó. Chọn một, thành thục nó, và giải quyết vấn đề thực sự — dự đoán thị trường — thay vì tranh luận về công cụ.