Lý thuyết thông tin và Mô hình Ensemble trong dự báo chuỗi thời gian

Trong bối cảnh kinh tế toàn cầu đầy biến động sau đại dịch, việc dự báo các biến số kinh doanh với độ chính xác cao trở thành một thách thức lớn đối với các nhà thống kê. Liệu lạm phát tăng cao là do xung đột địa chính trị hay do chính sách nới lỏng định lượng? Các mô hình khác nhau thường đưa ra các kết quả trái ngược nhau.

Hạn chế của các phương pháp truyền thống

Tại nền tảng của kinh tế lượng, chúng ta thường dựa vào việc tối thiểu hóa khoảng cách (MSE, RMSE, v.v.) giữa giá trị dự báo và giá trị thực tế. Các chỉ số này phổ biến vì:

• Tính phi tham số (Non-parametric): Cho phép so sánh các mô hình với giả định và cấu trúc khác nhau.
• Phân bổ phần dư: Giúp phân loại và phân cụm hiệu suất của các mô hình như ARMA hay State Space.
• Hình học Euclid: Hỗ trợ xây dựng các phương pháp phức tạp hơn trên nền tảng toán học sẵn có.

Tuy nhiên, việc tiếp tục tối ưu hóa các chỉ số này không còn mang lại nhiều cải thiện đáng kể. Chúng không cung cấp đủ sự phân tách (separation) giữa các mô hình đã được tối ưu hóa, khiến việc xếp hạng hiệu suất trở nên khó khăn.

Phân tích dữ liệu lạm phát

Để minh họa, chúng ta xem xét 4 biến số chính:

1. CPI YoY Growth: Lạm phát phía cầu.
2. PPI YoY Growth: Lạm phát phía cung.
3. Savings Rate: Ma sát phía cầu.
4. Business Inventories MoM Growth: Ma sát phía cung.

Mô hình VAR (Vector Autoregression) giúp xác nhận các lý thuyết kinh tế như Giả thuyết thu nhập vĩnh viễn của Milton Friedman: sự gia tăng đột ngột trong tiết kiệm dẫn đến lạm phát do cầu kéo trong các kỳ tiếp theo.

Mô hình Ensemble và Lý thuyết thông tin

Khi các chỉ số truyền thống không đủ hiệu quả, chúng ta cần một "thấu kính" mới. Tác giả đề xuất khung làm việc dựa trên Lý thuyết thông tin (Information Theory).

Định nghĩa Entropy trong dự báo

Thay vì chỉ nhìn vào khoảng cách, chúng ta xem xét lượng thông tin mà nguồn dữ liệu truyền tải. Nếu một mô hình hiểu rõ động lực của nguồn dữ liệu, nó sẽ dự báo chính xác với lượng nhiễu tối thiểu.

Công thức đo lường thông tin dựa trên mật độ phổ (spectral density) $f̂(λ)$:

• Entropy: Bị chặn trong khoảng [0, 1]. Dữ liệu càng gần nhiễu trắng (white noise), giá trị entropy càng gần 1. Nếu dự báo tốt, phần dư (residuals) sẽ có xu hướng giống nhiễu trắng hơn.
• Tính chất: Entropy không làm thay đổi cấu trúc tô-pô của dữ liệu, chỉ cần biến đổi Fourier (một phép biến đổi nội xạ).

Triển khai khung suy luận Entropy

Khung làm việc này sử dụng entropy để ước tính trọng số cho các mô hình ensemble:

1. Xác định ngưỡng: Người dùng thiết lập ngưỡng entropy cho trọng số mô hình.
2. Tối ưu hóa: Thay vì chỉ suy luận, bước tiếp theo là tối ưu hóa để cực đại hóa entropy của phần dư.

Kết quả thực nghiệm cho thấy, mặc dù phương pháp dựa trên entropy có độ chính xác tương đương với phương pháp dựa trên khoảng cách, nhưng nó vẫn còn tiềm năng để khai thác sâu hơn. Các lý do cho sự khác biệt này bao gồm:

• Ngưỡng entropy trong huấn luyện cần được tinh chỉnh.
• Phương pháp dựa trên khoảng cách thường bị quá khớp (overfitting) do trọng số có thể bị "thổi phồng" hoặc âm.
• Cần kết hợp nhiều mô hình độc đáo hơn (N-models).

Kết luận

Việc thay đổi góc nhìn từ các chỉ số khoảng cách truyền thống sang các khái niệm như entropy giúp các nhà khoa học dữ liệu và kinh tế lượng có cái nhìn sâu sắc hơn về cấu trúc dữ liệu. Dù vẫn còn ở giai đoạn sơ khai, cách tiếp cận này mở ra hướng đi mới cho việc xây dựng các hệ thống dự báo chính xác hơn trong tương lai.