OpenAI ra mắt tính năng Structured Outputs: Đột phá mới trong việc kiểm soát dữ liệu đầu ra của API

Bài viết được dịch và tổng hợp từ tin tức gốc. Bạn có thể đọc bài viết gốc bằng tiếng Anh tại đây.

Điểm tin nhanh:

OpenAI ra mắt tính năng Structured Outputs giúp các mô hình AI tuân thủ tuyệt đối định dạng JSON Schema do người dùng định nghĩa.

Tính năng này loại bỏ nhu cầu về các kỹ thuật ép kiểu (prompt engineering) phức tạp, giúp dữ liệu đầu ra luôn sẵn sàng để tích hợp vào hệ thống.

Hỗ trợ đầy đủ cho các mô hình GPT-4o, mang lại độ tin cậy cao hơn cho các ứng dụng AI trong doanh nghiệp.

Giới thiệu về Structured Outputs

Trong quá trình phát triển ứng dụng AI, một trong những thách thức lớn nhất đối với lập trình viên là đảm bảo mô hình trả về dữ liệu đúng định dạng JSON mong muốn. Trước đây, dù đã sử dụng các kỹ thuật như "JSON mode" hay "Function calling", kết quả vẫn có thể xảy ra sai sót về cấu trúc. Với Structured Outputs, OpenAI đã giải quyết triệt để vấn đề này.

Tại sao Structured Outputs lại quan trọng?

Tính năng này đảm bảo rằng các mô hình của OpenAI sẽ tuân thủ chính xác các lược đồ (schema) mà bạn cung cấp. Điều này cực kỳ quan trọng đối với các hệ thống cần sự chính xác tuyệt đối như: trích xuất dữ liệu từ hóa đơn, phân loại email tự động, hoặc tạo cấu trúc dữ liệu cho cơ sở dữ liệu.

Bảng so sánh khả năng xử lý dữ liệu

Tính năng	Trước khi có Structured Outputs	Sau khi có Structured Outputs
Độ tin cậy cấu trúc	Thấp (cần xử lý lỗi)	100% (tuân thủ schema)
Độ phức tạp code	Cao (cần validation logic)	Thấp (nhận dữ liệu sạch)
Thời gian phản hồi	Biến động	Ổn định
Khả năng tích hợp	Cần trung gian xử lý	Trực tiếp vào ứng dụng

Cách thức hoạt động

Structured Outputs hoạt động bằng cách hạn chế không gian tìm kiếm của mô hình trong quá trình tạo token, đảm bảo rằng mỗi token được sinh ra đều tuân theo các ràng buộc của JSON Schema đã được định nghĩa.

Ví dụ triển khai (Python)

Để sử dụng tính năng này, bạn cần định nghĩa response_format trong yêu cầu API của mình:

from pydantic import BaseModel
from openai import OpenAI

client = OpenAI()

class CalendarEvent(BaseModel):
    name: str
    date: str
    participants: list[str]

completion = client.beta.chat.completions.parse(
    model="gpt-4o-2024-08-06",
    messages=[{"role": "user", "content": "Lên lịch họp nhóm vào ngày 20 tháng 8 với An và Bình."}],
    response_format=CalendarEvent,
)

event = completion.choices[0].message.parsed
print(event.name)
print(event.date)

Lợi ích cho lập trình viên

Loại bỏ lỗi parse JSON: Không còn lo lắng về việc mô hình trả về JSON thiếu dấu ngoặc hoặc sai kiểu dữ liệu.
Tích hợp Pydantic: Hỗ trợ trực tiếp thư viện Pydantic trong Python, giúp việc định nghĩa schema trở nên cực kỳ đơn giản.
Độ tin cậy cao: Được tối ưu hóa để xử lý các schema phức tạp, bao gồm cả các trường lồng nhau (nested fields) và mảng.

Kết luận

Structured Outputs là một bước tiến lớn giúp các mô hình ngôn ngữ lớn (LLM) trở thành những công cụ lập trình thực thụ. Việc đảm bảo tính toàn vẹn của dữ liệu đầu ra giúp giảm thiểu đáng kể thời gian bảo trì và xử lý lỗi trong các dự án AI quy mô lớn.