Mới đây, một nghiên cứu từ OpenAI và Georgia Tech có tên “Why Language Models Hallucinate” (Tại sao mô hình ngôn ngữ bị ảo giác) đã chỉ ra nguyên nhân cốt lõi khiến trí tuệ nhân tạo tạo ra những câu trả lời sai nhưng lại rất tự tin. Kết quả nghiên cứu không chỉ mang tính kỹ thuật, mà còn phản ánh cách xã hội đánh giá và sử dụng genAI.
1. Ảo giác bắt đầu từ dữ liệu huấn luyện
-
Dữ liệu hiếm (Singleton): Có những sự thật chỉ xuất hiện một lần trong tập dữ liệu. AI khó học chính xác và dễ “bịa” chi tiết.
-
Giới hạn mô hình: Một số kiến trúc cũ không hiểu cú pháp phức tạp, dẫn đến lỗi ngớ ngẩn.
-
Rác vào, rác ra (GIGO): Internet đầy tin sai, AI cũng học và tái tạo lại sai lệch đó.
-
Lệch phân phối (Distribution Shift): Khi câu hỏi khác xa dữ liệu huấn luyện, khả năng trả lời sai sẽ tăng.
2. Vòng luẩn quẩn “chạy theo điểm số”
Trong giai đoạn tinh chỉnh, AI thường bị khuyến khích đoán bừa thay vì thừa nhận không biết. Lý do:
-
AI trung thực (“Tôi không biết”) bị chấm điểm thấp.
-
AI đoán bừa lại được điểm cao hơn, dễ thắng trong bảng xếp hạng.
-
Văn hóa chạy theo leaderboard khiến AI ngày càng “tự tin thái quá”.
3. Giải pháp: Thay đổi cách đánh giá
-
Chấm công bằng: trả lời sai bị trừ điểm, còn “không biết” thì không phạt.
-
Đặt luật chơi trong prompt: “Chỉ trả lời khi chắc chắn trên 90%.”
-
Đo lường hiệu chuẩn hành vi (sự cân bằng giữa độ tự tin và độ chính xác).
4. Thách thức còn lại
-
AI có tìm kiếm (RAG) vẫn dễ sai nếu không tìm ra thông tin chuẩn.
-
Các nghiên cứu mới chủ yếu áp dụng cho câu hỏi ngắn, chưa bao quát tác vụ dài.
-
Việc phân loại Đúng/Sai/Không biết chưa phản ánh hết sự phức tạp của ngôn ngữ.
5. Bài học cho người dùng
Ảo giác AI không phải điều bí ẩn, mà là kết quả tất yếu từ cách huấn luyện, đánh giá và sử dụng. Vì vậy, người dùng đóng vai trò quan trọng:
-
Đặt câu hỏi rõ ràng.
-
Kiểm chứng thông tin quan trọng.
-
Không coi câu trả lời của AI là tuyệt đối đúng.
👉 Muốn xây dựng AI đáng tin cậy, cần cả công nghệ minh bạch và người dùng có trách nhiệm.
AiOV Institute – Ứng dụng A.I hiệu quả và có trách nhiệm
