AI·NEWS
Nghiên cứu AI Nguồn: Reuters 21:00:07 7/11/2026

Nghiên cứu mới từ MIT: Kỹ thuật 'Phantom Prompting' giúp loại bỏ 90% lỗi ảo giác ở LLM

Các nhà nghiên cứu đề xuất phương pháp tiêm các 'mồi bẫy' vô hình vào prompt để kiểm tra và lọc kết quả đầu ra của mô hình.

Nghiên cứu mới từ MIT: Kỹ thuật 'Phantom Prompting' giúp loại bỏ 90% lỗi ảo giác ở LLM

Một nhóm nghiên cứu tại Viện Công nghệ Massachusetts (MIT) vừa công bố bài báo trên tạp chí Nature Machine Intelligence giới thiệu kỹ thuật 'Phantom Prompting'. Phương pháp này hoạt động bằng cách nhúng các câu hỏi kiểm tra logic cơ bản được mã hóa ẩn vào đầu vào của mô hình ngôn ngữ lớn (LLM).

Khi mô hình phản hồi, hệ thống sẽ phân tích cách nó xử lý các 'mồi bẫy' đó. Nếu mô hình trả lời sai các câu hỏi logic đơn giản được chèn vào, toàn bộ phần phản hồi liên quan sẽ bị đánh dấu là có nguy cơ ảo giác cao và được lọc bỏ hoặc yêu cầu xác minh lại. Kỹ thuật này không làm thay đổi trọng số của mô hình mà chỉ tác động ở giai đoạn suy luận (inference).

Trong thử nghiệm trên bộ dữ liệu TruthfulQA, kỹ thuật Phantom Prompting đã giảm tỷ lệ ảo giác từ 15% xuống còn dưới 1.5%. Nghiên cứu này mở ra hướng đi mới cho việc tăng độ tin cậy của AI mà không cần huấn luyện lại mô hình từ đầu, một giải pháp kinh tế và hiệu quả cho các doanh nghiệp đang triển khai AI trong các quy trình nhạy cảm.

Về trang chủ

Nội dung do AI tổng hợp, tham khảo theo nguồn "Reuters"