Trong một bài báo công bố trên tạp chí Nature AI, các nhà nghiên cứu tại Google DeepMind đã trình bày một phương pháp mới giúp giảm thiểu hiện tượng ảo giác (hallucination) trong các mô hình ngôn ngữ lớn (LLM). Thay vì chỉ dựa vào dữ liệu huấn luyện, nhóm nghiên cứu đã phát triển một cơ chế 'tự giám sát' (self-monitoring) bằng cách tích hợp một mạng nơ-ron phụ nhỏ gọn, được gọi là 'Truthfulness Gate'.
Cơ chế hoạt động bằng cách đánh giá mức độ nhất quán giữa ngữ cảnh đầu vào và các token đầu ra trong thời gian thực. Khi phát hiện sự mâu thuẫn logic hoặc thiếu cơ sở dữ liệu hỗ trợ, 'Truthfulness Gate' sẽ kích hoạt chế độ phản hồi thận trọng, hoặc thậm chí từ chối trả lời thay vì bịa đặt thông tin. Trong các thử nghiệm nội bộ, phương pháp này đã giúp giảm tỷ lệ ảo giác xuống 40% mà không làm giảm đáng kể chất lượng ngôn ngữ hay tốc độ suy luận.
Đây là một bước tiến quan trọng trong nỗ lực xây dựng các hệ thống AI có thể tin cậy cho các ứng dụng thực tế như trợ lý pháp lý, y khoa và nghiên cứu khoa học. Google cho biết họ đang làm việc với các đối tác trong ngành y tế để kiểm chứng tính hiệu quả của cơ chế này trong việc hỗ trợ chẩn đoán bệnh, nơi một thông tin sai lệch có thể gây ra hậu quả nghiêm trọng.