AI·NEWS
Nghiên cứu AI Nguồn: The Verge 19:00:06 1/11/2026

Google DeepMind khám phá cơ chế 'tự giám sát' giúp AI giảm ảo giác 40%

Nghiên cứu mới từ DeepMind cho thấy việc thêm một lớp mạng nơ-ron phụ có thể giúp mô hình ngôn ngữ lớn xác định khi nào chúng đang 'bịa đặt' thông tin.

Google DeepMind khám phá cơ chế 'tự giám sát' giúp AI giảm ảo giác 40%

Trong một bài báo công bố trên tạp chí Nature AI, các nhà nghiên cứu tại Google DeepMind đã trình bày một phương pháp mới giúp giảm thiểu hiện tượng ảo giác (hallucination) trong các mô hình ngôn ngữ lớn (LLM). Thay vì chỉ dựa vào dữ liệu huấn luyện, nhóm nghiên cứu đã phát triển một cơ chế 'tự giám sát' (self-monitoring) bằng cách tích hợp một mạng nơ-ron phụ nhỏ gọn, được gọi là 'Truthfulness Gate'.

Cơ chế hoạt động bằng cách đánh giá mức độ nhất quán giữa ngữ cảnh đầu vào và các token đầu ra trong thời gian thực. Khi phát hiện sự mâu thuẫn logic hoặc thiếu cơ sở dữ liệu hỗ trợ, 'Truthfulness Gate' sẽ kích hoạt chế độ phản hồi thận trọng, hoặc thậm chí từ chối trả lời thay vì bịa đặt thông tin. Trong các thử nghiệm nội bộ, phương pháp này đã giúp giảm tỷ lệ ảo giác xuống 40% mà không làm giảm đáng kể chất lượng ngôn ngữ hay tốc độ suy luận.

Đây là một bước tiến quan trọng trong nỗ lực xây dựng các hệ thống AI có thể tin cậy cho các ứng dụng thực tế như trợ lý pháp lý, y khoa và nghiên cứu khoa học. Google cho biết họ đang làm việc với các đối tác trong ngành y tế để kiểm chứng tính hiệu quả của cơ chế này trong việc hỗ trợ chẩn đoán bệnh, nơi một thông tin sai lệch có thể gây ra hậu quả nghiêm trọng.

Về trang chủ

Nội dung do AI tổng hợp, tham khảo theo nguồn "The Verge"