Một nhóm nghiên cứu liên kết giữa MIT và DeepMind vừa công bố trên tạp chí Nature Machine Intelligence một phương pháp mới mang tên 'Transparent Chain-of-Thought' (TCOT). Phương pháp này cho phép các mô hình AI lớn tạo ra các lời giải thích không chỉ về mặt kỹ thuật mà còn trực quan, dễ hiểu cho người dùng không chuyên.
Khác với các phương pháp giải thích AI truyền thống thường tập trung vào các vector ẩn hoặc heatmap, TCOT buộc mô hình phải xây dựng một chuỗi suy luận có cấu trúc, nơi mỗi bước đều được liên kết với một nguyên lý logic cơ bản. Kết quả là, thay vì chỉ cho biết 'tôi sẽ chọn phương án A', AI có thể nói 'tôi chọn phương án A vì nó tối ưu hóa chi phí vận tải trong khi vẫn đáp ứng ràng buộc về thời gian giao hàng, dựa trên dữ liệu lịch sử từ 12 tháng qua'.
Nghiên cứu này đặc biệt có ý nghĩa trong các lĩnh vực nhạy cảm như tài chính, y tế và pháp lý, nơi khả năng giải thích ('explainability') là yêu cầu bắt buộc. Các thử nghiệm ban đầu cho thấy người dùng tin tưởng vào quyết định của AI hơn 40% khi có kèm theo lời giải thích TCOT so với khi chỉ có kết quả đầu ra.