Một bài báo mới được công bố trên tạp chí Nature AI đã mô tả một phương pháp mới để giải thích được tính (Explainability - XAI) cho các mô hình ngôn ngữ lớn (LLM). Thay vì chỉ dự đoán đầu ra, phương pháp này ánh xạ các quyết định của model sang các khái niệm ngôn ngữ tự nhiên, giúp con người hiểu 'tại sao' AI đưa ra câu trả lời đó.
Nghiên cứu cho thấy, bằng cách sử dụng các kỹ thuật phân tích gradient đặc biệt, các nhà khoa học có thể xác định chính xác các token nào trong câu hỏi đầu vào đã dẫn đến kết quả cụ thể. Điều này mở ra khả năng kiểm tra và đánh giá độ tin cậy của AI trong các lĩnh vực quan trọng như y tế và pháp lý, nơi sự minh bạch là yêu cầu bắt buộc.
Tác giả chính của nghiên cứu nhấn mạnh rằng đây là bước tiến quan trọng trong việc xây dựng niềm tin vào AI, giúp giảm thiểu sự phụ thuộc mù quáng vào máy móc. Phương pháp này đã được mã hóa và công bố trên GitHub, khuyến khích các nhà nghiên cứu khác kiểm chứng và mở rộng.
Cùng ngày, các tổ chức giám sát AI toàn cầu đã ca ngợi nghiên cứu này như một công cụ cần thiết để đưa ra các quy định rõ ràng hơn về việc sử dụng AI trong đời sống thực.