Google DeepMind vừa công bố kết quả nghiên cứu đáng chú ý về lĩnh vực AI Alignment, tập trung vào việc xây dựng các rào cản an toàn cho các mô hình trí tuệ nhân tạo tổng quát (AGI) trong tương lai. Nghiên cứu này đề xuất một kiến trúc mới gọi là 'Safety Layer', được chèn vào giữa các tầng xử lý của mô hình để giám sát liên tục đầu ra của hệ thống.
Khác với các phương pháp huấn luyện trực tiếp (RLHF), Safety Layer hoạt động như một bộ lọc độc lập, có thể được cập nhật mà không cần huấn luyện lại toàn bộ mô hình gốc. Điều này mang lại lợi thế lớn về mặt hiệu quả tính toán và độ linh hoạt khi đối mặt với các tình huống mới chưa được huấn luyện trước.
Bài báo đã được các chuyên gia trong lĩnh vực AI Safety đánh giá cao về tính nghiêm ngặt trong phương pháp luận. Nghiên cứu mở ra hướng đi mới trong việc xây dựng các mô hình AI có khả năng tự đánh giá rủi ro trước khi thực thi hành động, một yếu tố then chốt để đảm bảo AI phát triển một cách có đạo đức và an toàn cho xã hội.