Một nghiên cứu mới từ Đại học Stanford đã làm dấy lên lo ngại về hiện tượng 'Washback' trong kỷ nguyên AI. Các nhà nghiên cứu phát hiện ra rằng ngày càng nhiều luận văn và bài báo khoa học sử dụng dữ liệu được tạo ra bởi AI (hallucinated data) thay vì dữ liệu thực tế, dẫn đến các kết luận sai lệch lan tỏa trong cộng đồng học thuật.
Hiện tượng này xảy ra khi các nhà nghiên cứu (hoặc sinh viên) sử dụng các mô hình AI như ChatGPT hoặc Claude để 'trích dẫn' các nghiên cứu chưa tồn tại hoặc tạo ra các bộ dữ liệu tổng hợp mà không công bố rõ nguồn gốc. Khi các công trình này được công bố, chúng có thể bị trích dẫn bởi các nghiên cứu khác, tạo thành một vòng lặp thông tin giả.
Để đối phó, một số tạp chí khoa học hàng đầu như Nature và Science đang bắt đầu áp dụng các công cụ kiểm tra AI (AI-detection tools) và yêu cầu các tác giả phải cung cấp mã nguồn (code) và dữ liệu thô để xác thực lại các kết quả. Tuy nhiên, hiệu quả của việc này vẫn còn hạn chế vì AI ngày càng tinh vi trong việc che giấu dấu vết.
Giáo sư AI tại Stanford, Dr. Richard Sutton, cảnh báo rằng đây là một vấn đề đạo đức nghiêm trọng. Ông kêu gọi cần có các chuẩn mực quốc tế về việc trích dẫn và sử dụng AI trong nghiên cứu, tương tự như việc quy định về bản quyền trong xuất bản.