Ảo giác AI là gì?
Ảo giác AI là kết quả từ một mô hình AI nghe có vẻ tự tin và hợp lý nhưng lại sai hoặc bịa đặt: một dữ kiện sai, một câu nói chưa ai từng nói, hoặc một nguồn không tồn tại. Ảo giác là một hạn chế đã được biết đến của các mô hình ngôn ngữ lớn (LLM), những hệ thống đứng sau các công cụ như ChatGPT.
Vì sao ảo giác xảy ra
- Một mô hình ngôn ngữ tạo văn bản bằng cách dự đoán những từ tiếp theo có khả năng xuất hiện, dựa trên khuôn mẫu trong dữ liệu huấn luyện; nó không tra cứu dữ kiện trừ khi được kết nối với một công cụ tìm kiếm hoặc một tài liệu.
- Khi dữ liệu huấn luyện ít ỏi hoặc lỗi thời, mô hình lấp chỗ trống bằng một thứ khớp với khuôn mẫu.
- Các mô hình được tinh chỉnh để đưa ra câu trả lời, nên hiếm khi nói “tôi không biết” trừ khi được yêu cầu.
Ví dụ về ảo giác AI
- Trích dẫn bịa đặt: tài liệu tham khảo có tên tác giả, tạp chí và DOI nghe như thật nhưng không dẫn đến đâu, vấn đề phổ biến nhất trong công việc học thuật.
- Vụ án pháp lý giả: năm 2023, các luật sư trong vụ án Mata v. Avianca tại Mỹ đã bị xử phạt sau khi nộp một bản lập luận trích dẫn các phán quyết của tòa án do ChatGPT bịa ra.
- Dữ kiện sai trong buổi trình diễn sản phẩm: vào tháng 2 năm 2023, Bard của Google đã khẳng định trong một buổi trình diễn ra mắt rằng Kính viễn vọng Không gian James Webb đã chụp những bức ảnh đầu tiên về một hành tinh bên ngoài hệ Mặt Trời của chúng ta, điều không đúng sự thật.
- Trích dẫn nguyên văn bị sai lệch hoặc gán nhầm người nói, và số liệu thống kê không có nguồn.
Cách tránh bị dẫn dắt sai
- Đừng bao giờ trích dẫn một nguồn bạn chưa mở ra: hãy tra cứu mọi nhan đề hoặc DOI mà công cụ đưa cho bạn.
- Yêu cầu nguồn, rồi kiểm tra xem mỗi nguồn có thực sự nói điều công cụ khẳng định hay không.
- Ưu tiên các công cụ trả lời từ tài liệu bạn cung cấp hoặc từ tìm kiếm trực tiếp, và cho thấy mỗi nhận định đến từ đâu.
- Viết câu lệnh theo kỹ thuật viết câu lệnh (prompt engineering) sao cho “không chắc” là một câu trả lời được chấp nhận, và coi những con số, ngày tháng chính xác là chỗ dễ sai nhất.
Điểm mấu chốt
Công cụ AI có thể giúp viết nháp và tìm từ ngữ, nhưng việc kiểm tra dữ kiện và nguồn vẫn là trách nhiệm của người viết. Các trường đại học coi một tài liệu tham khảo bịa đặt là vấn đề liêm chính, bất kể ai, hay cái gì, đã tạo ra nó.
Trường hợp sử dụng: Tìm nguồn cho mọi nhận định ngay khi viết