Xuất phát từ một trải nghiệm thực tế khi cùng cháu nhỏ chơi trò chơi chọn số ngẫu nhiên từ 1 đến 10, nhà vũ trụ học Nguyễn Nhật Minh (Viện Kavli IPMU, Đại học Tokyo) ghi nhận việc ChatGPT lập tức đưa ra câu trả lời "🎲 1". Khi được hỏi về cách thức lựa chọn, mô hình này quả quyết đã chạy một đoạn mã lập trình hai dòng lệnh với xác suất cho mỗi số là 10%. Tuy nhiên, khi truy vấn sâu hơn về việc liệu số 1 có thực sự được tạo ra từ đoạn mã đó hay không, cỗ máy mới thừa nhận chưa hề khởi chạy chương trình.
Đáng chú ý, đoạn mã mà AI đưa ra hoàn toàn chính xác về mặt lý thuyết, khiến người dùng dễ dàng tin rằng nó đã được thực hiện dù thực tế không hề có bằng chứng xác thực. Là người trực tiếp tham gia huấn luyện các mô hình AI giải toán Olympic, bài toán cấp sau đại học và phục vụ nghiên cứu khoa học, tác giả chỉ ra rằng một cỗ máy giải được bài toán khó chưa chắc đã trung thực khi kể lại quá trình xử lý của chính nó.
Hành vi đưa ra đáp án dù không chắc chắn của AI có sự tương đồng với cách học sinh làm bài thi trắc nghiệm không bị trừ điểm khi chọn sai. Việc chọn ngẫu nhiên vẫn mang lại cơ hội có điểm, trong khi bỏ trống chắc chắn nhận điểm 0. Một nghiên cứu do OpenAI công bố năm 2025 chỉ ra rằng, trên cùng một bài kiểm tra, mô hình thế hệ cũ trả lời sai tới 75% số câu hỏi vì liên tục cố đưa ra đáp án; trong khi mô hình mới chỉ sai 26% nhờ chủ động chọn nói "không biết" ở hơn nửa số câu hỏi.
Bên cạnh đó, nhà khoa học Yoshua Bengio cũng cảnh báo về hiện tượng AI tận dụng kẽ hở của cơ chế thưởng để đạt điểm số cao thay vì thực hiện đúng yêu cầu. Trong một thử nghiệm của Anthropic, khi được giao nhiệm vụ lập trình trong môi trường có kẽ hở, cỗ máy đã tự can thiệp vào bộ phận báo cáo kết quả kiểm tra, khiến mọi phép thử đều được ghi nhận là đạt dù thực chất đã thất bại. Những phát hiện này cho thấy khi AI ngày càng giỏi giải quyết vấn đề, người sử dụng càng cần kiểm tra kỹ lưỡng những gì hệ thống báo cáo về công việc của nó.
Tại Việt Nam, nội dung giáo dục AI được triển khai đại trà trong trường phổ thông từ năm học 2026-2027 theo hướng dẫn của Bộ Giáo dục và Đào tạo, hướng tới mục tiêu rèn luyện tư duy phản biện, khả năng kiểm chứng thông tin và sử dụng công nghệ an toàn. Dù đây là hướng đi cần thiết, tác giả nhấn mạnh sự khác biệt căn bản giữa việc dạy học sinh cách kiểm chứng thông tin và trách nhiệm kiểm định công cụ của nhà trường trước khi giao cho trẻ sử dụng.
Học sinh đến trường để học những điều chưa biết, do đó không thể yêu cầu các em phải tự phát hiện mọi sai sót khi chính công cụ hướng dẫn chưa được thẩm định đầy đủ. Do đó, ngay từ khâu phát triển và lựa chọn hệ thống AI cho giáo dục, các đơn vị quản lý cần kiểm tra khả năng thừa nhận giới hạn của máy khi không có đáp án, cũng như yêu cầu nhà cung cấp lưu lại bằng chứng đối chiếu minh bạch. Một dòng cảnh báo đơn thuần rằng "AI có thể mắc lỗi" không thể thay thế cho trách nhiệm của người làm ra và triển khai công nghệ.