Trong thời đại thông tin, người muốn kiếm thông tin sẽ tìm đến Google như một bản năng, bất kể đó là nhu cầu tham khảo dữ liệu cần cho cuộc sống hay thỏa mãn trí tò mò về tin tức nổi bật trong ngày.
Nhưng thời gian gần đây, thứ đầu tiên đập vào mắt người dùng không còn là những đường link truyền thống, mà là những đoạn văn bản do AI tự động sinh ra. Và đôi khi, chúng chứa thông tin sai lệch.
Trường hợp mới nhất, tính năng AI Overview của Google đã đưa ra một sai lầm nghiệm trọng trong vụ tai nạn máy bay thảm khốc tại Ấn Độ. Tính năng AI này đã tuyên bố chiếc phi cơ gặp nạn là Airbus A330, trong khi thực tế, đó là một chiếc Boeing 787.
Mảnh vỡ của chiếc máy bay gặp nạn tại hiện trường ở thành phố Ahmedabad, bang Gujarat, Ấn Độ - Ảnh: AP.
Sự cố này lập tức phơi bày những giới hạn của một cỗ máy tưởng như siêu phàm. Trong bối cảnh nhạy cảm, khi hơn 200 sinh mạng đã ra đi, việc nhầm lẫn thương hiệu máy bay không chỉ là lỗi kỹ thuật, mà còn tiềm ẩn nhiều nguy cơ khác.
Khó có thể khẳng định sai lầm tới từ đâu. Một trong những giả thuyết hợp lý nhất là trong nhiều bài viết về vụ rơi máy bay, Airbus thường được nhắc đến như đối thủ chính của Boeing. AI Overview chỉ đơn giản là tóm tắt các bài viết đó, và do thiếu khả năng phân biệt đúng sai, nó đã mắc sai lầm nghiêm trọng.
Tính năng AI Overview phạm sai lầm - Ảnh chụp màn hình.
Google nói với ArsTechnica rằng họ đã gỡ bỏ thủ công phản hồi sai này khỏi AI Overview. Đây là toàn văn phản hồi của Google:
"Cũng như với tất cả các tính năng tìm kiếm khác, chúng tôi liên tục cải tiến và sử dụng các ví dụ như thế này để cập nhật hệ thống. Phản hồi đó hiện không còn hiển thị nữa. Chúng tôi duy trì tiêu chuẩn chất lượng cao cho tất cả các tính năng tìm kiếm, và tỷ lệ chính xác của AI Overview ngang bằng với các tính năng khác như Featured Snippets".
