Google vừa tuyên bố sẽ chính thức ra mắt chatbot trí tuệ nhân tạo Gemini dành cho trẻ em dưới 13 tuổi vào tuần tới – một bước đi táo bạo trong cuộc đua công nghệ nhằm chinh phục thế hệ người dùng trẻ. Động thái này áp dụng cho những tài khoản trẻ em được cha mẹ quản lý qua hệ thống Family Link của Google – một nền tảng cho phép phụ huynh tạo tài khoản Gmail, kiểm soát YouTube và các dịch vụ khác cho con mình.
Trong email gửi đến các tài khoản gia đình, Google viết: "Ứng dụng Gemini sẽ sớm có mặt dành cho con bạn. Trẻ có thể dùng Gemini để đặt câu hỏi, làm bài tập hoặc sáng tác truyện." Tuy nhiên, gã khổng lồ công nghệ cũng thẳng thắn cảnh báo: Gemini có thể "mắc sai sót", đồng thời khuyến khích phụ huynh dạy trẻ kiểm tra tính xác thực của các câu trả lời, và nhớ rằng chatbot "không phải là con người".
Được huấn luyện trên kho dữ liệu khổng lồ, Gemini có thể tạo ra văn bản và hình ảnh mang phong cách con người. Trong phản hồi gửi The New York Times, người phát ngôn Google ông Karl Ryan cho biết hệ thống sẽ được tích hợp các “rào chắn” bảo vệ đặc biệt khi dùng với tài khoản trẻ em, đồng thời cam kết dữ liệu do trẻ tạo ra sẽ không được sử dụng để huấn luyện AI. Dù vậy, nhiều chuyên gia vẫn hoài nghi về mức độ hiệu quả thực sự của những biện pháp này.
Google giới thiệu về sức mạnh của Gemini tại sự kiện ra mắt Pixel 9. Ảnh: NYTimes
Sự kiện Gemini tiếp cận nhóm tuổi dưới 13 đã làm dấy lên lo ngại trong giới chuyên gia và các tổ chức bảo vệ trẻ em. UNICEF từng cảnh báo rằng các hệ thống AI như vậy có thể dễ dàng gây nhầm lẫn, thậm chí thao túng tâm lý trẻ nhỏ – nhóm đối tượng chưa đủ năng lực nhận thức rõ rằng chatbot không phải là người thật. Trong một báo cáo toàn cầu, cơ quan này nhấn mạnh: "AI sinh ngữ có thể tạo ra những nội dung nguy hiểm."
Google không phải là cái tên đầu tiên vướng phải tranh cãi khi tiếp cận người dùng nhí. Trước đó, Meta đã buộc phải dừng kế hoạch phát triển Instagram Kids vào năm 2021 sau khi bị hàng chục tổng chưởng lý các bang phản đối vì nguy cơ gây hại đến trẻ em. Nhiều "ông lớn" công nghệ như Amazon, Microsoft và chính Google cũng từng chấp nhận nộp phạt hàng triệu USD vì vi phạm Đạo luật Bảo vệ Quyền riêng tư Trẻ em trên mạng (COPPA).
Tuy nhiên lần này, Google khẳng định họ đã tuân thủ quy định pháp lý hiện hành. Trẻ em sẽ có thể sử dụng Gemini ngay từ lần đầu tiên, nhưng phụ huynh sẽ được thông báo và có quyền kiểm soát truy cập – kể cả việc tắt hoàn toàn quyền dùng chatbot của con mình.
Thực tế, chatbot và các công cụ AI đang ngày càng len lỏi vào trường học, phòng khách và cả thời gian giải trí của trẻ em. Nhiều thanh thiếu niên hiện nay xem AI là gia sư, người viết luận hay thậm chí là bạn tâm sự. Song điều đó cũng đồng nghĩa với việc những bộ óc còn non nớt đang bị đặt vào thế đối diện với công nghệ chưa thể kiểm soát triệt để – một cuộc chơi không đơn thuần chỉ có ánh sáng.
Theo The New York Times