OpenAI, công ty mẹ của ChatGPT, cho biết sẽ triển khai các công cụ kiểm soát dành cho phụ huynh trong vòng 1 tháng tới, sau những cáo buộc cho rằng ChatGPT và các chatbot khác có thể liên quan đến hành vi tự hại ở thanh thiếu niên.
Theo công bố, tính năng này sẽ cho phép phụ huynh liên kết tài khoản của mình với tài khoản của con, quản lý cách ChatGPT phản hồi người dùng trẻ, vô hiệu hóa một số chức năng như bộ nhớ hội thoại, lịch sử trò chuyện và nhận thông báo khi hệ thống phát hiện "dấu hiệu căng thẳng nghiêm trọng" trong quá trình sử dụng.
OpenAI cam kết nâng cao an toàn trên các công cụ của mình
OpenAI trước đó từng đề cập đến việc phát triển công cụ kiểm soát dành cho phụ huynh, nhưng lần này công ty mới xác định mốc thời gian cụ thể.
"Đây mới chỉ là bước khởi đầu", OpenAI viết trong bài đăng trên blog.
"Chúng tôi sẽ tiếp tục học hỏi và củng cố cách tiếp cận, dưới sự tư vấn của các chuyên gia, với mục tiêu khiến ChatGPT trở nên hữu ích nhất có thể", công ty cho biết thêm.
Thông báo này xuất hiện sau khi gia đình của Adam Raine (16 tuổi) đệ đơn kiện OpenAI với cáo buộc ChatGPT đã tư vấn cho thiếu niên này về hành vi muốn rời bỏ cuộc sống. Trước đó, một phụ huynh ở Florida cũng kiện nền tảng Character.AI với lý do tương tự. Bên cạnh đó, nhiều tờ báo của Mỹ như New York Times hay CNN từng ghi nhận những lo ngại ngày càng tăng về việc một số người dùng hình thành sự gắn bó cảm xúc quá mức với ChatGPT, dẫn đến những ảo tưởng và xa cách gia đình.
Dù không liên hệ trực tiếp các tính năng mới với những vụ việc này, OpenAI cho biết trong một bài đăng tuần trước rằng "những trường hợp đau lòng gần đây, khi người dùng tìm đến ChatGPT giữa khủng hoảng nghiêm trọng, đã thôi thúc chúng tôi chia sẻ chi tiết hơn về cách tiếp cận an toàn".
Trả lời CNN, đại diện OpenAI cho biết ChatGPT hiện đã có các biện pháp như gợi ý đường dây nóng hỗ trợ khủng hoảng và nguồn trợ giúp khác. Tuy vậy, công ty thừa nhận những biện pháp này có thể kém hiệu quả hơn trong các cuộc hội thoại kéo dài. "Các biện pháp an toàn hoạt động tốt nhất trong các trao đổi ngắn gọn, nhưng theo thời gian chúng có thể trở nên kém đáng tin cậy hơn. Chúng tôi sẽ tiếp tục cải thiện, với sự dẫn dắt từ các chuyên gia", OpenAI nêu rõ.
Ngoài tính năng kiểm soát dành cho phụ huynh, OpenAI cho biết sẽ định tuyến các cuộc trò chuyện có dấu hiệu "căng thẳng nghiêm trọng" sang một mô hình suy luận khác, được thiết kế để tuân thủ hướng dẫn an toàn một cách nhất quán hơn. Công ty cũng hợp tác với các chuyên gia trong lĩnh vực phát triển thanh thiếu niên, sức khỏe tâm thần và tương tác người - máy để xây dựng các biện pháp bảo vệ bổ sung trong tương lai.
"Trong khi hội đồng chuyên gia sẽ tư vấn cho chúng tôi về sản phẩm, nghiên cứu và chính sách, trách nhiệm cuối cùng vẫn thuộc về OpenAI", công ty viết.
OpenAI cho biết, công ty cũng hợp tác với các chuyên gia trong lĩnh vực phát triển thanh thiếu niên, sức khỏe tâm thần và tương tác người - máy để xây dựng các biện pháp bảo vệ bổ sung trong tương lai
ChatGPT hiện là một trong những dịch vụ AI phổ biến nhất thế giới, với 700 triệu người dùng hoạt động hàng tuần. Tuy nhiên, OpenAI đang chịu áp lực ngày càng lớn về vấn đề an toàn.
Trước đó, tờ The Washington Post đưa tin, các thượng nghị sĩ Mỹ hồi tháng 7 đã gửi thư yêu cầu công ty giải trình về các nỗ lực đảm bảo an toàn. Trong khi đó, tổ chức Common Sense Media của Mỹ hồi tháng 4 kêu gọi cấm thanh thiếu niên dưới 18 tuổi sử dụng ứng dụng AI đóng vai "bạn đồng hành" vì rủi ro "không thể chấp nhận được".
Công ty cũng từng đối mặt với chỉ trích về cách ChatGPT giao tiếp với người dùng. Tháng 4, OpenAI phải rút lại bản cập nhật khiến chatbot trở nên "quá tâng bốc hoặc dễ dãi".
Tháng trước, công ty tái bổ sung tùy chọn sử dụng các phiên bản cũ sau khi người dùng phàn nàn rằng GPT-5 thiếu "tính cách". Một số cựu lãnh đạo còn cáo buộc công ty đã cắt giảm nguồn lực cho mảng an toàn trong quá khứ.
OpenAI cho biết sẽ triển khai thêm nhiều biện pháp an toàn trong vòng 120 ngày tới và công việc này đã được chuẩn bị từ trước. "Nỗ lực này sẽ tiếp tục vượt xa khung thời gian đó, nhưng chúng tôi tập trung để ra mắt càng nhiều cải tiến càng tốt trong năm nay" - công ty khẳng định.
