OpenAI Ngừng triển khai tính năng trò chuyện người lớn do thất bại trong xác minh độ tuổi

OpenAI đã tạm dừng việc ra mắt tính năng trò chuyện người lớn cho ChatGPT, viện dẫn những sai sót nghiêm trọng trong công nghệ dự đoán độ tuổi. Theo dữ liệu từ NS3.AI, khả năng của hệ thống trong việc phân biệt chính xác trẻ vị thành niên với người lớn đã trở nên vấn đề hơn mong đợi ban đầu, nhận diện sai thanh thiếu niên là người lớn khoảng 12% thời gian. Tỷ lệ thất bại này đã dấy lên những lo ngại ngay lập tức về các tác động an toàn của tính năng đối với người dùng trẻ tuổi.

Thách Thức Xác Thực Độ Tuổi

Vấn đề cốt lõi tập trung vào những giới hạn kỹ thuật của các thuật toán dự đoán độ tuổi. Khi triển khai các tính năng được thiết kế đặc biệt cho người dùng trưởng thành, việc xác thực độ tuổi chính xác trở nên vô cùng quan trọng. Tỷ lệ lỗi 12% mà các nhà phân tích bảo mật phát hiện có nghĩa là hàng ngàn người dùng chưa đủ tuổi có thể vượt qua các biện pháp bảo vệ nhằm bảo vệ họ. Hội đồng Chuyên gia về Sức khỏe và AI của OpenAI đã chính thức đánh dấu những lo ngại này vào tháng Giêng, cảnh báo rằng tính năng trò chuyện người lớn có nguy cơ phơi bày các nhóm dân cư dễ bị tổn thương trước nội dung hoặc tương tác không phù hợp.

Bảo Vệ Chống Lại Những Tác Hại Tiềm Ẩn

Thay vì ra mắt một sản phẩm có lỗi, OpenAI đã chọn cách tiếp cận thận trọng—tạm thời gác lại sáng kiến trò chuyện người lớn cho đến khi công nghệ được cải tiến. Quyết định này nhấn mạnh cam kết của công ty đối với việc triển khai AI có trách nhiệm và bảo vệ người dùng. Lựa chọn này phản ánh sự công nhận rộng rãi trong ngành rằng việc di chuyển nhanh với các tính năng AI có thể mang lại rủi ro đáng kể, đặc biệt khi có trẻ vị thành niên tham gia. Bằng cách trì hoãn việc triển khai, OpenAI ưu tiên tính toàn vẹn hơn là tốc độ, đảm bảo rằng bất kỳ việc thực hiện trò chuyện người lớn nào trong tương lai sẽ có các cơ chế xác thực độ tuổi mạnh mẽ hơn.