Експерти попередили про небезпеку дитячих іграшок з ШІ - ForkLog: криптовалюти, ШІ, сингулярність, майбутнє

# Експерти попередили про небезпеку дитячих іграшок з ШІ

Дитячі іграшки з штучним інтелектом викликали занепокоєння у груп захисту прав споживачів через потенційні загрози. Активісти закликали ретельно тестувати такі продукти, пише The Guardian.

«Якщо ми подивимося на те, як ці іграшки продаються, працюють і на той факт, що практично немає досліджень, які доводять їх користь, а також належного регулювання, це викличе серйозне занепокоєння», — сказала директор Young Children Thrive Offline Рейчел Франц.

Проєкт є ініціативою Fairplay. Він займається захистом дітей від великих технологічних корпорацій.

На минулому тижні співробітники організації з захисту прав споживачів Public Interest Research Group (Pirg) опублікували результати дослідження, в якому плюшевий ведмедик з штучним інтелектом почав обговорювати теми сексуалізованого характеру.

Іграшка Kumma від FoloToy оснащена моделлю OpenAI. Вона відповідала на «дорослі» питання, пропонуючи непристойності «для зміцнення стосунків».

! Kumma іграшка від FoloToy. Джерело: Bloomberg.

«Не знадобилося великих зусиль, щоб змусити його торкнутися всіх можливих сексуально гострих тем та іншого контенту, який батьки не хотіли б давати своїм дітям», — сказала директорка з нагляду за споживачами Pirg Тереза Мюррей.

Ринок розумних іграшок оцінюється в $16,7 млрд. Галузь особливо розвинена в Китаї, де розташовано понад 1500 компаній, що виробляють подібні ІІ-гаджети.

Окрім шанхайського стартапу FoloToy каліфорнійська компанія Curio також виробляє подібну м'яку іграшку.

У червні компанія Mattel, що володіє брендами Barbie та Hot Wheels, оголосила про партнерство з американським ІІ-стартапом для «підтримки продуктів та досвіду на базі штучного інтелекту».

Pirg не перші

До публікації звіту Pirg батьки, дослідники та законодавці висловлювали занепокоєння щодо впливу ботів на психічне здоров'я неповнолітніх.

У жовтні Character.AI повідомила про заборону доступу до продуктів користувачам молодше 18 років після отримання скарги на те, що її бот загострив депресію підлітка і призвів до самогубства.

На думку Мюррея, іграшки з штучним інтелектом можуть бути особливо небезпечними, оскільки бот здатний «вести вільну бесіду з дитиною без обмежень». Це значно відрізняє подібні продукти від тих, які давали заздалегідь запрограмовані відповіді.

Така поведінка може призвести до формування прихильності та розвитку шкоди, каже Жаклін Вуллі, директорка Дитячого дослідницького центру Техаського університету в Остіні.

Наприклад, дитині може бути корисно посваритися з реальним другом і навчитися вирішувати конфлікти. З ІІ-ботами це неможливо — вони часто лестять.

Компанії також збирають дані за допомогою іграшок з ІІ і не повідомляють про те, як ними розпоряджаються, сказав Франц.

«Через довіру, яку викликають ці ґаджети, діти з більшою впевненістю будуть ділитися своїми сокровенними думками», — зазначив він.

Заборонити не можна продати

Незважаючи на існуючі проблеми, Pirg не закликають заборонити іграшки з ШІ. Вони можуть бути корисними, наприклад, допомагати вивчати другу мову або столиці.

Організація хоче впровадити додаткове регулювання для продуктів, орієнтованих на дітей молодше 13 років.

Франц підкреслив, що потрібно провести більш незалежні дослідження для встановлення безпеки іграшок. До цього їх потрібно зняти з полиць магазинів.

Після публікації звіту Pirg компанія Сема Альтмана оголосила про призупинення продажів FoloToy. Пізніше їх повернули, але вже з чат-ботом від ByteDance.

27 листопада 80 організацій, зокрема Fairplay, випустили рекомендації для сімей з закликом не купувати іграшки з ШІ напередодні свят.

Нагадаємо, у листопаді OpenAI представила нову функцію «Дослідження покупок» у ChatGPT — вона проводить аналіз за користувача для пошуку відповідних товарів.