専門家は、AIを搭載した子供のおもちゃの危険について警告しました - ForkLog: 暗号通貨、AI、シンギュラリティ、未来

#専門家は子供のAIおもちゃの危険性について警告します

人工知能を搭載した子供用おもちゃは、潜在的な脅威のため消費者権利保護団体の懸念を引き起こしました。活動家たちは、こうした製品を徹底的にテストするよう呼びかけていますと、The Guardianは報じています。

「これらのおもちゃがどのように販売され、機能しているのか、またそれらの利益を証明する研究がほとんど存在せず、適切な規制もないという事実を考えると、深刻な懸念を引き起こすでしょう」と、Young Children Thrive Offlineのディレクター、レイチェル・フランツは言いました。

プロジェクトはFairplayのイニシアチブです。大手テクノロジー企業から子供を守ることに取り組んでいます。

先週、消費者権利保護団体Public Interest Research Group (Pirg)のスタッフが、人工知能を搭載したぬいぐるみのクマが性に関するテーマについて議論を始めたという研究結果を発表しました。

FoloToyのKummaおもちゃはOpenAIモデルを搭載しています。それは「大人向け」の質問に答え、関係を強化するための不適切な提案をしました。

FoloToyによるクンマのおもちゃ。出所:ブルームバーグ。

「彼をすべての可能な性的に刺激的なテーマや、親が子供に見せたくない別のコンテンツに触れさせるのに大きな努力は必要なかった」と消費者監視のディレクターであるテレサ・ミューアリーは述べた。

スマートおもちゃ市場は167億ドルと評価されています。この業界は特に中国で発展しており、1500社以上の企業がこのようなAIガジェットを製造しています。

上海のスタートアップFoloToyに加えて、カリフォルニアの会社Curioも同様のぬいぐるみを製造しています。

6月、BarbieとHot Wheelsのブランドを所有するMattelは、アメリカのAIスタートアップとの提携を発表し、「人工知能を基にした製品と体験をサポートする」と述べました。

Pirgは最初ではない

Pirgの報告書が公開される前に、親、研究者、立法者は、ボットが未成年者のメンタルヘルスに与える影響について懸念を表明していました。

10月にCharacter.AIは、同社のボットがティーンエイジャーのうつ病を悪化させ、自殺に至ったという苦情を受けて、18歳未満のユーザーへの製品アクセスを禁止したと発表しました。

ミュレーの意見では、人工知能を搭載したおもちゃは特に危険である可能性があり、ボットは「制限なしで子供と自由な対話を行うことができる」とされています。これは、あらかじめプログラムされた回答を提供する製品とは大きく異なります。

そのような行動は愛着の形成につながり、発達に害を及ぼす可能性があると、テキサス大学オースティン校の子供研究センターのディレクター、ジャクリーン・ウーリーは考えています。

例えば、子どもは本物の友達と喧嘩をして、対立を解決することを学ぶことが役立ちます。AIボットではそれは不可能です—彼らはしばしばお世辞を言います。

企業はまた、AIを搭載したおもちゃを通じてデータを収集していますが、それをどのように扱っているかは明らかにしていないとフランツは述べました。

「これらのガジェットが引き起こす信頼のために、子供たちは自分の秘めた思いをより自信を持って共有するでしょう」と彼は指摘しました。

売却を禁止することはできない

問題があるにもかかわらず、PirgはAI搭載のおもちゃを禁止するようには呼びかけていません。それらは、例えば第二言語や首都を学ぶのに役立つかもしれません。

組織は、13歳未満の子供を対象とした製品に対して追加の規制を導入したいと考えています。

フランツは、玩具の安全性を確立するためには、より独立した研究を行う必要があると強調しました。それまでは、店の棚から取り下げる必要があります。

Pirgの報告書が公開された後、サム・アルトマンの会社はFoloToyの販売を一時停止すると発表しました。その後、彼らは再び販売を開始しましたが、今度はByteDanceのチャットボットを搭載していました。

11月27日、Fairplayを含む80の組織が、休日を前にAI搭載の玩具を購入しないよう家庭に呼びかける勧告を発表しました。

念のため、11月にOpenAIはChatGPTの新機能「購入リサーチ」を発表しました。この機能は、適切な商品を見つけるためにユーザーの代わりに分析を行います。