ジェネレーティブAIによるヌードの課題を探る

AIによるヌードサービスの利用増加

最近の研究によると、ヌード画像を生成するための人工知能 (IA)ツールの使用が急増している。この技術により、衣服を着た写真から許可なくデジタル的に人を「脱がせる」ことが可能になる。

オンラインでの言及の大幅な増加

ソーシャルメディアの分析により、これらのサービスに対する言及が劇的に増加していることが明らかになりました。これらのツールに関連する投稿やコメントの数は、2022年の1,280件から2023年には32,100件以上に増加し、2,408%の増加となっています。

手頃でアクセスしやすいAIツール

これらのAI技術は、明示的な画像の作成を大規模により簡単かつ手頃にしています。これらのツールがなければ、ユーザーは複雑なモデルを自分で管理しなければならず、それは時間がかかり、高額になります。

社会に対する重要なリスク

これらのAIツールの使用の増加は深刻な懸念を引き起こしています。これは、標的型ハラスメント、性的脅迫、さらには未成年者に対する虐待コンテンツの生成の増加を引き起こす可能性があります。偽の露骨なコンテンツの拡散も懸念されています。

画像を超えて：ディープフェイク動画

これらのツールは主に写真に焦点を当てていますが、AIはセレブのディープフェイク動画を作成するためにも使用されています。M. Beastやトム・ハンクスのような有名人がすでに標的にされています。

当局からの虐待コンテンツに関する警告

インターネット監視機関は、ダークウェブフォーラムでわずか1か月でAIが生成した20,000件以上の児童虐待画像を発見したと報告しています。このタイプのコンテンツがインターネットに「氾濫」するリスクに対して警告しています。

偽を検出することの難しさの増加

生成AIの進歩により、実際の露骨な画像と人工的に作成された画像の区別がますます難しくなっています。これはオンラインコンテンツのモデレーションに深刻な課題をもたらします。

欧州におけるAIの規制に向けて

これらの課題に直面して、欧州連合は最近、AIの使用を規制する新しいルールに関する合意に達しました。この規制は、リスクを制限しつつ、この急成長している分野での革新を可能にすることを目的としています。