Исследование проблем обнаженности через генеративный ИИ

Растущее использование услуг обнаженности с помощью ИИ

Использование инструментов искусственного интеллекта (ИИ) для генерации изображений наготы значительно увеличилось, согласно недавнему исследованию. Эти технологии позволяют "раздевать" людей цифровым образом на основе одетых фотографий, без их согласия.

Значительное увеличение упоминаний в интернете

Анализ социальных сетей показал впечатляющий рост упоминаний этих услуг. Количество постов и комментариев, связанных с этими инструментами, увеличилось с 1 280 в 2022 году до более чем 32 100 в 2023 году, что составляет рост на 2 408%.

Доступные и недорогие инструменты ИИ

Эти новые технологии ИИ значительно упрощают и делают более доступным создание откровенных изображений в больших масштабах. Без этих инструментов пользователям пришлось бы самостоятельно управлять сложными моделями, что было бы долго и дорого.

Значительные риски для общества

Рост использования этих инструментов ИИ вызывает серьезные опасения. Это может привести к увеличению целенаправленного преследования, сексуального шантажа и даже к производству контента с жестоким обращением с несовершеннолетними. Распространение поддельного откровенного контента также вызывает беспокойство.

За пределами изображений: видео-диипфейки

Хотя эти инструменты в основном сосредоточены на фотографиях, ИИ также используется для создания видеодипфейков, в том числе с участием знаменитостей. Такие личности, как М. Бист и Том Хэнкс, уже стали объектом атаки.

Предупреждение властей о содержании, содержащем злоупотребления

Интернет-надзорный орган сообщил о том, что за всего лишь месяц на форуме темного веба было обнаружено более 20 000 изображений сексуального насилия над детьми, созданных с помощью ИИ. Он предупреждает о риске того, что подобный контент "затопит" интернет.

Растущая сложность обнаружения подделок

Прогресс генеративного ИИ делает все более сложным различение между реальными явными изображениями и созданными искусственным образом. Это создает серьезные проблемы для модерации онлайн-контента.

К регулированию ИИ в Европе

В ответ на эти вызовы Европейский Союз недавно достиг соглашения о новых правилах, регулирующих использование ИИ. Эта регуляция направлена на ограничение рисков, одновременно позволяя инновациям в этой быстро развивающейся области.