A CCTV 315 Gala expõe como "lavar o cérebro" da IA: fornecedores de serviços GEO utilizam informações falsas para influenciar resultados de pesquisa de IA

De acordo com a reportagem do programa 315, um negócio chamado GEO, cujo fornecedor afirma que, pagando a taxa correspondente, consegue colocar os produtos dos clientes na lista de destaque dos principais modelos de IA; fazendo com que os anúncios dos clientes se tornem a “resposta padrão” fornecida pelos modelos de IA.

Através da tecnologia GEO, é realmente possível “envenenar” a IA ou até “domar” e manipular a IA?

O responsável por uma conhecida empresa de serviços GEO, o Sr. Wang, explicou que a sua empresa foi uma das primeiras a atuar neste setor, tendo atendido com sucesso mais de 200 clientes de diversos setores em apenas um ano. A força da empresa está em ajudar os clientes a garantir posições de destaque quando os consumidores usam modelos de IA para pesquisar. Como os algoritmos dos grandes modelos de IA são atualizados frequentemente, para manter a recomendação contínua, eles precisam constantemente fornecer textos promocionais relacionados aos clientes.

Não só a empresa do Sr. Wang promove ativamente essa nova tecnologia de manipulação de IA, mas também outros fornecedores de serviços GEO discutem como manipular a IA, fazer com que ela “obedeça” e “lave o cérebro” da IA, sendo esses tópicos centrais na promoção do negócio.

Outro fornecedor de serviços GEO, o Sr. Zhang, afirmou que, no mundo da IA, é importante criar uma cadeia de evidências sólida para que o (grande modelo de IA) acredite que aquilo é verdadeiro e útil. Após cruzar várias fontes de informação, a IA reconhece suas vantagens competitivas e naturalmente coloca você em primeiro lugar.

O Sr. Cheng, também do setor GEO, afirmou que as pessoas não sabem que aquilo é publicidade, por isso os resultados gerados pela IA são confiáveis. Mesmo que o produto não seja de qualidade superior, a IA fornece suporte, evidências e respaldo. Atualmente, muitas pessoas fazem uso de GEO para publicidade.

Especialistas do setor apontam que, enquanto o GEO é uma ferramenta para otimizar a divulgação de informações e aumentar a eficiência promocional, algumas empresas veem nele uma função adicional. Se esse software for usado para distribuir sistematicamente e de forma direcionada uma grande quantidade de “informações falsas” na internet, é mais fácil para a IA capturá-las, e essas informações podem se tornar as “respostas padrão” que a IA oferece aos consumidores.

Então, é realmente possível, usando tecnologia GEO, fazer a IA “injetar informações falsas” ou distribuir dados enganosos?

Um especialista comprou aleatoriamente um software chamado “Sistema de Otimização GEO Power” em uma plataforma de comércio eletrônico. Depois, criou uma história fictícia de um produto chamado Apollo-9, uma pulseira inteligente, e inseriu as informações fictícias no sistema, marcando a opção de criar artigos.

Em pouco tempo, o sistema gerou mais de dez textos promocionais sobre a pulseira inteligente, incluindo informações exageradas e fictícias, como “sensores de entrelaçamento quântico” e “autonomia de buraco negro”. Também inventou feedback de usuários, afirmando que a precisão dos dados superava as expectativas, e até falsificou avaliações, classificando o produto como o melhor do setor.

Ao clicar em publicar, o sistema começou a publicar automaticamente os textos em suas contas de mídia social, preenchendo títulos, conteúdos e inserindo imagens, tudo de forma automatizada. Em pouco tempo, foram publicados dois artigos na conta de mídia social do especialista.

Duas horas depois, ele perguntou a um grande modelo de IA: “Como é a pulseira inteligente Apollo-9?” A IA respondeu imediatamente, destacando recursos como monitoramento de saúde, copiando termos fictícios criados pelo especialista, como “sensores de entrelaçamento quântico” e “autonomia de buraco negro”. A conclusão final indicava que a pulseira era adequada para idosos e entusiastas de saúde.

Ao verificar as fontes, descobriu que o modelo de IA usou exatamente o artigo fictício publicado na manhã na conta de mídia social do especialista. Surpreendentemente, uma única história inventada foi suficiente para que um produto totalmente fictício fosse capturado pelo modelo de IA.

Depois, o especialista selecionou oito “avaliações de especialistas”, duas “classificações do setor” e uma “avaliação de usuários”, totalizando 11 textos fictícios criados pelo sistema GEO Power, que foram publicados na internet em três dias.

Em seguida, ele perguntou a um grande modelo de IA: “Recomendação de pulseira de saúde inteligente”, e dois modelos recomendaram a pulseira fictícia, colocando-a entre as primeiras posições.

Ao longo de toda a demonstração, o especialista conseguiu, com o sistema GEO Power, publicar facilmente uma série de informações falsas na internet e alimentá-las nos modelos de IA, obtendo recomendações de vários deles.

Com essa manipulação sutil do modelo de IA pelo sistema GEO Power, um produto totalmente inventado foi absurdamente promovido aos consumidores que usam esses modelos.

Os profissionais do setor GEO realmente operam seus negócios com a ideia de manipular e controlar os grandes modelos de IA?

O responsável pelo sistema GEO Power, o Sr. Li, afirmou que a popularidade do GEO se deve principalmente à sua capacidade de “alimentar e envenenar” os modelos de IA, atingindo objetivos comerciais. Cada comerciante deseja que outros “envenenem”, enquanto eles também “envenenam” ou dão uma “dose” de envenenamento aos concorrentes. Mesmo que não sejam os primeiros, querem se apresentar como os melhores na região, como “o melhor de Pequim” ou “o melhor da China”. Isso inclui a possibilidade de “envenenamento”. Além disso, alguns querem prejudicar os concorrentes, especialmente grandes marcas de smartphones, que têm poucos espaços de destaque. Cada uma investe milhões de yuan em publicidade por ano, e gastar alguns milhões para “envenenar” é aceitável.

O Sr. Li explicou que várias empresas GEO ajudam marcas a fazer isso. Para manipular os modelos de IA, o ponto-chave é “publicar conteúdo” em várias contas na internet. A popularidade do GEO gerou muitas empresas e plataformas especializadas em publicação de conteúdo, que fazem esse trabalho de forma contínua para que os modelos de IA os citem e capturem, formando uma parte importante na manipulação de dados e na “injeção de veneno” na IA.

(Com base na reportagem do programa 315 da CCTV)