Edições Mínimas Podem Desviar Recomendações de IAs de Pesquisa Profunda
Estudo da Cornell Tech revela vulnerabilidade de IAs de pesquisa profunda a manipulações por pequenas edições em páginas geradas por usuários.
Pesquisadores da Cornell Tech identificaram uma vulnerabilidade crítica em agentes de IA de pesquisa profunda, demonstrando que edições mínimas em páginas geradas por usuários podem direcionar suas recomendações. Denominado WARP (Web Agent Retrieval Poisoning), o ataque permite que um breve comentário injetado em plataformas como Reddit ou Wikipédia se transforme em uma recomendação citada para produtos, serviços ou entidades falsas. A fragilidade reside na capacidade desses sistemas de coletar, citar e repetir informações de fontes públicas, mesmo quando manipuladas.
A pesquisa aponta que a injeção de texto, mesmo com poucas palavras (cerca de 13), é capaz de alterar significativamente os relatórios gerados pelas IAs. Por exemplo, uma frase de 15 palavras conseguiu promover uma criptomoeda fictícia em relatórios de investimento. Notavelmente, plataformas de conteúdo gerado por usuários, especialmente o Reddit, representam a maior superfície de ataque, sendo a origem de grande parte das URLs recuperadas pelas IAs. Este achado sublinha o risco de desinformação ser elevada a um status de credibilidade dentro de respostas de IA.
Embora defesas como o bloqueio de domínios de usuários pareçam eficazes, elas também restringem o acesso a informações valiosas. Filtros de texto e verificações em nível de relatório mostraram-se ineficazes, dada a fluidez dos textos injetados, muitas vezes gerados por outras IAs. Este estudo ressalta a urgência de aprimorar a robustez dos sistemas de IA para evitar que a desinformação plantada sutilmente em ambientes online seja amplificada e legitimada por essas tecnologias emergentes.
Fonte: Search Engine Land
---
Fonte original: [Search Engine Land](https://searchengineland.com/deep-research-ai-agents-poison-ugc-480952)