Anthropic Atualiza Políticas para Combater Fontes Manipuladoras e Desinformação em Respostas de IA
A Anthropic revisa suas diretrizes de uso para enfrentar a desinformação e priorizar a qualidade da informação nas interações com o Claude.
A Anthropic, desenvolvedora do modelo de IA Claude, anunciou uma atualização significativa em suas políticas de uso, visando coibir a manipulação de respostas geradas por inteligência artificial. As novas regras agora consideram como prática de alto risco o ato de 'semear' fontes de pesquisa e respostas de IA com conteúdo enganoso ou intencionalmente deturpado.
Essa mudança reflete uma crescente preocupação no cenário da IA com a integridade da informação. Ao mirar especificamente em conteúdos criados para influenciar as saídas dos modelos de linguagem, a Anthropic busca garantir que o Claude forneça dados mais confiáveis e imparciais. Curiosamente, a publicação automatizada, antes na lista de alto risco, foi rebaixada, indicando uma reavaliação das ameaças mais prementes à qualidade do conteúdo gerado.
Para o portal GEO Feater, essa postura proativa da Anthropic estabelece um novo patamar para a governança de IA, enfatizando a responsabilidade dos desenvolvedores em mitigar a desinformação. O alinhamento com a curadoria de informações é crucial para a credibilidade dos modelos de IA e para a confiança do público em suas interações. A medida pode estimular outros players do mercado a fortalecer suas defesas contra a 'infodemia' impulsionada por agentes mal-intencionados.
*Fonte original: Search Engine Journal via @sejournal, @MattGSouthern*
---
Fonte original: Search Engine Journal