OpenAI amplia salvaguardas contra violência no ChatGPT e formaliza relatórios de segurança

A OpenAI implementou uma atualização estratégica em seus protocolos de segurança no ChatGPT, introduzindo salvaguardas voltadas à mitigação de riscos de violência e à proteção de adolescentes. A abordagem prioriza intervenções precoces no fluxo de conversação, impedindo a progressão de interações potencialmente danosas antes que violem termos de uso.

O movimento responde à crescente cobrança global de reguladores sobre a responsabilidade das desenvolvedoras de IA generativa no bem-estar de menores. Ao assumir o compromisso de divulgar relatórios públicos e regulares de segurança comunitária, a organização busca mitigar assimetrias de transparência e estabelecer novos parâmetros de governança técnica para o ecossistema de modelos de linguagem.

Essa transição de uma moderação puramente reativa para mecanismos preventivos e auditáveis reflete o amadurecimento institucional das big techs de inteligência artificial diante do escrutínio público internacional. Fonte: OpenAI Blog.

---

Fonte original: OpenAI Blog