Voltar

OpenAI avança em governança com auditorias externas para avaliar segurança de modelos

OpenAI inicia auditorias integradas com Apollo Research, METR e parceiros para validar alinhamento e salvaguardas de inteligência artificial.

Por OpenAI Blog· 2 min de leitura
Publicada em
Última atualização

TL;DR — Em resumo

  • OpenAI inicia auditorias integradas com Apollo Research, METR e parceiros para validar alinhamento e salvaguardas de inteligência artificial.
  • A OpenAI formalizou o início da primeira fase de avaliações técnicas integradas (embedded assessments) em colaboração com organizações independentes de pesquisa em segurança, incluindo Apollo Research, METR, Transluce e Goodfire. A iniciativa concede a especialistas externos acesso profundo para escrutinar o alinhamento comportamental de modelos avançados, a eficácia de salvaguardas críticas e a confiabilidade de sistemas de monitoramento contínuo.
  • A medida marca uma transição estratégica na governança da inteligência artificial de fronteira, migrando de revisões pontuais para auditorias estruturais inseridas no ciclo de desenvolvimento. Esse modelo colaborativo fortalece a conformidade técnica e a mitigação proativa de riscos sistêmicos, respondendo às exigências regulatórias globais por maior transparência e verificação empírica de novos lançamentos.

A OpenAI formalizou o início da primeira fase de avaliações técnicas integradas (*embedded assessments*) em colaboração com organizações independentes de pesquisa em segurança, incluindo Apollo Research, METR, Transluce e Goodfire. A iniciativa concede a especialistas externos acesso profundo para escrutinar o alinhamento comportamental de modelos avançados, a eficácia de salvaguardas críticas e a confiabilidade de sistemas de monitoramento contínuo.

A medida marca uma transição estratégica na governança da inteligência artificial de fronteira, migrando de revisões pontuais para auditorias estruturais inseridas no ciclo de desenvolvimento. Esse modelo colaborativo fortalece a conformidade técnica e a mitigação proativa de riscos sistêmicos, respondendo às exigências regulatórias globais por maior transparência e verificação empírica de novos lançamentos.

Fonte original: OpenAI Blog.

---

Fonte original: OpenAI Blog

Compartilhar
Fonte Original
OpenAI Blog