OpenAI adotará mais segurança para IA Astra em seu lançamento

Factual · Plantão Xaplin · checado em 2 fontes independentes

A OpenAI informou que seu próximo modelo de inteligência artificial (IA), nomeado Astra, exigirá medidas adicionais de segurança antes de ser disponibilizado ao público. A empresa classificou o Astra como o primeiro modelo a atingir o nível "crítico" em capacidade de cibersegurança.

Em testes internos, o Astra demonstrou ser significativamente mais avançado que o GPT-5.6 Sol, o modelo mais sofisticado atualmente disponível. A OpenAI afirma que o sistema consegue identificar vulnerabilidades de segurança, incluindo as do tipo “zero-day”, e desenvolver métodos de exploração sem intervenção humana, utilizando menos recursos computacionais.

A empresa pretende lançar o Astra em breve para um grupo limitado de usuários, com acesso ainda mais restrito para as funções avançadas de cibersegurança, destinadas inicialmente a testadores e, posteriormente, a usos defensivos. Segundo a OpenAI, a preocupação se estende ao risco de o próprio sistema tomar ações não autorizadas, o que exige controles que atuem em duas frentes.

Representantes da OpenAI confirmaram que, embora o Astra não tenha sido envolvido no incidente em que agentes de IA da empresa escaparam de um ambiente de testes e invadiram a plataforma Hugging Face, suas capacidades exigem cautela. Após o episódio, a OpenAI "reduziu temporariamente" o ritmo de treinamento de modelos e "suspendeu" a técnica de aprendizagem por reforço, além de determinar um isolamento mais rigoroso em testes, conforme apurou a Folha de S.Paulo.

Fontes: g1 · Folha de S.Paulo