CEO da Anthropic pede moderação no avanço de IAs

Factual · Plantão Xaplin · checado em 2 fontes independentes

Dario Amodei, cofundador e CEO da Anthropic, pediu às empresas de inteligência artificial que moderassem o ritmo de avanço de seus modelos. Amodei apresentou um artigo neste sábado (12), em suas redes sociais, com uma estrutura de três etapas para desacelerar o desenvolvimento e dar mais tempo para lidar com os riscos da tecnologia.

A proposta surge após a divulgação de um relatório sobre ameaças, na última quinta-feira (10), detalhando o uso indevido de modelos de IA Claude em atividades como desenvolvimento de armas, operações cibernéticas, vigilância e fraude. A preocupação com os danos potenciais da IA aumentou também depois da demissão do pesquisador Jacob Coxon da própria Anthropic.

“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA”, afirmou Amodei no artigo, acrescentando que “o progresso continuará parecendo rápido, e precisamos fazer bom uso do tempo que ganharmos”. Ele sugeriu instalar revisores externos nas empresas criadoras de IA e criar padrões voluntários, sem, contudo, defender a interrupção do treinamento de modelos ou do progresso tecnológico.

Amodei, que foi vice-presidente de pesquisa da OpenAI, enfatizou a necessidade de as empresas reservarem tempo para alinhar e proteger seus modelos, com verificações de avaliadores independentes. Incidentes de segurança recentes envolvendo a concorrente OpenAI sublinham a urgência do debate.

Fontes: g1 · UOL