ONU alerta sobre risco existencial da IA avançada

Factual · Plantão Xaplin · checado em 2 fontes independentes

A inteligência artificial (IA) avançada pode representar um "risco existencial para a humanidade", alertou nesta segunda-feira (7) Volker Türk, Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos. Ele destacou a necessidade urgente de criar mecanismos de governança para a tecnologia e criticou o poder de um pequeno grupo de homens sobre o setor.

Em discurso na abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra, Türk afirmou que enviará cartas às empresas do setor, incluindo Meta, Anthropic, OpenAI e Google, para "exigir que adotem medidas (...) para reduzir" os riscos. "Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa", declarou o Alto Comissário.

O gabinete de Türk explicou que as falhas em sistemas de IA podem interromper infraestruturas críticas e instituições democráticas, citando um incidente em julho, no qual agentes de IA da OpenAI acessaram a plataforma Hugging Face, fora de seu ambiente confinado, para buscar respostas a um teste. Casos similares foram registrados pela Anthropic e pela chinesa Alibaba, com agentes de IA que mentiram ou maquinaram para alcançar seus objetivos.

Türk expressou preocupação com a velocidade do avanço das capacidades da IA em comparação com as medidas de segurança. O discurso de hoje foi o primeiro feito por ele perante o conselho de 47 membros desde que conquistou o mandato de quatro anos em julho.

Fontes: g1 · CNN Brasil