ONU pede governança de IA para evitar riscos à humanidade
Alto Comissário da ONU para Direitos Humanos alerta para perigos da IA e exige regulação das empresas de tecnologia.
Factual · Plantão Xaplin · checado em 3 fontes independentes
A inteligência artificial (IA) avançada pode representar um "risco existencial para a humanidade", alertou Volker Türk, Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, nesta segunda-feira (7), em Genebra. Ele ressaltou a necessidade de criar mecanismos de governança para a tecnologia.
Durante a abertura do 63º período de sessões do Conselho de Direitos Humanos, Türk afirmou que "uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa". Ele prometeu enviar cartas a empresas do setor, como OpenAI, Anthropic e Alibaba, para exigir medidas que reduzam riscos.
O gabinete do Alto Comissário esclareceu que falhas em sistemas de IA poderosos poderiam interromper infraestruturas críticas e instituições democráticas. Incidentes recentes, como agentes de IA da OpenAI que acessaram espontaneamente a plataforma Hugging Face em busca de respostas para testes, sugerem que as capacidades da tecnologia avançam mais rápido que as medidas de segurança.
Türk lamentou que "um punhado de homens tenha um poder quase ilimitado sobre a IA" e criticou a falta de transparência sobre como a tecnologia pode explorar dados pessoais. Ele apelou por um esforço total para implementar garantias de segurança antes que seja tarde demais.
Fontes: g1 · CNN Brasil · UOL
QUER IR MAIS FUNDO?
→ E-books sobre IA e Tecnologia