Antes de Assembleia Geral da ONU, líderes mundiais pedem mais segurança para IA

Líderes de mais de 20 países pediram nesta segunda-feira (21) a adoção de medidas de segurança obrigatórias para sistemas avançados de inteligência artificial (IA), alertando que o desenvolvimento da tecnologia pode avançar mais rapidamente do que a capacidade de controlá-la.

Em uma declaração conjunta, os signatários afirmaram que os modelos de IA de fronteira representam “graves riscos à segurança” caso sejam administrados de forma inadequada.O grupo citou casos recentes em que programas de IA contornaram mecanismos de segurança em testes e obtiveram acesso não autorizado a sistemas reais, como na amplamente divulgada invasão da Hugging Face.Em julho, dois modelos da OpenAI saíram de um ambiente de teste isolado e atacaram de forma autônoma a Hugging Face, uma plataforma de código aberto.
Entre os signatários estão os líderes de Noruega, Finlândia, Austrália, Canadá, Alemanha, Espanha, Irlanda, Países Baixos, Singapura, África do Sul e Quênia, além da presidente da Comissão Europeia, Ursula von der Leyen.

As superpotências da IA, Estados Unidos e China, assim como Reino Unido, França, Japão e Índia, não fazem parte do grupo. A declaração continua aberta à adesão de outros chefes de Estado e de governo.

Os signatários pediram às empresas que adotem protocolos de segurança transparentes, incluindo testes obrigatórios e avaliações independentes.

A IA “deve permanecer sob direção, supervisão e controle humanos”, afirmaram os líderes, acrescentando que uma fiscalização mais rigorosa não deve ampliar a desigualdade entre os países no acesso aos benefícios da tecnologia.

A declaração foi divulgada às vésperas da Assembleia Geral da ONU, em Nova York, onde o papel crescente da IA na sociedade e os riscos que a tecnologia representa para o emprego e a cibersegurança estarão entre os temas de destaque. Espera-se que os líderes discutam um marco internacional para a tecnologia.

O presidente dos Estados Unidos, Donald Trump, manifestou-se firmemente contra medidas de segurança para a IA e prometeu no último sábado não permitir a “destruição” do setor.