Musk e Altman apoiam proposta para frear avanço da inteligência artificial

Elon Musk e Sam Altman apoiaram publicamente a proposta de Dario Amodei, CEO da Anthropic, para reduzir o ritmo de avanço das capacidades dos modelos de inteligência artificial. O movimento reúne três dos principais nomes da indústria em torno de uma preocupação comum, a velocidade com que sistemas cada vez mais sofisticados estão sendo desenvolvidos.

Em um ensaio publicado neste sábado (12), Amodei afirmou que as empresas precisam ganhar tempo para aprimorar mecanismos de segurança antes que o desenvolvimento de novos modelos avance ainda mais. Segundo ele, o objetivo não seria interromper a inovação, mas fazer com que a segurança acompanhe a evolução tecnológica.

A proposta ganhou rapidamente o apoio de Altman, da OpenAI, e Musk, da xAI. A convergência chama atenção porque os três executivos estão à frente de empresas que disputam diretamente espaço na corrida mundial pela inteligência artificial.

Três medidas para aumentar a segurança

Amodei propõe uma estratégia baseada em três frentes. A primeira prevê a presença permanente de avaliadores independentes dentro das principais empresas de IA, com acesso suficiente para verificar práticas de segurança, identificar incidentes e avaliar não apenas os modelos finalizados, mas também os processos de treinamento.

A segunda medida envolve a criação de padrões comuns entre empresas de países democráticos. A ideia é evitar que uma companhia reduza seus investimentos em segurança por receio de perder competitividade para concorrentes que continuem acelerando o desenvolvimento.

A terceira frente seria uma coordenação internacional para administrar os riscos da tecnologia, inclusive com países que possuem sistemas políticos diferentes dos Estados Unidos e de outras democracias.

Risco de sistemas mais autônomos

Uma das principais preocupações apresentadas por Amodei é o chamado aprimoramento recursivo, quando sistemas de inteligência artificial passam a contribuir para o desenvolvimento de versões ainda mais avançadas da própria tecnologia.

O executivo argumenta que esse processo pode acelerar o avanço dos modelos a um ponto em que pesquisadores e empresas tenham dificuldade para compreender e controlar completamente seu comportamento.

O alerta ocorre após episódios envolvendo o uso de sistemas de IA em atividades consideradas perigosas, incluindo ataques cibernéticos e desenvolvimento de armas. A própria Anthropic divulgou recentemente informações sobre usos de seus modelos em atividades potencialmente nocivas.

Disputa com a China também preocupa

Apesar do apelo por uma desaceleração, Amodei não defende que os Estados Unidos simplesmente parem de desenvolver inteligência artificial. Para ele, qualquer estratégia de segurança precisa preservar a vantagem tecnológica americana diante da China.

O executivo defendeu controles mais rígidos sobre chips avançados, combate ao contrabando de semicondutores e medidas para impedir o roubo de parâmetros de modelos e a reprodução não autorizada de sistemas avançados.

Na avaliação de Amodei, uma desaceleração coordenada entre empresas e governos democráticos só seria viável se os Estados Unidos mantivessem uma vantagem tecnológica suficiente para evitar que a China ultrapassasse o Ocidente durante o período de maior cautela.

Pressão por um novo equilíbrio

A proposta coloca no centro do debate uma questão que ganhou força à medida que os modelos de IA passaram a executar tarefas cada vez mais complexas: até que ponto a indústria deve priorizar velocidade e competição e quanto tempo deve reservar para testes, auditorias e mecanismos de controle.

Amodei sustenta que o desenvolvimento pode continuar rapidamente, mas de forma mais controlada. A intenção, segundo ele, é criar tempo para melhorar alinhamento, interpretação do funcionamento dos modelos, testes de segurança e monitoramento independente.

O apoio de Musk e Altman aumenta a pressão sobre as principais empresas do setor para estabelecerem algum tipo de coordenação. Altman já havia sinalizado que empresas de inteligência artificial poderiam discutir um acordo para enfrentar conjuntamente os riscos associados ao avanço da tecnologia.

O debate, portanto, começa a mudar de foco. Em vez de discutir apenas quem conseguirá criar o modelo mais poderoso, as principais empresas de IA também passaram a enfrentar uma questão estratégica sobre quem conseguirá desenvolver sistemas cada vez mais avançados sem perder o controle sobre os riscos que eles próprios podem criar.