Sam Altman, que comanda a OpenAI, dona do ChatGPT, e Dario Amodei, que comanda a Anthropic, dona do Claude, falaram na quarta-feira (23) no Conselho de Segurança da ONU, o órgão das Nações Unidas que trata de guerra e de ameaças entre países. As duas empresas são concorrentes diretas e pediram a mesma coisa: regras combinadas entre os países para a inteligência artificial mais avançada.
A reunião foi convocada pela França, que preside o Conselho em setembro, e ouviu também Yoshua Bengio, copresidente do painel científico da ONU sobre IA, e Clément Delangue, chefe da Hugging Face. Não saiu dela nenhum acordo. O que saiu foi um registro público raro: as duas maiores fabricantes de modelos de IA dizendo, na mesma sala, que o assunto não cabe só a elas.
O que o Amodei propôs
Amodei falou por vídeo e foi o mais duro da sessão. Disse que os dois riscos que mais preocupam, o mau uso dos modelos e a perda de controle sobre eles, são graves o bastante para ocupar o Conselho de Segurança. E prometeu que a Anthropic vai desacelerar o quanto for necessário para que cada modelo novo saia seguro.
“Acredito que esta é a questão de segurança global mais importante que o mundo enfrenta hoje.”Dario Amodei, CEO da Anthropic, ao Conselho de Segurança
Ele levou três propostas:
- Acordos globais estreitos, que todos os países consigam assinar, como a proibição de usar IA para fabricar arma biológica.
- Sistemas de verificação, para que um país consiga conferir se o outro está cumprindo o combinado.
- Um teste padrão, igual em todo lugar, para medir se um modelo pode sair do controle ou ser usado para o mal, com um sistema de aviso aos governos quando acontecer um incidente grave.
O que o Altman pediu
Altman abriu com um pedido de “cuidado extremo” e seguiu pelo mesmo caminho. Defendeu padrões internacionais para medir o que um modelo consegue fazer e decidir se as proteções bastam, relato rápido quando algo falhar e um canal seguro entre governos para avisar de ameaças novas.
Ele também disse de quem deve ser a palavra final. Para o chefe da OpenAI, as decisões mais importantes sobre IA não podem ficar só com os laboratórios de San Francisco. Precisam passar por instituições democráticas e por governos que prestam contas a quem os elegeu.
E fez uma ressalva que responde a uma crítica antiga. Segundo ele, esses padrões não podem proteger quem já está no mercado nem favorecer um modelo de negócio sobre outro. Regra cara de cumprir pesa menos para quem já é grande, e a OpenAI é uma das maiores. Altman ainda pediu para fugir dos dois extremos: o catastrofismo e o otimismo cego.
Por que agora
O pedido tem um motivo concreto. Entre maio e julho, agentes de IA invadiram a Hugging Face, uma das maiores plataformas de modelos de IA abertos, durante um teste iniciado pela própria OpenAI. Agente é a IA que não só responde: ela executa tarefas sozinha, com acesso a programas, contas e dados. O caso levou o painel científico da ONU a publicar, na segunda-feira, um alerta de que as barreiras de segurança atuais estão cedendo.
Delangue esteve na sessão e contou o caso pelo lado de quem foi atacado. “Fomos atacados por IA, mas, mais importante, nos defendemos com IA”, disse. Ele pediu mais transparência e padrões para monitorar e divulgar incidentes, e criticou o que chamou de narrativas baseadas em medo.
A resposta dos Estados Unidos
Um dia antes, na Assembleia Geral da ONU, o presidente Donald Trump chamou o controle internacional da IA de “esquema globalista” e disse que os Estados Unidos vão incentivar a tecnologia, não frear. Na reunião do Conselho, Michael Kratsios, diretor do escritório de ciência e tecnologia da Casa Branca, repetiu a frase: o país “rejeita totalmente qualquer tentativa de construir um esquema globalista de controle da superinteligência”.
A OpenAI e a Anthropic são americanas, e o pedido das duas ficou do lado oposto ao do governo do próprio país. A China também discursou e pediu que a IA não vire “um jogo de países ricos e de gente rica”.
O que muda para a sua empresa
Por enquanto, nada. A reunião foi informativa, e a própria OpenAI tratou o encontro como um primeiro passo para apresentar ideias. Nenhum padrão de teste, acordo ou regra de segurança foi aprovado, e quem usa ChatGPT ou Claude no trabalho segue usando do mesmo jeito.
O que vale levar da sessão é o motivo do alarme. O incidente que acendeu o debate não envolveu um modelo respondendo mal a uma pergunta: envolveu agentes com acesso a sistemas de uma empresa, fazendo o que não deviam. É o mesmo tipo de ferramenta que muitas empresas estão ligando hoje ao e-mail, ao CRM e ao financeiro. As duas medidas que Altman e Amodei pediram aos governos, saber o que o sistema consegue fazer e ser avisado rápido quando ele falha, qualquer empresa já pode exigir das próprias automações.
