REDAÇÃO G1
O rei Charles III, do Reino Unido, alertou executivos de inteligência artificial sobre os “perigos existenciais” que a tecnologia pode representar caso caia em mãos erradas e afirmou que salvaguardas suficientes são necessárias antes que seja tarde demais” em um encontro nesta quinta-feira (17).
Por que há o temor sobre IA acabar com a humanidade — e existe mesmo o risco?
O monarca britânico recebeu representantes da Nvidia, Google DeepMind, OpenAI, Anthropic e outras empresas na Escócia e debateu os alertas recentes feitos sobre os riscos da IA para a humanidade.
“Aqueles que criaram essas tecnologias estão agora alertando cada vez mais que a IA corre o risco de desenvolver capacidades mais sombrias – talvez até mesmo a de tirar vidas. Nesse sentido, se me permitem dizer, parece haver urgência em considerar adequadamente os perigos existenciais de tais tecnologias caírem em mãos erradas e serem usadas de maneiras potencialmente catastróficas”, afirmou.
Após fazer o alerta, Charles também pediu que os executivos tomem medidas para garantir a segurança da tecnologia: “A tarefa que vocês têm pela frente não é apenas fazer avançar a tecnologia, mas garantir que ela permaneça firmemente a serviço da humanidade, da comunidade e do mundo natural”.
Um dia antes, nesta quarta-feira (16), o secretário-geral da ONU, António Guterres, defendeu uma “coordenação global” para lidar com a inteligência artificial (IA) e alertou para uma “corrida rumo ao abismo” diante dos riscos associados à tecnologia.
O que já disseram executivos e especialistas sobre os riscos da IA
Nos últimos meses, executivos de grandes empresas de tecnologia, ativistas e organizações não governamentais passaram a defender uma pausa no avanço da inteligência artificial para tornar seu desenvolvimento mais seguro.
Muitas dessas falas expressam preocupação com a possibilidade de a inteligência artificial ganhar poder excessivo sobre a internet e até “matar seres humanos”. Além disso, elas defendem a criação de órgãos internacionais para estabelecer regras e padrões de segurança para o desenvolvimento da tecnologia.
Relembre abaixo algumas dos comentários públicos sobre os riscos da IA:
Dario Amodei, CEO da Anthropic
Em artigo publicado em 12 de setembro, o CEO da Anthropic, criadora da IA Claude, pediu que as empresas de inteligência artificial moderem o ritmo de avanço das capacidades de seus modelos diante do aumento das preocupações com o uso indevido da IA.
“Dada a aceleração do desenvolvimento de capacidades de IA, me preocupa que, em 6 a 12 meses, tal enxame possa ser capaz de dominar toda a internet. Se não for controlada, pode ultrapassar nossa capacidade de entender e controlar esses sistemas, e por isso seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar”, escreveu Amodei.
O discurso também foi defendido por executivos de empresas que concorrem com a Anthropic, como Sam Altman, CEO da OpenAI, empresa responsável pelo ChatGPT; Elon Musk, dono do X e da empresa de IA xAI; e Demis Hassabis, presidente do Google DeepMind.
Sam Altman, CEO da OpenAI
Ao concordar com a declaração de Amodei, o CEO da organização que comanda o ChatGPT disse que é preciso “marcar um ritmo da fronteira” de IA.
” Esse tem sido um tema principal das discussões que tivemos na OpenAI. Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo. Teremos mais para compartilhar em breve”, escreveu Sam Altman.
A empresa anunciou, no início de agosto, que estava desacelerando o desenvolvimento de seus modelos de inteligência artificial enquanto reformula seus sistemas de pesquisa e treinamento após agente em teste invadir sistemas de outra empresa.
“É o primeiro incidente de (ciber)segurança que me provocou uma reação visceral”, reconheceu Altman em uma entrevista para o podcast “Invest Like The Best”.
“Mas, a longo prazo, surge a pergunta sobre o que fazer caso nos deparemos com um novo ritmo de avanço” da IA, explicou, em um contexto em que “poderíamos ter que desacelerar o ritmo de desenvolvimento da IA para dar tempo suficiente à sociedade para lidar com essas novas capacidades”.
Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic
Também em setembro de 2026, Jacob Coxon, pesquisador britânico de inteligência artificial de 27 anos, deixou a indústria acusando a OpenAI e a Anthropic de “brincar com as nossas vidas”. Coxon havia trocado a OpenAI pela Anthropic por considerar a empresa mais prudente.
“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon na rede social X.
“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”, acrescentou Coxon.
Evan Hubinger, diretor de segurança na Anthropic, deu razão a Coxon no X.
“Nós realmente acreditamos que a IA pode matar seres humanos”. Em caráter pessoal, ele calculou o risco em “mais de 10%” dentro da próxima década.
ONU
O Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos alertou, no início de setembro, para a necessidade de criar rapidamente mecanismos de governança para a inteligência artificial. Segundo ele, a IA avançada pode “representar um risco existencial para a humanidade”.
“Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, declarou o Alto Comissário, Volker Türk, na abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra.
O presidente dos EUA, Donald Trump, comparou, neste domingo (13), os críticos da inteligência artificial a “forças muito negativas” que estão levantando cenários que não vão acontecer. Ele também disse que quer garantir que os EUA continuem na liderança do setor.
“Estamos liderando em relação à China em IA. Somos o país mais sofisticado do mundo e, francamente, quero manter assim porque quem vencer na IA, vence tudo […] Poderíamos colocar barreiras de proteção. Podemos fazer isso e aquilo. Mas acho que há muitas forças muito negativas que estão trazendo esse assunto à tona quando não deveriam”, afirmou Trump.
A China, que disputa com os EUA a liderança no desenvolvimento de IA, afirmou que a tecnologia pode ameaçar a segurança nacional ao ser usada por potências estrangeiras para minar a ordem social do país.
“Forças hostis” abusam de tecnologias generativas de IA para “fabricar rumores políticos e espalhar informações prejudiciais”, escreveu o ministro da Segurança do Estado, Chen Yixin, em um artigo publicado online no domingo.
O porta-voz da Comissão Europeia, Thomas Regnier, disse que o bloco é a favor do desenvolvimento da inovação em IA, mas que as empresas precisam comprovar que seus serviços são seguros.
Já o primeiro-ministro britânico, Andy Burnham, vê como positivo o debate entre as principais empresas de IA sobre os riscos da tecnologia para o futuro da humanidade, afirmou seu porta-voz. Segundo ele, as decisões sobre o tema precisam se basear em evidências.
