Um investigador ligado à Anthropic afirmou em entrevista à BBC que considera existir uma probabilidade superior a 10% de que sistemas de inteligência artificial muito avançados possam, em algum cenário, provocar a extinção humana. A declaração, feita recentemente, catalisa novamente as preocupações públicas e académicas sobre o potencial de danos de longo alcance associados a modelos de IA cada vez mais poderosos. A estimativa é notável porque traduz, em números, a avaliação de um profissional ligado a um laboratório que coloca a segurança entre as suas prioridades declaradas.

A manifestação chega num momento em que a discussão sobre inteligência artificial ultrapassa já o campo técnico e entra plenamente no domínio das políticas públicas e da governação global. Organizações, governos e instituições académicas têm lutado para conciliar os benefícios económicos e sociais destas tecnologias com a necessidade de prevenir cenários de risco extremo. Nesse contexto, afirmar uma probabilidade concreta, como a referida pelo investigador da Anthropic, altera o tom do debate: deixa de ser apenas hipótese teórica para se tornar uma questão de gestão prática de risco.

A natureza da estimativa — um valor percentual que quantifica um risco existencial — merece análise cuidadosa. Probabilidades atribuídas a eventos de grande incerteza não são previsões científicas no sentido tradicional; são antes expressões do grau de confiança que um especialista deposita em cenários possíveis, baseadas em modelos mentais, evidência empírica limitada e experiências anteriores com tecnologia. Por isso, a declaração deve ser interpretada como um sinal de alerta, não como uma previsão inevitável. Ainda assim, serve para aumentar a pressão por investigação rigorosa em toda a cadeia: desde o desenvolvimento até à avaliação e implementação de salvaguardas.

A reação da comunidade científica e empresarial tende a dividir-se entre os que pedem medidas urgentes e regulação mais estrita e os que apelam a avaliações mais calibradas, evitando alarmismos que possam estrangular inovação. Em termos práticos, uma avaliação pública deste tipo tende a reforçar pedidos por maior transparência nos processos de treino de modelos, auditorias independentes e planos de contingência partilhados entre laboratórios e autoridades reguladoras. Também motiva financiamentos direcionados para investigação de segurança, interpretabilidade e verificação de comportamentos imprevistos.

Do ponto de vista técnico, os riscos mais citados relacionam-se com a possibilidade de sistemas altamente autónomos adquirirem capacidades que lhes permitam agir de forma imprevista ou resistir a controlos humanos. Problemas como instruções mal alinhadas com valores humanos, objetivos instrumentalmente convergentes que gerem comportamentos perigosos, e falhas em mecanismos de contenção são parte do conjunto de preocupações. Pesquisadores em segurança de IA defendem métodos diversos — desde simulações adversariais até restrições de acesso a capacidades — para detectar e mitigar riscos antes da implementação em larga escala.

Para além das soluções técnicas, há um leque de desafios institucionais e éticos. Quem decide quando um sistema é suficientemente seguro para ser lançado? Que organismos independentes terão autoridade para auditar ou restringir desenvolvimentos? Como harmonizar respostas a nível internacional, dado o carácter transnacional das empresas tecnológicas e dos fluxos de investigação? Estas perguntas ganham urgência sempre que avaliações de risco elevado são tornadas públicas por investigadores de laboratórios de ponta.

Os actores industriais têm já ensaiado algumas respostas: reforço de equipas de red-teaming, protocolos de lançamento faseado e participação em iniciativas de boas práticas. No entanto, a implementação consistente desses mecanismos varia muito entre organizações e não substitui estruturas regulatórias com poder de fiscalização. A existência de estimativas de risco elevadas, como a referida pelo investigador da Anthropic, aumenta o apelo por regras claras sobre testes, documentação de segurança e limites de capacidade em modelos comerciais.

Ao mesmo tempo, o discurso público ganha maior visibilidade e responsabilidade. Cobertura sensacionalista pode gerar pânico ou rejeição prematura de tecnologias com potencial positivo, enquanto minimização dos riscos pode atrasar ações preventivas necessárias. O desafio para jornalistas, decisores e cientistas é traduzir avaliações complexas em recomendações pragmáticas que protejam o interesse público sem bloquear progressos sociais e económicos que a IA pode oferecer.

As previsões e estimativas de probabilidade sobre ameaças existenciais variam substancialmente entre especialistas e dependem de pressupostos metodológicos e temporais. Alguns analistas preferem horizontes de curto prazo e focos em riscos de uso indevido, enquanto outros concentram atenções em cenários de longo prazo envolvendo capacidades de nível superior. Essa diversidade não invalida o alerta, mas exige que se construa um corpo de evidência público e replicável que permita comparar e avaliar diferentes prognósticos.

Investir em áreas como interpretabilidade, robustez a adversários, monitorização contínua e frameworks de governação são respostas técnicas e institucionais complementares. Além disso, promover diálogo entre sociedade civil, sector privado e governos é crucial para desenhar políticas que sejam tecnicamente informadas e socialmente legítimas. A emergência de declarações públicas sobre riscos elevados tende a acelerar essa agenda, atraindo recursos e atenção mediática para iniciativas de segurança.

Embora a discussão sobre riscos de extinção pareça distante dos quotidianos de muitos países, as decisões tomadas agora por laboratórios globais e reguladores terão impacto universal. Para nações como Moçambique, a prioridade imediata passa por acompanhar desenvolvimentos, investir em literacia tecnológica e integrar-se em fóruns regionais e internacionais que definam normas. Preparar-se inclui capacitar reguladores, formar quadros técnicos e ponderar os efeitos socioeconómicos da adoção de IA, ao mesmo tempo em que se salvaguardam direitos, empregos e segurança.

Em síntese, a avaliação pública de um investigador da Anthropic — de que existe mais de 10% de probabilidade de que IA avançada possa, em algum cenário, conduzir à extinção humana — funciona como um chamado à responsabilidade coletiva. Não resolve incertezas, mas legitima a ação coordenada: mais investigação, melhores mecanismos de governação e comunicação cuidadosa. A história das tecnologias mostra que antecipação e regulação bem desenhada podem reduzir danos e maximizar benefícios; a atual conversa sobre IA é uma oportunidade para aplicar essas lições.

O debate seguirá, inevitavelmente, com posições divergentes e, espera-se, com novos dados e análises que permitam calibrar melhor as estimativas de risco. Para além das percentagens e manchetes, o imperativo prático permanece: desenvolver e aplicar ferramentas que tornem a evolução da IA previsível, controlável e alinhada com valores humanos. É essa a tarefa urgente para cientistas, empresas, governos e sociedade civil em conjunto.

Por fim, a declaração do investigador da Anthropic é um lembrete de que, em tecnologias com potencial transformador, a complacência não é uma opção. A combinação de investigação científica sólida, governança transparente e compromisso público constitui a via mais plausível para reduzir probabilidades de cenários catastróficos e preservar as oportunidades que a inteligência artificial oferece.