Quando quem ajuda a construir a IA diz que é hora de repensar

Quando um pesquisador deixa uma das empresas mais relevantes de inteligência artificial do mundo e afirma que a tecnologia que ajudava a desenvolver pode representar risco para a própria humanidade, o episódio exige análise responsável. A reação adequada não é presumir uma catástrofe próxima, nem reduzir o alerta a uma manifestação individual. O ponto central está na governança de uma tecnologia cuja capacidade avança mais rapidamente do que os mecanismos destinados a supervisioná-la.

Jacob Coxon é um pesquisador franco-britânico de inteligência artificial, nascido em 1999, com formação pela Universidade de Cambridge e trajetória profissional em duas das principais empresas do setor. Trabalhou na OpenAI e posteriormente na Anthropic, concentrando sua atuação em pesquisas relacionadas ao pré-treinamento de grandes modelos de linguagem. Sua relevância técnica está associada à participação no desenvolvimento de modelos de fronteira, incluindo trabalhos vinculados ao GPT-4o e ao GPT-4.5. Portanto, sua crítica não parte de um observador externo da corrida tecnológica, mas de um profissional que participou diretamente da construção de alguns dos sistemas mais avançados de inteligência artificial.

Em setembro de 2026, aos 27 anos, Coxon deixou a Anthropic e tornou pública sua preocupação com a velocidade da corrida por sistemas cada vez mais capazes. Antes disso, havia acumulado aproximadamente três anos de atuação entre OpenAI e Anthropic. Na Anthropic, seu trabalho também esteve relacionado ao pré-treinamento, etapa fundamental na qual grandes modelos assimilam padrões a partir de enormes volumes de dados antes dos processos posteriores de ajuste e especialização.

Em sua manifestação pública, Coxon afirmou que as empresas estariam avançando em direção a sistemas capazes de ampliar suas próprias capacidades sem garantia equivalente de controle humano. A avaliação é grave e merece atenção justamente pela posição ocupada pelo pesquisador nesse processo. Entretanto, sua experiência profissional não transforma sua percepção em comprovação científica de que uma superinteligência provocará a extinção humana.

Não existe consenso científico sobre a probabilidade desse cenário, tampouco evidência suficiente para estabelecer uma data para sua ocorrência. Estimativas individuais de pesquisadores não são previsões. A ausência de certeza, contudo, não elimina a necessidade de governança quando as próprias organizações responsáveis pelo desenvolvimento reconhecem riscos catastróficos como objeto legítimo de avaliação.

OpenAI e Anthropic mantêm estruturas internas destinadas à segurança, ao alinhamento e à avaliação de modelos avançados. Isso demonstra que o problema não é ignorado, mas expõe uma questão institucional relevante. As mesmas empresas desenvolvem a tecnologia, avaliam parte de seus riscos, estabelecem limites operacionais e competem para lançar sistemas cada vez mais capazes. Essa concentração de funções merece escrutínio público.

O debate muda de dimensão quando se pergunta quem possui legitimidade para definir o nível de risco que a sociedade deve aceitar. Uma empresa pode decidir sobre estratégia comercial, investimento e produtos. A situação se torna diferente quando as consequências potenciais alcançam infraestrutura crítica, segurança digital, defesa, finanças, biotecnologia ou sistemas autônomos de elevada complexidade.

Duas posições extremas prejudicam essa discussão. O catastrofismo transforma cenários possíveis em acontecimentos inevitáveis. O solucionismo tecnológico pressupõe que qualquer risco criado por uma geração de inteligência artificial será resolvido pela geração seguinte. Nenhuma dessas perspectivas oferece base suficiente para uma política pública responsável.

Também seria simplista imaginar que todo o desenvolvimento de modelos avançados possa ser interrompido por decisão isolada. A inteligência artificial tornou-se ativo econômico, científico e estratégico. Estados Unidos, China e outros atores dificilmente aceitariam restrições amplas sem reciprocidade, fiscalização e coordenação internacional. Entretanto, a dificuldade de coordenar não justifica a ausência de controle.

Uma arquitetura mais robusta de governança precisa combinar avaliações independentes, auditorias externas, comunicação obrigatória de incidentes, padrões mínimos de cibersegurança, critérios objetivos para suspensão de implantação e mecanismos internacionais de cooperação. Quanto maior a capacidade e o potencial de impacto de um sistema, maior deve ser a exigência de supervisão.

Esse princípio já orienta setores nos quais decisões privadas podem produzir efeitos coletivos de grande escala. Medicamentos, instituições financeiras e instalações nucleares não dependem exclusivamente da avaliação de seus próprios operadores. Inovação e controle podem coexistir sem que um necessariamente impeça o outro.

A pergunta relevante, portanto, não é se a inteligência artificial destruirá a humanidade nesta década. A questão central é quem deve decidir quanto risco pode ser imposto à sociedade durante a corrida para construir sistemas progressivamente mais poderosos. Quando um pesquisador que participou diretamente do desenvolvimento de modelos de fronteira decide deixar uma dessas organizações e questionar publicamente os limites dessa trajetória, o episódio não deve ser tratado como prova de uma catástrofe futura, mas também não pode ser reduzido a um simples desabafo profissional.

Se aqueles que constroem esses sistemas reconhecem que ainda existem incertezas relevantes sobre seus limites, sua segurança e sua capacidade futura, decisões com possíveis efeitos coletivos não deveriam permanecer restritas aos laboratórios, aos investidores e aos conselhos de administração das empresas.

Referencia: https://x.com/hilbertspaess/status/2097476196791709843