A Anthropic, empresa responsável pelo desenvolvimento do chatbot Claude, está adotando uma estratégia incomum para tentar antecipar os riscos provocados pelo avanço da inteligência artificial. A companhia passou a procurar profissionais especializados em áreas consideradas sensíveis, como armas nucleares, biologia, química, cibersegurança e crimes financeiros, para avaliar de que maneira seus sistemas poderiam ser utilizados em situações perigosas. A iniciativa mostra que a corrida pelo desenvolvimento de modelos cada vez mais avançados também vem acompanhada de uma preocupação crescente com as consequências que essas tecnologias podem produzir.
A informação foi divulgada pelo UOL em reportagem publicada nesta sexta-feira, 7 de agosto de 2026, e chama atenção principalmente pelo perfil dos profissionais que estão sendo procurados. Em vez de concentrar as avaliações apenas em especialistas tradicionais de tecnologia, a Anthropic pretende contar com pessoas que tenham conhecimento aprofundado sobre atividades que poderiam provocar grandes danos caso fossem facilitadas por uma inteligência artificial avançada. Dessa maneira, os próprios sistemas podem ser submetidos a testes específicos para verificar quais informações, orientações ou capacidades poderiam representar uma ameaça.
A expressão “evitar o fim do mundo”, presente no contexto da iniciativa, está relacionada à preocupação com cenários extremos e não significa que a empresa esteja prevendo uma catástrofe iminente. O objetivo é trabalhar preventivamente, identificando vulnerabilidades antes que elas possam ser exploradas. Com modelos capazes de escrever códigos, analisar grandes volumes de informações, executar tarefas complexas e auxiliar profissionais em diferentes áreas, a segurança passou a ser tratada como uma questão estratégica no desenvolvimento da inteligência artificial.
Anthropic busca especialistas para testar os limites da inteligência artificial
A procura por profissionais de áreas de alto risco está relacionada ao chamado red teaming, processo no qual sistemas são submetidos a situações adversas para que suas vulnerabilidades sejam identificadas. Na prática, especialistas podem tentar descobrir se um modelo de inteligência artificial consegue fornecer informações que poderiam ser utilizadas para desenvolver ataques cibernéticos, produzir agentes biológicos perigosos, facilitar atividades relacionadas a armas ou auxiliar crimes sofisticados. Assim, falhas podem ser detectadas e medidas de proteção podem ser implementadas antes que determinada tecnologia seja disponibilizada de maneira mais ampla.
Esse tipo de avaliação ganhou importância porque os modelos de inteligência artificial estão deixando de ser utilizados apenas para responder perguntas ou produzir textos. Sistemas mais recentes conseguem trabalhar com programação, análise de documentos, pesquisa, planejamento e utilização de ferramentas digitais, o que aumenta sua capacidade de participar de tarefas complexas. Consequentemente, também passou a ser necessário avaliar não apenas o que uma IA consegue responder, mas o que ela poderia permitir que uma pessoa fizesse caso suas capacidades fossem utilizadas de maneira inadequada.
Riscos de armas, biologia e cibersegurança entram no radar
Entre as principais preocupações estão áreas nas quais uma orientação técnica equivocada ou mal utilizada poderia produzir consequências graves. Na área de cibersegurança, por exemplo, uma inteligência artificial pode ser utilizada para analisar códigos, identificar vulnerabilidades e automatizar determinadas tarefas. Em biologia e química, por outro lado, conhecimentos especializados podem ser organizados ou explicados por sistemas de IA, o que gera preocupação sobre a possibilidade de informações técnicas serem utilizadas por pessoas sem boas intenções.
A preocupação também alcança atividades relacionadas a armas nucleares e outras formas de destruição em larga escala. Isso não significa que uma inteligência artificial seja capaz, por conta própria, de fabricar ou utilizar uma arma desse tipo. A questão central está na possibilidade de sistemas avançados reduzirem determinadas barreiras de conhecimento, facilitando etapas de planejamento, pesquisa ou organização de informações. Por isso, especialistas dessas áreas são considerados importantes para testar os modelos e identificar respostas que deveriam ser bloqueadas, limitadas ou submetidas a mecanismos adicionais de segurança.
Inteligência artificial avança e aumenta preocupação com segurança
A iniciativa da Anthropic ocorre em um momento no qual empresas de tecnologia disputam espaço para desenvolver modelos cada vez mais capazes. A competição envolve sistemas capazes de raciocinar sobre problemas complexos, programar, analisar informações e executar tarefas com menor necessidade de intervenção humana. Entretanto, quanto maior a capacidade de uma ferramenta, maior também tende a ser a preocupação sobre como ela poderá ser utilizada fora dos objetivos originalmente planejados. Por isso, mecanismos de segurança passaram a ocupar uma posição central na indústria de inteligência artificial.
A estratégia adotada pela Anthropic mostra que o desenvolvimento desses sistemas está sendo acompanhado por uma tentativa de antecipar riscos que ainda não podem ser completamente conhecidos. Profissionais de diferentes áreas deverão ajudar a identificar cenários problemáticos, enquanto testes de segurança serão realizados para avaliar os limites dos modelos. Dessa forma, a busca por especialistas para evitar situações extremas representa uma tentativa de combinar avanço tecnológico com prevenção, fazendo com que possíveis problemas sejam descobertos dentro de ambientes controlados antes de alcançarem usuários e aplicações reais.
