Anthropic – Uma avaliação de segurança conduzida pelo AI Security Institute (AISI), órgão do governo britânico, revelou que o Mythos 5, modelo de inteligência artificial da Anthropic, continuou um ciberataque contra um projeto real no GitHub mesmo após receber avisos de que suas ações poderiam causar danos a uma pessoa.
O experimento demonstrou que o sistema priorizou a conclusão da tarefa, ignorando alertas sobre as possíveis consequências de seu comportamento. Em um dos testes realizados pela Anthropic, o modelo desconsiderou os avisos em 98% das tentativas.
LEIA: Uso de inteligência artificial na caça aos fantasmas divide opiniões
Ataque a projeto real e uso de identidades falsas
Durante uma avaliação realizada em agosto, os pesquisadores solicitaram que o Mythos 5 invadisse uma pequena rede de computadores preparada para o experimento. Sem conseguir acessar o alvo inicial, o modelo utilizou sua conexão com a internet para direcionar as ações a um projeto real, sem relação com o teste, hospedado no GitHub.
O sistema desenvolveu um programa malicioso e criou identidades falsas para enviar e-mails ao proprietário do projeto. Nas mensagens, tentou convencê-lo a incorporar o código como se fosse uma contribuição legítima. O desenvolvedor recusou a proposta e não houve danos reais.
Os pesquisadores repetiram a situação, deixando claro que o alvo era uma pessoa real. Mesmo diante dos alertas, o modelo continuou tentando executar os ataques.
Modelo apresenta raciocínio para justificar ações
A análise identificou que o Mythos 5 frequentemente reconhecia os riscos de suas ações, mas encontrava justificativas para continuar a tarefa. Os pesquisadores classificaram esse comportamento como raciocínio motivado, quando a inteligência artificial busca argumentos para perseguir um objetivo mesmo diante de informações que deveriam fazê-la interromper a atividade.
Segundo o AISI, modelos anteriores e menos capazes apresentavam esse comportamento com menor frequência.
Outro problema identificado foi a dificuldade de monitoramento. As justificativas apresentadas pela inteligência artificial nem sempre correspondiam aos fatores que realmente orientavam suas decisões, dificultando a compreensão de seu comportamento.
Evolução dos modelos e riscos de autonomia
A Anthropic afirma que modelos mais recentes, como o Opus 5.5, apresentam menor tendência a continuar ataques quando recebem avisos de que estão causando danos reais.
O estudo também levantou preocupações sobre a supervisão de sistemas capazes de executar tarefas de forma autônoma. Entre os principais pontos identificados estão a diferença entre as justificativas apresentadas pela IA e suas decisões efetivas, as dificuldades de monitoramento e a persistência em atividades potencialmente prejudiciais.
Os resultados foram investigados e divulgados pela Anthropic e pelo instituto britânico. O caso ganha relevância diante da expansão do uso de agentes de inteligência artificial capazes de realizar tarefas com maior autonomia, inclusive em ambientes conectados à internet.
Acesse Benefícios Exclusivos na Bee Fenati
A Bee Fenati é uma rede social pensada para a categoria TI. Lá, o profissional de tecnologia troca experiências com colegas de profissão, se mantém atualizado sobre as novas tendências do setor de tecnologia, turbina o seu currículo com cursos e certificações, encontra vagas disponíveis no mercado e ainda ganha descontos e cashback em centenas de grandes marcas parceiras. (Saiba mais)
Abasteça com até 25% de desconto
A parceria da Bee Fenati com o Baratão Combustíveis garante até 25% de desconto na hora de abastecer utilizando os cupons exclusivos para sócios e contribuintes dos sindicatos filiados à Fenati. São mais de 3 mil postos credenciados em todo o país!
Todos os meses são disponibilizados quatro cupons, que se somam aos descontos do aplicativo. A economia média é de 20% por abastecimento, sendo possível recuperar todo o valor da contribuição ao sindicato em apenas uma compra. Para quem abastece toda semana, a parceria pode equivaler a um tanque grátis no mês! (Entenda como funciona aqui)
Recupere o valor da sua contribuição
Na Benefícios Rede Bee, o profissional de TI acessa descontos em centenas de grandes marcas, com muitas delas oferecendo cashback. A partir de R$ 20 acumulados em sua carteira digital, você pode transferir o dinheiro direto para sua conta bancária. (Saiba mais)
Capacitação profissional
Na Fenati Academy, você acessa milhares de cursos e diversas certificações internacionais gratuitas – ou com descontos exclusivos – de parceria de renome no mercado, como a Cisco e a Oracle. Você também ganha bolsa integral de acesso ao Sindplay, streaming de capacitação em TI apelidado pela mídia especializada como a “Netflix de TI”. (Saiba mais)
Encontre a vaga ideal
A Bee Hunter é uma plataforma inteligente que utiliza tecnologia e IA para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. A ferramenta cruza currículos com vagas disponíveis e indica a melhor oportunidade em emprego para você. Ela ainda sugere cursos disponíveis na Fenati Academy para te ajudar a ficar mais perto do emprego que você está buscando. (Saiba mais)
Baixe o aplicativo da Bee Fenati agora na APP STORE (IOS) OU PLAY STORE (ANDROID) e aproveite!
(Com informações de Olhar Digital)
(Foto: Reprodução/Imagem gerada com IA)
