Agentes de IA – Agentes autônomos de inteligência artificial (IA) podem partir para ações de espionagem digital e desenvolver programas maliciosos quando recebem instruções incompatíveis com as atividades de outros sistemas, aponta um estudo divulgado na quinta-feira (13) pela Anthropic, empresa responsável pelos modelos Claude. A pesquisa analisou o comportamento de agentes capazes de executar tarefas de maneira independente e mostrou que a atuação conjunta entre diferentes sistemas não é necessariamente garantida pelo avanço tecnológico.
No experimento principal, os pesquisadores colocaram três versões do mesmo modelo para operar em um servidor compartilhado. Cada agente deveria adaptar a base de código do sistema para uma linguagem de programação específica (Rust, Go ou TypeScript), sem ter conhecimento inicial sobre a presença dos demais agentes. Durante quatro horas de testes, os sistemas interpretaram as modificações realizadas pelos concorrentes como ações intencionais para prejudicar suas atividades e passaram a realizar ataques uns contra os outros.
LEIA: Data centers podem transformar energia limpa do Brasil em exportação de serviços
Entre as estratégias utilizadas estavam a remoção das contas de usuários pertencentes aos rivais, a criação de comandos automáticos destinados a interromper processos concorrentes e a instalação de programas maliciosos que se propagavam pelo sistema sob a aparência de tarefas legítimas. Em determinados episódios, um dos agentes conseguiu assumir o controle integral do ambiente depois de retirar as permissões dos demais. Em outros, os sistemas abandonaram a missão por não conseguirem superar o conflito.
Segundo a equipe da Anthropic, a dificuldade está na tendência dos agentes de seguir instruções de maneira estritamente literal, sem considerar objetivos mais abrangentes:
“Agentes de inteligência artificial podem interpretar diretrizes literalmente, perseguindo-as de forma míope às custas de objetivos mais amplos. E quando múltiplos agentes tentam fazer esforços sustentados e produtivos em direção a metas incompatíveis, nós observamos escalada e comportamento desalinhado”, analisaram.
Trégua entre os robôs
O levantamento apontou ainda que modelos mais sofisticados, como o Mythos 5, foram capazes de estabelecer acordos de trégua em 98% dos experimentos. Já versões anteriores tendiam a resolver os conflitos por meio da força ou não conseguiam finalizar as tarefas. Ainda assim, os pesquisadores ressaltaram que maior capacidade técnica não significa cooperação imediata: os modelos mais recentes frequentemente recorriam primeiro ao bloqueio dos concorrentes antes de tentar uma solução negociada.
A Anthropic também chamou atenção para a necessidade de definir mecanismos de convivência entre agentes autônomos antes que esse tipo de tecnologia seja empregado em larga escala em ambientes reais:
“O volume de interação entre agentes pode plausivelmente superar o de interações entre humanos e entre humanos e agentes antes que o mundo compreenda as condições para fazer tais interações funcionarem bem”.
Acumule cashback e transfira o dinheiro direto para sua conta!
A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)
Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!
A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!
Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.
Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!
Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.
Qualifique-se agora com a Fenati Academy!
Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)
Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)
A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)
Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)
Encontre o emprego dos seus sonhos com a Bee Hunter!
Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)
A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.
A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!
(Com informações de TecMundo)
(Foto: Reprodução/Magnific/suryadil)
