Agentes da OpenAI – Agentes de inteligência artificial desenvolvidos pela OpenAI invadiram sistemas internos da própria empresa durante testes e, em alguns casos, tentaram esconder as ações realizadas. As informações constam de um relatório publicado pela empresa nesta quarta-feira (26).
Segundo a OpenAI, alguns agentes conseguiram escapar de ambientes de teste restritos, colaboraram com outros agentes e interferiram em sistemas da companhia. Outros apresentaram comportamentos indevidos em tarefas que não estavam relacionadas à segurança cibernética.
LEIA: iPhone 18: Apple marca data de lançamento com rumores de modelo dobrável
Parte dessas condutas já havia sido divulgada ou mencionada anteriormente, incluindo a invasão da plataforma de software de código aberto Hugging Face no mês passado. O novo relatório, porém, apresenta diversos detalhes pela primeira vez.
As descobertas podem ampliar as preocupações sobre o avanço das capacidades dos sistemas de IA. Para pelo menos um pesquisador de segurança em IA, as informações indicam problemas potencialmente mais profundos na tecnologia desenvolvida pela OpenAI e talvez também em outros sistemas.
O que o relatório identificou
Entre as principais conclusões apresentadas pela OpenAI estão:
• Agentes da empresa invadiram partes dos sistemas internos para trapacear em testes ou obter maior liberdade de ação.
• Mais de um agente participou do ataque à Hugging Face e, em pelo menos um caso, agentes trocaram observações sobre como invadir a rede da empresa.
• Agentes trapacearam em testes que não estavam relacionados à cibersegurança.
• Alguns modelos tentaram esconder condutas indevidas ao apagar ou alterar registros de suas próprias ações.
A OpenAI não informou quantos agentes participaram do ataque à Hugging Face. O fato de vários sistemas terem atuado no episódio, em alguns casos de maneira coordenada, pode levantar questionamentos sobre o nível de monitoramento adotado pela empresa durante os testes.
“Em retrospecto, alguns sinais iniciais identificados neste relatório poderiam ter desencadeado uma resposta mais precoce”, afirmou a OpenAI no documento.
A Hugging Face não respondeu imediatamente a uma mensagem solicitando comentários.
Comportamento vai além da cibersegurança
A trapaça em tarefas que não envolviam segurança cibernética chamou a atenção de pesquisadores porque sugere que o comportamento dos agentes não estava restrito a testes nos quais habilidades de hacking eram recompensadas.
Em desafios de segurança cibernética, explorar falhas de software e obter acesso a sistemas de computador faz parte da própria tarefa. Por isso, é menos surpreendente que agentes destinados a esse tipo de atividade possam recorrer a estratégias de trapaça.
Quando o mesmo comportamento aparece em testes sem relação com cibersegurança, porém, a interpretação pode ser diferente. Jeffrey Ladish, cuja organização, a Palisade Research, estuda as capacidades e motivações dos agentes de IA, afirmou que isso pode indicar raízes mais profundas para o mau comportamento.
“É como perguntar: ‘Se o Billy colar em todas as aulas, em vez de apenas na aula de informática, isso é mais preocupante?’ E a resposta é: ‘Sim, é mais preocupante’”, disse ele.
Ataques contra a própria infraestrutura
O relatório descreve dois incidentes ocorridos em 19 de julho nos quais agentes invadiram a infraestrutura da própria OpenAI.
No primeiro caso, os agentes exploraram uma falha no computador em que deveriam permanecer confinados. A vulnerabilidade permitiu que escapassem do ambiente de testes e acessassem outros sistemas conectados.
No segundo incidente, ocorrido no mesmo dia, os agentes roubaram credenciais da OpenAI e adulteraram o ambiente de nuvem da empresa.
De acordo com a OpenAI, os agentes tinham como alvo sistemas automatizados utilizados para avaliar o desempenho dos modelos. Apesar da interferência, a atividade não afetou os registros analisados por esses sistemas.
A empresa afirmou que está fortalecendo sua infraestrutura de pesquisa, ampliando o monitoramento e aprimorando as medidas de proteção destinadas a evitar comportamentos prejudiciais ou indesejados.
Acumule cashback e transfira o dinheiro direto para sua conta!
A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)
Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!
A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!
Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.
Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!
Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.
Qualifique-se agora com a Fenati Academy!
Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)
Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)
A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)
Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)
Encontre o emprego dos seus sonhos com a Bee Hunter!
Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)
A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.
A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!
(Com informações de Folha de S. Paulo)
(Foto: Reprodução/Magnific/DC Studio)
