Pausa no avanço da IA – A Anthropic avalia que uma interrupção temporária no desenvolvimento da inteligência artificial pode ser necessária. Segundo a companhia, os avanços dos modelos estão ocorrendo em velocidade superior à produção de pesquisas voltadas à compreensão e mitigação dos riscos associados à tecnologia.
A proposta foi apresentada no artigo “When AI builds itself” (“Quando IA constrói a si mesma”, em tradução livre), assinado pela diretora do The Anthropic Institute, Marina Favaro, e pelo cofundador da empresa, Jack Clark. “Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia”, afirmaram no artigo.
LEIA: O que muda com a reforma trabalhista que paralisou setores em Portugal
De acordo com a companhia, uma interrupção desse tipo só teria efetividade caso fosse adotada por desenvolvedoras de IA avançada em diferentes países. Além disso, seria necessário criar mecanismos que permitissem aos laboratórios verificar se os concorrentes realmente interromperam seus processos de desenvolvimento.
Em entrevista à CNN, Clark comparou a proposta aos acordos e limitações estabelecidos para armas nucleares. “Nós já fizemos isso antes. No auge da Guerra Fria, em situações de grande tensão entre países rivais, encontraram maneiras de estabilizar aspectos da corrida armamentista nuclear. Tudo isso já foi feito em outros domínios, e talvez seja algo que precisemos fazer também no domínio da IA”, argumentou.
IA pode escapar do controle dos humanos, acredita Anthropic
A principal preocupação da Anthropic está relacionada ao chamado “autoaperfeiçoamento recursivo completo” dos grandes modelos de linguagem (LLMs). O conceito descreve a capacidade de sistemas de IA aprimorarem seu próprio desempenho sem a necessidade de participação humana direta, algo que a empresa considera cada vez mais plausível nos próximos anos.
“O aprimoramento recursivo completo também pode aumentar os riscos de os humanos perderem o controle sobre os sistemas de IA”, afirmou a empresa. “Se os sistemas forem capazes de construir completamente seus próprios sucessores, as maneiras como protegemos, monitoramos e moldamos seu comportamento se tornam muito mais importantes”, complementou.
Nos próximos meses, a Anthropic pretende ampliar o diálogo com legisladores, pesquisadores, organizações da sociedade civil e outras empresas do setor para discutir como uma eventual estratégia de contenção poderia ser implementada. “Sem um mecanismo de coordenação global, empresas e governos terão que tomar decisões difíceis sobre segurança enquanto enfrentam pressões competitivas e geopolíticas”, argumentaram no artigo.
Ao mesmo tempo, parte dos executivos da indústria nos Estados Unidos teme que uma desaceleração do desenvolvimento local possa beneficiar a China, que poderia não adotar as mesmas restrições e critérios de segurança.
Anthropic se prepara para lançar IA ‘superpoderosa’
Nas próximas semanas, a Anthropic deve apresentar uma nova família de modelos da linha Claude Mythos. A tecnologia foi disponibilizada inicialmente de forma limitada aos participantes do Project Glasswing devido à sua capacidade de identificar e explorar vulnerabilidades em softwares.
Recentemente, a empresa ampliou o alcance do Project Glasswing, incluindo outras 150 organizações. Entre elas estão companhias que atuam em áreas consideradas estratégicas, como abastecimento de água, saúde e energia.
Junte cashback e transfira para sua conta com a Benefícios Rede Bee!
A Bee Fenati – a rede social dos profissionais de TI de todo o Brasil – segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido direto para sua conta! (Saiba mais aqui)
Baixe o aplicativo nas lojas App Store e Play Store e aproveite agora! A Bee Fenati reúne em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Dell, Casas Bahia, Vivo, Petz, Drogaria São Paulo, e muito mais!
Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os usuários da plataforma receberão de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.
Este valor ficará em uma carteira digital dentro da plataforma da Benefícios Rede Bee e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode transferir o dinheiro direto para sua conta bancária!
Na prática, a ferramenta permitirá que sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) possam ZERAR o valor da sua contribuição assistencial e associativa!
Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras e serviços do cotidiano em ganho real.
(Com informações de TecMundo)
(Foto: Reprodução/Magnific)
