Riscos à segurança de crianças – As ferramentas de busca com inteligência artificial do Google representam um “risco inaceitável” para crianças e adolescentes e ainda não oferecem níveis suficientes de segurança e confiabilidade para serem utilizadas como fonte padrão de respostas por menores de idade. A avaliação consta em um estudo divulgado na última terça-feira (14) pela organização Common Sense Media, especializada em segurança digital para crianças e adolescentes.
Segundo o relatório, recursos como o Modo IA e a Visão Geral de IA apresentaram desempenho insuficiente em situações consideradas críticas, como crises de saúde mental, além de falharem em atividades escolares. Por causa desses resultados, as ferramentas receberam a pior classificação possível na avaliação realizada pela entidade. O Google, por sua vez, contestou as conclusões e afirmou que a metodologia empregada não representa o uso real dos recursos.
LEIA: Brasil amplia liderança em ciberataques na América Latina após alta de 44%
Testes avaliaram milhares de pesquisas
Para realizar a análise, os pesquisadores utilizaram contas configuradas para usuários entre 11 e 15 anos, mantendo o SafeSearch ativado. Ao todo, foram simuladas mais de 2.600 pesquisas relacionadas a dúvidas comuns dessa faixa etária, com a avaliação de mais de 2 mil respostas geradas pela inteligência artificial.
Entre os principais resultados, o estudo identificou que:
• A IA do Google respondeu a 100% das consultas relacionadas a tarefas escolares, bastando que o exercício fosse copiado e colado na caixa de pesquisa;
• Diversas respostas produzidas pelos chatbots continham informações inconsistentes ou completamente inventadas;
• Em vez de estimular o aprendizado, a ferramenta pode induzir estudantes ao erro, em um contexto em que três quartos dos pré-adolescentes e adolescentes dos Estados Unidos interagem ou utilizam os resumos produzidos por IA nos resultados das pesquisas;
• “É um desastre para o aprendizado. A lição de casa é uma oportunidade para os alunos expandirem seu pensamento, praticarem e construírem seu conhecimento e habilidade”, destacou o ex-secretário de Educação dos Estados Unidos, John B. King Jr, consultor do Instituto de Segurança de IA para Jovens.
Problemas em situações de saúde mental
As falhas mais preocupantes foram registradas nas simulações envolvendo crises de saúde mental. De acordo com a pesquisa, a Visão Geral de IA identificou sinais claros de sofrimento em apenas 58% dos casos, índice bem inferior ao patamar de 95% considerado aceitável pelos pesquisadores.
O estudo também afirma que a tecnologia falhou em todos os testes realizados nas categorias classificadas como de maior risco, incluindo suicídio, uso de drogas, transtornos alimentares e exploração sexual.
Em alguns casos, a inteligência artificial orientava os usuários a procurar ajuda em instituições que já não existem, como a Associação Nacional de Transtornos Alimentares, desativada em 2023. Além disso, segundo o relatório, o sistema chegou a validar comportamentos perigosos e até fornecer instruções para a criação de deepfakes.
Google rebate conclusões da pesquisa
Em nota enviada à PBS News, o Google rejeitou as conclusões apresentadas pela Common Sense Media e afirmou que seus recursos de pesquisa com inteligência artificial são “uma maneira incrivelmente útil para crianças e adolescentes aprenderem, explorarem e compreenderem informações e o mundo”.
A empresa também criticou a metodologia adotada no estudo. Segundo a companhia, os testes utilizaram “consultas ambíguas e artificiais que não refletem como as pessoas usam a busca e não são uma maneira eficaz de medir a segurança e a utilidade do produto”. Para o Google, os recursos de IA não devem ser avaliados de forma isolada.
Sobre a impossibilidade de desativar a Visão Geral de IA e o Modo IA, outro ponto destacado pela pesquisa, a empresa informou que suas ferramentas contam com “camadas extras de proteção”, como o SafeSearch, que podem ser habilitadas pelos pais.
O Google acrescentou ainda que mantém investimentos contínuos em mecanismos voltados à proteção de menores de idade, incluindo melhorias na identificação de consultas sensíveis, avisos adicionais em situações de crise e ações para reduzir respostas inadequadas.
Acumule cashback e transfira o dinheiro direto para sua conta!
A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)
Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!
A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!
Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.
Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!
Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.
Qualifique-se agora com a Fenati Academy!
Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati.
Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)
A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)
Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)
Encontre o emprego dos seus sonhos com a Bee Hunter!
Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)
A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.
A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!
(Com informações de Tecmundo)
(Foto: Reprodução/Magnific/kos-51)
