OpenAI – Textos produzidos pelo ChatGPT e pelo Codex poderão carregar, em breve, um sinal invisível capaz de indicar que foram gerados ou processados por inteligência artificial. A OpenAI anunciou nesta segunda-feira (5) que começará a implementar a tecnologia nas próximas semanas para usuários elegíveis na União Europeia.
A medida vale para todos os planos do ChatGPT e do Codex na região e está relacionada às exigências de transparência do EU AI Act, que determinam que conteúdos produzidos por sistemas de inteligência artificial possam ser identificados por outras ferramentas.
LEIA: Golpe imita site do TSE para cobrar taxa para regularizar título de eleitor
Fora da União Europeia, desenvolvedores que utilizam a API da OpenAI também terão acesso ao recurso para determinados modelos a partir desta segunda-feira. Nesse caso, entretanto, a funcionalidade ficará desativada por padrão. A empresa afirma que, neste primeiro momento, não pretende adotar a tecnologia como padrão global.
Como o sistema identifica a IA
O mecanismo não adiciona qualquer símbolo ou aviso aparente ao texto. Em vez disso, a OpenAI altera discretamente a seleção de palavras feita pelo modelo. O resultado é um padrão estatístico que pode posteriormente ser reconhecido por um detector específico.
Batizada de textGrain, a tecnologia fica integrada ao próprio conteúdo. Isso significa que o sinal continua acompanhando o texto mesmo depois de ele ser copiado e colado.
Segundo a empresa, a marca d’água não contém informações capazes de identificar o usuário. A OpenAI também afirma que os testes realizados até agora não mostraram alterações significativas no desempenho dos modelos com a tecnologia ativada.
O funcionamento foi detalhado em um relatório técnico. O sistema utiliza uma chave secreta para organizar as previsões feitas pelo modelo sobre as palavras que podem aparecer em seguida. Quando esse processo é repetido ao longo do texto, um detector consegue procurar o padrão correspondente à marca d’água.
Nem todo texto será identificado
A própria OpenAI reconhece que o método pode perder eficiência dependendo do tipo de conteúdo analisado ou das alterações feitas posteriormente.
Em um dos experimentos divulgados pela empresa, a substituição de 10% das palavras por sinônimos fez a capacidade de identificação cair de aproximadamente 92% para 66%.
Textos muito curtos, respostas envolvendo matemática e conteúdos traduzidos também estão entre os casos considerados mais difíceis para o sistema. De modo geral, os testes indicaram que a detecção se torna mais eficiente quando há uma quantidade maior de texto disponível.
A empresa faz ainda uma ressalva importante: não encontrar a marca d’água não significa que o conteúdo necessariamente tenha sido escrito por uma pessoa. Além de textos curtos ou muito modificados, a ferramenta não poderá identificar dessa forma materiais produzidos por sistemas de inteligência artificial de outras empresas.
Também não será possível usar o sinal para determinar o grau de participação humana. A tecnologia pode indicar que uma ferramenta da OpenAI gerou ou processou parte de um conteúdo, mas não consegue estabelecer quanto houve de edição, julgamento ou criatividade humana.
Acesso ao detector será limitado
A ferramenta responsável por procurar as marcas d’água não será disponibilizada inicialmente para qualquer pessoa. O acesso ficará restrito a pesquisadores aprovados e organizações especializadas.
A intenção da OpenAI é utilizar esse período para avaliar a confiabilidade do sistema e estudar maneiras responsáveis de empregá-lo. O detector deverá informar apenas se encontrou uma marca d’água da empresa.
Dados como identidade do usuário, prompts utilizados e conversas relacionadas ao conteúdo não serão revelados pela ferramenta.
A restrição também está ligada aos riscos de falsos positivos e falsos negativos. A OpenAI diz que pretende revisar sua estratégia à medida que a tecnologia evoluir e surgirem novas evidências sobre o funcionamento das marcas d’água.
A empresa também planeja liberar a tecnologia em código aberto para permitir que outras organizações desenvolvam soluções próprias baseadas no sistema.
Marca d’água não define autoria
Mesmo quando identificada, a marca d’água não servirá como prova definitiva sobre a autoria ou a responsabilidade por um texto.
De acordo com a OpenAI, o mecanismo não determina quem é o proprietário do conteúdo, se sua utilização é legal ou quem deve ser responsabilizado por ele.
O sistema também não foi desenvolvido para verificar a veracidade das informações presentes no texto. Portanto, a identificação não indica se o conteúdo é verdadeiro, enganoso ou prejudicial, nem se as informações foram apresentadas no contexto adequado.
A OpenAI ressalta que essas limitações precisam ser consideradas antes que os resultados do detector sejam utilizados para tirar conclusões sobre determinado conteúdo.
CONHEÇA A BEE FENATI
A Bee Fenati é uma rede social pensada para a categoria TI. Lá, o profissional de tecnologia troca experiências com colegas de profissão, se mantém atualizado sobre as novas tendências do setor de tecnologia, turbina o seu currículo com cursos e certificações, encontra vagas disponíveis no mercado e ainda ganha descontos e cashback em centenas de grandes marcas parceiras. (Saiba mais)
Recupere o valor da sua contribuição
Na Benefícios Rede Bee, o profissional de TI acessa descontos em centenas de grandes marcas, com muitas delas oferecendo cashback. A partir de R$ 20 acumulados em sua carteira digital, você pode transferir o dinheiro direto para sua conta bancária. (Saiba mais)
Capacitação profissional
Na Fenati Academy, você acessa milhares de cursos e diversas certificações internacionais gratuitas – ou com descontos exclusivos – de parceria de renome no mercado, como a Cisco e a Oracle. Você também ganha bolsa integral de acesso ao Sindplay, streaming de capacitação em TI apelidado pela mídia especializada como a “Netflix de TI”. (Saiba mais)
Encontre a vaga ideal
A Bee Hunter é uma plataforma inteligente que utiliza tecnologia e IA para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. A ferramenta cruza currículos com vagas disponíveis e indica a melhor oportunidade em emprego para você. Ela ainda sugere cursos disponíveis na Fenati Academy para te ajudar a ficar mais perto do emprego que você está buscando. (Saiba mais)
Baixe o aplicativo da Bee Fenati agora na APP STORE (IOS) OU PLAY STORE (ANDROID) e aproveite!
(Com informações de Olhar Digital)
(Foto: Reprodução/Magnific/DC Studio)
