A novidade, anunciada para cumprir a Lei de IA da UE, insere sinais sutis em textos gerados pelo ChatGPT para identificação automática. Pesquisadores alertam que alterações simples de palavras podem eliminar a marca.
Atendendo às exigências da Lei de IA da União Europeia (UE), a OpenAI acaba de anunciar o lançamento de marcas d’água invisíveis para textos gerados pelo ChatGPT. A medida tem como objetivo permitir que conteúdos produzidos por modelos generativos sejam identificados por máquinas, seguindo a obrigação prevista na legislação europeia.
O conceito de marca d’água invisível em texto é diferente do aplicado em imagens e vídeos: trata-se de sinais sutis incorporados ao texto que não devem interferir na leitura humana, mas que podem ser detectados por algoritmos especializados. A ideia é facilitar a triagem automática e a identificação da origem gerativa sem prejudicar a experiência do leitor.
No entanto, esse tipo de solução enfrenta desafios técnicos. Embora atualmente dezenas de ferramentas no mercado prometam essa detecção, os resultados são pouco confiáveis e tendem a perder eficiência com a evolução da própria inteligência artificial. Pequenas alterações no texto — como trocar palavras por sinônimos, reestruturar frases ou aplicar parafraseamento automático — podem degradar ou eliminar o sinal que compõe a marca d’água.
Para tentar contornar justamente esse cenário, a OpenAI desenvolveu uma técnica apelidada de textGrain. O anúncio apresenta textGrain como uma abordagem para inserir marcas d’água que sejam mais resistentes às modificações simples no texto. O nome sugere que o método atua em características finas do conteúdo gerado, mas detalhes técnicos específicos sobre o funcionamento interno, robustez contra ataques de transformação de texto ou métricas de detecção não foram detalhados no anúncio.
O problema central segue sendo a tênue linha entre detecção automática e robustez contra edições: quanto mais sutil for a marca, maior o risco de ela ser removida por mudanças mínimas no texto; quanto mais robusta, maior a chance de introduzir artefatos perceptíveis na escrita. Ferramentas de parafraseamento e editores automáticos são exemplos de técnicas que podem, em muitos casos, zerar a assinatura deixada por uma marca d’água invisível.
Em resumo, a iniciativa responde a um requisito legal importante, mas não elimina as dúvidas sobre eficácia prática em cenários adversariais. Resta acompanhar testes independentes e avaliações técnicas para entender até que ponto textGrain resiste a manipulações simples como a troca de palavras e que impacto terá no ecossistema de detectores e editores automáticos.
