Não curto muito a tendência dos selos “feito por humano”

Há dois anos, repercuti um daqueles selos “feito por humanos” usados para sinalizar conteúdo livre de IA. Desde então, esses selos se proliferaram em cantos virtuais hostis à IA generativa.

Em um texto meio viral na indie web, Case Duckworth lista alguns motivos para rejeitá-los (em inglês). A crítica dele não é aos selos em si, mas a iniciativas que centralizam esse tipo de sinalização. A opinião aparece condensada neste parágrafo (tradução livre):

No entanto, acho que ter um terceiro verificando (ou não, pelo visto) se você está usando IA em seu site pessoal é endêmico da mercantilização de tudo sob o capitalismo tardio. Se você não usa IA no seu site, basta dizê-lo. Faça um botão você mesmo ou use o do meu site (sem hotlink, por favor!). Não precisa ser uma grande produção.

No restante do texto, ele denuncia que alguns dos selos mais populares (not by AI e Done by Humans) são iniciativas de pessoas que, em paralelo, estão faturando com empresas baseadas em inteligência artificial.

Penso comigo que há um paralelo com a Tools for Humanity, daquelas esferas que captam a íris das pessoas em troca de criptomoedas, propriedade de Sam Altman, também é co-fundador e CEO da OpenAI. São soluções questionáveis para problemas que essas mesmas pessoas criaram.

Sigo com a opinião de que não importa se você use ou não IA para escrever porque esse ato é evidente, transparece no resultado. Se não, parabéns: a pessoa autora fez um bom uso da IA — partindo da premissa de que isso seja uma possibilidade; a quem que se opõem ao uso da IA por questões éticas ou ambientais, pouco importa a (falta de) qualidade do texto.

***

Em nota relacionada, o Substack está tão afundado em texto gerado por IA que lançou uma ferramenta de detecção para expôr o uso da tecnologia. Segundo o co-fundador e CEO, Chris Best,

O problema principal não são as pessoas que usam IA, ou a qualidade da sua produção. Nem tudo feito com IA é “slop” [ruim] e nem todo slop é feito com IA. O problema é quando se perde o alinhamento entre expectativa e realidade do leitor, especialmente quando ele investe sua atenção em algo sem pensamento humano do outro lado. Isso é “Claudefishing”.

(O neologismo “Claudefishing” é um trocadilho com “catfishing”, termo em inglês para designar quem que se passa por outra pessoa a fim de aplicar golpes ou apenas ludibriar terceiros. Boa sacada, Chris!)

A novidade do Substack é um botão que analisa o texto e indica o percentual provável de autoria da IA. Ela foi lançada em parceria com a Pangram, empresa referência na área. O que não quer dizer muita coisa, visto que esse tipo de detecção é inerentemente falho.

A mesma Pangram divulgou, no início de julho, um levantamento apontando a prevalência de texto gerado por IA em plataformas sociais. Sem surpresa, o LinkedIn lidera o ranking. O Substack é onde há menos conteúdo longo gerado por IA (10% do total). Se lá isso virou um problema digno de atenção e recursos para ser sanado, imagina nas outras…

Ao repercutir as reações (bem selecionadas para representarem um suposto equilíbrio, por óbvio), os comentários não perdoaram. É difícil encontrar algum positivo em relação ao novo detector de IA do Substack.

O Substack que está fazendo todo esse esforço para lidar com texto gerado por IA, vale lembrar, é a mesma plataforma cujo CEO disse, diante das câmeras, que não moderaria conteúdo explicitamente racista.