Inteligências artificiais gerativas prometem uma revolução. Embora possa soar como algo distante, quase no campo da ficção científica, em alguma medida a revolução já está acontecendo.
A startup NewsGuard identificou 49 sites de notícias que usam IAs como o ChatGPT para gerar todo ou quase todo seu conteúdo, boa parte dele com imprecisões ou mentiras. Existem sites em português na amostragem.
A motivação por trás desses sites é dinheiro. A estratégia não é nova; consiste em produzir um alto volume de conteúdo a fim de gerar tráfego e exibir anúncios a leitores desavisados.
A diferença está na escala. Antes, eram humanos mal pagos que produziam o conteúdo. Agora, são IAs capazes de produzir mais, melhor e sem parar.
Mesmo sites legítimos não estão imunes à invasão das máquinas. No início do ano, o Cnet, site norte-americano de tecnologia, foi flagrado publicando textos sobre finanças, gerados por IA, com erros crassos de apuração e matemática básica.
Junto às matérias com erros, o Cnet veiculava anúncios de empresas de crédito, que pagam até US$ 900 por cliente convertido.
Em outra frente, o Spotify, maior streaming musical do mundo, removeu milhares de canções geradas artificialmente com o intuito de gerar receita com reproduções fantasmas.
O Spotify paga de acordo com o número de reproduções das suas músicas.
Na Índia, já existem robôs religiosos usados por milhões de pessoas. Feitos em cima de tecnologias como o ChatGPT, eles são treinados com escrituras hindus e se apresentam como se fossem os próprios deuses interagindo com o usuário. Não é preciso pensar muito para imaginar potenciais maus usos para essa tecnologia.
Em depoimento ao Congresso dos Estados Unidos nesta terça (16), Sam Altman, CEO da OpenAI, empresa dona do ChatGPT, clamou por regulação e propôs um acordo internacional para evitar catástrofes causadas pela inteligência artificial.
Executivos de empresas e alguns especialistas gostam de aludir à possibilidade remota de que a IA adquira consciência e cause catástrofes. Os problemas mais mundanos e imediatos, mas não menos preocupantes, seguem ignorados.
Já no Brasil no dia seguinte (17), Altman foi questionado por Caetano Veloso a respeito da remuneração de artistas que têm suas obras usadas no treinamento de IAs. Altman concordou com o cantor e compositor, mas não especificou como seria esse modelo de remuneração.
A preocupação esteve ausente também no desenvolvimento das várias tecnologias do tipo da OpenAI, como o DALL-E (gerador de imagens) e o próprio ChatGPT. Não é por acaso.
A postura magnânima, do guru da tecnologia que alerta a humanidade do desfecho inevitável de algo discricionário e sob o seu poder, é parte da cartilha batida do Vale do Silício. Com essa jogada, ele se livra do escrutínio de reguladores e da sociedade ao mesmo tempo em que posiciona sua empresa como — quase literalmente — a salvação da humanidade.
De volta ao mundo real, porém, a tendência é nos afogarmos cada vez mais em conteúdo gerado por IA.
Não é descabido imaginar que a maior parte dessas aplicações será benigna, ainda que corramos o risco de deteriorarmos ainda mais a comunicação interpessoal — temo o dia em que a maioria das mensagens de WhatsApp e e-mails que eu ler serão geradas pelo ChatGPT e similares.
O risco transparece em cenários mais delicados, em que um mal-entendido possa ter consequências graves. Já vimos o estrago que notícias falsas criadas por seres humanos podem causar. O que acontecerá quando essa produção for expandida pela IA?
Outro cenário que soa distópico, mas é bastante plausível, é o de acabarmos com uma internet dominada por máquinas, na produção e no consumo de conteúdo. O risco de virarmos coadjuvantes na grande praça de debate global.
Relatório da consultoria Imperva constatou que, em 2022, 47,4% de todo o tráfego da internet foi gerado por robôs.
Este post saiu primeiro na newsletter do site. Inscreva-se gratuitamente para receber os próximos direto no seu e-mail:
Imagem do topo: @deepmind/Unsplash.
“…com erros crassos de apuração e matemática básica.”
Tanta tecnologia… e sim, erros inacreditáveis/inaceitáveis! Um pequeno exemplo pequeno:
Eu: calcule o múltiplo de 5 entre 20 e 30, excluindo 20 e 30.
ChatGPT: …portanto, o único múltiplo de 5 entre 20 e 30 é 20.
Eu: 25 é múltiplo de 5 entre 20 e 30…
ChatGPT: Peço desculpas pelo equívoco na minha resposta anterior. De fato, o número 25 é um múltiplo de 5 entre 20 e 30.
E os erros continuam, muitos mesmo, com múltiplos, divisores, etc. Tantos que salvei o diálogo! E todas as vezes em que a IA é corrigida, ela pede desculpas, como acima.
A matemática é do curso primário, no livro da minha filha pequena, mas se eu não corrijo, passa batido.
Minha filha: “Mas, papai, não é um computador que responde? Ele não deveria ser bom em matemática?”
Deveria, mas…
Se é assim com algo exato como a Matemática, imagine quando ele “discursa” sobre temas humanos…
Tô só calculando aqui, nessa primeira leva ok pois o conteúdo gerado ainda é baseado no que foi criado por humanos. Mas a próxima leva de treinamento pode acabar pegando material gerado de IA. Quase um inception rs
No meio de tanta notícia (falsa ou verdadeira) e de tanta publicidade disfarçada, uma coisa que sempre deve ser lembrada é que estamos falando de ferramentas. Instrumentos criados e usados pelas pessoas. E pessoas têm que agir com responsabilidade, já que somos uma espécie essencialmente social. Responsabilidade guiada pela consciência e pelas leis. Quando todo mundo desistir de reconhecer essa realidade, aí pode ser o caso das máquinas tomarem conta. Mas aí também já não vai mais fazer sentido a presença do Homo sapiens.
Sempre que aparecem novas tecnologias a choradeira é geral, depois se acostumam e depois não conseguem mais viver sem.
No caso estamos falando de um risco real tanto que especialistas e profissionais da area estqo avisando para o risco disso gerar uma catastrofe, resumir esses alertas a choradeira e achar que logo todo mundo vai se acomodar é ser infantil querendo pagar de cetico. Ambos vimos o caos que foram as redes sociais corporativas agindo sem restrições e o desastre causado pelo uso abusivo de algoritmo de recomendação de conteudo por parte das empresas.
“Acostumam-se”, em muitos casos, é um eufemismo para “são obrigados”, porque a gente não vive em bolhas e nos contatos do dia a dia, sejam profissionais, sejam pessoais, muitas vezes temos que ceder.
Estamos debatendo essas IAs hoje para tentar evitar esse futuro em que elas são inevitáveis.
Perfeito raciocínio, parabéns!!!👍🏻
Eu acho que chegará o dia em que as pessoas vão se comunicar usando códigos para se diferenciar da IA. E esses códigos terão sempre que ser atualizados. Distopia é pouco.