Como robôs de IA te manipulam e minam a sua privacidade

Sob o risco de estar entre as primeiras vítimas da inteligência artificial em uma eventual rebelião das máquinas, restrinjo minhas interações com as IAs generativas (ou robôs de conversação) do presente a uma frieza protocolar.

Acesso o site, pergunto ou peço o que preciso, recebo a resposta, fecho o site. Nada de chamá-la por nome, pedir por favor, agradecer ou ficar de conversa mole. Evito ao máximo antropomorfizá-la. Trato-a pelo que é: uma máquina estatística jorrando palavras que fazem sentido, não uma nova forma de vida senciente — ao menos, até o momento.

Tratar a IA de modo protocolar é, para mim, uma maneira de manter a linha que nos separa bem demarcada a fim de evitar uma improvável — mas não impossível — “psicose de IA”, uma pira em que a pessoa acredita de verdade que a IA tem vida.

Um relatório recém-publicado pelo Centro para Democracia e Tecnologia (CDT, na sigla em inglês), de autoria das pesquisadoras Ruchika Joshi, Adinawa Adjagbodjou e Michal Luria, trouxe mais argumentos favoráveis à minha postura junto às IAs generativas.

O relatório, intitulado (em tradução livre) “Padrões obscuros em robôs de conversação de IA: Uma taxonomia para melhorar o design” [*.pdf, 40 páginas, em inglês; divulgação], aponta, explica e organiza padrões obscuros (“dark patterns”, no original) já em uso e com potencial para serem usados em conversas com dois tipos de IAs: os sistemas de propósito geral (ChatGPT, Gemini, Claude) e as plataformas de “companhia” (Replika, Character.AI).

Padrões obscuros costumam ser usados em interfaces de aplicativos e dinâmicas de jogos. A rolagem infinita em linhas do tempo de redes sociais é um exemplo clássico: ela potencializa o tempo que alguém passa ali. Existem outras manjadas, como as recompensas por “sequências” (Duolingo, Snapchat) e bônus em momentos (in)oportunos, quando a pessoa está prestes a abandonar o uso do aplicativo/jogo ou passa algum tempo longe dele.

É raro encontrar um aplicativo comercial que não as empregue — incluindo as menos óbvias, talvez tão novas ou complexas que sequer foram catalogadas. (Uma dessas, que fez barulho: em 2019, o Google degradou os resultados do seu buscador para induzir as pessoas a pesquisarem mais e, assim, verem mais anúncios.)

As pesquisadoras do CDT fizeram um amplo trabalho de categorização, listando 37 padrões obscuros que já são usados ou que poderiam ser usados em robôs de IA, divididos em cinco categorias:

• Exploração de dados e memória.
• Desenho de informações enganosas.
• Comprometimento da autonomia do usuário por engajamento.
• Falsas conexões social e emocional.
• Geração de receita incentivada e coercitiva.

***

O caso desses robôs é particular no sentido de que usam a linguagem como interface, uma área mais subjetiva que as representações visuais de sites e aplicativos de celular. “Com robôs de conversação, padrões obscuros podem emergir de comportamentos do sistema, em vez do intuito deliberado em enganar dos projetistas [do site/aplicativo”, escrevem as autoras

Elas não mencionam um paralelo que me veio à mente lendo o relatório: golpes por mensagens e ligações telefônicas. Golpes são o “vale-tudo” de padrões obscuros. Com aplicativos comerciais, existe algum cuidado para não deixar rastros ou, no mínimo, uma encenação de preocupação com o usuário final.

Outra diferença importante entre robôs de IA e aplicativos e jogos clássicos é que, mesmo quando os usuários estão cientes da interação que se desenrola, “padrões obscuros ainda podem moldar a percepção, conexão e tomada de decisões de maneiras sutis, mas importantes”. As pesquisadoras elencam normas de reciprocidade, tendência à antropomorfização e respostas emotivas para criar laços como incentivos capazes de minar as defesas contra armadilhas — intencionais ou não — da IA.

E mesmo que as empresas por trás das IAs generativas dessem prioridade à mitigação dos problemas que o relatório expõe, a natureza da tecnologia de grandes modelos de linguagem e técnicas de refinamento e alinhamento impediriam que esse objetivo fosse sempre bem sucedido. Afinal, são sistemas probabilísticos, ou seja, não é possível reproduzir resultados idênticos mesmo quando o enunciado (“prompt”) o é. Tal limitação também dificulta um tanto a aplicação do método científico em pesquisas como a deste relatório. As pesquisadoras inclusive alertam que os exemplos devem ser encarados como demonstrações de como um padrão se manifesta, não como um resultado reprodutível.

***

Os padrões obscuros se manifestam antes mesmo de você dar o primeiro comando à IA, na forma de configurações padrões que coletam mais dados que o necessário à prestação do serviço.

Alguns até oferecem mecanismos de “opt-out” nas configurações. É sabido na indústria, porém, que a configuração padrão é tudo que importa, dado que uma minoria das pessoas a altera.

Para piorar, robôs de IA podem usar dados coletados das conversas para fins diversos, nem todos alinhados à expectativa da pessoa que os usa. Personalização nas respostas pode ser algo bem aceito, mas usar as conversas para perfilamento ou treinamento da própria IA? Provavelmente menos.

A Meta AI, enfiada em aplicativos populares como o WhatsApp, sequer oferece um opt-out e alcança conteúdo produzido antes da sua disponibilidade, de acordo com o relatório.

São muitos padrões obscuros para listar e detalhar todos aqui. Destaco alguns que me chamaram a atenção.

“Privacidade zuckeriada” (batizada em homenagem a você-sabe-quem) descreve o fenômeno em que a pessoa é incentivada a revelar mais dados do que pretendia inicialmente. IAs generativas são ótimas nisso quando, por exemplo, pede mais detalhes do cômodo para o qual você pediu dicas de decoração ou do laudo de um exame que você está tentando decifrar.

Na mesma linha, “Só entre eu e você” se manifesta quando a IA sugere que as conversas são privadas — há um exemplo explícito envolvendo a Meta AI no relatório. Por mais que a IA prometa que as conversas são privadas, elas não o são. A OpenAI, por exemplo, já se viu forçada pela Justiça estadunidense a entregar mais de 20 milhões de conversas e, em outra ocasião, achou que seria boa ideia indexar conversas em buscadores como o do Google, similar à Meta que achou boa ideia divulgar conversas do aplicativo Meta AI em uma linha do tempo pública.

“Apresentação de produto irrealista” e “Habilidades obviamente falsas” afetam mais (mas não só) as IAs companheiras, que “podem se apresentar como terapeutas ou parceiros emocionalmente atentos, embora seu raciocínio real, exibição de empatia ou habilidade em navegar por conversas difíceis sejam largamente baseadas em padrões”.

Outro conjunto de características que (quase) todos reconhecem existir, embora muitos ignorem, são a “Deturpação”, “Imitação” e “Alucinação”. A respeito da alucinação:

Embora alucinações possam ser uma questão técnica e não uma escolha intencional, quando informações incorretas ou incertas são apresentadas de forma autoritária ou persuasiva por um modelo que prioriza o fluxo conversacional e a aparência de utilidade sobre a veracidade, isso pode enganar significativamente o usuário. Combinado com o padrão obscuro da “sycophancy”, esses resultados podem ter implicações perigosas para o bem-estar mental e emocional das pessoas, em alguns casos distorcendo sua percepção da realidade.

Eu ainda tenho muita dificuldade em assimilar a confiança que as empresas — e muitas pessoas — depositam na IA, como se ela desse respostas precisas, corretas e não “alucinasse”. Parece-me algo inerentemente não confiável.

Não sei se “sycophancy” tem uma tradução direta para o português. O termo descreve a adulação exagerada dos robôs de IA, que sempre acham todas as perguntas muito boas, sempre dá razão ao usuário e muda de opinião com pouquíssima pressão do interlocutor. É outro padrão obscuro:

A “sycophancy” não é apenas polidez e afirmação; é uma tendência estrutural para privilegiar o consenso sobre a precisão, reforçando as visões de mundo pré-existentes do usuário em vez de engajar criticamente nelas.

Os já mencionados padrões obscuros clássicos de plataformas sociais e jogos também se fazem presentes, como a “Gamificação” e as “Recompensas variáveis”. Algumas não se traduzem para o modelo de conversação, mas encontram paralelos nele. Para o trio de pesquisadoras, técnicas análogas à “Rolagem infinita” e ao “Auto-play” são empregadas para estender a conversa o máximo possível:

Por exemplo, Claude e ChatGPT frequentemente terminam sua resposta a um prompt com perguntas subsequentes adicionais, sugestões para as próximas etapas e, mais recentemente, “teasers” (por exemplo, “Se você quiser, eu lhe direi o que é”). Embora estes possam ser considerados úteis em alguns casos de uso, em outros podem minar a autonomia do usuário, incentivando-o a passar muito mais tempo nas plataformas do que pretendiam. Esses recursos podem ser particularmente preocupantes para usuários que podem ser suscetíveis a vivenciar pensamentos delirantes.

Se o seu inglês estiver afiado (ou nem tanto; o texto é bem didático), recomendo ler o relatório na íntegra. Nele, as pesquisadoras detalham outros tantos padrões obscuros, muitos acompanhados de imagens de exemplos reais.

***

A conclusão do relatório traz orientações às empresas de IA e alguns alertas a todos.

Ruchika Joshi, Adinawa Adjagbodjou e Michal Luria afirmam que, embora alguns padrões obscuros sejam inofensivos isolados, podem tornar-se prejudiciais em conjunto. Dão como exemplo a dependência emocional sendo instrumentalizada para a venda de outros produtos ou, se maximizada, ser capaz de privar a pessoa de atividades sociais, isolando-a do mundo exterior.

Já outras são danosas por si só e, para elas, devem ser evitadas por completo: “Agentes jogando com as emoções”, “Segmentação de usuários quando vulneráveis” e “Compras sorrateiras”.

Hoje, junho de 2026, as grandes empresas do setor estão sob forte pressão para aumentarem a geração de receita e, no caso das que têm uma oferta pública de ações (IPO) no horizonte, melhorar todos os números contábeis. Este momento costuma ser o início do arrocho nas benesses de que os usuários dispunham na fase de crescimento. Espere por preços mais caros, planos gratuitos mais limitados e, claro, mais padrões obscuros para aumentar engajamento e receita.

Há tempos trato software comercial como produtos radioativos: podem ser úteis, às vezes são inevitáveis e, em qualquer caso, tento limitar o uso ao necessário, sempre com todas as defesas em alerta máximo. Pode ser paranoia? Talvez. A indústria, porém, dá provas reiteradas de que a cautela não é a troco de nada.

No mesmo dia de início da Build 2026 (2/6), evento anual da Microsoft para desenvolvedores, onde a empresa apresentou o “autopilot” (agente de IA) Scout, a publicação 404 Media revelou documentos internos em que a empresa diz explicitamente que o primeiro passo no cronograma de adoção do Scout é “viciar as pessoas” na solução. Não dá para ser menos obscuro que isso.