Assunto · 349 posts
Em 16 de julho, o repositório de modelos de IA HuggingFace publicou um relatório de incidente de segurança. Bom, “relatório de incidente” é bondade minha; o texto se parece mais com um comunicado à imprensa do apocalipse de IA:
“Inteligência artificial saiu do controle e fez algo que não devia, diz empresa dona da IA” é marketing terrorista voltado a políticos e empresários. O desafio da baleia azul dos engravatados. A boneca momo que aterroriza o PIB. O pior é que os caras caem nessa lorota.
Note o tom da chamada: Agentes da OpenAI escapam durante teste e fazem ataque cibernético. Tudo por conta própria.
Quando você coloca um texto num grande modelo de linguagem (LLM), ele responde com algumas palavras. Você transforma um LLM num chatbot alimentando-o com a conversa inteira até o momento, com seu prompt no final, e ele responde a esse texto todo com o que quer que ache que vem a seguir.
Um chatbot de “raciocínio” usa um modelo para quebrar seu prompt em etapas a seguir para responder sua pergunta, alimenta as etapas para outro modelo, depois alimenta essa saída para um modelo final, que gera a próxima resposta.
Esse modelo final não vê etapas. Ele só vê um fluxo contínuo de texto.
Você consegue fazer injeção de prompt no chatbot escrevendo seu ataque como se fosse uma das etapas de raciocínio. Aí o chatbot simplesmente segue o que você disser como se tivesse sido ele mesmo a produzir aquele texto.
Empresas embriagadas de IA gostam de alardear seus milhões ou bilhões de usuários. O que elas não contam é que a maioria é forçada a usar tais recursos. Pense no resumo de IA que a busca do Google retorna, queira você ou não.
A Samsung parece ter avançado nessa tática. Segundo o How-To Geek, o aplicativo Samsung Health vai excluir os dados de saúde dos usuários da nuvem da empresa — impossibilitando a sincronia entre dispositivos —, a menos que eles concordem em cedê-los para o treinamento e modelagem de IAs.
O novo botão de consentimento vem ativado por padrão, fica enterrado nas configurações do aplicativo. Ele exibe esta mensagem quando alguém tenta desativá-lo (tradução livre):
Retirar-se deste acordo?
Você não poderá sincronizar dados de saúde com sua conta Samsung e seus dados de saúde serão excluídos, a menos que sejam retidos de acordo com a lei aplicável. Se a retenção for necessária, nós os excluiremos assim que o período de retenção exigido terminar.
A Samsung coleta quatro tipos de dados no Health:
Uma mensagem no site da Samsung (em inglês) avisa que pessoas podem ter acesso a esses dados para revisá-los.
***
Grande rival da Samsung, a Apple também se prepara para tornar a Apple Intelligence, seu conjunto de ferramentas de IA generativa embebido nos sistemas operacionais, obrigatória a partir das versões 27.
Este comentário do Bruno, no Bluesky:
Instagram inaugura ferramenta que rouba todo o dinheiro da sua conta bancária e mata sua família. Saiba como desativar 👇
O Instagram (ainda) não faz isso. A brincadeira dele faz referência à notícia recente de que fotos de perfis abertos no Instagram poderiam ser usadas para gerar novas imagens no WhatsApp com a Meta AI, IA generativa da Meta, dona do Instagram. A imprensa repercutiu e destacou nos títulos o “Como desativar”.
Ecosia é um mecanismo de busca que vive alardeando suas credenciais verdes. Na prática, é o Bing repaginado com anúncios próprios por cima. Todo o dinheiro vem desses anúncios.
O grande argumento de venda da Ecosia é que esses anúncios pagam pelo plantio de árvores. Até aí, tudo bem.
Só que a Ecosia tem um extra. Uma IA. Peraí, como assim?
Quando você escreve um programa de computador, muitas vezes quer que ele acesse coisas privadas, tipo um banco de dados ou um serviço pelo qual você está pagando. Se fosse um humano, você poderia pedir a senha. Mas um programa precisa de um segredo de acesso para que um humano não tenha que apertar um botão o tempo todo.
Existem maneiras de fazer isso sem simplesmente colocar a senha no código do programa. São meio complicadas, mas qualquer programador competente deveria ter experiência com elas.
Só que chatbots não são programadores competentes. Então, o que os robôs de programação não param de fazer é colocar o segredo de acesso bem ali, no meio do código.
E se o repositório do seu programa for público, você acabou de revelá-lo para o mundo inteiro.
Alguma IA?
Nesta matéria no Terra
Já era: Avisar que uma reportagem foi feita com auxílio da IA.
Já é: Citar especialistas imaginários em entrevistas simuladas.
Já vem: Jornalista imaginário simulando uma reportagem.
Obrigado pela dica, Berlim!
30/6, 20h27: Alguém do Terra lê este blog (oi!) e apagou a matéria dos especialistas imaginários. Substitui o link para o original pelo da cópia salva na Wayback Machine.
1/7, 14h: A Ctrl+Z encontrou um punhado de médicos imaginários no YouTube. Óbvio que o YouTube seria precursor de mais este golpe.
2/7, 8h50: A Federação Nacional dos Jornalistas (Fenaj) destacou a reportagem veiculada no Terra para reforçar o pedido por regulamentação da IA no jornalismo.
2/7, 11h: O Giro 10, responsável pela reportagem, publicou um “erramos”. O Terra emitiu uma nota de esclarecimento em que joga a culpa e suspende o Giro 10, mas assume parte da culpa pelo vexame porque “ele foi publicado em nosso ambiente”. O portal ainda afirma estar tomando “medidas adicionais de supervisão para reforçar nossos mecanismos de revisão, e garantir o cumprimento das diretrizes editoriais e de uso responsável dessas tecnologias”.
6/7, 9h45: A ombudsman da Folha de S.Paulo trouxe mais detalhes. O Giro 10, agência de notícias, surgiu em 9/2025, publicou 6,6 mil (!) materiais desde então e recebe R$ 2–3 mil por contrato. Eles têm três clientes: Terra, R7 e O Estado de Minas (esse último também publicou a fatídica reportagem dos especialistas imaginários). Quem poderia imaginar que daria problema?
A corrida pela IA funciona queimando dinheiro de capital de risco e cobrando dos usuários de chatbot bem menos do que o custo real do serviço
A ideia é que os clientes vão se viciar no valor gerado pela IA. Aí os fornecedores de IA podem sugar tudo deles. E, enquanto isso, tentam não sangrar dinheiro demais.
Em setembro passado, o programador Mike Judge perguntou: se a IA é tão boa para programar, cadê os pequenos aplicativos feitos por IA? Onde estão os widgets que alguém simplesmente vibe codou? A avalanche de apps porcaria feitos por IA? Ele foi atrás dos números e não encontrou aumentos nos apps chegando à App Store ou à Play Store.
Neste ano, os bros da IA finalmente estão excretando aplicativos! E adivinha só? Ninguém quer saber deles.
Até hoje, a Apple mantém a Apple Intelligence, o conjunto de ferramentas de inteligência artificial encrostados nos seus sistemas operacionais, como algo opcional. Se não quiser, basta ignorar a opção durante a configuração de um novo dispositivo ou nas atualizações do sistema.
Esse gesto de respeito com seus clientes pode mudar no iOS/macOS 27. Relatos dão conta de que, pelo menos no primeiro beta, a Apple Intelligence é obrigatória:
gui
@NotaDiamond@mastodon.com.br
É a natureza se regenerando ao mesmo tempo em que é destruída pelo processo de regeneração.
A abertura da WWDC 26 (vídeo), evento anual da Apple para desenvolvedores e palco de apresentação das atualizações dos sistemas operacionais da casa, foi a mais curta em muito tempo. Teve apenas 1h19min.
Achei isso ótimo. Do que vi, pouca coisa me chamou a atenção. O que também é ótimo. Assisti ao comercialzão da Apple com um sentimento oposto ao das duas edições anteriores.
Ao contrário do que faz todo ano, desta vez não vimos blocos dedicados a cada sistema (iOS, macOS, watchOS etc.). A divisão do exíguo tempo foi feita da seguinte maneira:
Sob o risco de estar entre as primeiras vítimas da inteligência artificial em uma eventual rebelião das máquinas, restrinjo minhas interações com as IAs generativas (ou robôs de conversação) do presente a uma frieza protocolar.
Acesso o site, pergunto ou peço o que preciso, recebo a resposta, fecho o site. Nada de chamá-la por nome, pedir por favor, agradecer ou ficar de conversa mole. Evito ao máximo antropomorfizá-la. Trato-a pelo que é: uma máquina estatística jorrando palavras que fazem sentido, não uma nova forma de vida senciente — ao menos, até o momento.
Tratar a IA de modo protocolar é, para mim, uma maneira de manter a linha que nos separa bem demarcada a fim de evitar uma improvável — mas não impossível — “psicose de IA”, uma pira em que a pessoa acredita de verdade que a IA tem vida.
Um relatório recém-publicado pelo Centro para Democracia e Tecnologia (CDT, na sigla em inglês), de autoria das pesquisadoras Ruchika Joshi, Adinawa Adjagbodjou e Michal Luria, trouxe mais argumentos favoráveis à minha postura junto às IAs generativas.
O rsync é um programa para copiar diretórios de arquivos inteiros de um computador para outro, fazendo atualizações incrementais se houver apenas algumas mudanças. Você pode manter uma cópia de backup contínua. É super confiável para esse trabalho.
Até recentemente. Em 28 de maio, Jeremiah Fieldhaven postou sobre como seu sistema de backup quebrou depois de uma atualização do rsync:
