IA chinesa censura temas sensíveis na China e água é molhada
Às vezes a imprensa descobre (ou finge que descobre) que a água é molhada e publica coisas como esta, que estampou todos os jornais semana passada: “DeepSeek se autocensura quando perguntado sobre alguns temas políticos da China.”
Vindo de onde vem, seria notícia se uma inteligência artificial generativa chinesa não censurasse tais temas.
Não me recordo (e fiquei com preguiça de procurar) se, nos últimos dois anos e meio, alguém se deu ao trabalho de testar o Copilot da Microsoft na criação de códigos que mencionem palavras como “sexo” ou “gênero”. Até duas semanas atrás, a IA cruzava os braços (figurativamente falando) ao topar com elas, segundo esta conversa no GitHub, um serviço da Microsoft.
E, veja: longe de mim defender a China, o PCCh ou quem quer que seja. É que, embora às vezes se tenha a impressão de que não, todo mundo tem teto de vidro.
Aliás, dado que o novo governo estadunidense tem como principal política pública destruir dados e documentos de gente que eles odeiam, quanto tempo até as big techs de lá, todas em lua de mel com Trump, dizerem “amém” e fazerem o mesmo?
Via Baldur Bjarnason (em inglês).
certa vez fiz um comentário no chatgpt sobre como bilionários não deviam sequer existir e a resposta dele foi algo na linha de que eu estava errado e estava agredindo direitos humanos (???!!!)
Como alguém que está estudando IA, o que aparenta (pelo que li) é que esse filtro de “censura” na prática está na última camada da LLM. Algumas pessoas fizeram um refit em versões destiladas do DeepSeek, removendo a última camada do mesmo, e foram obtidos resultados para as consultas “censuradas”
Além disso, vou dizer uma coisa polêmica aqui: sou mais afeito a confiar na DeepSeek que na Llama ou no ChatGPT, pois ao menos sabemos que apito a China toca. Quais pesquisas podem ser censuradas ou adulteradas em uma das IAs Americanas? Questionar o Afeganistão? Irã-Contras? Invasão da Embaixada em Teerã? Operação Condor?
A operação Condor dá umas respostas estranhas no ChatGPT …
Acusar a China de censura, plágio ou espionagem é o recurso clássico da mídia ocidental para desvalorizar os avanços tecnológicos que são feitos lá. É o argumento que se tem, e que é sempre usado, independentemente de qual seja o avanço. Não foi diferente na semana passada com o DeepSeek. Fica uma impressão de que trazem essas acusações porque os argumentos técnicos se esgotaram.
Faz sentido o bloqueio? Não muito, esse momento é bem documentado, inclusive pela China. Deve ser alguma diretiva interna do modelo do Deepseek mesmo.
E não tem comparação com os EUA e outros países ocidentais porque o modo de operação destes ;e muito distinto. Os países ocidentasi trabalham mais no que tange a desinformação e menos no que tange aos fatos. Os fatos são conhecidos, o que muda é o modo oficial como as coisas são postas. O próprio “massacre” da Paz Celestial não tem nada de massacre, é muito mais propaganda ocidenteal (EUA e UE). Assim como Holodomor e o “genocídio” Uigur. Todos são instrumentos de propaganda ocidental contra os regimes.
Aqui no ocidente distorcemos os fatos de maneira mais sutil, admito.
Um exemplo: o governo Milei aumentou a quantidade de pessoas em situação de pobreza na Argentina. Esse fato não é escondido em nenhum momento, contudo, quando o ocidente tratar sobre o assunto ele vai tratar como um “amargo remédio” que levará a Argentina e o seu povo para dias melhores.
Outro exemplo: um trabalhador morre dentro de um supermercado e é coberto com alguns guarda-sóis para que a unidade siga funcionando. Esse fato jamais será escondido, mas você verá a notícia como “um caso isolado” e receberá uma carta/memorando da rede dizendo que “tomará as medidas cabíveis” (mesmo que essa seja a diretriz da empresa).
São modos distintos de disfarçar os podres do sistema e os problemas de cada nação. Eu acredito que os dois são problemáticos, mas, no longo prazo a propaganda ocidental liberal é mais danosa a sociedade, uma vez que ela cria uma nomalização do absurdo (a morte de pessoas, vide a pandemia) em prol da continuidade de um sistema de organização sócio-econômico. EM termos de liberdade, provavelmente um chinês é mais livre do que um norte-americano (canadense e estadunidense) e muito provavelmente leva uma vida muito mais digna também.
Holodomor e o “genocídio” Uigur são propaganda? Teria como discorrer sobre isto?
Um chinês é mais livre que um estadunidense?? Tem uma experiência prática disto? Porque 100% das evidências não mostram isto, de onde tirou esta informação?
Dúvidas sinceras.
E depois tem quem diga que só a direita conservadora faz negacionismo histórico, haha.
Olha, vou ser sincero: eu também sei MUITO POUCO sobre tudo isso, e hoje tenho mais consciência que a informação no ocidente sempre veio com viés. Então entender a história do viés também da China daria a noção correta. O ponto é que no caso da praça celestial, a imagem mais icônica é da pessoa na frente do tanque. E não duvido que tenha o resto do vídeo.
Ao mesmo tempo, o problema no HOJE é que a tecnologia de edição de imagem (não falo IA pois requer mais mão humana que se pensa) também daria uma pincelada na imagem. Mas bem, para isso existem jornalistas, historiadores e pesquisadores que tem a informação correta.
Sei pouco, mas sei que Gramsci sempre ensinou que o correto é que boa informação é aquela que se espalha com facilidade para leigos.
O ideal é que em situações assim sempre venham as informações corretas, no que espero links. Não dá para pesquisar em ambiente enviesado.
Depois do frame famoso do homem na frente do tanque, o homem sobe no tanque, conversa com os militares dentro do tanque e depois volta pra frente do mesmo tanque. Logo após ele é retirados por outros estudantes da frente do tanque (esse foi um protesto de estudantes, basicamente).
O que aconteceu depois ninguém sabe e a maioria das suposições vem de fontes ocidentais (novamente) que dizem que ele foi executado logo após o evento. Outros dizem que ele emigrou pra Taiwan e virou arqueólogo. Mas ninguém sabe exatamente o que rolou.
Três fontes sobre isso:
Mas isso é um tema controverso, não tem nada de negacionismo. O que ocorre é que as pessoas tem apenas um lado da historia (o ocidental criado e enviesado pela UE e pelos EUA).
Eu resumi, anos atrás, e agora pedi pra Maritaca dar uma retocada no meu texto, os dois relatórios principais sobre os uigur (o relatório da ONU e a resposta chinesa).
Se quiser ler: https://telegra.ph/Resumos—China-02-04
Você reclamou de propagandismo ocidental contra ditadura socialista e rebateu com dois links de propagandista marxista. Eu diria que é complicado, mas prefiro deixar pra lá mesmo. Vida que segue.
Aproveito para agradecer as respostas. :)
Ao contrário do Guilherme, para mim é uma soma saber de um outro ponto de viés sobre isso tudo. E legal a história do tanque. Bom saber que ao menos a primeira parte do final é boa (não houve mortes). Pena não saber onde foi parar o estudante. Mas se ele estiver ao menos protegido, está ótimo. Tem pessoas que não querem ser “santificadas”. Só queriam fazer um esforço para tentar fazer o conflito parar.
@ Guilherme H
Eu postei dois resumos. Um do artigo relatório da ONU e outra da resposta chinesa ao relatório da ONU. O primeiro define como genocídio. O segundo rebate as acusações.
De onde sairam os dois links com propagandas marxistas?
@ não tão relevante
É uma pena, mas provavelmente o estudante foi monitorado até não ser mais uma “ameaça”.
O último link, do Vogalizando, é de um professor de história liberal inclusive (ele fala bem mal da China no vídeo). É bom pra tirar as próprias conclusões com um pouco menos de viés.
@Paulo GPD
Eu me referi ao comentário com os links para o João Carvalho e o Elias Jaboour, gente muito inteligente, mas com atuação pública mais focalizada em militância ideológica e um conhecido e bem documentando interesse em defender/aliviar crítica para cima de ditadura, o que, como diria uma pessoa que também me parece muito inteligente (sem ironia) nessa caixa de comentários, soa como um “redflag muito grande do seu alinhamento ideológico”. É válido? É válido. Mas eu prefiro ver o filme do Pelé a consumir conteúdo deles. Vida que segue.
Holodomor é um nome, dado para soar similar ao Holocausto, para a grande fome soviética de 1930s. A URSS passava por um processo de coletivização forçada do campo, sofrendo resistências da pequena burguesia do campesinato (kulaks), soma-se aos erros de planejamento e execução da política ainda teve causas climáticas. Ninguém nega a existência da fome. No entanto negamos a narrativa de um genocídio planejado e perpetrado contra ucranianos. Isso se alinha com a pesquisa histórica recente, em destaque eu cito o livro The years of hunger dos professores R. W. Davies e S. G. Wheatcroft
Já a questão Uighur atual, salve engano ainda não temos uma pesquisa histórica concludente. No entanto vale frisar os ataques terroristas provocados por um movimento separatista
O estaduniense tem muitas liberdades, ressalto as liberdades de morrer de asma porque seu remédio saiu de $36 para $539, direito de fazerem protestos nazista ou a grande liberdade de não ter uma casa, enquanto existe milhões de casas vazias
Isso já é uma redflag muito grande do seu alinhamento ideológico. Mas eu primeiro preciso saber o que você considera liberdade. Nos EUA não se tem acesso amplo à democracia, saúde, educação e moradia. Algo que é comum na China, por exemplo (ainda que tenha piorado).
O amigo Vanderlei já respondeu abaixo sobre isso.
Tudo o que sabemos sobre isso no ocidente derivam de dois relatórios, o primeiro da Universidade Fairfax da América (EUA) e o segundo de um conjunto de 50 estudiosos das Câmaras do Tribunal de Essex (Reino Unido). A partir desses dois estudos o ocidente indteiro criou uma narrativa anti-China. E ambos os estudos tem como base um livro-relato de um Uigur radicado na universidade de British Columbia.
Não quero apontar e cometer um tu quoque mas as eviodência são fracas sobre isso e, ademais, são usadas como propaganda porque não vemos o mesmo barulho quando falamos, por exemplos, dos genocídios dos EUA contra indígenas (que ainda ocorrem), contra afegãos (na época da ocupação), contra iraquianos (após a Guerra do Golfo), contra o povo haitiano (na ocupação pós indenpendência) e muitos outros que eu poderia citar aqui.
Mas um bom ponto a se considerar é que com o “genocidio” em prática a população Uigur cresceu entre 2000 e 2020, o que soa um contraponto quando estamos falando de um política estatal de genocídio. O mesmo não se pode dizer sobre as questões envolvendo os EUA que eu citei acima.
A questão principal sobre esse e os outros aspectos da sociedade chinesa é que nós, aqui no Brasil, não temos capacidade de falar sobre isso porque nós não temos conhecimento sobre os assuntos. Ao menos, não temos conhecimentos que não seja enviesados pela mídia e por orgãos que são alinhados aos EUA e sua política internacional.
As duas situações não são equivalentes (ou comparáveis) na minha opinião. Uma coisa é bloquear palavras-chave relacionadas a gênero ou sexo, que podem estar associados a algum controle parental, ou algum tipo de contexto interno na própria Microsoft. Outra coisa é bloquear um tema polêmico sensível diretamente ao governo, por ordens diretas do governo chinês, ou por medo deste.
E nem é discordar que os dois possuem teto de vidro, muito provavelmente deve ter algum tópico sensível ao governo americano bloqueado no ChatGPT e no Copilot (sei lá, Área 51? 11 de Setembro?). Só achei a comparação meio descabida mesmo.
A imprensa já cobriu os vieses do MS Copilot (e de outras IAs dos EUA) à exaustão mas, realmente, para saber é preciso não ter preguiça de dar um google rápido sobre o tema.
Eu devia ter feito o dever de casa e pesquisado antes, Guilherme. Fazendo a pesquisa agora, só encontrei repercussão do caso do Copilot em sites especializados, nada em jornalões, como aconteceu com o da DeepSeek. Você tem links/fontes?
Vou procurar de novo e trago aqui depois. De toda forma, faço das palavras do Diogo as minhas: acho que existe uma diferença entre autocensura para não desagradar a ditadura em que você hospeda o seu serviço e a pataquada da MS com o Copilot.
“Pataquada” é uma descrição muito benévola ao que a Microsoft faz. Às big techs estadunidenses, no geral. Para ficar num exemplo análogo, o puritanismo da Meta já “censurou” um fato histórico.
E, de verdade (não é para pegar no pé, não 😁), eu me pergunto o que é pior: uma censura pública e notória, como o caso da China com a Praça Celestial, ou censuras sutis e não documentadas, inseridas em softwares que usamos todos os dias e que se pretendem “livres de censura”, mas que afetam talvez mais do que os abusos chineses?
Na conversa do GitHub, tem gente comentando os problemas que teve com o Copilot se recusando a trabalhar em códigos que compartilham apenas o nome com termos proibidos, como
trans_timepara tempo de transação, por exemplo.Voltando ao puritanismo da Meta, é importante observar que a proibição à exibição de mamilos femininos não é mera discricionariedade da empresa, mas sim um conjunto de leis e costumes locais diluídos em regras da empresa. O Estado não impõe a proibição, mas a proibição é decorrência indireta da sua atuação e posturas. O mesmo vale para à cruzada contra inclusão e equidade, que agora está em força máxima.
Novamente: na ponta, para os usuários estrangeiros (nós, no caso), qual a diferença entre isso e a censura chinesa, além da (in)certeza entre o que é proibido e o que é permitido?
Eu não trato censura de ente privado como equivalente a censura de ente público, ainda que ache ambos ruins. Também não acho bonitas nenhuma delas mas, se for pra elencar, eu vou sempre achar a censura imposta por aparato estatal pior do que a do ente privado.