Inteligência Artificial

Para OpenAI, risco existencial de inteligências artificiais é só na dos outros

1

Quando o governo decide regular um setor emergente, é sinal de que as coisas estão prestes a sair do controle — se já não saíram.

A União Europeia — a exemplo do Brasil — está debatendo uma lei para regular a inteligência artificial, chamada lá de AI Act.

Sam Altman, CEO da OpenAI, dona do ChatGPT, fez um tour pelo continente em maio e, revelou nessa semana a revista Time, muito lobby para modificar o texto aprovado pelo Parlamento Europeu no último dia 14.

O lobby deu certo: as IAs gerativas generalistas, como o GPT-3/4 e o DALL-E 2, não são consideradas de “alto risco” pelo texto do AI Act, classificação que demandaria mais transparência, rastreabilidade e supervisão humana.

Como disse Timnit Gebru, Altman e seus pares, os cavaleiros do apocalipse, adoram alardear que a inteligência artificial representa um risco existencial à humanidade, mas só a dos outros — a IA deles, não. Via Time, @timnitGebru@dair-community.social (ambos em inglês).

O Snapchat tem um chatbot parecido com o ChatGPT, o My AI. De diferente, tem a apresentação — ele usa um avatar de pessoa. O My AI usa o mesmo modelo de linguagem do ChatGPT.

A Snap, dona do Snapchat, disse à Bloomberg que 150 milhões de pessoas conversam com o My AI e que já trocaram 10 bilhões de mensagens. Todo esse material está sendo analisado para personalizar anúncios, e parte da publicidade será inserida no próprio My AI, como se fosse parte da conversa.

O Snapchat avisa, antes de iniciar uma conversa com o My AI, que o conteúdo ali poderá ser usado para esses fins. De qualquer forma, vale o lembrete: chatbots não são nossos amigos, são só mais uma troca faustiana que topamos fazer com a big tech. Via Bloomberg [$$$] (em inglês).

1

Uma pesquisa descobriu que 33–46% dos trabalhadores da plataforma Mechanical Turk, da Amazon, estão usando inteligência artificial para completar as tarefas repetitivas e enfadonhas que costumam ser publicadas lá.

O MTurk é muito usado por empresas, entre outras coisas, para treinar IAs a um custo irrisório e sem encargos trabalhistas, ou seja, caminha-se para um circuito fechado de automação de tarefas repetitivas/enfadonhas. É a revolta dos precarizados usando as “armas” dos seus empregadores, hehe.

O pesquisador Manoel Ribeiro, um dos autores do estudo, alerta para o risco de que o treinamento de novos conjuntos de dados com IAs perpetue vieses e ideologias já existentes. Via @manoelribeiro/Twitter (em inglês).

Mitigar o risco de extinção causado pela IA deve ser uma prioridade global ao lado de outros riscos em escala social, como pandemias e guerra nuclear.

+350 executivos, pesquisadores e engenheiros envolvidos com inteligência artificial.

A carta aberta acima (inteiro teor) foi publicada pelo Centro de Segurança da IA. A brevidade é intencional, tem por objetivo reunir no mesmo coro vozes preocupadas que talvez discordem em detalhes, mas encaram a emergência da IA como uma ameaça.

Há nomes de peso ali, como os de Sam Altman (CEO da OpenAI), Demis Hassabis (CEO do Google DeepMind) e Geoffrey Hinton e Yoshua Bengio, pioneiros em redes neurais e tidos como “pais” da IA moderna. Via New York Times (em inglês).

2
8

As ações da Nvidia deram um salto de quase 25% semana passada, fazendo com que seu valor de mercado encostasse no US$ 1 trilhão. Se chegar lá, será a primeira do setor de semicondutores a valer tanto.

A empresa encarna o espírito de “vendedor de pás” na corrida do ouro do momento — a das inteligências artificiais. O chip H100, lançado em 2022 e vendido por US$ 40 mil a unidade, é um avanço significativo no processamento de grandes volumes de dados e está por trás de mega-sucessos recentes, como o ChatGPT.

A posição da Nvidia permite que a empresa dê declarações menos protocolares, mais interessantes que as de outras companhias mais próximas do usuário final, como Microsoft e Google. Jensen Huang, CEO da Nvidia, critica abertamente as sanções que os Estados Unidos impuseram à China e que impedem a sua empresa de vender para o gigante oriental. “Se [a China] não puder comprar dos EUA, eles mesmos vão fazer. Os EUA devem ter cuidado”, disse ele em entrevista ao Financial Times.

Nesta segunda (29), a Nvidia anunciou novidades em um evento de 2h na Computex, em Taiwan, incluindo uma plataforma de computação específica para aplicações de IA, batizada DGX GH200. Via Financial Times, Tom’s Hardware (ambos em inglês), Folha de S.Paulo.

3

A Microsoft anunciou (mais) um punhado de coisas envolvendo inteligência artificial, em parceria com a OpenAI, na abertura do evento Build nesta terça (23):

  • O Windows Copilot (vídeo) lembra muito as promessas da Cortana, porém sem uma interface de áudio, tudo por texto escrito/bate-papo. O lance de resumir PDFs e interagir com aplicativos de terceiros (Spotify, no exemplo) são bem legais.
  • A Loja da Microsoft ganhou uma central de inteligência artificial (vídeo) destacando aplicativos do tipo.
  • Já o Dev Home (vídeo) conecta o Windows 11 ao GitHub e reaproveita alguns recursos já existentes para facilitar e acelerar a criação de um ambiente de desenvolvimento.
  • O mais interessante, do ponto de vista dos negócios, é que a parceria com a OpenAI virou uma relação de mão dupla com a chegada do Bing ao ChatGPT.

Impressiona o volume e a rapidez com que a Microsoft tem explorado a parceria com a OpenAI e colocado na praça produtos baseadas em IA. Via Microsoft (2) (3) (em inglês).

ChatGPT já está alterando a internet

9

Inteligências artificiais gerativas prometem uma revolução. Embora possa soar como algo distante, quase no campo da ficção científica, em alguma medida a revolução já está acontecendo.

A startup NewsGuard identificou 49 sites de notícias que usam IAs como o ChatGPT para gerar todo ou quase todo seu conteúdo, boa parte dele com imprecisões ou mentiras. Existem sites em português na amostragem.

(mais…)

A Neeva, startup fundada em 2019 por dois ex-executivos do Google, Sridhar Ramaswamy e Vivek Raghunathan, com a promessa de oferecer um buscador melhor, pago e sem publicidade, anunciou o encerramento do seu buscador pago e sem publicidade no sábado (20).

Depois de uma breve desvio (ou delírio) em criptomoedas, agora a Neeva vai focar em grandes modelos de linguagem (LLM, na sigla em inglês), o “coração” de inteligências artificiais como GPT-4, LLaMA e PaLM 2.

Estratégia estranha, essa de pular de tendência em tendência e, em todos os casos, bater de frente com algumas das maiores empresas do planeta — no caso, Google, Meta e Microsoft.

No Hacker News, Vladimir Prelovac, fundador de outra startup de buscas online sem publicidade, o Kagi, traçou a sua estratégia: aguentar o atual ciclo de empolgação com IAs (que ele prevê será de dois anos) e, quando as pessoas estiverem fartas dos chatbots repletos de publicidade e forem atrás de um buscador melhor, estar lá para antendê-las.

O relato de Vladimir tem muitos “ses”, ou seja, apresenta uma conjuntura impossível de prever a essa altura. Apesar disso, gosto da premissa (“sobreviver aos próximos dois anos e continuar inovando no que importa”) e há o argumento favorável de que pesquisas online são um produto consolidado, com bilhões de usuários, passando por um momento de turbulência, com a pressão multilateral que o Google enfrenta e a emergência dos chatbots como alternativa ao modelo clássico de pesquisa online. Via Neeva (em inglês).

por Shūmiàn 书面

Não bastasse ter sido um dos primeiros países a avançar na criação de legislação sobre o uso de inteligência artificial gerativa, ao que tudo indica a China é pioneira em realizar uma prisão pelo uso impróprio do ChatGPT.

O motivo: usar o programa para criar notícias falsas sobre um acidente de trem que teria resultado em nove mortos. O caso aconteceu em final de abril e se encaixou na legislação já vigente de perturbação da paz pública — que inclui o ciberespaço, explica o The China Project.

O rascunho da legislação sobre IA e ferramentas como o ChatGPT ainda está em tramitação. Vale muito a pena ouvir o episódio mais recente do Sinica Podcast sobre toda essa regulação, com Kendra Schaefer e Jeremy Daum. O próprio Daum também fez um fio recente no Twitter sobre a publicação de conteúdo gerado por IA no Douyin (a versão chinesa do TikTok).

A Shūmiàn 书面 é uma plataforma independente, que publica notícias e análises de política, economia, relações exteriores e sociedade da China. Receba a newsletter semanal, sem custo.

A Apple anunciou uma série de novos recursos de acessibilidade para suas plataformas, no que já é uma espécie de tradição anual da empresa, que aproveita o Dia Mundial de Conscientização sobre a Acessibilidade (18/5) para promover seus esforços na área.

Dois destaques:

  • Acesso Assistido, que simplifica bastante a interface do iOS e iPadOS para facilitar o uso. Lembra aqueles launchers para idosos que existem aos montes no Android (e que é o diferencial do celular da brasileira Obabox.) No link abaixo, para a Apple, tem imagens da interface e dos aplicativos adaptados/compatíveis.
  • Voz Pessoal, uma inteligência artificial no próprio dispositivo que, com 15 minutos da voz do usuário, consegue treinar e reproduzir a voz para ajudá-lo a conversar. Parece um primeiro passo para outras IAs locais (leia-se: com mais privacidade) que a Apple poderá lançar no futuro.

Via Apple (em inglês).

14

No palco do Google I/O, o Google anunciou com orgulho que o Bard, seu chatbot concorrente do ChatGPT, fora disponibilizado em 180 países no idioma inglês. Brasil, Canadá e todos os países da União Europeia ficaram de fora, como se vê ao tentar acessar o site e nesta página de suporte.

A empresa não especificou o motivo. Lá fora, publicações especializadas especulam que a ausência do Bard nesses locais tenha a ver com cautela legal por parte do Google. A Itália, por exemplo, baniu o ChatGPT brevemente. No Brasil, como se sabe, o Google trava uma guerra contra o Congresso e o governo federal no momento em que essas instituições tentam regular as grandes empresas de tecnologia. Via 9to5Google (em inglês).

Você sabia que o Google é uma empresa de inteligência artificial?

8

O Google enfatizou muito que é uma empresa de inteligência artificial na abertura do Google I/O, seu evento anual para desenvolvedores.

A cautela de anos anteriores com a oferta de produtos de IA foi deixada um pouco de lado, graças à pressão que o Google tem sofrido de OpenAI e Microsoft, que tomaram o imaginário popular com ChatGPT e Bing Chat.

A abordagem do Google para a IA na busca, seu grande negócio, é mais cautelosa. Em vez de um chatbot, o Google desenvolveu o que chama de “AI snapshot”, uma versão mais robusta daquelas caixas que tentam responder a pergunta feita pelo usuário sem que ele saia da página de resultados da pesquisa.

Além de mostrar links para as fontes das informações trazidas pela IA (links em que dificilmente alguém clicará), os tradicionais dez links azuis de resultados continuam disponíveis, porém enterrados no final da página.

Esse recurso de IA na busca, chamado “Experiência Gerativa de Pesquisa”, ainda é experimental e “opt-in”. A exemplo de outros produtos e serviços do Google, ele recorre ao PaLM 2, o novo grande modelo de linguagem da empresa. (Pense no PaLM 2 como equivalente ao GPT-4 da OpenAI.)

O PaLM 2 também está por trás de uma nova versão do Bard, o chatbot do Google, e dos recursos de IA do Google Workspace, agregados sob o guarda-chuva/nome Duet AI.

Executivos do Google resumem a nova postura da empresa como “ousada e responsável”, ainda que menos responsável que no passado. Nada exemplifica melhor os riscos que o Google topou correr que o “Tradutor Universal”, um gerador de vídeos deepfake em múltiplos idiomas. O potencial de mau uso dessa tecnologia é gigantesco e o Google se ilude (ou tenta nos iludir) dizendo que terá salvaguardas e restrições para evitar abusos. Isso nunca funcionou e ficaria surpreso se funcionasse agora.

O Google segue investindo em hardware. Apresentou o Pixel Fold, celular com tela dobrável de US$ 1,8 mil (~R$ 8,9 mil) e o Pixel Tablet, ambos com a promessa, feita pela enésima vez, de que o Android para tablets finalmente ficará bom. Também anunciou o Pixel 7A, celular de baixo custo que não é mais tão baixo custo (subiu para US$ 499). Via The Verge, Google (2), TechCrunch (todos em inglês).

16

Em entrevista à Bloomberg, Arvind Krishna, CEO da IBM, disse que a empresa suspenderá contratações de cargos que ele acha podem ser substituídos por inteligência artificial. Nas contas do executivo, em áreas que não lidam diretamente com clientes, como recursos humanos, cerca de 30% dos trabalhadores podem ser trocados por uma IA. São cerca de 7,8 mil cargos que, ainda de acordo com Krishna, serão desativados nos próximos cinco anos. Via Bloomberg (em inglês).

Do Telegram ao ChatGPT, tudo muda

6

Neste Guia Prático, Jacqueline Lafloufa e Rodrigo Ghedin falam do bloqueio ao Telegram no Brasil, das ferramentas profissionais que invadem nossas vidas pessoais, das novas possibilidades que coisas como o ChatGPT apresentam — em comum, tudo isso significa mudar. No final, Jacque tem um recado aos ouvintes.

Apoie o Guia Prático

Nas últimas duas semanas, o Manual do Usuário — e, por consequência, o Guia Prático — ganhou um novo apoiador: Edson Neto. Obrigado!

Gosta do podcast? Se puder, apoie o nosso trabalho e ajude a mantê-lo no ar. A assinatura custa apenas R$ 9 por mês, ou menos de R$ 0,30 por dia. Se preferir, assine com desconto no plano anual por Pix, a partir de R$ 99.

Indicações culturais

  • Ghedin: O filme Moscou contra 007 [Prime Video], de Terence Young.
  • Jacque: O filme Padre Johnny [Netflix], de Daniel Jaroszek.

Música de abertura: Free Jazz, de Steve Combs.
Foto de capa: ilgmyzin/Unsplash.

por Shūmiàn 书面

A inteligência artificial só é tão boa quanto os dados em que é treinada. Quais as consequências do grande firewall chinês sobre a sintetização dos resultados? E como censurá-los? Essas questões foram levantadas pelo pesquisador e jornalista Michael Schuman em um texto para a revista The Atlantic.

Embora a China seja responsável por um terço dos artigos e citações acadêmicos na área de IA e o governo tenha metas ambiciosas para o setor, a política pode desacelerar o desenvolvimento da tecnologia.

Um caso emblemático é o robô Ernie, do Baidu, cuja apresentação para acionistas em meados de março foi pré-gravada, o que imediatamente derrubou as ações da companhia. Elas se recuperaram uma vez que o público foi capaz de testar o produto, mas ficou claro que o robô impõe limites a questões políticas.

E isso não deve mudar. O primeiro rascunho da nova lei de Inteligência Artificial generativa, lançado este mês, indicou que os conteúdos gerados devem estar de acordo com o pensamento socialista e não devem subverter o poder do estado, a ordem social ou econômica.

A Shūmiàn 书面 é uma plataforma independente, que publica notícias e análises de política, economia, relações exteriores e sociedade da China. Receba a newsletter semanal, sem custo.