A grande barreira da inteligência artificial, por Cezar Taurion no Neofeed:
As diferenças entre humanos e máquinas são brutais e o próprio nome IA é incorreto. O artigo Nonsense on stilts joga um pouco de luz nessa questão. Seu autor, Gary Marcus, que publicou o excelente livro Rebooting AI, mostra que o LaMDA não é senciente e está muito longe de ser.
Por exemplo, nós humanos temos o pensamento abstrato. Fazemos analogias e criamos conceitos. Podemos ver uma foto e imaginar toda uma história em torno dela. Podemos ouvir um relato e visualizar as cenas ocorridas, embora não estivéssemos lá.
Os algoritmos de DL são modelos que criam representações matemáticas de pixels. São treinados “vendo” milhares e milhares de imagens de carros que estejam rotulados como “carros”. Quando recebe uma nova foto de carro, ele tenta fazer o casamento matemático com os modelos de pixels que já “aprendeu”. Quando dá match, ele aponta que é um carro. Se não der match, ele aponta para o padrão que mais se aproxima estatisticamente, que pode ser algo como uma tampa de lixeira.
Sim! A discussão do Manifesto Nooscópio vai por aí e lança luz sobre vários problemas importantes.
Ótima síntese. A imaginação é uma característica básica que nos diferencia como espécie (nos diferencia dos outros animais e das máquinas). E além disso, tem a questão fundamental de que a nossa mente é resultado da atividade cerebral mais as relações do corpo inteiro com o ambiente – na forma de sensações, sentimentos etc. – e o aprendizado social que a gente acumula ao longo da vida. Quanto a isso, recomendo ler Miguel Nicolelis, que sempre reitera que o cérebro é um órgão analógico e portanto tem natureza diferente da máquina digital. Recomendo também dois livros muito esclarecedores a respeito: Sentir & Saber, de António Damasio, e Out of Our Heads, de Alva Noe.
Eu ouvi o episódio do Flow com esse Nicolelis e achei fantástico. O cara pode ganhar Nobel e ninguém conhece ele. A questão do cérebro analógico e impossibilidade de “backup mental” faz até ficção cientifica virar fantasia.