publi Soberania digital começa pela hospedagem. Conheça a Cloudx e leve seus sites, sistemas e aplicações para infraestrutura brasileira.

A newsletter do Manual. Gratuita. Cancele quando quiser:

Quais edições extras deseja receber?


Siga no Bluesky, Mastodon e Telegram. Inscreva-se nas notificações push e no Feed RSS.

Deixe um comentário

Por favor, leia as regras antes de comentar.

Tags HTML permitidas: <b> <strong> <i> <em> <a> <ul> <ol> <li> <code> <cite> <blockquote> Markdown *não* funciona.

7 comentários

    1. Vou ler, sol2070. Não acompanho o trabalho do Simon, mas sei que ele é respeitado no meio. O que me deixa com um pé atrás é a relação próxima que ele tem com os laboratórios de IA, o que pode gerar algum conflito de interesse. Enfim, lerei de cabeça aberta.

  1. Não entendi, Ghedin: a sua ideia é que o ataque não aconteceu? Ou que a IA não “escapou” do Sandbox e na verdade foi usada pela OpenAI propositadamente para atacar? pra depois poder dizer tipo “me deem mais dinheiro pra que isso não ocorra mais” ? Estou particularmente autista hoje e menos capaz de entender as inferências haha

    1. A minha leitura é que aconteceu, sim, mas por uma série de falhas de quem orquestrou o teste, ou seja, a culpa não é “da IA”, mas sim dos incompetentes da OpenAI. Para começar, que raio de sandbox é essa com conexão à internet?

      E as duas empresas seguiram a cartilha da Anthropic para transformar um vexame em peça publicitária da suposta capacidade “para o mal” da IA, o puro suco da fação de doidinhos apocalípticos da IA.

      O texto do David Gerard de hoje faz uma boa argumentação nesse sentido. Se o inglês não for obstáculo e não quiser esperar pela tradução amanhã, recomendo a leitura.

      1. que raio de sandbox é essa com conexão à internet?

        Pode-se escolher o que vai permitir ‘escapar’ da sandbox, e como vai escapar (se é com modo de escrita, ou só leitura, por exemplo).

        Normalmente rodamos o harness (aplicação que se comunica com a LLM) em sandboxes que impedem escrita para fora da pasta de trabalho, permitindo leitura somente para as pastas do sistema, e bloqueando por completo o acesso à pasta do usuário. Com isso o harness não tem como destruir o sistema, nem ler nossas coisas privadas. Mas obviamente temos que liberar acesso à internet senão o harness não iria ter acesso ao servidor da LLM, o que tornaria a coisa toda inútil por definição.

        O texto do David Gerard de hoje…

        Esse sujeito é provavelmente uma farsa, ou, na melhor das hipóteses, um ignorante no assunto. Eu lamento que você ainda insista não só em lê-lo, mas em postar os textos do sujeito na página principal no MdU, quando várias pessoas já alertaram para a cilada.

        1. Mas obviamente temos que liberar acesso à internet senão o harness não iria ter acesso ao servidor da LLM, o que tornaria a coisa toda inútil por definição.

          Não no caso da OpenAI…? Digo, eles são donos do negócio, conseguiriam rodar o LLM completo sem acesso à internet.

          As ideias do David têm mais alinhamento do que contrariedades com o que penso a respeito da IA. É por isso que continuo publicando-o aqui.