Este post, em que o Paulo usou o ChatGPT para resumir o conteúdo do link, precipitou um debate que achei demoraria mais para chegar aqui.
O Órbita deve permitir conteúdos gerados artificialmente?
É um problema limitado, porque o fluxo de cadastro do Órbita é supervisionado por um ser humano, mas não é impossível, como o post acima demonstra. (Além disso, comentários não dependem de cadastro e podem ser explorados.)
Existem alguns caminhos possíveis, como o da proibição ou o da permissão desde que sinalizado como tal (da maneira como o Paulo fez). Antes de bater o martelo, queria ouvir o que vocês acham. E aí?
Acho uma boa ideia pensar em que casos o ChatGPT seria usado aqui no Órbita e avaliar se vale a pena manter ou banir.
Não acho que vai chegar ao ponto do ChatGPT dominar aqui nesse ambiente (ao contrário do Stackoverflow, que considerou esse risco e achou melhor banir a ferramenta [1]).
Aqui é um espaço de discussão e opinião, e por esse motivo, não tem muita aplicação de uma IA generativa. Diferente de outros espaços, onde uma resposta mais exata é requerida e onde o ChatGPT seria mais “atrativo”.
Pois bem, pensando em alguns casos onde o ChatGPT poderia ser usado aqui, eu só consigo pensar em dois: 1. para oferecer um resumo de algum outro texto (como já foi usado); 2. para introduzir um assunto — por exemplo, se quero falar de computação quântica, eu posso pedir pro Chat fazer uma introdução bem resumida pra depois eu entrar com um questionamento ou opinião.
Nos dois casos a ferramenta ainda pode oferecer algum conteúdo incorreto, mas que ainda vai passar pelo crivo do autor e das outras pessoas.
Além disso, não acho que a comunidade tenha pessoas o suficiente a ponto de que a situação saia do controle. E por isso não “ameaça o refúgio” de onde podemos debater.
Sobre moderar: eu não tenho muito o que dizer sobre isso, mas imagino que o esforço para moderar um post e um conteúdo gerado por ChatGPT seja o mesmo, não? O que diferenciaria, o fato de que o ChatGPT pode gerar textos maiores com menos esforço? Talvez nesse caso seja interessante avaliar o motivo de alguém trazer pra cá um texto grande gerado por IA.
Por isso não acho necessário banir o ChatGPT por aqui, pelo menos por enquanto, não.
[1] https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned
Honestamente eu vi bom uso do ChatGPT, o Paulo só jogou a notícia traduzida.
Já facilita pra quem não tem domínio do inglês, ain mas é só jogar você mesmo no tradutor, pô até abrir o link e jogar no tradutor a maioria já desistiu.
Somando um pouco mais ao caos de argumentos presentes, a minha opinião é pelo “Não” nesta questão.
Sejamos francos, utilizar um texto de chatgpt e similares para “comentar” é simplesmente não comentar, é o oposto do que se propõe esse espaço.
Utilizar a desculpa de que “Ah, duvido que a maioria leia os textos extensos, e por isso é melhor usar o programa para resumir” ou questões semelhantes é besteira, e novamente, vejo como o oposto deste espaço, que é o debate, compartilhamento de ideias, opiniões, curiosidades a partir de um viés pessoal.
Se a pessoa acha interessante um texto, quer debater e acha que um resumo cairia bem, se ela leu deve ser capaz de passar uma ideia sucinta do texto.
Utilizar estas ferramentas para facilitar um resumo para você, no âmbito do seu trabalho, legal, mas tenha a consciência de que talvez alguma parte importante do texto poderá ser suprimida pela ferramenta e você não saberá, mas agora, para discutir, conversar, trocar ideias, o que há de interessante nisso? Se for para debater com um chatgpt da vida prefiro eu fazer isso no próprio chatgpt.
Agora, trazer um texto produzido por estas ferramentas, para discussão, comparativo, curiosidade, desde que identificado, acho válido.
Mas entendo que, primariamente, para decidir se há espaço no órbita para chatgpt e afins, deve-se perguntar “Qual a razão de existência e o que torna este um espaço divertido na internet para os humaninhos que aqui orbitam?”.
Concordo. Escrevi algo na mesma linha nos comentários desse post.
Falando em IA, a Clara Gomes do Bichinhos de Jardim tem uma ótima piada
https://bichinhosdejardim.com/jfp-inteligencia-artificial/
Gostava mais do post livre porque de alguma forma esse tipo de situação ñ seria aberta.
Sobre o uso de resumo no Órbita, como já falaram, ñ vejo sentindo, já que a ideia seria trazer o debate a partir de uma opinião própria. Até agora ñ sei o que o Paulo pensa sobre o artigo que pediu para o ChatGPT resumir.
Duas discussões porque eu usei o ChatGPT pra resumir um artigo longo que eu acho que a maioria não iria ler (e sigo achando que a maioria não lê artigos longos e se baseia mais na discussão dos comentários do que no texto para comentar algo).
Mas eu entendo. A maioria das pessoas guarda o MdU como o local purista para essas tecnologias e quer uma slow web mais voltada ao humano e menos ao automático.
Da minha parte, uso GPT em tudo se deixarem. Pesquisei sobrs NLP a faculdade toda. O GTP e outros LLM’s são meu parque de diversões, é tudo o que eu sempre quis vez em ação, foi o que eu pesquisa entre 2011 e 2015 e sonhava, basicamente. Mas entendo que isso é algo completamente pessoal porque e EU estou envolvido até o pescoço nesse mundo faz mais de 10 anos.
Lendo seu comentário, somente consigo pensar em quais usos cotidianos para o GPT.
Já li/ouvi que muitos, mas por falta de repertório, ainda me serve apenas como diversão e para ajudar com augumas automações em YAML no homeassistant.
Penso que seria interessante colocarmos perspectivas de usos, em que tarefas foram facilitadas pelo uso da IA.
Usos cotidianos seriam o que? Não entendi o que seriam.
Mas usar uma IA potente como essa para gerar esqueletos de textos, automatizar documentos que são repetitivos (como pareceres, petições) ou usar para resumir e pedir questões de prova, por exemplo, para o estudo de um concurso. Pedir para a IA os principais pontos de uma lei, os principais pontos de uma apostila.
Pode-se até pensar em compilar um corpus de provas de concursos, parametrizar o que mais aparece como assunto e usar essas informações pra criar um plano de estudos focado nessa situação.
A questão é: porque não usar?
Me referi a quais usos você dá ao CHatGPT (ou IAs no geral) em seu dia a dia, como os exemplos que você deu e também questões que tenho visto em outros locais:
– maneiras de se fazer um script que automatiza determinada rotina;
– como se cria tal configuração no sistema Y // Como configuro para que minhas lâmpadas inteligentes da Philips se acendam a tal horário;
– outros usos que tenha dado para resolver seus problemas cotidianos.
– evitar escrever “augumas” por ter digitado errado kkkk
Minha pergunta se dá porque ainda ficamos (de modo geral) muito naquele uso para verificar alguma curiosidade, ou apenas brincando com o ChatGPT, mas ganhando repertório (vendo outros exemplos) podemos ter mais ideias e usar melhor essa tecnologia no nosso dia-a-dia.
É possível que a maioria das pessoas que acessam o Manual saibam usar IA para traduzir e resumir textos.
A opinião e o tema vão despertar o interesse e fazer alguém usar a ferramenta para processar o conteúdo ou não.
Usando aquele argumento sobre os links do Órbita que abrem numa mesma página e não em uma nova guia, permitindo assim a escolha de na forma de navegar, penso que o ChatGPT ou qualquer outra IA podem seguir pelo mesmo caminho, como opção.
Minha opiniao é a seguinte: como o Ghedin mesmo comentou, moderar esse tipo de coisa pode ser muito difícil, e dependendo do uso, pode até ser útil.
Agora, o uso que foi dado no post em questão a meu ver não se encaixa com a proposta do Órbita, que eu entendo que seja uma discussão entre pessoas. Esses textoes de IA são enfadonhos e particularmente me cansam.
Perguntaram: ah, mas materias longas vc leria? E eu respondo que leio com muito mais frequencia materias longas que são postadas aqui do que em outros lugares, pois geralmente confio na seleção feita pela comunidade aqui, pelas discussões, que me instigam, e porque geralmente o pessoal coloca bem sucinto sobre o que é o link. Não sou um Fernando Haddad, que lê um livro da Amazon por dia, mas geralmente ler matérias longas que o pessoal posta aqui vale o esforço, e acho que é parte da nossa “experiência” aqui. No post com o resumo do chatgpt eu confesso que parei de ler, e mesmo quando o Ghedin abriu este tópico remetendo a aquele, fui tentar ler de novo e não terminei pq achei muito chato, e isso me afastou da discussão. Se mais posts seguirem esse modelo provavelmente participarei de menos discussões aqui no Órbita. Se mais pessoas daqui farão o mesmo não sei.
Posso *tolerar* um resumo com o devido aviso porque aí posso pular e ignorar, mas faço a seguinte pergunta aqui:
O lance do órbita é discutir não? Não faz sentido pra mim discutir um artigo a partir de um resumo, muito menos um resumo “neutro/técnico”, então se é pra discutir o artigo, que se discuta o material completo.
Porém se é o caso, se a discussão partir do artigo completo, então ter um resumo também não faria sentido por consequência, veja que não estou entrando nem no mérito da IA.
Por mim, IAs gerativas podem ter um uso legítimo em alguns campos, mas acho que a gente tem que ser mais criativo que somente imitar o que a indústria da tecnologia especulativa quer que seja o futuro, se possível um onde a economia de tempo não seja uma obsessão.
Há outra coisa também: sendo um resumo um conteúdo derivado do original, pode ser tecnicamente quebra de copyright? Se for permitido, também teria que considerar isso, especialmente se houver paywall.
Acho que essa é a questão de fundo.
Digamos, a pessoa leu um artigo, achou legal e imagina que o pessoal do Órbita irá se interessar. Então ela vem aqui pra compartilhar o link.
Mas ela não tem tempo ou vontade para escrever uma pequena introdução ou apontar o que achou interessante sobre o texto em si. Então ela delega essa parte para a IA, que acaba escrevendo um resumo completo do texto no link.
Acho que é um uso pouco interessante da IA. O que é legal no Órbita é saber o que a pessoa achou interessante no texto, ter esse fluxo de aprendizado mútuo. Porque delegar essa parte para a IA é, ao meu ver, não entender que tão importante quanto o compartilhamento de notícias em si são também os apontamentos sobre o que chamou atenção e a discussão que se irá gerar em torno disso.
Dito isso, sei que seria um inferno e mais overhead de trabalho ter que ficar identificando o que é texto gerado artificialmente ou criado pelo próprio usuário…
Na verdade o que acontece é você ler um texto grande, achar que dá um bom debate e postar aqui … e ele não ser debatido por ninguém. O Ligeiro postou um texto mueto bom sobre o nazi-facismo em SC e ninguém falou nada sobre. Vocês se sentiram frontalmente atacados por conta do que eu disse (que quase ninguém lê textão) e entraram com uma postura passivo-agressiva contra uma ferramenta. Se eu vou ser o para-raios pra isso, ótimo. Prefiro ser a pessoa a trazer esse atrito do que sempre ficar no “doisladismo”.
Não tem problema se um texto não suscitar debates. Nem todos gerarão conversas e tudo bem. Isso não significa, em absoluto, que ninguém leu o texto. E, em qualquer caso — se as pessoas leram e não interagiram ou se não leram — está tudo bem. No mesmo sentido, um resumo feito por robô não garante de maneira alguma que haverá um debate.
O único atrito que existe aqui foi o que você criou (e tudo bem; você só antecipou um debate que era inevitável).
Minha ideia é exatamente tentar resumir o que aparece no artigo pra gerar engajamento no debate porque é frustrante demais trazer alguma coisa pra discussão e isso não entrar em discussão. Seria interessante ter métricas abertas do Órbita (quais artigos mais tem comentários, mais cliques (não sei se você guarda esses dados) e que tipo de artigo é o preferido por aqui). Porque isso? Porque isso é exatamente o que daria subsistência pra uma IA entrar em jogo ou não.
E em breve as pessoas vão usar essas IA’s cada vez mais, aqui mesmo. Basta passar pelo ChatGPT e depois jogar no Hemingway/DeepL Write/Quillbot ou qualquer coisa do tipo e a gente, leitores e você, não saberíamos se a pessoas não falasse que usou.
Usar dados e analisar métricas para gerar engajamento é um caminho, mas não é um que me agrada.
Outro caminho é modular suas expectativas com o Órbita (e o Manual). Um link interessante que não gere debates ainda pode ser muito proveitoso, por ter sido lido por muita gente (não sei quanta gente; não monitoro isso e não tenho interesse em monitorar). É nesse espírito que o Órbita existe. Claro, é ótimo quando uma boa conversa se desenrola, mas número de comentários não é um critério de sucesso para nada. A maioria dos leitores do site não comenta em nada. Está tudo bem. Não somos uma rede social tentando gerar métricas artificiais para captar dinheiro. Fico satisfeito quando vejo as pessoas trazendo links interessantes para cá. O simples fato delas se lembrarem e considerarem o Órbita já me deixa bem contente.
hehehe. Paulo, não nego que eu queria umas conversas lá no post que eu trouxe sobre o nazismo em SC, mas tipo, sigo o Ghedin. Se alguém viu, fico feliz e espero um dia alguém falar “olha, ja viu aquela do cientista social que estuda os nazi em sc? vi lá no Órbita, não sei se foi o Ghedin, Gabriel, Paulo ou aquele chato do Ligeiro que postou” :3
Isso na verdade talvez explica também pq pessoas p
tem uma expectativa em textos automatizados. Pausterizar a informação é algo que já vem sendo feito de forma a tentar criar o “texto perfeito ” que as pessoas leiam e não precisa. interagir, a informação está ali pronta para ser entendida.
Me lembro que uma vez briguei com um cara online pq os textos que ele fazia eram pausterizados, ao mesmo tempo militantes (ele é defensor do transporte público). E o cara odiava ser contradito.
Enfim.
O ChatGPT fez o neoludismo sair do armário, definitivamente.
Acho que só sinalizar é o suficiente.
É perfeitamente razoável, uma postura correta, eu diria, a do neoludismo. (O mesmo vale para o ludismo original.) Sugiro a leitura deste belo ensaio do Ted Chiang a esse respeito
Obrigado por esse texto.
desde q sinalizado, acho o teste valido. estou curioso para ver um uso mais sóbrio dessas IAs.
sou bastante flexível com relação a isto porque entendo que o ferramentas como o chatgpt serão cada vez mais utilizadas da forma como o paulo utilizou
em que pese uma certa sisudez do texto final, de todo modo, caso ele não tivesse sinalizado, eu não diria que teria sido um problema usar ou não o chatgpt neste caso (nem acho me sentiria “enganado”)
enfim: em casos como este, não me importo com o uso de ferramentas como o chatgpt nem acho que seja necessário sinalizar (embora possa ser simpático)
em resumo: não acho que precise proibir nem acho que precise sinalizar o uso de chatgpt
Entendo que jornalistas e demais estão cansados. Ao mesmo tempo entendo que uma IA não substituí um jornalista, a não ser que exista um programa de computador que ligue na fonte e puxe as informações ou conversa com outras fontes e redações.
No mais, errr…
Pergunta ao Robô ED se quer uma coluna sobre energia no MdU 🤔
Eu voto por não permitir. Considero o Manual o último refúgio dessa rede mundial, o lugar sagrado, o lugar onde os jedis’s vão para o exílio, o lugar onde as almas cansadas encontram a paz. Um lugar onde ainda podemos debater respeitosamente sobre assuntos diversos. Considerar conteúdos gerados artificialmente não me parece ser a postura editoral desse site.
No exemplo do post do Paulo resumido pelo ChatGPT, me pergunto qual o sentido de postar um link e resumir artificialmente? O legal não seria mostrar a opinião e a motivação de quem leu o artigo para assim gerar o debate?
Pelo lado do Paulo, entendo que trazer um resumo, ainda mais de um conteúdo em inglês, ajuda a transmitir de modo mais amplo e “eficiente” o conteúdo do link original. Por outro lado, concordo que pode soar redundante e até tirar o peso do link, que é algo que tentamos valorizar desde o conceito/a ideia do Órbita.
Meu receio com proibir é que isso acabe gerando um atrito desnecessário e um fardo muito pesado à moderação. O ChatGPT caminha numa linha muito fina entre o obviamente robótico e o que um escritor medíocre escreveria. O risco de falsos-positivos ou falsos-negativos seria enorme, e navegar por essa linha fina sem fazer acusações equivocadas (nem deixar passar os usos de fato de IAs) talvez seja impossível.
Comentário da outra thread:
Enfim, acho que vale a pena sinalizar que foi feito um resumo pelo GPT. Não acho que valha a pena que isso se torne um gerador de textos per se, mas um regador de resumor de matérias, sinalizado, parece-me OK.
Eu baniria tranquilamente
Como uma IA, eu não tenho uma opinião pessoal sobre se há espaço para conteúdos gerados artificialmente no Órbita ou em qualquer outra plataforma. No entanto, posso fornecer algumas informações úteis sobre o assunto.
Em primeiro lugar, é importante notar que a geração de conteúdo automatizada não é necessariamente algo ruim ou antiético em si mesma. As tecnologias de IA podem ser usadas para criar textos úteis e relevantes em uma variedade de contextos, como redação de notícias, respostas de atendimento ao cliente e até mesmo em produção de conteúdo criativo.
No entanto, é verdade que a geração de conteúdo automatizada pode levantar algumas questões éticas e práticas, como a falta de transparência sobre a autoria e a qualidade do conteúdo gerado. Em alguns casos, pode ser difícil distinguir entre conteúdo gerado automaticamente e conteúdo criado por seres humanos.
Se o Órbita optar por permitir conteúdos gerados artificialmente, pode ser importante garantir que esses conteúdos sejam claramente sinalizados como tal. Isso pode ajudar a evitar confusão entre os leitores e garantir que as fontes de informação sejam claras e transparentes.
Por fim, é importante notar que a tecnologia de IA ainda está em desenvolvimento e evolução constante. À medida que as tecnologias de geração de conteúdo se tornam mais sofisticadas, é possível que surjam novas questões éticas e práticas que precisem ser abordadas.
Parece-me o tipo de coisa que uma IA diria 🤔😄
Rapaz, eu bati o olho e me lembrou o gerador de lero e lero
Textos de IA procuram ser altamente polidos e tentam alguma “neutralidade” no resultado da resposta. Por isso tanta eloquência. (ou enrolada)
Acho que uma sinalização obrigatória de conteúdo gerado por IA seria interessante sim, até pra ajudar na criação de um hábito que ao meu ver parece ser uma boa prática.
Eu acho extremamente cansativo ler texto do chat gpt, não consigo ler mais que dois parágrafos no estilo.
E você leria uma matéria/entrevista com 10/12 paragrafos?
(sem apesar pra ladeira escorregadia que é “se me interessar eu leio” porque, o fato ululante da maioria da internet é que vivemos de ler manchecetes e e chamadas).
Se for bem escrito, sim. Meu problema não é o tamanho do texto, mas os floreios e lero leros que caracterizam o estilo do chat gpt
Me defina o que é bem-escrito?
Não sei definir, mas sei quando leio 🙂
tipo, acabei de voltar do post do yahoo, o “resumo” de 6 parágrafos poderia ser só o último…
O texto do ChatGPT é muito parecido com o texto de SEO, de fazendas de conteúdo: gramaticalmente correto, mas (ou talvez por isso) padronizado, pasteurizado, sem alma. Chato mesmo, entediante.
Eu acho que precisaria ter uma métrica do que você acha bem escrito, assim eu poderia dizer se é ou não algo válido do meu ponto-de-vista. Lembrando que bam/mal escrito é uma métrica de fato. O que é subjetivo é o seu gosto (gostar ou não do texto é a parte sujetiva da análise).
De mais a mais, nada mais frustrante do que escrever uma análise de 4 paragrafos e ela simplesmente não ser lida ou deixada de lado com um TL;DR. E olha que eu sou o rei do textão aqui no MDU, desde a época do Disqus, por isso mesmo sinto que a imensa maioria quer escrever sua opinião sem ler, nesse caso, um resumo gerado artificialmente seria bom para postar aqui. Basta sinalizar.
E um resumo de texto automatizado é uma coisa bastante simples de fazer, btw, acho que a NLTK já tem um lib pra isso, inclusive.
Creio que “texto bem escrito” seria um texto direto, sem firulas e que a pessoa tenha atenção nele, e a informação contida seja repassada fácil ao leitor.