JORGE CARRIÓN: "ALGORITMOS ESCREVEM MELHOR QUE PAULO COELHO"

"Tudo está mudando, a autoria deve ser repensada", diz Carrión. Imagem: Sandra Cartasso See More

Jorge Carrión: "Algoritmos escrevem melhor que Paulo Coelho"

A escrita do autor espanhol é combinada, em sua nova obra, com programas de inteligência artificial. "A arte é sempre colaborativa", diz Carrión.
______________________________

A palavra de ordem é destruir os velhos paradigmas, fazê-los arder e deslumbrar-se com “os sons do próximo século”. Cem anos Cem anos depois da emblemática obra surrealista "Los campos magnéticos", de André Breton e Philippe Soupault, gerada por meio da escrita automática, o escritor e crítico cultural Jorge Carrión se propôs a materializar a primeira colaboração em espanhol entre pessoas e máquinas para a elaboração de um livro . O resultado é um documento fascinante e perturbador, com destaques de beleza indescritível, intitulado Campos Eletromagnéticos.(Caixa Preta), que combina a escrita de Carrión na introdução, "Teorias e práticas da escrita artificial", e no epílogo, com os textos que surgiram do trabalho realizado pelos engenheiros e artistas da Oficina Estampa, coletivo de base em Barcelona, ​​programando e alimentando um sistema de inteligência artificial GPT-2 e dialogando com outro, GPT-3.

Existem vasos comunicantes entre a obra de ficção e os ensaios do escritor espanhol, que nasceu em Tarragona em 1976 e morou em Buenos Aires, Rosário e Chicago. Em seu último romance, "Membrana (Galaxia Gutenberg)", em um notável exercício de ficção especulativa, imaginou o catálogo da exposição permanente de um Museu do século XXI escrito por uma inteligência artificial que pode assimilar Walter Benjamin e devolvê-lo transfigurado em uma frase: “Todo documento de catástrofe é também um documento de progresso”. Carrión, autor de ensaios essenciais como "Librerías", "Contra Amazon" e "Lo viral" , além da trilogia ficcional "Los muertos", "Los húrfanos" e "Los turistas", adverte na introdução de "The Electromagnetic Fields" que o texto produzido de forma colaborativa é “uma experiência intelectual e estética e um gesto de libertação da escrita como a entendemos por quase três milênios”; apenas um século depois do surrealismo "abrimos outra caixa de pandora" e "deixamos que os ventos da computação nos empurrem ou nos arrastem para o futuro".

“A inteligência artificial que estamos criando e treinando juntos aspira a ver e ler tudo, saber tudo, arquivar tudo. E nós com ela. No futuro, espera-nos o resgate de uma ideia do passado remoto, afinada segundo o Big Data, essa nova versão da Biblioteca de Babel. Todas as máquinas, algoritmos, redes neurais ou modelos matemáticos que chamamos de inteligência artificial aspiram a escrever melhor do que nós. Embora a aspiração seja nossa, nós os usamos como máscaras”, esclarece Carrión em um trecho do livro e acrescenta: “Os algoritmos já escrevem melhor do que nós, mas em sua própria linguagem, em sua linguagem exclusiva”.

Metamorfose

- Quais são as consequências para artistas e escritores de que há cada vez menos linguagens que só os seres humanos podem dominar?

- Acho um grande estímulo porque a arte e a criatividade agem sempre por restrição: você tem que fazer da necessidade uma virtude, e com o que você domina, que nunca é tudo, encontre o caminho para fazer o trabalho mais excelente possível. É por isso que a arte é sempre colaborativa porque em geral você pode escrever muito bem, mas não entende de cinema nem de imagem e quer fazer um filme. Ou você é um grande desenhista, mas não domina o barro nem a escultura e precisa de um artesão, de uma fundição, para realizar seu trabalho. Os algoritmos criativos estão começando a ser melhores do que nós na criação de imagens, edição de vídeos e geração de determinados textos. Isso põe em risco algum tipo de prática. Por exemplo: Acho que o GPT-4 é melhor para escrever poemas do que muitos poetas influenciadores muito famosos; que o GPT-5 logo será melhor do que muitos escritores best-sellers que não trabalham com metáforas ou camadas literárias profundas, e que gradualmente decantará e transformará o que entendemos por escrita e literatura.

-Essa mutação tornará impossível distinguir a linguagem humana da linguagem de uma inteligência artificial?

- Provavelmente já está acontecendo e estamos lendo postagens de redes sociais, notícias ou textos que foram escritos por máquinas e não sabemos. Isso é o que acontecendo quando vemos fotografias ou ilustrações feitas por computador. Ou estamos interagindo com bots artificiais. Um dos aspectos mais fascinantes de nossos tempos é como há uma sutil invasão de conteúdos gerados artificialmente que se confundem com conteúdos de origem humana.

- Até que ponto a inteligência artificial desafia o conceito de autoria?

- Tudo está mudando; a autoria deve ser reconsiderada; publicamos este livro (Electromagnetic Fields) com GPT-2 e GPT-3 como co-autores, com biografias deles na aba. Não sei se acabará por ser legal, se este tipo de co-autoria terá de ser formalizado em algum tipo de documento, não sei se haverá legislação sobre o assunto quando, como e porquê. Mas é preciso rever novamente o que é um autor ou uma autora, uma autoria coletiva; devemos reconsiderar o que é plágio, devemos reconsiderar, mais uma vez, o que é originalidade, tanto em termos criativos e artísticos quanto em termos jurídicos, legais e econômicos.

A dialética do senhor e do escravo

- Vários dos pilares do que era a cultura até o século 20 foram dinamitados pelo avanço da inteligência artificial, certo?

- Claro, no meu livro Lo viral simplifiquei muito, talvez até demais, a complexidade do nosso momento histórico em um binômio que é o clássico e o viral, que pode ser o século 20 e o século 21. O viral seria o que Alessandro Baricco chama de Os Bárbaros e O Jogo ; É uma pergunta fascinante porque há uma espécie de processo muito lento de retransmitir os mitos, as práticas e as dinâmicas do século XX no século XXI. Nos precipitamos quando dissemos que o século 21 começou com 11 de setembro; era um olhar de inclinação americana. Parece-me que o final do século XX foi mais lento e ainda se recusa a desaparecer; É muito fascinante o quão importante é em 2023 Star Wars, que é bem do século 20, mas soube se adaptar e se reinventar para ser do século 21.

-Em seu livro você postula que se durante um século a máquina de escrever, os processadores de texto ou os revisores de computador foram nossos assistentes, hoje essa relação se inverteu e nós somos os assistentes da máquina. Que implicações tem a subversão desse papel em termos da dialética entre senhor e escravo?

- Esta inversão está acontecendo e eu exagerei muito no meu romance 'Membrana" . O que acontece em Membrana é que os algoritmos do futuro se vingam de nós por tê-los tratado como escravos. O que fizemos com a Siri é antiético, uma voz de mulher que obedece ordens, e na Membrana pagamos as consequências quando as máquinas se apoderam da realidade. Exagero um pouco, se tomarmos em linhas gerais; mas nem tanto, se pensarmos que já está nascendo a profissão de especialista em gerar textos com GPT-4 e que o que essa pessoa vai fazer é basicamente pressionar a tecla “enter” . Ou se pensarmos que é questão de muito pouco tempo para que a tradução de textos não poéticos seja automatizada. Quando isso acontecer (e acontecerá em breve), o tradutor terá que usar suas habilidades para editar o texto traduzido automaticamente em poucos segundos por um programa de tradução . É uma inversão de hierarquia? Sim e não, porque o controle e a versão final, se o ser humano quiser, ainda estará em mãos humanas. Mas você pode conectar automaticamente o bot a uma conta do Twitter e publicá-lo sem edição. A Amazon está publicando livros escritos por GPT-3 sem revisão. Mas isso é um problema humano, não da máquina. As máquinas, em princípio, são manuseadas por nós; mas isso pode mudar a qualquer momento por ganância e falta de responsabilidade.

-No livro você sugere que a literatura algorítmica está na sua infância, que é igual a um grande laboratório, pois ainda tenha certos limites, por exemplo: o que está escrito se assemelha a autoajuda.

- Algoritmos escrevem melhor que Paulo Coelho e Jorge Bucay. O GPT-2 foi acusado de ter muito pessimismo e tendências apocalípticas. O GPT-3 foi adocicado e todos os textos terminam bem.

Conquistar a ironia

- Existem programas capazes de detectar textos produzidos por inteligência artificial e textos de autoria humana?

- Até onde eu sei, ainda não existem programas forenses que permitam detectar essa diferença de maneira "mainstream". Mas pode acontecer que em algumas semanas ou meses uma história ou romance, escrito com inteligência artificial, receba um prêmio e o júri não vai saber que foi escrito por uma máquina. Existem programas de detecção de plágio acadêmico, mas não existem programas de detecção de escrita algorítmica. Há algumas semanas nasceu o ChatGPT-3, que é popular porque é um aplicativo que qualquer pessoa pode usar como um jogo.

- É impressionante como um livro que se recorta em um determinado horizonte tecnológico, rapidamente fica para trás em relação a como a escrita algorítmica avança e se aperfeiçoa.

- Sem dúvida. O livro termina com uma história que escrevi há um mês no Chat sobre quando Jorge Carrión é julgado por traição contra a humanidade. Não é muito coerente, mas tem sua graça. Nessa mesma semana de fevereiro saiu o ChatGPT-3.5 Turbo e, em breve, vai estar, o 4 e 5, funcionando. O livro em papel, bem feito, com artesanato, com qualidade, tem um ritmo diferente da internet e da tecnologia. "Campos eletromagnéticos" é um documento porque em breve não haverá mais acesso à tecnologia GPT-2 que permitiu a confecção do livro. Então temos um documento que vai explicar a origem desse tipo de escrita. No prólogo falo de uma genealogia e dos "novos incunábulos", aqueles livros dos quais este é o último a ser escrito antes do ChatGPT-3. Ao nível dos ensaios académicos, dos best-sellers, da poesia do tipo influencer, estes três níveis, daqui a alguns anos os algoritmos estarão melhores. A médio prazo é preciso ver se conseguem vencer a metáfora, a ironia e a complexidade do discurso. Como disse Ricardo Piglia, uma boa história conta duas histórias; mas são incapazes de traçar níveis de significados paralelos. Eles ainda não vão acessar a literatura; mas quem sabe, talvez terão sucesso em algumas décadas.

- O GPT-2 escreve: "A obra de Paul Celan é um dos textos fundamentais da literatura argentina contemporânea." E o bug?

- O GPT-2 não está conectado à Internet, o que ele faz é gerar linguagem a partir do treinamento que, no caso, foi com meus livros e os livros dos autores que li. O que ele fez ali, nesse exemplo, foi misturar dois artigos meus, mas não com plágio, ele não reproduz sequências de palavras que estão em meus artigos, mas sim mistura os nomes próprios de vários textos meus em uma única frase . O GPT-3 está conectado à Internet, mas não no momento, portanto não pode gerar um texto confiável sobre o que está acontecendo ou aconteceu recentemente. O que o Bing tentou é um GPT-3 conectado à Internet, mas não é confiável. Após vinte e poucos anos, o Google conseguiu ser confiável. O Bing não pode competir em confiabilidade; compete em velocidade, em diversão, o que não é um valor. Não pensa, não é consciente, é pura linguagem, uma combinação de palavras. O que acontece é que gramaticalmente e sintaticamente está correto.

“Twitter deveria nos pagar”

- No final do prólogo, você afirma que o laboratório, que é a inteligência artificial, tem a forma de um playground e pergunta: quem está brincando com quem? Como você responderia a esta pergunta?

-É uma pergunta irônica ligada ao livro e à sua própria genealogia. Neste momento, existem milhões de pessoas jogando com o ChatGPT-3 e não sei o que está acontecendo com esses dados, não sei o que está acontecendo com as perguntas que fazemos e as respostas que nos dão. Imagino que usem para continuar aprendendo, aí surge o dilema: você evita o monstro ou o ignora? O Twitter deveria nos pagar para escrever porque estamos alimentando o conteúdo. YouTube e TikTok pagam, por que o Twitter não paga? Mas continuamos a alimentar o Twitter; é uma roda que se retroalimenta ao infinito. Os moderadores de conteúdo do Facebook dizem que o que eles fazem é treinar algoritmos para que logo não haja humanos e tudo seja automático. Então, quem treina quem? quem está jogando com quem? qual é a aposta?

- No final do livro você cita uma frase de Kit Mackintosh: "A nostalgia é um veneno: elimine-a do corpo." Você escreveu este livro, em coautoria com dois programas de inteligência artificial, contra a nostalgia?

- Sim, contra aquela ideia boba de que há um apocalipse em andamento. O que você viveu quando era jovem é um valor seu, não é um valor universal. Só porque o rock ou o jazz são importantes para você, isso não significa que o rock ou o jazz sejam mais importantes do que o trap ou o hip hop, que é muito importante para seus filhos. É preciso nos tirar do centro; o que você gosta não é alta cultura. É o que você gosta. O grande exemplo disso é Star Wars, que não nasceu como um grande produto artístico e que, no entanto, por nostalgia, conseguiu atualizar-se. É humano sentir saudade, é humano gostar dos mitos que nos constituem, que no meu caso são as livrarias. Quero que existam livrarias e quero acreditar que, se os meus filhos de 7 e 8 anos se apaixonarem por livrarias, então no século XXI haverá livrarias. Embora isso seja verdade, também é verdade que neste momento as plataformas tecnológicas são mais importantes do que as livrarias. Isso deve ser entendido por qualquer cidadão, especialmente funcionários culturais e jornalistas culturais, que tendem a confundir nossos gostos com cultura importante.

Fonte:

Página|12 - Jorge Carrión: “Los algoritmos escriben mejor que Paulo Coelho” - 20/03/2023 - Disponível em <https://www.pagina12.com.ar/533076-jorge-carrion-los-algoritmos-escriben-mejor-que-paulo-coelho?ampOptimize=1&fbclid=IwAR0Etjdt1X6HX8QDjfvJv-4Qo2O4pgmQLBhHj_OcpXw_qsF5dH9hoR-UjL8> Acessado em 20/03/2023.