A década de 2030 segundo Harari: uma nova era de dessublimação repressiva – *Slavoj Žižek

Em sua breve palestra, “Em 2030, o mundo será irreconhecível”, Yuval Noah Harari apresenta sua posição sobre como o desenvolvimento explosivo da IA ​​afetará nossas vidas de forma tão clara e sucinta que a própria palestra se torna objeto de análise crítica. Ele oferece uma visão bastante detalhada do nosso mundo em 2030, que ele caracteriza como “irreconhecível” para aqueles de nós que ainda estão presos a noções tradicionais de humanidade. No entanto, para deixar meu ponto brutalmente claro, acredito que a realidade de 2030 será irreconhecível até mesmo para aqueles que compartilham da visão de Harari para 2030.

Slavoj Žižek

A premissa de Harari, que compartilho, é que o que está acontecendo hoje é algo que a maioria de nós não percebe completamente: o fim da humanidade como a conhecíamos, um processo que começou há cerca de 10.000 anos, quando tribos da Idade da Pedra começaram a usar a linguagem. Com a rápida ascensão da inteligência artificial, a linguagem deixou de ser uma ferramenta usada pelos humanos para comunicação e interação; ela adquiriu completa independência e passou a funcionar como um agente próprio, rompendo o cordão umbilical que a ligava àqueles primatas vulneráveis ​​chamados humanos. Aqui me deparo com o primeiro problema: uma linguagem sem sujeito(s), uma linguagem que age como um agente próprio, ainda funciona como linguagem? Além disso, a linguagem pode realmente ser reduzida às suas duas funções, o cálculo intelectual e a expressão de emoções? Mas já abordei isso em outro lugar.

Harari detalha três grandes pontos de virada que marcam o fim da humanidade como a conhecíamos:

Em primeiro lugar , há o imenso aparato da IA: ele contém conhecimento que ultrapassa em muito a memória humana e está instantaneamente disponível. Esse conhecimento inclui dados sobre os indivíduos que habitam a IA. Nesse sentido, como se costuma dizer, a IA nos conhece melhor do que nós mesmos. Além disso, a IA não apenas coleta conhecimento e realiza operações cognitivas — raciocínio — sobre ele: ela não é mais apenas uma ferramenta, uma máquina que segue ordens e faz o que lhe mandam fazer; ela já é um agente pronto para tomar decisões autônomas, decisões para as quais não foi programada. Ela não apenas aprende e se transforma para executar suas tarefas; ela já é capaz de redefinir essas tarefas por conta própria. Minha reação aqui é dupla. Primeiro, é claro, não nos conhecemos bem porque temos um inconsciente; isto é, porque nossa própria subjetividade implica que não somos reconhecíveis para nós mesmos. Quanto às decisões, a tomada de decisão humana é livre no sentido preciso de que sua dimensão mais básica é o que Freud chamou de pulsão de morte: a escolha do nada. Em ambos os casos, a questão permanece em aberto: em que medida a IA exibe essas dimensões: subjetividade, pulsão de morte, inconsciente?

Em segundo lugar, a IA, juntamente com a aplicação tecnológica do conhecimento da neurociência, torna tênue a linha entre realidade e ficção. Nossa percepção da realidade externa e nossa interação com ela sempre foram mediadas por um contexto simbólico sociohistórico, de modo que o que vemos é uma “alucinação controlada” (Anil Seth): nossa percepção da realidade não é uma janela direta para o mundo, mas uma simulação interna da melhor suposição, gerada ativamente pelo cérebro e constantemente verificada por informações sensoriais. Hoje, essa “simulação interna” não é mais um mero processo espontâneo regulado pelo nosso cérebro e por uma ideologia compartilhada; ela está sendo cada vez mais gerada por manipulação tecnológica planejada conscientemente. Não se trata simplesmente de que o que vemos fora de nós como realidade seja uma fabricação, como o fundo pintado em uma grande parede em uma cena de filme, de modo que não haja necessidade de construir casas reais ou colocar árvores reais no fundo. Nosso aparato perceptivo é manipulado diretamente, de modo que o que pensamos ver lá fora não está realmente lá fora — nem mesmo como uma pintura falsa ou um som simulado — nossos próprios nervos são manipulados diretamente. Como a maioria de nós sabe, não apenas a dor ou o prazer, mas até mesmo o orgasmo, já podem ser gerados sem representações visuais em nossas mentes, simplesmente pela estimulação direta de nossos nervos. Quando intervenções diretas em nossos cérebros se tornarem realidade, será possível inserir falsas memórias, ou mesmo traumas, que nunca vivenciamos de fato. Minha resposta a isso é insistir na distinção lacaniana fundamental entre o Real e a realidade, que de forma alguma se sobrepõe à distinção entre a própria realidade e a maneira como a realidade nos aparece, contaminada por ficções e fantasias. Muitos críticos reclamam que o Real lacaniano é uma noção elusiva que oscila entre significados opostos: é o vazio em torno do qual uma rede simbólica se estrutura; é um remanescente contingente, uma mancha, um pequeno fragmento do real que resiste à simbolização — o que Schelling chamou de " der nie aufgehende Rest" (Resto não atenuado) .—; é uma linguagem puramente formal que não contém significado, como fórmulas matemáticas; é uma Coisa aterradora que somos incapazes de integrar à nossa noção cotidiana de realidade — um monstro gigantesco que devora pessoas vivas, uma megatempestade que destrói casas e as pessoas que nelas vivem, uma tortura brutal que desmembra pessoas: casos em que um observador diz para si mesmo: “Isso não pode ser verdade!”; é uma barreira que nos impede de ir além dela, mesmo que não haja nada lá; é a fantasia básica sobre cuja repressão repousa a existência do sujeito, uma fantasia na qual um sujeito jamais poderá se reconhecer. O que temos que fazer aqui não é introduzir uma classificação do Real, dividindo-o em quatro ou cinco subcategorias; temos que capturar o movimento imanente da noção do Real. Um aspecto do Real, levado ao extremo, se transforma em um completamente diferente: a imagem de uma Coisa aterradora se transforma em uma fantasia que cobre — ou melhor, preenche — o Vazio primordial; Esse Vazio se transforma em um obstáculo ou proibição que mascara o fato de que não há nada escondido por trás dele. A matriz se repete aqui: o Real é o que existe antes da simbolização e o que vem depois dela, o remanescente da simbolização. O Real é o que está além da simbolização e o obstáculo que nos impede de alcançar esse além. O Real é uma forma vazia, sem conteúdo, e um conteúdo para o qual não há lugar na forma — lembremos a fórmula sujeito-objeto de Lacan: $\$-a$. Aí reside também o paradoxo do tabu do incesto: ele proíbe algo que é em si impossível. O incesto com a mãe é proibido, mas o verdadeiro objetivo dessa proibição é criar a ilusão de que, se a transgredirmos, alcançaremos um gozo pleno e não castrado . Em suma, a proibição mascara o fato de que não há nada a proibir. Por que perder tempo com esses detalhes aqui? Porque, novamente, não há lugar para tal convergência distorcida de opostos na IA. Portanto, não basta reclamar que o crescimento da IA ​​mina a separação entre fato e ficção, nem basta celebrar como uma liberdade recém-adquirida nossa capacidade de transitar sem problemas entre fato e ficção. Vemos claramente a catástrofe dessa “liberdade” em grande parte da política atual — Trump, Putin, Israel — onde emerge um novo discurso que sequer pretende ser verídico no sentido tradicional. No nível ôntico da realidade, devemos insistir mais do que nunca na verdade factual; mas devemos permanecer cientes de que, em um nível ontológico mais básico, a distinção entre verdade e ficção está se tornando cada vez mais tênue.

Por último, mas não menos importante , o Santo Graal de toda essa tendência é a visão da Neuralink de um cérebro com circuitos integrados: a IA combinada com neurocirurgia e tecnologia baseada na neurociência abre caminho para a comunicação direta entre o fluxo de nossos pensamentos e um agente digital. Não precisamos mais de uma tela para interagir com a IA: o agente de IA pode ler diretamente o que se passa em nossas mentes e agir de acordo. Quando as empresas revelam os primeiros implantes modestos que permitem que uma máquina digital leia nossos pensamentos, elas quase sempre apresentam o caso benevolente de como tal implante permite que uma pessoa com deficiência total comunique seus pensamentos — ela pensa e uma máquina de IA os pronuncia — ou aja sem se mover: o agente de IA lê seus pensamentos e move sua cadeira, liga a televisão e assim por diante. O que é menos mencionado é que a comunicação também ocorre na direção oposta: nossos pensamentos são controlados por um agente de IA e, claro, por outro ser humano que controla o agente de IA. A perspectiva que se abre aqui é a da total transparência do fluxo interno dos meus pensamentos para uma máquina de IA externa — e para aqueles que controlam essa máquina.

Embora Harari seja conhecido por seus constantes alertas de que a era humana está chegando ao fim, aqui ele se mostra excessivamente otimista, pintando um quadro do futuro próximo — 2030 — no qual os indivíduos serão capazes de formar relacionamentos emocionais com pessoas reais e digitais. Isso já acontece quando as pessoas passam horas conversando com o ChatGPT. Mas imagine um sistema muito mais desenvolvido, no qual eu coloco óculos digitais e converso com meu falecido pai, cuja persona virtual foi reconstruída a partir das minhas próprias memórias e das de outros, além de outros tipos de vestígios materiais — gravações, etc. Mas quem controla esse jogo? E se eu for controlado internamente, com pensamentos e falsas memórias implantadas em minha mente sem o meu conhecimento? Imagine ter a memória de ser estuprada pelo meu pai implantada em minha mente e vivenciá-la como real. E se surgir um novo tipo de mestre capaz de ler nossos pensamentos e intervir neles, mas que não esteja aberto à Neuralink? E se os excluídos não forem apenas inferiores marginalizados, mas sim o grupo de elite de mestres que controla e manipula os habitantes de uma singularidade?

Em relação à Neuralink, Harari imagina que um indivíduo poderá escolher livremente a qual coletivo se juntar: cientistas? poetas? Sério? Será que minha individualidade sobreviverá à imersão no que se chama de "singularidade"? Dado que o implante que regula meu contato com um Neuralink é um dispositivo mecânico, não é óbvio que o controle é exercido por quem conecta ou desconecta o implante? Não sou um esquerdista ingênuo que pensa que a IA é uma máquina neutra cujas implicações sociais dependem das circunstâncias sociais em que opera: existe uma tendência ao controle e à dominação tecnológica inscrita na própria estrutura formal da IA. É por isso que é difícil imaginar uma comunidade feliz e emancipada de indivíduos humanos vivendo juntos em uma singularidade: em uma singularidade não há sexo, nem piadas, nem comunicação em que o outro permaneça no escuro.

A conclusão inescapável é que todo grande avanço tecnológico abre caminho para uma nova barbárie: seu efeito pseudolibertador termina no que Herbert Marcuse chamou de "dessublimação repressiva", um termo que ele introduziu em O Homem Unidimensional, em 1964. Pode-se argumentar que Theodor Adorno foi o primeiro a apontar nessa direção em sua análise de A Sagração da Primavera de Stravinsky ("Stravinsky e a Reação"), a segunda parte de sua Filosofia da Nova Música (1949). Adorno observou astutamente como o modernismo de Stravinsky — sua imitação musical do ritmo da brutal produção industrial — se baseia nos antigos, bárbaros e violentos mitos de sacrifício do povo russo como seu conteúdo.

Segundo Marcuse, a “repressão” no capitalismo tardio não opera por meio do controle e da negação, mas sim por meio da permissão e da expressão: todos os prazeres são permitidos — em uma forma mercantilizada — levando à expressão controlada de todos os desejos e necessidades. Em outras palavras, hoje a repressão opera por meio da dessublimação do desejo, na qual nenhum desejo é forçado à clandestinidade: pornografia, trabalho sexual, cultura das drogas, BDSM, furries , cultura gay, ostentação, cultura trans e similares não são mais vistos pela sociedade como estilos de vida negativos ou perniciosos. A busca por esses estilos de vida agora é sancionada e celebrada: pertencer a esses estilos de vida não é mais uma ação ou um estilo de vida subversivo; agora perpetua o capitalismo por meio da forma mercadoria.

O crescimento explosivo atual dos agentes de IA levou a dessublimação repressiva a um novo patamar, antes inimaginável, em todas as suas dimensões: do universo da pós-verdade ao esbatimento da distinção entre espaço público e privado, sem mencionar o controle digital sobre o que fazemos e pensamos. A mídia de IA também desempenha um papel crucial na forma como a brutalidade e a obscenidade flagrante invadiram o discurso político público na última década. Não apenas em suas palavras, mas também em suas ações — declarações públicas sobre como prisioneiros são torturados —, os EUA e Israel agora praticam a dessublimação repressiva. Trump e Netanyahu, sem mencionar Hegseth e Ben Gvir, frequentemente se expressam em público de maneiras que, até recentemente, eram concebíveis apenas em conversas privadas ou trocas de e-mails privados. Seu discurso é literalmente um discurso de dessublimação repressiva: é definitivamente dessublimado — brutalmente aberto, sem limitações que salvaguardem a dignidade — e, ao mesmo tempo, repressivo, anunciando um tratamento não menos brutal daqueles percebidos como inimigos, incluindo a aniquilação de uma civilização inteira.

Não estamos lidando simplesmente com um efeito da IA, mas com um conjunto muito específico de circunstâncias sociais dentro das quais a IA opera. Ainda estamos buscando um nome adequado para esse novo conjunto de circunstâncias: neofeudalismo digital, fascismo liberal, uma nova forma de bonapartismo. Temos plena consciência de que esses nomes circulam em torno de um fenômeno inegavelmente real e cujo peso todos sentimos. O funcionamento da IA ​​não pode ser dissociado da luta de classes neofeudal, melhor simbolizada pelo quarteto pernicioso de Musk, Thiel, Bezos e Zuckerberg.

****

*Slavoj Žižek é um filósofo e psicanalista esloveno de renome internacional, reconhecido por seu estilo provocativo e abordagem interdisciplinar. Seu trabalho combina marxismo, psicanálise lacaniana e cultura popular para analisar as ideologias que permeiam o cotidiano e os sistemas de poder contemporâneos.

____________

Fonte: BlogHemia

Artigo escrito originalmente em espanhol.