La devoración digital

Entramos en la era digital a través del poder de las grandes tecnológicas –Google, Amazon, Facebook, Apple y Microsoft– y de su influencia en las nanociencias, las biotecnologías, la informática y las ciencias cognitivas. El impulso alcanzado por el transhumanismo, que se propone modificar al ser humano mediante la tecnología hasta conquistar la inmortalidad, es particularmente inquietante. Esta devoración digital procede no solo de la hýbris de sus empresas, sino también de la de los seres humanos y de la servidumbre voluntaria a la que consienten sin advertirlo. Frente a estos desarrollos, es urgente reponer al sujeto y su responsabilidad. Los avances tecnológicos no deben enceguecernos: lo que vemos hoy como un progreso puede manifestarse mañana como un fenómeno peligroso. Los desafíos de lo digital son también desafíos para el psicoanálisis. Nos toca recogerlos, más allá de todo catastrofismo o de toda ilusión tecnológica.

François Forestier es biólogo clínico, especialista en diagnóstico prenatal y en biotecnologías. Se desempeña como profesor de Hematología, en la Universidad París XI.

François Ansermet es psicoanalista, miembro de la Asociación Mundial de Psicoanálisis (AMP), de la Escuela de la Causa Freudiana (ECF) y de la Nueva Escuela Lacaniana (NLS). Se desempeña como profesor honorario de Pedopsiquiatría en la Universidad de Ginebra y en la Universidad de Lausana.

SERIE: Tyché

DIRECTORA: Damasia Amadeo

La devoración digital / François Ansermet; François Forestier

- 1a edición - San Martín: UNSAM EDITA;

Ciudad Autónoma de Buenos Aires: Fundación CIPAC, 2023

Libro digital, EPUB. - (Tyché / Damasia Amadeo)

Traducción de Gerardo Raúl Losada

ISBN 978-987-8938-63-9

1. Psicoanálisis. 2. Inteligencia Artificial. 3. Tecnologías. I. Forestier, François. II. Losada, Gerardo Raúl, trad. III. Título

CDD 150.195

Título original: La dévoration numérique

1a edición en español, noviembre de 2023

© 2023 François Ansermet

© 2023 François Forestier

© 2023 de la traducción, Gerardo Losada

© 2023 UNSAM EDITA de Universidad Nacional de General San Martín

© 2023 Pasaje 865

UNSAM EDITA

Edificio de Containers, Torre B, PB · Campus Miguelete

25 de Mayo y Francia, San Martín (B1650HMQ), prov. de Buenos Aires, Argentina

unsamedita@unsam.edu.ar · www.unsamedita.unsam.edu.ar

PASAJE 865 de la Fundación Centro Internacional para el Pensamiento y el Arte

Contemporáneo (CIPAC)

Humberto Primo 865 (CABA)

pasaje865@gmail.com

DISEÑO DE LA COLECCIÓN: Laboratorio de Diseño (DiLab.UNSAM)

TIPOGRAFÍA: Karmina Sans, TypeTogether

CORRECCIÓN: Wanda Zoberman

MAQUETACIÓN: María Laura Alori

ILUSTRACIÓN DE TAPA: Francisco-Hugo Freda, Líneas (fragmento), 2013

Queda hecho el depósito que dispone la Ley 11.723. Editado e impreso en la Argentina. Prohibida la reproducción total o parcial, incluyendo fotocopia, sin la autorización expresa de sus editores.

La devoración digital

François Forestier

François Ansermet

Serie Tyché

Agradecimientos

Deseamos agradecer muy calurosamente a nuestro amigo Jean-François Lambert, financista internacional, especialista en materias primas. Su erudición, su disponibilidad y sus preciosos consejos nos ayudaron considerablemente.

Índice

Agradecimientos

Prefacio

Dos años después de la primera edición

Introducción

Capítulo 1

El transhumanismo

Capítulo 2

NBIC: una economía de la esperanza fundada en las tecnologías

Capítulo 3

¿Qué son las GAFA?

Capítulo 4

La democracia en peligro

Capítulo 5

¿Qué hacer?

Capítulo 6

Cómo la pandemia de COVID-19 aclaró el debate sobre las GAFA

Conclusión

Prefacio

Dos años después de la primera edición

En el andén de una estación, una veintena de personas tiene sus ojos clavados en sus teléfonos celulares. Arriba, en un departamento, un estudiante redacta un informe utilizando internet y, enfrente, unos empleados participan de una videoconferencia. Algunos se servirán de un automóvil eléctrico conectado para llegar a sus casas y abrirán el garaje o la puerta de su departamento con un código de acceso seguro y digitalizado. A la noche, unos tendrán acceso, mediante su televisor inteligente, a una película transmitida por la red, mientras otros jugarán con un casco de realidad virtual, intercambiarán mensajes en las redes sociales o harán sus pedidos en línea.

Resulta innegable que lo digital forma parte de nuestra vida, y sus precursores, o sea, aquellos que antes que los otros previeron las posibilidades que podía ofrecer internet, nacida hace 25 años, adquirieron una potencia económica excepcional que les confiere un poder político y una libertad sin límites. Esas compañías conforman el acrónimo GAFAM: G, por Google, que, convertida en Alphabet, concentra por sí sola el 90% de las búsquedas en internet y, con Youtube, es la difusora número uno de videos. Ambas son más vistas que cualquier cadena de televisión. A, por Apple, una de las protagonistas principales en telefonía y en informática, que atrapa cada vez más a sus usuarios en el uso de sus propias aplicaciones. F, por Facebook, que se convirtió en Meta, la señora de las redes sociales, pero, sin embargo, sufrió un ligero fracaso con Metavers y con los cascos de realidad virtual. A, por Amazon, que tiene el monopolio del comercio en línea, y su restructuración es la causa de que sea la única de las GAFAM que no haya obtenido beneficios en 2022. M, por Microsoft, que con su sistema Windows equipa más del 88% de las computadoras en el mundo y se posiciona en el campo de la inteligencia artificial (IA). Todas estas empresas existen gracias a los datos que les suministramos, sin saberlo, sin ningún consentimiento, y que ellas almacenan, analizan y revenden a empresas bajo la forma de enlaces publicitarios. Nos conocen perfectamente a través de nuestras preferencias, nuestros gustos, nuestros intereses, a partir de nuestros e-mails, nuestras búsquedas en internet, nuestras redes sociales y de todo lo que concierne a los objetos conectados, de uso tan práctico en la vida cotidiana.

En medio de una ilusión de transparencia y de accesibilidad, la explotación de nuestros datos personales nos arrastró a una dinámica que nos supera, que nos absorbe, que nos devora. Nos convertimos en la presa de las gigantes digitales, que han sabido beneficiarse del sustento que les hemos ido dando, sin medir las consecuencias, en una servidumbre voluntaria en la que entramos sin darnos cuenta. De manera automática, pasamos de un humano que tomó posesión de lo digital a lo digital que toma posesión de lo humano.

Por esa razón escribimos, en 2021, La devoración digital. Pero estos dos últimos años mostraron que la IA va a trastornar nuestras vidas de una manera todavía más fulgurante. El mundo digital cambia más rápido que nuestra capacidad de seguirlo, incluso de anticiparlo.

Se puede encontrar una explicación de ese fenómeno destacando que las GAFAM suscitaron émulos muy exitosos en el campo de lo digital: las NATU (Netflix, Airbnb, Tesla, Uber). Tras haber sido cuatro, después cinco, actualmente se las denomina las siete magníficas: Alphabet, Amazon, Meta, Apple, Microsoft, Tesla y Nvidia. Esta última empresa se especializa en mapas geográficos y chips para la IA. Estas siete mercenarias están muy involucradas en las nanotecnologías, las biotecnologías, las tecnologías de la información y las ciencias cognitivas, de donde surge el acrónimo NBIC. Innegablemente, las posibilidades financieras de estas gigantes tecnológicas y sus pericias hicieron progresar de manera espectacular el dominio de la IA, el de las neurociencias y el de la robótica.

Un aluvión proveniente de las NBIC, más precisamente de las tecnologías de la información, se ha desencadenado sobre el mundo en estos últimos meses: su nombre es ChatGPT (Generative Pre-trained Transformer, Transformador generativo preentrenado), de la sociedad OpenAI, filial de Microsoft. Se necesitaron 3,5 años para que Netflix alcanzara un millón de abonados; se necesitaron 5 días para que ChatGPT-4 obtuviera esa cifra. En marzo de 2023 totalizó 1,4 mil millones de visitas (si bien todavía está lejos de Google, que cuenta con 80 mil millones de visitas por mes).

Los principales fundadores son transhumanistas influyentes. La última versión de ChatGPT saca provecho de las redes neuronales y de las técnicas de los transformadores aparecida en 2017. Es posible imaginar, por aproximación, que ese programa puede acercarse al millón de conexiones. Presumiblemente, sus precursores indexaron todo lo que estaba disponible en la web a través de las redes sociales tales como Twitter, LinkedIn, Reddit y GitHub.

Teniendo en cuenta la magnitud de los datos almacenados, que sorprendió a los especialistas en Big Data, se calcula que se necesitarían 22.000 años para que un humano, con una lectura de ocho horas diarias, pueda absorber todos los contenidos con los que fue entrenado el ChatGPT. Este programa se funda en un análisis estadístico de una cantidad gigantesca de textos. A modo de ejemplo, si se retira una palabra de una frase, el algoritmo irá a buscar la palabra más probable para ese contexto. Se trata, entonces, de un abordaje estadístico de la lengua. ¿En qué nos convertimos en la era del ChatGPT? ¿Cuál es la característica del mundo que en adelante habitaremos? ¿En qué se convierte el lenguaje en el cual estamos inmersos? ¿Estamos pasando al registro del otro convertido en algoritmo? ¿Entramos en una era en la cual una nueva versión del otro está ocupando toda la escena? ¿La inteligencia artificial estaría en vías de tomar la dirección del otro? Son preguntas a las cuales el psicoanálisis hoy no puede sustraerse. Preguntas que afectan tanto al sujeto en su relación con el otro como a nuestras sociedades en su funcionamiento y la defensa de las democracias. Preguntas que conciernen tanto a lo íntimo como a lo colectivo, en un nuevo anudamiento que hay que explorar, que no se puede dejar de lado.

El ChatGPT es una característica nueva de ese anudamiento. Su verdadera particularidad se relaciona con su composición: la parte chat, que asegura la convivialidad en el diálogo, y la parte GPT, que genera, mediante la IA, un contenido escrito en respuesta a una pregunta. Pues bien, al aprovechar su difusión mundial a través de la logística de las plataformas de las GAFAM, es evidente que ese programa extraordinario tiene aplicaciones hasta lo infinito en campos como la enseñanza, la literatura, los intercambios, el comercio, las finanzas, el arte, los diálogos imaginarios, las parodias de canciones o los fantasmas sexuales...

El desarrollo de las ciencias y de las tecnologías de la información es tan rápido, tan violento, tan imprevisible, que la cuestión no consiste más en detenerlo, sino en controlarlo. Una vez más, el usuario se verá confrontado con el impacto subjetivo de lo digital en su aspecto moral muy discutible: la responsabilidad de controlarlo será no solo de quienes concibieron ese programa de una potencia sorprendente, sino también de quienes se sirven de él. Cada uno debe asumir sus responsabilidades frente a este fenómeno global. Como lo dice Lacan en La ciencia y la verdad: de nuestra posición de sujetos somos siempre responsables. Ese posicionamiento es de una actualidad particular en la era de lo digital.

Un ejemplo: en otro dominio, pero con casi los mismos promotores, una empresa muy exitosa en el dominio de las neurociencias, Neuralink, recibió, en 2023, la autorización de la Food and Drug Administration (FDA) para comenzar el primer estudio clínico en el hombre a fin de tratar ciertas enfermedades neurológicas mortales, la parálisis, la ceguera, etc., mediante implantes cerebrales. Esos implantes podrían igualmente ser utilizados para controlar los dispositivos conectados de uso corriente a través del poder del pensamiento.

La cuestión es compleja. Algunos usos de esos implantes permiten paliar lesiones irreversibles, retomar el control del propio cuerpo, en la perspectiva ética de un hombre reparado. Permitir, por ejemplo, que un tetrapléjico pueda caminar, que una persona con dificultades para ver pueda recuperar la vista o que otra con dificultades para oír pueda recuperar el oído son avances reales e importantes.

El problema es diferente si el empleo de esos dispositivos apunta a construir un hombre aumentado. La apertura de ese tipo de perspectiva nos conduce a otro mundo. Una autorización en ese sentido, con la aplicación de implantes para conferir a los humanos posibilidades que no podrían desarrollar naturalmente, y que abre el camino a una interfaz cerebro-máquina, es particularmente inquietante. Frente a esto, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO, por sus siglas en inglés) advirtió que los implantes cerebrales representan una amenaza al secreto mental de los individuos. En mayo de 2023 científicos estadounidenses informaron sobre el desarrollo de un decodificador de lenguaje que transforma en escritura el pensamiento de una persona tras un entrenamiento del cerebro durante largas horas en un dispositivo de imagen por resonancia magnética (IRM).

De esta manera, vemos perfilarse cada vez más a los híbridos hombre-máquina con un cerebro humano aumentado conectado a la nube, a los robots externos o a otras personas. De manera insidiosa, el planeta pasa inexorablemente del encantamiento a los temores, porque si nuestras actividades se desarrollan cada vez más en línea, los motivos de inquietud son numerosos y justificados. Las gigantes digitales, las GAFAM, y los transhumanistas multimillonarios podrían imponer a otros sus visiones del mundo y de la vida con el fin de la domesticación y el sometimiento. Todo esto a través de la voluntad y el poder de aumentar las capacidades humanas para alcanzar el objetivo final de la inmortalidad. La ilusión puede invadir la esfera del mundo digital y de la inteligencia artificial en provecho de algunos, con una visión muy particular de una ética que pone en peligro nuestras democracias.

Es muy deseable y urgente que en el centro de las preocupaciones esté lo humano y no el poder sobre los humanos. Se trata de exigir a la política que reaccione pronto y de manera apropiada. Es forzoso constatar que el legislador está atrasado respecto de las tecnologías, que se vuelven inquietantes por sus poderes y su hýbris. Ante la ausencia de reglamentación mundial y a pesar de los importantes avances jurídicos de Europa en el dominio, uno puede quedar perplejo ante el futuro que nos está reservado. ¿Cómo ir hacia una reglamentación que oriente la IA hacia la vía de las oportunidades de desarrollo, crecimiento y amplificación, que innegablemente aquella está en condiciones de abrir? Nuestra tarea hoy consiste en encontrar esa orientación y definirla; lo mismo que en otros dominios, por ejemplo, en lo que respecta a los avances de las computadoras superpoderosas, como las computadoras cuánticas y sus posibles simbiosis biotecnológicas con la IA, lo cual nos hace entrever un futuro que supera nuestra imaginación.

Fantasma, pesadilla, quimera, utopía, sueño o solución última, no tenemos la pretensión de poder predecir el futuro en el nuevo mundo de lo digital y lo que este será en la versión… 20 del ChatGPT. Como es evidente, el desarrollo tecnológico exige una reflexión individual, pero también otra colectiva que implique a los Estados democráticos. Esta última se puede reducir a dos cuestiones esenciales: ¿debemos aceptar toda evolución tecnológica que tenga un impacto en la definición de lo que es la humanidad? y ¿debemos aceptar una evolución tecnológica que implique un riesgo demasiado grande de pérdida del control de la sociedad humana? Tenemos el deber de adaptarnos encontrando un equilibrio que respete tanto al individuo como a la sociedad. Debemos vivir exigiendo el mantenimiento de nuestra libertad y de nuestros valores fundamentales, para evitar la eventualidad de un totalitarismo que derivaría de un dominio de lo digital sobre la posibilidad de cada uno de inventar su vida.

Es necesario encontrar un camino entre los dos extremos, es decir, entre un excesivo tecnocatastrofismo y un tecnoprofetismo ilusorio. ¿Estamos en la era de un triunfo de lo digital sobre el sujeto, sobre el ser viviente? ¿O, al contrario, una nueva versión de la vida se va a inventar a partir del Otro digital, de la IA? ¿Hay que considerar esta tendencia como un retorno a lo inanimado, como una puesta en juego concreta de la pulsión de muerte en su versión silenciosa, muda? ¿O nos estamos encaminando a animar la máquina a través de los algoritmos, yendo, así, hacia nuevas formas de vida? Es posible que la vida misma se esté reinventando. ¡Uno no puede maldecir su época! Lo cual no impide que el malestar invada la escena a partir de una realidad convertida en fantasma.

La angustia está en el primer plano de los debates. Algunos reclaman moratorias para disponer de un tiempo de reflexión frente a una evolución galopante que se apodera del mundo, superando a algunos de los que piensan que la están conduciendo. Pero, como lo enseña el psicoanálisis, la angustia es un alto que se puede usar de manera paradojal, hacia una apertura. Pasar de una angustia petrificante a una angustia creadora, tal es la apuesta del psicoanálisis, para ir más allá del malestar, para inventar respuestas nuevas. Angustia o creación: los desafíos de lo digital, cualesquiera que sean, son también desafíos para el psicoanálisis. Nos toca recogerlos, más allá de toda ilusión tecnológica.

FRANÇOIS FORESTIER y FRANÇOIS ANSERMET

31 de julio de 2023

Introducción

A fines del siglo XX, la industria digital nos introdujo en la cuarta revolución industrial, tras la del agua, la del vapor y la de la electricidad. En treinta años el mundo se transformó profundamente y modificó todas las actividades y todos los oficios. Estos cambios fundamentales no se parecen a lo que conocemos ni a lo que dominamos, y representan un peligro real para la humanidad.

De manera insidiosa, las cosas cambiaron, todo es nuevo. Sufrimos la invasión digital con dos dispositivos que modificaron particularmente nuestras vidas: la computadora y el teléfono celular. Los símbolos de la americanización ya no son los mismos de antes; no son más agroalimentarios ni indumentarios, sino tecnológicos, con dos rasgos específicos muy cargados de consecuencias: la dependencia y la gratuidad. En efecto, cada usuario puede procurarse productos digitales sin una contrapartida económica. ¿Compramos un bien o nos dejamos atrapar por un sistema que nos devora insidiosamente sin que lo advirtamos? Cuando adquirimos dispositivos digitales, ¿no son ellos, en realidad, los que nos atrapan, en una suerte de canibalismo invisible? ¿Quién devora a quién? Esa es la pregunta que debemos responder.

A las principales protagonistas de lo digital no se les paga con dinero, sino con datos personales. Y quienes advirtieron primero las posibilidades de internet, gracias a ese almacenamiento de datos y a sus utilizaciones ulteriores, hicieron fortunas.

Las cuatro grandes empresas de alta tecnología, Google, Apple, Facebook y Amazon (conocidas con el acrónimo GAFA), representan más de 4000 mil millones de dólares y su monopolio supera en mucho al de los ferrocarriles y las compañías petroleras del siglo XIX o al de las telecomunicaciones del siglo XX.

Esos recursos colosales les permitieron involucrarse en las nuevas tecnologías, como la inteligencia artificial, la robótica, internet o la informática cuántica. Todos estos dominios están reagrupados bajo el acrónimo NBIC, donde N es por nanotecnología; B, por biotecnología; I, por informática e inteligencia artificial; y C, por ciencias cognitivas. Todos esos desarrollos se lograron mediante autofinanciación y sin ningún control administrativo o jurídico. Para el sistema fiscal, las GAFA son extraterritoriales, pero están adquiriendo, cada vez más, la virtud de volverse indispensables. La pandemia las mostró aún más imprescindibles y provocó un crecimiento asombroso de ellas, las grandes ganadoras de la catástrofe sanitaria. Ese éxito no puede ocultar que están dotadas de un alto poder de daño, que nos aplicaremos a demostrar a lo largo de estas páginas.

En el plano económico, el informe redactado