Revista CIDOB d’Afers Internacionals n.º 124, p. 11-23 ISSN:1133-6595 | E-ISSN:2013-035X DOI: doi.org/10.24241/rcai.2020.124.1.11 La verdad en las democracias algorítmicas Truth in algorithmic democracies Daniel Innerarity Catedrático de Filosofía, investigador «Ikerbasque» en la Universidad del País Vasco, director del Instituto de Gobernanza Democrática (Globernance) y profesor del Instituto Europeo de Florencia. dinner@ikerbasque.org Carme Colomina Investigadora especializada en Unión Europea, desinformación y política global de CIDOB (Barcelona Centre for International Affairs) y profesora del College of Europe (Bélgica). ccolomina@cidob.org Cómo citar este artículo: Innerarity, Daniel y Colomina, Carme. «La verdad en las democracias algorítmicas». Revista CIDOB d’Afers Internacionals, n.º 124 (abril de 2020), p. 11-23. DOI: doi. org/10.24241/rcai.2020.124.1.11 Resumen: La conversación pública se ha digitalizado. La red nos ofrece un espacio horizontal y descentralizado con una superabundancia de contenidos, mientras se ha acelerado un proceso de desintermediación que ha puesto fin al monopolio de los intérpretes tradicionales de la realidad. Los universos informativos y opinativos se mezclan, confunden e hibridan nuevos contenidos. La percepción de los hechos está mediada por las emociones y las verdades son de libre elección. Esta transformación no se explica solo por la crisis de los sistemas mediáticos tradicionales, sino también por el nuevo orden algorítmico que controla en gran medida la predeterminación selectiva de la información. ¿Cómo afecta al sistema democrático que el debate público tenga lugar en espacios tecnológicos de propiedad privada? ¿Quién controla este espacio digitalizado? El verdadero desafío existencial que supone para la democracia la creación de nuevos sistemas de poder y nuevas desigualdades sociales se dirimirá en la dataficación y la gobernanza algorítmica. Abstract: Public conversation has been digitalised. The internet offers us a horizontal, decentralised space with superabundant content, while at the same time a process of disintermediation has accelerated, ending the monopoly of the traditional interpreters of reality. Information and opinion are mixed and confused and new content is hybridised. The perception of facts is mediated by emotions and truths are chosen freely. This transformation is explained not only by the crisis in traditional media systems, but also by the new algorithmic order that largely controls the selective predetermination of information. How is the democratic system affected by public debate taking place in privately owned technological spaces? Who controls this digitised space? The true existential challenge posed to democracy by the creation of new power systems and new social inequalities will be settled by datafication and algorithmic governance. Palabras clave: desintermediación, posverdad, desinformación, política, democracia, consenso, algoritmo, datos, aceleración digital Key words: disintermediation, post-truth, disinformation, politics, democracy, consensus, algorithm, data, digital acceleration 11 La verdad en las democracias algorítmicas Vivimos en plena aceleración tecnológica. El ciberespacio es el nuevo territorio geoestratégico; Internet es la infraestructura donde se construye nuestra cotidianidad y hemos elevado las redes sociales a la categoría de nueva plaza pública. La red nos ofrece un espacio horizontal y descentralizado, que rompe con el privilegio de la publicación y amplía el perímetro del debate político y de la conectividad social, aunque con ello convivan también la descontextualización, la trivialización, las dudas sobre la calidad y la intencionalidad de los contenidos, la captura de nuestros datos personales y su utilización económica y política. La tecnología ha transformado nuestra experiencia de inmediatez, nos ha sumido en una infinidad de posibilidades informativas, de nuevas voces, de profusión de fuentes y de relatos –veraces o no– de la realidad, que se nos ofrecen desde la red sin necesidad de intermediarios. Es la superabundancia cacofónica Vivimos en un tiempo caracterizado por un que define esta revolución digital creciente desencanto y por la desconfianza en la que los ciclos periodísticos en las instituciones gubernamentales. Un también se han visto alterados, tiempo de incertidumbres y fragmentación. acelerados e intensificados. Esta explosión de posibilidades informativas es, a la vez, una liberación y una saturación. Se podría hablar de una «uberización de la verdad» (Innerarity, 2020), que facilita el contacto directo entre productores y consumidores en un proceso de desintermediación que aumenta el acceso a todo tipo de contenidos, pero no la capacidad de comprenderlos o transformarlos en conocimiento. El resultado es «un ruidoso bucle de realimentación» donde medios tradicionales y redes sociales coinciden (Thompson, 2017). Una burbuja construida sobre la falsa premisa de que las redes sociales son representativas de la opinión pública. Si bien estas mismas redes se erigen como el espacio donde se configura dicha opinión. La conversación política y social se ha visto alterada por este aluvión de contenidos que alimenta lo que Sloman y Fernbach (2017) han denominado «la ilusión del conocimiento». Es decir, nuestra convicción de que sabemos muchas cosas, pero también la reafirmación de sentir que formamos parte de un pensamiento de grupo. Nos debatimos entre el empoderamiento y la vulnerabilidad. Estamos convencidos de que el mundo está a nuestro alcance, pero sin darnos cuenta, muchas veces, de que se trata de un mundo filtrado algorítmicamente y que nos faltan herramientas para ordenar tanto dato, para discernir la calidad y veracidad de tanta información, y para ponderar el poder de un pensamiento grupal que no se basa en la autenticidad de aquello que se cree, sino en la cohesión del grupo y su capacidad de preponderancia en el debate virtual y real. En este nuevo orden, los universos informativos y opinativos se mezclan, se confunden e hibridan nuevos contenidos. La percepción de los hechos está mediada Revista CIDOB d’Afers Internacionals, n.º 124, p. 11-23. Abril 2020 ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org 12 Daniel Innerarity y Carme Colomina por las emociones, y la conversación política y social se vuelve más ruidosa. En estos «tiempos dislocados», fracturados –de los que se lamentaba Hamlet en la podrida Dinamarca–, «la verdad viene definida por los primeros resultados de la búsqueda de Google» (Harari, 2018) y la mentira –que siempre había formado parte del repertorio político de la historia– ha enmarañado todavía más la complejidad de este momento de cambio existencial que supone la disrupción tecnológica. Vivimos en un tiempo caracterizado por un creciente desencanto y por la desconfianza en las instituciones gubernamentales. Un tiempo de incertidumbres y fragmentación; de «decadencia de la verdad» (Kavanagh y Rich, 2018) y de relatos paralelos. La mentira está ahí, en el debate público y en el repertorio políticomediático, porque los bulos ya existían antes de Twitter, pero hoy su capacidad de penetración se ha multiplicado, no solo por la potencia amplificadora de las redes sociales, sino por la predisposición de muchos usuarios a creérselos y compartirlos. La incertidumbre se viraliza en una esfera pública digital donde las noticias falsas tienen un 70% más de probabilidades de ser retuiteadas que las verdaderas (Vosoughi et al., 2018). La posverdad exige voluntarios crédulos (Thompson, 2017), consumidores de una información que quizás sea falsa, pero alimenta una polarización real. Pero, ¿qué es la posverdad? Convertida en un concepto-lugar común, la posverdad se erige en la etiqueta política que sirve para definir la era pos-2016 –tras la elección de Donald Trump como presidente de los Estados Unidos y la victoria del Brexit en el referéndum que decidió la salida del Reino Unido de la Unión Europea–, una idea que engloba desde la falsedad retórica a la decadencia de los hechos objetivos y la verdad racional, científica o académica. Es el mundo de Michael Gove, exministro conservador británico y portavoz del Brexit que, en plena campaña del referéndum, defendió que «la gente de este país [Reino Unido] ya está harta de expertos»; de Kellyanne Conway, consejera del presidente Donald Trump, que acuñó el concepto de «hechos alternativos»; es el momento en que la Unión Europea y Estados Unidos abren un debate público sobre la capacidad de penetración de las narrativas alternativas rusas en el sistema político-mediático occidental. La posverdad no es solo mentira. Es una distorsión de la verdad cargada, sobre todo, de intencionalidad. En la comunicación política de la posverdad, el mentiroso conoce la verdad y trata cuidadosamente de desviar su atención distorsionando los hechos, diseccionando las palabras para alterar su significado, y se sirve de tácticas y astucias para embarrar la realidad. Después, en otra categoría, está el «farolero tramposo» que ilustra la noción del bullshit, teorizada por el filósofo Harry Frankfurt (2005). Sandeces que solo buscan el ruido y la distorsión. Donald Trump simbolizaría este tipo de maestro ilusionista que eluRevista CIDOB d’Afers Internacionals, n.º 124, p. 11-23. Abril 2020 ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org 13 La verdad en las democracias algorítmicas de los hechos y construye, ingeniosamente y a sabiendas, distracciones y farsas del todo inconsistentes. Al bullshitter no le importa la distinción entre hechos y verdad. Enmascara las mentiras como verdades y fabrica hechos sobre los cuales intenta construir su propia credibilidad (Waisbord, 2018). Si es que eso tiene algún valor para él. La posverdad también tiene su propia construcción narrativa cuando gobernantes autoritarios y populistas se declaran víctimas de conspiraciones periodísticas y confabulaciones políticas. Por eso el término fake news, como tal, quedó rápidamente desacreditado al convertirse en arma política arrojadiza contra cualquier intento de crítica o disensión. Caricatura de un momento que ya no responde únicamente a un desafío ideológico, sino a la normalización de un cierto caos informativo. Es la posverdad que no pretende confrontar modelos sino, simpleLa posverdad también tiene su propia cons- mente, contribuir a la confusión. trucción narrativa cuando gobernantes au- La mentira es ruido, y la confrontoritarios y populistas se declaran víctimas tación de relatos ofrece verdades de conspiraciones periodísticas y confabu- de libre elección. En muy poco laciones políticas. tiempo, hemos pasado de celebrar el empoderamiento de las redes sociales, la democratización de la información y del conocimiento, así como las posibilidades de la colaboración digital, a temer la manipulación de unos pocos; a construir narrativas, política y leyes de persecución de la mentira, las teorías conspirativas o las injerencias electorales, convenientemente utilizadas para justificar determinados fracasos o desmovilizaciones. Toda esta épica del combate contra la posverdad y de los hechos alternativos implica un cambio cultural. Complejidad (des)intermediada La transformación tecnológica conlleva transformación política y social. Baricco (2019) ha rastreado todos los pasos de este proceso: de la «insurrección digital» inicial y la embriaguez de la velocidad y la libertad que nos permitían franquear la nueva frontera que nos daba acceso a todo un mundo, en los primeros años de la década de los noventa, al «individualismo de masas» solidificado a través de una norme red de herramientas que han transformado nuestra manera de jugar, informarnos, amar o viajar. La redistribución de las posibilidades es también una redistribución del poder, una «humanidad realmente aumentada». Esta redistribución se entrecruza con otra inercia: «el instinto de saltarse las mediaciones, Revista CIDOB d’Afers Internacionals, n.º 124, p. 11-23. Abril 2020 ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org 14 Daniel Innerarity y Carme Colomina de tener un contacto directo con la realidad, de desactivar las élites» (ibídem: 216-217). Los consumidores de medios de comunicación –tradicionales o sociales– ya no se limitan a recibir pasivamente el contenido empaquetado por otros. Este proceso de desintermediación supuso el fin del monopolio de los intérpretes de la realidad; de aquellos que seleccionan los hechos, los combinan entre sí para crear un relato que interpreta la existencia para ser comprendida y compartida. Llevamos años de erosión del periodismo de referencia. La lógica del clic, de la información alternativa, de la opinión espontánea, de la movilización a través de la red y de la amplificación de las percepciones personales por encima del conocimiento razonado han mermado la relevancia de la prensa, de los partidos políticos, los sindicatos o incluso de los debates parlamentarios como mediadores necesarios para la conformación de una opinión y capacidad de decisión informada. Como demuestra Schmitt-Beck Crece el desprecio hacia la política. Nos (2003), nuestras opiniones se confi- escudamos en la idea de que la intermeguran a través de distintos procesos diación también es un proceso subjetivo. comunicativos. Los medios de co- Pero nos olvidamos de que la abundanmunicación influyen en la frecuen- cia de datos no garantiza la vigilancia cia de la discusión política, pero es democrática. en la comunicación interpersonal, y en las preferencias políticas de esos pares, donde se acaba definiendo si la discusión será, o no será, congruente con el mensaje mediático. Los usuarios de redes sociales son también emisores de mensajes, prescriptores de contenido, sujetos influidos con capacidad de influir. Por eso, la expansión de Internet a segmentos cada vez más amplios de población, combinada con su capacidad movilizadora, de acceso a información, opinión, desinformación o propaganda, y de construcción de identidad a través de la búsqueda de otros usuarios similares, genera nuevos universos donde encontrar pares, aliados, colaboradores, o conversos (ibídem). Por lo que es más probable que nos creamos un rumor o una teoría de la conspiración si concuerda con nuestra visión del mundo (Thompson, 2017). Nos sentimos individualmente empoderados. Crece el desprecio hacia la política. Nos escudamos en la idea de que la intermediación también es un proceso subjetivo. Pero nos olvidamos de que la abundancia de datos no garantiza la vigilancia democrática. El discurso de la posverdad nos distrae de algo más preocupante que la intencionada distorsión de la realidad: la propia incapacidad de los sujetos para hacerse cargo de la complejidad informativa de nuestra sociedad. «En un mundo inundado de información irrelevante, la claridad es poder» (Harari, 2018). Para ello, nos hacen falta intérpretes capaces de dar contexto, sentido y valoración crítica a los hechos. La abundancia no significa siempre calidad. Revista CIDOB d’Afers Internacionals, n.º 124, p. 11-23. Abril 2020 ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org 15 La verdad en las democracias algorítmicas Jean François Revel (1983: 163-165) lo advirtió hace más de tres décadas, justo cuando irrumpía la televisión global de información continua y el mundo ya disertaba sobre «la superabundacia de informaciones con que la humanidad moderna, está abrumada, según dicen». Escéptico, Revel advertía que «los medios no reflejan más que la libertad que se tiene a bien darles» y que la abundancia de información se relaciona menos con la importancia del acontecimiento, que con la facilidad de observarlo. Nuestras limitaciones cognitivas no proceden solo de la escasez de información, sino también de la falta de instrumentos para hacer frente a la complejidad del mundo. Incluso el «desorden informativo» tiene su propia multiplicidad: desinformación, noticias falsas, descontextualizaciones, filtraciones interesadas, mala praxis, líneas difusas entre información y opinión, o entre lo esencial y lo anecdótico. También los costes de la precarización laboral han hecho mella en las capacidades y la credibilidad del periodismo. Todo puede contribuir en grados diversos e intencionalidades distintas a la confusión. En definitiva, una disparidad de elementos –unas veces concretos, otras contextuales– contribuyen a las percepciones erróneas entre aquellos incapaces de desenredar la complejidad de nuestra sociedad y que, a través de la búsqueda de explicaciones simplificadas –a menudo cargadas de emociones– encuentran la manera de sentirse reconfortados, aceptados, o una vía para la gestión personal de aquello que no pueden entender (Flynn et al., 2017). El papel cada vez menos importante del discurso racional, del sentido común y de la política basada en los hechos, no empezó con Donald Trump. Él es parte de una evolución acelerada y aumentada por el efecto de las redes sociales; es la culminación de una serie de tendencias (Kakutani, 2019). Trump como síntoma y no como causa de una transformación de la esfera pública que no se explica únicamente por la crisis de los sistemas mediáticos tradicionales, sino también por el nuevo orden algorítmico que controla en gran medida la predeterminación selectiva de la información que vemos. Así, aquellos que deciden la previsibilidad de lo que consumimos –y los que saben utilizar la tecnología y los datos para segmentar mensajes y tratar de inducir comportamientos– consolidan su poder sobre nosotros. En unos modelos de negocio basados en la interconexión social, los algoritmos nos muestran el mundo que, según sus cálculos, deberíamos querer ver. Es la ciberbalcanización de las preferencias, incluidas las afiliaciones sociales, intelectuales y económicas –según el término acuñado en 1997 por Marshall van Alstyne y Erik Brynjolfsson en un estudio sobre las comunidades electrónicas–, que nos sumergen en microcomunidades autorreferenciales, en silos de verdades distintas, solo compartidas por aquellos que se nos asemejan. Revista CIDOB d’Afers Internacionals, n.º 124, p. 11-23. Abril 2020 ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org 16 Daniel Innerarity y Carme Colomina Verdad, emotividad y gestión política Los hechos también son vulnerables. Necesitan testigos fiables, necesitan individuos que distingan entre realidad y ficción. La verdad no admite ser manipulada, porque deja de ser verdad. Incluso los hechos o los datos verificables, dependiendo de cómo se empaqueten, pueden crear visiones distorsionadas. La verdad no es lo mismo que la objetividad y la exactitud. Los humanos no vivimos en el mundo de la rotundidad, sino en el de la aproximación; nos movemos en un entorno de interpretaciones, de emotividad y de gestión de la apariencia. No todos reaccionamos de la misma manera a los mismos inputs, porque nuestras respuestas están influenciadas por nuestras creencias, nuestro sistema de valores. Por eso, la mentira –que puede ser involuntaria– es una categoría per pertenece al ámbito de la moral. El conflicto entre verdad y políti- Los humanos no vivimos en el mundo de ca viene de muy lejos. Las mentiras la rotundidad, sino en el de la aproxisiempre se han considerado herra- mación; nos movemos en un entorno de mientas necesarias y justificables, no interpretaciones, de emotividad y de gessolo de los políticos o de los dema- tión de la apariencia. gogos, sino también del oficio del estadista (Arendt, 2006[1961]). La retórica del fin justifica los medios podría llegar a considerarse como un instrumento casi inofensivo de todo el arsenal político, especialmente en este momento de irrelevancia del coste electoral de la mentira. Cassam (2019) habla de una despreocupación epistémica (epistemic insouciance), por la que muchos políticos y votantes relativizan el contenido de verdad de aquello que dicen o escuchan: una indiferencia frente al valor de verdad de las opiniones. Es en este reino de la verdad dividida, del pensamiento binario y de la comunicación fragmentada, donde el populismo quiere que esté la política (Waisbord, 2018), porque el debate político es el terreno más fértil para la falsedad online, como demuestra el trabajo de Vosoughi et al. (2018: 1.146). Según sus argumentos, el alcance, la velocidad y la capacidad de penetración de «las noticias políticas falsas son mucho más pronunciados que las noticias falsas sobre terrorismo, desastres naturales, ciencia, leyendas urbanas o información financiera. Sin embargo, contrariamente a la sabiduría popular, los robots aceleraron la difusión de noticias verdaderas y falsas al mismo ritmo, lo que implica que las noticias falsas se extienden más que la verdad, porque los humanos, no los robots, tienen más probabilidades de difundirlas» (ibídem). Es la constatación de que la mentira, como la política, posee una dimensión emocional. Todos somos parte del proceso. De la misma manera que la democracia es un régimen de opinión y no un conflicto de enunciados a la búsqueda de ratificación científica. En este sentido, se puede entender por qué un pensador como John Rawls Revista CIDOB d’Afers Internacionals, n.º 124, p. 11-23. Abril 2020 ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org 17 La verdad en las democracias algorítmicas (1999) decía que cierta concepción de la verdad (the whole truth) era incompatible con la ciudadanía democrática y el poder legítimo, o a qué se refería Hannah Arendt (2006[1961]) cuando hablaba de la «tiranía de la verdad». Aunque la democracia no tiene por objetivo alcanzar la verdad, sino decidir con la contribución de la ciudadanía, la información y las narrativas compartidas son una precondición del discurso público democrático, que ahora se fragmenta en silos de supuestas verdades compartidas. El consenso se construye dentro de las comunidades digitales, aunque se trate de «grandes coagulaciones que se forman y deshacen con rapidez, porque no son formaciones geológicas sedimentadas a lo largo del tiempo, sino rápidos reagrupamientos de individuos destinados luego a recomponerse de otra forma con el próximo movimiento» (Baricco, 2019: 220). En esta digitalización y desjerarquización de la conversación pública (Arias Maldonado, 2017) no basta con que los hechos referidos sean ciertos. Para un debate público de calidad, debemos poder estar seguros de la veracidad de la información que recibimos o, de lo contrario, no tendremos una verdadera discusión democrática. Y la verdad forma parte del proceso de emancipación política, de un despertar que nos permitiría disputar las falsedades perpetuadas por dirigentes deshonestos (Arendt, 2006[1961]). Por eso, nuestra relación con la verdad –especialmente en la vida política– es menos simple de lo que quisieran los que la conciben como un conjunto de hechos incontrovertibles. La verdad –en la historia– siempre ha sido una excepción, y el mundo menos dócil de la imagen que pretenden proyectar aquellos que hoy claman contra la mentira en las redes sociales, las injerencias electorales externas o la retórica populista que inyectan volatilidad a unos sistemas democráticos desconcertados. Una democracia es un sistema de organización de la sociedad que no está especialmente interesado en que resplandezca la verdad, sino en beneficiarse de la libertad de opinar. La democracia es un conflicto de interpretaciones, una controversia, una conversación entre los votantes y los políticos. «La democracia es gobierno por discusión porque es gobierno por opinión» (Urbinati, 2014: 154). Por eso Rorty (1991) afirmaba que el valor de la democracia es superior al de la verdad. Todavía más en este escenario de «democracia de las audiencias» (Manin, 1997), donde los partidos políticos actúan con más oportunismo que estrategia, en línea con el comportamiento electoral. Con la colonización tecnológica del espacio público, la conversación democrática ha sufrido nuevas mediatizaciones. Los algoritmos definen la información sobre la cual se construirán acciones y reacciones. Nuestras opiniones, hábitos y comportamientos, preferencias y pautas de consumo son analizadas para crear nuevas reglas. La desafección de la sociedad civil hacia los actuales modelos democráticos está generando incluso nuevas propuestas democráticas basadas en la supuesta objetividad, moralidad, representatividad y neutralidad de los modelos matemáticos basados en redes Revista CIDOB d’Afers Internacionals, n.º 124, p. 11-23. Abril 2020 ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org 18 Daniel Innerarity y Carme Colomina neuronales artificiales de aprendizaje automático (Calvo, 2019). La democracia algorítmica se explica desde dos extremos: desde la supuesta neutralidad de una inteligencia artificial (IA) que debería estar exenta de sesgos emotivistas, a la idea de la red como un espacio de ficción intoxicada, diseñada desde algoritmos que sirven a intereses y lógicas determinadas; entre aquellos que aspiran a la neutralidad algorítmica y los que declaran que el debate público de hoy en día ya no es real; entre los que ven en el nuevo paisaje tecnológico una oportunidad para la renovación política y los que, en cambio, se sienten abocados a una próxima realidad despolitizada. Cada nuevo avance tecnológico añade, si cabe, más complejidad a nuestra relación con la verdad y su peso en la conversación pública, porque ya no se trata de discernir entre información y desinformación –un problema antiguo ahora sobredimensionado por la realidad de la esfera digital–, sino que con la La democracia algorítmica se explica llegada del deep fake –la manipula- desde dos extremos: desde la supuesta ción audiovisual– nuestra duda se neutralidad de una inteligencia artificial amplía también a lo real y lo virtual. (IA) que debería estar exenta de sesgos Es la muerte del ver para creer. La emotivistas, a la idea de la red como un verosimilitud ha ido ocupando el lu- espacio de ficción intoxicada, diseñada gar de la verdad (Kakutani, 2019). desde algoritmos que sirven a intereses y Por eso, para salvar nuestro mundo lógicas determinadas. común, necesitamos que lo verdadero y lo falso sean categorías operativas. Porque, en una democracia, el combate contra la falsedad solo puede llevarse a cabo en un entorno de pluralismo garantizado, y renunciar a nuestros ideales de verdad y falsedad supondría entregarse al poder de los oportunistas. Menos censura, más ética La democracia representativa se siente amenazada. La globalización económica y la aceleración tecnológica han modificado su contexto inmediato. Pero también la demografía, las dificultades para gestionar crisis transnacionales que se escapan de las lógicas estatales y el malestar ciudadano, que han desarmado el sistema de partidos tradicionales y han dejado a muchos gobiernos a la defensiva, buscando enemigos y señalando a supuestos culpables externos de tanta volatilidad. La irrupción del populismo, la polarización política y social, así como su traslación en las urnas, han erosionado unos sistemas democráticos debilitados por la desconfianza. En la teoría liberal, «la esfera pública tiene por Revista CIDOB d’Afers Internacionals, n.º 124, p. 11-23. Abril 2020 ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org 19 La verdad en las democracias algorítmicas objeto la libre discusión en busca de ese objeto elusivo y provisional que es la verdad, pero esta no puede ser blindada sin incurrir en flagrante contradicción» (Arias Maldonado, 2017:75). En este contexto, es imprescindible delimitar la guerra contra las noticias falsas, con una regulación sobria, eficaz y sobre todo garantista, porque la democracia debe protegerse más de los poderes propios que de los extraños. Así, la estrategia sobre cómo hacer frente a esta nueva realidad, confronta la Unión Europea con algunos de sus dilemas internos más recurrentes: las distintas visiones de derechos, valores y prioridades políticas que convergen bajo el paraguas comunitario; y el equilibrio entre la libertad de expresión y el derecho a estar debidamente informado. La Unión Europea considera la desinformación como «una presión sistemática cada vez mayor» sobre sus sociedades y su estabilidad electoral (Parlamento Europeo, 2016). Según su perspectiva, la retórica de la posverdad se declina en relatos pos-Europa, es decir, en las distintas variaciones de narrativas de desintegración comunitaria. Sin embargo, a pesar de identificar el reto, la respuesta comunitaria se ha visto condicionada por las distintas percepciones del riesgo, los diferentes marcos legales y los desiguales ecosistemas mediáticos entre sus estados miembros. Con estos condicionantes, la acción de la Unión optó por la negociación con las grandes plataformas tecnológicas y explorar cómo implicarlas en el control del contenido online. Facebook, Google, Twitter, junto con otras empresas y organismos de software que representan a la industria publicitaria, adoptaron en octubre de 2018 un Código de prácticas autorreguladoras sobre la desinformación. Una concesión desde la perspectiva del poder tecnológico de Silicon Valley, que se erige así en una especie de censor privado de los contenidos que se comparten en sus plataformas. Además del poder acumulado por un control sin precedentes de datos y comportamientos individuales, así como una concentración masiva de los intercambios comunicativos que se producen a través de las redes sociales, estos gigantes tecnológicos pueden ejercer ahora también de guardianes (gatekeepers) de la información que la mayoría de los ciudadanos reciben hoy en día. Además, si las grandes plataformas vigilan los contenidos sobre los cuales se debate políticamente, y buena parte de esta conversación pública tiene lugar en estos espacios digitales, ¿quién controla en realidad las fuerzas impulsoras de los cambios sociales? ¿Qué implicaciones tiene para el control democrático que el debate público tenga lugar en espacios tecnológicos de propiedad privada? La raíz del problema de la desinformación no reside solo en el caos ruidoso del espacio virtual, en sus contenidos dudosos o en la responsabilidad individual, como usuarios, de actuar de altavoces de esta. Sin menospreciar estos desafíos, hay que mirar también debajo de la alfombra, directos a los mecanismos y parámetros que definen cómo es y será este espacio digital. Salir de la lógica de 2016, centrada sobre todo en las narrativas y orígenes de la desinformación, para abarcar el Revista CIDOB d’Afers Internacionals, n.º 124, p. 11-23. Abril 2020 ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org 20 Daniel Innerarity y Carme Colomina fenómeno desde la complejidad y sofisticación tecnológica que permite combinar informaciones, reconocer y emplear emociones, y generar nuevo contenido a partir de la utilización masiva de nuestros datos personales. Asumiendo que la desinformación –la falsedad– siempre ha formado y formará parte del espacio público, ¿cómo se gestiona la arquitectura tecnológica que aumenta exponencialmente su viralidad? Los algoritmos utilizados en las plataformas de búsqueda y en las redes sociales pueden ser propulsores de difusión de desinformación. La IA también puede manipular los algoritmos de estos motores de búsqueda utilizados para que los sitios web o las noticias que contengan información falsa aparezcan primero (Scheidt, 2019). ¿Cómo se diseña este proceso de priorización de los contenidos –sobre los cuales ahora las grandes plataformas pueden decidir si mantienen o no su publicación–? Los algoritmos que dirigen las búsquedas rara vez son transparentes. Sobre eso, no hay colaboración. Y, sin embargo, los La transformación ha empezado y lo ha algoritmos modelan nuestro mundo hecho de espaldas a una gobernanza de manera creciente (Harari, 2018). compartida, coincidiendo con una crisis La digitalización ha creado nuevos del multilateralismo que nos aboca a un sistemas de poder y nuevas desigual- escenario de confrontación de modelos, dades sociales. Por eso, el verdadero concentraciones de poder y de conflictivireto digital de la Unión Europea es dad tecnológica. mucho más existencial que la capacidad disruptiva de la desinformación. Se trata de reducir las actuales asimetrías de conocimiento: entre la información que las grandes plataformas tienen de sus usuarios y la falta de transparencia sobre los algoritmos y los modelos de negocio con que procesan y explotan estos datos; entre las posibilidades de adaptación a la nueva realidad de los ciudadanos en red y los que todavía no tienen acceso a la conectividad. La llamada «brecha digital» es el desequilibrio de la Europa del siglo xxi, que se añade a las muchas desigualdades que se arrastran de la concatenación de crisis anteriores. Consciente de ello, a menudo la Comisión Europea se refiere a los datos como un «bien público» y quiere crear «espacios de datos» comunes de la UE en sectores considerados de valor estratégico. Pero, más allá de la identificación del nuevo contexto, las actuaciones de la Unión Europea siguen centradas en una estrategia defensiva para hacer frente a la desinformación, con los riesgos que ello conlleva de sobreactuación. Hemos asistido a campañas desinformativas impulsadas desde determinados gobiernos de la propia Unión, o desde medios bajo su control, y a leyes supuestamente destinadas a luchar contra el fenómeno, que facilitan la persecución de la oposición política, con Hungría como caso paradigmático (Bayer et al., 2019). La revolución digital no necesita censura, necesita ética. Superar las respuestas reactivas y empezar a pensar en el futuro de la dataficación y la gobernanza algorítmica; en las transforRevista CIDOB d’Afers Internacionals, n.º 124, p. 11-23. Abril 2020 ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org 21 La verdad en las democracias algorítmicas maciones políticas, sociales y legislativas asociadas a la robotización, la digitalización y la automatización. Estas transferencias de autogobierno y organización social ya están en marcha. La transformación ha empezado y lo ha hecho de espaldas a una gobernanza compartida, coincidiendo con una crisis del multilateralismo que nos aboca a un escenario de confrontación de modelos, concentraciones de poder y de conflictividad tecnológica. En consecuencia, la Unión Europea debe construir un modelo tecnológico y de gestión y análisis de datos propio, que no suponga tener que escoger entre el capitalismo de Silicon Valley, que acumula información social en manos privadas para beneficios lucrativos, o el sistema chino, que las concentra en manos del Estado para imponer un control social: entre la autocracia digital y el capitalismo de plataforma. Porque no se trata solo de la carrera en marcha por quién posee los datos, sino del uso que se hace de ellos. En definitiva, que la aceleración tecnológica que vivimos refuerce la capacitad de empoderamiento ciudadano o, por el contrario, endurezca la capacidad de represión de gobiernos autoritarios, todavía está por decidir. Referencias bibliográficas Arendt, Hannah. Between past and future. Eight exercises in political thought. Nueva York: Penguin Books, 2006[1961]. Arias Maldonado, Manuel. «Informe sobre los ciegos. Genealogía de la posverdad». En: Ibañez, Jordi (ed). La era de la posverdad. Barcelona: Calambur, 2017, p. 65-77. Baricco, Alessandro. The game. Barcelona: Anagrama, 2019. Bayer, Judit; Bitiukova, Natalija; Bard, Petra; Szakács, Judit; Alemanno, Alberto y Uszkiewicz, Erik. «Disinformation and Propaganda – Impact on the Functioning of the Rule of Law in the EU and its Member States». HEC Paris Research Paper, n.º LAW-2019-1341 (2019) (en línea) https://dx.doi. org/10.2139/ssrn.3409279 Calvo, Patrici. «Democracia algorítmica: consideraciones éticas sobre la dataficación de la esfera pública». Revista del CLAD Reforma y Democracia, n.º 74 (2019), p. 5-30. Cassam, Quassim. Vices of the mind. From the intellectual to the political. Oxford: Oxford University Press, 2019. Flynn, DJ; Nyhan, Brendan y Reifler, Jason. «The Nature and origins of Misperceptions: Understanding false and unsupported beliefs about politics». Advances in Political Psychology, vol. 38, n.º S1 (2017), p. 127-150. Frankfurt, Harry G. On Bullshit. Princeton: Princeton University Press, 2005. Harari, Noah Yuval. 21 lecciones para el siglo XXI. Barcelona: Debate, 2018. Revista CIDOB d’Afers Internacionals, n.º 124, p. 11-23. Abril 2020 ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org 22 Daniel Innerarity y Carme Colomina Innerarity, Daniel. Una teoría de la democracia compleja. Gobernar en el siglo XXI. Barcelona: Galaxia Gutenberg, 2020. Kakutani, Michiko. La muerte de la verdad. Notas sobre la falsedad en la era Trump. Barcelona: Galaxia Gutenberg, 2019. Kavanagh, Jennifer y Rich, Michael D. Truth Decay. An Initial Exploration of the Diminishing Role of Facts and Analysis in American Public Life. Santa Mónica, CA: Rand Corporation, 2018. Manin, Bernard. The principles of representative government. Cambridge: Cambridge University Press, 1997. Parlamento Europeo. «Resolución de 23 de noviembre de 2016, sobre la comunicación estratégica de la UE para contrarrestar la propaganda de terceros en su contra (2016/2030(INI)». Parlamento Europeo, (2016) (en línea) https:// www.europarl.europa.eu/doceo/document/TA-8-2016-0441_ES.html Rawls, John. Collected papers. Cambridge: Harvard University Press, 1999. Revel, Jean François. Comment les democracies finisent. París: Grasset, 1983. Rorty, Richard. The priortity of democracy to philosophy, en Objectivity relativism and truth: Philosophical papers. Cambridge: Cambridge University Press, 1991. Scheidt, Mélanie. «The European Union versus External Disinformation Campaigns in the Midst of Information Warfare: Ready for the Battle?». College of Europe, EU Diplomacy Papers [working paper], (2019) (en línea) http://aei. pitt.edu/id/eprint/100447 Schmitt-Beck, Rüdiger. «Mass communication, personal communication and vote choice: The filter hypothesis of media influence in comparative perspective». British Journal of Political Science, vol. 33, n.º 2 (2003), p. 233-259. Sloman, Steven A. y Fernbach, Philip. The knowledge illusion: Why we never think alone. Nueva York: Riverhead Books, 2017. Thompson, Mark. Sin palabras. ¿Qué ha pasado con el lenguaje de la política? Barcelona: Debate, 2017. Urbinati, Nadia. Democracy disfigured. Opinion, truth and the people. Cambridge: Harvard University Press, 2014. Van Alstyne, Marshall y Brynjolfsson, Erik. Electronic Communities: Global Village or Cyberbalkans?». Proceedings of the International Conference on Information Systems, (1997) (en línea) http://citeseerx.ist.psu.edu/viewdoc/ summary?doi=10.1.1.72.3676 Vosoughi, Soroush; Roy, Deb y Aral, Sinan. «The spread of true and false news online». Science, vol. 359, n.º 6.380 (2018), p. 1.146-1.151. Waisbord, Silvio. «The elective affinity between post-truth communication and populist politics». Communication Research and Practice, vol. 4, n.º 1 (2018), p. 17-34. Revista CIDOB d’Afers Internacionals, n.º 124, p. 11-23. Abril 2020 ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org 23 Directora: Svenja Blanke Jefe de redacción: Pablo Stefanoni www.nuso.org 285 Clases medias, más allá de los mitos ENERO-FEBRERO 2020 COYUNTURA: Steven Levitsky / María Victoria Murillo. La tentación militar en América Latina. Roberto Gargarella. Diez puntos sobre el cambio constitucional en Chile. TRIBUNA GLOBAL: Marie Lemonnier. ¿Europa sigue siendo cristiana? Entrevista a Olivier Roy. TEMA CENTRAL: Ezequiel Adamovsky. «Clase media»: mitos, usos y realidades. Cecilia Güemes / Ludolfo Paramio. El porvenir de una ilusión: clases medias en América Latina. Gabriela Benza / Gabriel Kessler. Nuevas clases medias: acercar la lupa. Moisés Kopper. Brasil: ¿cómo se «inventó» la nueva clase media? Tobias Boos. Rebelión, progresismo y economía moral. La clase media argentina en las últimas dos décadas. Víctor Arrambide Cruz. Conceptos e ideas sobre las clases medias peruanas. Mayra Espina. Reforma y emergencia de capas medias en Cuba. Amaru Villanueva Rance. Bolivia: la clase media imaginada. José Fernández Vega. Ricardo Piglia: una vida en tercera persona. 283 284 ¿No hay futuro? Migrar en América Imágenes del mundo que viene Movilidad y derechos humanos SEPTIEMBRE-OCTUBRE 2019 PAGOS: Solicite precios de suscripción y datos para el pago a <info@nuso.org> o <distribucion@nuso.org>. NOVIEMBRE-DICIEMBRE 2019 En nuEstro próximo númEro Protestas globales