Desde la publicación de Sapiens, Yuval Harari se ha vuelto una celebridad, aunque no está exento de polémica en los ámbitos científicos. Su nuevo libro, Nexus, ahonda en su preocupación de que la inteligencia artificial podría hackear el “sistema operativo” de la civilización.
Simplificando, la inteligencia artificial generativa está desarrollada sobre modelos que identifican qué palabra es la más probable de seguir al texto ya escrito, como cuando el celular o la computadora completa el texto a medida que vamos escribiendo. Para ello, cada palabra ha sido convertida en un vector que permite, por ejemplo, diferenciar cuando se usa “para” como preposición o como verbo, y las probabilidades se estiman sobre la base de una cantidad inmensa de información disponible por Internet. La programación permite también responder preguntas, porque el lenguaje identifica que debe buscar la información más probable para la afirmación sobre el tema que se ha preguntado. Además, puede dar estilos específicos, cuando se le indica, porque ello también está codificado. En la medida que el modelo haya sido entrenado usando información más rigurosa podrá responder mejor, así como si se escribe la pregunta en forma muy detallada (prompt engineering). Sin embargo, algunas de las probabilidades sí pueden resultar de procesos de análisis de lenguaje natural que no son transparentes. Se les llama cajas negras de redes neuronales profundas.
Dada la velocidad vertiginosa del cambio, y que solo se va a incrementar, es prudente escuchar y analizar estas voces críticas.
Harari confronta la visión de quienes sostienen que más información permitirá llegar a un mayor conocimiento de la verdad. Muchos creen hoy que las redes sociales han deteriorado la calidad de la discusión, por no tener curaduría y dados los límites de atención que las personas estamos dispuestos a dar para entender problemas complejos. Hay investigación que sostiene que el uso de redes sociales para transmitir noticias promueve una polarización del debate. Los discursos simplistas de distintos tipos de populismo vienen teniendo éxito político en distintos países.
En Nexus, Harari advierte que la característica principal de la información es la de generar conexiones entre personas, independientemente de si su contenido es verdadero o no, calificando a la Iglesia Católica como la institución más exitosa en ese campo.
Esta definición de información se vincula con el populismo de manera directa. La característica principal de estos movimientos es la de separar a la sociedad en “gente pura” y “élite corrupta”, según lo definido por Cas Mudde. Hay populismo de izquierda y derecha, así que las historias para contar esas dos versiones son contrapuestas, y han resultado efectivas en distintos contextos. El mayor acceso a información no se usa para encontrar la verdad, sino para contener la ansiedad que genera la incertidumbre y el cambio, al formar parte de un colectivo grande que se identifica con la misma narrativa. Eso explica cómo un mayor acceso a información genera más desconfianza en la ciencia y el aumento de teorías conspiratorias o simplemente absurdas, como el terraplanismo.
Que un conjunto de ideas se expanda requiere dos requisitos, señala Harari: un mito (una historia que combina información cierta y creencias generalizadas) y una burocracia que se encargue de esparcirla. Los creadores de mitos y los burócratas pueden tener conflictos de poder. Harari señala el surgimiento del protestantismo como ejemplo de ello. Los sistemas de autocorrección de las instituciones para detectar y actualizar creencias pueden ser débiles, como en las religiones, o más exigentes, como en la ciencia.
Advierte que la red de información que genera la inteligencia artificial es una de la que no tenemos claridad sobre cómo opera (las “cajas negras”) y en que los chips de silicio no tienen los límites que las neuronas humanas sí. El uso de la inteligencia artificial en democracias y regímenes totalitarios, así como su influencia en el equilibrio global de poder entre ambos bloques son preocupaciones que merecen análisis profundo. Y eso no incluye el uso de la IA para deep fakes. El cambio es imparable, pero entender en que se mete uno siempre ayuda.
