La Biblia y la IA

Es curioso el hecho de que a través de gran parte de la historia humana encontramos mitos y fantasías que advierten que la tecnología puede llevarnos a lugares catastróficos. Recordemos sólo, entre otras, la historia griego del carruaje solar de Faetón, el Aprendiz de Brujo de Goethe, la leyenda moderna del doctor Frankenstein, de Mary Shelley, el Extraño Caso del Dr Jekyll y Mr Hyde, de Robert Louis Stevenson, en las que el mensaje ha sido siempre el mismo: la creación de cosas poderosas tiene consecuencias no deseadas. Y, sin embargo, a pesar de lo obvio del mensaje, continuamos actuando como si nunca lo hubiésemos escuchado… ¿Por qué, sabiéndolo, seguimos en la persecución de lo que racionalmente  no deseamos? ¿Se debe, como algunos creen, a un defecto fatal de nuestra naturaleza, o es otra cosa? 

En la mayoría de estas fantasías un solo individuo adquiere un enorme poder, pero luego es corrompido por la arrogancia y la codicia. La cosa, sin embargo, no es tan simple. Si miramos la historia vemos que la humanidad logra un enorme poder al construir grandes redes de cooperación, pero la forma en que se construyen predispone a usarlas de manera negativa. Según el popular historiador Yuval Harari, nuestro problema no es una cuestión individual, sino uno de red o, mejor aún, uno de información, que es lo que mantiene unidas a las redes. Durante miles de años hemos inventado y difundido historias, ficciones, fantasías, fábulas y delirios colectivos sobre dioses, vírgenes, paraísos celestiales, infiernos, escobas voladoras y muchas otras cosas que no son sobre la verdad sino técnicas para unir a los miembros y crear orden. Es así como se han construido los imperios mas poderosos y totalitarios desde la antigüedad hasta nuestros días. Y estas redes delirantes están adquiriendo hoy día un poder cualitativamente diferente.

La creencia común es la de que al reunir y procesar más información, las redes logran una mayor comprensión de la realidad que la hace, no sólo poderosa, sino también sabia. Si bien es cierto que las redes delirantes pueden surgir ocasionalmente, a largo plazo están destinadas a desaparecer frente a rivales más perspicaces y honestos. Una mayor información nos acerca cada vez más a la verdad y en el libre mercado de la información tarde o temprano la verdad prevalece. Y, ciertamente, hay numerosos casos en que la información nos ha capacitado para entender mejor el mundo y usar el poder en forma más sabia. 

Pero esto es sólo parte de la historia. Las últimas generaciones han experimentado el mayor aumento de información tanto en la cantidad como en la velocidad de trasmisión y, sin embargo, estamos más cerca que nunca de aniquilarnos a nosotros mismos… ¿Como así?

Según Harari, todos los inventos humanos anteriores han capacitado al ser humano porque, no importa cuan poderosos fueran, las decisiones quedaban siempre en nuestras manos. La Inteligencia Artificial es la primera tecnología que puede tomar decisiones por sí misma. Ya no es sólo una herramienta sino también un agente. En las próximas décadas es probable que adquiera la capacidad incluso de crear formas de vida, ya sea escribiendo un código genético o inventando un código inorgánico que anime entidades inorgánicas. Un mayor conocimiento de la historia, por tanto, es vital para entender que hay de muevo en la inteligencia Artificial y como difiere de los otros medios de trasmisión.

La información es el elemento más básico de la realidad, más elemental que la materia y la energía. En el uso cotidiano la información es asociada, no solo con símbolos creados por los humanos como la palabra hablada o escrita, sino también con signos naturales como cuando la paloma vuela sobre el arca de Noé con una rama de oliva indicando el fin del Diluvio, lo que indica que la “información” es una cuestión de perspectiva.  Si consideramos que la verdad es una representación adecuada de la realidad, la mayor parte de la información en las sociedades humanas no representan ninguna cosa y su papel a través de la historia ha sido fundamentalmente el de crear nuevas realidades al unir cosas dispares, ya sean parejas o imperios. A veces representa la realidad y otras no. Pero siempre conecta. Desde la Edad de Piedra hasta la Edad del Silicón vemos un constante aumento de la conectividad, sin un aumento concomitante de la verdad o la sabiduría.

Si estuviéramos conectados solo por vínculos personales como en los monos, nuestras redes se habrían mantenido bien pequeñas. Pero cambios en la estructura cerebral y las habilidades lingüísticas  permitieron contar y creer en historias que empezaron  a tocar a un número ilimitado de individuos. Esto fue lo que inauguró un nuevo tipo de cadena. Una misma historia ahora  puede servir como conector central.

Los 1.400 millones de miembros de la Iglesia Católica, por ejemplo, están conectados por la Biblia. Mas de un mil millones de ciudadanos chinos por la ideología comunista y los ocho mil millones de miembros de la red comercial están conectados por historias sobre monedas, corporaciones y marcas.  Al igual que el ADN,  las historias pueden crear nuevas entidades.

Antes de su aparición el universo contenía solo dos niveles de realidad: la realidad objetiva que consiste en cosas como piedras, lagos y planetas, y la realidad subjetiva como el dolor, el amor y los sueños. Las historias crean un tercer nivel, la realidad intersubjetiva. Mientras las cosas subjetivas existen sólo en una sola mente, las intersubjetivas como las leyes, los dioses y las naciones existen en el nexo entre un gran número de personas. Y estas historias a menudo van unidas a mentiras, errores y fantasías letales.

Las redes de información, para ser más precisos, contienen dos distintas habilidades: descubrir la verdad y crear orden. Estos dos procesos, sin embargo, suelen ser contradictorios porque con frecuencia es más fácil mantener el orden a través de ficciones que mantener la verdad. ¿Qué sucede, por ejemplo, cuando una información socava la mentira que mantiene la preservación del poder social? Sólo recuerda a Giordano Bruno. 

Una de las más poderosas técnicas de información, aparte de la burocracia, ha sido hasta ahora la invención del Libro Sagrado, como la Biblia, el Corán o los Vedas, considerados infalibles y libres de todo error. Su historia ilustra las limitaciones de las redes de información y un aviso para nuestra época en el intento de crear Inteligencia Artificial.

Si los textos infalibles conducen a iglesias infalibles y opresivas ¿cómo, entonces, evitamos, el problema del error humano? La respuesta, según acostumbramos a creer, esta ciertamente en la libre circulación de información, pero no inevitablemente. La revolución de la imprenta en el siglo XV en Europa, por ejemplo, hizo posible la difusión masiva de textos. Todo tipo de herejes, revolucionarios y protocientíficos podían difundir sus escritos. Al parecer, un triunfo de la libertad de expresión. Sin ella hubiera sido mucho mas difícil para Copérnico y Galileo difundir sus ideas.

Pero su difusión fue mínima comparada con  la  propagación de fantasías religiosas, falsas noticias y teorías de conspiración mundial que condujeron a la caza de brujas satánicas a comienzos de la Edad Moderna culminando con la ejecución de más o menos 50.000 personas inocentes.

Hoy día no es ninguna novedad saber que estamos en medio de una revolución informática sin precedente. Por primera vez en la historia el poder está pasando en estos momentos  de los humanos a algo diferente. Las imprentas, las radios y la TV eran herramientas pasivas. Las computadoras, en cambio, se están convirtiendo en agentes activos que escapan a nuestro control y comprensión al tomar iniciativas que pueden dar origen a nuevas formas de sociedad, historia o cultura. El primer ejemplo paradigmático fue el papel que desempeñaron las redes sociales en el 2016 cuando el algoritmo de Facebook ayudó a los fanáticos a avivar la violencia anti rohingya en Myanmar, que culminó con la limpieza étnica y su expulsión del país.

 Y, a principios del 2020, los algoritmos ya habían pasado la etapa de crear por sí mismos noticias falsas y teorías conspirativas. Ellos pueden aprender por sí mismos cosas que ningún ingeniero humano programó y decidir cosas que ningún ejecutivo previó. Esta es la esencia de la revolución de la IA y potencialmente el fin de la historia humana. No el fin de la historia, sino de aquella historia dominada por humanos que ahora mismo esta siendo trastocada por las redes informáticas. No es extraño entonces que tanto las democracias como las dictaduras teman la aparición de agentes que no saben como controlar. 

Este reciente potencial político que las computadoras están  acumulando es algo que merece la atención.

Por milenios los humanos hemos estado acostumbrados a ser vigilados… por otros animales, por otros humanos y por todo tipo de instituciones. Pero hasta ahora la vigilancia siempre había sido incompleta, incluso en los sistemas más totalitarios. En el 2024, en cambio, ya nos estamos acercando a una red informática omnipresente que puede seguir a la población de países enteros las veinticuatro horas del día y acumular suficiente información para establecer un sistema de crédito social basado en un mayor o menor número de puntos que gobiernos y corporaciones han empezado a usar.

Buena conducta suma puntos. Mala conducta resta puntos. Y de acuerdo con el puntaje que se tenga uno gana o pierde privilegios. Un sistema que en poco tiempo puede crear una nueva clase social de “personas con bajo nivel de crédito” y aniquilar la poca  privacidad que nos queda. 

Y, como si esto fuera poco, las implicaciones para la política internacional  pueden tener un profundo impacto. Según Harari la dinámica económica y geopolítica puede dividir el mundo en dos imperios digitales reemplazando la cortina de hierro de la guerra fría con la cortina de silicio. El código de la computadora o teléfono inteligente, por ejemplo, determina en que lado de la cortina vives, que algoritmos dirigen tu vida y hacia donde fluyen los datos. China y Estados Unidos o Rusia y la Ue usan cada vez mas redes, códigos, software, regulaciones y objetivos digitales diferentes.

En China no se utiliza Google, Facebook o Wikipedia. En Estados Unidos no se utilizan WeChat, Baidu o Tencent. Estas diferencias tienen una tremenda  influencia  en gran parte del mundo ya que los países dependen de la tecnología de uno u otro. Durante siglos los procesos de globalización acercaron a personas de todo el mundo a un contacto más estrecho. La actual tecnología de la información paradójicamente puede dividir la humanidad con el desarrollo de culturas, ideologías e identidades diferentes y contradictorias poniendo fin a la esperanza de una humanidad compartida. 

Por supuesto, las diferencias humanas son una realidad y siempre traen algo nuevo. Pero, la cosa es que cuando los imperios compiten entre ellos, el peligro es que pueden terminar en guerras catastróficas. La guerra fría nunca llegó a una confrontación directa gracias a la doctrina de la destrucción mutua. En comparación, las armas cibernéticas son mucho más versátiles. Pueden derribar la red eléctrica, los centros de investigación, bloquear un censor enemigo, avivar un escándalo político, manipular elecciones o piratear teléfonos eléctricos. Y todo ello de manera sigilosa.

Una IA fuera de control, al igual que un virus fuera de control, pone en peligro a los seres humanos de todas las naciones. Ningún colectivo humano, sea la nación o la humanidad, se beneficiará si el poder pasa de los humanos a los algoritmos.