Hace ya algún tiempo que dejamos atrás la optimista idea de que el progreso es inherente, de que la historia de una u otra manera nos lleva hacia un bien común. Hoy, más que en ningún otro momento, las señales de que nos enfrentamos hacia una regresión están por todos lados. Cosas éticas elementales que dábamos por sentado, por ejemplo, vuelven a ser discutidas, como la tortura, el genocidio, el fascismo, la esclavitud, la libertad de expresión o la suspensión de derechos legales.
En uno de sus últimos libros Slajov Zizek comienza con una de las escenas de la película de Nolan, “El Prestigio”, que presenta a un mago que lleva a cabo un truco donde un pájaro básicamente es aplastado y asesinado para luego volverlo a la vida. Un niño, al presenciar lleno de angustia el espectáculo, realmente no cree que el mago haya resucitado al pájaro. Este que ahora aparece no es el mismo pájaro que anteriormente fue sacrificado. Después que termina la escena el pájaro muerto es retirado detrás de las bambalinas.
En breve, un pájaro tuvo que ser asesinado para que el otro volviera a la vida. El punto de la historia, si queremos encontrar uno, es la idea de que uno de los gestos elementales de la crítica ideológica es siempre buscar el pájaro muerto, preguntarse si tuvo que ser asesinado o sacrificado para que el progreso tenga lugar. Cuando llegamos a una nueva etapa superior, debe haber un pájaro aplastado en alguna parte.
No hay que ir muy lejos en la búsqueda de pájaros sacrificados. El ejemplo más reciente es el surgimiento de la Inteligencia Artificial. Puede inventar tratamientos y medicamentos en los que nunca habíamos pensado, nuevas formas de energía que podrían evitar o aminorar el daño ecológico, pero también puede inventar armas que van más allá de nuestra imaginación, con la posibilidad de ser nosotros mismos el pájaro sacrificado. Un instrumento que por primera vez nos introduce a una cultura no humana.
En buenas cuentas, no sólo una herramienta en nuestras manos, sino un agente que crea nuevas realidades. Puede aprender, puede cambiar y tomar decisiones e inventar nuevas ideas por sí misma. Si una máquina no puede hacer eso, no es realmente una IA. Luego, por definición, no podemos predecir cómo se desarrollará y evolucionará. Cada año que pasa, nota Yuval Harari, la inteligencia artificial se vuelve menos artificial y más extra terrestre, no en el sentido de que venga del espacio, sino en el sentido de que analiza información, toma decisiones, inventa nuevas cosas de una manera totalmente diferente a los seres humanos.
Cosas que no están bajo nuestro control, cosas que son impredecibles y, en este sentido, son ajenas. La especie humana, al igual que todo el resto de los animales, funciona orgánicamente, digamos, por ciclos: día y noche, verano e invierno. A veces estamos activos, a veces descansamos y necesitamos dormir. La IA funciona de una manera completamente diferente, no por ciclos y no necesita descansar ni dormir.
El ejemplo inmediato es el de los mercados financieros. Tradicionalmente, Wall Street, abre a las 7:40 y cierra a las 4:00 de lunes a viernes y no funcionan los fines de semana, en la Navidad y los festivos nacionales. Pero ahora los sistemas de información automatizados se están apoderando de los mercados que los mantienen siempre activos ejerciendo presión sobre los banqueros y los inversionistas que tienen que mantenerse alertas todo el tiempo si no quieren quedarse atrás. Es en este sentido que son tecnologías extraterrestres.
Si miramos la evolución animal descubrimos que tomó cuatro mil millones de años para llegar a la especie humana, que comienza con microorganismos como las amibas. El estado evolutivo actual de la IA es similar al estado de las amibas, con la diferencia de que no es una evolución orgánica sino digital, millones de veces mas rápida… ¿Está nuestro cerebro capacitado para comprender lo que esto significa? Por ahora el peligro se ve como un poco ajeno comparado con la energía nuclear, en donde tenemos una buena comprensión de lo que significa la bomba.
Con la IA la cosa es mucho más compleja. El peligro no proviene de la rebelión de los robot al estilo
de Hollywood sino de la burocracia de la IA que cada vez más se está haciendo cargo del mundo. Es un algoritmo el que ahora puede decidir si uno aprueba un préstamo del banco, si obtiene este trabajo o no, si alguien es declarado culpable de un delito o si un ejército decide bombardear o no, como en Gaza o Ucrania. En el fondo lo que esta ocurriendo es que estamos subcontratando todas estas decisiones, cediendo nuestra agencia a estas máquinas y confiando que van a tomar las decisiones correctas.
Pero no sabemos cómo se toman estas decisiones, incluyendo los ingenieros que crean los algoritmos. Y es probable que esto se extienda a más y más lugares. Las finanzas, como la música, el arte y la religión, han sido parte de la cultura humana. Pero ahora hay una inteligencia alienígena que producirá más canciones, música, estrategias financieras, mitologías, incluso ideas políticas… ¿Cuál será el significado de vivir en una cultura no humana?
Todavía estamos en control… ¿pero, por cuánto tiempo más? No hay garantía de que mantengamos el control de algo que excede enormemente nuestras capacidades prácticamente en todo. Y una inteligencia fuera de control, al igual que un virus fuera de control, es una amenaza capaz de suplantar la mente humana y poner en peligro existencial nuestro futuro. Los que mantienen el poder, sin embargo, necesitan desarrollar la IA cada vez más rápido que sus competidores y es ésto lo que realmente podría destruirnos. Una inteligencia fuera de control, al igual que un virus fuera de control, que amenaza con suplantar la mente humana y poner en peligro nuestro futuro existencial.
Si consideramos todo ésto no sería arriesgado decir que las amenazas actuales no son principalmente externas, como los terremotos o asteroides que pueden impactar el planeta, sino autogeneradas por la actividad humana permeada por la ciencia, tales como las consecuencias ecológicas de la industria, las consecuencias psíquicas de la biogenética descontrolada o las consecuencias incontrolables de la IA.
Y, la cosa es que paradójicamente las ciencias son simultáneamente una de las fuentes de riesgo, pero también el único medio que tenemos para comprender y definir las amenazas. Así entonces, si culpamos a la civilización tecnocientífica del calentamiento global, por ejemplo, necesitamos la misma ciencia, no solo para definir el alcance de la amenaza, sino para percibirla en primer lugar. No podemos caer en la nostalgia retrospectiva de un mundo predigital. Pero tampoco las soluciones meramente tecnológicas son suficientes.
Como decían algunos marxistas al estilo de Walter Benjamín, cualquier forma de progreso es siempre otra versión de la regresión disfrazada o, peor aún, “la civilización no es más que otra forma de barbarie”. Si hay alguna duda, solo eche una mirada a Gaza. Rosa Luxemburgo, recordamos, decía que “el futuro será socialismo o barbarie”. Lo sentimos Rosa, pero terminamos con un socialismo bárbaro y todavía sufrimos las consecuencias que el estalinismo dejó.
Por el otro lado, el estado de crisis del liberalismo democrático es igualmente evidente a través del mundo, como indica el surgimiento de líderes bárbaros al estilo de Trump. La idea es que “el electorado le da poder a alguien por un período de tiempo limitado con la condición de que lo devuelva al final de su periodo y así tener una opción diferente la próxima vez”. Pero ahora resulta que, cada vez más, el que tiene el poder no lo quiere devolver, peligro que siempre ha acechado a la democracia.
En todo este deprimente escenario pareciera que los aceleracionistas son los que todavía conservan algún optimismo. Antes de alcanzar la singularidad pospolítica, advierten, debemos enfrentar las posibilidades autodestructivas más inmediatas, desde catástrofes ecológicas y guerras globales hasta caos social, en su máxima expresión, para finalmente llegar al estado de singularidad, la fusión de la inteligencia humana y la inteligencia de la máquina.
Zizek, por su parte, cree que en lugar de abandonar la creencia en el progreso, deberíamos redefinirlo y el primer paso para hacerlo es ser capaces de reconocer esas realidades incómodas, miserables y dolorosas que parecen no tener remedio. Durante siglos los visionarios de todo tipo soñaron con lo que la humanidad podría lograr. Lo que ahora debiéramos reconocer, sin embargo, es que el progreso nunca es una aproximación lineal a un objetivo pre existente, ya que cada paso adelante que merece el nombre de progreso implica una redefinición radical de la noción misma de progreso.
Y el único objetivo progresista indudable que la humanidad puede perseguir hoy, en vista de las amenazas ecológicas, bélicas y políticas, es simplemente sobrevivir, no empujar el tren del progreso histórico, sino aplicar el freno de emergencia antes que todos acabemos en la barbarie poscapitalista, algo que requiere una reorganización radical de todo nuestro estilo de vida hacia alguna forma de solidaridad y cooperación global. Pero, la verdad es que no estaría demás decir que, incluso este mínimo objetivo, a pesar del planeta en llamas, puede que no esté a nuestro alcance.
* Profesores de Filosofía chilenos graduados en la Universidad de Chile. Residen en Ottawa, Canadá, desde el 1975. Nieves estuvo 12 meses presa en uno de los campos de concentración durante la dictadura de Augusto Pinochet. Han publicado seis libros de ensayos y poesía. Colaboran con surysur.net y el Centro Latinoamericano de Análisis Estratégico (CLAE, www.estrategia.la)
Los comentarios están cerrados, pero trackbacks Y pingbacks están abiertos.