En la primera reunión del Panel de Expertos en Inteligencia Artificial (IA) de Naciones Unidas, Yoshua Bengio, copresidente del organismo, alertó que el mundo no tiene 15 años, como muchos piensan, para abordar problemas como el uso de armas autónomas letales o los desafíos de la ciberseguridad y la protección de infraestructura clave para los países.
Tenemos una tarea vital, dijo, especialmente por la velocidad a la que se están dando los cambios. “Debemos proporcionar una base científica rigurosa y evidencia clara, ahora”, afirmó. Bengio, profesor de la Universidad de Montreal, Canadá, y uno de los científicos de informática más citados del mundo, en su mensaje durante el primer encuentro presencial del panel, realizado en Madrid, España.
Román Orús, el único español de los cuarenta expertos independientes seleccionados entre más de 3.000 candidaturas para integrar el Panel Científico Internacional sobre Inteligencia Artificial (IA) de la ONU, compara el impacto de esta nueva tecnología con «el nacimiento de la bomba atómica».
«La IA es casi el nuevo ‘proyecto Manhattan’. Y cuando surge una tecnología de este calibre y con esta capacidad no se puede dejar simplemente suelta», explica , tras su reciente designación como miembro de este prestigioso panel que ayudará a la ONU a formular políticas públicas relacionadas con la inteligencia artificial. «Los modelos que tenemos son como los carros que había en Egipto miles de años antes de Cristo comparados con la nave ‘Enterprise'», insiste Orús, quien añade que, «por muy avanzados que parezcan estos algoritmos, en realidad son muy primitivos y consumen una barbaridad de energía».
«Hay que pensar que estamos en una nueva Revolución Industrial», sostiene con la misma convicción con la que defiende la necesidad de adoptar medidas que garanticen que esta «poderosa» tecnología sea empleada para «evitar guerras» y «hacer el bien». Un objetivo que «en el fondo es el papel de la ONU» y lo que motivó su nacimiento como organización, explica.
«No porque se piense que es difícil tiene que dejar de intentarse», sentencia en un momento en el que además todos estos sistemas se encuentran aún en modo emergente. «Es algo que la gente no acaba de entender porque parece que se trata de una tecnología maravillosa con la que se puede hacer casi cualquier cosa, pero en el fondo estamos en la Edad de Piedra de la IA», advierte.
Bill Gates, presentó en su blog una visión sobre el futuro de la inteligencia artificial (IA). En su análisis, sostiene que no existe un límite para la inteligencia artificial ni para la capacidad de los robots, anticipando una transformación social sin precedentes. Aseguró que la IA superará los niveles humanos y que los avances tecnológicos no se estancarán antes de alcanzar ese umbral. Según el creador de Microsoft, la humanidad debe prepararse para gestionar riesgos inéditos y aprovechar el potencial de esta tecnología disruptiva, que, en sus palabras, “será la que más transformará la sociedad”.
María Ressa, periodista y ganadora del Premio Nobel de la Paz en 2021, también copresidente del panel, recordó que en una “era de fractura, 193 países acordaron que el mundo merece un panel científico independiente y autorizado que ofrezca una explicación sobre qué son los sistemas de la IA, qué hacen y a dónde nos llevan”.v Y para realizar esta tarea, dijo, tenemos una autoridad científica independiente, tanto de gobiernos, empresas e instituciones, lo que calificó como radical en el contexto mundial actual.
En la reunión también asistieron 37 de los 40 científicos miembros del panel, que representan a las cinco regiones del planeta. Ressa, reconocida crítica de la desinformación en redes sociales, las calificó como “el Estado fallido más rico y poderoso de la historia de la humanidad”, que tiene como motor a la IA generativa, pero que pronto tendrá a la agencial, es decir, sistemas de inteligencia artificial generativa interconectados que operan con menor supervisión humana para tomar decisiones y realizar tareas específicas.
Alertó que “cada semana, cada día se vuelve más poderosa”, y afirmó que “se está impactando a la democracia, y se hace en tres etapas; la primera es una guerra narrativa, y es el motor de todo el modelo, las mentiras repetidas un millón de veces se convierten en hechos, y la IA no sólo difunde estas mentiras, las fabrica a gran escala, las adapta a cada uno de nosotros y produce el consenso sintético que confundimos con la realidad”.
La segunda etapa, dijo, es que “si no puedes distinguir la realidad de la ficción, las instituciones fracasan, y eso incluye a la prensa, los tribunales, los controles y los equilibrios, y la tercera etapa, agregó, “es lo que estamos viendo en muchos lugares del mundo, la corrupción estratégica y la cleptocracia”.
Cuando los ciudadanos ya no pueden ver con claridad, y nadie puede exigir responsabilidades al poder, indicó, todo se pierde. Por ello, resaltó el papel estratégico del panel independiente para ofrecer bases científicas sobre la IA y su impacto en la humanidad.
*Doctorando en Comunicación Estratégica, Investigador del Observatorio en Comunicación y Democracia, asociado al Centro Latinoamericano de Análisis Estratégico (CLAE, www.estrategia.la)
Los comentarios están cerrados, pero trackbacks Y pingbacks están abiertos.