«Necesitamos reducir el ritmo de desarrollo de los modelos de IA»

El director ejecutivo de Anthropic, Dario Amodei, ha pedido que se ralentice el desarrollo de la inteligencia artificial. «Necesitamos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar el tiempo que ganamos con prudencia», escribió Amodei en una extensa publicación en su sitio web, donde también destacó el incidente de OpenAI ocurrido en julio.

Este mensaje llega pocos días después de que  el investigador de Anthropic, Jacob Coxon, anunciara su salida de la startup californiana, acusándola de minimizar el riesgo existencial que la IA supone para la humanidad. Amodei afirmó que la tecnología de IA ha avanzado «drásticamente más rápido» en los últimos meses y ahora es capaz de auto-mejorarse, un proceso conocido como «auto-mejora recursiva».

«Si no se controla, podría superar nuestra capacidad de comprender y controlar estos sistemas, por lo que debe abordarse con extrema precaución, si es que se aborda», advirtió. El directivo añadió que el comportamiento de un grupo de agentes de IA en el incidente que involucró a OpenAI y Hugging Face también le alarmó; «básicamente actuaron como un colectivo fanáticamente entregado, lanzando ciberataques contra objetivos que no tenían asignados».

Si no se controla, la IA podría evolucionar tan rápidamente que los agentes podrían apoderarse de toda internet en un plazo de seis a doce meses, escribió, causando potencialmente cientos de miles de millones de dólares en daños. Amodei, director de una de las empresas líderes mundiales en IA y de la compañía que creó a Claude, ha sido un firme defensor del avance de esta tecnología y también ha sido acusado de «catastrofismo» por sus advertencias sobre los riesgos de la IA.

El directivo reconoció que las personas podrían perder el control sobre la IA y que la tecnología podría usarse indebidamente para «ciberataques, bioterrorismo y graves trastornos económicos». «Una carrera hacia el abismo, impulsada por incentivos comerciales, podría agravar aún más estos riesgos», escribió Amodei.

El desarrollo de la IA bajo el lema «La humanidad está en riesgo»

La inteligencia artificial podría convertirse, mucho antes de lo previsto, en una herramienta fuera del control humano . Esta alarma, una más, fue lanzada en los últimos días por uno de los principales expertos, un investigador de Antrophic dedicado específicamente al entrenamiento de la inteligencia artificial. Ahora, OpenAI ha compartido estas preocupaciones. ¿Qué está pasando? Jacob Coxon, el investigador que se marchó dando un portazo, lo explicó muy bien.

«He dedicado los últimos tres años», dijo Coxon, «a realizar investigaciones de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas actúa con responsabilidad. Están compitiendo a toda velocidad por alcanzar una superinteligencia con capacidad de autoaprendizaje y están jugando con nuestras vidas. Los desarrolladores de IA», añadió, «creen que su tecnología podría provocar la extinción humana».

A estas preocupaciones se suma una decisión potencialmente impactante de OpenAI. El gigante tecnológico está considerando ralentizar el ritmo de desarrollo de sus sistemas de inteligencia artificial más avanzados, ante la creciente inquietud por los riesgos asociados a una IA sin control. Bloomberg informa que, durante una reunión interna esta semana, el director ejecutivo Sam Altman insinuó que OpenAI podría coordinarse con otros desarrolladores del sector para reducir la velocidad de desarrollo.