Hicimos cientos de preguntas a un robot de IA: ésto es lo que aprendimos

The Washington Post

La humanidad tiende a tratar cualquier avance notable en inteligencia artificial con una mezcla de reverencia y pavor. Si las computadoras pueden hacer esto, ¿qué no pueden hacer? Esto es ciertamente cierto en el caso de ChatGPT de OpenAI: lo que hace temblar al mundo sobre el robot conversacional, en palabras del filósofo Nick Bostrom, «no es lo que es, sino lo que presagia».

ChatGPT, por ahora, es básicamente un tipo de juguete útil. Puede hablarle como si se hubiera topado con un colega junto a la máquina de café; si le pregunta cómo están los niños, le dirá que es una máquina y no puede reproducirse, o como si estuviera consultando un historial. profesor sobre las causas de la guerra chino-japonesa. También puede pedirle que, por ejemplo, escriba un rap sobre la reforma de la Ley de recuento electoral o un discurso sobre la ética de la IA al estilo del expresidente Donald Trump.

Lo que es nuevo es cuán convincentemente humanos son los resultados, al menos superficialmente. ChatGPT es versado de una manera que los chatbots anteriores no han tenido: no se limita a un área temática específica o a un conjunto limitado de respuestas, sino que es capaz de participar en una «discusión» abierta. Sin embargo, indague un poco más profundamente, e incluso las respuestas más fluidas a veces sufren colapsos de lógica o contienen fabricaciones completas.

Eso es porque ChatGPT no «piensa», sino que predice: el programa fue entrenado en un tesauro de textos de Internet a partir del cual identificó patrones; más tarde, los humanos lo «afinaron» clasificando la calidad de sus respuestas a ciertas indicaciones. ChatGPT hace su mejor estimación de lo que debería venir a continuación, en función de las palabras, frases y conceptos más comúnmente encadenados en el conjunto del que aprendió.

Como lo expresaron los autores de un artículo seminal sobre grandes modelos de lenguaje , “LM es un sistema para unir al azar secuencias de formas lingüísticas… de acuerdo con información probabilística sobre cómo se combinan, pero sin ninguna referencia al significado: un loro estocástico”.

Lo que esto significa ahora y lo que esto significa para el futuro son dos cosas diferentes. Dar demasiada credibilidad a sus loros graznidos y estocásticos puede ser peligroso. Deje de lado el problema del uso malicioso, ya sean estudiantes universitarios perezosos que piden a las computadoras que escriban ensayos o agentes de desinformación que generan noticias falsas. Confiar en los robots para obtener respuestas precisas, incluso con intenciones benignas, puede ser peligroso.

Aunque se volverán más avanzados, seguirán cometiendo errores, algo que, según nos dicen los psicólogos, la gente tiende a suponer que no cometerán. En otras palabras, podemos confiar demasiado en ellos. Además, estos modelos pueden repetir cualquier sesgo existente en los datos que han absorbido. Y lo que es peor, cuando compartimos texto generado por IA, reforzamos esos sesgos.

OpenAI ha hecho todo lo posible para librar a ChatGPT de estas tendencias, pero el esfuerzo no ha sido infalible, y entrometerse con datos sin procesar para codificar una mejor visión del mundo plantea sus propias preguntas. ¿De quién es la responsabilidad de inculcar valores en la IA? De todos modos, ¿de quién deberían ser esos valores? ¿Y cómo sabremos realmente qué hay detrás del «cerebro» de un bot si confiamos en él para informar nuestra vida diaria?

Cuanto más confiamos en la IA, más urgentes se vuelven estas preocupaciones. Es por eso que tiene sentido exigir reglas de tránsito para estos modelos, tanto de las empresas que los producen como del Congreso, que abarquen todo, desde la transparencia hasta las pruebas y las limitaciones de uso (tal vez hay algunas cosas que los robots simplemente no deberían hacer). Pero también hay preguntas más importantes sobre cómo la IA podría transformar la sociedad en la misma medida radical que otras revoluciones tecnológicas.

Hay muchas cosas que ChatGPT ya puede hacer bien, además de la conversación: escribir código básico, por ejemplo, o crear un régimen de ejercicio matutino basado en la edad y los atributos físicos de una persona. Sin embargo, hay mucho más que los modelos similares de lenguaje grande podrían hacer aún mejor en los próximos años. OpenAI visualiza un mundo en el que los chatbots pueden actuar como expertos en una miríada de dominios, brindando asesoramiento legal y redactando contratos, por ejemplo, u ofreciendo posibles diagnósticos para imperfecciones en la piel. Mirando más allá de los chatbots, otros tipos de IA, desde herramientas de contabilidad hasta almacenistas de almacenes, podrían terminar realizando muchas tareas mejor que las personas.

Algunas actividades pueden estar reservadas para los humanos, ya sea porque todavía son los más hábiles para completarlas o porque las asociamos tan estrechamente con el alma y el genio de la humanidad. La IA puede hacer arte, pero ¿significa eso que preferimos que los mejores pintores y novelistas dejen sus pinceles y bolígrafos? ¿Deberíamos confiar en el juicio de AI cuando las compensaciones involucran valores esencialmente humanos?

La desventaja de entregar tantas tareas a las máquinas es obvia: las personas terminan sin trabajo. El lado positivo es inspirador, pero gran parte es teórico. Imagine un mundo en el que la IA, exponencialmente más poderosa que la actual, lidere la fuerza laboral. El director ejecutivo de OpenAI, Sam Altman, predice en su ensayo «Ley de Moore para todo», que “el precio de muchos tipos de trabajo… caerá hacia cero”.

Eso significa que el costo marginal de los bienes y servicios también se desplomará a casi cero. Digamos que esto permite que cualquier persona, en cualquier lugar, acceda a la calidad de la enseñanza o el asesoramiento médico que hoy solo los ricos pueden alcanzar fácilmente. Tal vez sirva de alguna manera para compensar la pérdida de ingresos de cualquiera cuyo trabajo de repente sea menos valioso. Pero no puede llegar hasta el final, ni compensar la pérdida de propósito que algunos pueden sentir.

Los utópicos de la IA creen que la humanidad encontrará más significado de la vida en otros lugares, porque mientras las máquinas están ocupadas haciendo el trabajo pesado de la vida diaria, serán liberadas para explorar. Tal vez descubran poesía que nunca tuvieron tiempo de leer, o hagan más caminatas. Tal vez puedan pasar sus días en conversaciones profundas con amigos queridos, en lugar de frente a las pantallas, o tal vez pasen todo el día frente a las pantallas, después de todo, conversando con robots.

Queda por ver si este nuevo mundo llegará a existir y si estamos preparados para ello. Requeriría un cambio en la forma en que pensamos acerca de nuestras vidas. Los seres humanos de hoy todavía tienen el control. Tenemos la capacidad de decidir qué sistemas construir y de dar forma al futuro en el que queremos vivir. En última instancia, liberar todo el potencial de la tecnología que parece tentadoramente cercana a nuestro alcance se reduce a esto: ¿Qué esperamos obtener como especie de la inteligencia artificial y, quizás lo más importante, qué estamos dispuestos a renunciar?

*Nota del Consejo Editorial de The Washington Post