La empresa que surgió de la seguridad de PayPal es hoy uno de los emprendimientos de inteligencia artificial más exitosos del mundo, y también uno de los más polémicos. Palantir, la controvertida compañía de inteligencia artificial que comanda Peter Thiel, está siendo clave para las ambiciones militares y de inmigración del gobierno de Donald Trump.
No se debe olvidar que cada vez que uno se conecta a internet, hay alguien que está recopilando la información que va dejando, ya sea el proveedor de internet, el servidor de la página que se está visitando o el navegador que se usa para acceder a ella. Toda esa información les sirve a las compañías para entender mejor el comportamiento de sus clientes y les ayuda a diseñar estrategias y productos que resuenen mejor con los consumidores.
Palantir
La empresa de software Palantir se especializa en análisis e integración de datos para grandes corporaciones y el gobierno federal. Su colaboración con las fuerzas armadas y los servicios de inteligencia estadounidenses ha generado controversia, especialmente los contratos con la agencia de Inmigración y Control de Aduanas (ICE). Su oficina en Denver ha sido objeto de protestas. El trabajo de la empresa con el gobierno israelí también ha provocado manifestaciones.
Peter Thiel, CEO de Palantir, dijo que llegó la era de la inteligencia artificial (IA) como arma, que “si un marine estadounidense pide un rifle mejor, deberíamos fabricarlo” y que algunas culturas son mejores que otras. “Debemos resistir la tentación superficial de un pluralismo vacío y sin sentido”, apunta. Respuestas hubo varias. Un parlamentario inglés lo llamó “los desvaríos de un supervillano”.
El ex ministro de Economía griego Yanis Varoufakis publicó una “versión anotada” en la que afirma que lo que Palantir quiso decir es que la élite de Silicon Valley va a defender a la clase dominante a muerte y que la ética ya fue: “Occidente necesita más del software asesino de Palantir”. El medio The Verge hizo una muy útil “traducción para humanos”.
Harry Halpin, informático teórico y fundador de emprendimientos contra la vigilancia masiva, publicó su propio manifiesto en el que llamó a luchar contra Palantir. Y Bifo Berardi, filósofo y escritor italiano, dijo que el texto refleja “la desesperación senil de una civilización que ya no es capaz de gobernar el caos producido por la aceleración del hiperliberalismo y la proliferación incontrolada de armas de destrucción masiva”.
La empresa Palantir, bautizada así por los orbes omniscientes de El Señor de los Anillos, vende softwares de recopilación y análisis de datos “que dan soporte a todo tipo de entidades, desde empresas privadas hasta los sistemas de selección de objetivos del ejército estadounidense”, dice Wired. Es que los contratos de Palantir con el Pentágono, su uso por la administración Trump en la guerra contra Irán y los ataques contra los migrantes, más la aparición del manifiesto, los llevaron “a replantearse el papel que desempeñan en todo esto”.
El Pentágono todavía no dijo si la IA de Palantir tuvo algún rol en decidir los ataques aéreos que destruyeron una escuela primaria y se cobraron la vida de 168 personas, la mayoría niñas, en Irán. Los empleados de Palantir comienzan a preguntarse si ellos son los malos. Las entrevistas con empleados actuales y antiguos de Palantir, junto con los mensajes internos de Slack obtenidos por Wired, sugieren una plantilla en crisis.
Apenas unos meses después del inicio del segundo mandato del presidente Donald Trump, los empleados de Palantir comenzaron a cuestionar el compromiso de su empresa con las libertades civiles. El otoño pasado, Palantir parecía haberse convertido en la columna vertebral tecnológica del aparato de control migratorio de Trump, proporcionando software para identificar, rastrear y ayudar a deportar inmigrantes en nombre del Departamento de Seguridad Nacional (DHS), cuando empleados actuales y exempleados comenzaron a dar la voz de alarma.
Palantir se fundó -con una inversión inicial de capital de riesgo de la CIA- en un momento de consenso nacional tras los atentados del 11 de septiembre de 2001, cuando muchos consideraban la lucha contra el terrorismo en el extranjero como la misión más crucial para Estados Unidos. La empresa, cofundada por el multimillonario tecnológico Peter Thiel, vende software que funciona como una potente herramienta de agregación y análisis de datos, utilizada en todo tipo de aplicaciones, desde empresas privadas hasta los sistemas de puntería del ejército estadounidense.
Palantir siempre ha tenido fama de ser hermética, prohibiendo a sus empleados hablar con la prensa y exigiendo a sus exempleados que firmen acuerdos de no difamación. Sin embargo, a lo largo de la historia de la empresa, la dirección siempre ha aparentado estar abierta al diálogo y a la crítica interna, según afirman varios empleados.
Si bien las tensiones internas en Palantir han aumentado durante el último año, alcanzaron su punto álgido en enero tras el violento asesinato de Alex Pretti, un enfermero que fue baleado y asesinado por agentes federales durante las protestas contra el Servicio de Inmigración y Control de Aduanas (ICE) en Minneapolis. Empleados de toda la compañía comentaron en un hilo de Slack dedicado a la noticia, exigiendo más información sobre la relación de la empresa con el ICE a la gerencia y al director ejecutivo, Alex Karp.
“Nuestra implicación con el ICE se ha ocultado demasiado internamente durante la administración Trump2”, escribió una persona en un mensaje de Slack, según informó Wired en su momento. “Necesitamos que se entienda nuestra participación en este asunto”.
Por esas fechas, Palantir empezó a borrar las conversaciones de Slack después de siete días en al menos un canal donde se desarrolla la mayor parte del debate interno: #palantir-in-the-news. Dado que la decisión no se anunció formalmente antes de que se implementara la política, un empleado que se percató de las eliminaciones preguntó en el canal por qué la empresa estaba borrando «discursos internos relevantes sobre la actualidad».
La dirección de Palantir optó por la defensa organizando varios foros de preguntas y respuestas (AMA, por sus siglas en inglés) en toda la empresa, con líderes como el director de tecnología, Shyam Sankar, y miembros de sus equipos de privacidad y libertades civiles (PCL, por sus siglas en inglés).
Al menos una de estas sesiones de preguntas y respuestas (AMA) fue organizada independientemente de la dirección de PCL por dos jefes de equipo, uno de los cuales trabajó directamente en el contrato con ICE durante un tiempo. «Esto fue una maniobra totalmente independiente», declaró un empleado de PCL que trabajó en el contrato con ICE en una sesión de preguntas y respuestas de febrero, cuya grabación obtuvo Wired.
Durante la larga llamada, empleados que trabajaban en diversos proyectos de defensa de Palantir plantearon preguntas difíciles. ¿Podrían los agentes de ICE borrar los registros de auditoría del software de Palantir? ¿Podrían crear flujos de trabajo dañinos por su cuenta, sin la ayuda de la empresa? ¿Cuál sería la consecuencia más grave de este trabajo?
En respuesta a estas preguntas, el empleado de PCL que trabajó en el contrato con ICE afirmó que “un cliente suficientemente malintencionado es, básicamente, imposible de prevenir en este momento” y que solo se podría controlar mediante “auditorías para demostrar lo sucedido” y acciones legales posteriores si el cliente incumpliera el contrato de la empresa.
Por esas fechas, Karp participó en una entrevista pregrabada con Bowman, aparentemente para hablar sobre los contratos de Palantir con ICE, pero se negó a abordar el tema directamente. En cambio, Karp sugirió que los empleados interesados en el trabajo firmaran acuerdos de confidencialidad antes de recibir información más detallada.
Luego, el 28 de febrero, se produjo el devastador ataque con misiles contra una escuela primaria iraní, el primer día completo de la guerra entre la administración Trump e Israel en Irán. Estados Unidos es el único país que, según se sabe, ha utilizado ese tipo específico de misil en el conflicto. Más de 120 niños murieron cuando un misil Tomahawk impactó en la escuela, lo que desencadenó una serie de investigaciones que concluyeron que Estados Unidos era responsable y que se habían utilizado herramientas de vigilancia como el sistema Maven de Palantir durante los ataques de ese día. Para una empresa cuyos empleados ya estaban conmocionados por su colaboración con el ICE, la posible implicación en la muerte de niños fue el colmo.
“Supongo que la esencia de mi pregunta es… ¿estábamos involucrados y estamos haciendo algo para evitar que se repita si lo estuviéramos?”, preguntó un empleado en el canal de noticias de Palantir en Slack. Algunos empleados plantearon preguntas similares en el hilo, mientras que otros los criticaron por discutir lo que podría considerarse información clasificada en un canal de Slack abierto a toda la empresa. La investigación continúa.
El apoyo al ejército de EU
El portavoz de Palantir afirmó que la compañía se sentía “orgullosa” de apoyar al ejército estadounidense “tanto bajo administraciones demócratas como republicanas”. En marzo, Karp concedió una entrevista a CNBC en la que afirmó que la IA podría debilitar el poder de los votantes con formación en humanidades -en su mayoría demócratas- y aumentar el de los votantes varones de clase trabajadora. Si bien los críticos reaccionaron al artículo, calificando las declaraciones de preocupantes, también lo hicieron los empleados.
La dirección de Palantir volvió a enfurecer a los trabajadores tras la publicación de un manifiesto en el que resumía el reciente libro de Karp, La República Tecnológica, en tan solo 22 puntos. El comunicado, que incluye muchas de las ideas que Karp ha mantenido sobre cómo Silicon Valley podría servir mejor a los intereses nacionales de Estados Unidos, llega incluso a sugerir que Estados Unidos debería considerar la posibilidad de restablecer el servicio militar obligatorio. Los críticos calificaron el manifiesto de fascista.
* Colectivo del Observatorio en Comunicación y Democracia – Fundación para la Integración Latinoamericana
Los comentarios están cerrados, pero trackbacks Y pingbacks están abiertos.