May 4 2021
242 lecturas

Ciencia y Tecnolog铆aCultura

Plataformas digitales corporativas: La censura como programa

Las redes sociales conquistaron un rol preeminente en la disputa pol铆tica. 驴Aument贸 con ello la libertad de expresi贸n? 驴O m谩s bien, en nombre de aqu茅llas, se instal贸 un sofisticado aparato de censura global al pensamiento cr铆tico y emancipador? La expansi贸n de internet permiti贸 en pocos a帽os establecer una conexi贸n mundial instant谩nea, bajo la premisa de contar con un dispositivo apto y con alguna modalidad de acceso.

Adem谩s de alimentar el mercado de la infraestructura y la producci贸n de aparatos, el nuevo universo telem谩tico se llen贸 r谩pidamente de mediaciones. Un decadente capitalismo avist贸 en ello el potencial de nuevas rentabilidades y la reinvenci贸n del sistema por v铆a tecnol贸gica. La tan mentada (y falaz) 鈥渓ibre competencia鈥 cedi贸 r谩pidamente el lugar a posiciones monop贸licas de grandes emporios tecnol贸gicos.

Lo que promet铆a ser un modelo de facilitaci贸n de la comunicaci贸n global, de incentivo a la participaci贸n descentralizada, de acceso irrestricto al conocimiento acumulado por la humanidad, deriv贸 en una mercantilizaci贸n cada vez m谩s veloz de todo resquicio de actividad social p煤blica o privada.

Entre los espacios claves, las plataformas transnacionales autodenominadas 鈥榬edes sociales鈥 conquistaron un rol preeminente, adquiriendo una centralidad desmedida en la disputa pol铆tica.聽驴Aument贸 con ello la libertad de expresi贸n? 驴Se profundiz贸 la democracia? 驴O m谩s bien, en nombre de aqu茅llas, se instal贸 un sofisticado aparato de censura global al pensamiento cr铆tico y emancipador?

Censura expl铆cita

Todas las redes hegem贸nicas tienen pol铆ticas de contenido o 鈥渘ormas comunitarias鈥, que de unas pocas recomendaciones iniciales llegaron en la actualidad a conformar verdaderos corpus de valoraci贸n de lo que se publica en ellas.

Si bien la mayor parte de estas disposiciones pueden ser consideradas pilares 茅ticos razonables, como el rechazo a la violencia, al crimen, la discriminaci贸n o al abuso y la pornograf铆a infantil, la discrecionalidad absoluta que se arrogan las empresas en su interpretaci贸n, convierte a estas normas en censura de hecho.

En relaci贸n a la moderaci贸n sobre contenido en l铆nea, David Kaye, Relator Especial sobre la promoci贸n y protecci贸n del derecho a la libertad de opini贸n y de expresi贸n, se帽alaba en su informe en el Consejo de Derechos Humanos de Naciones Unidas (Abril 2018):

La vaguedad de las pol铆ticas relativas al acoso y el discurso de odio han dado lugar a denuncias de una aplicaci贸n incoherente de esas pol铆ticas que perjudica a las minor铆as, al tiempo que refuerza la situaci贸n de los grupos dominantes o poderosos.聽

Los usuarios y la sociedad civil informan de actos de violencia y abuso contra la mujer, incluidas las amenazas f铆sicas, los comentarios mis贸ginos, la publicaci贸n de im谩genes 铆ntimas falsas o sin consentimiento y la publicaci贸n de informaci贸n personal confidencial; las amenazas de agresi贸n contra los grupos pol铆ticamente marginados, las razas y las castas minoritarias y los grupos 茅tnicos que sufren persecuci贸n violenta; y los abusos dirigidos contra los refugiados, los migrantes y los solicitantes de asilo.聽

Al mismo tiempo, las plataformas habr铆an reprimido el activismo en favor de las personas lesbianas, gays, bisexuales, transg茅nero y asexuadas; la contestaci贸n contra los Gobiernos represivos; la denuncia de la depuraci贸n 茅tnica; y las cr铆ticas de los fen贸menos y las estructuras de poder de naturaleza racista鈥.[1]

Es probable que la presi贸n p煤blica e institucional sobre la arbitrariedad en las suspensiones, cierres de cuentas, reducci贸n de 鈥榮eguidores鈥 y la opacidad en la eliminaci贸n de contenidos haya forzado a las empresas a ampliar y detallar con algo m谩s de precisi贸n sus lineamientos sobre la exclusi贸n de mensajes, p谩ginas o grupos. Sin embargo, una breve revisi贸n y un an谩lisis m谩s profundo permite comprobar que dichas explicaciones no se ajustan del todo a la realidad.

Censura semioculta

A fin de identificar elementos no acordes con su l铆nea editorial en medio de un gran volumen de publicaciones, todas las empresas han recurrido a la automatizaci贸n. Algunas herramientas utilizadas a este fin son los filtros de palabras, la detecci贸n de mensajes basura, los algoritmos de comparaci贸n criptogr谩fica y el procesamiento del lenguaje natural.

Estas metodolog铆as se extienden cada d铆a m谩s y son tambi茅n requeridas por los gobiernos para sus propios fines de prohibici贸n.聽 Sin embargo, el artilugio 鈥搎ue promete resultados con una exactitud cuasi m谩gica鈥 es en s铆 limitado y falible, pudiendo facilitar entre otros errores de percepci贸n la censura excesiva de grupos ya marginalizados y la aplicaci贸n sesgada de las leyes nacionales y las condiciones de servicio de las mismas plataformas, como indica un documento del Center for Democracy and Technology.[2]

De estas imperfecciones t茅cnicas ha derivado la pr谩ctica de contratar cada vez m谩s trabajadores de 鈥渕oderaci贸n de contenido comunitario鈥 (鈥淐CM workers鈥, por su abreviaci贸n en ingl茅s) para llevar a cabo la ingrata tarea.聽 La existencia de estos trabajadores y la necesidad de su labor en la cadena de producci贸n de los social media, se帽ala Sarah T. Roberts, 鈥渞ompe con los mitos confortables sobre el Internet como un espacio de relaciones uno a uno entre el usuario y la plataforma鈥.

Para la acad茅mica, 鈥渆stas decisiones pueden girar de cara a la base de usuarios, alrededor de la libertad de expresi贸n, pero en medios y plataformas comerciales estos principios son siempre contrabalanceados por un prop贸sito de lucro鈥. A lo que agrega contundentemente: 鈥淓n t茅rminos simples, la decisi贸n sobre lo que queda y lo que debe bajarse, ser谩 a cierto nivel, un asunto monetario鈥.[3]

Plataformas como Facebook cuentan con unos 15.000 revisores de contenido, en su inmensa mayor铆a tercerizados. Otras fuentes, como el Washington Post, sit煤an la cifra en 30.000. Unos 10.000 trabajadores escrutan Youtube y otros productos de Google (propiedad de Alphabet Inc.). En el caso de Twitter el n煤mero de moderadores se reduce a unos 1.500.[4] TikTok, por su parte cuenta con unos 10.000, muchos de ellos anteriormente activos en Facebook, provenientes de las firmas de outsourcing Accenture, CPL, Hays o Voxpro, seg煤n apunta la cadena estadounidense CNBC.

A estas normas de restricci贸n, se suman numerosos pedidos por parte de gobiernos de bloquear geogr谩ficamente (鈥済eoblocking鈥, en la jerga) determinados contenidos o a individuos o grupos espec铆ficos, a lo que las plataformas han dado respuestas que tanto gobiernos como organizaciones activistas consideran sumamente insatisfactorias.

Facebook, sobre todo, pero tambi茅n Google y Twitter han sido objeto de fuertes cr铆ticas y gran cantidad de reclamos por entorpecer la labor de activistas, periodistas o defensores de derechos humanos, en varias ocasiones en connivencia con gobiernos represores.

En la segunda Conferencia de Moderaci贸n de Contenido a escala, que tuvo lugar en Mayo de 2018 en Washington (EUA), defensores del derecho a la libre expresi贸n en l铆nea sugirieron tres principios b谩sicos como paso inicial para garantizar transparencia, ecuanimidad y respeto a los derechos b谩sicos de los usuarios: la publicaci贸n regular de la cifra de posteos eliminados y cuentas suspendidas o canceladas, la notificaci贸n al usuario sobre el motivo espec铆fico de la remoci贸n de contenido o la suspensi贸n de cuenta y la posibilidad de establecer un proceso de apelaci贸n por parte del usuario.[5]

L贸gica censora

Sin embargo, m谩s all谩 de los esfuerzos p煤blicos de todas las plataformas por mostrarse anuentes a las exigencias comentadas, la l贸gica censora de estas redes digitales se encuentra incrustada en los modelos matem谩ticos que rigen la alimentaci贸n de contenido.

Las sucesivas capas de los respectivos sistemas de aprendizaje autom谩tico (鈥Machine o Deep Learning鈥), a trav茅s de las cuales se procesa una gran cantidad de datos previamente extra铆dos de la actividad de cada usuario, son las que definen qu茅 se muestra y qu茅 se oculta o se coloca en posiciones de 铆nfima visibilidad.

A pesar de que estos algoritmos van cambiando frecuentemente, es posible establecer algunas generalidades a partir de la propia informaci贸n que entregan las empresas[6].聽 No obstante, cierta cuota de escepticismo es aconsejable. La presi贸n investigativa, legal y de la opini贸n p煤blica va obligando a las plataformas a abrir parte de sus 鈥渃ajas negras鈥 para no perder toda credibilidad, pero nada asegura que 茅stas revelen todos sus secretos.

Aun as铆, es posible ofrecer pistas sobre la l贸gica sobre la que se construye el coraz贸n del enorme negocio de publicidad y vigilancia de estas redes, edulcorado por el concepto de socializaci贸n, acceso o visualizaci贸n de contenidos.

  1. Para satisfacer el supuesto inter茅s del usuario y, sobre todo, para vender publicidad al mejor postor, se acopian todas las interacciones y se programa una secuencia personalizada de lo que cada uno ve. Esta sola afirmaci贸n delata el car谩cter absoluto de vigilancia, intromisi贸n y acopio permanente de informaci贸n sobre la vida 铆ntima de cada persona y sus contactos bajo la d茅bil y enga帽osa justificaci贸n de mostrar 鈥渓o que m谩s te interesa鈥.
  2. La duraci贸n y frecuencia de la actividad en la aplicaci贸n es un importante factor de puntuaci贸n positiva en los modelos, induciendo de ese modo la permanencia y dependencia, factor clave en la econom铆a de la atenci贸n.Por qu茅 utilizar las APIs de geolocalizaci贸n en tu aplicaci贸n empresarial? : Intelligence Partner
  3. La posici贸n del usuario es geolocalizada para segmentar ofertas de consumo, lo que debilita la interacci贸n con temas o personas de otras latitudes.
  4. El contenido pago es promocionado por encima del compartido de manera gratuita (llamado contenido 鈥渙rg谩nico鈥 en algunas redes), tanto en los motores de b煤squeda como en las plataformas sociales comerciales.聽 La diferencia entre cuentas publicitarias y usuarios comunes establece en la pr谩ctica carriles de distinta prelaci贸n, afectando el principio de neutralidad de la red.聽 La supuesta no-ideolog铆a es la ideolog铆a del lucro, con la que autom谩ticamente se favorecen los relatos de los que invierten, es decir, del poder econ贸mico.
  5. Se priorizan las im谩genes atractivas, que capturen la atenci贸n del usuario. De esta manera, se conduce a 茅stos, en la b煤squeda de m谩xima exposici贸n, al sensacionalismo y a un exhibicionismo que en situaciones de vulnerabilidad, puede resultar riesgoso.
  6. El bucle del supuesto inter茅s del usuario, m谩s all谩 de la inserci贸n de peque帽as variaciones que introduce la empresa para que el contenido no sea mon贸tono, consolida un sistema cerrado conservador, una 鈥渂urbuja鈥. Es obvio que tanto desde una como desde otra variable, la irrupci贸n de perspectivas nuevas es altamente improbable.
  7. Las plataformas presumen poder predecir afectos y comportamientos, ofreciendo lo que ellos creen que el usuario quiere ver. En la pr谩ctica, formatean el comportamiento colectivo digital seg煤n los modelos matem谩ticos que elaboran, sugiriendo qu茅, c贸mo, d贸nde y cu谩ndo debes publicar de modo de lograr eco. Al mismo tiempo, tratan de sugerir pautas morales y conductas fuera de la red.
  8. Estimulan la 鈥減opularidad鈥, el acopio de seguidores, la competencia y el ranking para lograr posicionamiento, es decir antivalores individualistas propios del sistema actual.
  9. La abultada presencia de contenido publicitario fatiga y desestimula la comunicaci贸n entre las personas.
  10. Las redes corporativas 鈥減remian鈥 o 鈥減enalizan鈥 comportamientos, convirti茅ndose en juez y parte de aquello que puede o debe comunicarse.
  11. Fomentan el contenido corto, las tendencias ficticias, la banalidad, la descontextualizaci贸n o el vac铆o de contenido a trav茅s de desaf铆os pueriles.
  12. Favorecen la desinformaci贸n, colocando como 鈥済uardianes de la informaci贸n fehaciente鈥 a medios afines al capital o a entidades financiadas por estos.

Alternativas al poder concentrado de las plataformas digitales corporativas

Al intentar poner en marcha acciones y mecanismos que logren desactivar el enorme poder de las corporaciones digitales que hoy afectan las decisiones y la vida de los pueblos, las soluciones aparecen al analizar la dimensi贸n pol铆tica de la cuesti贸n.

No se trata de fomentar posturas neoluditas[7] 鈥搎ue equivaldr铆an hoy al hackeo de sistemas, la diseminaci贸n de malware u otras formas de destrucci贸n cibern茅tica鈥, ni de adoptar posturas tecnof贸bicas o antitecnol贸gicas, enroladas, quiz谩s inadvertidamente, en corrientes conservadoras y retr贸gradas que se alimentan de la gran inseguridad que produce la velocidad de las transformaciones en curso.

10 herramientas claves de la era digital para las empresasEs preciso considerar a estas corporaciones digitales como poderes hiperconcentrados que impiden o dificultan la libre circulaci贸n de las ideas, sobre todo, aquellas que no promueven el orden capitalista, ni el factor lucro como motivaci贸n de vida.

Estas corporaciones se sostienen y sostienen el negocio de los principales actores especulativos 鈥搇a banca y los fondos de inversi贸n鈥 cuya maquinaria es responsable de la pobreza, el hambre, la degradaci贸n medioambiental y la falta de futuro.

Desde el 谩ngulo geopol铆tico, los megaconglomerados digitales anclados en Silicon Valley contribuyen a las intenciones del poder imperialista estadounidense de recuperar su deca铆da posici贸n unipolar y constituyen un vector de penetraci贸n cultural de primer orden, fomentando la pretensi贸n supremacista de Occidente.

Del mismo modo, imponen una centralizaci贸n tecnol贸gica que trata de ahogar no solo potenciales competencias, sino tambi茅n cualquier tipo de acercamiento diferente a la tecnolog铆a misma. Se trata entonces de actuar colectivamente contrarrestando cada uno de los factores anteriormente descritos.聽 Lejos de pretender agotar debates, consignamos a t铆tulo de estrategia simult谩nea y convergente, cinco posibles v铆as de acci贸n concreta.

1.- Generar poder colectivo frente al abusivo poder centralizado.

Como en cualquier contienda ideol贸gica, la sensibilizaci贸n, comprensi贸n, amplificaci贸n de la denuncia del sistema opresivo y la proclama de alternativas es esencial. La colaboraci贸n entre la diversidad de sectores y la afirmaci贸n de propuestas comunes en busca de la unidad en la acci贸n colectiva es fundamental.

2.- El proceso revolucionario de sustituci贸n del capitalismo

Las soluciones pragm谩ticas de coyuntura son equivalentes a la complacencia con situaciones de radical injusticia y violencia.聽 La digitalizaci贸n de los distintos aspectos de la vida se encuentra 铆ntimamente ligada a estrategias de reinvenci贸n sist茅mica, por lo que las transformaciones deben adoptar un calibre similar, teniendo como horizonte nuevas formas de organizaci贸n social y pol铆tica, alejadas de las matrices de acumulaci贸n.

3.- Anidar la soberan铆a digital en las luchas por la soberan铆a geopol铆ticaInternet Ciudadana| Revista con todo lo que debe saber sobre el tema | SurySur

Al entrar el planeta en una era digital, la disputa por la soberan铆a tecnol贸gica es crucial. Por una parte, la penetraci贸n alcanzada por las corporaciones que se asumen como gobernantes de facto de la internet, hace necesaria una acci贸n concertada entre Estados y comunidad organizada, una alianza p煤blico-comunitaria, para interponer medidas capaces de frenar el absolutismo y la ilegitimidad pol铆tica de estos conglomerados empresariales.

Por otro lado, la escala global de dominaci贸n exige la concertaci贸n multilateral entre Estados, en particular entre aquellos no insertos en esquemas de vasallaje neocolonial y tambi茅n la articulaci贸n de organizaciones populares m谩s all谩 de los l铆mites nacionales.

4.- Generar tecnolog铆a alternativa, 煤til al desarrollo humano

A diferencia de otros momentos hist贸ricos, no se trata solamente de una redistribuci贸n o apropiaci贸n de sistemas tecnol贸gicos, una suerte de 鈥渕edios de producci贸n鈥 de esta 茅poca, ya que muchos de ellos, en su propia l贸gica, son incompatibles con la solidaridad y la libertad. Es preciso desarrollar en paralelo 鈥搚 es por fortuna un proceso ya plenamente en curso鈥 modalidades tecnol贸gicas de esp铆ritu humanista, que coloquen la dignidad humana en el centro y potencien la solidaridad, la colaboraci贸n, la descentralizaci贸n, la horizontalidad, la federaci贸n y la innovaci贸n no posesiva, entre otras cualidades.

5.- Conducta cr铆tica. Pasar de ser materia prima de las corporaciones a sujetos de la internet

Todo lo enunciado antes no es viable, ni tiene sentido alguno, sin los protagonistas esenciales de esta transformaci贸n. La condici贸n necesaria es generar en las personas, los colectivos organizados y los pueblos una actitud cr铆tica frente a las enga帽osas promesas de las plataformas, que reducen a los seres humanos a materia prima para sus da帽inos prop贸sitos de acumulaci贸n. Como en cualquier otra esfera, lograr la convicci贸n colectiva para convertirnos en actores centrales de la trama, es ineludible.

聽Notas聽

[1] Informe del Relator Especial sobre la promoci贸n y protecci贸n del derecho a la libertad de opini贸n y de expresi贸n, Consejo de Derechos Humanos, Naciones Unidas.聽 6/4/2018 p. 12. Recuperado de https://undocs.org/es/A/HRC/38/35

[2] https://cdt.org/wp-content/uploads/2017/11/Mixed-Messages-Paper.pdf

[3] https://core.ac.uk/download/pdf/61664278.pdf

[4] Barrett P. 驴Who moderates the social media? A call to end outsourcing. Recuperado de https://bit.ly/3vOsu3T

[5] https://santaclaraprinciples.org/

[6] Para la elaboraci贸n del sumario se consultaron los siguientes enlaces: https://about.fb.com/news/2018/05/inside-feed-news-feed-ranking/
https://about.fb.com/news/2021/01/how-does-news-feed-predict-what-you-want-to-see/
https://metricool.com/es/algoritmo-instagram/
https://developers.google.com/search/blog/2020/05/evaluating-page-experience
https://metricool.com/es/algoritmo-tiktok/

[7] 鈥淎 inicios del siglo XIX, los trabajadores vieron empeorar sus condiciones laborales y de vida debido al uso de maquinaria en las tareas agr铆colas e industriales, lo que implant贸 jornadas laborales m谩s largas y duras, redujo la demanda de mano de obra e impuso salarios m谩s bajos. La respuesta que dio el movimiento ludita fue la destrucci贸n de la maquinaria de las f谩bricas.鈥 Luditas, la gran rebeli贸n contra las m谩quinas del siglo XIX. National Geographic. https://historia.nationalgeographic.com.es/a/luditas-gran-rebelion-contra-maquinas-siglo-xix_14175

*Investigador del Centro Mundial de Estudios Humanistas y comunicador en la agencia internacional de noticias Pressenza. Coordina el Foro de Comunicaci贸n para la Integraci贸n de NuestrAm茅rica y participa en el espacio latinoamericano-caribe帽o Internet Ciudadana. Colaborador del Centro Latinoamericano de Abn谩lisis Estrat茅gico (CLAE, www.estrategia.la)

 

 

  • Compartir:
X

Env铆e a un amigo

No se guarda ninguna informaci贸n personal


    Su nombre (requerido)

    Su Email (requerido)

    Amigo(requerido)

    Mensaje

    A帽adir comentario