Economía | Sociedad

Los arrepentidos de Silicon Valley: luchar contra el mal que crearon

Cada vez más exempleados denuncian los mecanismos adictivos con los que las grandes empresas tecnológicas para las que trabajaron modifican nuestra personalidad y merman la democracia.

Tristan Harris, en el Collision Conf, en 2018. STEPHEN MCCARTHY

Azahara Palomeque

23 agosto 2023 Una lectura de 7 minutos

En uno de los enclaves más ricos de la costa oeste norteamericana, a escasos minutos de Silicon Valley, se yergue la Escuela Waldorf de la Península, un centro educativo de élite donde los magnates de las grandes empresas tecnológicas afincadas en California llevan a sus niños. La particularidad de este colegio, heredero de la filosofía del pensador austriaco Rudolf Steiner, es que no cuenta con una sola pantalla, pues los afines a este enfoque pedagógico piensan que los ordenadores restringen la creatividad e interacción humanas, al mismo tiempo que impiden el pensamiento crítico. La paradoja se cuenta sola: mientras los padres –y madres, aunque la cultura del Valle del Silicio está muy masculinizada– de los chiquillos se dedican a una innovación que persigue mantener al mayor número posible de personas enganchadas a los teléfonos, excluyen a sus hijos de los supuestos beneficios de la tecnología.

Algo debe haber de errado en ella, mucho de perjudicial, como afirman cada vez más voces antiguamente pertenecientes al círculo de privilegiados que han moldeado el comportamiento de miles de millones de ciudadanos y, tras años de desempeño en el corazón de la bestia, han abandonado sus puestos para contar sus maldades al mundo con todo lujo de detalles. Yo los llamo “los arrepentidos”, porque destaca en ellos un componente moral que moviliza sus acciones, más o menos reformistas o disidentes según la situación concreta.

Una cuestión ética

Los niños, parece ser, enmarcan el discurso de unos señores preocupados por el futuro tras haberse dado cuenta de lo que han hecho con el presente. “Steve Jobs no dejaba a sus hijos utilizar el iPad” –dijo James Williams, empleado en Google durante una década y luego reconvertido en filósofo y académico después de haber realizado un doctorado en Oxford. Williams es conocido por difundir la alarma frente a una economía de la atención que fragmenta el pensamiento y disminuye nuestra capacidad intelectual mientras procede a un extractivismo de datos íntimos a favor de los anunciantes; pero, más allá de demostrar el lucro empresarial derivado del abuso de nuestra privacidad, su investigación denuncia especialmente los mecanismos adictivos que modifican nuestra personalidad y, con ello, merman la democracia.

Los arrepentidos de Silicon Valley: luchar contra el mal que crearon — Steve Jobs, el gran gurú de Apple, no dejaba a sus hijos utilizar el iPad. MATTHEW YOHE

“La industria tecnológica no estaba diseñando productos; estaba diseñando usuarios”, escribe en su libro Clics contra la humanidad (Gatopardo, 2021 – publicado originalmente en inglés como Stand out of our light), donde detalla el manejo de nuestras emociones por parte de las redes sociales a través de las notificaciones, el sistema de recompensas arbitrarias (en forma de likes, o la sorpresa de ver qué aparece en un timeline infinito), y el fomento del narcisismo cuando estamos perpetuamente a la espera de validación (con nuevos seguidores, por ejemplo). Si la voluntad común es la base de la autoridad de un gobierno según la Declaración Universal de los Derechos Humanos, y esta voluntad yace vapuleada por la manipulación digital, ¿qué conclusiones se pueden sacar respecto a las libertades básicas?, advierte. El problema “es la ética del sistema”, completamente degradada, hecho ante el cual propuso algunas soluciones, como la formación de un sindicato que protegiese la economía de la atención, nunca materializado, o la fundación del grupo “Time well spent” (‘Tiempo bien usado’), este sí puesto en marcha junto a su compañero de luchas Tristan Harris y más tarde rebautizado como Center for Humane Tecnology (‘Centro por una Tecnología Humanizada’).

«La Inteligencia Artificial generativa puede impulsar mentiras tan creíbles que puede hacer que la noción de verdad desaparezca del panorama sociopolítico»

Harris, mucho más combativo que Williams, apareció en el famoso documental El dilema de las redes (Jeff Orlowski, 2020) expresando un gran disgusto ante lo que la digitalización masiva hace con los ciudadanos. Otro exempleado de Google, donde, según sus propias declaraciones, estudiaba “cómo dirigir éticamente el pensamiento de la gente”, se ha lamentado de la agenda que nos roban estas empresas, de cómo controlan nuestras mentes y tiempo a su antojo hasta el punto de que lo que la investigadora Shoshana Zuboff llamó capitalismo de la vigilancia “está cambiando la democracia”. Todo debate en torno a estos temas tiende a adoptar tintes de conspiración en cuanto que asume una falta de autonomía individual casi total a la hora de combatir las estrategias que utilizan las grandes tecnológicas, como si fuésemos marionetas, pero lo cierto es que buena parte de la investigación disponible (Zuboff, Peirano, Rushkoff, Riechmann) se encaminan en esa dirección, y hasta el mismo Harris subraya lo fácil que es persuadirnos guiados por objetivos que van desde la compra de cierta mercancía hasta la orientación del voto.

Combinado el extractivismo de datos con la Inteligencia Artificial, estas empresas, testificó Harris frente al Senado de Estados Unidos, pueden saber rasgos cruciales de tu personalidad analizando apenas los movimientos de la boca y el historial de clics; pueden saber si alguien va a dimitir del trabajo, si es homosexual o está embarazada mucho antes de que el sujeto en cuestión se aperciba. El poder predictivo que atesoran los despachos de Silicon Valley no tiene precedentes en la historia, y probablemente debido al panorama autoritario y distópico que presentan genera incredulidad en la ciudadanía, pues ¿quién estaría conforme en pensarse tan débil y manipulable? A pesar de ello, hay estudios que demuestran que tocamos nuestros móviles miles de veces al día; que tardamos una media de 47 segundos en cambiar de tarea delante de una pantalla, que no nos concentramos como antes y esta mudanza de comportamiento no ha sido buscada. Quizá por esta razón los arrepentidos, armados con un conocimiento interno opaco para los demás, hayan salido a gritar un peligro del que ni los representantes políticos son plenamente conscientes.

“Perder el control de la civilización”

Entre ellos figura Gary Marcus, profesor emérito de Ciencia Neuronal y Psicología en la Universidad de Nueva York, fundador de varias start-ups en el ámbito de la Inteligencia Artificial, y exempleado de Uber. En una sesión reciente en el Capitolio de Estados Unidos, donde acompañó a Sam Altman –creador de OpenAI, la empresa que inventó ChatGPT–, no escatimó en mensajes que sonaban a la alarma de incendios de un edificio en llamas: la Inteligencia Artificial generativa (capaz de producir textos, fotos, voces clonadas de gran veracidad) puede impulsar mentiras tan creíbles que la propia noción de verdad desaparezca del panorama sociopolítico: pruebas falsas en juicios, desinformación médica, bulos electorales, estudios científicos que no lo son…

En definitiva, “un mundo donde nadie confíe en nada” y la gente “simplemente se desespere” o acabe creyendo lo que le interese; plagado de desempleo, crimen cibernético y caídas estrepitosas de la bolsa. Marcus está tan convencido del riesgo que implica lanzar al mercado herramientas como ChatGPT sin regulación que firmó una carta junto a más de 30.000 expertos –entre los que se encuentra Elon Musk– pidiendo una pausa de seis meses en el desarrollo de estos sistemas para evaluar que las ventajas superan a los posibles daños, y antes de “perder el control de la civilización”. Marcus ha abogado asimismo por adoptar un enfoque punitivo que castigue la generación sistemática de mentiras dirigidas, por ejemplo, a alterar resultados electorales o la estabilidad bursátil, de acuerdo a crímenes recogidos en el derecho internacional.

El exgurú de Google Geoffrey Hinton ha calificado la Inteligencia Artificial de «amenaza existencial»

Geoffrey Hinton, otro exgurú de Google que comparte diagnóstico con Marcus, ha calificado la Inteligencia Artificial de “amenaza existencial”, cree que podría llegar el día cercano en que las máquinas dominen a los humanos, y apuesta por aplicar a quienes las utilicen para fines espurios la misma legislación que se emplea con los falsificadores de dinero, pues el crimen sería similar. Respecto a un control gubernamental de la IA, ha expresado sus dudas, ante la falta de escrúpulos de no pocos altos cargos: “El problema es que algunos políticos quieren perder la democracia”. En qué manos dejar las riendas del monstruo cuando nuestro tejido democrático se encuentra ya atravesado de lógicas autócratas, intereses económicos, fake news y un marco jurídico connivente con la injusticia parece conformar uno de los mayores retos a los que hacer frente como sociedad. En este contexto, arrepentirse de haber contribuido a iniciar la catástrofe es apenas un primer e insuficiente paso si se compara con las consecuencias, las mismas de las que será imposible refugiarnos en una escuela de élite sin pantallas.

Este artículo fue publicado originalmente en papel en #LaMarea95. Puedes suscribirte aquí y seguir apoyando el periodismo independiente.

Gracias a la colaboración de miles de personas como tú, publicamos lamarea.com. Ayúdanos a seguir haciéndolo

Comentarios

ruben dice:

30/08/2023 a las 10:26

Esto no es nuevo, la TV lleva en nuestras vidas desde los años 50, unos 70 años manipulando generaciones con telebasura, ya que los creadores de contenido no buscan ofrecer lo que el público quiere ver, sino buscan que el público vea lo que ellos quieren ofrecer (esto explicado en la universidad de periodismo de Navarra). Ahora lo que ocurre es que esa invasión de publicidad es más personalizada, pero el problema lleva existiendo desde hace 70 años, así que nada nuevo en el horizonte, realmente: ¿cuándo hubo un sentido crítico en la historia de la humanidad de manera generalizada? quizá en estos tiempos es cuando más generalizado esté el espíritu crítico, debido a la mejora del acceso educativo a niveles superiores que antiguamente estaba limitado a clases económicas altas

Responder
Gus dice:

24/08/2023 a las 05:14

Un clásico es el libro de Desmurget, «la fábrica de cretinos digitales».

Responder
Chorche dice:

23/08/2023 a las 14:12

Más que interesantes y de agradecer los artículos de Azahara. Intentan abrirnos los ojos sobre importantes temas que ya nos empiezan a afectar negativamente y más que lo harán en el futuro si no estamos alertados.

Cuando se pierden los valores, o nunca se han tenido, y sólo se desarrolla el intelecto, llamamos al maligno (los intereses, la codicia, la «democracia» de los sistemas capitalistas) que estaban esperando este momento para tomar el mando del reino del desorden, de la sinrazón, de la injusticia, del mal.

DOCENTES CONVERTIDOS EN «PROLETARIOS DIGITALES»: ¿ESTÁ EN PELIGRO EL FUTURO DE LA EDUCACIÓN?
Nuevas tecnologías amenazan con transformar a los maestros en simples «máquinas de enseñar»: ¿Adiós al pensamiento crítico?
Los docentes: de productores de conocimiento a proletarios digitales
Ante esta paulatina expropiación de sus conocimientos y capacidades, el profesorado trata de resistir como puede. Pero la degradación de sus condiciones laborales y vitales está resultando imparable. En poco tiempo han pasado de ser productores de conocimiento y pensamiento crítico a una suerte de proletariado digital.
Una nube de gurús tecnócratas sueñan con poder sustituir toda interacción humana por la enseñanza 100% digital.
Desde la revolución industrial, el capitalismo ha buscado sustituir la mano de obra cualificada por máquinas y trabajadores sin cualificar.
Todo ello impacta de manera muy negativa en el trabajo de los profesores, pero también en el de los estudiantes. Se devalúa cualquier labor reflexiva o crítica en pos de cumplir de forma eficiente con los dictados de las necesidades empresariales y la empleabilidad. Pensar y reflexionar están quedando relegados a un segundísimo plano.
Precarización docente agravada por la tecnología
Esta dinámica de precarización laboral se ve agravada por el impacto de las nuevas tecnologías en el ámbito educativo. Su implementación masiva permite fragmentar y parcelar la labor docente para hacerla más simple, estandarizada y controlable.
Los expertos en «educación online» diseñan los contenidos digitales que luego se entregan a los profesores para su ejecución. Estos se convierten en meros transmisores e interactores con los alumnos a través de internet…
https://canarias-semanal.org/art/34834/docentes-convertidos-en-proletarios-digitales-esta-en-peligro-el-futuro-de-la-educacion

Responder