Los arrepentidos de Silicon Valley: luchar contra el mal que crearon

En uno de los enclaves más ricos de la costa oeste norteamericana, a escasos minutos de Silicon Valley, se yergue la Escuela Waldorf de la Península, un centro educativo de élite donde los magnates de las grandes empresas tecnológicas afincadas en California llevan a sus niños. La particularidad de este colegio, heredero de la filosofía del pensador austriaco Rudolf Steiner, es que no cuenta con una sola pantalla, pues los afines a este enfoque pedagógico piensan que los ordenadores restringen la creatividad e interacción humanas, al mismo tiempo que impiden el pensamiento crítico. La paradoja se cuenta sola: mientras los padres –y madres, aunque la cultura del Valle del Silicio está muy masculinizada– de los chiquillos se dedican a una innovación que persigue mantener al mayor número posible de personas enganchadas a los teléfonos, excluyen a sus hijos de los supuestos beneficios de la tecnología.

Algo debe haber de errado en ella, mucho de perjudicial, como afirman cada vez más voces antiguamente pertenecientes al círculo de privilegiados que han moldeado el comportamiento de miles de millones de ciudadanos y, tras años de desempeño en el corazón de la bestia, han abandonado sus puestos para contar sus maldades al mundo con todo lujo de detalles. Yo los llamo “los arrepentidos”, porque destaca en ellos un componente moral que moviliza sus acciones, más o menos reformistas o disidentes según la situación concreta. 

Una cuestión ética

Los niños, parece ser, enmarcan el discurso de unos señores preocupados por el futuro tras haberse dado cuenta de lo que han hecho con el presente. “Steve Jobs no dejaba a sus hijos utilizar el iPad” –dijo James Williams, empleado en Google durante una década y luego reconvertido en filósofo y académico después de haber realizado un doctorado en Oxford. Williams es conocido por difundir la alarma frente a una economía de la atención que fragmenta el pensamiento y disminuye nuestra capacidad intelectual mientras procede a un extractivismo de datos íntimos a favor de los anunciantes; pero, más allá de demostrar el lucro empresarial derivado del abuso de nuestra privacidad, su investigación denuncia especialmente los mecanismos adictivos que modifican nuestra personalidad y, con ello, merman la democracia.

“La industria tecnológica no estaba diseñando productos; estaba diseñando usuarios”, escribe en su libro Clics contra la humanidad (Gatopardo, 2021 – publicado originalmente en inglés como Stand out of our light), donde detalla el manejo de nuestras emociones por parte de las redes sociales a través de las notificaciones, el sistema de recompensas arbitrarias (en forma de likes, o la sorpresa de ver qué aparece en un timeline infinito), y el fomento del narcisismo cuando estamos perpetuamente a la espera de validación (con nuevos seguidores, por ejemplo). Si la voluntad común es la base de la autoridad de un gobierno según la Declaración Universal de los Derechos Humanos, y esta voluntad yace vapuleada por la manipulación digital, ¿qué conclusiones se pueden sacar respecto a las libertades básicas?, advierte. El problema “es la ética del sistema”, completamente degradada, hecho ante el cual propuso algunas soluciones, como la formación de un sindicato que protegiese la economía de la atención, nunca materializado, o la fundación del grupo “Time well spent” (‘Tiempo bien usado’), este sí puesto en marcha junto a su compañero de luchas Tristan Harris y más tarde rebautizado como Center for Humane Tecnology (‘Centro por una Tecnología Humanizada’).

«La Inteligencia Artificial generativa puede impulsar mentiras tan creíbles que puede hacer que la noción de verdad desaparezca del panorama sociopolítico»

Harris, mucho más combativo que Williams, apareció en el famoso documental El dilema de las redes (Jeff Orlowski, 2020) expresando un gran disgusto ante lo que la digitalización masiva hace con los ciudadanos. Otro exempleado de Google, donde, según sus propias declaraciones, estudiaba “cómo dirigir éticamente el pensamiento de la gente”, se ha lamentado de la agenda que nos roban estas empresas, de cómo controlan nuestras mentes y tiempo a su antojo hasta el punto de que lo que la investigadora Shoshana Zuboff llamó capitalismo de la vigilancia “está cambiando la democracia”. Todo debate en torno a estos temas tiende a adoptar tintes de conspiración en cuanto que asume una falta de autonomía individual casi total a la hora de combatir las estrategias que utilizan las grandes tecnológicas, como si fuésemos marionetas, pero lo cierto es que buena parte de la investigación disponible (Zuboff, Peirano, Rushkoff, Riechmann) se encaminan en esa dirección, y hasta el mismo Harris subraya lo fácil que es persuadirnos guiados por objetivos que van desde la compra de cierta mercancía hasta la orientación del voto. 

Combinado el extractivismo de datos con la Inteligencia Artificial, estas empresas, testificó Harris frente al Senado de Estados Unidos, pueden saber rasgos cruciales de tu personalidad analizando apenas los movimientos de la boca y el historial de clics; pueden saber si alguien va a dimitir del trabajo, si es homosexual o está embarazada mucho antes de que el sujeto en cuestión se aperciba. El poder predictivo que atesoran los despachos de Silicon Valley no tiene precedentes en la historia, y probablemente debido al panorama autoritario y distópico que presentan genera incredulidad en la ciudadanía, pues ¿quién estaría conforme en pensarse tan débil y manipulable? A pesar de ello, hay estudios que demuestran que tocamos nuestros móviles miles de veces al día; que tardamos una media de 47 segundos en cambiar de tarea delante de una pantalla, que no nos concentramos como antes y esta mudanza de comportamiento no ha sido buscada. Quizá por esta razón los arrepentidos, armados con un conocimiento interno opaco para los demás, hayan salido a gritar un peligro del que ni los representantes políticos son plenamente conscientes. 

“Perder el control de la civilización”

Entre ellos figura Gary Marcus, profesor emérito de Ciencia Neuronal y Psicología en la Universidad de Nueva York, fundador de varias start-ups en el ámbito de la Inteligencia Artificial, y exempleado de Uber. En una sesión reciente en el Capitolio de Estados Unidos, donde acompañó a Sam Altman –creador de OpenAI, la empresa que inventó ChatGPT–, no escatimó en mensajes que sonaban a la alarma de incendios de un edificio en llamas: la Inteligencia Artificial generativa (capaz de producir textos, fotos, voces clonadas de gran veracidad) puede impulsar mentiras tan creíbles que la propia noción de verdad desaparezca del panorama sociopolítico: pruebas falsas en juicios, desinformación médica, bulos electorales, estudios científicos que no lo son…

En definitiva, “un mundo donde nadie confíe en nada” y la gente “simplemente se desespere” o acabe creyendo lo que le interese; plagado de desempleo, crimen cibernético y caídas estrepitosas de la bolsa. Marcus está tan convencido del riesgo que implica lanzar al mercado herramientas como ChatGPT sin regulación que firmó una carta junto a más de 30.000 expertos –entre los que se encuentra Elon Musk– pidiendo una pausa de seis meses en el desarrollo de estos sistemas para evaluar que las ventajas superan a los posibles daños, y antes de “perder el control de la civilización”. Marcus ha abogado asimismo por adoptar un enfoque punitivo que castigue la generación sistemática de mentiras dirigidas, por ejemplo, a alterar resultados electorales o la estabilidad bursátil, de acuerdo a crímenes recogidos en el derecho internacional.

El exgurú de Google Geoffrey Hinton ha calificado la Inteligencia Artificial de «amenaza existencial»

Geoffrey Hinton, otro exgurú de Google que comparte diagnóstico con Marcus, ha calificado la Inteligencia Artificial de “amenaza existencial”, cree que podría llegar el día cercano en que las máquinas dominen a los humanos, y apuesta por aplicar a quienes las utilicen para fines espurios la misma legislación que se emplea con los falsificadores de dinero, pues el crimen sería similar. Respecto a un control gubernamental de la IA, ha expresado sus dudas, ante la falta de escrúpulos de no pocos altos cargos: “El problema es que algunos políticos quieren perder la democracia”. En qué manos dejar las riendas del monstruo cuando nuestro tejido democrático se encuentra ya atravesado de lógicas autócratas, intereses económicos, fake news y un marco jurídico connivente con la injusticia parece conformar uno de los mayores retos a los que hacer frente como sociedad. En este contexto, arrepentirse de haber contribuido a iniciar la catástrofe es apenas un primer e insuficiente paso si se compara con las consecuencias, las mismas de las que será imposible refugiarnos en una escuela de élite sin pantallas.

Este artículo fue publicado originalmente en papel en #LaMarea95. Puedes suscribirte aquí y seguir apoyando el periodismo independiente.