Cathy O’Neil: “Aunque la privacidad se habrá rendido, el verdadero sufrimiento vendrá de la mano de la pobreza”

Las aplicaciones para controlar la propagación del virus a través de la geolocalización de la ciudadanía ponen sobre la mesa el viejo debate entre seguridad y libertad. Los países asiáticos, como China, Corea del Sur o Singapur, han lanzado apps para controlar la pandemia. En Europa, Alemania, Italia, Austria, Estonia, Portugal, Irlanda y Suiza han anunciado también sistemas de control. En España, la app de rastreo del virus Radar, basada en bluetooth y de uso voluntario, se testa en un programa piloto implementado en La Gomera desde principios de julio.

La matemática Cathy O’Neil ha dado la voz de alarma sobre cómo los datos pueden conducir a los gobiernos a tomar medidas equivocadas durante la pandemia. O’Neil, autora del libro Armas de destrucción matemática. Cómo el big data aumenta la desigualdad y amenaza la democracia (Capitán Swing, 2016) y doctora en Matemáticas por la Universidad de Harvard, asegura que los datos no son fiables porque no ofrecen una cifra real de contagiados ni de muertos y cuestiona la efectividad del rastreo de los ciudadanos a través de la geolocalización de sus dispositivos para doblegar el virus.

Vuelve a la carga afirmando que no podemos fiarnos de los datos de personas infectadas, hospitalizadas, intubadas y muertas a causa de la pandemia de coronavirus. ¿Por qué?

Destacaría tres aspectos clave: no hay suficientes pruebas para conocer el número real de contagiados, así que se estima que la cifra real podría ser diez veces mayor de lo que se informa; la mayoría de países no informa de las muertes fuera de los hospitales, como por ejemplo las que ocurren en los centros geriátricos o los hogares (la cifra de muertes en Francia aumentó un 40% cuando empezó a hacerlo); y la política para estipular las causas de muerte no es coherente. Sabemos muy poco acerca del virus, aunque nos empeñemos en cuantificarlo todo. Soy experta en recopilación de datos, así que puedo inspeccionar y leer patrones para ver las debilidades del Big Data, pero la mayoría de las personas simplemente confían en los datos porque son “objetivos”.

Es un asunto urgente desenmascarar este mito. Sin embargo, ¿conocer con precisión esos datos ayudaría a salvar vidas?

Comprender mejor los datos establecería mejor nuestras expectativas y nos permitiría tomar mejores decisiones. Por ejemplo, saber que la curva de muertos no es simétrica, sino que sube rápidamente y baja lentamente, nos ayudaría a anticipar un largo confinamiento en casa. Eso podría salvar indirectamente la vida de muchas personas. Si las expectativas se establecen mal, a causa de una interpretación errónea de los datos, conduciremos a la gente a abandonar su hogar antes de lo seguro.

«Comprender mejor los datos establecería mejor nuestras expectativas y nos permitiría tomar mejores decisiones»

En España, el Gobierno estudia la posibilidad de geolocalizar a los ciudadanos a través de sus teléfonos móviles para salvaguardar la salud de todos durante las fases de la desescalada. ¿Pude ayudar la tecnología durante el desconfinamiento? 

Solo las aplicaciones para doblegar al virus las utilizan suficientes personas. Singapur, que utilizó los móviles para combatir la COVID-19 y se pone como ejemplo de éxito, no doblegó la curva gracias a la tecnología. El primer ministro del país atribuyó su triunfo al trabajo del detective tradicional, es decir, a entrevistar intensamente a los infectados y sus contactos y a localizarlos. Solo una de cada seis personas en Singapur se descargaron la aplicación para móviles, que es opcional al igual que la oferta de Apple y Google. 

Cuántas más personas utilicen las aplicaciones, más garantía de éxito.

Exacto, pero esto solo sucederá si hay suficiente confianza en que los ciudadanos serán ayudados y atendidos, en lugar de ser castigados, si se descubre que están enfermos. 

En Estados Unidos, ¿se utiliza la tecnología para controlar y mitigar los efectos de la pandemia?

En mi país esto es imposible. Primero, porque no tenemos atención médica universal y, segundo, porque nos comportamos de manera punitiva con los que más necesitan el servicio: los excluidos. Para ser eficaz, el sistema debe ayudar a las personas que, debido a características como la raza, los ingresos, la edad y la ocupación, están expuestas y mueren de manera desproporcionada. Sin embargo, muchos de ellos simplemente no tienen móviles. 

Y si no hay suficientes personas usando estas aplicaciones, es imposible que resulten de utilidad.

La aplicación queda ciega respecto a sus objetivos más importantes, lo que hace su uso inútil. O aún peor, presenta una historia demasiado optimista, que nuevamente conduce a una expectativa errónea y una mala decisión política.

En Noruega, un 25% de los ciudadanos se ha descargado la app del gobierno que notifica a los usuarios si han estado en contacto con un infectado. En China o Corea del Sur también se usan sistemas de este tipo con resultados positivos según las autoridades. ¿Qué reflexión le suscitan estas iniciativas?

Creo que estos son países con amplia confianza en el gobierno. Nada de eso podría funcionar en los Estados Unidos. Supongamos por un momento que todas estas personas tienen teléfonos, descargan la aplicación y, por lo tanto, saben si están contagiados. ¿Qué harán entonces? Muchos no están asegurados, por lo que las pruebas y el tratamiento serán prohibitivos por su alto coste. Esto podría causar una verdadera resurrección en los Estados más conservadores y amantes de las armas, por ejemplo.

En Estados Unidos, una aplicación de este tipo solo será útil para las personas con ingresos medios y altos y con un buen seguro de salud, no para la mayoría.

Singapur cubrió el coste de todos los tratamientos y pruebas, que eran generalizados y accesibles, y proporcionó un pago por enfermedad a las personas que tuvieron que quedarse en casa. Estados Unidos tiene un largo camino por recorrer para igualar eso. Incluso la mejor aplicación para teléfonos móviles no resolverá problemas sistémicos.

«Los sistemas para rastrear los contagios sólo funcionarán si son descargados por muchos ciudadanos y sirven para que sean atendidos»

En Europa, los supuestos incentivos de estas aplicaciones –salvaguardar la salud– parecen mayores que los costes –la privacidad–. ¿Por qué es inconveniente que obtengan nuestros datos si lo hacen de manera agregada y anonimizada?

Los datos nunca están realmente anonimizados, menos aún si lo que pretendemos es identificar personas enfermas o potencialmente enfermas. La ciencia de datos es realmente buena para localizar personas si tenemos otros datos para cruzarlos y para rastrearlos a través de los móviles, y definitivamente los tenemos.

«Los datos nunca están realmente anonimizados, menos aún si lo que pretendemos es identificar personas enfermas o potencialmente enfermas»

¿Existe el riesgo de que la monitorización realizada durante la desescalada se instaure una vez hayamos eliminado el virus?

Absolutamente, más aún cuando compañías como Palantir están al cargo. Palantir es conocida por ayudar a la NSA (Agencia de Seguridad Nacional) a cazar personas en el extranjero y a la ICE (Servicio de Inmigración y Control de Aduanas) a perseguir inmigrantes en EEUU. Un artículo reciente en Gizmodo sostiene que ha ofrecido sus servicios a diferentes países europeos, entre otros tiene un contrato con el sistema de salud público del Reino Unido.

¿Cómo cree que cambiará el mundo a raíz de la pandemia? ¿Los datos tomarán mayor importancia? 

Me temo que, después de que pasen las primeras olas de COVID-19, el principal problema será la desigualdad y la inestabilidad política y, aunque es cierto que la privacidad se habrá rendido por completo, en ese momento el verdadero sufrimiento vendrá de la mano de la pobreza y las desigualdades sociales. Al mismo tiempo, creo que la inteligencia artificial tendrá una influencia aún más fuerte sobre cómo se distribuyen los trabajos. Es decir, la vigilancia totalmente legal en el trabajo seguirá siendo un gran problema y causa de desigualdad. 

En el mundo pre-pandemia, China nos parecía una dictadura digital que ejercía un control férreo sobre sus ciudadanos y limitaba sus derechos fundamentales. En el mundo post-pandemia, ¿acabaremos aceptando de buen grado ser geolocalizados?

Desde mi punto de vista, el enfoque del estado de vigilancia chino ha sido decir a sus ciudadanos: “Sí, estamos tomando el control de todo, pero lo estamos haciendo para su protección”. Después de que esto termine, ese argumento puede sonar bastante correcto, especialmente en comparación con otros gobiernos que no pueden proteger a sus ciudadanos. Queda por ver si en Europa o América estaremos dispuestos a firmar ese tipo de contrato.