Capitalismo: Vigilar y predecir

por Sébastien Broca

Se ha abierto una nueva era del capitalismo, donde las empresas buscan por todos los medios conocer, predecir y modificar el comportamiento de los individuos. S. Zuboff señala las amenazas resultantes para la autonomía individual y la soberanía democrática.

Desde la publicación de un primer artículo en 2013 en el Frankfurter Allgemeine Zeitung, Shoshana Zuboff, profesora emérita de la Escuela de Negocios de Harvard, ha popularizado la noción de «capitalismo de la vigilancia», tanto en el mundo académico como entre los defensores de las libertades digitales. Esta expresión se refiere a la nueva forma de capitalismo creada por las grandes compañías de Silicon Valley, y más particularmente por Google y Facebook, cuyos ingresos dependen de la recolección y el análisis de nuestros datos. El análisis de este fenómeno socioeconómico está en el centro de un libro voluminoso y ambicioso, publicado en los Estados Unidos el 15 de enero de 2019 y ya ampliamente comentado [1]. S. Zuboff entrelaza, en una prosa vigorosa y estimulante, una historia, una teoría y una crítica de la dirección tomada por la acumulación capitalista.

Una historia del «capitalismo de la vigilancia»

Según Zuboff, el «capitalismo de la vigilancia» nació en Google. En 2001, la empresa se encuentra en una situación difícil. A pesar del éxito entre los usuarios de su motor de búsqueda, todavía no se ha encontrado un modelo de negocio rentable y los inversores están empezando a impacientarse. Inspirado por las ideas del economista Hal Varian, Google decide utilizar los datos y metadatos proporcionados por sus usuarios para ofrecer a los anunciantes una publicidad selectiva orientada individualmente. Esta decisión va en contra de las reservas que los fundadores de la compañía, Sergey Brin y Larry Page, han mostrado hasta ahora hacia la publicidad. Pero los inversores no van a esperar sine die los beneficios y L. Page no tiene deseos de convertirse en un nuevo Nikola Tesla, el brillante ingeniero que murió sin haberse beneficiado nunca de sus inventos. Además, Google dispone de una gran cantidad de datos y de información científica fuera de los registros para convertirlas en predicciones sobre quién podría hacer clic en los anuncios. Google inventa el «capitalismo de la vigilancia». ¡Entre 2000 y 2004, sus ingresos aumentan un 3590%!

Este modelo resulta inmediatamente ganador y aventaja al resto de los actores importantes en la economía digital. Bajo el impulso de Sheryl Sandberg, transfuga de Google, Facebook se convierte desde 2008 en un gigante de la publicidad. La firma de Mark Zuckerberg aprovecha el activo único de su profundo conocimiento de las relaciones de cada individuo: la denominada «gráfica social». También inventa muchas formas de aumentar y refinar su recopilación de datos, por ejemplo, con la introducción del botón «Me gusta» en abril de 2010. A partir de 2014, Microsoft también se convierte al «capitalismo de la vigilancia» con el desarrollo del asistente virtual Cortana, una verdadera aspiradora de datos, y la adquisición de la red social profesional Linkedin, con sus 450 millones de usuarios. Amazon le sigue de cerca con su asistente virtual Alexa, igualmente hacen los gigantes de telecomunicaciones de EE. UU. Verizon, AT & T y Comcast.

Nacido en el mundo digital, el «capitalismo de la vigilancia» también se extiende al mundo «real». A medida que las personas están geolocalizadas, sus procesos fisiológicos son medidos, sus emociones son inferidas, las ciudades se llenan de miles de sensores y las casas se pueblan de «objetos inteligentes», el mundo entero ese transforma en datos. El «capitalismo de la vigilancia» inmediatamente después incorporará a nuevos sectores, tales como seguros, finanzas, salud o comercio minorista. El ejemplo del seguro del automóvil es uno de los más llamativos. Dado que el comportamiento de conducción de cada conductor se puede medir con precisión, es posible calcular los riesgos con la mayor justeza posible, individualizar las condiciones del seguro o incluso modificar estas condiciones en tiempo real, de acuerdo con los datos de conducción recopilados. Para las compañías de seguros, estos dispositivos están destinados a fomentar ciertos comportamientos de conducción, reducir la incertidumbre y… garantizar sus beneficios.

Otro ejemplo esclarecedor es el de Pokémon Go. Incubado en Google, este juego es, según S. Zuboff, el sueño de cualquier «capitalista de la vigilancia». Permite recopilar datos en espacios públicos y privados, interiores y exteriores. El aspecto lúdico es especial y extraordinariamente efectivo para promover ciertos comportamientos en los jugadores: empujarlos, por ejemplo, a ir a un negocio que ha establecido una sociedad con la compañía editorial del juego. De hecho, ha llegado rápidamente a acuerdos con McDonald’s y Starbucks para ofrecerles potenciales consumidores. Este modelo de negocio de «Lugares Patrocinados» funciona de la misma forma que el modelo de publicidad de Google. Los clientes empresariales pagan un «costo por visita», del mismo modo que los anunciantes pagan a Google un «costo por clic» (316).

Una teoría crítica del «capitalismo de la vigilancia»

A partir de esta historia de los últimos veinte años, S. Zuboff propone una teoría general del «capitalismo de la vigilancia». Todo comienza a partir de la transformación de la experiencia humana en «datos de comportamiento», gracias a las tecnologías digitales. Para la autora, hay un acto original de despojo: los actores del «capitalismo de la vigilancia» se apropian de nuestra experiencia extrayéndola de los «espacios no mercantiles de la vida cotidiana» (p.139). Como no solo sirven para mejorar el servicio proporcionado, estos datos constituyen un «excedente de comportamiento». Son la materia prima para producir, mediante procedimientos algorítmicos, «productos predictivos» cuyo valor proviene de anticipar el comportamiento futuro: la probabilidad de que un individuo haga clic en un anuncio, de tener un accidente de coche, etc. El «capitalismo de la vigilancia» es, pues, el proceso que transforma nuestros comportamientos actuales en predicciones monetarias de nuestros comportamientos futuros.

El valor de mercado de los productos predictivos está estrechamente relacionado con su grado de certeza. Para el comprador de estos productos, cuanto mayor sea la certeza, mas asegurado está el beneficio. La garantía de que un usuario haga clic en un anuncio es preferible a una alta probabilidad, que a su vez es preferible a una baja probabilidad, y así sucesivamente. La lógica de la acumulación del «capitalismo de la vigilancia» tiende así a la búsqueda de la certeza. Pero la forma más segura de predecir el futuro es hacerlo modelando el comportamiento de los individuos. Imperceptiblemente, la fabricación de «productos predictivos» se transforma en dispositivos de modificación de comportamiento, como en Pokémon Go, donde los jugadores se ven obligados a ir a lugares específicos. El destino del «capitalismo de la vigilancia» es, por lo tanto, transformarse en un capitalismo de cambio de los comportamientos, mucho más allá de las fronteras de la economía digital.

Son estos dispositivos de manipulación del comportamiento los que están en el corazón de la crítica de S. Zuboff, más que la «vigilancia» en sentido estricto. Esta crítica se despliega con referencia a los valores fundamentales del liberalismo político: autonomía individual y soberanía democrática. La autora insiste en la forma en que el «capitalismo de la vigilancia» pone en peligro las diversas conquistas asociadas con el surgimiento histórico del individuo: el respeto por la intimidad, la vida privada, pero también el libre albedrío, la autodeterminación y el derecho a decidir nuestro futuro. El «capitalismo de la vigilancia» finalmente aparece como una nueva forma de «tiranía» (p.513), que anula la deliberación política y destruye la autonomía individual al manipular e instrumentalizar nuestro comportamiento.

La originalidad del libro es articular esta crítica, expuesta en los términos clásicos del liberalismo, a la economía política expuesta anteriormente, o a un tipo de análisis generalmente más bien asociado con la crítica de la tradición marxista. La pérdida de autonomía individual y la erosión de la democracia se abordan así como consecuencias de la lógica de acumulación característica del «capitalismo de la vigilancia». S. Zuboff, por otro lado, es más esquiva en cuanto a cómo responder a estas amenazas, aunque está a favor de que las leyes impidan «la transformación ilegítima de la experiencia humana en datos de comportamiento» (344). El carácter algo impreciso de sus recomendaciones se explica, me parece, por que escamotea dar una respuesta.

Un capitalismo como los demás

El análisis de Zuboff se centra casi exclusivamente en las relaciones entre las empresas del «capitalismo de la vigilancia» y sus usuarios. Según ella, no son ni consumidores (no pagan los servicios de Google o Facebook), ni trabajadores («no hacen funcionar los medios de producción», página 69). Son fuentes de datos y objetivos para dispositivos de modificación del comportamiento. En resumen, el «capitalismo de la vigilancia» se basa en el despojo de la experiencia, no en la explotación del trabajo.

Esta tesis explica por qué las cuestiones relacionadas con el trabajo y el empleo están casi ausentes en el libro. Sin embargo, las empresas del «capitalismo de la vigilancia» producen bienes y servicios que requieren mucho trabajo: el de sus empleados, obviamente, pero también todo un trabajo externalizado o asumido por los usuarios, desde la producción de los contenidos en línea en redes sociales hasta la puesta en práctica de programas de inteligencia artificial [2]. De todo esto, hay poca mención en el libro, como tampoco se aborda la producción de mercancías incluida la de los «productos predictivos» que están destinados en última instancia a garantizar el flujo. ¡La existencia de una publicidad selectiva e individualizada, por mencionar solo este ejemplo, supone sin embargo la existencia previa de los productos que promueve!

Estas observaciones apuntan a una ambigüedad más fundamental, que se refiere al alcance exacto de la noción de «capitalismo de la vigilancia». ¿Es este un subsector de la economía digital centrado en la extracción de datos? ¿De la economía digital en su conjunto? ¿De todo el capitalismo actual? El libro contiene argumentos en apoyo de cada una de estas propuestas. Sin embargo, la autora favorece la tercera, como lo demuestran las comparaciones recurrentes entre Google y Ford. Así, de la misma manera en que el fabricante de automóviles habría inventado el capitalismo del siglo XX, «capitalismo gerencial basado en el consumo masivo» (p.63), Google habría inventado el capitalismo del siglo XXI. Ésta sería una bifurcación histórica importante que rompería viejas formas de reciprocidad entre las empresas y los consumidores.

Esta tesis sobre el surgimiento de un «nuevo capitalismo» está fundamentada a duras penas. Uno de los defectos del libro es, de hecho, nunca cuestionar seriamente los intentos teóricos, antiguos o más recientes, de periodizar la historia del capitalismo para distinguir sus diferentes variedades. Esta falta lleva a la autora a exagerar la novedad de los dispositivos que tienen como objetivo modificar comportamientos con fines comerciales. Las empresas han comprendido desde hace mucho tiempo que es esencial para ellas ganar cuota de mercado y garantizar la rentabilidad, manipular a las masas a través de la publicidad o cualquier otro medio disponible. ¡Basta con volver a leer los escritos de Edward Bernays, fundador de la industria moderna de relaciones públicas, para darse cuenta de que este proyecto ya existía en la década de 1920 y que sus implicaciones para la autonomía individual ya están perfectamente claras! En esa época, E. Bernays describió a los consumidores sujetos a la propaganda de las marcas como determinados «por influencias externas que controlan [sus] pensamientos sin su conocimiento». Son, según él, «movidos por un botón que alguien hubiera presionado» [3] …

Por lo tanto, parece más coherente abordar el «capitalismo de la vigilancia» como una profundización de lo que ya existía que como una ruptura. Y si el problema fundamental radica en la tendencia de las empresas a querer alterar el comportamiento individual, ¡la conclusión que se impone es que no es nada nuevo! El «capitalismo de la vigilancia» no hace sino mejorar, gracias al big data y las herramientas algorítmicas, una lógica preexistente. El contenido normativo de la crítica de S. Zuboff debería, por lo tanto, conducir a una crítica más general del capitalismo. Esta crítica nunca llega. Obnubilada por su deseo de demostrar que el «capitalismo de la vigilancia» es una perversión del capitalismo, Zuboff no ve que constituye más que nada su quintaesencia.

Los límites del «conductismo radical»

Finalmente, uno puede preguntarse si la crítica propuesta en el trabajo no se confunde en gran medida de objetivo. En la tercera parte, el «capitalismo de la vigilancia» se presenta como la puesta en práctica de un «conductismo radical» anteriormente defendido por el psicólogo B. F. Skinner, quien propuso modelar el comportamiento de las masas a través de nuevas tecnologías conductuales. Según S. Zuboff, este proyecto de ingeniería social ahora está reactivado por las nuevas posibilidades de configurar los datos del mundo. Bajo el nombre de «física social», el investigador del MIT Alex Pentland se esfuerza por modelar, predecir y modificar el comportamiento humano. Él cree, en efecto, que los datos de comportamiento «cuentan una historia de nuestras vidas más precisa que cualquier otra cosa que podamos elegir revelar sobre nosotros mismos» (citado en 422) y pretende llegar a «una explicación matemática de las razones de por qué la sociedad reacciona como lo hace»(citado en 434). Una de las compañías que ha creado se jacta de ser capaz de «explicar y predecir cualquier tipo de comportamiento humano» (citado en 425).

No hay duda de que este tipo de discurso ejerce una cierta fascinación en Silicon Valley, pero ¿es realmente necesario considerarlo, como lo hace S. Zuboff, una descripción exacta del «capitalismo de la vigilancia»? Esto es  olvidar que la economía digital es una economía de las promesas donde, para convencer a los inversores, es mejor prometer demasiado que quedarse corto. Es especialmente por dar a estos discursos un crédito que están lejos de merecer, por lo que su ingenuidad positivista solo puede afectar a aquellos con una cultura mínima en ciencias humanas. S. Zuboff, sin embargo, valida las proclamaciones de A. Pentland, en la misma propuesta donde critica sus implicaciones sociales y políticas. Ella también está convencida de que el big data ofrece un amplio conocimiento del mundo social y que las empresas de la economía digital «saben más sobre ti que tú mismo» (p.285) [4]. ]. Sostiene que B.F. Skinner y A. Pentland cuentan la verdad del «capitalismo de la vigilancia» cuando simplemente están formulando ideología.

Este malentendido explica el tono a menudo enfático del trabajo, así como la idea muchas veces declarada de que la «naturaleza humana» estaría en peligro. La evaluación de la efectividad real de las tecnologías de predicción y manipulación probablemente induciría a un poco más de mesura. Esto llevaría sobre todo a completar el análisis de Zuboff, o incluso a juzgar de manera diferente las principales amenazas planteadas por el «capitalismo de la vigilancia». Más que el riesgo de una desaparición completa del individuo autodeterminado, sería necesario estudiar la precariedad del trabajo, los nuevos efectos de la estratificación social [5] y las injusticias económicas propias de la situación actual. Esto es lo que S. Zuboff no hace y lo que impide que The Age of Surveillance Capitalism, a pesar de sus tesis estimulantes, no consiga convencer por completo.

Notas:

[1] Entre los numerosos comentarios ya publicados en inglés se encuentran: Nicholas Carr, «Thieves of Experience : How Google and Facebook Corrupted Capitalism», Los Angeles Review of Books, 15 de enero de 2019; Evgeny Morozov, « Capitalism’s New Clothes », The Baffler, 4 de febrero de 2019.

[2] Sobre este tema, véase Antonio A. Casilli, En attendant les robots, Paris, Seuil, 2019.

[3] Edward Bernays, Propaganda. Comment manipuler l’opinion en démocratie, La Découverte, Paris, 2007, p. 62 et 68. En español: Edward Bernays, Propaganda. Melusina, Santa Cruz de Tenerife, 2008.

[4] Las obras de Antoinette Rouvroy, aunque tienen importantes similitudes con las de S. Zuboff, insisten precisamente en la forma en que el «conductismo digital» nunca logra captar todo lo que constituye la vida de los individuos.

[5] Cf. Marion Fourcade y Kieran Healy, «Classification Situations : Life-Chances in the Neoliberal Era», Accounting, Organizations, and Society, vol. 38, p. 559–572.

(Tomado de La Vie des Idées)