Novena entrega: Registrar lo que haces para acabar haciéndote hacer lo que ellos quieren.

El 99’9% del texto que presentamos son palabras literales de la autora tal y como las escribe en su obra. Sin embargo, las hemos desplazado y reorganizado de acuerdo a nuestra comprensión del texto original sin señalar paginación alguna y con una serie de subrayados en negrita que igualmente son nuestros.  No obstante, al final de cada entrada tenéis el enlace a  la síntesis ordenada esta vez sí con las páginas y en el orden en el que Zuboff las presenta para que sea más fácil citarla.

Creo, por supuesto,  que merece la pena acceder al original y pido perdón a la autora por el tejemaneje al que hemos sometido su texto, pero esperamos que esta síntesis que presentamos pueda servir de aperitivo para abrir el apetito de la obra completa.

Novena entrega: la modificación de la conducta. Registrar lo que haces para acabar haciéndote hacer lo que ellos quieren.

«El nuevo poder es la acción –afirma un ingeniero de software- La inteligencia de la internet de las cosas implica que los sensores puedan ser también accionadores».  «Ya no es una cuestión de computación ubicua solamente. Ahora el objetivo real es la intervención, el accionamiento y el control ubicuos. […] El verdadero poder estriba en que se pueden modificar las acciones en el mundo real y en tiempo real. Los sensores inteligentes conectados pueden registrar y analizar toda clase de conducta y, al momento, averiguar el modo de cambiarla. El análisis en tiempo real se traduce en acción en tiempo real». «Se usan sensores para modificar el comportamiento de las personas con la misma facilidad con la que se modifica el comportamiento de los dispositivos. Con la internet de las cosas podemos hacer maravillas, como reducir el nivel de calefacción, u optimizar una operación industrial entera. Pero a escala individual, también supone disponer del poder para tomar medidas que anulen lo que estás haciendo o incluso que te lleven a actuar conforme a un camino que tú no has elegido» No es ningún misterio. Del mismo modo que el encargado de un comedor universitario da una ayudita a los estudiantes para que coman más sano situando la fuente de macedonia más accesible que el pudin, «con esta tecnología se puede conseguir que la gente haga unas cosas en vez de otras. Y aunque solo lo logres con un 5% de las personas, habrás hecho que un 5% realice una acción que no habrían realizado sin ella.» Y un cinco por ciento de usuarios son muchos millones de ellos.

Otro modo es más directo…: apagar el motor de un automóvil cambia por completo el contexto inmediato de un conductor. «Podemos diseñar el contexto en torno a una conducta determinada y forzar un cambio. Los datos que reconocen el contexto nos permiten unir tus emociones, tus funciones cognitivas, tus constantes vitales, etc. Podemos saber si no deberías conducir y podemos apagar entonces el motor de tu coche. Podemos decirle a la nevera: “Oye, ciérrate porque este no debería estar comiendo ahora”, o podemos decirle a la tele que se apague para que duermas un poco

Google tiene a sus equipos de ingeniería y ciencia de datos realizando miles de experimentos sistemáticos de tipo A/B para evaluar las reacciones de los usuarios a cientos de variaciones en las características de una página, desde su composición visual hasta sus botones o sus tipos de letra. En un mundo analógico, tales aspiraciones resultarían demasiado caras como para que tuvieran un mínimo de viabilidad. Pero, tal como señala Varian, en el reino de internet, «la experimentación puede automatizarse al cien por cien».

«Todos los usuarios de Facebook son objeto de algún experimento en algún momento mientras están conectados. Puede tratarse de que estén viendo un mismo anuncio, pero con un tamaño de texto distinto, o diferentes mensajes de marketing, o diferentes botones de llamamiento a actuar, o listas de noticias generadas por algoritmos clasificadores diferentes. El objetivo fundamental de la mayoría de quienes, en Facebook, trabajan sobre el tema de los datos es influir en los estados de ánimo y las conductas de las personas, y cambiarlos. Y eso es algo que se dedican a hacer todo el tiempo para conseguir que gusten más las noticias, que hagas clic en más anuncios, que pases más tiempo en su plataforma. Así funcionan los sitios web en general: todos lo hacen y todos saben que lo hacen» (Andrew Ledvina, antiguo director de producto de Facebook) Facebook es propietaria de unos medios inauditos de modificación de la conducta que funcionan de forma encubierta, a gran escala y sin mecanismos sociales o legales de consentimiento, rebatimiento ni control.

Nunca antes en la historia unas corporaciones privadas de semejante riqueza y poder sin precedentes habían disfrutado del libre ejercicio de unas economías de acción con el apoyo de una arquitectura global omnipresente de conocimiento y control computacionales ubicuos, construida y mantenida por todo el saber hacer científico avanzado que el dinero puede comprar. Nadie pudo imaginar que los medios de modificación conductual pudieran llegar a ser patrimonio de otras instituciones que no fueran las del Estado. Un estado debilitado –cuyas autoridades elegidas democráticamente dependen de la riqueza de las empresas para su elección o su reelección en cada ciclo electoral– ha mostrado poco interés por contender con la modificación conductual como proyecto mercantil.

La modificación conductual ha cobrado vida bajo la forma de una arquitectura de mercado digital global sin trabas geográficas, independiente de las restricciones constituciones y formalmente indiferente a los riesgos que ella misma plantea para la libertad, la dignidad o el sostenimiento del orden liberal.

Todo el mundo es barrido por esta nueva red de arrastre mercantil. ¿Y dónde está el martillo de la democracia ahora, cuando la amenaza viene de nuestro teléfono, de nuestro asistente digital, de nuestra conexión a Facebook? ¿Quién defiende la libertad ahora, cuando Facebook nos amenaza con retirarse de nuestra vida si osamos oponer resistencia? ¿Cuánto tardaremos en olvidar quiénes éramos antes de que ellos se convirtieran en nuestros dueños?

 Referencias:

Síntesis completa de La Era del Capitalismo de la Vigilancia ordenada y paginada

 La era del capitalismo de la vigilancia en Casa del Libro