Duodécima entrega: Nuestra libertad es un problema. Uno de los argumentos más potentes para el ciberoptimismo: las máquinas lo hacen mejor que nosotros. La única manera de mejorar realmente las cosas es que las dejemos en manos de la inteligencia artificial que nunca se equivoca y, si lo hace, aprende; no como nosotros, capaces de tropezar cien veces en la misma piedra…
(El 99’9% del texto que presentamos son palabras literales de la autora tal y como las escribe en su obra. Sin embargo, las hemos desplazado y reorganizado de acuerdo a nuestra comprensión del texto original sin señalar paginación alguna y con una serie de subrayados en negrita que igualmente son nuestros. No obstante, al final de cada entrada tenéis el enlace a la síntesis ordenada esta vez sí con las páginas y en el orden en el que Zuboff las presenta para que sea más fácil citarla.
Creo, por supuesto, que merece la pena acceder al original y pido perdón a la autora por el tejemaneje al que hemos sometido su texto, pero esperamos que esta síntesis que presentamos pueda servir de aperitivo para abrir el apetito de la obra completa.
Duodécima entrega: ahí va:
¿Cómo han podido triunfar del modo tan espectacular en que lo han hecho? (III):
10. La ideología de la debilidad humana frente a la eficacia de las máquinas o el conductismo frente a la libertad: se concibe el pensamiento humano como un ejercicio terriblemente irracional e incapaz y se lo confronta con la eficacia tecnológica y la precisión de las máquinas. Mejor eficacia y seguridad que libertad. Peligrosísimo pensamiento hoy completamente vigente. Estremecedor.
F.B. Skinner (1904-1990), profesor e investigador en Harvard, descubridor de la teoría del refuerzo variable para cambiar la conducta que experimentó ampliamente con animales, trató, durante siete décadas del siglo pasado, de convencer a la sociedad de la necesidad de aplicar sus principios de modificación de la conducta a la población en general para mejorar y/o arreglar los problemas sociales, tanto a través de su novela de 1948, Walden Dos, como de su obra filosófica en Más allá de la libertad y la dignidad -cuyo título lo dice todo- o en la posterior (1974) Sobre el conductismo. En su línea de conductismo materialista, sostuvo que el conocimiento no nos hace libres, sino que, más bien, nos libera del hechizo de la libertad ya que libertad e ignorancia son términos sinónimos. Nuestro apego por conceptos como libertad, autonomía, sentido, capacidad de acción no es más que un mecanismo de defensa frente a la ignorancia humana ante el porqué de sus actos. El entorno determina la conducta y el hecho de que no sepamos cómo lo hace es el vacío que llenamos con la fantasía de la libertad. De un materialismo radical (el ser humano como organismo en vez de como alma) concluyó que para los imprescindibles cambios en la conducta humana era necesaria una tecnología tan precisa como la física o la biológica, mediante la observación sistemática, el cómputo, el análisis y el refuerzo automático de los comportamientos. Para no herir susceptibilidades recomendaba que esta observación debía ser discreta sin que el organismo observado tuviera conciencia de que lo era.
Las dificultades sociales provocadas por la fragilidad humana, se solucionarían, según él, por medio del repliegue gradual de las normas protectoras de la privacidad ante el avance del conocimiento: «La línea de separación entre lo público y lo privado no es algo que esté fijado». Estaba convencido de que el lento goteo de inventos tecnológicos terminaría desplazando la privacidad hacia los márgenes de la experiencia humana donde haría compañía a la «libertad», y a otras falsas y problemáticas ilusiones. «El límite varía cada vez que se descubre una técnica para hacer públicos hechos privados. […] Así pues, el problema de la privacidad podría resolverse finalmente gracias a la tecnología»
El ideal de Skinner adquiere ahora vida propia en la incansable atención del capitalismo de la vigilancia, en su omnipresente aparato digital continuo, autónomo sensitivo, computacional, accionador, en red y conectado a internet. Si levantara la cabeza hoy, sería completamente feliz.
Alex Pentland, director del Human Dynamics Lab integrado en el Media Lab del MIT, autor y coautor de múltiples artículos sobre la ciencia de datos y asesor de decenas de instituciones y empresas entre las que están grandes corporaciones, instituciones y Gobiernos (el Foro Económico Mundial, Data-Pop Alliance, Google, Nissan, Telefónica, Secretaría General de la ONU, Cisco, IBM, Deloite, Twitter, Verizon, La Comisión Europea, El Gobierno estadounidense, el Gobierno chino…), legitima la visión del futuro de la sociedad diseñada por Skinner que, apenas unas décadas atrás, repelía y alarmaba a intelectuales, cargos públicos y a la población en general. Pentland completa a Skinner al llevar a la práctica su proyecto social gracias a la tecnología de los macrodatos, la instrumentación digital ubicua, las matemáticas avanzadas, la generosa financiación y los amigos empresarios y ejecutivos en las altas esferas, y todo ello sin haber concitado ni una reacción mundial adversa, ni la repulsa moral, ni las ácidas críticas de las que fuera objeto el conductista de Harvard por su franqueza. Este dato indica ya por sí solo la hondura del entumecimiento psíquico en el que hemos caído y la pérdida de nuestro sentido colectivo de la orientación.
Para Petland, el factor que siempre estropeaba las cosas eran las personas que tenían conductas averiadas que las máquinas, trabajando conjuntamente con ellas, podrían corregir. Para él, «Por primera vez en la historia, la mayoría de la humanidad está conectada. Gracias a ello, nuestra infraestructura inalámbrica móvil permite practicar una “minería de la realidad” con la que monitorizar nuestros entornos y planificar el desarrollo de nuestra sociedad. La minería de realidad a través del “rastro de migas digitales” que vamos dejando en nuestra vida diaria nos brinda un gran potencial para crear modelos asombrosos, segundo a segundo, de las dinámicas y las reacciones grupales a lo largo de periodos de tiempo prolongados. En definitiva, ahora disponemos de la capacidad de recopilar y analizar datos sobre las personas con una amplitud y una profundidad antes inconcebibles». En su libro de 2014 Social Physics, imagina una sociedad instrumentaría movida por los datos y gobernada por la computación. «Si tuviéramos un “ojo de Dios”, una visión que todo lo ve, entonces podríamos llegar potencialmente a adquirir un verdadero conocimiento de cómo funciona la sociedad y tomar medidas para arreglar nuestros problemas». «En pocos años, es probable que tengamos ya disponibles datos increíblemente detallados (¡y continuos!) sobre el comportamiento de la práctica totalidad de la humanidad. De hecho, en su mayoría, esos datos ya existen».
Skinner en Walden Dos ya afirmaba: «el hecho es que no solamente podemos, sino que debemos controlar la conducta humana»; y consideraba que «los conflictos de la política –sobre todo de la política democrática– son una fuente de fricción que pone en peligro la eficiencia.» Y Pentland sostiene que la verdad computacional debe reemplazar necesariamente a la política como base de la gobernación instrumentaría. «Podemos observar a los seres humanos exactamente igual que observamos a los simios o a las abejas, y derivar de ello unas reglas de comportamiento, reacción y aprendizaje». La computación revela la verdad oculta en los datos y, por lo tanto, determina qué es lo correcto. La individualidad es una amenaza para la sociedad instrumentaría.
Skinner sostenía que «lo que se está aboliendo es el hombre autónomo: el hombre interior, el homúnculo, el demonio poseedor, el hombre defendido en los tratados y escritos sobre la libertad y la dignidad, Era una abolición necesaria desde hacía tiempo porque ese hombre se ha construido a partir de nuestra ignorancia y, a medida que aumenta nuestra comprensión de las cosas, se desvanece la materia misma de la que aquel está hecho»
La fragilidad humana no solo facilita un motivo para el desprecio, sino que también constituye una justificación para la muerte de la individualidad. La autodeterminación personal y el juicio moral autónomo, baluartes de la civilización, pasan a ser entendidos como una amenaza para el bienestar colectivo. La presión social es elevada a la categoría de bien supremo.
La potencia del aprendizaje de máquinas progresa de manera exponencial a medida que los dispositivos aprenden mutuamente de sus experiencias y así alimenta la inteligencia del centro de operaciones. 25.000 millones de dispositivos computacionales pueden ser movilizados para moldear la conducta hacia una parámetros seguros y armoniosos fijados por unas políticas determinadas. «Las personas y su relación con otras personas son ahora un objeto de primera clase en la nube –dice Nadella, de Microsoft–. Las personas y sus relaciones con los instrumentos de trabajo, sus horarios, sus planes de proyecto, sus documentos; todo eso queda ahora recogido y manifiesto en este grafo de Microsoft».
Una solicitud de patente de Microsoft de 2013, actualizada y publicada de nuevo en 2016 y titulada «Monitorización de la conducta del usuario en un dispositivo computerizado» estaba diseñada para monitorizar el comportamiento del usuario con la finalidad de detectar anticipadamente «cualquier desviación respecto a una conducta normal o aceptable que tenga alguna probabilidad de afectar al estado mental del usuario. Permite la comparación entre uno o más estados mentales y las características que se aprecian en la conducta actual del usuario». En esa perspectiva, las anomalías son los accidentes a los que llamamos libertad.
Schmidt y Thrun –de Google– lamentan que «…cuando conducen, las personas aprenden mayormente de sus propios errores, pero rara vez aprenden de los erros de otros. Tomadas como colectivo, las personas cometen los mismos fallos una y otra vez. Como consecuencia, cientos de miles de seres humanos mueren en el mundo cada año en colisiones de tráfico. La inteligencia artificial evoluciona de forma distinta. Cuando uno de los vehículos autónomos comete un error, todos los coches autónomos pueden aprender de él. De hecho, los nuevos vehículos autónomos ya “nacen” con el conjunto de habilidades completo de sus predecesores y sus iguales. A escala colectiva, pues, estos coches pueden aprender más rápido que las personas. Fue así como, en poco tiempo, los vehículos autónomos se integraron de forma segura en nuestras carreteras junto a los conductores humanos, sin dejar de aprender de los errores de todos ellos. […] Las herramientas sofisticadas que funcionan con inteligencia artificial terminarán capacitándonos a todos para aprender mejor de las experiencias de otros. […] La lección que nos enseñan los coches autónomos es que podemos aprender y hacer más si lo hacemos colectivamente»
Es decir: nosotros deberíamos parecernos más a las máquinas.
Hannah Arendt vaticinó ya décadas atrás el potencial destructivo del conductismo cuando lamentó la simplificación de nuestra concepción del «pensamiento» hasta convertirlo en el producto de un «cerebro» y, por lo tanto, en algo transferible a unos «instrumentos electrónicos». «Lo malo de las modernas teorías del conductismo –dijo- no es que sean erróneas, sino que podrían llegar a ser verdaderas. […] Es perfectamente concebible que la era moderna […] acabe en la pasividad más mortal y estéril de todas las conocidas por la historia»
Lo dicho: estremecedor. Aunque hoy por hoy, escandalosamente, no escandalice a nadie…
Referencias:
Síntesis completa de La Era del Capitalismo de la Vigilancia ordenada y paginada
