Tampoco es mal ejemplo de ese empoderamiento tecnológico que desplaza al ser humano el que abre el libro y luego, más tarde, se extiende en analizar. La aviación es el sector en donde más se han automatizado las funciones que hasta entonces realizaba el ser humano. Y, precisamente, «la transformación experimentada por la aviación en las últimas décadas –el cambio de sistemas mecánicos a digitales, la proliferación del software y de las pantallas, la automatización del trabajo mental y manual, la difuminación de lo que significa ser un piloto– ofrece una hoja de ruta para la transformación, mucho más amplia, que está sufriendo la sociedad.»

Un proceso progresivo y sutil pero con efectos colaterales no deseados y que al trastocar la relación del piloto con la máquina convirtiéndolo en un simple pasajero. «El sistema de pilotaje electrónico del A320 cortó el vínculo táctil entre el piloto y el avión. Se insertó un ordenador digital entre la orden humana y la respuesta de la máquina.» Desaparece el volante clásico sustituido por una pequeña palanca lateral manejable con una mano en la que el piloto ya no “siente” físicamente la transmisión de las órdenes al aparato. El software se adueña del control y deja de ser una ayuda para ser un sustituto. Degrada el trabajo del piloto y su condición de pieza imprescindible para la seguridad del vuelo transformándolo en un elemento irresponsable y descuidado. Sin embargo, la Oficina Federal de Aviación de Estados Unidos ha «aprendido que una dependencia acusada de la automatización informática puede erosionar la pericia de los pilotos, nublar sus reflejos y disminuir su concentración, [llegándo a producir] una merma de las habilidades de la tripulación», lo que ha llevado a dicha Oficina a emitir «un comunicado […] como una “alerta de seguridad para operadores” [en el que a las compañías se les] incentiva a promover operaciones de vuelo manuales [ya que] los pilotos se habían vuelto demasiado dependientes de los pilotos automáticos […] El exceso de automatización aérea […] podría “llevar a una degradación de la capacidad del piloto».

Y es que «un dispositivo que reduce el volumen de trabajo no solo ofrece un sustituto para algún componente aislado del trabajo. Altera la naturaleza de toda la actividad, incluidas las actitudes y destrezas de las personas que participan en ella. Como escribió Raja Parasuraman …”la automatización no solo suplanta la actividad humana, sino que más bien la cambia en una dirección no prevista por sus diseñadores”. La automatización rehace tanto el trabajo como al trabajador.»

De nuevo, nuestra frágil psicología se pone a prueba. Ante la suplantación de las máquinas, nos volvemos perezosos, nos atontamos, relajamos nuestra atención pensando que la máquina nunca se equivoca y que, por tanto, no nos necesita. Cuenta Carr que cuando el transatlántico Royal Mayesty perdió el rumbo porque se había estropeado el GPS, estuvo más de 30 horas desviándose sin que, aun siendo obvio, la tripulación reaccionara. Los responsables del barco «confiaron excesivamente en el sistema automatizado, hasta el punto de ignorar otras ayudas de navegación –físicas y mecánicas– contradictorias». De nuevo, cuanto más listo es un ordenador, más tonto se vuelve el usuario que descansa en él su inteligencia y su capacidad de reacción.

Nuestra capacidad de atención es limitada. «Si un sistema comete errores con cierta frecuencia, mantenemos la alerta. Mantenemos la conciencia sobre nuestro entorno y seguimos minuciosamente la información de diversas fuentes. […] Pero si un sistema es más fiable y se cae o comete errores muy ocasionalmente, nos volvemos perezosos. La automatización tiende a hacernos pasar de ser actores a observadores.» De nuevo pasajeros en lugar de conductores. «En lugar de manipular el mando, miramos la pantalla. El cambio puede facilitarnos la vida, pero también puede inhibir nuestra capacidad de aprender y adquirir experiencia. […] A largo plazo, puede afectar a nuestras habilidades existentes o impedir que adquiramos otras nuevas

Generar respuestas creativas, aprender, exige concentración sostenida, trabajo, esfuerzo… precisamente «el tipo de esfuerzo que la automatización busca aliviar».

Referencias:

Nicholas Carr, Atrapados, cómo las máquinas se apoderan de nuestras vidas, Madrid, Taurus, 2014.

Superficiales, Doce entradas del blog comentando el libro anterior de Carr

Texto íntegro del resumen paginado del libro

Actualización 9 de enero de 2015:

Fernando nos cuenta en su comentario cómo precisamente la informatización de los registros médicos  han provocado errores de diagnóstico en ocasiones muy graves. Cita el artículo «Ebola US Patient Zero: lessons on misdiagnosis and effective use of electronic health records» en el que se relata cómo una sucesión de errores en la elección de plantillas preestablecidas para la recepción de los pacientes, llevaron a una falta de comunicación en el equipo médico y a un diagnóstico equivocado en el caso de primer paciente de Ébola en EEUU que terminó falleciendo después de que se le mandara a casa con antibióticos y diagnóstico de sinusitis.

El articulista, citando a unos investigadores que estudiaron después el caso, nos cuenta que estos invesgadores opinaban que estas herramientas, se han optimizado para la captura de datos, pero a costa de sacrificar su utilidad para la clasificación y el diagnóstico apropiados, lo que lleva frecuentemente al personal médico a que los árboles no les dejen ver el bosque. Como ilustra este caso, los flujos de trabajo clínico basados en Registros Informatizados a menudo no logran optimizar el intercambio de información entre los diversos miembros del equipo y eso trae consigo fallos en el reconocimiento de los hallazgos clínicos específicos que podrían ayudar al diagnóstico rápido y preciso.

De esta manera, los estudios indican que hay entre un 10 y un 15% de errores diagnósticos en EEUU, alrededor de 12 millones de pacientes al año.

Referencias

Un fallo en el diagnostico del Ébola en EEUU apunta a errores humanos y al uso del ordenador.

Ebola US Patient Zero: lessons on misdiagnosis and effective use of electronic health records