de la información es un elemento crucial en el desarrollo del automatismo, pero que la comprensión humana no se da solamente con datos sino con “el sentido” que el hombre les imprime. En esa medida, Ropohl (1986: 63 y 64) explica que, de acuerdo con el sistema de acción humana, las capacidades de actuar y razonar son habilidades que conforman “el sentido” de la existencia del ser humano. De ahí la importancia de diferenciar la autoconciencia y la libre decisión, de la influencia que pueden generar las tecnologías en la vida de las personas y sus decisiones cotidianas.
Ahora bien, las cuestiones relacionadas con el impacto de la tecnología en la agencia humana y en nuestra autonomía se remontan a los estudios de Joseph Weizenbaum (1976), quien identificó la relación entre las computadoras y la dignidad humana. El desarrollo de las tarjetas y programas de computación estaba en auge, y empezó a surgir una preocupación social respecto de la posibilidad de que esas innovaciones despersonalizaran al ser humano e imitaran su comportamiento.
El profesor Weizenbaum (1976) propuso incluir límites morales para las aplicaciones informáticas que tuvieran por objeto, o como efecto, sustituir una persona encargada de realizar una función por una computadora, entre ellos el respeto del componente interpersonal, la comprensión y el amor en la misma categoría. Asimismo, indicó que cuando las consecuencias del uso de las computadoras causara hechos imprevisibles e irreversibles, era conveniente encontrar otras formas de realizar dichas acciones (Mitcham, 1986: 96).
En el mismo sentido, la filosofía moral escolástica se refirió a la “incontinencia” para explicar la ausencia de continentia o autocontrol, lo que indica una pausa entre el conocimiento y la acción. Por consiguiente, la ética de la tecnología significa que existe una mayor capacidad de actuar en términos de poder, por lo que es necesario usarla responsablemente. La responsabilidad implica conocer el objetivo, las consecuencias y el desempeño real de la tecnología, además de actuar sobre la base de la inteligencia en volición activa (Mitcham, 1986: 248).
Pero si bien estos aspectos han suscitado cuestiones filosóficas de estudio, y las conclusiones preliminares apuntan a que por ahora las máquinas no tienen capacidades de razonamiento autónomo, hay teorías que argumentan que la mente constituye un autómata libre que funciona gracias a principios condicionados en el mundo exterior, razón por la cual es posible condicionar o determinar al ser humano (Beck, 1986: 93). De ese modo se presentan numerosas incapacidades que afectan materialmente su condición de ser pensante en cuanto a habilidades especializadas, y de ahí la necesidad de interactuar con elementos externos (Dretske, 1986: 113).
De esa manera la tecnología se ha convertido en una herramienta fundamental para la automatización de competencias y el mejoramiento de la productividad. De ahí que se reseñe a los algoritmos como un “procedimiento P, es decir, un conjunto finito (o secuencia) de declaraciones (o reglas, o instrucciones)”, que tiene como objetivo alcanzar el resultado previsto en su diseño (Rapaport, 2017).
La economía conductual enseña que es viable “empujar ligeramente” a las personas hacia la realización de ciertos comportamientos y la toma de ciertas decisiones. Cass Sunstein y Richard Tahler (2008) proponen un método para diseñar la arquitectura de las decisiones con base en los postulados del paternalismo-libertario, de acuerdo con el cual, es plausible implementar una estrategia de diseño de esquemas de decisión en la que el componente libertario viene dado por la libertad de las personas para tomar las decisiones que a bien tengan para sus vidas. Ello implica que el arquitecto de esquemas de toma de decisiones no debe poner ningún tipo de carga a la potestad de elegir, ni mucho menos sancionar las elecciones de las personas.
El componente paternalista de la teoría viene dado por el hecho de que para los citados autores es legítimo que el arquitecto del esquema de toma de decisiones intente orientar las determinaciones de las personas con el fin de “mejorar” su calidad de vida. Como soporte los autores presentan abundantes estudios empíricos que acreditan que, en ciertas ocasiones, las personas toman muy malas decisiones, lo que no habrían hecho de haber tenido un total entendimiento de la situación y sus consecuencias, y una capacidad cognitiva ilimitada para comprender todas las variables que pueden incidir en su decisión, además de un completo autocontrol.
En ese orden de ideas, Sunstein (2017) se refiere a la agencia y el control como el poder de las personas sobre sus propias vidas, pero califica la existencia de “pequeños empujones” para llevar a los individuos en direcciones particulares, pero a su manera, de forma que existe la posibilidad de ignorarlos. En palabras de Sunstein (2017: 9):
Un recordatorio es un empujón; también lo es una advertencia. Un dispositivo GPS da un empujón; una regla predeterminada da un empujón. Tenga en cuenta la configuración automática de su teléfono móvil o de su computadora, que puede cambiar libremente. La divulgación de información relevante –por ejemplo, sobre los riesgos de fumar o los costos de los préstamos– cuenta como un estímulo. Una recomendación es un empujón.
De suerte que existen cientos de “pequeños empujones” en nuestra vida cotidiana que pueden influenciar la toma de decisiones, pero que para Sunstein no tienen la capacidad de afectar el aspecto volitivo de la conducta humana. Incluso, el citado autor explica que este fenómeno es antiguo y se aplica naturalmente en circunstancias de gobernabilidad, como en la educación o el uso de señales en un aeropuerto para dirigir el camino de los transeúntes, lo que lo convierte en una circunstancia con alto grado de aceptación. De hecho, las encuestas presentadas en sus investigaciones reflejan que la generalidad de la población acepta de buena gana los “pequeños empujones”, pero hace algunas precisiones, debido a que cuando la gente piensa que las motivaciones son ilícitas desaprueban el empujón. Igualmente, las personas se oponen cuando el propósito va en contravía de los valores de la mayoría.
Con base en los trabajos de Sunstein y Tahler (2008), la doctrina ha señalado que la combinación de la regulación de la arquitectura del ciberespacio con nudges abre un espectro regulatorio nunca antes visto y altamente eficaz para regular, incidir y moldear la conducta social (Calo et al., 2014). Ahora bien, el paternalismo libertario sobre el cual Sunstein y Tahler construyeron su teoría ha sido objeto de muchas críticas de la academia. Una de las principales estriba en que el arquitecto del esquema de toma de decisiones es quien define la dirección hacia la cual “empujará ligeramente” a las personas. A juicio de la doctrina, el arquitecto del esquema de toma de decisiones tiene fallas y no hay forma de garantizar que empuje a las personas en la dirección “correcta”, ni tampoco que utilice tal poder para orientar la conducta social hacia fines que no sean necesariamente beneficios para la humanidad.
En ese orden de ideas, la combinación de la economía conductual con sistemas de IA y big data bajo sofisticadas arquitecturas de big nudging representa un riesgo potencial para nuestra agencia y capacidad para tomar decisiones de manera informada, libre y sin injerencias externas (Puaschunder, 2018).
Lo anterior me recuerda una conversación entre Fei-Fei Li y Yuval Noah Harari en la Universidad de Stanford, donde Harari postuló la siguiente ecuación para explicar la forma en que ciertos conceptos filosóficos tradicionales están siendo cuestionados por las tecnologías disruptivas: conocimiento biológico x poder de computación x datos = habilidad de hackear a los humanos1. Por “hackear a los seres humanos” Harari entiende la capacidad que podrían tener los
