relativamente avanzadas como las mencionadas. Por ejemplo, en el contexto de la pandemia causada por el coronavirus desde marzo de 2019, estas brechas de acceso a Internet y a hardware para acceder a Internet (p. ej. computadores, tabletas o teléfonos inteligentes) se han hecho evidentes en el contexto educativo (Alfonso, 2020), retos que Luz Herrera y Laura González ilustran en su trabajo sobre inclusión digital, que forma parte de este tomo. El uso de tecnologías audiovisuales en la evaluación docente, traída a colación por Sandra Arévalo y Martha Jiménez en el trabajo también incluido en este tomo, podría verse afectado por estas brechas en el acceso a herramientas digitales.
El segundo impacto –un poco más complejo de observar y demostrar– tiene que ver con la existencia de sesgos en los algoritmos que soportan las tecnologías disruptivas que tengan como resultado discriminar o segregar a algunos grupos poblacionales. Como consecuencia, estas tecnologías podrían reafirmar las desigualdades existentes o propiciar nuevas desigualdades. Esta posibilidad está latente en aquellos algoritmos usados en aplicaciones de aprendizaje estadístico e Inteligencia Artificial que toman como insumo datos de los individuos para alimentar los modelos. Si estos datos reflejan de alguna manera sesgos o discriminaciones existentes, o si solamente representen a algunos grupos poblacionales (Giest & Samuels, 2020), los modelos resultantes y sus aplicaciones tendrán el mismo “comportamiento” que los datos de entrada y, por tanto, potencialmente reafirmarán esas discriminaciones. Asuntos en los que lo descrito podría ocurrir incluyen el uso de modelos predictivos o de clasificación que se utilicen para tomar decisiones sobre el otorgamiento de productos financieros (Kiviat, 2019; Klein, 2020), o para la toma de decisiones sobre la admisión a instituciones educativas o la contratación laboral, en los que hay evidencia de discriminación en razón al género, a la raza o en general a grupos ya marginalizados (O’Neil, 2016; Perez, 2019; Robison, 2020). Dentro del sector público, esto podría ocurrir cuando se usen estos modelos para decidir sobre la asignación de beneficios sociales o para actividades policiales y de seguridad (Ray, 2020; West & Allen, 2020), entre otros casos.
Este potencial impacto de las tecnologías disruptivas en la igualdad resulta más complejo de abordar para el Estado, porque, en general, podría afirmarse que cualquier acción para mitigar las posibilidades de discriminación puede implicar costos económicos y logísticos para los usuarios y creadores de algoritmos y podrían reñir con su interés en generar valor y mejorar sus utilidades. Por esta razón, es importante que el Estado asuma un rol más activo para evitar este tipo de discriminación y proteger a los ciudadanos. Por ejemplo, como lo sugiere el trabajo de Constanza Blanco incluido en este tomo, el Estado debería tener un rol más prominente en la protección de los consumidores financieros, que impida la posibilidad de discriminación en el otorgamiento de productos financieros que usen modelos predictivos o de clasificación. Podrían adelantarse iniciativas, incluso en conjunto con la sociedad civil, de auditoría de algoritmos para identificar posibles fuentes de discriminación tanto en los insumos como en los modelos utilizados (Barton, 2019; O’Neil, 2016; West & Allen, 2020)3, así como promover la adopción ética de algoritmos (Cabrol et al., 2020; Wirtz & Müller, 2019) y la adopción de los principios de la Organización para la Cooperación y el Desarrollo Económica (OCDE) sobre la Inteligencia Artificial4. Adicionalmente, el Estado podría, respecto de sus propias aplicaciones, liderar en la adopción de estos principios y, por ejemplo, crear mecanismos de transparencia y rendición de cuentas sobre sus algoritmos, incluso en temas sensibles como las actividades de policía y defensa.
3. PRIVACIDAD
Otro aspecto en el que el Estado juega un rol de importancia en el contexto de las tecnologías disruptivas tiene que ver con la privacidad de la información. Como he mencionado, estas tecnologías suelen usar información de los individuos, alguna de la cual ha sido voluntariamente suministrada por estos (P. ej. en redes sociales o información suministrada para obtener servicios), y, en otros casos, puede tratarse de información que actores privados o públicos recolecten en desarrollo de sus actividades (p. ej. mediante cámaras de seguridad). Alguna de esta información es sensible, tanto en el sentido legal como en el sentido más general de la palabra, y por tanto es relevante que haya instrumentos legales, así como operativos que garanticen que esa información mantenga su carácter confidencial.
Al respecto, algunos autores han señalado que las autoridades colombianas carecen de capacidades para hacer rendir cuentas a las empresas que explotan este tipo de datos y han sugerido acciones que pueden implementarse para mejorar esas capacidades al menos desde el punto de vista jurídico, acciones que deberían promoverse con determinación, dado el uso generalizado de estas tecnologías (Newman Pont & Ángel Arango, 2019; Ospina Celis et al., 2020). Además, es necesario que se fortalezcan las capacidades tecnológicas y de investigación de las entidades públicas y privadas para prevenir ataques informáticos que busquen apoderarse de la información que administran los gobiernos, y en general, encontrar mejores maneras de proteger la información personal, directamente y a través de la regulación.
II. EL ROL DE LAS TECNOLOGÍAS DISRUPTIVAS EN LA FORMULACIÓN, IMPLEMENTACIÓN Y EVALUACIÓN DE POLÍTICAS PÚBLICAS
Además de tener efectos potenciales en los fines de la regulación y las políticas públicas, las tecnologías disruptivas también constituyen una nueva herramienta al servicio del Estado dentro del denominado ciclo de las políticas públicas (Departamento Nacional de Planeación, 2020b; Ordoñez-Matamoros et al., 2013, p. 86). En ese ciclo se distinguen a grandes rasgos las siguientes etapas: definición y entrada del problema en la agenda pública, formulación de alternativas y decisión, implementación y evaluación. Las tecnologías disruptivas proveen herramientas que el Estado puede usar en las distintas etapas del ciclo. Aunque Isaza y Zárate en su trabajo incluido en este tomo realizan un análisis detallado de las tecnologías como herramientas de la Administración pública, quisiera mencionar brevemente algunas de las maneras en que estas herramientas resultan útiles en las etapas mencionadas del ciclo de las políticas públicas.
El uso de grandes cantidades de datos y la posibilidad de acceder y analizar datos numéricos y de texto suministra nuevas herramientas para la identificación y definición de problemas públicos, así como para la determinación de su magnitud de maneras más precisas, y potencialmente más comprehensivas, y si se quiere, democráticas, en la medida en que es posible aumentar la participación del público en estos procesos. Estas herramientas brindan la posibilidad de obtener y analizar información de manera más expedita que otros métodos de recolección de información, como las encuestas u otros mecanismos de consulta pública (Pencheva et al., 2020). En épocas de crisis, como la pandemia actual, estas herramientas también proveen mecanismos para identificar a los afectados de maneras más eficientes (Pombo & González Alarcón, 2020).
La posibilidad de analizar datos no estructurados, por ejemplo, aquellos provenientes de redes sociales como Facebook y Twitter, o de procesos de consulta en línea, podrían brindar información sobre las preferencias de los ciudadanos que sirvan de insumo en la fase de formulación de alternativas y decisión. Un ejemplo de esta posibilidad es el análisis realizado por la Unidad de Científicos de Datos del Departamento de Planeación Nacional sobre las propuestas ciudadanas derivadas de la denominada Mesa de Conversación Nacional creada como consecuencia de las protestas sociales en noviembre de 2019 (Departamento Nacional de Planeación, 2020a). El uso de estos mecanismos de consulta y el análisis oportuno de sus resultados no solamente alimenta la toma de decisiones, sino que podría también aumentar la legitimidad de las decisiones adoptadas. El aumento de legitimidad dependerá, entre otras cosas, de qué tanto se tengan en cuenta consideraciones de igualdad como las discutidas en la sección anterior, así como de la transparencia y rendición de cuentas por parte del gobierno al usar estos mecanismos.
En esta etapa del ciclo las nuevas tecnologías también permitirían usar simulaciones y modelos predictivos para proyectar los resultados potenciales de diferentes alternativas de solución que posibiliten tomar decisiones con mayor soporte en la evidencia. Además, en algunos casos, por ejemplo tratándose
