Smart cities y DD.HH.
Columna de opinión publicada en el Diario La Segunda, por el Profesor Auxiliar del Instituto de Derecho Público Alberto Coddou junto a los académicos Agustina Noguera y Sebastián Smart.
Un capítulo del Informe Anual de Derechos Humanos en Chile 2022, de la U. Diego Portales, del cual ofrecemos un extracto, analiza los recientes programas, iniciativas o proyectos de ciudades inteligentes en Chile.
El presente capítulo analiza los recientes programas, iniciativas o proyectos de ciudades inteligentes (smart cities) en Chile, a la luz de los principales estándares que pueden derivarse del derecho internacional de los derechos humanos.
Para ello, el capítulo realiza una reconstrucción de estos estándares, teniendo especial consideración por aquellos derechos humanos que se ven involucrados en la realización del derecho humano a la ciudad, así como la reciente implementación, a nivel de los gobiernos locales, de las acciones de realización del conjunto de derechos humanos que tienen las personas.
Con posterioridad, y en base a diversas metodologías implementadas para levantar datos e información sobre un fenómeno poco estudiado (entrevistas, solicitudes de acceso a la información e información documental), se realiza una evaluación de los recientes programas e iniciativas diseñadas o implementadas en la Región Metropolitana y en la ciudad de Valdivia. En esta última sección, se tiene especial consideración por la compleja interacción y los potenciales efectos negativos que las nuevas tecnologías pueden tener en los DDHH de las personas. 2.1. Smart cities De forma creciente vemos cómo los gobiernos locales utilizan nuevas tecnologías para el manejo medio ambiental, la movilidad, la gobernanza, la economía, la seguridad o la planificación. El conjunto de estas acciones se ha caracterizado a través de distintos términos: wired cities, computable cities, cities of bits, cyber cities, digital cities o sentient cities.
En la actualidad, el término más usado para referirse a la implementación de tecnologías digitales —como las tecnologías de la información, el Internet de las cosas (lo T, por su sigla en inglés) o las tecnologías de blockchain— para transformar los espacios y la experiencia urbana es el de smart city.
La casi totalidad de las tecnologías utilizadas por los municipios o gobiernos locales provienen del sector privado, que tiene un interés económico en diseñar e implementar estas tecnologías que están, por regla general, basadas en la posibilidad de recolectar y analizar masivas cantidades de datos. 2.2. Estándares del derecho No existen en el derecho internacional de los derechos humanos estándares definidos directamente para las smart cities.
Gran parte del trabajo académico sobre este aspecto se ha basado en estándares relativos al derecho a la ciudad y los derechos ejercidos en la ciudad, además de aquellos relacionados con los derechos humanos y nuevas tecnologías. Sin desconocer dichos estándares, en este capítulo proponemos un marco de análisis distinto.
Partiendo de la base de las obligaciones estatales y de la responsabilidad de agentes privados, nos interesa plantear los estándares sobre derechos humanos aplicables a los proyectos de smart cities desde los Principios Rectores sobre las Empresas y los Derechos Humanos (en adelante, “Principios Rectores”). De acuerdo a un reciente informe sobre aplicación de los Principios Rectores a las nuevas tecnologías, estos “son la norma mundial autorizada para prevenir y remediar el menoscabo de los derechos humanos relacionado con las actividades empresariales, incluidas las del sector tecnológico”. Los Principios Rectores establecen la función distinta —pero complementaria— de los Estados y las empresas en cuanto a prevenir y remediar el menoscabo de los derechos humanos asociado a las actividades empresariales. Así, se componen de tres pilares distintos (Informes 2012,2016, 2017) pero que se refuerzan mutuamente: a) Pilar I. El deber del Estado de ofrecer protección contra los abusos de derechos humanos cometidos por terceros, incluidas las empresas, mediante políticas adecuadas, actividades de reglamentación e imposición de sentencias judiciales; b) Pilar II. La responsabilidad de las empresas de respetar los derechos humanos, no vulnerando los derechos de terceros, y de remediar las repercusiones negativas sobre los derechos humanos resultantes de sus actividades; c) Pilar MI. El acceso de las víctimas de abusos de derechos humanos relacionados con las empresas a la reparación mediante mecanismos judiciales o no judiciales. E 2.3.
Marco normativo Quizás, una buena manera de partir analizando cuál es el marco normativo aplicable a los proyectos o iniciativas de smart city es a través de la revisión del conjunto de derechos fundamentales reconocidos tanto en la Constitución como en otras partes de la legislación chilena, identificando las brechas que existen con el derecho internacional de los derechos humanos.
En la medida en que estos proyectos suponen la implementación de tecnologías digitales basadas en la recolección y análisis de datos, una primera normativa aplicable sería aquella relativa a la protección del derecho constitucional a la privacidad y a la protección de datos personales, que en Chile está marcada por diversas deficiencias (ver Informe 2017). Si los proyectos son ejecutados por organismos públicos, o incluyen tecnologías que constituyen el fundamento de actos públicos, entonces quedan sujetos a las obligaciones derivadas de la legislación sobre transparencia y acceso a la información pública.
Así, por ejemplo, si una plataforma de movilidad que recolecta datos de los usuarios del transporte público pretende utilizar esos datos para mejorar el diseño de la planificación urbana, entonces existen obligaciones de transparencia activa y, eventualmente, la obligación de cumplir con los requerimientos de transparencia pasiva, sobre todo aquellos destinados a conocer cómo se han utilizado esos datos que, en conjunto con otros, le han permitido a organismos públicos llevar a cabo sus funciones.
Además, si las iniciativas de smart city suponen una colaboración público-privada, por ejemplo, a través de convenios de colaboración ocooperación, o del arriendo o compra de tecnologías que se vayan a utilizar para desarrollar funciones públicas, deben aplicarse las normas relativas a la contratación administrativa.
De este modo, si el Estado arrienda tecnologías de videovigilancia inteligente que se ejecutan mediante drones que son propiedad de empresas privadas, los términos y condiciones del contrato están sujetos a regulaciones que deberían incluir todas las hipótesis de incumplimiento y de eventuales riesgos a derechos fundamentales.
El marco normativo chileno que es pertinente para la regulación de las iniciativas de smart cities se puede caracterizar, además, por la falta de comprensión que existe, sobre todo a nivel de los gobiernos locales, de los riesgos que conlleva la utilización de tecnologías digitales que, en su mayoría, han sido desarrolladas o que incluso son gestionadas por empresas privadas.
La falta de espacios de democratización en ámbitos públicos y privados, y la opacidad en la que funcionan estas nuevas tecnologías, conspiran contra la claridad que debiera tener el marco normativo aplicable en todos los niveles del Estado.
La regulación atingente a los gobiernos locales no suele mencionar ni hacer referencia a los derechos fundamentales, que se asumen como una función del gobierno nacional o de otros organismos estatales. [... ] En este sentido, parece fundamental que exista coherencia legislativa y política —con facultades específicas y coordinadas— para que las diferentes instituciones que podrían tener competencia no judicial se coordinen, a fin de que agentes públicos y privados cumplan con los estándares mínimos en materia de derechos humanos, particularmente en un ambiente digital. Junto a lo anterior, también es esencial que se adopten medidas de educación y promoción para que las personas tengan conocimiento respecto a sus derechos y los mecanismos judiciales y no judiciales de reparación.
Para finalizar, es clave que las empresas del medio ambiente tecnológico, en especial aquellas que trabajan con datos personales, impulsen procesos de debida diligencia y remediación, [... ] de modo de prevenir la afectación de los derechos humanos que se puedan producir durante sus operaciones. Es] 3.1.
Iniciativas en la RM En la Región Metropolitana existen un sinnúmero de iniciativas o programas relacionados con el concepto de smart city, por lo que es difícil pretender abarcar todos. [... ] Una de las iniciativas públicas más importante es el Centro Integrado de Gestión Regional (CIGR), que surge de la colaboración entre el Gobierno Regional Metropolitano y la Universidad de Santiago de Chile.
En concreto, el CIGR consiste en un centro tecnológico que permite recolectar, analizar y monitorear información almacenada a partir de 1.500 cámaras de televigilancia, diez estaciones de calidad del aire, 15 puntos que monitorean las condiciones climáticas y 275 cámaras de la Unidad Operativa de Control de Tránsito (UOCT). Estas últimas permiten observar más de 19 millones de viajes diarios que realiza la población de la RM y monitorear emergencias, u otro tipo de contingencias, que requieren canalizar información de diverso tipo para una mejor coordinación interinstitucional. e. Los desafíos para la Región Metropolitana son cada vez más acuciantes: es la segunda región más pequeña en superficie de nuestro país, pero al mismo tiempo es la más habitada.
Conformada por 54 comunas —y supervisada por un gobierno regional con pocas atribuciones normativas y en materia de gasto—, debe enfrentar diversos desafíos a la hora de implementar proyectos tecnológicos que atraviesen la división político-administrativa de la región. En este escenario, actores de diversa magnitud y con diferentes funciones y capacidades institucionales, tienen el reto de trabajar coordinadamente para llevar adelante programas o iniciativas de smart city. E] 5. Conclusiones Las ciudades inteligentes o smart cities tienen la posibilidad de generar impactos positivos o negativos en derechos humanos. El uso de las nuevas tecnologías en las ciudades puede servir para mejorar el acceso a mecanismos de seguridad, para monitorear y mejorar el medio ambiente o la movilidad. A su vez, es posible que sean útiles en generar mayor accesibilidad y participación en la gobernanza local y fomentar formas innovadoras de planificación.
Además de estas eventuales consecuencias positivas, también tienen el potencial de provocar efectos negativos en los derechos humanos, que tienden a verse incrementados cuando no hay marcos regulatorios sólidos, no se fomenta la participación y el derecho a la ciudad y no hay un discurso articulado en materia de derechos humanos y empresas. Lamentablemente, todas estas limitaciones están presentes en Chile.
Como hemos observado, la ausencia de un marco institucional sólido y de gobernanza de las ciudades inteligentes da lugar a iniciativas fragmentadas, proyectos piloto o laboratorios urbanos que se adoptan a pequeña escala, sin considerar en su diseño los potenciales efectos en materia de derechos humanos. A ello, cabe agregar el hecho de que gran parte de los entrevistados considera que falta participación ciudadana en las iniciativas de ciudades inteligentes que se han diseñado y testeado en Chile.
Estos proyectos, que no se han materializado en una implementación definitiva, requieren de un discurso articulado que aborde el cumplimiento y la protección de los derechos humanos en el contexto de las ciudadestanto en el sector público como en el privado, sin perjuicio de distinguir los diversos roles que cumplen.
Desde esta perspectiva, si hay algo que se ha evidenciado con notoriedad en los estudios de casos, es que faltan salvaguardas para la protección del interés público cuando se producen conflictos entre intereses/valores públicos y privados.
En todas las iniciativas o proyectos de smart city existe una profunda colaboración público-privada, lo cual implica eventuales conflictos de intereses o valores que obedecen a distintas finalidades, situación que requiere la adopción de medidas para que el interés público pueda prevalecer.
Por último, respecto de las políticas de derechos humanos de las empresas, se evidencia que gran ¡ parte de las transnacionales que participan de redes o proyectos de smart city tienden a tener políticas acordes a los Principios Rectores, cuestión que contrasta con las pocas empresas chilenas que las tienen incorporadas.
La mayoría de las empresas transnacionales reconocen impactos positivos y negativos de las tecnologías, e incorporan mecanismos de reparación en sus políticas; sin embargo, no todas las que tienen políticas de derechos humanos reconocen expresamente la importancia de generar procesos de debida diligencia. 1 Recomendaciones Para el Estado: 1.
Actualizar el marco normativo vigente, de acuerdo con los estándares de derechos humanos, particularmente la regulación sobre protección de datos y la política de inteligencia artificial, la debida diligencia empresarial, las auditorías de las tecnologías de inteligencia artificial, la transparencia algorítmica y el tratamiento de datos realizado por actores privados.
En este último caso, aprobar el proyecto de ley que “regula la protección y el tratamiento de los datos personales y crea la Agencia de Protección de Datos Personales”, adecuando la ley a los estándares internacionales de derechos humanos pertinentes (Boletín 11.144 -07). 2.
Garantizar que los órganos del sector público actúen de conformidad con los tratados de derechos humanos y con los Principios Rectores sobre derechos humanos y empresas, cuando adquieren o utilizan tecnologías relacionadas con la solución de problemas urbanos.
Establecer, en este sentido, exigencias particulares a las empresas estatales al contratar o utilizar tecnologías, realizando consultas públicas y evaluaciones del impacto en los derechos humanos o evaluaciones de impacto algorítmico, en especial sobre el impacto desigual del uso de las tecnologías en grupos históricamente discriminados.3. Garantizar que los derechos humanos tengan un lugar central en el diseño, despliegue y ejecución de los sistemas, programas o iniciativas de smart cities, cuando estas son implementadas por el sector público o privado. Para las empresas: 1. Respetar los derechos humanos, previniendo o mitigando los efectos perjudiciales que pudieran tener sus actividades u operaciones en los derechos humanos. 2. Elaborar directrices que aborden las consecuencias que las tecnologías tienen sobre los derechos humanos, en concordancia con los Principios Rectores y con participación ciudadana. 3. Prevenir y dar cuenta de la discriminación a nivel de las entradas y los productos de las nuevas tecnologías aplicadas en las ciudades. Esto implica asegurar que los equipos que diseñan y despliegan sistemas tecnológicos reflejen actitudes diversas y no discriminatorias.
Esto implica priorizar la prevención de sesgos y discriminación en la elección de conjuntos de datos y el diseño del sistema, en particular la corrección de errores de muestreo, la depuración de conjuntos de datos para eliminar datos discriminatorios y la adopción de medidas para compensar esos datos. También es esencial el seguimiento activo de los resultados discriminatorios de los sistemas de inteligencia artificial. 4.
Explicar, de manera clara y eficaz, dónde y cómo se usan las tecnologías, los datos que les sirven de sustento y los resultados, incluyendo plataformas, servicios y aplicaciones de tecnologías de inteligencia artificial y otros procedimientos automatizados.
En este sentido, las empresas deben indicar a las personas cuándo son objeto de recolección y uso de datos, a la vez de mencionar si existe un proceso de adopción de decisiones basado en inteligencia artificial.
Las empresas también deben publicar datos sobre la supresión de contenido, incluida la frecuencia con que se impugnan las supresiones y se aprueban las impugnaciones, y también datos sobre las tendencias de la presentación de contenido, junto con estudios de casos y educación sobre el perfilado comercial y político. 5. Cumplir con el deber de debida diligencia en el ámbito de los derechos humanos.
Dr. Alberto Coddou profesor de la Facultad de Derecho de la Universidad Austral de Chile.
Socióloga Agustina Noguera coordinadora del Instituto Milenio Fundamento de los Datos.
Dr. Sebastián Smart investigador asociado de la Facultad de Derecho de la Universidad Austral de Chile.
Opinión publicada en https://www.litoralpress.cl/sitio/Prensa_Texto?Lpkey=OB3HBYX32ZUFX7LSZH7XZ45WAQABLDXPNG5QJCTLICHCKCEUERTQ
La elaboración de este capítulo contó con financiamiento del proyecto “Smart Cities and Human Rights: the cases of Chile and Switzerland”, patrocinado por el Centro Latinoamericano-Suizo de la Universidad de Sankt Gallen.
