Los datos son el motor de la revolución tecnológica que supone la IA. En el ámbito de los Sistemas de Información Geográfica (SIG), la ética de los datos adquiere una importancia especial porque los datos espaciales pueden revelar información muy sensible sobre personas, comunidades y el medio ambiente.
A modo de introducción
De forma habitual se ha procedido a proteger los datos geográficos sensibles modificando las posiciones geográficas de ciertos elementos como la ubicación de nidos de especies protegidas o de yacimientos arqueológicos. Pero el desarrollo de dispositivos capaces de proporcionar la geolocalización de equipos o personas ha hecho que los datos geográficos hayan aumentado exponencialmente. Ya no se trata solamente de proteger los datos particulares se trata también que el conjunto de datos que se publican no puedan suponer un riego para las personas, introduzcan sesgos discriminatorios o permitan la reidentificación.
La combinación de datos aparentemente inofensivos puede conducir, si se combinan con habilidad, a identificar a un usuario concreto.
Supongamos que se publica una capa SIG “anonimizada” con los recorridos diarios de bicicletas compartidas, eliminando nombres y números de usuario. Si un tercero combina esos trayectos con el catastro o con direcciones públicas, puede observar que un recorrido comienza cada mañana en una vivienda concreta y termina en un lugar de trabajo específico. Esa combinación puede permitir inferir quién es el usuario del trayecto, es decir, reidentificar a una persona a partir de datos geoespaciales aparentemente anónimos.
Legislación y ética de los datos
Por acotar la cuestión, en este artículo no vamos a ocuparnos de las normas legales, vamos a centrarnos en los principio éticos del uso de los datos SIG. Las normas legales establecen obligaciones y prohibiciones exigibles por la autoridad (por ejemplo, sobre privacidad, protección de datos, propiedad intelectual o seguridad). La ética de los datos va más allá del cumplimiento de la ley y se ocupa de qué usos de los datos son justos, responsables y beneficiosos para las personas y la sociedad, abordando cuestiones como la equidad, la transparencia, la rendición de cuentas y el impacto social. Dicho de otro modos, algo puede ser legal y, sin embargo, plantear dudas éticas. El enfoque ético de los datos se orienta a implementar buenas prácticas incluso allí donde la legislación aún no se ha desarrollado.
Algunos conceptos
- La equidad (o fairness) en ética de los datos es el principio de evitar que los datos, modelos o decisiones produzcan discriminaciones injustas o perpetúen sesgos contra determinados grupos. Por ello, es fundamental identificar, medir y mitigar los sesgos presentes en los datos y en los algoritmos.
- La explicabilidad es la capacidad de comprender y comunicar cómo y por qué un sistema basado en datos o un modelo llega a una determinada conclusión o decisión. Una buena explicabilidad favorece la transparencia, la confianza, la rendición de cuentas y la detección de errores o sesgos.
Podemos intentar explicar estos conceptos con un ejemplo. Imaginemos un sistema que concede becas universitarias a partir de datos históricos. Si en el pasado ciertos grupos estuvieron infrarrepresentados, el modelo puede aprender ese patrón y otorgar menos becas a esos estudiantes: esto ilustra un problema de equidad causado por sesgos en los datos. La explicabilidad consiste en poder entender y comunicar por qué el sistema tomó una decisión concreta; por ejemplo, indicando que la beca se concedió principalmente por el expediente académico y la situación económica, y no por características irrelevantes o discriminatorias. Así, la explicabilidad ayuda a detectar y corregir posibles sesgos, favoreciendo decisiones más justas y transparentes.
Otros conceptos:
Evaluación de riesgos
Para evaluar los riesgos que supone la publicación de datos SIG, podemos clasificar los datos geográficos en cuatro niveles de riesgo, de mayor a menor de acuerdo con su potencial para vulnerar los derechos, la privacidad y la seguridad de las personas.
- Riesgo Extremo: Datos de Alta Precisión y Rastreo en Tiempo Real
Son aquellos datos que permiten identificar la ubicación exacta de un individuo de forma continua o en momentos críticos. El riesgo aquí es máximo porque exponen al usuario a peligros físicos (acoso, robos) o a una vigilancia masiva.
- Riesgo Alto: Ubicaciones de Lugares Sensibles (Datos de Categoría Especial)
A veces, no es el dato geográfico en sí lo que genera el riesgo, sino lo que ese lugar revela sobre la vida íntima, ideología o salud de la persona. La combinación de una coordenada con un mapa de puntos de interés puede desvelar información protegida por leyes como el RGPD.
- Centros de salud y clínicas: Visitas a hospitales oncológicos, clínicas de salud mental o centros de salud reproductiva.
- Lugares de culto: Iglesias, mezquitas, sinagogas (revelan la religión).
- Sedes políticas o sindicales: Revelan la ideología o la afiliación política.
- Lugares de ocio nocturno o de orientación específica: Pueden revelar la orientación sexual o hábitos privados.
- Riesgo Moderado: Datos Agregados de Alta Resolución o Datos Estáticos
En este nivel, los datos no identifican a un individuo de forma directa ni inmediata, pero la escala o el contexto permiten la reidentificación (ingeniería inversa para descubrir a quién pertenecen) si se cruzan con otras bases de datos.
- Direcciones postales completas o catastrales: Aunque son datos estáticos, revelan el nivel socioeconómico y el patrimonio de una persona.
- Datos de densidad de población a nivel de manzana o código postal pequeño: En zonas rurales o poco pobladas, un dato «agregado» a nivel de calle puede bastar para identificar a una familia específica.
- Imágenes a nivel de calle (Street View) sin pixelar: Rostros o matrículas de vehículos vinculados a ubicaciones concretas.
- Riesgo Bajo: Datos cartográficos generales y Ambientales Anonimizados
Se trata de datos con un nivel de detalle insuficiente para identificar a una persona o a un grupo vulnerable. Por ello, su utilización suele considerarse ética sin exigir procedimientos de consentimiento especialmente rigurosos, siempre que se mantengan adecuadamente anonimizados y no sea posible reidentificar a sus titulares.
- Datos agregados a gran escala: Por ejemplo, el volumen de tráfico en una autopista o la afluencia turística en una provincia entera.
- Datos geográficos ambientales o físicos: Mapas climáticos, niveles de contaminación por barrios, topografía o redes de transporte público general.
Principios básicos a tener en cuenta para el uso de datos
El Gobierno de España a través de la Oficina del Dato ha definido 5 principios básicos para el uso de los datos.
Principales normas y recomendaciones internacionales
Se incluyen a continuación algunas de las principales normas con recomendaciones sobre el uso ético de los datos.
- UNESCO
En 2021 aprobó la Recommendation on the Ethics of Artificial Intelligence que es uno de los documentos internacionales más importantes. La protección de los derechos humanos y la dignidad es la piedra angular de esta recomendación de la Unesco, y se basa en el fomento de principios fundamentales como la transparencia y la equidad, sin olvidar la importancia de la supervisión humana de los sistemas de IA.
- OECD
Publicó los principios sobre IA y gobernanza responsable de los datos que incluyen:
- Transparencia.
- Responsabilidad.
- Robustez.
- Supervisión humana.
No publica un código ético específico, pero desarrolla estándares esenciales para el uso responsable de información geográfica, como:
- Metadatos.
- Interoperabilidad.
- Calidad.
- Trazabilidad.
- Familia de normas ISO 19100. Estas normas no son códigos éticos, pero contribuyen a una gestión responsable de la información geográfica. Especialmente relevantes:
- ISO 19115 (metadatos).
- ISO 19157 (calidad de datos).
- ISO 19131 (especificaciones de productos de datos).
- ISO 19135 (registro de elementos).
- Committee on Data of the International Science Council. Ha desarrollado principios para:
- Datos FAIR.
- Ciencia abierta.
- Uso responsable de datos científicos.
- Principios FAIR. Son muy utilizados en investigación. Los datos deberían ser:
- Findable (localizables).
- Accessible (accesibles).
- Interoperable (interoperables).
- Reusable (reutilizables).
Desde un punto de vista ético, los principios FAIR deben equilibrarse con la privacidad y la protección de información sensible: que un conjunto de datos sea reutilizable no implica que deba publicarse sin restricciones.
Decálogo ético para proyectos SIG
Para finalizar recogemos un decálogo ético con algunas normas a seguir:
Tutor del curso online de Análisis GeoEspacial con Python y de los cursos online de webmapping. Echa un vistazo a todos nuestros cursos de SIG online.