Protocolo Ético para el Uso de Inteligencia Artificial en la Municipalidad de Luján
de Cuyo
Luján de Cuyo se posiciona como un municipio que asume la innovación tecnológica no
como un fin en sí mismo, sino como una herramienta transformadora al servicio de una
ciudad más humana, equitativa y transparente. La adopción de la Inteligencia Artificial
(IA), y en especial de la Inteligencia Artificial Generativa (IAG), representa una
oportunidad sin precedentes para mejorar la calidad de vida de los ciudadanos,
fortalecer las capacidades estatales y promover una gestión más proactiva y eficiente.
La visión municipal apuesta por una IA que complemente y potencie el trabajo humano,
que aumente la participación ciudadana mediante servicios más personalizados y
accesibles, y que garantice la equidad en el acceso a sus beneficios. En este marco,
resulta imprescindible fijar un rumbo ético e institucional que oriente el desarrollo, la
implementación y el control de la IA desde una perspectiva de derechos, transparencia y
justicia social.
Introducción
La transformación digital que atraviesa el sector público ha instalado nuevas
posibilidades y, a la vez, nuevos riesgos para la gobernanza democrática. La IA, como
tecnología de propósito general, puede incidir en todos los aspectos de la
administración municipal: desde la gestión de reclamos ciudadanos hasta la
planificación urbana, desde el diagnóstico ambiental hasta la asignación de turnos o
recursos. En ese escenario, su uso debe estar guiado por principios éticos y no por la
mera disponibilidad tecnológica o el entusiasmo institucional.
El riesgo de amplificar desigualdades, de incorporar sesgos estructurales en las
decisiones automatizadas, de erosionar la privacidad o de crear cajas negras opacas e
inaccesibles, hace necesario contar con un protocolo específico que regule su uso. Este
documento se presenta como una herramienta de gobernanza digital que tiene carácter
normativo, pedagógico y estratégico. Busca acompañar el proceso de transformación
digital del municipio con una mirada reflexiva, participativa y anclada en valores
democráticos.
Finalidad
El presente protocolo tiene como finalidad promover una cultura ética y reflexiva sobre
el uso de IA en la Municipalidad de Luján de Cuyo, consolidando una visión de
tecnología pública centrada en las personas. Su propósito es generar un marco claro
para la evaluación, diseño, implementación y supervisión de todo sistema de IA que
impacte en procesos administrativos, servicios ciudadanos, gestión interna o toma de
decisiones institucionales.
La finalidad se expresa en tres dimensiones complementarias:
1. Institucional: robustecer los mecanismos de gobernanza digital con normativas
específicas, asegurando coherencia en el uso de IA entre áreas y dependencias.
2. Social: garantizar que el uso de IA promueva la inclusión, reduzca desigualdades
y fortalezca la relación entre el Estado municipal y la comunidad.
3. Técnica: fomentar la adopción responsable de IA, basada en criterios de calidad,
seguridad, eficiencia y sostenibilidad.
En este sentido, el protocolo no solo establece reglas, sino que también propone una
guía para el aprendizaje institucional continuo, promoviendo capacidades técnicas y
éticas entre el personal municipal, acompañando el cambio cultural necesario para el
despliegue de tecnologías emergentes.
Principios Rectores
El protocolo se sustenta en un conjunto de principios éticos que orientan su aplicación
concreta en todos los niveles del gobierno municipal:
Legalidad y derechos humanos: Todo sistema de IA debe respetar el marco legal
argentino y los tratados internacionales en materia de derechos humanos, incluyendo la
Ley 25.326 de protección de datos personales. Ninguna tecnología puede vulnerar
derechos fundamentales, y su diseño debe anticipar potenciales conflictos normativos.
Transparencia y explicabilidad: Los sistemas de IA deben ser auditables y
comprensibles. La ciudadanía tiene derecho a conocer cuándo y cómo se utilizan estas
tecnologías, especialmente si influyen en decisiones que la afectan directamente. La
explicabilidad implica que los resultados puedan ser entendidos y cuestionados.
Supervisión humana y responsabilidad: Toda IA debe operar bajo supervisión
humana calificada. Ninguna decisión automatizada debe reemplazar completamente el
juicio de un agente municipal, y siempre debe existir un responsable identificado para
responder ante errores o afectaciones.
Justicia algorítmica y no discriminación: Se deben detectar, prevenir y mitigar
sesgos que reproduzcan o intensifiquen desigualdades sociales. La equidad debe
considerarse en el diseño, los datos y los resultados del sistema.
Sostenibilidad ambiental: Dado el impacto ambiental del entrenamiento y uso de
modelos de IA, se priorizarán soluciones energéticamente eficientes. La huella de
carbono de las soluciones tecnológicas debe ser monitoreada.
Participación ciudadana: La inclusión de la ciudadanía en la discusión sobre el uso de
IA es clave para su legitimidad. Esto incluye mecanismos de consulta, auditorías
sociales y derecho a objeciones.
Proporcionalidad: El uso de IA debe estar justificado en función de la necesidad
pública y los beneficios esperados. No se debe aplicar IA en contextos donde los
riesgos superen las ventajas, o donde soluciones más simples sean más eficaces.
Evaluación de Impacto Algorítmico (EIA)
Como medida fundamental para el despliegue responsable de IA, todo sistema que
incida en la toma de decisiones o gestione datos sensibles deberá someterse a una
EIA. Esta evaluación anticipatoria permite detectar efectos adversos, establecer
salvaguardas y generar confianza pública.
La EIA incluirá:
●
Definición clara de objetivos y poblaciones involucradas.
●
Relevamiento del origen y tipo de datos utilizados.
●
Identificación de sesgos potenciales y riesgos de exclusión.
●
Estudio de impactos diferenciados (por género, edad, ubicación, etc.).
●
Análisis de consecuencias no intencionadas o errores posibles.
●
Propuesta de medidas correctivas, garantías y canales de rendición de cuentas.
El informe de EIA será elaborado por un equipo interdisciplinario (tecnología, derecho,
ciencias sociales, participación ciudadana), y su versión resumida deberá ser de acceso
público antes de la puesta en marcha del sistema.
Régimen de Actualización y Control
Para garantizar la vigencia y eficacia del protocolo, se establece un régimen de
actualización anual que permita incorporar avances tecnológicos, nuevas normativas y
aprendizajes institucionales.
La autoridad de aplicación será la Dirección de Modernización y Gobierno Abierto, que
deberá trabajar en coordinación con:
●
El área legal municipal.
●
Un Comité Ético Consultivo con expertos externos, referentes comunitarios y
representantes académicos.
Este mecanismo emitirá un informe anual de cumplimiento, que incluirá:
●
Listado de proyectos evaluados.
●
Riesgos detectados y medidas tomadas.
●
Recomendaciones institucionales.
●
Casos de buenas prácticas.
●
Nivel de cumplimiento por dependencia.
Las áreas que incumplan el protocolo podrán ser objeto de sanciones administrativas o
de medidas correctivas.
Protección de Datos Personales y Confidencialidad
Toda iniciativa basada en IA deberá cumplir estrictamente con las normas de protección
de datos personales. Esto incluye:
●
Recolección con consentimiento informado y finalidades claras.
●
Derecho a acceso, rectificación, supresión y oposición.
●
Aplicación de medidas de seguridad técnica (cifrado, anonimato, minimización).
●
Prohibición del uso de datos con fines no autorizados.
El municipio podrá incorporar auditorías externas para verificar el cumplimiento de estos
requisitos, en consonancia con estándares nacionales e internacionales (Ley 25.326,
GDPR, Recomendaciones UNESCO).
Sanciones por Uso Indebido
El uso indebido de IA podrá dar lugar a:
●
Revisión o retiro de sistemas comprometidos.
●
Sanciones administrativas al personal responsable.
●
Investigación de daños potenciales o reales.
●
Informes públicos para la rendición de cuentas.
Estas medidas se aplicarán especialmente en casos de:
●
Discriminación algorítmica.
●
Vulneración de derechos.
●
Opacidad o manipulación de decisiones automatizadas.
●
Implementación sin EIA o sin autorización institucional.
Articulación con Políticas Públicas
La IA no se desplegará como una iniciativa aislada, sino integrada a las estrategias
municipales en curso. Este protocolo se alinea con:
●
La Agenda Digital Municipal.
●
El Plan de Gobierno Abierto y Transparencia.
●
La política de Datos Abiertos.
●
Los Objetivos de Desarrollo Sostenible (especialmente el ODS 16).
●
Normativas nacionales e iniciativas internacionales (como la Carta
Iberoamericana de Gobierno Abierto y los Principios de la OCDE sobre IA).
La articulación intersectorial e interinstitucional permitirá evitar duplicidades, optimizar
recursos y fortalecer una cultura de innovación centrada en las personas.
Este protocolo es, en suma, una declaración de principios, una herramienta de gestión y
un compromiso institucional con un futuro digital justo, inclusivo y sostenible para Luján
de Cuyo.
