El uso de sistemas de IA que toman decisiones sobre personas crece en sectores como finanzas, selección de personal, e-commerce o educación. Aquí analizamos cómo cumplir el RGPD y mantener la confianza digital.
¿Qué se entiende por decisión automatizada?
- Rechazar un crédito usando algoritmos.
- Filtrar currículums automáticamente.
- Mostrar ofertas según perfil digital.
- Detectar fraude con IA en compliance.
¿Está prohibido este tipo de decisiones?
No está prohibido, pero solo puede realizarse si se cumple una de estas condiciones:
- Contrato: necesario para contratar o ejecutar un acuerdo.
- Autoridad legal: permitido por ley de la UE o nacional.
- Consentimiento explícito: el usuario acepta claramente.
Derechos del interesado
| Derecho | Descripción |
|---|---|
| Información | Sobre uso de IA y lógica aplicada. |
| Revisión humana | Solicitar intervención real. |
| Punto de vista | Expresar opiniones o añadir contexto. |
| Impugnación | Recurrir decisiones automatizadas. |
Casos reales y ejemplos
Caso 1: Entidad financiera
Una fintech rechaza microcréditos sin explicación, basándose en datos de navegación y redes sociales.
Riesgo: no se informa al cliente ni se le da opción de recurso → vulneración del art. 22.
Caso 2: Selección de personal
IA filtra currículums sin supervisión humana, potencialmente introduciendo sesgos.
Riesgo: discriminación oculta y ausencia de revisión.
Caso 3: Ofertas personalizadas
E-commerce aplica precios dinámicos según usuario.
Riesgo: desigualdad en condiciones de contratación.
Pasos para tu empresa
- Analizar si se aplica el artículo 22.
- Comunicación transparente sobre IA y consecuencias.
- Diseñar mecanismos de revisión humana y reclamación.
- Realizar una AIPD (evaluación de impacto).
- Formar al equipo y responsables de tratamiento.
Recomendación: Consulta la Guía AEPD “Decisiones individuales automatizadas y elaboración de perfiles” (2021).
Conclusión
La IA automatiza y escala procesos, pero debe respetar los derechos fundamentales. Las empresas que adopten una IA explicable, ética y conforme al RGPD mejorarán su reputación y la confianza digital.
