#213 Los 4 riesgos de la Inteligencia Artificial
Mientras la mayoría de profesionales se centra en aprender a utilizar herramientas de IA, pocos están prestando atención a un aspecto igual de importante: cómo diseñar productos que tengan integrada la inteligencia artificial y cumplan la legislación europea.
En este episodio te cuento los 4 riesgos de la IA que debes conocer.
La escuela y comunidad online para Product Designers
Apúntate a La tribU, nuestra escuela y comunidad online para mejorar en tu carrera profesional como UX o Product Designer.
Con la entrada en vigor en agosto del 2025 de la Ley de Inteligencia Artificial de la Unión Europea, las empresas tienen nuevas responsabilidades ya no basta con crear buenas experiencias; también deben cumplir la nueva ley europea.
Estas leyes garantizan que los productos con IA sean transparentes, seguras y que respeten los derechos fundamentales de las personas.
En este artículo descubrirás cuáles son los cuatro niveles de riesgo que establece la normativa europea sobre IA, qué implica cada uno y cómo afecta al diseño de productos digitales.
¿Qué es la Ley de IA de la Unión Europea?
La Ley de Inteligencia Artificial de la UE es la primera regulación integral sobre inteligencia artificial aprobada por la Unión Europea. Su objetivo es garantizar que los sistemas de IA sean seguros, transparentes y respeten los derechos de las personas.
La normativa clasifica los sistemas de IA según el riesgo que representan para la sociedad. Cuanto mayor es el riesgo, mayores son las obligaciones legales para quienes desarrollan o utilizan estos sistemas.
Para quienes trabajan en UX o diseño de producto, esta clasificación se convierte en una guía imprescindible para diseñar experiencias responsables.
Nivel 1: Riesgo mínimo
Los sistemas de riesgo mínimo son aquellos que prácticamente no generan amenazas para la salud, la seguridad o los derechos fundamentales.
En este nivel encontramos aplicaciones sencillas donde la IA apenas influye en decisiones importantes.
¿Qué exige la ley en el riesgo mínimo?
En realidad, muy poco.
No existen obligaciones específicas, aunque la Comisión Europea recomienda adoptar códigos de buenas prácticas de forma voluntaria, especialmente en aspectos como:
- Transparencia.
- Supervisión humana.
- Comunicación responsable del uso de IA.
Aunque no sea obligatorio, incorporar estas buenas prácticas mejora la confianza de los usuarios.
Nivel 2: Riesgo limitado o de transparencia
Aquí comienza la parte realmente interesante para cualquier diseñador UX.
La normativa establece una serie de obligaciones cuyo objetivo es que las personas sepan cuándo están interactuando con una inteligencia artificial.
1. Informar cuando se conversa con una IA
Si un chatbot responde automáticamente mediante IA, el usuario debe saberlo desde el primer momento.
No puede hacerse pasar por un ser humano.
2. Etiquetar contenidos generados por IA
Los deepfakes y determinados contenidos generados artificialmente deben identificarse de forma visible.
El objetivo es evitar la desinformación.
3. Permitir detectar el contenido generado por IA
Los sistemas deben incorporar mecanismos técnicos que faciliten identificar cuándo un contenido ha sido creado o manipulado mediante inteligencia artificial.
4. Avisar cuando exista reconocimiento de emociones
Si un producto utiliza IA para analizar emociones, expresiones faciales o estados emocionales, debe informar claramente a la persona usuaria.
¿Qué significa esto para UX?
La transparencia deja de ser una buena práctica y pasa a convertirse en un requisito legal.
Diseñar experiencias honestas ya no es solo una cuestión ética, sino también normativa.
Nivel 3: Riesgo alto
Los sistemas de alto riesgo pueden afectar directamente a aspectos sensibles de la vida de las personas.
La ley no los prohíbe, pero exige controles muy estrictos.
Entre ellos encontramos aplicaciones relacionadas con:
- Salud;
- Educación y empleo
- Acceso a servicios públicos;
- Seguros:
- Evaluación financiera;
- Biometría;
- Reconocimiento de emociones en determinados contextos;
- Fuerzas de seguridad.
¿Qué obligaciones impone la ley?
Los desarrolladores deben garantizar:
Evaluación continua de riesgos
Antes de poner el sistema en funcionamiento es obligatorio analizar los posibles impactos sobre los derechos fundamentales.
Gobernanza de datos
Los datos utilizados para entrenar el sistema deben cumplir estándares de calidad y evitar sesgos.
Supervisión humana
La IA nunca debe sustituir completamente el criterio humano en decisiones especialmente sensibles.
Interfaces que permitan comprender las limitaciones
Desde UX esto supone diseñar interfaces donde las personas entiendan qué hace la IA, cuándo puede equivocarse y cuándo conviene revisar sus recomendaciones.
Nivel 4: Riesgo inaceptable
Este nivel recoge aquellas aplicaciones que la Unión Europea considera incompatibles con los derechos fundamentales.
Su uso está directamente prohibido.
Entre ellas destacan:
1. Manipulación subliminal
Sistemas que alteran el comportamiento de las personas sin que estas sean conscientes.
2. Explotación de personas vulnerables
Tecnologías que aprovechan la edad, discapacidad o situación económica de una persona para influir en sus decisiones.
3. Social Scoring
La creación de puntuaciones sociales similares al sistema de crédito social utilizado en algunos países está prohibida dentro de la Unión Europea.
4. Predicción individual de delitos
No se puede utilizar IA para afirmar que una persona probablemente cometerá un delito únicamente a partir de su perfil.
5. Reconocimiento de emociones en colegios y empresas
Con muy pocas excepciones relacionadas con la seguridad o la medicina, esta práctica queda prohibida.
6. Clasificación biométrica sensible
Está prohibido utilizar datos biométricos para inferir características como:
- Raza;
- Orientación sexual;
- Religión;
- Opiniones políticas;
- Afiliación sindical.
7. Vigilancia biométrica masiva en tiempo real
El reconocimiento facial en espacios públicos solo puede utilizarse en situaciones excepcionales muy concretas previstas por la ley.
¿Por qué esta normativa es tan importante para el diseño UX?
La llegada de la inteligencia artificial cambia por completo la forma de diseñar productos digitales.
Hasta ahora el reto consistía en crear experiencias intuitivas.
Ahora también debemos garantizar que las personas:
- Comprendan qué puede hacer la IA;
- Sepan cuándo confiar en ella;
- Detecten sus limitaciones;
- Puedan ignorar una recomendación cuando sea necesario;
- Mantengan siempre el control de las decisiones.
En otras palabras, el buen diseño ya no consiste únicamente en ofrecer una interfaz atractiva o fácil de usar. También implica diseñar sistemas transparentes, comprensibles y responsables.
Diseñar con IA no es lo mismo que diseñar para la IA
Existe una diferencia importante que cada vez tendrá más peso en el mercado.
Una cosa es utilizar herramientas de inteligencia artificial para acelerar nuestro trabajo como diseñadores.
Otra muy distinta es crear productos digitales cuya funcionalidad depende de un modelo de IA.
En este segundo caso, conocer la legislación europea deja de ser opcional.
Recursos
Conoce la Ley de Inteligencia Artificial de la Unión Europea.
Para UX, Product Designers y profesionales digitales supone incorporar nuevas responsabilidades relacionadas con la transparencia, la supervisión humana y la protección de los derechos fundamentales.
Comprender los cuatro niveles de riesgo establecidos por la ley de la IA no solo ayuda a evitar incumplimientos legales. También permite diseñar experiencias más éticas, seguras y centradas en las personas.
En un contexto donde la IA estará integrada en la mayoría de productos digitales, dominar estas normas será una ventaja competitiva para cualquier profesional del diseño.
¿Quieres seguir aprendiendo? Apúntate a mi newsletter ahora.
