#122 Diseño ético e interfaces capacitantes
Entrevistamos al diseñador Jose Ramón Texeira (JR) y su trabajo en Magma Sevilla, un espacio físico destinado al diseño ético, donde ofrecen alojamiento, herramientas y formación a aquellas personas y empresas que quieren que la ética sea uno de los pilares sobre los que construir sus productos y servicios digitales.
JR nos cuenta cómo el diseño ético se refiere a la práctica de diseñar productos, servicios y sistemas de forma que se tengan en cuenta las implicaciones éticas de su uso y el impacto que tienen en las personas y la sociedad. También hablaremos del enfoque del diseño de interfaces capacitantes, que busca diseñar productos digitales que potencien o mejoren las capacidades de las personas a través de hábitos capacitantes.
A partir de aquí puedes escuchar el episodio o seguir leyendo:
Aprende con esta masterclass de JR Texeira.
Si lo prefieres puedes ver a JR en la entrevista de nuestro canal de Youtube.
Diseño ético e interfaces capacitantes
En este episodio hablamos sobre:
- Presentación del diseñador Juan Ramón Texeira y Magma Sevilla
- Qué es Magma Sevilla
- Qué es el diseño ético en productos digitales.
- ¿Cuál fue la semilla que lo inició todo?
- Qué son las interfaces capacitantes
- Cuáles son los principales marcos éticos
- ¿Por qué muchas escuela no enseñan esto?
- ¿En el futuro se incluirá el diseño ético en el framework del doble diamante?
- Qué son los boosting y nudges en diseño.
A partir de aquí si lo prefieres puedes seguir leyendo la transcripción de la entrevista a JR Texeira sobre Diseño ético e interfaces capacitantes.
Qué es Magma Sevilla
Es el primer espacio físico destinado al diseño ético. Ofrecemos alojamiento, herramientas y formación a aquellas personas, equipos, organizaciones y empresas que quieren que la ética sea uno de los pilares sobre los que construir sus productos y servicios digitales
Tenemos 800 m2 donde alojamos empresas a las que ofrecemos herramientas para incorporar la ética a sus procesos de diseño y desarrollo.
Fotografías realizadas en el espacio Magma Sevilla por Gema Gutiérrez
Qué es el diseño ético
Es una rama de la ética aplicada. El diseño ético se refiere a la práctica de diseñar productos, servicios y sistemas de forma que se tengan en cuenta las implicaciones éticas de su uso y el impacto que tienen en las personas y la sociedad.
Es un enfoque del diseño que tiene en cuenta la autonomía, la responsabilidad o la rendición de cuentas, los casos de uso malintencionados como parte del proceso
El diseño ético es cada vez más importante a medida que la tecnología y sus aplicaciones avanzan y se imponen en nuestra vida cotidiana.
¿Cuál fue la semilla que inició todo?
Tanto Carlos, como Héctor como yo siempre hemos compartido esa visión del diseño como una vía para mejorar la vida de las personas. Yo en mi caso descubrí el diseño centrado en las personas a través de la escuela h2i y de Humberto Matas. Fue una experiencia maravillosa con muchas compañeras y compañeros de los que aprendí muchísimo.
Con profesores como Cesar Astudillo, Maritza Guaderrama, Daniel Yuste, David de Prado, Irene Estrada, Alicia Chavero. Durante muchos años trabajé en proyectos de investigación y diseño de productos digitales pero en los últimos años veíamos que nos faltaba algo, que nos estamos centrando mucho en optimizar el proceso de diseño, hay cursos de UX, de UI, de product Manager, de Growth y CRO que en muchos casos no hacen otra cosa que acelerar el daño y los impactos negativos en los usuarios.
Durante ese proceso de reflexión, tuve la suerte de descubrir las formaciones de Luis Montero que fue justo lo que necesitaba. Me ayudó a entender muchas de las cosas que estaba sintiendo y después de hacer uno de sus cursos decidimos organizar uno de forma conjunta en MAGMA. El objetivo era tratar de convertir esos marcos teóricos en soluciones prácticas de diseño. Creo que una de las principales barreras para incorporar la ética a las organizaciones ha sido esa distancia entre la academia y la empresa. Nosotros llevamos varios años tratando de reducir esa distancia y todas las formaciones tienen como objetivo “democratizar” la ética. Que un product manager, un diseñador, o un equipo de marketing o de negocio entienda que su trabajo tiene consecuencias en la vida de las personas
Qué son las interfaces capacitantes
Diseño ético e interfaces capacitantes están relacionados. Hablemos primero sobre los roles que tiene para nosotros una interfaz.
1. Traductor entre el usuario y el código
2. Mediador entre la máquina y las personas.
La interfaz traduce a lenguajes y formas más o menos comprensibles por el usuario las posibilidades funcionales de esa interfaz. Y hace de mediador porque limita lo que es posible determinar en la relación entre humano y máquina.
El enfoque de diseño de interfaces capacitantes nace desde una pregunta básica:
¿Puede una interfaz ayudar a alcanzar una vida mejor al usuario?
A partir de esa pregunta trabajamos con Luis Montero y el equipo de Z1 en un nuevo proceso de diseño que incorporase la ética dentro de la secuencia de ese proceso.
La respuesta es:
Si, si estimula las virtudes y capacidades de las personas.
El objetivo del proceso es poder diseñar productos, servicios y experiencias digitales que potencien o mejoren las capacidades (basadas en los frameworks de Shannon Vallor del libro la Tecnología y las virtudes y el de Marta Nussbaum de Crear capacidades) a través de hábitos capacitantes con la técnica del boosting.
La técnica que proponemos es el boosting que a diferencia de los nudges es una técnica que mejora las capacidades de los usuarios. Ambas son tipos de intervenciones conductuales
Los nudges guían a las personas para que tomen mejores decisiones modificando la forma en que se les presenta una elección, sin restringir ninguna opción ni modificar la matriz de beneficios subyacente.
Por otro lado, los boosts enseñan a las personas estrategias de decisión que centran su atención en aspectos clave de la elección, lo que les permite tomar decisiones más informadas
| Dimensión | Nudging | Boosting |
| Objeto de la intervención | Comportamiento | Competencia |
| Fundamentos en programas de investigación y pruebas | Mostrar a la persona que toma las decisiones como sistemáticamente imperfecto y sujeto a deficiencias cognitivas y motivacionales | Reconocer los límites pero identifica las competencias humanas a través de cambios en las habilidades, los conocimientos, las herramientas de decisión o el contexto |
| Causalidad | Aprovechar las deficiencias cognitivas y motivacionales junto con los cambios en el contexto de la arquitectura de elección | Fomentar las competencias mediante cambios en las habilidades, los conocimientos, las herramientas de decisión o el contexto |
| Suposiciones sobre la arquitectura cognitiva | Teoria proceso dual | La arquitectura cognitiva es maleable |
| Criterio de distinción empírica (reversibilidad) | Una vez finalizada la intervención, el comportamiento vuelve al estado anterior a la intervención | Los efectos implícitos deben persistir una vez retirada la intervención exitosa |
| Ambición programática | Conectar errores puntuales en contextos específicos – «reparación local» | Dotar a los individuos de competencias específicas o generalizables |
| Consecuencias normativas | Puede vulnerar la autonomía y la transparencia | Necesariamente transparentes y requieren la cooperación en una propuesta que puede ser o no aceptada |
Cuáles son los principales marcos éticos
Un marco ético es un conjunto de principios y valores que orientan la toma de decisiones éticas. Proporciona una estructura para considerar las implicaciones morales de las decisiones, acciones y políticas, y ayuda a las personas y organizaciones a determinar lo que es correcto e incorrecto, bueno o malo.
Existen varios marcos éticos que se utilizan habitualmente para orientar la toma de decisiones y el comportamiento ético en diversos campos e industrias. Algunos de los más destacados son:
Utilitarismo: teoría ética que sostiene que una acción es correcta si promueve el mayor bien para el mayor número de personas.
Relativismo moral: teoría ética que sostiene que las verdades morales son relativas al individuo o al contexto cultural y que no existen normas morales absolutas.
Consecuencialismo: teoría ética que sostiene que la moralidad de un acto debe juzgarse en función de su resultado.
Deontología: teoría ética según la cual las acciones deben basarse en un deber o norma moral, independientemente de sus consecuencias.
Ética de la virtud: teoría ética que hace hincapié en el carácter y los hábitos del actor moral, más que en las normas o las consecuencias, como elemento clave del pensamiento ético.
Un marco ético puede servir de guía para resolver dilemas éticos, pero no es una fórmula ni un algoritmo para tomar decisiones. Más bien, proporciona una manera de pensar de forma sistemática y crítica sobre cuestiones éticas y de tomar decisiones informadas y reflexivas basadas en principios y valores éticos.
Por ejemplo hace unos dias vi un post en linkedin que generó muchas reacciones. Una compañera del equipo de producto de una plataforma de reparto de comida pedía ayuda para sus compañeros que habían sido despedidos.
Una de las respuestas decía que no había visto esa solidaridad entre compañeros cuando los riders estaban luchando con sus derechos laborales o cuando se contrataban personas extranjeras sin papeles. A veces los equipos que trabajan diseñando y desarollando productos digitales no son conscientes del impacto de su trabajo. Yo sólo soy diseñadora o ingeniera.
Uno de los problemas de la ética siempre ha sido su aplicación práctica en cuanto a asumir responsabilidades. Si se cae un puente el responsable será el arquitecto o el ingeniero que hizo los cálculos. En el caso de productos digitales cómo evaluo los posibles daños? Quién es el responsable? quién repara los daños.
Hay un caso reciente del que se hizo un documental en la BBC que se llama trading with nudes en el que se descubrió que en uno de los subforos habia personas comprando fotos de mujeres desnudas o videos que había subido en la mayoria de los casos sus exparejas.
¿Quién es el responsable de reparar ese daño? ¿Podemos diseñar anticipando el daño en vez de reparar ese daño?
Diseñar un producto digital es muy barato porque no se tiene en cuenta el posible impacto. Madie comercializa un producto agroalimentario sin probar antes que es seguro, Si hablamos de informacion al consumidor existe nutriscore que es un sistema de etiquetado de alimentos donde te hablan sobre sus atributos nutricionales.
Nosotros estamos trabajando en un sistema similar para productos digitales. ¿Cómo sé si un producto digital es ético, es saludable, es recomendable su uso?
¿Por qué las escuelas de diseño no enseñan diseño ético?
Hay varias razones, primero porque no ha sido hasta los últimos años cuando se ha demostrado los potenciales daños del diseño (facebook, twitter, tik tok, patrones oscuros o diseño engañoso de Harry Bringull. etc)
Nunca ha sido una demanda ni de las profesionales del sector, ni del mercado, ni de lo público a nivel de marcos legales. Ves los premios, los concursos, las aceleradoras, los fondos de inversión las redes de asesoramiento a emprendedores incluso las licitaciones públicas y en ninguno de ellos aparecen los frameworks éticos o principios éticos como uno de los requisitos o de los atributos a valorar.
Las agencias, los estudios y las consultoras de diseño de interfaces están más centradas en optimizar el proceso para poder tener más beneficios y o en escalar el negocio que en pensar en las posibles consecuencias de su trabajo porque el mercado se lo permite. En Magma solemos decir que los productos digitales son herramientas de evasión moral. Esto tiene que cambiar desde una triple esfera. Desde los profesionales del sector, trabajando en empresas éticas, y fomentando procesos de diseño éticos, pasando por las administraciones públicas y por los propios usuarios demandando y teniendo más engagement con productos que respeten su autonomía
Cuando en reddit denunciaron que un subforo había personas intercambiando fotos de mujeres desnudas nadie había pensado en los posibles casos de uso o en los user flows de esos usuarios, ni tampoco habían establecido mecanismos compensatorios, ni de reparación del daño.
El coste de un producto agroalimentario que ha pasado ciertos controles te asegura que es seguro a nivel de higiene. Eso no ocurre en el sector digital, no sabemos si un producto es sano o no, si tiene un impacto negativo en nuestras vidas. Dentro de unos años miraremos hacia atrás y veremos las barbaridades que hemos diseñado
Creo de verdad que tenemos que cambiar nuestros referentes. Los productos tienen que tener estructuras para el diseño de productos éticos. Los pájaros pueden volar porque tienen alas, los peces pueden respirar porque tienen branquias. No se puede diseñar productos éticos sin diseñadores y equipos de diseño ético.
Segundo porque la ética ha vivido en una especie de pedestal del que los téoricos no han querido bajar. Quizás Cennyd Bowles es de los que conozco el que más lo está intentando pero en España sigue siendo algo reducido a expertos o estudiosos. Pensamos que no hay que tener un doctorado en Kant para poder entender que todas las personas que trabajan en un producto o servicio digital tienen una responsabilidad y que sus acciones tienen un impacto en la vida de las personas.
¿En el futuro se incluirá el diseño ético en el framework del doble diamante?
Estoy convencido de que en futuro ningún producto digital podrá ser un buen producto si no considera la ética en su conceptualización, diseño y desarrollo.
Los principales estudios de opinión de 2022 como el de Edelman que un 58% de las personas compran o recomiendan productos basados en sus principios y valores, que un 60% elegirá su trabajo en función de esos valores (lo que es una razón más para apostar por el diseño ético)
Una última reflexión, el diseño durante los últimos años me recuerda al cuadro «La parábola de los ciegos» es una obra del pintor flamenco Pieter Brueghel el Viejo.
En el cuadro hay seis ciegos que caminan uno delante de los demás en Dilbeek. Un guía, también ciego, los precede y cae en un agujero. El siguiente ciego se tambalea por encima del primero. El tercero, conectado con el segundo, sigue a sus predecesores. El quinto y el sexto aún no saben lo que está pasando, pero al final acabarán cayendo también en el agujero.
Que si Metaverso, que la IA, que si Blockchain, que si CRO pero pocas organizaciones centrándose en el impacto o en el por qué de las cosas.
Gracias por llegar hasta aquí. JR invita a todas las personas que estén interesadas en el ética y en el diseño a que se pasen por el espacio, a que nos sigan el linkedin para estar al día de las acciones que realizan.
No te pierdas la masterclass que JR ofrecerá en nuestra escuela el 19 de abril:
Referencias
LinkedIn José Ramón Texeira – Ver perfil
Espacio Magma Sevilla
Linkedin de Magma Sevilla
Sobre Shannon Vallor y su libro «Tecnología y virtudes: una guía filosófica para un futuro que vale la pena querer» – Leer este artículo
Cennydd Bowles y su libro «Future Ethics» (descarga un capítulo gratis)
Suscríbete a mi newsletter para seguir aprendiendo.
