Actualizado el viernes, 16 agosto, 2024
En 2015, Nextdoor, la aplicación de redes sociales basada en la ubicación, ganó reputación como un lugar de creación de perfiles raciales. Los usuarios enviaban alertas por solo ver a hombres negros con sudaderas con capucha caminando en sus vecindarios. Un informe condenatorio describió a Nextdoor como «un foro para el racismo paranoico, el equivalente al entrometido designado de Neighborhood Watch en una comunidad cerrada».
Al estudiar el problema , Nextdoor se dio cuenta de que su aplicación fácil de usar era en parte culpable.
La creación de interfaces y productos intuitivos y fáciles de usar es el dominio de los diseñadores de experiencias de usuario. Don’t Make Me Think es tanto el título de un libro de texto básico en el campo como el mantra profesional de muchos diseñadores. Un enfoque llamado » diseño anticipatorio » incluso lleva la virtud de la velocidad al extremo, prometiendo un sistema tan fluido que los consumidores nunca tendrán que hacer una sola elección.
Pero las mismas funciones que están destinadas a hacer que la tecnología sea más fácil y rápida de navegar, como los accesos directos y las funciones de autocompletar, también pueden alentar a los usuarios a tomar decisiones rápidas y poner en riesgo a las poblaciones marginadas. Esta es solo una de las formas en que el prejuicio racial se incluye en los sistemas cotidianos, aunque a veces de manera involuntaria.
En una conferencia de TED a principios de este mes, Jennifer Eberhardt, una psicóloga social que ayudó a Nextdoor a abordar su problema de perfiles raciales, explicó cómo diseñar para la velocidad a veces puede fomentar la injusticia. “La categorización y el sesgo que genera permiten que nuestro cerebro haga juicios de manera más rápida y eficiente”, dijo. “Pero así como las categorías nos permiten tomar decisiones rápidas, también refuerzan el sesgo. Las mismas cosas que nos ayudan a ver el mundo también pueden cegarnos a él. Hacen nuestras elecciones sin esfuerzo, sin fricciones «.
Esta preocupación es en parte la razón por la que, en los últimos años, un grupo de diseñadores de UX ha estado defendiendo la utilidad de las interrupciones o » fricciones » en los procesos de diseño. Despertados a los atolladeros éticos del big data durante las elecciones estadounidenses de 2016 y los sórdidos » patrones oscuros» de las plataformas de redes sociales, muchos están cuestionando las normas y métricas de su profesión. Ahora, a medida que el movimiento Black Lives Matter gana impulso, la urgencia de abordar los sesgos preprogramados en los productos e instrumentos tecnológicos es aún más pronunciada. Para comprobar estos sesgos, algunos diseñadores creen, como Eberhardt, que necesitamos interrupciones más intencionadas para ralentizar al usuario.
Trabajando en estrecha colaboración con los equipos internos de Nextdoor, Eberhardt recomendó agregar una lista de verificación para que los usuarios la revisen antes de informar un incidente. También modificaron el lenguaje de sus mensajes, cambiando el eslogan de seguridad frecuentemente citado , «si ves algo, di algo», por «ve algo sospechoso , di algo específico «, para que la gente reflexione si en realidad están presenciando un crimen. comportamiento. En unos pocos meses, la nueva empresa con sede en San Francisco pudo frenar los incidentes de discriminación racial en un 75% .
El perfil racial (también conocido como » el problema de Karen» ) todavía afecta a Nextdoor y aplicaciones similares de vigilancia del vecindario como Citizen y Amazon Ring en la actualidad . Pero el trabajo de Eberhardt demuestra que hay formas de diseñar sistemas que pueden ser parte de la solución.
Eberhardt, que es codirector del laboratorio SPARQ de la Universidad de Stanford , dice que el diseño puede empujar a los usuarios a reconsiderar sus acciones agregando pasos adicionales en forma de cuadros de diálogo , advertencias o mensajes de confirmación. Su laboratorio también ha trabajado con el Departamento de Policía de Oakland en 2016 para investigar el perfil racial en el tráfico de rutina y las paradas de peatones . Pidió a los oficiales que verificaran su parcialidad haciéndose una pregunta antes de llamar a alguien. “¿Esta parada está dirigida por inteligencia? ¿Si o no?» El paso adicional estaba destinado a frenar a los agentes lo suficiente como para considerar si tenían pruebas específicas contra la persona. La autoconsulta simple resultó en un 40% menos de paradas de rutina, mientras que la tasa de criminalidad continuó cayendo.
“Todos somos vulnerables a los prejuicios, pero no actuamos en base al prejuicio todo el tiempo”, explicó Eberhardt en TED. «Lo que no queremos hacer es crear un sistema fácil de usar que pueda amplificar los prejuicios y profundizar las disparidades raciales».
Por el amor a la fricción
Evie Cheung , diseñadora de experiencias con experiencia en psicología, también ha estado estudiando las diversas formas en que el sesgo se filtra en la tecnología. Para su proyecto de posgrado , investigó cómo las voces de Alexa y Siri pueden fomentar los estereotipos raciales y de género en los niños.
Ella cree que es útil introducir la fricción en la tecnología en los momentos adecuados. Por un lado, una advertencia o un cuadro emergente puede recordarnos que nuestras acciones tienen un efecto en las personas más allá de nuestras propias burbujas . “Nos hemos acostumbrado tanto a este mundo demasiado optimizado; estamos tan acostumbrados a recibir comida a domicilio o un automóvil con solo hacer clic en un botón ”, observa. «A veces no pensamos en cómo y quién hace que estos productos y servicios sucedan».
“Es interesante pensar en cómo la tecnología puede deshumanizar el proceso y también humanizarlo”, agrega. «¿Podemos diseñar realmente contra el tipo de suposiciones que se hacen hoy?»
Para hacer esto, Cheung dice que las agencias deben traer más diversidad a la mesa de dibujo. «Se trata de una experiencia personal vivida … Nunca sabré lo que es ser un hombre negro en Estados Unidos», dice Cheung, un asiático-americano de primera generación. «Hay un punto de ruptura con la empatía cuando tienes que reconocer tu privilegio».
De manera similar, Huge, la agencia digital con sede en Brooklyn que promovió sistemas de » diseño anticipatorio » totalmente automatizados en 2015, ha modificado su postura. “El diseño anticipatorio ya no es algo de lo que predicamos mucho”, dice Emily Wengert , vicepresidenta de experiencia del usuario de la agencia.
El diseño perfecto puede ser útil para anticipar problemas, por ejemplo, enviar alertas automáticas a un miembro de la familia si una persona mayor ha tenido un accidente o se ha perdido una comida en casa. Pero Huge también ha aprendido que no es necesariamente útil para las comodidades cotidianas, como volver a pedir jabón con solo presionar un botón de Amazon Dash . “Un diseño anticipatorio realmente bueno depende de datos y contenido excelentes”, explica. «Lo que hemos aprendido en los años intermedios es que los datos y el contenido están sesgados como los humanos que los crearon».
Wengert dice que Huge está promoviendo el discernimiento o la «atención plena» en el diseño de UX en estos días. “Creo que la nueva tarea para los diseñadores es saber cuándo la tecnología puede pensar con usted, ser proactivo, y cuándo puede realmente impulsarlo a participar más, a ser consciente”, explica.
Conciliar los criterios de «buen diseño»
Para ser claros, introducir fricciones no significa volver a las interfaces web que provocaron dolores de cabeza en la década de 1990 y principios de la de 2000, un vestigio de las cuales persiste en algunas herramientas de datos financieros, si desea un repaso. Tampoco significa crear obstáculos innecesarios para los usuarios. La fricción, cuando se aplica con prudencia, está destinada a reforzar la agencia de los usuarios sobre sus propias transacciones.
Bill Gribbons , profesor de diseño de información y comunicación corporativa en la Universidad de Bentley y director del programa de posgrado en diseño de UX más grande de EE. UU., Aprueba la evolución en el campo. “Ni siquiera es fricción o agregar obstáculos; es simplemente un buen diseño ”, dice. «Es reconocer que las personas tienen este sesgo implícito y dar una respuesta adecuada para contrarrestarlo».
Gibbons reconoce que esta rúbrica para un buen diseño no siempre es compartida por las empresas con fines de lucro que emplean a sus estudiantes de posgrado. «Pero estoy animado», le dice a Quartz. “Por ejemplo, mire lo que está sucediendo en Facebook en este momento, donde los desarrolladores están hablando”, dijo, refiriéndose a una huelga reciente de empleados en protesta por la inacción de Facebook contra las publicaciones incendiarias del presidente de Estados Unidos, Donald Trump, en la plataforma ”. No es fácil, pero están usando el poder porque sin sus trabajadores, [las empresas se dan cuenta de que] no son nada «.
Gribbons, que es un veterano de la industria de la publicidad, dice que el cálculo del diseño ético actual es particularmente crucial a medida que la tecnología se filtra en todos los sistemas de la sociedad, incluidos nuestros propios cuerpos.
“Ahora es el momento de hacerlo bien”, dice. “Con el Internet de las cosas, los wearables y los implantables”, la influencia que tiene el diseño en todas nuestras vidas será aún menos evidente.