Diseño para la IA
Diseña cómo las personas usan, entienden y corrigen los productos que funcionan con inteligencia artificial, cuyas respuestas pueden variar y equivocarse.
De qué se ocupa
Un sistema con IA no siempre responde igual ni acierta siempre, y es difícil saber de antemano qué podrá hacer. Hay que diseñar para el error, la duda y una confianza justa.
Aplicaciones en diseño
Úsalo así
Prueba la idea con respuestas reales del sistema, también las malas, no solo con las ideales.
Evita
Prometer más de lo que el sistema hace bien.
Para no caer
Diseña desde el principio qué pasa cuando la IA se equivoca.
Ideas propias
Directrices de interacción persona-IA
Dieciocho pautas para diseñar productos con IA, ordenadas por el momento de uso.
En qué se apoya
Principios
Decir qué puede hacer
Y con qué fiabilidad, desde el principio.
Diseñar el error
Que lo que propone se pueda corregir, deshacer o ignorar.
Dejar el control
La persona decide y puede decirle al sistema qué ha fallado.
Autores y obras
Saleema Amershi y otros (2019)
Propusieron 18 directrices de interacción persona-IA y las probaron con 49 profesionales en 20 productos.
Google PAIR (2019)
Publicó una guía para equipos: necesidades, datos, modelos mentales, explicaciones y confianza, control y errores.
Qian Yang, Aaron Steinfeld, Carolyn Rosé y John Zimmerman (2020)
Explicaron por qué cuesta tanto diseñarla: no se sabe bien qué podrá hacer la IA y sus respuestas pueden ser muy complejas.
Conexiones
Fuentes
Fuentes originales
- Amershi, S., Weld, D., Vorvoreanu, M., Fourney, A., Nushi, B., Collisson, P., Suh, J., Iqbal, S., Bennett, P. N., Inkpen, K., Teevan, J., Kikin-Gil, R. y Horvitz, E. (2019). Guidelines for human-AI interaction. En Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems (pp. 1–13). ACM. Ver fuente: Amershi, S., Weld, D., Vorvoreanu, M., Fourney, A., Nushi, B., Collisson, P., Suh, J., Iqbal, S., Bennett, P. N., Inkpen, K., Teevan, J., Kikin-Gil, R. y Horvitz, E. (2019)
- Google PAIR (2019). People + AI Guidebook. Google. Ver fuente: Google PAIR (2019)
- Yang, Q., Steinfeld, A., Rosé, C. y Zimmerman, J. (2020). Re-examining whether, why, and how human-AI interaction is uniquely difficult to design. En Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems. ACM. Ver fuente: Yang, Q., Steinfeld, A., Rosé, C. y Zimmerman, J. (2020)
Última revisión: