Toma de decisiones con datos + IA
Auditar no es desconfiar de todo lo que la IA produce; es verificar antes de actuar.
Juzgar la confiabilidad de un resultado obtenido con IA y comunicar una decisión de la que alguien deberá responder, auditando de forma proporcional al riesgo y declarando la incertidumbre en la recomendación.
Obtener respuestas de una IA y explorar alternativas es apenas la mitad del trabajo de decidir. La otra mitad —la que desarrolla esta unidad— ocurre sobre un terreno más resbaladizo: comprobar si esas respuestas son confiables y lograr que la decisión resultante sea aceptada por quien tiene que aprobarla.
El motivo es simple: explorar bien no garantiza decidir bien. Una alternativa que parece sólida puede apoyarse en una cifra que la IA inventó sin que nadie lo note, y la recomendación mejor razonada no cambia nada si la persona que debe aprobarla no la entiende o no confía en ella. Los dos temas de esta unidad atacan justo esos dos riesgos: primero aprenderás a auditar lo que la IA te devuelve; después, a comunicar tu recomendación de modo que alguien pueda usarla.
Auditar no es desconfiar de todo lo que la IA produce; es verificar antes de actuar. La desconfianza total paraliza; la auditoría sistemática protege.
Juzgar la confiabilidad de un resultado obtenido con IA y comunicar una decisión de la que alguien deberá responder, auditando de forma proporcional al riesgo y declarando la incertidumbre en la recomendación.
El mismo público de la Unidad 1: profesionales de cualquier disciplina que deban tomar decisiones apoyadas en datos y en herramientas de IA generativa, sin que se requiera formación técnica previa en análisis de datos.
Auditar críticamente los resultados que entrega una IA, reconociendo la alucinación y el sesgo de automatización, y aplicando la técnica de las tres fuentes de forma proporcional al riesgo de la decisión.
Construir y comunicar una recomendación en el lenguaje de quien decide, con el criterio explícito, la incertidumbre declarada y un siguiente paso concreto.
Conviene tener a la vista el mapa completo. Toda decisión apoyada en datos e IA puede ordenarse en un ciclo de cuatro pasos que guía el pensamiento cuando la información no ofrece una respuesta obvia. No es una fórmula rígida, sino una forma de proceder.
Decidir qué significaría "una buena decisión" antes de mirar los datos.
Usar la IA para generar y comparar alternativas, no para que decida por uno.
Contrastar lo que arrojó la IA contra al menos una fuente o supuesto verificable.
Presentar la recomendación de forma que alguien que decide pueda confiar en ella.
Esta unidad desarrolla los pasos 3 y 4: auditar el resultado y comunicar la recomendación. Para verlos en acción, tomamos un caso.
Un equipo de mercadeo debe decidir si renueva o cancela una campaña digital de seis semanas cuyo desempeño parece mixto. Ya le pidió a una IA que analizara los datos, y esta señaló que dos de las seis semanas coincidieron con un feriado. El equipo debe decidir si confiar en esa explicación.
El equipo no la acepta de inmediato. Aplica la técnica de las tres fuentes: revisa el calendario interno de campañas anteriores y confirma que, en efecto, campañas pasadas cayeron de forma parecida en semanas de feriado. La afirmación de la IA queda verificada, no solo aceptada.
Con eso, el equipo la presenta a su gerente en una sola idea clara: el costo por cliente está por encima del promedio, pero dos de las seis semanas coinciden con un feriado que históricamente afecta ese indicador; por eso se recomienda extender la campaña dos semanas más antes de decidir, en lugar de cancelarla ahora. La recomendación declara la incertidumbre en vez de esconderla y propone un siguiente paso concreto.
Visto así, auditar y comunicar no son pasos técnicos ni formales: son los que convierten un análisis en una decisión que alguien puede respaldar. Este mismo recorrido es el que trabajarás en los dos temas de esta unidad.
Instalar el hábito de verificar antes de actuar, distinguiendo la auditoría sistemática de la desconfianza total.
Audita los resultados obtenidos con IA mediante la técnica de las tres fuentes, reconociendo alucinación y sesgo de automatización.
Este es el tema con más peso del curso y el que más lo distingue de una introducción genérica a la IA. Auditar un resultado no significa desconfiar de todo lo que la IA produce; significa verificar antes de actuar.
La diferencia es sutil, pero decisiva.
Vale la pena ponerles nombre a dos fenómenos, porque nombrarlos es lo que permite reconocerlos a tiempo:
La IA puede presentar información con toda la apariencia de certeza —cifras, nombres, referencias— que sencillamente no es correcta. No es un error de cálculo: su función es producir texto plausible, no comprobar hechos. La defensa es siempre la misma: toda cifra o afirmación que vaya a sostener una decisión debe poder verificarse contra una fuente ajena a la IA.
Es la tendencia a confiar más en una recomendación por el solo hecho de venir de un sistema. Es el error inverso al anterior: no es que la IA mienta, es que bajamos la guardia frente a ella más de lo que la bajaríamos frente a un colega.
La auditoría que enseña este tema cabe en tres preguntas, pensadas para volverse un hábito y no una lista que se llena una sola vez: ¿esto se puede verificar en algo que no sea la propia IA?, ¿qué pasaría si esta cifra estuviera mal? y ¿esta recomendación depende de un contexto que la IA no podía conocer?
No se audita porque la IA sea mala. Se audita porque ninguna decisión seria se sostiene solo en la palabra de quien la sugirió —humano o artificial.
Una forma práctica de instalar el hábito es la técnica de las tres fuentes: antes de aceptar una afirmación relevante de la IA, busca confirmarla con al menos una de tres fuentes independientes. Si ninguna de las tres la confirma, esa afirmación no debería sostener la decisión: se trata como hipótesis, no como hecho.
Un reporte, un sistema, una cifra propia de la organización.
Alguien que conoce el tema desde la práctica y puede confirmar o refutar la afirmación.
Un documento oficial, un proveedor, una norma.
Si ninguna de las tres confirma la afirmación, esa afirmación no debería sostener la decisión: se trata como hipótesis, no como hecho.
Queda una objeción razonable: «si tengo que verificar todo, ¿para qué uso la IA?». La respuesta es que la auditoría es proporcional al riesgo de la decisión. Calibrar ese esfuerzo —cuánto auditar según cuánto está en juego— es, en sí mismo, parte de la competencia.
Estos fenómenos están bien documentados en la investigación. El sesgo de automatización fue descrito en la literatura de factores humanos como la tendencia a aceptar la salida de un sistema automatizado sin verificarla, sobre todo cuando reduce la carga de trabajo (Parasuraman y Riley, 1997; Skitka et al., 1999).
La producción de afirmaciones falsas con apariencia de veracidad —la “alucinación”— es un fenómeno reconocido y sistematizado en los modelos de lenguaje (Ji et al., 2023). Y la exigencia de fijar el criterio antes de mirar los datos responde al sesgo de confirmación, uno de los más persistentes de la cognición humana (Nickerson, 1998; Kahneman, 2011). Nombrar y verificar no es desconfianza: es la contramedida que la evidencia respalda.
El sesgo de automatización no nació con la inteligencia artificial: se describió en la investigación de factores humanos de los años noventa, al estudiar por qué los operadores de sistemas automatizados aceptaban sus indicaciones sin verificarlas, sobre todo cuando hacerlo les reducía la carga de trabajo.
Fuente: Parasuraman, R. y Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230-253.
En un experimento de prescripción electrónica con 120 estudiantes de medicina, cuando el sistema de apoyo entregaba recomendaciones incorrectas, entre 51,7 % y 65,8 % de los participantes cometió errores de comisión al aceptar alertas falsas. El hallazgo ilustra que una interfaz convincente no reemplaza la verificación.
Fuente: Lyell, D., Magrabi, F., Raban, M. Z., Pont, L. G., Baysari, M. T., Day, R. O. y Coiera, E. (2017). Automation bias in electronic prescribing. BMC Medical Informatics and Decision Making, 17, 28.
Aceptar una cifra bien presentada sin contrastarla, porque venía acompañada de nombres y referencias que le daban apariencia de certeza.
Toda cifra o afirmación que vaya a sostener una decisión debe poder verificarse contra una fuente ajena a la herramienta; si no se logra, se declara explícitamente como hipótesis.
La automatización puede mejorar el desempeño cuando acierta y, al mismo tiempo, introducir errores nuevos cuando falla. Auditar no consiste en repetir todo el análisis: consiste en concentrar la verificación en las afirmaciones que cambian la decisión o cuyo error tendría mayor impacto.
Para cada afirmación crítica se deja registro de la fuente independiente consultada o, si no pudo verificarse, se marca explícitamente como hipótesis.
Frente a la objeción razonable de que verificarlo todo anularía la utilidad de la herramienta, la respuesta es que la auditoría es proporcional al riesgo de la decisión.
Verificar de forma exhaustiva lo que sea difícil de revertir o tenga consecuencias altas.
Aplicar el mismo nivel de verificación a una decisión reversible y de bajo impacto, porque el costo supera el beneficio.
Piensa en la última vez que usaste una IA para resolver algo importante en tu trabajo. ¿Verificaste alguna de sus afirmaciones antes de actuar? Si no lo hiciste, ¿qué habría tenido que pasar para que sí lo hicieras?
La demostración muestra cómo puede introducirse sesgo en un sistema de apoyo a decisiones basado en inteligencia artificial mediante dos modelos con resultados diferentes.
Se conecta con Parasuraman y Riley (1997) y Skitka et al. (1999), al evidenciar por qué una salida automatizada debe auditarse antes de utilizarla para sustentar una decisión.
Si una recomendación automatizada parece convincente, ¿qué dato o supuesto verificaría primero, con cuál fuente independiente y qué cambiaría en su decisión si la verificación contradice al sistema?
Sostener una idea frente a alguien que tiene el poder de aceptarla o rechazarla, conectando el trabajo analítico previo con la habilidad de comunicarlo con claridad.
Construye y comunica una recomendación en el lenguaje de quien decide, declarando el criterio, la incertidumbre y el siguiente paso.
Una recomendación técnicamente correcta que no logra comunicarse con claridad tiene, en la práctica, el mismo efecto que una equivocada: no se usa.
Este tema conecta el trabajo analítico de los temas anteriores con una habilidad que suele subestimarse: sostener una idea frente a alguien que tiene el poder de aceptarla o rechazarla.
Frente a quien tiene que aprobarla:
El contraste se ve en un ejemplo:
“El modelo predictivo sugiere una probabilidad de 63 % de mejora en retención”.
“Con los datos que tenemos, es más probable que esto funcione que que no funcione, y el riesgo si no funciona es bajo”.
Las dos frases dicen lo mismo, pero la segunda está en el idioma de quien tiene que decidir, no en el de quien tiene que auditar el modelo.
Declarar la incertidumbre, lejos de debilitar el mensaje, coincide con lo que muestra la investigación sobre comunicación de la incertidumbre: hacerlo de forma explícita y honesta tiende a preservar la confianza de la audiencia en lugar de erosionarla (Spiegelhalter, 2017; van der Bles et al., 2019). Además, el reto de esta unidad pide llevar el criterio y el hábito de auditoría a un contexto distinto; esa capacidad de aplicar lo aprendido en una situación nueva es lo que la teoría del aprendizaje denomina transferencia, y no ocurre de forma automática: se favorece cuando el aprendiz reconoce de manera explícita qué se mantiene y qué cambia entre un contexto y otro (Perkins y Salomon, 1992).
La intuición dice que admitir incertidumbre debilita un mensaje, pero la investigación sobre comunicación de la incertidumbre muestra lo contrario: expresarla de forma explícita y honesta tiende a preservar la confianza de la audiencia en lugar de erosionarla.
Fuente: van der Bles, A. M., van der Linden, S., Freeman, A. L. J., Mitchell, J., Galvão, A. B., Zaval, L. y Spiegelhalter, D. J. (2019). Communicating uncertainty about facts, numbers and science. Royal Society Open Science, 6(5), 181870.
Un estudio internacional con 10.519 participantes encontró que expresar la incertidumbre estadística mediante un rango numérico podía reducir ligeramente la confianza en la cifra, pero no reducía la confianza en la fuente. La evidencia respalda comunicar la incertidumbre de forma cuantificada, en lugar de ocultarla o expresarla con frases vagas.
Fuente: Kerr, J., van der Bles, A.-M., Dryhurst, S., Schneider, C. R., Chopurian, V., Freeman, A. L. J. y van der Linden, S. (2023). The effects of communicating uncertainty around statistics, on public trust. Royal Society Open Science, 10(11), 230604.
Presentar la recomendación con el vocabulario del análisis, de modo que quien decide entiende el método pero no el impacto ni el siguiente paso.
La recomendación debe poder leerse en voz alta a quien aprueba y quedar clara sin explicación adicional, declarando qué se propone, con qué grado de certeza y qué hacer a continuación.
Cuando exista incertidumbre cuantificable, exprésela con un rango, una condición o un escenario y vincúlela con el siguiente paso. Decir solamente «no estamos seguros» informa menos y puede debilitar la confianza.
La recomendación indica qué se propone, con qué evidencia se sostiene, qué incertidumbre permanece y qué acción permitiría reducirla o gestionar el riesgo.
Llevar el criterio y el hábito de auditoría a un contexto distinto del que se aprendió es lo que la teoría del aprendizaje denomina transferencia, y no ocurre de forma automática.
Nombrar explícitamente qué se mantiene y qué cambia al pasar de un caso a otro, al llevar el criterio y el hábito de auditoría a un contexto distinto del que se aprendió (transferencia, que no ocurre de forma automática).
Suponer que quien resolvió bien el caso de la campaña sabrá resolver por sí solo uno de logística o de talento humano.
Piensa en la última recomendación que presentaste en tu trabajo. ¿La persona que te escuchó entendió el nivel de certeza real que tenías, o quedó con la impresión de que estabas más seguro de lo que en verdad estabas?
Fuentes citadas a lo largo de la unidad, en formato APA.
Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., y Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1-38.
Kahneman, D. (2011). Thinking, fast and slow. Farrar, Straus and Giroux.
Kerr, J., van der Bles, A.-M., Dryhurst, S., Schneider, C. R., Chopurian, V., Freeman, A. L. J. y van der Linden, S. (2023). The effects of communicating uncertainty around statistics, on public trust. Royal Society Open Science, 10(11), 230604. https://doi.org/10.1098/rsos.230604
Lyell, D., Magrabi, F., Raban, M. Z., Pont, L. G., Baysari, M. T., Day, R. O. y Coiera, E. (2017). Automation bias in electronic prescribing. BMC Medical Informatics and Decision Making, 17, 28. https://doi.org/10.1186/s12911-017-0425-5
Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises. Review of General Psychology, 2(2), 175-220.
Parasuraman, R., y Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230-253.
Perkins, D. N., y Salomon, G. (1992). Transfer of learning. En T. Husén y T. N. Postlethwaite (Eds.), International encyclopedia of education (2.ª ed.). Pergamon Press.
Skitka, L. J., Mosier, K. L., y Burdick, M. (1999). Does automation bias decision-making? International Journal of Human-Computer Studies, 51(5), 991-1006.
Spiegelhalter, D. (2017). Risk and uncertainty communication. Annual Review of Statistics and Its Application, 4, 31-60.
van der Bles, A. M., van der Linden, S., Freeman, A. L. J., Mitchell, J., Galvão, A. B., Zaval, L., y Spiegelhalter, D. J. (2019). Communicating uncertainty about facts, numbers and science. Royal Society Open Science, 6(5), 181870.
Unidad 2 del curso Toma de decisiones con datos + IA, producida por Scala Learning. Maquetada aquí como demostración de la línea gráfica de Universidad Andina Virtual · Escuela de Posgrado.