Sesgo algorítmico

Tendencia de un modelo a producir resultados injustos o discriminatorios, por los datos, las etiquetas, el diseño o el contexto de uso. Puede afectar a decisiones sensibles como crédito, contratación o justicia.

El sesgo algorítmico es la tendencia de un modelo a producir resultados injustos o desiguales para ciertos grupos, por los datos, las etiquetas, el diseño o el contexto de uso. Puede afectar decisiones sensibles como crédito, contratación, educación o justicia, donde un error no es solo técnico sino que recorta oportunidades.

Si los datos de entrenamiento reflejan desigualdades históricas, el modelo las reproduce o las amplifica. El problema puede ser sutil: el promedio general parece bueno mientras un segmento concreto concentra los fallos. Por eso no basta mirar la métrica global.

Actualizado: 2 de octubre de 2026.

De dónde viene

No es un fallo abstracto del algoritmo, sino de todo el proceso. Datos poco representativos, etiquetas con prejuicios humanos, muestreo incompleto y métricas que ignoran a minorías se combinan. Un sistema puede parecer correcto en conjunto y fallar de forma sistemática en un grupo.

En la práctica aparecen cuatro formas típicas, descritas aquí como ejemplos ilustrativos, no como casos medidos. Sesgo de representación: un asistente entrenado sobre todo con expresiones de un país entiende peor las de otro. Sesgo de etiquetado: revisores que califican distinto el mismo perfil según nombre o foto. Sesgo de medición: optimizar solo clics y premiar contenido sensacionalista aunque sea menos útil. Sesgo de despliegue: usar en contratación un modelo creado solo para ordenar documentos, sin validarlo para ese uso.

Cómo detectarlo y mitigarlo

Para auditarlo, define los grupos relevantes de tu caso, compara resultados por grupo y no solo el promedio, separa falsos positivos y falsos negativos, prueba con ejemplos reales de cada grupo y documenta dónde falla. Si un grupo concentra errores, hay pista de sesgo aunque la métrica global parezca sana.

Para mitigarlo, cura y equilibra los datos, amplía casos poco representados, audita por grupos de forma periódica, mejora la explicabilidad para ver qué señales usa el modelo y aplica IA responsable con revisión humana en decisiones sensibles. El sesgo no se elimina del todo; se reduce y se controla con mejores datos, evaluación continua y supervisión.

Quitar la variable sensible no siempre basta, porque otras variables actúan como sustitutas. Debes preocuparte más en crédito, empleo, educación, salud y justicia. Si usas IA en tu trabajo, empieza por un caso pequeño, verifica salidas con fuentes y registra errores por tipo de usuario antes de escalar.

Una auditoría pequeña, con números que puedas comprobar

Este es un ejercicio original con datos ficticios. No procede de un modelo ejecutado ni de una decisión real. Supón dos grupos comparables, A y B, con veinte casos que una revisión previa considera elegibles en cada grupo. El sistema acepta dieciocho del grupo A y catorce del grupo B.

La tasa conjunta de rechazo incorrecto sería 8 / 40 = 20 %. Ese promedio oculta la diferencia entre los grupos. La tabla solo analiza falsos negativos: para estudiar falsos positivos necesitarías también casos que no deberían aceptarse. Una muestra tan pequeña no demuestra por sí sola discriminación ni sirve para decidir sobre personas.

La práctica consiste en reconstruir las tres divisiones, comprobar si las etiquetas de elegibilidad son fiables y anotar qué otros datos faltan. Después escribe una propuesta de revisión: separar la evaluación por grupos relevantes, investigar las señales que usa el sistema y revisar manualmente los casos afectados antes de ampliar su uso. Trabaja con datos sintéticos o autorizados y evita copiar información personal a herramientas públicas.

Preguntas frecuentes

¿Todo error de un modelo es sesgo?

No. Un error aislado puede tener muchas causas. Hay una señal para investigar cuando el proceso produce diferencias sistemáticas o daños desiguales entre grupos o contextos. Compara tipos de error y condiciones de uso, documenta la incertidumbre y evita concluir a partir de una sola salida.

¿Basta con quitar una característica sensible?

No siempre. Otra variable puede funcionar como sustituta: una ubicación, una trayectoria o una forma de escribir pueden estar relacionadas con la característica retirada. Revisa datos, etiquetas, variables derivadas y resultados por grupo. Quitar una columna no sustituye la evaluación del sistema completo.

¿Una exactitud global alta demuestra que el sistema es justo?

No. El promedio puede esconder un grupo con más falsos positivos o falsos negativos, como ilustra la tabla. La medida adecuada depende del uso y del coste de cada error. Informa el tamaño de las muestras, las diferencias por grupo y las limitaciones; ninguna cifra única acredita justicia en todos los contextos.

¿La revisión humana elimina el problema?

Tampoco por sí sola. Las personas pueden compartir sesgos o aceptar una sugerencia sin comprobarla. La revisión necesita criterios claros, capacidad para corregir el resultado, un canal para impugnar decisiones y seguimiento de errores. Define quién responde por la decisión y cuándo debe detenerse el sistema.

Fuentes para continuar

El informe NIST SP 1270: identificación y gestión del sesgo en IA, publicado el 15 de marzo de 2022, examina el sesgo en el proceso sociotécnico completo. El AI Risk Management Framework 1.0 de NIST ofrece un marco voluntario para gobernar, identificar, medir y gestionar riesgos. Las fuentes se revisaron el 2 de octubre de 2026; no son una certificación de este ejemplo ni un diagnóstico de un sistema real.

Empieza gratis con ChatGPT para Principiantes, explora el catálogo de cursos o revisa los planes y precios.