En qué casos el inteligencia artificial más a menudo se equivoca: los límites del aprendizaje automático

Introducción: La naturaleza del error de IA como fenómeno sistémico

Los errores de los sistemas de inteligencia artificial (IA) basados en el aprendizaje automático (ML) no son fallos aleatorios, sino consecuencias lógicas de su arquitectura, método de aprendizaje y la diferencia fundamental con el conocimiento humano. A diferencia del humano, la IA no «entiende» el mundo en términos semánticos; detecta correlaciones estadísticas en los datos. Sus errores ocurren donde estas correlaciones se rompen, donde se requieren razonamientos abstractos, sentido común o comprensión del contexto. El análisis de estos errores es crucial para evaluar la fiabilidad de la IA y determinar los límites de su aplicación.

1. El problema del sesgo de datos (Data Bias) y las "leyes de Garbage In, Garbage Out"

La fuente más común y peligrosa de errores es el sesgo en los datos de entrenamiento. La IA asimila y amplifica los prejuicios existentes en los datos.

Irritaciones demográficas: El caso conocido del sistema de reconocimiento facial, que mostró una precisión mucho mayor para hombres blancos que para mujeres negras, porque fue entrenado con un conjunto de datos no proporcional. Aquí la IA no «se equivocó», sino que reprodujo exactamente el desequilibrio del mundo real, lo que llevó a un error en la aplicación en un entorno diverso.

Irritaciones semánticas: Si en los datos de entrenamiento de un modelo de texto, la combinación de palabras «enfermera» se asocia con el pronombre «ella» con mayor frecuencia que con el pronombre «él» para la palabra «programador», el modelo generará textos que reproducen estos estereotipos de género, incluso si no se indica el género en la consulta. Esto es un error a nivel de contexto social que la modelo no comprende.

Hecho interesante: En las ciencias de la computación opera el principio de «Garbage In, Garbage Out» (GIGO) — «materiales de baja calidad en la entrada, materiales de baja calidad en la salida». Para la IA se ha transformado en un principio más profundo de «Bias In, Bias Out» — «sesgo en la entrada, sesgo en la salida». El sistema no puede superar las limitaciones de los datos en los que se entrenó.

2. Ataques adversarios: hackeo para IA

Se trata de cambios premeditados y a menudo no perceptibles para el humano en los datos de entrada, que llevan a conclusiones erróneas y radicales de la IA.

Ejemplo con imagen: Poner una pegatina de un color y forma específicos en un signo de «PARADO» puede hacer que un sistema de visión automática clasifique su como un signo de «restricción de velocidad». Para el humano, el signo seguirá siendo claramente identificable.

Mecanismo: Los ejemplos adversarios explotan las «zonas ciegas» en el espacio de características de alta dimensión de la modelo. La IA percibe el mundo no como objetos enteros, sino como un conjunto de patrones estadísticos. Una «interferencia» mínima pero estratégicamente correcta mueve el punto de datos en el espacio de características a través del límite de la solución de la modelo, cambiando la clasificación.

3. Problemas con la generalización y el «mundo en una caja»

La IA, especialmente las redes neuronales profundas, tienden a sobrenadear (overfitting) — recuerdan no las leyes generales, sino ejemplos específicos de la muestra de entrenamiento, incluido el ruido.

Errores en datos de otro distribución: Una modelo entrenada en fotografías de perros y gatos tomadas durante el día en el hogar puede perder completamente su precisión si se le da una imagen infrarroja nocturna o un dibujo animado. No ha identificado el concepto abstracto de «gato», sino que ha aprendido a responder a patrones específicos de píxeles.