Chatbot IMV: eficiencia o discriminación algorítmica
Imagina que llevas meses esperando una ayuda vital. Subsistes con lo justo y, de repente, la Seguridad Social lanza un asistente virtual para agilizar tu solicitud del Ingreso Mínimo Vital. Suena bien, ¿no? Pero, ¿y si ese chatbot no solo acelera, sino que también decide por ti con un sesgo invisible? Últimamente eso es lo que ronda mi cabeza. Porque la tecnología puede ser un atajo maravilloso… o un coladero de injusticias automatizadas.
¿Qué es el Ingreso Mínimo Vital y por qué necesita un chatbot?
El Ingreso Mínimo Vital (IMV) es una prestación económica dirigida a hogares en situación de vulnerabilidad. Desde su puesta en marcha en 2020, ha acumulado más de un millón de solicitudes. Y, como era de esperar, la administración se vio saturada: expedientes atascados, esperas interminables y un aluvión de reclamaciones. Para poner orden, la Seguridad Social ha implantado un chatbot basado en inteligencia artificial que evalúa los casos, verifica datos y hasta propone resoluciones automáticas. La idea: reducir la burocracia y dar respuesta en días, no en meses.
La promesa de la eficiencia administrativa
No se puede negar que gestionar el IMV a mano es una locura. Cada solicitud requiere cruzar decenas de fuentes: padrón, rentas, patrimonio, composición familiar… Un trabajador humano puede tardar horas. El chatbot, en cambio, procesa todo en segundos. Además, según fuentes del Ministerio, el sistema aprende de cada caso y es capaz de detectar fraudes con mayor precisión. Los defensores del proyecto hablan de “justicia social acelerada”: quien realmente necesita la ayuda la recibe antes, sin papeleos absurdos. En teoría, una maravilla.
¿Cómo funciona realmente este asistente virtual?
El chatbot no es un mero contestador automático. Se integra con las bases de datos de la Agencia Tributaria, el SEPE y los registros autonómicos. Cuando un ciudadano presenta su solicitud, el sistema inicia un diálogo guiado para recabar información complementaria y, al mismo tiempo, puntúa el caso según un modelo de riesgo social previamente entrenado con datos históricos. Si la puntuación supera un umbral, se concede la ayuda de forma provisional; si no, puede derivarse a un revisor humano o directamente denegarse.
El riesgo de discriminación algorítmica
Pero aquí empiezan los escalofríos. Cualquier sistema de IA se alimenta de datos pasados. Y si esos datos ya contienen sesgos —por ejemplo, rechazos desproporcionados a ciertos colectivos— el chatbot los reproducirá automáticamente. Un estudio de la Universidad de Barcelona ya advirtió que los algoritmos de admisión del IMV podían penalizar a hogares monoparentales o a personas con trabajos informales esporádicos, simplemente porque los patrones estadísticos no encajaban en el "perfil tipo" de beneficiario.
Además, la opacidad es total. No sabemos exactamente qué variables pesan más en la decisión. ¿Vivir en un barrio concreto? ¿Apellidos asociados a minorías? ¿Número de veces que has cambiado de domicilio? El código fuente no se hace público y las explicaciones que da el sistema son genéricas: "no cumple los requisitos socioeconómicos" es la típica respuesta vacía. Si no puedes entender por qué te han denegado la ayuda, tampoco puedes defenderte. Y eso, en un Estado de derecho, es peligroso.
Casos reales que alimentan la sospecha
En otros países ya hemos visto desastres similares. El sistema de valoración de riesgos del programa de ayudas sociales de Indiana (EE.UU.) fue acusado de dejar sin cobertura a miles de familias por errores de programación que nadie supervisó adecuadamente. En España, organizaciones como la Plataforma por los Derechos Sociales han denunciado que el nuevo chatbot del IMV está provocando un aumento de resoluciones negativas que luego se revocan en vía de recurso, lo que sugiere que el sistema falla más de lo deseable.
¿Qué medidas de control existen?
La Seguridad Social defiende que el chatbot es solo una herramienta de apoyo y que siempre hay una validación humana final. Pero la realidad es que, con miles de expedientes diarios, esa revisión se limita a un clic de confirmación en los casos "muy claros". Y los criterios de claridad los fija el propio algoritmo. Es decir, corremos el riesgo de que se normalice una discriminación invisible y sistémica.
Por suerte, la Agencia Española de Protección de Datos ha solicitado una auditoría de impacto algorítmico, y el Defensor del Pueblo ha abierto una investigación. Quizás veamos pronto un sello de calidad que certifique que el sistema no es arbitrario. Pero mientras tanto, la incertidumbre sigue.
Conclusión: ni ángeles ni demonios, pero con lupa
No creo que haya que demonizar la tecnología. Un chatbot bien entrenado puede ser la diferencia entre cobrar una ayuda a tiempo o caer en la exclusión social. Pero no podemos permitir que la eficiencia se coma los derechos básicos. Necesitamos transparencia, supervisión independiente y mecanismos ágiles para corregir errores. La administración debe ser eficaz, sí, pero también humana. Y un algoritmo nunca debería tener la última palabra sobre un plato de comida.
