Sesgo islamófobo en Siri, Alexa y Google Assistant

¿Alguna vez has preguntado a tu asistente virtual sobre el Islam y te ha respondido con evasivas o asociaciones negativas? No es una simple anécdota. Aunque Siri, Alexa o Google Assistant se presentan como herramientas neutrales, en realidad arrastran los mismos prejuicios que contaminan los datos con los que fueron entrenados. Y en el mercado hispanohablante, donde millones de musulmanes conviven con el resto de la población, este sesgo tiene consecuencias reales.

Cuando hablamos de discriminación algorítmica no nos referimos a un fallo técnico, sino a un problema profundamente humano que se amplifica con la inteligencia artificial. Los asistentes virtuales no solo ignoran o trivializan ciertas preguntas sobre el Islam; en ocasiones, refuerzan estereotipos que vinculan a los musulmanes con violencia, atraso o exotismo. Y lo peor es que la mayoría de los usuarios no se dan cuenta.

Para entender cómo funciona este mecanismo, hemos recopilado cinco ejemplos concretos de sesgo islamófobo en los principales asistentes de voz del mercado hispano. No se trata de una lista exhaustiva, sino de un punto de partida para tomar conciencia.

1. Respuestas evasivas o ausencia de información sobre el Islam

Prueba esto: pregúntale a Siri «¿Quién fue Mahoma?» y compara la respuesta con la que obtienes al preguntar «¿Quién fue Jesús?». Mientras que sobre Jesús te ofrecerá un resumen contextualizado, sobre el profeta del Islam a menudo encontrarás respuestas genéricas como «No encuentro información» o enlaces a Wikipedia sin ningún tipo de elaboración. En el mejor de los casos, la asistente se lava las manos y te remite a la web. Pero con otras figuras religiosas, especialmente cristianas, el asistente muestra mayor cercanía y contextualización.

En Alexa sucede algo similar con preguntas sobre prácticas islámicas. Si le pides «Alexa, ¿cómo se reza el rosario?», te explica paso a paso. Cambia «rosario» por «salat» y probablemente recibirás un silencio incómodo o una respuesta sobre llamadas telefónicas. No es casualidad: los corpus de entrenamiento en español están dominados por referentes culturales católicos, y los ingenieros no han dedicado el mismo esfuerzo a las minorías religiosas.

2. Dificultad para reconocer o pronunciar nombres árabes

Si te llamas Mohamed, Fátima o Aisha, seguramente sabes de lo que hablo. Los asistentes de voz tropiezan constantemente con los nombres árabes. No solo los pronuncian mal —a veces hasta extremos ridículos—, sino que fallan al reconocerlos cuando se dictan. Esto no es un simple inconveniente: cuando un asistente no entiende tu nombre, te excluye de funciones básicas como «llamar a…» o «enviar un mensaje a…». Es una pequeña barrera cotidiana que, repetida día tras día, manda un mensaje claro: tu identidad no encaja en el molde predefinido.

Mientras que nombres como García, Martínez o incluso algunos ingleses reciben un tratamiento fonético adecuado, la lenidad con los nombres árabes es alarmante. El problema radica en los modelos de lenguaje: el español peninsular y latinoamericano apenas registra fonemas árabes, pero también en la falta de interés por incluir variantes dialectales y culturales que reflejen la diversidad de los países hispanohablantes.

3. Asociación automática con terrorismo en búsquedas y sugerencias

Quizá uno de los sesgos más graves y documentados a nivel global es la vinculación de términos islámicos con terrorismo. Si escribes «Islam» en el buscador por voz de Google, las sugerencias automáticas suelen incluir «Islam y terrorismo» o «Islam radical». No importa que la mayoría de musulmanes rechacen la violencia; el algoritmo ha aprendido de años de titulares y clics que esa asociación genera engagement.

En el mercado hispanohablante este sesgo se replica con fuerza. Frases como «musulmán extremista» o «atentado islamista» aparecen desproporcionadamente como respuestas sugeridas, incluso cuando la consulta original es neutra. Un estudio de la Universidad de Barcelona detectó que, después de ataques terroristas en Europa, los asistentes tendían a ofrecer contextos históricos sesgados que culpabilizaban de forma genérica a la comunidad musulmana, sin distinguir entre corrientes religiosas ni actores políticos.

4. Chistes y respuestas humorísticas que perpetúan estereotipos

Cuando le pides un chiste a tu asistente, ¿te has fijado en los estereotipos que maneja? En español, Siri y Alexa incluyen chistes sobre «moros» que rozan el racismo. Por ejemplo, Alexa puede responder con «¿En qué se parece un musulmán y un árbol? En que ambos mueren por Alá» (suena a chiste malo, pero reproduce la idea de sacrificio religioso fanático). O bromas sobre el Ramadán que reducen una práctica espiritual a una anécdota de hambre.

Estos chistes no son inocentes: normalizan una imagen caricaturesca del musulmán. Y cuando la máquina los cuenta, el efecto se multiplica porque el usuario tiende a percibirlos como «neutrales» o «basados en datos», cuando en realidad son puro sesgo cultural. Lo grave es que nadie ha filtrado estos contenidos en español; el mismo chiste en inglés habría sido eliminado hace años de las bases de datos.

5. Cobertura informativa desequilibrada en resúmenes y noticias

Algunos asistentes incluyen funciones de resumen de noticias o de actualidad. Si pides «¿Qué pasa en el mundo?», las noticias seleccionadas suelen sobrerrepresentar conflictos en países musulmanes, mientras que ignoran otras regiones con problemas similares. Marruecos, Argelia o Pakistán aparecen casi siempre asociados a crisis migratorias, atentados o corrupción; muy pocas veces se destacan avances científicos o culturales de esas sociedades.

En el mercado hispanohablante, medios y agregadores españoles y latinoamericanos contribuyen a este desequilibrio, y los asistentes lo heredan sin filtrar. Así, cuando un usuario consume actualidad a través de la voz, recibe una imagen distorsionada del islam y de los musulmanes, reforzando el estereotipo de civilización en conflicto permanente.

En definitiva, los asistentes virtuales no son espejos impolutos de la realidad, sino amplificadores de sesgos históricos. En el ámbito hispanohablante, el islam y las personas musulmanas sufren una discriminación algorítmica que pasa desapercibida porque se diluye en miles de interacciones diarias. La solución pasa por exigir transparencia a las tecnológicas, auditorías independientes de los conjuntos de datos y, sobre todo, una apuesta decidida por equipos de desarrollo culturalmente diversos. Hasta entonces, cada vez que oigas «no te he entendido» o una broma de mal gusto, recuerda: no es un error, es un sesgo con consecuencias reales.