El Inspector Jefe Independiente de Fronteras e Inmigración del Reino Unido estudia si debe investigar el uso de herramientas de IA del Ministerio del Interior en casos de asilo. El organismo de supervisión pidió información al grupo de derechos digitales Open Rights Group (ORG) mientras prepara sus prioridades de inspección para el próximo año, dijo a WIRED Sara Alsherif, activista de ORG. El inspector dijo a WIRED que no podía confirmar qué temas está considerando activamente, pero señaló que conoce las inquietudes sobre estas herramientas.
El Ministerio del Interior usa dos herramientas basadas en GPT-4 de OpenAI y Microsoft Foundry: Asylum Case Summarisation (ACS), que resume las transcripciones de entrevistas de asilo, y Asylum Policy Search (APS), que busca y resume información sobre los países de origen de los solicitantes. El departamento empezó a probarlas a finales de 2024, mientras tramitaba un retraso acumulado de unos 100,000 casos. Según las estimaciones del Gobierno durante la prueba, el uso conjunto de ambas herramientas podría ahorrar aproximadamente una hora por caso. El Ministerio del Interior afirma que las decisiones de asilo las toman funcionarios capacitados y que las herramientas no pueden resolver las solicitudes por sí solas.
¿Cuáles son las preocupaciones?
La investigación de ORG, de seis meses, concluyó que la proporción de resúmenes de ACS considerados inadecuados para su uso fue significativamente superior a la tasa de error del 9 por ciento indicada en la evaluación piloto. También constató que no había controles de calidad para los resúmenes de APS. El Ministerio del Interior afirma que supervisa las herramientas y se ha comprometido a publicar evaluaciones actualizadas, pero WIRED informa que el departamento no ha compartido con ORG los detalles solicitados sobre cómo el personal utiliza las herramientas ni sobre la capacitación que recibe para usarlas.
Los riesgos son importantes porque los funcionarios recurren a los resúmenes y las búsquedas de políticas para evaluar si los solicitantes correrían peligro si regresaran a su país. En julio, un juez del Reino Unido criticó al Ministerio del Interior por citar un documento “alucinado por la IA” al rechazar la solicitud de asilo de una mujer marroquí y su hijo. Investigadores y legisladores también han advertido que los errores o la pérdida de contexto cultural podrían influir en las decisiones.
Las herramientas no figuran en el registro público
El manual de IA del Reino Unido establece que los departamentos gubernamentales deben informar sobre las herramientas algorítmicas que utilizan para tomar decisiones e incluirlas en un registro público. ACS y APS no aparecen en él y, según WIRED, no se informa a los solicitantes de asilo cuando se usan estas herramientas en sus casos. ORG y Public Law Project han planteado sus inquietudes al regulador de datos, que investiga la negativa del Ministerio del Interior a proporcionar información a ORG. Abogados contratados por ORG han señalado que impedir que los solicitantes impugnen resúmenes incorrectos podría infringir la legislación sobre derechos de datos.
El inspector no ha confirmado que vaya a abrir una investigación. Otra preocupación es que ACS y APS forman parte de los 11 sistemas gubernamentales de IA de alto riesgo que, según Public Law Project, no figuran en el registro público. OpenAI dijo a WIRED que trabaja para mejorar la precisión de sus modelos y que prevé retirar GPT-4 en enero.
Por qué importa
Para quienes solicitan asilo en el Reino Unido, los resúmenes generados por IA y las búsquedas de políticas pueden influir en el material que revisan los funcionarios, aunque el Ministerio del Interior afirma que las decisiones las toman personas. El organismo de supervisión estudia una revisión, pero no ha confirmado que vaya a investigar, y no se informa a los solicitantes cuando se utilizan estas herramientas en sus casos.
