En la primera parte de nuestro informe "La nueva configuración de las amenazas de identidad", analizamos cómo está cambiando el panorama general de las amenazas: agentes de IA que actúan en nombre de los usuarios, suplantación mediante deepfakes, comportamiento programado mediante scripts y visibilidad limitada de la actividad asistida por IA.
En este artículo, analizaremos qué sucede después: cómo responden los equipos cuando resulta más difícil confiar en las verificaciones de identidad. Por ejemplo, descubrimos que el 92 % de las organizaciones informa de consecuencias derivadas de resultados incorrectos de verificación de identidad, incluidas pérdidas financieras, exposición a riesgos regulatorios o de cumplimiento normativo, daños reputacionales, interrupciones operativas y pérdida de clientes.
Por eso, el aspecto operativo de la verificación de identidad es ahora más importante que nunca. Cuando la actividad asistida por IA entra en el flujo de verificación, los equipos necesitan saber si los datos biométricos se capturaron en vivo, si la sesión mostró indicios de automatización y quién es responsable de responder si algo sale mal.
Estos son datos originales del estudio global de Regula sobre la actividad de identidad asistida por IA y los riesgos de identidad en los sectores de banca, servicios financieros, criptomonedas, telecomunicaciones, gobierno y videojuegos en el Reino Unido, Estados Unidos, Alemania, Singapur, Emiratos Árabes Unidos, Brasil y México.
Suscríbase para recibir un resumen quincenal del blog de Regula
Los controles de presencia humana son habituales, PERO la confianza en ellos es limitada
El 76 % de las organizaciones afirmó disponer de capacidades para verificar la presencia humana.
Sin embargo, solo el 48 % considera que estas capacidades son fiables.
La mayoría de los equipos ya dispone de algún tipo de control técnico diseñado para verificar que una persona real está presente durante la verificación remota de identidad. Sin embargo, la situación se complica un poco cuando la interacción puede dejar de ser una “sesión humana” normal. Los actores asistidos por IA ahora pueden avanzar por los flujos de incorporación de clientes, inicio de sesión, recuperación de cuentas, soporte o transacciones de maneras que, desde la perspectiva del producto, se asemejan al comportamiento de un usuario, mientras que no está claro quién es el actor real detrás de la sesión.
El principal riesgo aquí ni siquiera es el fraude en sí, sino la clasificación incorrecta: la asistencia legítima puede enviarse a revisión por fraude, mientras que los abusos programados mediante scripts pueden confundirse con las dificultades habituales de los usuarios si el sistema de verificación de identidad presenta deficiencias. Por eso, los controles de presencia humana deben conservar suficiente contexto para determinar si la interacción estuvo controlada por el usuario, fue asistida, automatizada, manipulada o sigue siendo incierta.
Algunos datos que conviene supervisar para garantizar controles fiables de presencia humana:
-
Ruta de captura: ruta de cámara esperada, señales de cámaras virtuales, uso de emuladores, actividad de escritorio remoto, inyección en el navegador, indicadores de malware y rutas de captura alteradas.
-
Profundidad de la prueba de vida: cobertura frente a fotografías, máscaras, reproducción de contenido en pantallas, videos pregrabados, intercambios de rostros, rostros generados y ataques de inyección.
-
Continuidad de la sesión: coherencia entre la persona, el documento, el dispositivo, la marca de tiempo y el intento de verificación, incluidos los reintentos, las transferencias, los cambios de dispositivo y los fallos repetidos.
-
Comportamiento automatizado: tiempos programados mediante scripts, patrones de interacción copiados, secuencias inusuales de reintentos, intentos masivos o indicios de que el usuario ya no controlaba directamente la sesión.
-
Asistencia permitida: herramientas de accesibilidad, ayuda con la traducción, gestores de contraseñas, flujos guiados por el servicio de soporte y delegados autorizados, diferenciados de la automatización utilizada para probar o eludir controles.
-
Evidencias para revisión: reglas activadas, resultados de la prueba de vida, hallazgos sobre la ruta de captura, historial de reintentos, notas de los revisores y justificación final de cada resultado de aprobación, rechazo o revisión manual.
Por lo tanto, los controles de presencia humana más sólidos combinarán políticas y evidencias. Las políticas definen qué acciones asistidas son aceptables y cuáles requieren una verificación adicional. Las evidencias muestran si los datos biométricos se capturaron en vivo, a través de una ruta confiable y durante la misma sesión, con suficiente contexto para justificar la decisión después de un caso de fraude, una reclamación, una solicitud de auditoría o una consulta de un regulador.
Las verificaciones biométricas están implementadas, PERO sigue siendo difícil demostrar de forma concluyente que la captura se realizó en vivo
Solo el 46 % de las organizaciones afirma que puede verificar completamente que los datos biométricos se capturaron en vivo.
Otro 52 % dispone de una verificación parcial o no cuenta con ella, mientras que el 2 % no está seguro.
Está claro que la gran mayoría de las organizaciones dispone de controles biométricos, pero, al mismo tiempo, no todas pueden demostrar plenamente la integridad del proceso de captura.
Como resultado, una coincidencia biométrica puede parecer convincente y, aun así, basarse en una integridad de captura deficiente. Los contenidos grabados, los ataques de inyección, las máscaras, los rostros generados, los flujos manipulados y las rutas de captura comprometidas cuestionan la suposición de que la persona estuvo físicamente presente durante la verificación.
Los elementos que probablemente faltan son la detección de ataques de presentación, la resistencia a la inyección de señales, la vinculación de la sesión, el análisis de calidad y reintentos, y la conservación de evidencias.
El equipo debe conocer perfectamente qué tipos de ataques se someten a pruebas, si existe protección contra la inyección de cámara, cómo se vincula la captura en vivo con el documento y la sesión, qué sucede después de obtener resultados con un nivel de confianza bajo y qué evidencias se conservan para una auditoría. Un buen control debe ayudar al equipo a determinar si la persona estuvo presente, si los datos biométricos llegaron a través de una ruta confiable y si la decisión puede justificarse posteriormente.
Sin embargo, los equipos también deben considerar el impacto empresarial: unos controles de prueba de vida más sólidos pueden reducir las falsas aceptaciones, pero una configuración deficiente puede aumentar las dificultades para los usuarios o los falsos rechazos. Por eso, deben establecerse reglas basadas en el riesgo: verificaciones de prueba de vida para las sesiones de mayor riesgo, activadores de revisión para capturas con un nivel de confianza bajo y una justificación documentada de cualquier anulación manual.
Existe capacidad para detectar contenido sintético, PERO la cobertura suele ser parcial
El 58 % de las organizaciones afirma disponer de capacidades consolidadas para detectar contenido generado o manipulado mediante IA.
El 41 % sigue informando de capacidades parciales o inexistentes.
Esto no resulta especialmente sorprendente, ya que los equipos de KYC se enfrentan constantemente a una amplia variedad de riesgos relacionados con la IA, y no siempre es fácil disponer de una protección completa frente a todas las herramientas que tienen a su disposición los defraudadores.
Las deficiencias suelen encontrarse en:
-
Detección de contenido sintético para rostros, videos, selfies e imágenes alteradas generados mediante IA.
-
Detección de manipulación documental para escaneos manipulados, documentos de identidad generados, campos alterados e imágenes de documentos reutilizadas.
-
Resistencia a ataques de inyección y reproducción para impedir que los atacantes eludan la captura mediante cámara o envíen contenido pregrabado.
-
Verificaciones de prueba de vida vinculadas a la sesión en lugar de una comprobación biométrica genérica sin pruebas de captura en vivo.
-
Análisis de sesiones y dispositivos para detectar patrones de automatización, uso de emuladores, reintentos sospechosos o tiempos programados mediante scripts.
-
Conservación de evidencias a nivel de caso para que los analistas puedan comprender por qué se marcó una sesión como sospechosa y justificar posteriormente la decisión.
La recomendación aquí es considerar la detección de contenido generado mediante IA no como una funcionalidad independiente, sino como una parte fundamental de toda la decisión de identidad.
Para evaluar su propia eficacia, puede tomar una sesión de incorporación sospechosa y preguntarse si el equipo puede reconstruir por qué se permitió, rechazó o escaló. Si la respuesta depende de registros dispersos, resultados faltantes de proveedores o notas de analistas sin evidencias que las respalden, es posible que la capacidad de detección exista desde el punto de vista técnico, pero esté incompleta desde el punto de vista operativo.
La mayoría de las decisiones de identidad son rastreables, PERO solo la mitad pueden reconstruirse por completo
El 92 % de las organizaciones afirma que las decisiones de identidad pueden reconstruirse total o mayoritariamente.
Pero solo el 50 % puede rastrear toda la cadena de decisiones de principio a fin.
Existe una diferencia entre saber que se tomó una decisión y poder reconstruir por qué se tomó. Muchos equipos están cerca de lograr lo primero; menos pueden demostrar plenamente lo segundo.
Esta brecha cobra importancia en los casos de identidad asistida por IA porque los detalles que faltan suelen ser precisamente los que explican el riesgo. Si el equipo no puede consultar la ruta de captura, el historial de reintentos, el resultado de la prueba de vida, el contexto del dispositivo, la acción del revisor, el umbral activo o el motivo de una anulación, es posible que el expediente contenga muy poca información para explicar la decisión final.
Esto significa que la reconstrucción de decisiones debe conectar las evidencias de identidad, los resultados de verificación, los indicadores de riesgo relacionados con la IA, las acciones de revisión y el contexto operativo en un único expediente. Sin esto, la organización podría ser capaz de reconstruir el recorrido de un caso, pero no el razonamiento que sustentó la decisión.
Una decisión que puede reconstruirse en su mayor parte puede ser suficiente para resolver problemas rutinarios, pero podría resultar insuficiente cuando esa misma decisión sea cuestionada por un regulador, auditor, tribunal, cliente, socio o equipo interno de prevención del fraude.
La siguiente pregunta es si las organizaciones pueden convertir sus registros internos de trazabilidad en evidencias aptas para auditoría.
El escrutinio externo es habitual, PERO la disponibilidad de evidencias aptas para auditoría sigue siendo insuficiente
El 82 % de las organizaciones ha tenido que justificar externamente sus decisiones de identidad.
Al mismo tiempo, solo el 56 % afirma haber proporcionado evidencias técnicas aptas para auditoría.
Cada vez es más importante que las empresas puedan justificar sus decisiones ante una investigación regulatoria. Sin embargo, la diferencia de 26 puntos porcentuales demuestra que no todas las empresas han logrado adaptarse a unas normas de cumplimiento cada vez más exigentes.
Más concretamente, esta brecha suele existir porque los datos de verificación de identidad están dispersos. Un proveedor puede conservar las evidencias de captura, otro puede almacenar los resultados de la prueba de vida, un sistema antifraude puede contener indicadores del dispositivo o del comportamiento, una herramienta de gestión de casos puede guardar las notas de los analistas y un sistema de cumplimiento normativo puede registrar la decisión final sobre el riesgo del cliente.
Incluso cuando todas las verificaciones se ejecutaron correctamente, la organización puede tener dificultades para reconstruir posteriormente la cadena si las marcas de tiempo, las reglas activadas, los resultados de los modelos, las notas de los revisores y las respuestas de los proveedores no se conservaron en un único expediente que permita justificar la decisión.
Idealmente, las evidencias aptas para auditoría deberían mostrar:
-
qué evidencias de identidad se presentaron;
-
si se realizaron verificaciones documentales, biométricas, de prueba de vida, de sanciones y de fraude;
-
qué advertencias, reglas de riesgo o resultados de modelos influyeron en la decisión;
-
si se sospechó la presencia de contenido generado mediante IA, evidencias sintéticas, ataques de inyección, reproducción o comportamiento programado mediante scripts;
-
si el caso se aprobó automáticamente, se rechazó automáticamente, se escaló o se revisó manualmente;
-
quién revisó o anuló la decisión;
-
qué herramientas de proveedores, umbrales y políticas estaban activos en ese momento;
-
qué justificación final quedó registrada.
Conciencia generalizada sobre los errores de identidad relacionados con la IA, PERO sin una responsabilidad claramente definida
La responsabilidad por las decisiones de identidad incorrectas impulsadas por IA se distribuye casi por igual: el 27 % de los encuestados señala a la dirección empresarial, otro 27 % a los equipos de seguridad y otro 27 % a los equipos de riesgos y cumplimiento normativo.
Teniendo en cuenta el nivel extremadamente alto de preocupación por las amenazas de identidad que observamos en la primera parte (98 %), resulta alarmante que la responsabilidad percibida por las respuestas incorrectas a estas amenazas esté tan repartida.
Cabe señalar que la cifra del 98 % se refiere a la preocupación por las amenazas relacionadas con la identidad en general, mientras que la pregunta sobre la responsabilidad se centra específicamente en las decisiones de identidad impulsadas por IA.
Aun así, creemos que este hecho no invalida el razonamiento: una conciencia generalizada del riesgo no se traduce automáticamente en una responsabilidad claramente definida.
Por un lado, esta distribución es completamente comprensible: las decisiones de identidad relacionadas con la IA involucran a muchos actores al mismo tiempo. Los equipos comerciales se centran en la conversión y la experiencia del cliente, los equipos de riesgos y cumplimiento normativo son responsables de las políticas de KYC y de la exposición a auditorías, los equipos de seguridad supervisan los abusos y la apropiación de cuentas, y los proveedores suelen aportar las verificaciones o los datos que sustentan la decisión.
Por otro lado, una preocupación compartida puede convertirse fácilmente en una ambigüedad compartida.
Esto genera varios riesgos:
-
Respuesta lenta después de los incidentes: los equipos dedican tiempo a asignar responsabilidades o reconstruir quién tenía autoridad, en lugar de corregir umbrales, reglas o configuraciones de proveedores.
-
Decisiones incoherentes: los analistas pueden tratar de manera diferente casos similares relacionados con la IA si las reglas de escalamiento son ambiguas.
-
Control deficiente de los proveedores: un proveedor puede ofrecer resultados de detección fundamentales, pero los equipos internos pueden no definir quién revisa su rendimiento o ajusta los umbrales.
-
Exposición a riesgos de auditoría: la organización puede saber qué herramienta hizo una recomendación, pero no quién aprobó la política que la sustentaba.
-
Dificultades operativas para el negocio: los equipos de crecimiento pueden considerar que existen falsos rechazos, mientras que los equipos de riesgos pueden ver controles necesarios, sin contar con un mecanismo de decisión acordado para resolver estas diferencias.
La solución consiste en separar la responsabilidad sobre las políticas, la detección, las decisiones de cada caso y las medidas correctivas. Los responsables de KYC deben documentar quién aprueba los umbrales de riesgo, quién revisa las posibles evidencias sintéticas o los fallos de prueba de vida, quién puede anular una decisión automatizada, quién supervisa la calidad de los proveedores, quién gestiona las solicitudes externas de evidencias sobre decisiones y quién actualiza las políticas después de un ataque confirmado asistido por IA.
Entonces, ¿qué distingue a los sistemas de verificación de identidad más sólidos?
Como era de esperar, los equipos con una visibilidad clara de la actividad de identidad asistida por IA informan de capacidades de verificación, gobernanza y gestión de evidencias más sólidas que aquellos con una visibilidad limitada. Sin embargo, lo que sí nos sorprendió fue la magnitud de la diferencia.
Esto resulta interesante porque la visibilidad suele entenderse de forma demasiado limitada, como si solo significara detectar si se utilizó IA durante una sesión. Pero los datos sugieren algo más: los equipos que pueden observar con mayor claridad la actividad asistida por IA también informan de controles más sólidos, mayores garantías de prueba de vida, una mejor detección de contenido sintético, una reconstrucción más completa de las decisiones y mejores evidencias para auditoría.
La explicación más probable es que una visibilidad clara suele requerir datos conectados: verificaciones documentales, resultados biométricos, resultados de prueba de vida, contexto del dispositivo, comportamiento de la sesión, reglas, acciones de los revisores y decisiones finales. Una vez conectados estos elementos, la organización está en mejores condiciones de clasificar lo sucedido y justificar el resultado.
Más información sobre el estado de la verificación de identidad, a unos pocos clics
El informe completo de la encuesta de Regula está disponible públicamente, de forma gratuita y sin condiciones (en inglés).
¿Quiere saber cómo puede Regula ayudar a su empresa a reforzar la verificación de identidad frente a las amenazas asistidas por IA? Hable con nuestros expertos.
