Ir al contenido principal

End User AI Chat: cómo funciona, manejo de datos y seguridad

Cómo el asistente End User AI Chat responde preguntas, maneja los datos y se mantiene seguro.

End User AI Chat es un asistente de soporte con IA dentro de la aplicación WorkBright. Responde preguntas comunes sobre la incorporación de los nuevos empleados, los empleados y los representantes autorizados mientras completan la incorporación. Los usuarios obtienen respuestas al instante, sin esperar una respuesta por correo electrónico ni salir de la aplicación.

Este artículo explica qué hace el asistente, cómo maneja los datos, cómo WorkBright evita que sus respuestas se interpreten como asesoramiento legal o como políticas del empleador, y los controles de seguridad que lo respaldan.

La función funciona con Fin AI Agent de Intercom, la misma tecnología de chat que usa el chat de soporte para administradores de WorkBright. Las respuestas usan generación aumentada por recuperación (RAG), que basa cada respuesta en el contenido de conocimiento aprobado por WorkBright y en la guía del Formulario I-9 de USCIS.

Qué hace y qué no hace el asistente

El asistente da orientación sobre los procedimientos para completar la incorporación en WorkBright. No toma decisiones por su organización.

Qué hace:

  • Responde preguntas comunes sobre la incorporación. Esto incluye orientación sobre documentos, ayuda con los campos de la Section 1, apoyo con la Section 2 para representantes autorizados, preguntas sobre el proceso y el estado, y los próximos pasos.

  • Les dice a los usuarios que es una IA. El asistente se identifica como un agente de IA al comienzo de la conversación.

  • Advierte a los usuarios que no compartan información confidencial. Un aviso les indica a los usuarios que no escriban datos personales ni confidenciales en el chat.

  • Escala en lugar de adivinar. Las preguntas poco claras, específicas de una política o sensibles desde el punto de vista legal se envían al contacto designado de su organización.

Qué no hace:

  • No da asesoramiento legal, financiero ni médico.

  • No toma determinaciones de elegibilidad, solvencia crediticia ni otras similares.

  • No habla en nombre de su organización sobre preguntas de políticas.

La orientación sobre cómo completar el Formulario I-9, basada en las instrucciones de USCIS, no es lo mismo que el asesoramiento legal sobre una situación específica. El asistente solo ofrece lo primero.

Cómo responde el asistente las preguntas

El asistente solo responde con contenido aprobado por WorkBright. Cuando no encuentra una respuesta respaldada, lo dice y puede transferir la conversación a una persona.

Qué pasa cuando un usuario hace una pregunta

  1. La pregunta llega al sistema de Intercom, que reúne el contexto relevante.

  2. El servicio de aprendizaje automático de Intercom combina la pregunta con contenido del Knowledge Hub de WorkBright.

  3. La solicitud combinada se envía a un proveedor externo de modelos de lenguaje grandes (LLM), que genera una respuesta.

  4. Intercom revisa la respuesta y luego se la envía al usuario en el chat.

WorkBright no entrena ni ajusta los LLM subyacentes.

Controles de seguridad antes de enviar una respuesta

Según Intercom, Fin realiza estos controles en cada pregunta:

  • Reescribe la pregunta para que sea más clara.

  • Obtiene contenido de las fuentes de conocimiento que WorkBright activó.

  • Ordena ese contenido según su relevancia.

  • Redacta una respuesta basada en ese contenido.

  • Hace una revisión final de exactitud y seguridad.

Si la respuesta no alcanza los umbrales de confianza de Fin, el asistente envía al usuario con una persona en lugar de adivinar. Intercom informa una tasa de alucinaciones inferior al 1 % para Fin.

Qué incluye el "contenido de WorkBright"

El contenido de WorkBright es el conocimiento que WorkBright selecciona y activa en el Knowledge Hub de Intercom. El asistente solo puede responder con este contenido. Incluye:

  • Orientación sobre la plataforma WorkBright. Artículos del centro de ayuda sobre cómo usar WorkBright, como completar los pasos de la incorporación, llenar y volver a enviar formularios, subir documentos, el acceso a la cuenta y los códigos de un solo uso, y el modo quiosco.

  • Contenido sobre procesos e instrucciones. Fragmentos y documentación de procesos que el equipo de WorkBright agrega al Knowledge Hub.

  • Guía del Formulario I-9 de USCIS. Las instrucciones del Formulario I-9 y el manual para empleadores de USCIS, según la selección de WorkBright.

El contenido de WorkBright no incluye los documentos de políticas propios de su organización, los datos personales de ningún usuario ni los datos generales de entrenamiento del modelo de lenguaje. Cuando una fuente cambia, el contenido se vuelve a cargar para que el asistente responda con material actualizado.

Qué se escala a su equipo

El asistente envía las preguntas que requieren criterio humano al contacto designado de su organización. No las responde. Estas incluyen:

  • Tentative Nonconfirmations (TNC) y Final Nonconfirmations (FNC) de E-Verify

  • Excepciones legales

  • Reverificaciones

  • Flujos de trabajo específicos de su organización

  • Cualquier solicitud que requiera los datos personales de un usuario

Su equipo de RR. HH. mantiene la autoridad final sobre las decisiones del I-9 y de la incorporación.

Cómo se recopilan y almacenan los datos de los usuarios finales

Los proveedores externos de IA no conservan los mensajes del chat ni los usan para entrenar modelos. Los mensajes de los usuarios y el contenido de WorkBright son la entrada que se usa para generar una respuesta, y la respuesta es la salida. Ambos se tratan como Datos del Cliente.

  • Datos personales en los mensajes. Si un usuario incluye datos personales en un mensaje, el proveedor de IA los procesa solo para generar la respuesta. El proveedor no conserva nada después de devolver la respuesta. Intercom conserva el registro de la conversación.

  • Zero Data Retention (retención cero de datos). Los proveedores de IA de Intercom eliminan las entradas y salidas de sus sistemas una vez que se genera la respuesta.

  • Sin entrenamiento con datos de clientes. Los contratos de Intercom prohíben que sus proveedores de IA usen las entradas o salidas para entrenar o mejorar sus modelos o servicios.

  • Los clasificadores de seguridad no almacenan datos. Los proveedores de IA pueden usar clasificadores de seguridad y revisar los metadatos de las solicitudes para hacer cumplir sus políticas de uso. Según Intercom, estos procesos no almacenan Datos del Cliente ni revisan los datos personales de la solicitud.

  • Controles de acceso y registros. El acceso a los entornos de LLM está restringido y queda registrado. Intercom trata a sus proveedores de LLM como subencargados de nivel 1 (Tier 1), con revisiones periódicas de acceso de usuarios y auditorías anuales según las normas ISO.

  • Sin eliminación previa de datos personales. Por ahora, Intercom no elimina los datos personales antes de que lleguen al proveedor de IA. WorkBright cubre esto con el aviso en el chat, la escalación de las solicitudes que involucran datos personales, y Zero Data Retention sin entrenamiento de modelos.

  • Registros de conversaciones a pedido. WorkBright puede entregar el historial de chat de su organización cuando lo solicite.

Cómo WorkBright mantiene las respuestas separadas de las políticas y del asesoramiento legal

El asistente está configurado para que los usuarios no confundan sus respuestas con la política oficial de su organización ni con asesoramiento legal.

  • Divulgación de IA. Fin indica que es una IA al comienzo de cada conversación. El equipo legal de WorkBright revisó el texto de la divulgación. Esto se alinea con el requisito de transparencia del artículo 50 de la Ley de IA de la UE (EU AI Act).

  • Confirma que es una IA cuando se le pregunta. Si un usuario pregunta si está hablando con una persona, el asistente dice que es una IA. Esto se probó con muchas formas distintas de hacer la pregunta. Como señala Intercom, ningún sistema puede garantizar la respuesta correcta a cada solicitud, por lo que la supervisión humana y el registro completo de la conversación siguen disponibles.

  • Solo orientación sobre procedimientos. Las respuestas provienen del contenido de WorkBright y de la guía de USCIS. Las preguntas específicas de una política o sensibles desde el punto de vista legal se envían a su organización.

  • Términos y privacidad. WorkBright actualizó su acuerdo de licencia de usuario final para incluir esta función. Los clientes actuales aceptan los términos actualizados la próxima vez que inician sesión. El chat incluye un enlace a la Política de privacidad de WorkBright.

Controles de seguridad

Intercom protege a Fin contra las amenazas comunes de los LLM, incluidos los puntos relevantes del OWASP Top 10 para aplicaciones de LLM. Los detalles a continuación provienen de los materiales de seguridad de Fin AI y de la documentación pública de Intercom.

Amenaza de LLM

Cómo se aborda

Inyección de instrucciones (prompt injection)

Las entradas de los usuarios se manejan mediante llamadas al LLM separadas y limitadas, con instrucciones defensivas, para que no se pasen directamente al modelo. Intercom vigila las nuevas técnicas de inyección y adopta versiones de modelos más robustas. Pocos intentos tuvieron éxito, y esos se corrigieron rápidamente.

Alucinaciones

Las respuestas se limitan al contenido aprobado mediante RAG. Los modelos más nuevos son menos propensos a las alucinaciones, e Intercom evalúa cómo una alucinación podría afectar el comportamiento posterior. Una base de conocimiento precisa reduce aún más el riesgo.

Filtración de datos

Intercom asume que cualquier dato enviado en una solicitud podría aparecer en una respuesta, por lo que solo envía datos que las partes ya están autorizadas a ver. Se aplican controles de acceso, registros y Zero Data Retention.

Envenenamiento de datos

WorkBright no entrena los LLM. Los datos de la base de conocimiento, de los usuarios y de las conversaciones se protegen con validación de datos, contexto limitado en las solicitudes y detección de anomalías.

Ataques de evasión

Los modelos en producción se analizan para detectar vulnerabilidades de LLM. Las instrucciones están diseñadas para resistir la manipulación, y las protecciones se actualizan a medida que aparecen nuevas técnicas.

Integraciones inseguras

Las API usan configuraciones seguras por defecto, incluido un proxy seguro hacia los proveedores de LLM y controles para el cliente como Identity Verification. Intercom realiza pruebas de penetración y revisiones de seguridad periódicas.

Pruebas

Intercom prueba cada cambio de modelo y de instrucciones antes de lanzarlo. Las pruebas incluyen:

  • Pruebas retrospectivas (backtesting) en un entorno de desarrollo seguro para confirmar que las respuestas sigan basándose en el contenido proporcionado

  • Controles de calidad automáticos y manuales

  • Pruebas A/B con una pequeña parte del tráfico antes de un lanzamiento más amplio

Después del lanzamiento, los equipos de ingeniería y de aprendizaje automático de Intercom supervisan la producción. Intercom también realiza pruebas de equipo rojo (red team), que incluyen intentos de jailbreak, revisiones de cómo una alucinación podría afectar el comportamiento posterior y análisis de vulnerabilidades. Un modelo que no cumple los criterios de seguridad de Intercom no se implementa.

Certificaciones

La capa de IA está cubierta por el programa de cumplimiento de Intercom. Según Intercom, Fin cuenta con estas certificaciones y normas de cumplimiento:

  • SOC 2 Type II

  • ISO 27001, ISO 27701, ISO 27018 e ISO 42001

  • HIPAA

  • GDPR y CCPA

Puede revisar esta documentación como parte de su propia diligencia debida en trust.intercom.com.

¿Ha quedado contestada tu pregunta?