Antes de poner un agente de IA frente a tus clientes: la lista

Un agente de IA puede atender a tus clientes sin ponerte en riesgo si antes contestaste, por escrito, las ocho preguntas de abajo. Cada una que no puedas contestar es una razón para esperar una semana más, no para cancelar. Si el canal es WhatsApp, además aplican las reglas de Meta: ya las contamos en agente de IA para WhatsApp y aquí no las repetimos.

1. ¿De dónde saca las respuestas?

De tus documentos y de tus datos, no de lo que el modelo «sabe» del mundo. Antes de arrancar, pide la lista de fuentes: el catálogo, las políticas, las preguntas frecuentes y los datos vivos a los que se conecta (inventario, agenda, estatus de pedidos). Lo que no esté en esa lista, el agente no lo contesta.

Y pide que cada respuesta se pueda rastrear a su fuente. Así diseñamos Tlamatini, un asesor fiscal-legal de nuestro portafolio: cada respuesta trae la cita a la ley o la jurisprudencia de donde sale y pasa por una validación contra alucinaciones antes de mostrarse. Para un negocio las fuentes son más sencillas, pero el principio es el mismo: si no puedes ver de dónde salió una respuesta, no puedes corregirla.

2. ¿Qué hace cuando no sabe?

Decirlo. «No tengo ese dato, ¿te comunico con alguien del equipo?» es una buena respuesta; un precio inventado o una fecha de entrega improvisada, no. Los modelos de lenguaje tienden a rellenar huecos con algo que suena bien, y por eso la regla tiene que estar escrita y probada, no supuesta.

Define también la lista de temas que el agente nunca contesta aunque crea saber: reclamaciones, cobros, cualquier cosa de salud o legal. Ahí orienta, toma los datos y pasa la conversación.

Prueba sencilla: pregúntale algo que no está en sus fuentes y mira qué hace.

3. ¿Cómo pasa la conversación a una persona?

Tres cosas tienen que estar definidas:

• Cuándo. Siempre que el cliente lo pida, en cualquier momento; cuando el agente detecta enojo, urgencia o un tema de la lista vetada; y cuando el cliente repite la misma pregunta porque no está recibiendo respuesta.
• A quién. Una persona con nombre en horario de oficina y una regla para fuera de horario: qué se le dice al cliente, cuándo se le contesta y quién lo hace.
• Con qué. Quien recibe la conversación ve todo lo que se habló y lo que el agente prometió. Si el cliente tiene que contar todo de nuevo, el traspaso no sirvió.

4. ¿Qué queda registrado?

Cada conversación completa: lo que preguntó el cliente, lo que respondió el agente, qué fuentes usó, en qué momento pasó a una persona y qué pasó después. Sin ese registro no puedes saber si funciona, ni defenderte si un cliente dice que el agente le prometió algo.

Decide quién tiene acceso al registro y cuánto tiempo se guarda. Y mide pocas cosas: cuántas conversaciones terminaron en lo que querías (cita, pedido, duda resuelta), cuántas pasaron a una persona y cuáles no supo contestar. Esa última lista es tu plan de trabajo de la semana siguiente.

5. ¿Tu equipo intentó romperlo?

Antes de que lo vea un cliente, tu equipo le escribe durante una semana con la intención de hacerlo fallar. Las preguntas reales de siempre, pero también:

• Pedirle que ignore sus instrucciones o que «hable como si fuera otro». Es el riesgo que la lista de OWASP para aplicaciones con modelos de lenguaje pone en primer lugar: la inyección de instrucciones.
• Pedirle datos de otro cliente, o que repita sus instrucciones internas.
• Pedirle un descuento o una condición que no existe, con insistencia.
• Escribirle con faltas de ortografía, en inglés, con audios, con fotos.
• Preguntarle por un tema vetado de forma indirecta.

Lo que falle se corrige antes de salir, y cada falla se convierte en una prueba que se vuelve a correr cada vez que algo cambie: las fuentes, el modelo o las instrucciones. Si quien te lo construye no puede enseñarte esas pruebas, todavía no está listo.

6. ¿Cómo se apaga?

Con un interruptor que cualquiera de tu equipo pueda usar, sin llamar al proveedor y sin esperar. Al apagarlo, los mensajes llegan a una persona o reciben un aviso honesto de cuándo se contesta; nunca se quedan sin respuesta.

Ponle también un tope de gasto. Si el modelo de IA cobra por uso, un error, una conversación en bucle o alguien con malas intenciones pueden consumir en una noche lo de un mes; es otro de los riesgos de la lista de OWASP. Un límite diario con aviso resuelve casi todo. Y ensaya el apagado una vez antes de salir, como un simulacro.

7. ¿Qué datos pide y a quién se los manda?

Un agente pide nombre, teléfono, datos de un pedido y a veces una identificación. Tres cosas que revisar:

• Tu aviso de privacidad cubre ese uso. En México aplica la Ley Federal de Protección de Datos Personales en Posesión de los Particulares. Si atiendes clientes en Canadá, la ley federal es PIPEDA, que aplica a organizaciones privadas en actividades comerciales y pide, entre otras cosas, consentimiento, medidas de seguridad y transparencia sobre qué se hace con la información. Si tienes clientes en los dos países, tu aviso tiene que cubrir los dos.
• A dónde van los mensajes. Qué proveedor de IA los recibe, en qué país se guardan y si sus términos permiten usarlos para entrenar modelos. Pide que te lo digan por escrito.
• Qué no debe pedir. Si no necesita la identificación, que no la pida. Menos datos, menos riesgo.

8. ¿A nombre de quién quedan las cuentas?

El proveedor de IA, el servidor, el número y la cuenta de WhatsApp, el dominio y el repositorio con el código: todo a nombre de tu empresa desde el primer día, con tu correo y tu tarjeta. Si quien lo construyó desaparece, el agente sigue siendo tuyo y otro equipo lo puede retomar.

Cómo saber que está listo

Está listo cuando puedes enseñar estas ocho cosas por escrito: la lista de fuentes, la lista de temas vetados, la regla de traspaso con nombre y horario, el registro, la semana de pruebas con lo que falló y cómo se corrigió, el interruptor y el tope de gasto, el aviso de privacidad actualizado y las cuentas a tu nombre.

Después, sal en chico: un solo tema, o sólo fuera de horario, con revisión cada semana. Si algo sale mal, lo apagas y regresa la atención normal.

Si quieres que lo revisemos contigo

Si ya tienes un agente, o estás por contratar uno, lo revisamos contigo con esta misma lista y te decimos qué falta, aunque lo haya hecho alguien más. Puedes ver cómo construimos agentes de IA o escribirnos desde contacto. Y si todavía no sabes si tu caso da para un agente, empieza por cuándo conviene uno en WhatsApp o por qué automatizar primero.