Quién responde por la IA de tu empresa cuando se equivoca

Quién responde por la IA de tu empresa cuando se equivoca

Tu asistente automático le promete a un cliente un 30% de descuento que no existe. El cliente llega al local con la captura de pantalla en la mano.

¿Quién responde?

No es una hipótesis incómoda: es la pregunta que casi nadie se hace antes de encender un chatbot, y la única que importa cuando algo sale mal. La respuesta corta es que respondés vos. La larga explica por qué, y qué hacer para que no te pase.

En 30 segundos: las empresas que fabrican la IA vienen desarmando sus equipos de control desde hace seis años. Eso corre la responsabilidad hacia abajo, hasta el que la implementa. Si tenés un asistente hablando con tus clientes, hay cuatro preguntas que conviene poder responder antes de encenderlo — están al final, en forma de lista.

Por qué la responsabilidad terminó siendo tuya

En julio de 2026, la única persona dedicada a ética que tenía OpenAI dejó la empresa. No hubo anuncio: se supo porque lo publicó el Financial Times semanas después, cuando su perfil de LinkedIn todavía la mostraba en el puesto. No fue reemplazada.

La respuesta oficial fue que "la ética de la IA no está solo en una persona o equipo".

Esa frase merece atención, porque no es nueva. Si fuera un caso aislado, sería una anécdota de Silicon Valley sin consecuencias para un negocio en Uruguay. El problema es que la misma decisión, con la misma explicación pública, se repitió en las empresas más grandes del sector durante seis años seguidos:

El caso de Microsoft es el más ilustrativo, porque quedó documentado con precisión. La empresa mantuvo su oficina de IA responsable —la que escribe las reglas— y eliminó el equipo que verificaba que los productos cumplieran esas reglas. Un ex integrante lo resumió así ante la prensa: la gente leía los principios y decía "no sé cómo se aplica esto".

Quedaron las reglas. Se fue el que controlaba.

Por qué esto no es un debate filosófico

Es tentador leer todo esto como una discusión abstracta sobre robots y conciencia. No lo es. Tiene una consecuencia concreta y bastante aburrida: la responsabilidad se corrió de lugar.

Si el que fabrica la herramienta decidió que la ética es responsabilidad distribuida —de todos y de nadie en particular— entonces el último eslabón de la cadena es el que la implementa. Y si vos pusiste un asistente de IA a atender a tus clientes, ese eslabón sos vos.

Cuando un chatbot le promete a un cliente un descuento que no existe, el cliente no le reclama a OpenAI. Te reclama a vos. Cuando un asistente automático le da a alguien un plazo de entrega inventado, la reputación que se gasta es la de tu negocio, no la del modelo. Y cuando le contesta cualquier cosa a las tres de la mañana, el que atiende el problema el lunes sos vos.

Esto no es un argumento para no usar inteligencia artificial. Sería un mal consejo: la herramienta funciona, resuelve trabajo real y no usarla es quedarse atrás por miedo. Es un argumento para saber quién firma cuando se equivoca, antes de encenderla y no después.

Las cuatro preguntas antes de poner una IA a hablar con tus clientes

No hace falta un departamento de cumplimiento. Alcanza con poder responder cuatro cosas:

1. ¿Qué NO puede decir? Un asistente sin límites explícitos va a improvisar precios, plazos y condiciones. La restricción tiene que estar escrita antes de encenderlo, no agregada después del primer incidente. Precios, descuentos, plazos de entrega y cualquier cosa que suene a garantía: esos son los cuatro lugares donde un error cuesta plata de verdad.

2. ¿Cuándo deja de contestar y te pasa la conversación? Todo asistente necesita una puerta de salida hacia un humano. El error más común no es que el sistema se equivoque, es que insista en resolver algo que ya no puede resolver. Un "esto lo veo con vos mañana" a tiempo salva más clientes que diez respuestas ingeniosas.

3. ¿Queda registro de lo que dijo? Si no podés leer la conversación después, no podés corregir el sistema ni defenderte de un reclamo. Sin registro no hay mejora posible: estás adivinando.

4. ¿El cliente sabe que está hablando con un sistema? Decirlo cuesta una línea. Que se descubra solo cuesta la confianza entera. Y la confianza, en un negocio chico, es prácticamente todo el activo.

Lo que nos dejó de todo esto

La lección que sacamos no es sobre inteligencia artificial. Es sobre delegación.

Cuando una empresa delega una tarea y elimina al que la controlaba, la tarea no desaparece: baja un escalón. En este caso bajó hasta el que implementa. Eso no es una tragedia ni una conspiración —es simplemente cómo quedó repartido el trabajo— pero conviene saberlo antes de conectar un asistente automático a la atención de tus clientes.

La IA no te exime de responder. Te hace responder más rápido y a más gente a la vez, que es exactamente por lo que conviene tenerla bien puesta.

La lista para revisar antes de encenderlo

Imprimila, copiala al teléfono o pasásela a quien te esté armando el asistente. Si alguna queda sin marcar, todavía no está listo para hablar con un cliente.

• Está escrito qué NO puede decir. Precios, descuentos, plazos de entrega y cualquier cosa que suene a garantía: los cuatro lugares donde un error cuesta plata.
• Tiene una puerta de salida hacia un humano, y sabés en qué caso se dispara.
• Podés leer después lo que dijo. Si no hay registro, no hay corrección ni defensa posible.
• El cliente sabe que habla con un sistema. Una línea al principio.
• Alguien tiene el nombre puesto. Una persona concreta revisa las conversaciones y decide cuándo apagarlo. Si esa persona no existe, la tarea no bajó un escalón: se cayó.
• Sabés cómo apagarlo rápido. Y ya lo probaste una vez, no el día del problema.

Los primeros cuatro salen de las preguntas de arriba. Los últimos dos son los que más se olvidan, y son los que convierten un incidente de diez minutos en uno de tres días.

---

Antes de encender nada, la pregunta previa es cuál tarea conviene automatizar y cuál no: eso lo desarrollamos en cómo la IA reduce costos, con la cuenta hecha sobre tus propios números.

Si estás evaluando automatizar la atención de tu negocio, mirá cómo lo encaramos en automatización de procesos y en la automatización de WhatsApp para pymes uruguayas. Y si querés discutir tu caso concreto, escribinos.

Fuentes

• Financial Times — reporte original sobre la salida de la responsable de ética de OpenAI y la ausencia de reemplazo (agosto 2026).
• TechCrunch — "Microsoft lays off an ethical AI team as it doubles down on OpenAI" (marzo 2023).
• CNBC — "Facebook-parent Meta breaks up its Responsible AI team" (noviembre 2023).