Quién responde por la IA de tu empresa cuando se equivoca

Quién responde por la IA de tu empresa cuando se equivoca

En julio de 2026, la única persona dedicada a ética que tenía OpenAI dejó la empresa. No hubo anuncio: se supo porque lo publicó el Financial Times semanas después, cuando su perfil de LinkedIn todavía la mostraba en el puesto. No fue reemplazada.

La respuesta oficial de la empresa fue que "la ética de la IA no está solo en una persona o equipo".

Esa frase merece atención, porque no es nueva.

Lo que parece una noticia y en realidad es un patrón

Si esto fuera un caso aislado, sería una anécdota de Silicon Valley sin consecuencias para un negocio en Uruguay. El problema es que la misma decisión, con la misma explicación pública, se repitió en las empresas más grandes del sector durante seis años seguidos:

El caso de Microsoft es el más ilustrativo, porque quedó documentado con precisión. La empresa mantuvo su oficina de IA responsable —la que escribe las reglas— y eliminó el equipo que verificaba que los productos cumplieran esas reglas. Un ex integrante lo resumió así ante la prensa: la gente leía los principios y decía "no sé cómo se aplica esto".

Quedaron las reglas. Se fue el que controlaba.

Por qué esto no es un debate filosófico

Es tentador leer todo esto como una discusión abstracta sobre robots y conciencia. No lo es. Tiene una consecuencia concreta y bastante aburrida: la responsabilidad se corrió de lugar.

Si el que fabrica la herramienta decidió que la ética es responsabilidad distribuida —de todos y de nadie en particular— entonces el último eslabón de la cadena es el que la implementa. Y si vos pusiste un asistente de IA a atender a tus clientes, ese eslabón sos vos.

Cuando un chatbot le promete a un cliente un descuento que no existe, el cliente no le reclama a OpenAI. Te reclama a vos. Cuando un asistente automático le da a alguien un plazo de entrega inventado, la reputación que se gasta es la de tu negocio, no la del modelo. Y cuando le contesta cualquier cosa a las tres de la mañana, el que atiende el problema el lunes sos vos.

Esto no es un argumento para no usar inteligencia artificial. Sería un mal consejo: la herramienta funciona, resuelve trabajo real y no usarla es quedarse atrás por miedo. Es un argumento para saber quién firma cuando se equivoca, antes de encenderla y no después.

Las cuatro preguntas antes de poner una IA a hablar con tus clientes

No hace falta un departamento de cumplimiento. Alcanza con poder responder cuatro cosas:

1. ¿Qué NO puede decir? Un asistente sin límites explícitos va a improvisar precios, plazos y condiciones. La restricción tiene que estar escrita antes de encenderlo, no agregada después del primer incidente. Precios, descuentos, plazos de entrega y cualquier cosa que suene a garantía: esos son los cuatro lugares donde un error cuesta plata de verdad.

2. ¿Cuándo deja de contestar y te pasa la conversación? Todo asistente necesita una puerta de salida hacia un humano. El error más común no es que el sistema se equivoque, es que insista en resolver algo que ya no puede resolver. Un "esto lo veo con vos mañana" a tiempo salva más clientes que diez respuestas ingeniosas.

3. ¿Queda registro de lo que dijo? Si no podés leer la conversación después, no podés corregir el sistema ni defenderte de un reclamo. Sin registro no hay mejora posible: estás adivinando.

4. ¿El cliente sabe que está hablando con un sistema? Decirlo cuesta una línea. Que se descubra solo cuesta la confianza entera. Y la confianza, en un negocio chico, es prácticamente todo el activo.

Lo que nos dejó de todo esto

La lección que sacamos no es sobre inteligencia artificial. Es sobre delegación.

Cuando una empresa delega una tarea y elimina al que la controlaba, la tarea no desaparece: baja un escalón. En este caso bajó hasta el que implementa. Eso no es una tragedia ni una conspiración —es simplemente cómo quedó repartido el trabajo— pero conviene saberlo antes de conectar un asistente automático a la atención de tus clientes.

La IA no te exime de responder. Te hace responder más rápido y a más gente a la vez, que es exactamente por lo que conviene tenerla bien puesta.

---

Si estás evaluando automatizar la atención de tu negocio, mirá cómo lo encaramos en automatización de procesos y en la automatización de WhatsApp para pymes uruguayas. Y si querés discutir tu caso concreto, escribinos.

Fuentes

• Financial Times — reporte original sobre la salida de la responsable de ética de OpenAI y la ausencia de reemplazo (agosto 2026).
• TechCrunch — "Microsoft lays off an ethical AI team as it doubles down on OpenAI" (marzo 2023).
• CNBC — "Facebook-parent Meta breaks up its Responsible AI team" (noviembre 2023).