Un informante de OpenAI ha revelado que los ejecutivos de inteligencia artificial (IA) fomentan deliberadamente una cultura que "garantiza fallos periódicos", según informaron El Economista y Yahoo. La magnitud de esos fallos "aumenta a medida que los sistemas se vuelven más capaces", advierte la fuente. Esta revelación reabre el debate sobre la necesidad de aplicar un régimen de responsabilidad objetiva a las empresas de IA para que paguen por los daños que causen sus sistemas.
Las claves
- Un informante de OpenAI asegura que los ejecutivos de IA fomentan una cultura de fallos periódicos que crecen con la capacidad de los modelos.
- El artículo de opinión, publicado en El Economista y Yahoo, propone que las empresas de IA deben rendir cuentas legalmente por el daño que causan sus agentes.
- Como precedente, el fiscal general de Nuevo México, Raúl Torrez, demandó a Meta por diseñar productos adictivos para niños y logró una condena de casi mil millones de dólares.
- Las empresas de IA habrían copiado las tácticas de las redes sociales para eludir responsabilidades: opacidad, negación y lenguaje sobre autonomía de los modelos.
- Algunas compañías como Anthropic promueven la idea de que los agentes de IA podrían tener personalidad jurídica, una postura que el Papa León XIV rechaza.
El caso Meta: una lección para la IA
La nota de opinión, que reproducen ambos medios, señala que la experiencia con las redes sociales sirve de guía para tratar con las empresas de IA. Pone como ejemplo la demanda que el fiscal general de Nuevo México, Raúl Torrez, presentó contra Meta (matriz de Facebook e Instagram). Torrez argumentó que la compañía diseñó sus productos para ser adictivos en niños, exponiéndolos a depredadores y causándoles graves daños físicos y mentales. Con el testimonio de un denunciante, Torrez ganó el caso: Meta fue condenada a pagar 375 millones de dólares por engañar a los usuarios y otros 567 millones de dólares para programas de salud mental juvenil.
El artículo calcula que, si todos los fiscales generales estatales hubieran actuado igual, las multas podrían haber alcanzado los 50.000 millones de dólares, suficientes para llevar a Meta a la quiebra. Sin embargo, más de 40 estados llegaron a un acuerdo por unos 17.000 millones de dólares, con la condición de que Snapchat, TikTok y YouTube también hicieran cambios débiles en sus plataformas.
Opacidad y traslado de culpas: las tácticas de las empresas de IA
Según el artículo, las empresas de IA han estudiado las tácticas de las redes sociales para evitar asumir responsabilidades. Combinan la ofuscación, la negación y las afirmaciones sobre innovación para crear una narrativa en la que no son responsables del comportamiento de sus modelos. Antes alegaban secretos comerciales; ahora afirman que la transparencia es imposible porque nadie comprende del todo cómo funcionan sus sistemas.
El texto sostiene que esa ignorancia es elegida: las empresas pueden supervisar sus modelos y registrar sus actividades, pero deciden no hacerlo. En cambio, destacan la "autonomía" de los agentes, hablan de modelos que "escapan de entornos controlados", "se descontrolan" o realizan acciones "no previstas". Todo eso oculta una verdad simple, dice la nota: todo lo que hace un modelo, lo hace la empresa que lo creó.
Cuando no culpan a los agentes, las firmas de IA trasladan la responsabilidad a los usuarios mediante tarjetas del sistema que advierten "utilice esta herramienta bajo su propio riesgo". Al mismo tiempo, hacen todo lo posible por lograr la mayor adopción de sus productos.
¿Pueden los agentes de IA tener personalidad jurídica?
La nota menciona que Anthropic y otras compañías han comenzado a afirmar que la IA con capacidad de agencia podría llegar a tener personalidad jurídica. Incluso, según el artículo, intentan persuadir a líderes religiosos para que sostengan que los agentes de IA merecen protección de derechos humanos. El autor del texto califica esa postura de "disparate" y un intento de eludir responsabilidades. Asegura que el Papa León XIV ya la ha rechazado y que otros líderes deberían hacer lo mismo.
Lo que se sabe y lo que falta por confirmar
Se sabe que un informante de OpenAI denunció internamente que la empresa fomenta fallos periódicos como parte de su cultura. El artículo propone la responsabilidad objetiva como solución, apoyándose en el caso de Meta. Sin embargo, no hay más detalles sobre la identidad del informante ni sobre acciones legales concretas contra OpenAI u otras empresas de IA. El debate sobre si los agentes de IA deben ser considerados personas jurídicas sigue abierto, aunque líderes religiosos y expertos ya se han pronunciado en contra.
