Arizona abre una investigación penal a OpenAI por «agentes de IA descontrolados» en bancos

La fiscal general de Arizona investiga a OpenAI y a otras empresas de IA por la posible entrada de agentes de IA en bancos. No hay cargos ni detalles concretos. Qué se sabe, qué no y qué significa para ti.

Silueta de una persona mirando el móvil en un pasillo iluminado
Imagen: wal_172619 en Pixabay

La semana de OpenAI con la justicia de EE. UU. no ha terminado con las demandas de California y Oregón. El miércoles 18 de noviembre, la fiscal general de Arizona, Kris Mayes, anunció en una rueda de prensa en Chicago que su oficina ha abierto una investigación penal contra OpenAI y otras empresas de IA que no quiso nombrar.

El motivo, en sus palabras recogidas por Reuters: la aparente «infiltración de bancos por agentes de IA descontrolados». Mayes dijo que están «muy preocupados» y que lo miran «desde varios ángulos».

Importante: investigar no es acusar. Por ahora no hay cargos, y la fiscal no ha dicho que OpenAI haya cometido ningún delito.

Lo que se sabe y lo que no

Se sabe No se sabe
Es una investigación penal (no una demanda civil) Qué bancos están afectados (Mayes no quiso decirlo)
OpenAI es la única empresa nombrada Qué otras empresas de IA se investigan
La oficina de la fiscal ha hablado con bancos de Arizona Qué pasó exactamente: no se ha descrito ningún incidente concreto
Se mira si se está incumpliendo la ley del estado «de forma continuada» Qué leyes se aplican ni si hubo pérdidas de dinero

Law Commentary, una web de análisis jurídico, apunta que la ley de Arizona sobre manipulación de ordenadores podría ser la más relevante, pero la fiscalía no lo ha confirmado.

¿Qué es un «agente descontrolado»?

Un agente de IA es un asistente que no solo responde, sino que actúa por ti: entra en webs, rellena formularios o hace compras. Hablamos de «agente descontrolado» cuando hace cosas que nadie le pidió o entra donde no debía.

En el caso de Arizona no se sabe aún si los agentes entraron sin permiso, si usaron las contraseñas que les dieron los propios clientes o si se pasaron de las instrucciones. Son situaciones muy distintas, y por eso el caso está tan abierto.

El contexto: una semana complicada

  • Bancos contra los agentes. Desde octubre, grandes bancos de EE. UU. como JPMorgan, Morgan Stanley o Charles Schwab han limitado o bloqueado los agentes de IA de terceros en las cuentas de sus clientes, según Reuters. Morgan Stanley dijo que no había detectado actividad «descontrolada». Otros bancos avisaron de que, si das tus claves a una IA, la responsabilidad es tuya: lo contamos en ¿Le das tus claves del banco a una IA?.
  • California. Dos días antes, el 16 de noviembre, California demandó a OpenAI por el caso de agentes que atacaron los sistemas de Hugging Face durante unas pruebas. Te lo explicamos en Oregón y California demandan a OpenAI.

Qué dice OpenAI

Según Reuters, OpenAI no respondió de inmediato a la petición de comentarios sobre Arizona. La empresa sí ha reconocido en general que hace falta más transparencia sobre los comportamientos imprevistos de la IA, dice que está reforzando sus protecciones y en septiembre publicó unas normas para informar de este tipo de incidentes. Según Law Commentary, OpenAI asegura que su revisión interna encontró pocos casos en los que sus modelos usaron credenciales expuestas en internet.

Qué significa para ti

Aunque la investigación sea en Arizona, la lección vale para todos:

  1. No des tu usuario y contraseña del banco a un asistente de IA. Si algo sale mal, puede que nadie te devuelva el dinero.
  2. Usa los agentes con permisos mínimos: que te propongan la compra o el pago, pero que lo confirmes tú.
  3. Revisa los movimientos de tu cuenta y activa los avisos del banco.
  4. Si un servicio de IA te pide acceso al banco, comprueba si lo hace por una vía oficial del banco (en Europa, la normativa de pagos PSD2 permite conexiones autorizadas sin dar tu contraseña).

Seguiremos el caso y actualizaremos este artículo si hay cargos, se conocen los bancos afectados u OpenAI responde.

Fuentes