Los grandes bancos están preocupados de que los agentes de IA puedan aumentar el riesgo de estafas y fraude, y ahora seis de ellos han plasmado esa inquietud en un documento. El consorcio — Bank of America, Capital One, ASB Bank, Commonwealth Bank of Australia, ING Group y NatWest Group — acaba de publicar un «documento de principios» titulado Building Trust in Agentic Commerce. El documento describe lo que estas instituciones temen más de los asistentes de IA para las compras que cada vez más adquieren cosas en nombre de los clientes.
Los bancos no están preocupados de que la IA destruya el mundo. En cambio, su preocupación se centra en algo más inmediato: que los asistentes de IA sean víctimas de estafas y fraude, lo que podría perjudicar a los comerciantes en el proceso.
Declaración inicial de los bancos
El documento comienza con una discusión sobre la gestión de riesgos. «Como entidades financieras altamente reguladas, nos enfocamos en gestionar el riesgo de manera efectiva a medida que surgen nuevas tecnologías», dice. Después de eso, pasa a lo que realmente creen las personas. El documento informa que los consumidores no están seguros de si los agentes de IA actuarán en su interés, y están preocupados de que los agentes de IA puedan comprar el artículo equivocado, gastar demasiado o incluso perder su dinero por fraude y estafas.
Continúa diciendo: «No están seguros de si estarán protegidos o a quién deberán recurrir si algo sale mal», y el texto completo está disponible en línea.
Riesgos del comercio con agentes en detalle
El uso de agentes de IA en el comercio conlleva nuevos riesgos, incluido el de estafas, fraudes y disputas más frecuentes. Existe margen de confusión entre consumidores, agentes de IA y comerciantes sobre qué producto o servicio debe entregarse, cuándo debe entregarse, cómo debe entregarse o quién debe ser considerado responsable si un agente de IA se excede de su autoridad. El informe advierte que algunos proveedores pueden incurrir en prácticas inseguras, como solicitar los datos de la tarjeta de crédito del consumidor e ingresarlos directamente en sitios web, favorecer métodos de pago con protecciones más débiles y no seguir los estándares de procesamiento de pagos y las reglas del esquema de pagos.
Los estafadores y defraudadores podrían probar nuevos métodos de ataque, como tomar el control o hacerse pasar por agentes de IA y comerciantes, y utilizar nuevas formas de ingeniería social.
Los cinco principios que los bancos quieren (
Los bancos han presentado un conjunto de cinco principios a los que desean que la industria de la IA se adhiera. (
- Transparencia (
- Seguridad (
- Privacidad y Datos (
- Elección (
- Interoperabilidad (
Las instituciones bancarias creen que las empresas de IA deben poner primero la seguridad y el consentimiento de los consumidores y comerciantes en lo que respecta a las opciones del mercado, y se oponen a encerrar los datos y la privacidad de los usuarios. Los bancos también les gustaría que las empresas de IA respetaran las restricciones de los consumidores. (
| Principio ( | Lo que quieren los bancos ( |
|---|---|
| Transparencia ( | Que los consumidores sepan qué están haciendo los agentes de IA y por qué. ( |
| Seguridad ( | Protección contra estafas, fraudes y disputas ( |
| Privacidad y Datos ( | Seguridad del consumidor y consentimiento en cuanto a datos y privacidad ( |
| Elección ( | Respetar las elecciones de los consumidores sin restricciones ( |
| Interoperabilidad ( | Un principio que los bancos les gustaría ver seguido ( |
El impacto en los comerciantes (
La preocupación por los comerciantes y dueños de negocios también fue expresada por los autores del periódico. Los autores señalaron que las acciones de los chatbots de compras de IA probablemente podrían conducir a un aumento en las disputas y los rechazos de tarjetas de crédito. (
Un conjunto de principios —transparencia, seguridad, privacidad y datos, elección e interoperabilidad— está siendo solicitado a la industria de la IA por los bancos, a medida que desarrollan y continúan trabajando en la tecnología. (
El tiempo de lanzamiento (
La fecha de publicación de un documento tuvo un momento ciertamente interesante. Fue publicado dentro de las 24 horas del reporte del descubrimiento de una seria vulnerabilidad de día cero dentro de Meta, mientras que describe a Muse como un asistente de IA agente. Ese documento fue publicado a horas del anuncio de Amazon de que el gigante del comercio electrónico bloquearía a Muse para que realizara compras en su plataforma.
Los bancos no están preocupados por que la IA destruya el mundo. Están preocupados por algo más inmediato: que los asistentes de IA pierdan dinero a causa de fraudes y estafas, que los comerciantes sufran las consecuencias y que los bancos queden atrapados en medio.
Los bancos publicaron su documento el mismo día en que se descubrió que un importante asistente de IA tenía una seria vulnerabilidad, y el mismo día en que una importante empresa de comercio electrónico bloqueó a ese asistente para que realizara compras. Combinados, esos dos eventos le dieron al documento un contexto agudo: el comercio agente ya no es hipotético, y ya ha llamado la atención tanto de la comunidad de seguridad como de un importante minorista.
La investigación no afirma que la falla o el obstáculo hayan desencadenado la divulgación. Simplemente observa que el informe surgió a horas de ambos eventos. Las instituciones no estaban respondiendo a noticias actuales, sino argumentando que el comercio realizado con agentes de IA conlleva peligros genuinos, y eligieron publicar en un momento en que el público estaba enfocado en la seguridad de la IA.
Las pautas son fáciles de entender. Los consumidores deben saber qué está haciendo un agente de IA y por qué — eso es transparencia. La seguridad protege contra estafas, fraudes y disputas. La privacidad y los datos salvaguardan la seguridad y el consentimiento del consumidor con respecto a la privacidad y los datos. La elección respeta las opciones de los consumidores, evitando restricciones que los encierren. La interoperabilidad es el quinto principio que los bancos quieren ver aplicado.
Los autores dejan claro a quién están dirigidos estos principios: a los fabricantes de sistemas de IA, no a los bancos en sí. Los bancos no están planeando construir estos salvaguardias por su cuenta. En cambio, están solicitando que las empresas que construyen los asistentes de IA se adhieran a un conjunto de expectativas compartidas.
El documento presenta un argumento directo sobre las implicaciones. Los comerciantes sufren las pérdidas cuando los agentes de IA son víctimas de estafas y fraudes, y los consumidores pierden confianza en el comercio cuando no están seguros de si estarán protegidos. Los litigios y los reclamos también aumentan cuando hay expectativas desfasadas entre los consumidores, los agentes de IA y los comerciantes. Esta advertencia se presenta como un caso presentado por los bancos, quienes lo hacen en un momento en que el comercio de agentes ha llamado la atención tanto de la comunidad de seguridad como de un importante minorista.
Los autores del documento eligieron su fecha de publicación con cuidado deliberado, apuntando a un momento en que la IA estaba ante todo en la mente de muchos. Dentro de las pocas horas siguientes a ambos anuncios, los bancos respondieron con una declaración clara: el comercio de agentes está llegando, y quieren que la industria proceda con cautela.
Los bancos no están preocupados de que la IA aniquile el mundo. Su temor es más inmediato: los asistentes de IA pierden dinero a causa de estafas y fraudes, dejando a los comerciantes como los que sufren. Esta es una preocupación genuina, y el documento la plantea claramente.
Material de origen: “Los grandes bancos están preocupados de que los agentes de IA puedan aumentar el riesgo de estafas y fraudes”, Mashable.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.