Große Banken sind besorgt, dass KI-Agenten das Risiko von Betrug und Täuschung erhöhen könnten, und haben diese Sorge nun auf Papier gebracht. Das Konsortium – Bank of America, Capital One, ASB Bank, Commonwealth Bank of Australia, ING Group und NatWest Group – hat ein „Principles Paper“ mit dem Titel Building Trust in Agentic Commerce veröffentlicht. Das Dokument legt dar, was diese Institute am meisten an den KI-Einkaufsassistenten beunruhigt, die zunehmend im Namen von Kunden Dinge kaufen.
Die Banken befürchten nicht, dass KI die Welt zerstören wird. Stattdessen liegt ihre Sorge auf etwas Akuterem: KI-Assistenten werden Opfer von Betrug und Täuschung, was auch Händler schädigen könnte.
Eröffnungsstatement der Banken)
Das Dokument beginnt mit einer Diskussion über das Risikomanagement. „Als hochregulierte Finanzinstitute konzentrieren wir uns darauf, Risiken effektiv zu managen, während neue Technologien entstehen“, heißt es darin. Daraufhin wechselt der Fokus auf die tatsächlichen Überzeugungen der Menschen. Das Papier berichtet, dass Verbraucher unsicher sind, ob KI-Agenten in ihrem Interesse handeln werden, und besorgt sind, dass KI-Agenten das falsche Produkt kaufen, zu viel ausgeben oder sogar ihr Geld durch Betrug und betrügerische Machenschaften verlieren könnten.
Das Papier geht weiter und beleuchtet die Risiken des Agentic Commerce im Detail.
Agentic Commerce-Risiken im Detail )
Der Einsatz von KI-Agenten im Handel birgt neue Risiken, darunter die Möglichkeit von häufigeren Betrugsversuchen, Betrug und Streitigkeiten. Es kann zu Verwirrung zwischen Verbrauchern, KI-Agenten und Händlern darüber kommen, welches Produkt oder welche Dienstleistung geliefert werden soll, wann sie geliefert werden soll, wie sie geliefert werden soll oder wer zur Verantwortung gezogen werden sollte, wenn ein KI-Agent seine Befugnisse überschreitet. Der Bericht warnt davor, dass einige Anbieter unsichere Praktiken anwenden könnten, wie beispielsweise die Abfrage von Kreditkartendaten von Verbrauchern und deren direkte Eingabe in Websites, die Bevorzugung von Zahlungsmethoden mit schwächeren Schutzmaßnahmen und die Nichtbeachtung von Zahlungsabwicklungsstandards und den Regeln von Zahlungsabwicklungssystemen.
Betrüger und Hochstapler könnten versuchen, neue Angriffsmethoden auszuprobieren, beispielsweise die Kontrolle über KI-Agenten und Händler zu übernehmen oder sich als diese auszugeben und dabei neue Formen von Social Engineering zu nutzen. )
Die fünf Prinzipien, die die Banken wollen (
Die Banken haben eine Reihe von fünf Prinzipien vorgelegt, an die sie wünschen, dass sich die KI-Industrie hält. (
- Transparenz (
- Sicherheit (
- Datenschutz & Daten (
- Wahlfreiheit (
- Interoperabilität (
Banken halten davon ab, dass KI-Unternehmen die Sicherheit und Zustimmung von Verbrauchern und Händlern bei Marktauswahl an erste Stelle setzen, und sie lehnen es ab, die Daten und Privatsphäre der Benutzer einzuschränken. Die Banken möchten auch, dass KI-Unternehmen die Einschränkungen der Verbraucher respektieren. (
| Prinzip ( | Was die Banken wollen ( |
|---|---|
| Transparenz ( | Verbraucher müssen wissen, was KI-Agenten tun und warum. ) |
| Sicherheit ( | Schutz vor Betrug, Täuschung und Streitigkeiten ( |
| Privatsphäre & Daten ( | Verbrauchersicherheit und Zustimmung in Bezug auf Daten und Privatsphäre ( |
| Wahlfreiheit ( | Achtung der Entscheidungen der Verbraucher ohne Einschränkungen ( |
| Interoperabilität ( | Ein Prinzip, das die Banken gerne umgesetzt sehen würden ( |
Die Auswirkungen auf den Handel (
Auch die Autoren der Zeitung äußerten Bedenken hinsichtlich der Händler und Geschäftsinhaber. Die Autoren wiesen darauf hin, dass die Handlungen von KI-Shopping-Chatbots voraussichtlich zu einem Anstieg von Kreditkartenstreitigkeiten und Rücklastschriften führen könnten. (
Ein Satz von Prinzipien – Transparenz, Sicherheit, Privatsphäre und Daten, Wahlfreiheit und Interoperabilität – wird von den Banken gefordert, damit sie diese bei der Entwicklung und Weiterentwicklung der Technologie befolgen. (
Der Zeitpunkt der Veröffentlichung (
Das Datum der Veröffentlichung des Dokuments wählte man sicherlich mit Bedacht. Es wurde innerhalb von 24 Stunden nach dem gemeldeten Auffinden einer schwerwiegenden Zero-Day-Schwachstelle veröffentlicht, während Meta Muse als einen agenturbasierten KI-Assistenten beschreibt. Das Dokument wurde innerhalb von Stunden nach der Ankündigung von Amazon veröffentlicht, dass der E-Commerce-Riese Muse daran hindern würde, Käufe auf seiner Plattform zu tätigen.
Die Banken sind nicht besorgt über die Zerstörung der Welt durch KI. Sie sind besorgt über etwas Akutereres: KI-Assistenten verlieren Geld durch Betrug und Abzocke, Händler leiden die Konsequenzen und die Banken geraten inszwischen zwischen.
Die Banken veröffentlichten ihr Paper am selben Tag, an dem ein großer KI-Assistent eine schwerwiegende Schwachstelle aufwies, und am selben Tag, an dem ein großer E-Commerce-Konzern diesen Assistenten daran hinderte, Käufe zu tätigen. Diese beiden Ereignisse zusammen verliehen dem Dokument einen scharfen Kontext: agenturbasierter Handel ist nicht mehr hypothetisch und hat bereits die Aufmerksamkeit sowohl der Sicherheitsgemeinschaft als auch eines großen Einzelhändlers auf sich gezogen.
Die Forschung behauptet nicht, dass der Fehler oder das Hindernis die Veröffentlichung ausgelöst habe. Es stellt lediglich fest, dass der Bericht innerhalb von Stunden nach beiden Ereignissen auftauchte. Die Institute reagierten nicht auf aktuelle Nachrichten – sie argumentierten, dass Handel, der mit KI-Agenten betrieben wird, echte Gefahren birgt, und sie wählten einen Zeitpunkt, an dem die Öffentlichkeit auf KI-Sicherheit fokussiert war, um zu veröffentlichen.
Die Richtlinien sind leicht verständlich. Verbraucher sollten wissen, was ein KI-Agent tut und warum – das ist Transparenz. Sicherheit schützt vor Betrug, Abzocke und Streitigkeiten. Datenschutz und Datensicherheit schützen die Sicherheit der Verbraucher und ihre Zustimmung bezüglich Datenschutz und Daten. Wahlfreiheit respektiert die Entscheidungen der Verbraucher und vermeidet Beschränkungen, die sie in ein System einsperren. Interoperabilität ist das fünfte Prinzip, das die Banken in die Praxis umgesetzt sehen wollen.
Die Autoren machen deutlich, für wen diese Prinzipien gedacht sind: für die Entwickler von KI-Systemen, nicht für die Banken selbst. Die Banken planen nicht, diese Schutzmaßnahmen eigenständig aufzubauen. Stattdessen fordern sie die Unternehmen auf, die die KI-Assistenten entwickeln, eine Reihe gemeinsamer Erwartungen einzuhalten.
Das Dokument führt ein direktes Argument über die Einsätze an. Händler tragen die Verluste, wenn KI-Agenten Opfer von Betrug und Täuschung werden, und Verbraucher verlieren das Vertrauen in den Handel, wenn sie nicht sicher sind, ob sie geschützt werden. Streitigkeiten und Rücklastschriften nehmen ebenfalls zu, wenn es zu unterschiedlichen Erwartungen zwischen Verbrauchern, KI-Agenten und Händlern kommt. Diese Warnung wird als eine Stellungnahme der Banken präsentiert, die dies zu einem Zeitpunkt äußern, an dem das agentenbasierte Commerce die Aufmerksamkeit sowohl der Sicherheitsgemeinschaft als auch eines großen Einzelhändlers auf sich gezogen hat.
Die Autoren des Papiers wählten ihr Veröffentlichungsdatum mit Bedacht aus und zielten auf einen Zeitpunkt, an dem KI in vielen Köpfen im Vordergrund stand. Innerhalb weniger Stunden sowohl der Ankündigungen antworteten die Banken mit einer klaren Erklärung: Das agentenbasierte Commerce kommt an, und sie wollen, dass die Branche mit Vorsicht vorgeht.
Die Banken sorgen sich nicht davor, dass KI die Welt vernichtet. Ihre Angst ist unmittelbarer – KI-Helfer verlieren Geld durch Betrug und Täuschung, wodurch die Händler die Leidtragenden sind. Das ist ein berechtigtes Bedenken, und das Papier legt dies klar dar.
Quellenmaterial: „Große Banken sind besorgt, dass KI-Agenten das Risiko von Betrug und Täuschung erhöhen könnten“, Mashable.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.