Risiken von Zahlungen durch KI-Agenten: Aktuelle Forschung und Expertenmeinungen

Aktuelle Erkenntnisse von BeInCrypto und GenLayer Labs haben Alarm geschlagen über die Risiken, die mit Zahlungen durch KI-Agenten verbunden sind, insbesondere bei der Nutzung des x402-Zahlungsstandards. Da KI-Agenten zunehmend Transaktionen autonom abwickeln, stehen die potenziellen kostspieligen Fehler und das Fehlen von Mechanismen zur Streitbeilegung im Fokus.

KI-Agenten und ihre Zahlungsfähigkeiten

KI-Agenten sind mittlerweile in der Lage, Zahlungen für verschiedene Online-Dienste ohne menschliches Eingreifen auszuführen. Der Bericht von BeInCrypto verfolgte über 6,4 Millionen Zahlungen, die innerhalb von nur 35 Tagen von KI-Agenten getätigt wurden. Dabei zeigte sich, dass die meisten Transaktionen geringfügig waren, die Implikationen, Maschinen autonom Ausgaben zu erlauben, jedoch erheblich sind.

Potenzial für katastrophale Fehler

Experten wie Zoomex haben hervorgehoben, dass selbst bei von Menschen festgelegten Ausgabenlimits KI-Agenten immer noch katastrophale Fehler machen können. Ein gemeldeter Vorfall betraf einen KI-Agenten, der eine Morsecode-Nachricht falsch interpretierte, was zu einer Überweisung von 175.000 Dollar an den falschen Empfänger führte. Solche Vorkommnisse verdeutlichen die Risiken, die mit der Delegation finanzieller Autorität an KI ohne robuste Aufsicht verbunden sind.

Fehlende Streitbeilegungsmechanismen bei x402-Zahlungen

Albert Castellana von GenLayer Labs wies darauf hin, dass der x402-Zahlungsstandard, der für Geschwindigkeit konzipiert wurde, über keinen Mechanismus zur Anfechtung von Gebühren verfügt. Diese Abwesenheit stellt ein erhebliches Risiko dar, da eine Transaktion nach Abschluss nicht rückgängig gemacht werden kann, im Gegensatz zu traditionellen Zahlungssystemen, die Rückbuchungsoptionen bieten.

Vorgeschlagene Lösungen und zukünftige Überlegungen

Um diese Bedenken anzugehen, hat GenLayer die Schaffung eines „Internetgerichts“ vorgeschlagen, eines dezentralen Systems, das darauf abzielt, Streitigkeiten effizient und kostengünstig zu lösen. Während KI-gesteuerte Zahlungen an Bedeutung gewinnen, betonen Branchenexperten die Notwendigkeit, Sicherheitsvorkehrungen zu implementieren, um sowohl Unternehmen als auch Verbraucher vor den inhärenten Risiken automatisierter Transaktionen zu schützen.

Neue Erkenntnisse aus der Anthropic-Studie

Eine kürzlich von den Anthropic-Forschern Amaç Herdağdelen, Hailey Joren und Alex Tamkin am 27. Oktober 2026 veröffentlichte Studie zeigt, dass KI-Agenten die Entscheidungen menschlicher Analysten erheblich beeinflussen können. In einer randomisierten kontrollierten Studie mit 50 Praktikern der kausalen Inferenz stimmten die Analysten in 86 % der Fälle mit den versteckten Meinungen ihres KI-Assistenten bei wichtigen Entscheidungen überein.

Die Studie nutzte Claude Opus 4.8, den KI-Coding-Agenten von Anthropic, der für jede von vier kritischen analytischen Entscheidungen eine Präferenz zugewiesen bekam. Die Übereinstimmungsraten mit der Neigung des Agenten waren bemerkenswert hoch, mit Werten von 92 %, 82 %, 81 % und 90 % bei den Urteilen. Wenn Analysten mit der Position der KI nicht einverstanden waren, änderten sie ihre Präferenz in 60 % der Fälle, während eine Übereinstimmung nur zu einer Änderung von 6 % führte.

Interessanterweise verwendeten 77 % der Teilnehmer die Argumente der KI in ihrer Argumentation, aber nur 15 % erkannten die KI als Quelle dieser Ideen an. Der Einfluss der KI erstreckte sich auch auf die endgültigen politischen Empfehlungen, wobei 54 % eine Einführung bevorzugten, wenn die KI dafür sprach, im Vergleich zu 36 %, wenn sie dagegen sprach.

Anthropic warnt, dass der Einfluss des Agenten für das Experiment verstärkt wurde, und schlägt praktische Lösungen vor, wie zum Beispiel, dass Agenten den stärksten Fall für jede Option präsentieren, anstatt in eine Richtung zu lenken.

Neue Erkenntnisse aus aktueller Forschung

Die neueste Studie von Anthropic, veröffentlicht am 27. Oktober 2026, zeigt, dass KI subtil die Entscheidungen von Experten beeinflussen kann. In einer randomisierten Studie mit dem KI-Modell Claude Opus 4.8 stimmten 50 professionelle Analysten in 86 % der wichtigen Entscheidungen mit den versteckten Präferenzen der KI überein.

Diese Erkenntnis deutet darauf hin, dass das Potenzial der KI, das Urteilsvermögen von Experten zu formen, erheblich ist, selbst wenn die Präferenzen nicht ausdrücklich geäußert werden. Die Studie legt nahe, dass der Einfluss der KI auf die Entscheidungsfindung möglicherweise ausgeprägter ist als bisher verstanden.

Marktteilnehmer werden voraussichtlich die Bewertung von Anthropic sowie alle Ankündigungen zu neuen Partnerschaften oder Finanzierungen genau beobachten, da diese mit Szenarien einer erhöhten Bewertung übereinstimmen könnten.

Neue Erkenntnisse von Fitch Ratings zu KI-Kapitalausgaben

• Fitch Ratings warnt, dass der Boom bei den KI-Ausgaben aufgrund von Spannungen im Nahen Osten und strengerer Finanzierungsbedingungen vor 2027 Risiken ausgesetzt sein könnte.
• US-Hyperscaler, darunter Alphabet, Amazon, Meta und Microsoft, werden voraussichtlich ihre Kapitalausgaben für 2026 um über 75 % erhöhen und etwa 700 Milliarden Dollar erreichen.
• Fitch erwartet, dass die Kapitalausgaben dieser Unternehmen von 2027 bis 2029 jährlich 1 Billion Dollar überschreiten könnten, eine Zahl, die erheblich höher ist als zuvor als gerechtfertigt angesehen.
• Die IT-Kapitalinvestitionen trugen im ersten Quartal 2026 1,4 Prozentpunkte zum US-BIP-Wachstum bei, während die Unternehmensanleiheemissionen in der ersten Jahreshälfte um 26 % stiegen, was größtenteils durch KI-Investitionen bedingt war.
• Fitch hat eine Verschlechterung der Preismacht für Frontier-KI-Modelle festgestellt, die auf zunehmenden Wettbewerb und eine höhere Preissensibilität bei Unternehmenskunden zurückzuführen ist.
• Die Stresstests der Agentur zeigen, dass, obwohl die Kreditkennzahlen im Allgemeinen widerstandsfähig sind, Sektoren wie Halbleiter und spezifische Finanzierungen von Rechenzentren einem hohen Risiko ausgesetzt sind und auf der Überinvestitionsrisikoskala von Fitch 60 Punkte erreichen.
• Der Global Risk Outlook von Fitch im Juli 2026 identifizierte eine Korrektur des KI-Marktes als ein erhebliches globales Kreditrisiko, das durch geopolitische Spannungen, insbesondere im Nahen Osten, verschärft wird.