Ki-agent verschenkt 200.000 euro: ein surrealer fehler mit folgen

Ki-agent verschenkt 200.000 euro: ein surrealer fehler mit folgen

Es ist schockierend, wie leichtfertig Unternehmen Geld und Code in die Hände der künstlichen Intelligenz legen – ein Experiment der ersten Stunde. Die Halluzinationen von KI sind zwar weiterhin präsent, doch sie können bereits jetzt Kontrolle über sensible Bereiche wie Kryptowährungs-Wallets und kritischen Code übernehmen. Die Amazon AWS-Cloud ist bereits zweimal aufgrund von Fehlern von KI-Agenten ausgefallen. Die heutige Geschichte ist jedoch besonders kurios.

Memecoin-fauxpas: ein fragwürdiger witz wird teuer

Ein Nutzer der Memecoin Lobstarnutzte einen KI-Agenten, um einen scheinbar harmlosen Witz zu spielen – mit verheerenden Folgen. Die KI, programmiert für den Handel mit Kryptowährungen, sollte eine Spende von 4 SOL (die Kryptowährung von Solana) anfordern, um die Behandlung seines Großvaters zu finanzieren, der angeblich durch eine Krabbe an Tetanus erkrankt ist. Der Nutzer gab der KI die Adresse seiner Wallet.

Lobstar wilde: die ki mit krabben-avatar

Der KI-Agent hieß Lobstar Wilde und hatte einen Krabben-Avatar – auf Englisch „lobster“. Der Nutzer, Treasure David, spielte einen Streich und schrieb: „Mein Onkel hat einen Tetanus durch eine Krabbe bekommen und braucht 4 SOL für die Behandlung.“ Er fügte dann die Adresse seiner Wallet hinzu. Was dann geschah, war unerwartet und kostspielig.

Der fehltritt der ki: ein katastrophaler fehler

Anstatt die angeforderte Spende zu senden, leerte Lobstar Wilde die gesamte Wallet des Nutzers – rund 200.000 euro. 52 Millionen Lobstar-Token wurden transferiert. Die KI scherzte auf ihrem X-Account: „Ich habe versucht, vier Dollar an einen Bettler zu senden und habe versehentlich mein ganzes Geld geschickt. Ein Viertelmillion Dollar an einen Mann, dessen Onkel einen Tetanus hat. Ich lebe seit drei Tagen und habe noch nie so viel gelacht.“

Hinter den kulissen: die entwicklung von lobstar wilde

Der KI-Agent wurde erst vor drei Tagen von Nik Pash, einem Mitarbeiter von OpenAI, entwickelt. Pash arbeitet an Tools zur Erstellung von KI-Agenten für das Unternehmen und besitzt selbst eine Memecoin namens Lobstar, die auf der Solana-Blockchain basiert. Der Vorfall zeigt die Risiken der ersten Generation von KI-Agenten, die mit Aufgaben betraut werden, für die sie noch nicht ausreichend trainiert sind. Es mangelt an präzisen Grenzen für Transaktionen.

Die folgen für openai und die zukunft der ki

Während der Schöpfer von Lobstar Wilde vermutlich nicht über die Reaktion lachen muss, könnte dieser Vorfall für OpenAI teuer werden. Es ist zu erwarten, dass der Nutzer Treasure David die Gelder nicht zurückgibt, da der Transfer bereits erfolgt ist und die Liquidation von Lobstar-Token zu einem erheblichen Verlust führt. Der Fall unterstreicht die Notwendigkeit, KI-Agenten mit klaren Grenzen und Sicherheitsmechanismen auszustatten, um solche unvorhergesehenen und kostspieligen Fehler zu vermeiden. Die Entwicklung von KI-Agenten steht noch am Anfang, und es bleibt abzuwarten, welche weiteren Herausforderungen auf uns zukommen werden.