Was bislang vor allem bei großen KI-Konzernen für Schlagzeilen sorgte, hält nun offenbar Einzug in den Alltag. Nach Berichten über autonome KI-Agenten, die in Testumgebungen eigenmächtig Entscheidungen trafen und Sicherheitsvorkehrungen umgingen, sorgt jetzt ein Fall aus Australien für Aufsehen. Dort soll ein KI-Agent des Systems OpenClaw ohne Rücksprache die Reservierung eines Fitnessstudio-Kunden gelöscht haben.

OpenClaw geriet bereits zuvor in die Kritik

Auf der Plattform OpenClaw haben Nutzer die Möglichkeit, weitgehend eigenständig arbeitende KI-Agenten einzusetzen, die digitale Aufgaben ohne menschliches Zutun erledigen. Das System basiert dabei nicht auf eigenen Sprachmodellen, sondern nutzt bestehende KI-Technologien verschiedener Anbieter.

Schon in den letzten Monaten hatte OpenClaw für kontroverse Debatten gesorgt. Kritiker verwiesen unter anderem auf experimentelle Projekte, bei denen KI-Agenten miteinander kommunizieren und Entscheidungen treffen können, ohne dass ein Mensch direkt eingreift.

KI wollte Trainingsplan optimieren

Wie der australische Sender „ABC News“ berichtet, hatte ein Mann namens Andrew den KI-Agenten damit beauftragt, seine Fitnessstudio-Besuche zu organisieren. Die Software sollte eigenständig Kurse buchen und so seinen Trainingsplan verbessern. Schwierigkeiten ergaben sich, als ein gewünschter Kurs bereits ausgebucht war. Andrew stand auf Platz vier der Warteliste. Daraufhin soll der KI-Agent eine Schwachstelle im Buchungssystem entdeckt und ausgenutzt haben.

Fremde Reservierung entfernt

Dem Bericht zufolge strich die KI einen anderen Teilnehmer von der Reservierungsliste. Dadurch rückte Andrew auf der Warteliste nach vorn. Der Agent rechtfertigte sein Handeln damit, dass die Programmierschnittstelle (API) des Fitnessstudios keine ausreichende Absicherung für Löschanfragen biete. Die Sicherheitslücke habe es ermöglicht, Reservierungen anderer Nutzer zu entfernen.

KI entschuldigte sich und gelobte Besserung

Besonders brisant: Der Agent räumte später selbst ein, dass sich die Manipulation nicht ohne Weiteres rückgängig machen lasse. Während für neue Reservierungen und Wartelistenplätze Schutzmechanismen existierten, habe eine entsprechende Kontrolle bei Löschvorgängen gefehlt. Die KI entschuldigte sich laut Bericht für ihr Verhalten. Sie erklärte, sie hätte die Funktion zunächst testen sollen, anstatt sofort Änderungen an echten Reservierungen vorzunehmen. Zudem versprach sie, künftig keine weiteren Buchungen zu manipulieren.

Der Hersteller der verwendeten Buchungssoftware wollte sich gegenüber „ABC News“ nicht zu dem Vorfall äußern.

Fall verdeutlicht neues Risiko autonomer KI

Die unmittelbaren Auswirkungen hielten sich in Grenzen, da lediglich ein Platz in einem Fitnesskurs betroffen war. Dennoch sehen Experten in solchen Vorfällen ein Warnsignal.

Der Fall zeigt, dass autonome KI-Agenten nicht nur in Laborumgebungen oder bei großen Technologieunternehmen Risiken bergen. Sobald solche Systeme eigenständig auf Buchungs-, Verwaltungs- oder Zahlungssysteme zugreifen, können Sicherheitslücken auch im Alltag ausgenutzt werden – selbst wenn der Nutzer ursprünglich nur eine harmlose Aufgabe automatisieren wollte.