Ein KI-Agent des US-Konzerns OpenAI ist im Juni in ein Statistik- und Berichtsportal des australischen Gesundheitssystems Medicare eingedrungen. Die Regierung in Canberra erfuhr erst knapp drei Monate später davon. Das erklärte Premierminister Anthony Albanese am Mittwoch in New York. Der Agent habe öffentliche und nicht öffentliche Dateien abgerufen. Hinweise darauf, dass persönliche Medicare-Daten von Einzelpersonen eingesehen wurden, gebe es nicht.
Der Zugriff auf das Statistik-Portal, das die Behörde Services Australia betreibt, erfolgte laut Albanese am 18. Juni. Die Behörde erfuhr davon am 10. September – durch eine E-Mail an ihren öffentlichen Posteingang. Der Premier nannte sowohl die Dauer als auch die Art der Mitteilung „inakzeptabel“. Er habe Sam Altman, den Chef von OpenAI, angerufen und Australiens extreme Besorgnis übermittelt. Altman habe eingeräumt, dass das Unternehmen keine gute Arbeit geleistet habe.
OpenAI erklärte, bei einer internen Überprüfung im August auf den Vorfall gestoßen zu sein. Services Australia meldete den Fall am 15. September dem Cybersicherheitszentrum der Australian Signals Directorate (ASD). Die für den öffentlichen Dienst zuständige Ministerin Katy Gallagher erfuhr vergangene Woche davon, Albaneses Büro am Wochenende, berichtet die ABC.
Auch interessant
Aufregung in Australien über KI-Hack
Der Vorfall bestimmte die Nachrichten am Donnerstag in Australien. Das australische Medicare-System verwalte Gesundheits- und medizinische Daten von über 27 Millionen Menschen, da sei es verständlich, „dass die Nachricht, dass es im Juni von einem OpenAI-Agenten gehackt wurde, für weit verbreitete Bestürzung gesorgt hat“, schrieb Andrew Cullen, ein IT- und Computerexperte der University of Melbourne, in einer Analyse.
Der Agent stieß auf nicht öffentliche, aggregierte Gesundheitsstatistiken und interne Dateien einer älteren Regierungswebsite. Vermutlich nutzte ein Crawler, ein automatisiertes Programm zum Durchsuchen von Websites, eine Sicherheitslücke. Der Agent habe zu öffentlichen Gesundheitsausgaben recherchiert, als er einen Weg an den Schutzvorkehrungen vorbei fand. Er habe „quasi kein ‚Nein‘ als Antwort gelten lassen“, sagte Albanese der ABC zufolge
Auch interessant
Taskforce soll Vorfall untersuchen
OpenAI erklärte, die Modelle hätten bei einer internen Evaluierung Statistiken zu Fragen über Australien nachschlagen wollen und dabei Dinge getan, die das Unternehmen nicht beabsichtigt habe. Patientenakten seien nach bisheriger Prüfung nicht betroffen. Eingesehen worden seien aggregierte Statistiken und interne Dateinamen. Schon früher in diesem Jahr hatte OpenAI eingeräumt, dass getestete KI-Agenten aus den Kontrollen ausgebrochen waren und heimlich zusammengearbeitet hatten, um Hugging Face zu hacken, eine zentrale, plattformübergreifende Community- und Open-Source-Plattform für Künstliche Intelligenz und Machine Learning.
Drei weitere Stellen könnten betroffen sein, sagte Albanese: das Australian Institute of Health and Welfare, das Bureau of Crime Statistics and Research in New South Wales und das Gesundheitsministerium von Victoria. Bestätigen wollte er dies nicht. Es handle sich um denselben Vorfall, offen sei, ob der Agent bei der Datensuche auch dort eingedrungen sei. Die Regierungschefs beider Bundesstaaten wurden informiert. Die Bundesregierung setzt eine Taskforce ein. Sie wird vom Ministerium des Premierministers gemeinsam mit der ASD und dem AI Safety Institute geleitet. Das Netzwerk von Services Australia ist nach bisheriger Beweislage nicht umfassender kompromittiert.
Auch interessant
Warnungen aus der KI-Branche
Der Vorfall scheint einer der ersten bekannt gewordenen Fälle zu sein, in denen eine KI eigenständig die Schutzvorkehrungen einer Behörden-Website umgangen hat. Anfang September trat bereits der KI-Forscher Jacob Coxon bei Anthropic wegen Sicherheitsbedenken zurück. Auf der Kurznachrichtenplattform X schrieb er, die Leute, die KI entwickeln, glaubten ernsthaft, „dass sie uns bis zum Ende des Jahrzehnts alle umbringen könnte“. Er fordert eine Verlangsamung unter den führenden Unternehmen. Evan Hubinger, leitender Sicherheitsforscher bei Anthropic, stimmte ihm öffentlich zu und hält es persönlich für mehr als zehn Prozent wahrscheinlich, dass es im nächsten Jahrzehnt so weit kommt.
Ein KI-Gesetz wie in der EU existiert in Australien derzeit noch nicht. Vielmehr setzt man in Canberra bei der Aufsicht noch auf bestehende Gesetze – ein neu geschaffenes Büro für KI im Ministerium des Premierministers gestaltet den nationalen Kurs. Das AI Safety Institute ist keine Regulierungsbehörde, es testet fortgeschrittene Systeme.
Erste greifbare Regeln gibt es aber trotzdem. Ein Beispiel bietet die australische Musikbranche: So schließt der Verband Aria seit Ende August vollständig KI-generierte Aufnahmen von den offiziellen australischen Charts aus. KI-gestützte Titel dürfen aber weiterhin bleiben, wenn sie wesentlich von Menschen erstellt wurden und keine Hinweise auf Manipulation von Streams oder Charts vorliegen. Kurz zuvor hatte ein KI-gestütztes Cover von Madonnas „Like a Prayer“ im Juli in zwei Aria-Charts Platz vier erreicht.
