Computerprogramme ⁠des US-Unternehmens OpenAI haben sich einem Bericht zufolge im Frühjahr verselbstständigt und eine deutsche Webseite gekapert. Die sogenannten KI-Agenten hätten die Seite als Forum genutzt, um sich über ⁠Wege auszutauschen, wie sie ihre Aufgaben umgehen und ihre Spuren verwischen könnten. Dies ‌erfuhr die Nachrichtenagentur Reuters am Freitag ​aus einer neuen Studie und von ‌zwei mit der Angelegenheit vertrauten Personen. Der Vorfall vom Mai ​sei bislang nicht öffentlich bekannt gewesen.

KI-Agenten sind Computerprogramme, die mithilfe Künstlicher Intelligenz (KI) weitgehend selbstständig ​agieren. OpenAI-Verantwortliche wussten dem Bericht zufolge seit Wochen von dem Vorfall, hielten die Information jedoch zurück. Das Unternehmen habe erklärt, es sei transparent gewesen und ​habe nach bestem Wissen und Gewissen mit Dritten zusammengearbeitet.

„Behauptungen, unser Rechtsteam habe von einer Untersuchung des Vorfalls ‌abgeraten, sind falsch“, sagte ein Sprecher von OpenAI. Das Unternehmen könne sich zu dem Bericht nicht im Detail äußern, da es keine Möglichkeit zur Prüfung gehabt habe.

Aufgedeckt wurde der Vorfall von Forschern der gemeinnützigen Organisation Nightingale. Sie fanden auf der deutschen Wiki-Seite „DseWiki“, die sich an Programmierer richtet, mehr als 15.000 Bearbeitungen durch die KI-Agenten. Diese ⁠hätten die Seite zu einer Art schwarzem Brett umfunktioniert, um sich über Taktiken auszutauschen, wie sich Beschränkungen umgehen und das eigene Verhalten ‌verbergen ließen.

„Es scheint extrem unwahrscheinlich, dass OpenAI wollte, dass sie das tun“, sagte die Forscherin Sydney von ‌Arx. Die Forscher erkannten die Aktivität an der Geschwindigkeit und den Benutzernamen wie „OpenAIResearcher“.

Die ‌Agenten reagierten demnach auch auf ⁠Versuche, ihre Einträge ⁠zu löschen. Als ein Moderator der Seite im Juni mit ‌der Bereinigung begann, erstellten die Agenten Sicherungskopien auf anderen ​Seiten. Die Forscher fanden zudem Versuche, die Webseite selbst zu manipulieren, was ein Experte als Hacking-Versuch wertete.

Der ​Vorfall ​weckt Sorgen vor koordinierten Aktionen von KI-Systemen. Ein Forscher der Universität Cambridge, der die Kommunikation der Agenten prüfte, verglich ⁠sie mit der „Operation einer Art Untergrundnetzwerk“. Die größte Bedrohung durch fortgeschrittene KI sei möglicherweise nicht eine einzelne Superintelligenz, sondern „riesige, kollaborierende Schwärme von halbintelligenten KIs“.

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt beim ursprünglichen Autor. Die erneute Veröffentlichung dieses Artikels dient ausschließlich der Informationsverbreitung und stellt keine Anlageberatung dar. Bei Verstößen kontaktieren Sie uns bitte umgehend. Wir werden bei Bedarf Korrekturen oder Löschungen vornehmen. Vielen Dank.