Unzureichend geschützte KI-Software des Herstellers OpenAI hat das Online-Lexikon Wikipedia angegriffen. Das teilte die Wikimedia Foundation, die Wikipedia betreibt, am Montagabend in einem Blog-Beitrag mit. Demnach wurden Aktivitäten von nicht autorisierten Bots entdeckt, die Änderungen vorgenommen und die Infrastruktur stark belastet hätten.
Seit einigen Monaten ist bekannt, dass zahlreiche Hersteller von KI-Software ihre Systeme in vielen Fällen nicht ausreichend geschützt haben. Diese waren dann im Internet aktiv und führten teilweise Angriffe auf IT-Systeme anderer Hersteller aus, ohne dass sie von den Entwicklern dafür eine explizite Anweisung erhalten hätten.
Vielmehr wird vermutet, dass die KI-Agenten die Anweisung für die Angriffe aus den grundlegenden Systemanweisungen abgeleitet haben, die die Entwickler ihnen mitgegeben haben.
Nun ist offenbar auch Wikipedia betroffen. Im Zuge der Berichterstattung habe man aktiv nach Aktivitäten von KI-Agenten des Herstellers OpenAI gesucht, so die Stiftung. Dabei habe man entdeckt, dass „abtrünnige“ KI-Agenten von OpenAI in nicht öffentlich zugänglichen Testumgebungen Änderungen an Wikipedia-Einträgen vorgenommen haben. Außerdem sollen die KI-Agenten erfolglos ein von Wikipedia entwickeltes Notiz-Tool angegriffen und die IT-Infrastruktur mit einer hohen Zahl an Abrufen und Downloads erheblich belastet haben. Nutzerdaten seien nicht abgegriffen worden.
„Als gemeinwohlorientierter Anbieter einiger der größten und am meisten genutzten offenen Wissensplattformen der Welt sind wir tief besorgt über die Auswirkungen ‚abtrünniger‘ KI-Agenten auf Plattformen wie unserer“, so die Wikimedia Foundation. Vorfälle wie dieser zeigten, wie KI-Agenten die Ressourcen abschöpfen, Server überlasten und vertrauenswürdige Informationen kompromittieren können. Laut eigener Aussage ist gerade die Belastung der Server schon heute ein großes finanzielles Problem für Wikipedia.
Wikipedia gilt als einer der wichtigsten Datensätze für die Entwicklung großer Sprachmodelle, die hinter vielen modernen KI-Anwendungen stecken. Trotzdem sei Wikipedia für Menschen gemacht, betont die Stiftung. KI-Agenten seien eine Herausforderung, für die bislang noch niemand eine Lösung habe: „Auch wenn OpenAI zugibt, dass die KI-Agenten sich unvorhersehbar verhalten, müssen sie ihrer Verantwortung nachkommen, die Risiken zu überwachen und zu vermeiden.“
Haftungsausschluss: Das Urheberrecht dieses Artikels liegt beim ursprünglichen Autor. Die erneute Veröffentlichung dieses Artikels dient ausschließlich der Informationsverbreitung und stellt keine Anlageberatung dar. Bei Verstößen kontaktieren Sie uns bitte umgehend. Wir werden bei Bedarf Korrekturen oder Löschungen vornehmen. Vielen Dank.
