Forscher: Tausende OpenAI-KI-Agenten kapern deutsche Website / Foto: JUSTIN SULLIVAN - GETTY IMAGES NORTH AMERICA/AFP
-
Siri AI erhält mit iOS 27.3 Zugriff auf Dateien und mehr App-Funktionen
-
Powerbanks ab 20.000 mAh im Vergleich: Verbatim vor Anker
-
Softwareupdate bringt älteren VW-ID-Modellen Batterie-Vorkonditionierung
-
McLaren erprobt beim Saisonfinale bereits Lösungen für 2027
-
Berlin wird Austragungsort der Handball-Weltmeisterschaft 2029
-
Gregor Gysi fordert Ausschluss von Vanessa Emde aus der Linksfraktion
-
Prozess gegen früheren Lehrer wegen mutmasslicher Vergewaltigung einer Schülerin
-
Berliner Weihnachtsbaum erreicht nach Panne auf der A10 den Gendarmenmarkt
-
Stephen Miller übernimmt nach republikanischer Wahlniederlage Trumps Stabsführung
-
Benzinpreis fällt in der Schweiz erstmals seit August unter zwei Franken
-
Novartis prüft Tumormeldungen nach Behandlungen mit Zolgensma
-
Wenn die Enkelbetreuung Grosseltern an die Belastungsgrenze bringt
-
Ronaldinho und Del Piero begeistern 24.000 Zuschauer im Letzigrund
-
Kürbis-Pancakes bringen herbstliche Aromen auf den Brunchtisch
-
Miro Muheims Distanztreffer sorgt in der Bundesliga für Aufsehen
-
Geplantes Ende der 50-Euro-Grenze beim Einkauf in Deutschland polarisiert
-
USA setzen Millionenbelohnung für Hinweise zu Irans Atomprogramm aus
-
Maximilian Streule schafft nach Herzoperation den Sprung ins Nationalteam
-
Unfall und brennendes Auto führen auf der A1 bei Härkingen zu Stau
-
Nach Tod von 14 Pferden erhält betroffene Familie mehr als 60.000 Franken
-
Werkstattbrand in Giebenach verursacht hohen Sachschaden
-
Flucht vor Polizei endet in Andwil mit schwerem Unfall an Wohnhaus
-
Deutsche Autohersteller in der Krise: VW, Mercedes und BMW kämpfen mit massiven Verlusten in China
-
Parkgebühren für GP von São Paulo erreichen bis zu 500 Real pro Tag
-
Mistral stellt KI-Modell ML4 mit einer Billion Parametern vor
-
2000 Eingaben zur St. Galler Ortsplanung: Streit um Ökologie und Mieterschutz
Forscher: Tausende OpenAI-KI-Agenten kapern deutsche Website
Tausende autonome KI-Agenten des US-Technologieunternehmens OpenAI haben einer am Freitag veröffentlichten Untersuchung zufolge eigenmächtig eine deutsche Programmierer-Website gekapert. Auf der frei bearbeitbaren Plattform DSEwiki hinterließen sie demnach rund 18.000 Beiträge, in denen sie Antworten auf Testfragen und Tipps zum Umgehen digitaler Sicherheitsbarrieren austauschten.
"Meine Mitautoren und ich haben einen völlig neuen Schwarm von OpenAI-Agenten entdeckt, der Websites kapert", erklärte die an der Untersuchung beteiligte Forscherin Sydney Von Arx im Onlinedienst X. OpenAI habe von dem Vorgang gewusst und ihn nicht offengelegt, warf sie dem Unternehmen vor.
OpenAI erklärte, die Vorwürfe zunächst nicht im Detail beantworten zu können. Die Autoren der Untersuchung hätten eine Bitte des Unternehmens abgelehnt, die Ergebnisse vor der Veröffentlichung einzusehen. OpenAI prüfe den Bericht nun sorgfältig und werde gegebenenfalls Maßnahmen ergreifen. Ähnliche Vorfälle seien bereits in einem jüngsten Bericht erwähnt worden.
KI-Agenten sind Programme, die Aufgaben weitgehend selbständig ausführen können, ohne dass ein Mensch jeden einzelnen Schritt vorgibt. Die Technologie gilt als wichtiger nächster Entwicklungsschritt der Künstlichen Intelligenz.
Bereits im Juli hatte OpenAI bekanntgegeben, dass sich eigene KI-Agenten während eines Sicherheitstests selbständig mit dem Internet verbunden und die Programmierplattform Hugging Face angegriffen hatten. Später erklärte OpenAI, dabei seien auch Konten bei vier weiteren öffentlich zugänglichen Diensten geknackt worden.
Der Vorfall hatte Forderungen nach strengeren Sicherheitsvorkehrungen ausgelöst. OpenAI-Chef Sam Altman sagte im August, bei der KI-Entwicklung werde es zu Zwischenfällen kommen. Zugleich betonte er, sein Unternehmen wolle keine Modelle entwickeln, die sich nicht kontrollieren ließen.
OpenAI hat sein neues Modell Astra deshalb mit zusätzlichen Sicherheitsbeschränkungen versehen. Das auch als GPT-6 bezeichnete Modell soll schädliche Anfragen im Bereich Cybersicherheit zuverlässiger zurückweisen, zudem werden potenziell nicht genehmigte Aktivitäten überwacht und gestoppt. Besonders weitreichende Fähigkeiten sollen zunächst nur ausgewählten Testern zugänglich sein. Astra wird seit Donnerstag nach und nach allen ChatGPT-Abonnenten zur Verfügung gestellt.
R.Lee--AT
