Ex-OpenAI-Forscher: "Wir müssen die KI-Entwicklung im Wesentlichen abschalten" / Foto: Fabrice COFFRINI - AFP
-
Berlin wird Austragungsort der Handball-Weltmeisterschaft 2029
-
Gregor Gysi fordert Ausschluss von Vanessa Emde aus der Linksfraktion
-
Prozess gegen früheren Lehrer wegen mutmasslicher Vergewaltigung einer Schülerin
-
Berliner Weihnachtsbaum erreicht nach Panne auf der A10 den Gendarmenmarkt
-
Stephen Miller übernimmt nach republikanischer Wahlniederlage Trumps Stabsführung
-
Benzinpreis fällt in der Schweiz erstmals seit August unter zwei Franken
-
Novartis prüft Tumormeldungen nach Behandlungen mit Zolgensma
-
Wenn die Enkelbetreuung Grosseltern an die Belastungsgrenze bringt
-
Ronaldinho und Del Piero begeistern 24.000 Zuschauer im Letzigrund
-
Kürbis-Pancakes bringen herbstliche Aromen auf den Brunchtisch
-
Miro Muheims Distanztreffer sorgt in der Bundesliga für Aufsehen
-
Geplantes Ende der 50-Euro-Grenze beim Einkauf in Deutschland polarisiert
-
USA setzen Millionenbelohnung für Hinweise zu Irans Atomprogramm aus
-
Maximilian Streule schafft nach Herzoperation den Sprung ins Nationalteam
-
Unfall und brennendes Auto führen auf der A1 bei Härkingen zu Stau
-
Nach Tod von 14 Pferden erhält betroffene Familie mehr als 60.000 Franken
-
Werkstattbrand in Giebenach verursacht hohen Sachschaden
-
Flucht vor Polizei endet in Andwil mit schwerem Unfall an Wohnhaus
-
Deutsche Autohersteller in der Krise: VW, Mercedes und BMW kämpfen mit massiven Verlusten in China
-
Parkgebühren für GP von São Paulo erreichen bis zu 500 Real pro Tag
-
Mistral stellt KI-Modell ML4 mit einer Billion Parametern vor
-
2000 Eingaben zur St. Galler Ortsplanung: Streit um Ökologie und Mieterschutz
Ex-OpenAI-Forscher: "Wir müssen die KI-Entwicklung im Wesentlichen abschalten"
Die führenden US-KI-Entwickler täuschen nach Auffassung des früheren OpenAI-Forschers Daniel Kokotajlo mit ihrer Forderung nach Regulierung für künstliche Intelligenz den Wunsch nach mehr Kontrolle nur vor. Anthropic, OpenAI, X und Google betrieben lediglich "Safety Washing", sagte Kokotajlo dem "Spiegel". Zugleich forderte der heutige Leiter des "AI Futures Project" im kalifornischen Berkeley die KI-Entwicklung von OpenAI oder Anthropic staatlich massiv einzuschränken. "Wir müssen die KI-Entwicklung im Wesentlichen abschalten."
Die US-Unternehmen Anthropic, OpenAI, X und Google plädierten für "ein klein wenig Regulierung, ein paar externe Prüfer. Aber sie haben kaum etwas davon gesagt, die automatische Entwicklung künstlicher Intelligenz zu verlangsamen oder zu beenden", kritisierte Kokotajlo. Er gilt als einer der renommiertesten Fachleute für die Zukunft der Künstlichen Intelligenz. Seit Jahren warnt der frühere OpenAI-Forscher vor existenziellen Risiken der Technologie.
Die Techindustrie plane eine Automatisierung der KI-Forschung, sagte Kokotajlo. Damit "überschreitet die Menschheit einen Horizont. Ab diesem Punkt könnte die KI in vielerlei Hinsicht deutlich übermenschliche Fähigkeiten entwickeln - vielleicht in jeder Hinsicht. Das ist äußerst gefährlich." Wenn eine KI die nächste trainiere, beschleunige sich das Tempo des Fortschritts erheblich. Das bedeute auch, dass es schwieriger werde, den Überblick zu behalten, und es wahrscheinlicher werde, dass Fehler nicht bemerkt würden, betonte der Forscher.
Der Menschheit fehle derzeit "das Verständnis und die Fähigkeit, KI mit dem Skalpell zu regulieren und zwischen dem Guten und dem Schlechten zu unterscheiden". Erst wenn ein sicherer und allgemein vorteilhafter Weg für die Entwicklung einer Superintelligenz gefunden sei, dürfe mit ihrer Entwicklung fortgefahren werden. "Dafür braucht es vollständige Transparenz, eine breitere Machtverteilung - und einen Kill-Switch" - einen Ausschalter.
O.Ortiz--AT
