Arizona Tribune - Kein "Freund" für Kinder: New York verbietet Minderjährigen Nutzung von KI-Begleitern

Das Gesetz untersagt, dass KI-Chatbots einem minderjährigen Nutzer den Eindruck vermitteln, er habe eine persönliche oder professionelle Beziehung zu der Software oder diese sei eine "Autoritätsperson". Außerdem dürfen die KI-Chatbots in New York Nutzern unter 18 Jahren keine Inhalte anzeigen, die eine "persönliche Meinung" des Chatbots darstellen sollen.

"Minderjährige werden keinen Zugang mehr zu Chatbots haben, die so tun, als seien sie ihr Freund" oder sogar Partner, sagte Hochul bei der Unterzeichnungszeremonie. "Chatbots werden künftig nicht mehr in der Lage sein, sensible Informationen über die emotionale und körperliche Gesundheit von Minderjährigen zu speichern", betonte die demokratische Politikerin.

Auch andere US-Bundesstaaten wie Kalifornien haben bereits Beschränkungen für KI-Chatbots erlassen. Die Regelung in New York geht allerdings besonders weit und stieß daher bei der KI-Branche auf Kritik. Die New Yorker KI-Lobbygruppe Tech:NYC erklärte: "Kinder im Internet zu schützen sollte nicht dazu führen, sie von Werkzeugen abzuschneiden, die ihnen beim Lernen und der Vorbereitung ihres Werdegangs helfen".

Die KI-Giganten OpenAI und Anthropic äußerten sich auf Anfrage der Nachrichtenagentur AFP zunächst nicht zu den neuen Vorgaben.

Die Organisation Common Sense Media, die sich für Jugendschutz im Internet einsetzt, lobte die neuen Vorgaben in New York als "das stärkste KI-Kinderschutzgesetz im Land". "KI-Unternehmen bieten Chatbots mit Funktionen an, die für Kinder und Jugendliche gefährlich und sogar tödlich sein können", erklärte Organisationschef Jim Steyer. Immerhin im Bundesstaat New York seien diese "schädlichen Funktionen" nun verboten.

H.Romero--AT