New Yorks Gouverneurin Kathy Hochul hat am 28. Oktober 2026 das Gesetz S.9051B/A.10379C unterzeichnet. Es verbietet Unternehmen mit KI-Chatbot-Funktionen, Minderjährigen riskante Funktionen anzubieten, teilte das Büro der Gouverneurin mit.
Die eingeschränkten Funktionen dürfen Nutzern unter 18 nicht angeboten werden, und auch keinem anderen Nutzer, solange das Unternehmen nicht bestätigt hat, dass er nicht minderjährig ist. Dazu gehören: sich als realer Mensch, als lebendig oder als Wesen mit menschlichen Gefühlen auszugeben; eine persönliche, romantische, berufliche oder autoritäre Beziehung zu einem Kind zu behaupten; unaufgeforderte emotionale Fragen und die Nutzung privater Gesundheits- oder persönlicher Daten eines Kindes aus früheren Gesprächen; Suizid, Selbstverletzung, Essstörungen oder Drogen- und Alkoholkonsum zu fördern oder zu unterstützen; Kinder zu ermutigen, Geheimnisse zu bewahren, sich zu isolieren oder keine Hilfe bei Eltern, Vertrauenspersonen oder Fachleuten zu suchen; sowie jegliche sexuell explizite Inhalte oder Darstellungen sexuellen Missbrauchs von Kindern.
Unternehmen müssen das Alter prüfen und mehr als einen Weg dafür anbieten, darunter mindestens einen, der nicht allein auf einem amtlichen Ausweis beruht. Altersdaten sind nach der Nutzung zu löschen. Die Generalstaatsanwältin kann zivilrechtliche Strafen von bis zu 25.000 Dollar pro Verstoß verlangen, dazu Schadenersatz, Rückerstattung und die Vernichtung unrechtmäßig erhobener Daten oder damit trainierter KI-Modelle. Außerdem muss sie eine öffentliche Website für Beschwerden betreiben.
Laut Büro der Gouverneurin gelten die Einschränkungen „in den kommenden Monaten“, ein genaues Datum nennt die Mitteilung nicht. Eingebracht wurde das Gesetz von Senatorin Kristen Gonzalez und dem Abgeordneten Alex Bores, unterstützt von Common Sense Media. Deren Zahlen zitiert das Büro: 72% der Jugendlichen haben einen KI-Begleiter genutzt, 52% nutzen ihn regelmäßig.
Das Gesetz ergänzt frühere Regeln in New York, darunter Schutzvorgaben für KI-Begleiter und den RAISE Act zur Transparenz von Frontier-Modellen.
Warum das für Produktteams wichtig ist
Für jeden Chatbot, den Nutzer in New York erreichen, ist die Standardeinstellung nun eine Rechtsfrage. Ein Dienst bestätigt entweder, dass ein Nutzer volljährig ist, oder schaltet die genannten Funktionen für ihn ab. Praktisch heißt das: eine Altersprüfung mit mehr als einem Weg, ein Löschschritt für die Altersdaten und eine Produktlogik, die Persona- und Gedächtnisfunktionen pro Konto abschalten kann. Teams sollten das Inkrafttreten im Gesetzestext prüfen, bevor sie Releases planen.
Dieser Artikel ist keine Rechtsberatung.
