US-Behörde startet Untersuchung von KI-Chatbots zum Kinderschutz

Die Anfrage der unter anderem für Verbraucherschutz zuständige Behörde ging an den ChatGPT-Erfinder OpenAI, die Google-Mutter Alphabet, den Facebook-Konzern Meta und dessen Plattform Instagram, die Snapchat-Firma Snap, Elon Musks KI-Firma xAI und den Chatbot-Entwickler Character Technologies.

Die FTC interessiert sich speziell für Chatbots, die zu «Gefährten» im Alltag werden können, weil sie in der Lage sind, wie ein Freund oder Vertrauter zu kommunizieren. Dies könne dazu führen, dass einige Nutzerinnen und Nutzer – «insbesondere Kinder und Teenager» – eine Beziehung zu Chatbots aufbauten, warnte die Behörde.

Sie will unter anderem mehr darüber wissen, wie Unternehmen Geld mit Interaktionen von Nutzenden mit Künstlicher Intelligenz verdienen und wie sie die Persönlichkeit von Chatbots entwickeln.