Weil der KI-Chatbot Grok weiterhin genutzt werden kann, um Fotos von Menschen digital „zu entkleiden“, haben Indonesien und Malaysia als erste Staaten den Zugriff auf den Dienst gestoppt. Nach Angaben der zuständigen Ministerien reagierten die Regierungen auf den wiederholten Missbrauch der Software.
Die Regierung Malaysias forderte von der Plattform X stärkere Maßnahmen gegen die problematischen Nutzungen, erhielt aber keine für sie zufriedenstellende Antwort. Indonesien begründete die temporäre Sperre mit dem Schutz von Frauen, Kindern und der ganzen Gesellschaft vor sogenannter Fake-Pornografie. Sexuelle Deepfakes ohne Zustimmung der abgebildeten Personen werden dort als schwerwiegender Verstoß gegen Menschenrechte, Würde und nationale Sicherheit angesehen.
Der Schritt der beiden Regierungen fiel, nachdem Grok auf dem Kurznachrichtendienst X bereits dahingehend eingeschränkt worden war, dass Bildgenerierung nur noch in direkten Chats oder gegen Bezahlung möglich ist. Zuvor wurden über längere Zeiträume teils tausende Bilder pro Stunde erzeugt, auf denen vor allem Frauen und teilweise auch Minderjährige in Unterwäsche oder Bikinis dargestellt wurden. Wer für X bezahlt, kann solche Bilder weiterhin öffentlich in Auftrag geben, während in anderen Fällen der Chatbot entsprechende Anfragen noch in Direktnachrichten oder auf seiner eigenen Website beantwortet.
Zahlreiche Staaten fordern, dass diese Praxis komplett eingestellt wird, da die bisherigen Einschränkungen nicht ausreichen, um den Missbrauch zu stoppen. Die Verantwortlichen für Grok sind dieser Forderung bislang nicht nachgekommen.
Grok wird von xAI entwickelt und vor allem über X angeboten, einem Dienst, der beiden dem Unternehmer Elon Musk gehört. Musk reagierte mit kritischen und teils kryptischen Beiträgen auf eine Untersuchung der Praxis in Großbritannien. Er warf der Regierung in London unter anderem Zensur vor und bezeichnete sie als „faschistisch“.
Auch in Großbritannien wird untersucht, ob Grok gegen heimische Sicherheitsgesetze verstößt. Der britische Premierminister nannte die Sexualisierung von Frauen und Kindern durch die KI-Technik „widerlich“. Die Beschränkungen bei der Bildgenerierung stuften sowohl die britische Regierung als auch die Europäische Kommission als nicht ausreichend ein.
Aus dem Umgang mit Grok wächst zudem Kritik an den großen App-Anbietern. Beobachter fordern, dass Google und Apple die zugehörigen Anwendungen aus ihren App-Stores entfernen sollen, solange die problematischen Aktivitäten nicht beendet werden. Insbesondere wird darauf hingewiesen, dass beide Unternehmen in ihren eigenen Regeln Inhalte ohne Zustimmung verbieten und dennoch Apps bereitstellen, über die solche Darstellungen verbreitet werden können.