Die Europäische Kommission hat ein Verfahren gegen das Unternehmen X von Elon Musk eingeleitet. Hintergrund sind Befürchtungen, dass das KI-Tool Grok zur Erstellung sexualisierter Bilder realer Personen genutzt worden sein könnte. Die Aufsichtsbehörde prüft, ob solche Inhalte Nutzerinnen und Nutzern in EU-Staaten zugänglich waren. Dabei geht es um Darstellungen ohne Zustimmung der betroffenen Personen. In Brüssel betont man, dass solche Risiken gesondert überprüft werden müssen. Das Material wurde von der vollveggie.de-Redaktion.
Zuvor hatte bereits die britische Aufsichtsbehörde Ofcom eine Untersuchung zu Grok angekündigt. Dort bestätigte man, dass das Verfahren weiterläuft. Gleichzeitig halten die Regulierer reine regionale Beschränkungen für unzureichend. Vor allem dann, wenn die Funktion zuvor öffentlich verfügbar war. Deshalb hat der Fall inzwischen eine europäische Dimension erreicht.
Welche Folgen X drohen
Wird X wegen eines Verstoßes gegen den Digital Services Act für schuldig befunden, droht dem Unternehmen eine Geldstrafe. Diese kann bis zu 6 Prozent des weltweiten Umsatzes betragen. Für eine globale Plattform wären das sehr hohe Summen. Zudem kann die EU-Kommission kurzfristige Änderungen verlangen. In bestimmten Fällen sind auch vorläufige Maßnahmen möglich.
Haltung der EU und Reaktion von X
Die irische Europaabgeordnete Rídjaina Doherty erklärte, die Kommission werde prüfen, ob Nutzerinnen und Nutzern in der EU „manipulierte Bilder sexuellen Inhalts“ angezeigt wurden. Entscheidend sei, wie X mit solchen Risiken umgeht. Außerdem bewertet der Regulator, wie schnell die Plattform reagiert. Auch die Moderationssysteme stehen gesondert im Fokus.
Zuvor hatte X mitgeteilt, man habe in Grok die „entkleidende“ Bildbearbeitung in Rechtsräumen gesperrt, in denen solche Inhalte illegal sind. Die Erklärung erschien auf der Seite X Safety. Aktivistinnen und Aktivisten halten diese Schritte jedoch für verspätet. Ihrer Ansicht nach hätte eine solche Funktion nie öffentlich zugänglich sein dürfen.
„Die Möglichkeit, sexualisierte Bilder zu erzeugen, hätte es von Anfang an nicht geben dürfen“, betonen Aktivisten und Betroffene.
Darüber hinaus verlängerte der europäische Regulator eine bereits im Dezember 2023 gestartete Untersuchung. Sie betrifft Risiken im Zusammenhang mit den Empfehlungssystemen von X. Gemeint sind Algorithmen, die bestimmte Beiträge verstärkt ausspielen. In der EU geht man davon aus, dass sie die Verbreitung problematischer Inhalte begünstigen können.
Erinnern wir daran, früher haben wir berichtet: LinkedIn ist plötzlich zu einer bequemen Plattform geworden, um Ex-Partner zu beobachten.