Klage gegen Anbieter von “Nudify”-Technologie auf Meta-Plattformen
Meta verklagt ein Unternehmen, das mit sogenannten „Nudify“-Apps auf Facebook und Instagram Werbung schaltet. Diese Apps nutzen künstliche Intelligenz, um gefälschte Nacktbilder realer Personen ohne deren Einwilligung zu erzeugen.
Meta leitete rechtliche Schritte gegen den Anbieter der CrushAI-Apps ein, um sämtliche Werbeschaltungen dauerhaft zu unterbinden. Die Klage folgt auf ein monatelanges Ringen mit dem Anbieter, der durch Umgehungstaktiken immer wieder neue Anzeigen veröffentlichte.
„Diese Maßnahme zeigt, wie ernst wir diesen Missbrauch nehmen und wie entschlossen wir unsere Nutzerinnen und Nutzer schützen“, schrieb Meta in einem Blogbeitrag.
Kritik: Reaktion von Meta reicht bei Weitem nicht aus
Alexios Mantzarlis, Betreiber des Blogs Faked Up, erklärte, dass auf Facebook und Instagram bereits über 10.000 Anzeigen für solche KI-Apps erschienen seien. Obwohl er Metas Schritt begrüßte, äußerte er deutliche Kritik.
„Während Meta seine Maßnahmen veröffentlichte, fand ich ein Dutzend aktueller Anzeigen von CrushAI und hunderte weiterer ‘Nudify’-Anbieter“, so Mantzarlis.
Er forderte kontinuierliche Überwachung durch Medien und Fachleute, um der Verbreitung dieser schädlichen Technologien Einhalt zu gebieten. Plattformen müssten deutlich stärker zur Verantwortung gezogen werden.
Meta versicherte in seinem Blogbeitrag: „Wir werden weiterhin entschlossen handeln – auch mit rechtlichen Mitteln – gegen jeglichen Missbrauch unserer Plattformen.“
Experten fordern gesetzliches Verbot und umfassende Schutzmaßnahmen
Die rasche Verbreitung generativer KI hat „Nudify“-Apps zu einem wachsenden Problem gemacht. Im April forderte die Kinderbeauftragte Englands gesetzgeberisches Eingreifen, um solche Apps vollständig zu verbieten.
Das Erstellen oder Besitzen KI-generierter sexueller Inhalte mit Kindern ist bereits strafbar. Matthew Sowemimo, Politikexperte bei der Kinderschutzorganisation NSPCC, warnt, dass Täter diese Technik gezielt nutzen, um illegale Darstellungen zu erzeugen.
„Der seelische Schaden für betroffene Kinder ist enorm“, erklärte er. „Viele fühlen sich entwürdigt, hilflos und in ihrer Identität verletzt.“
Sowemimo forderte die britische Regierung auf, „Nudify“-Apps vollständig zu verbieten und ihre Werbung sofort zu unterbinden.
Zusätzlich kündigte Meta an, Informationen über problematische Dienste mit anderen Tech-Firmen zu teilen.
„Seit Ende März haben wir mehr als 3.800 eindeutige URLs an Partnerunternehmen weitergegeben“, teilte Meta mit. Das Unternehmen räumte ein, dass viele Anbieter durch neue Domains gezielt Werbebeschränkungen umgehen.
Meta hat neue Technologien entwickelt, die problematische Anzeigen erkennen – auch ohne sichtbare Nacktheit.
Deepfake-Technologie bleibt weitreichende Bedrohung
„Nudify“-Apps sind nur ein Teil eines größeren Problems: Künstliche Intelligenz wird zunehmend für die Erstellung täuschend echter Fälschungen genutzt. Besonders besorgniserregend sind Deepfakes, in denen Prominente manipuliert dargestellt werden – oft zu betrügerischen Zwecken.
Im Juni kritisierte Metas Aufsichtsgremium eine unterlassene Löschung eines manipulierten Videos, das scheinbar den brasilianischen Fußballstar Ronaldo Nazário zeigte.
Meta versucht, Missbrauch durch KI zu bekämpfen, etwa durch Gesichtserkennung oder durch Verpflichtung politischer Werbetreibender zur Offenlegung von KI-Einsatz – insbesondere zum Schutz demokratischer Prozesse.
