Apple hat seine App-Store-Regeln überarbeitet, um 'Nudify'-Apps auszuschließen – KI-Werkzeuge, die aus gewöhnlichen Fotos nicht einvernehmliche intime Bilder erzeugen –, berichtet The Verge.
Die Kategorie ist zu einem der deutlichsten verbrauchernahen Schäden generativer KI geworden. Solche Tools sind billig zu bauen, leicht über App-Stores zu verbreiten und werden überwiegend gegen Frauen und Mädchen eingesetzt. Die aktualisierten Richtlinien sollen dem Unternehmen eine festere Grundlage geben, sie abzulehnen oder zu entfernen, bevor sie Nutzer erreichen.
Der Druck war gewachsen. Im Juli dieses Jahres ordnete die Stadtanwaltschaft von San Francisco an, dass Apple und Google dreizehn Nudify-Apps aus ihren Stores entfernen. Die neuen Regeln bringen Apple von einer reaktiven Haltung – einzelnen Apps erst nach Beschwerden nachzujagen – zu einer Politik, die schon in der Prüfung greift.
Der Schritt spiegelt zugleich eine breitere Verschiebung der Plattformpolitik. App-Stores werden faktisch zu Regulierern KI-generierter Inhalte und entscheiden in großem Maßstab, was Modelle erzeugen und was Nutzer teilen dürfen. Diese Rolle wiegt schwer: Eine Ablehnung in der Prüfung kommt einem weltweiten Vertriebsstopp gleich.
Ob die neuen Regeln etwas ändern, hängt vom Vollzug ab. Opferverbände argumentieren seit Langem, dass 'Entfernen auf Beschwerde' zu langsam ist, wenn ein Bild in Sekunden entsteht und in Minuten die Runde macht. Die Prüfung für Apples neuen Kurs ist, wie schnell das Unternehmen handelt – und ob auch ähnliche Tools erfasst werden, die zwischen Plattformen wandern.
