Spiele-Mashups gehören zu den schwereren Aufgaben für ein generatives System. Ein Bild muss nur plausibel sein; ein Spiel muss spielbar sein – Regeln, die konsistent bleiben, eine Schleife, die belohnt, und eine Schwierigkeitskurve, die nach fünf Minuten nicht zusammenfällt. Melty erzeugt aus Prompts spielbare Mashups, und der Praxistest von heise kam von den Ergebnissen ehrlich fasziniert zurück (der vollständige Beitrag steht hinter heise+).
Dieses kreative Urteil ist die weniger überraschende Hälfte. Was der Test bemängelt, ist die Sicherheit, und die Formulierung lautet „fragwürdig“, nicht „kaputt“ – das ehrliche Register für ein Produkt, dessen Vertrauensmodell noch nicht öffentlich bekannt ist.
Die Sicherheitsfrage ist strukturell, nicht beiläufig. Werkzeuge, die Spiele oder Apps generieren, tun typischerweise drei riskante Dinge gleichzeitig: Sie führen Code aus, den ein Modell erzeugt hat, sie hosten Kreationen anderer Nutzer, und sie nehmen unstrukturierte natürliche Sprache als Eingabe entgegen. Jedes davon ist eine bekannte Angriffsfläche; zusammen wirken sie. Eine geteilte Galerie wird zum Zustellkanal für Prompt-Injection, generierter Code läuft mit den Rechten, die die Plattform ihm gab, und die Grenze zwischen „Inhalt“ und „ausführbar“ verschwimmt genau dort, wo Nutzer am wenigsten sehen können.
Ein Fehlermuster lohnt den Namen: Ein Kreativwerkzeug, das ausführt, was es erzeugt, erbt jeden Fehler des Codes, den es erzeugt. Das Modell muss nicht bösartig sein, es muss nur plausibel sein – plausibler Code mit einem ungeprüften Eingabepfad ist, wie die meisten echten Schwachstellen aussehen.
Das ist inzwischen die wiederkehrende Form von Consumer-KI-Produkten. Die Demo ist stark, weil Demos Neuheit belohnen; das Vertrauensmodell ist Nachgedanke, weil Vertrauen sich nicht demonstrieren lässt. KI-App-Builder sind in diesem Jahr an derselben Wand gelandet, und die Lösung war jedes Mal dieselbe: Ausführung in einer Sandbox, Rendern vom Ausführen trennen, nutzergenerierte Inhalte standardmäßig als feindlich behandeln und klar sagen, was die Plattform garantieren kann und was nicht.
Für alle, die Melty ausprobieren, sind die Regeln langweilig und wirksam: keine Geheimnisse oder persönlichen Daten in Prompts einfügen, geteilte Kreationen als nicht vertrauenswürdig behandeln und ein generiertes Spiel nicht in einer Browsersitzung öffnen, in der irgendetwas Wichtiges angemeldet ist. Für die Kategorie lautet der Test, ob der Sicherheitshinweis vor dem Vorfallbericht kommt.
