Google hat HEIR vorgestellt, einen Open-Source-Compiler, der vortrainierte KI-Modelle in die Lage versetzt, direkt auf verschlüsselten Daten zu laufen – ein Schritt, um „private KI-Inferenz" für echte Produkte praktikabel zu machen.
Homomorphe Verschlüsselung, die Technologie im Zentrum des Projekts, erlaubt Berechnungen direkt auf Chiffretexten, ohne sie je zu entschlüsseln. Ein Cloud-Dienst könnte Empfehlungen aussprechen, ohne die Merkmale der Nutzer zu sehen, oder Netzwerkverkehr auf Anomalien prüfen, ohne die Pakete zu lesen. Der Preis dafür war stets die Geschwindigkeit: Verschlüsseltes Rechnen ist weit langsamer als Rechnen im Klartext. Doch Google argumentiert, dass dieser Overhead rapide sinkt und aus dem Abwägen zwischen Leistungsfähigkeit und Privatsphäre eine Frage der Ökonomie wird – nicht mehr der Machbarkeit.
HEIR – die Homomorphic Encryption Intermediate Representation – ist eine auf MLIR basierende Compiler-Toolchain, die vortrainierte Modelle, die mit unverschlüsselten Daten arbeiten, in Versionen umwandelt, die mit verschlüsselten Eingaben arbeiten. Das Projekt entstand 2023 bei Google; die Vision des Unternehmens ist eine „Ein-Klick-Lösung", die auch Nicht-Experten ermöglicht, verschlüsselte Inferenz einzusetzen, ohne ein Team von Kryptografen zu engagieren.
„Ein bestehendes Programm manuell so umzuwandeln, dass es homomorphe Verschlüsselung effizient nutzt, erfordert ein Team von Kryptografen", schrieben Google-Forscher. HEIR soll diesen Engpass beseitigen.
Um zu zeigen, dass die Technologie das Labor verlassen hat, veröffentlichte Google vier mit HEIR kompilierte Anwendungen, die auf Single-Thread-CPUs gemessen wurden: ein Deep-Learning-Empfehlungsmodell (gemeinsam mit Belfort Labs, LG und der NYU), das private Inhaltsempfehlungen liefert; einen Kreditkarten-Betrugsdetektor, gebaut mit Niobium und hardshell.ai; den Netzwerk-Anomaliedetektor Kitsune, mit Niobium kompiliert, damit Anbieter Eindringlinge erkennen können, ohne Paketinhalte zu sehen; und einen Hotword-Detektor mit Belfort Labs, der einem Audio-KI-Agenten erlaubt, auf Schlüsselwörter zu hören, ohne alles in seiner Umgebung aufzuzeichnen.
Google arbeitet zudem mit Herstellern von Hardware-Beschleunigern für homomorphe Verschlüsselung zusammen – Belfort, Niobium, Cornami und Optalysys – und erklärt, der Compiler sei zu einer Forschungsplattform geworden, die von Universitäten wie Georgia Tech, Carnegie Mellon, UC Santa Barbara, Purdue, der University of Edinburgh und Tsinghua genutzt wird. Der vollständige Quellcode ist auf GitHub verfügbar.
