Das herausragende Effizienzergebnis von ICML 2026 ist eine neue Trainingsmethode namens 'selektive Aktivierungssparheit', die KI-Modellen beibringt, nur die relevantesten Parameter für jede spezifische Aufgabe zu nutzen.
Bei Argumentations-Benchmarks zeigten mit dieser Methode trainierte Modelle eine vergleichbare Leistung wie Modelle, die dreimal so groß sind.
Wenn sich dieser Ansatz als skalierbar erweist, hat er erhebliche Implikationen für die Kosten sowohl des Trainings als auch der Inferenz – und für die Ausführung leistungsfähiger KI-Modelle auf Geräten mit begrenztem Rechenvermögen wie Handys und Laptops.
Die Forschung wurde auf ICML 2026 präsentiert und wurde schnell zu einem der meistzitierten Artikel der Konferenz.
