Das Token-Rätsel
Tokens — die Basiseinheit von KI-Ein- und Ausgabe — sind zur Währung des KI-Zeitalters geworden. Laut einer neuen Analyse von Barron's ist das System jedoch kaputt. Kunden können keine Budgets festlegen und die Wall Street kann die Preisgestaltung nicht so verfolgen wie bei Einzelhandels- oder Cloud-Diensten.
Die Anthropic-Komplikation
Anthropic macht es noch schlimmer, indem es Tokens anders zählt als alle anderen. Das Unternehmen hat kürzlich die Art und Weise geändert, wie einige Produkte Text tokenisieren, sodass dieselben Wörter jetzt 30 bis 40 Prozent mehr Tokens verbrauchen. Für Unternehmenskunden, die pro Token zahlen, ist die Inkonsistenz ein Albtraum.
Das Agenten-Problem
Das größere Problem ist der Aufstieg von KI-Agenten, die komplexe Aufgaben aus einem einfachen Befehl erledigen können, aber Tokens in erstaunlichem Tempo verbrauchen. Eine Studie von Google, Microsoft und führenden Universitäten ergab, dass Code-Agenten für dieselben Aufgaben mehr als tausendmal mehr Tokens generieren als Menschen.
Die Kostenrealität
Für das beste ChatGPT-Modell liegen die Unternehmenspreise zwischen 50 Cent und 30 Dollar pro Million Tokens. Das klingt billig, aber Reasoning-Modelle, die schrittweise 'denken', und autonom arbeitende Agenten vervielfachen die Kosten dramatisch.
Das Dilemma der Wall Street
Analysten möchten Tokens als Indikator für die Gesundheit des KI-Handels nutzen, aber die Preisverwirrung macht das unmöglich. Während die Kosten für US-Spitzenmodelle steigen, gehen Unternehmen die Preiskurve nach unten — einschließlich der Nutzung billiger chinesischer Modelle.
