Die Einführung künstlicher Intelligenz in Organisationen: Was die Nutzungszahlen zeigen.

Viele öffentliche Diskussionen über künstliche Intelligenz drehen sich nach wie vor um Ranglisten: Welches Modell schneidet am besten ab, welcher Anbieter ist der „Gewinner“ und welcher Benchmark-Wert ist am wichtigsten? Für Organisationen, die KI-Lösungen entwickeln und einsetzen, verlieren diese Fragen jedoch zunehmend an Bedeutung. Vielmehr ist es wichtig zu verstehen, wie KI in realen Anwendungsszenarien eingesetzt wird.

Ein Grund dafür ist die zunehmende Kontroverse um das Konzept des „Tokenmaxxing“ – eine Praxis, die darauf abzielt, den Einsatz künstlicher Intelligenz zu maximieren und oft durch interne Adoptionsziele, Anreize oder wettbewerbsorientierte Ranglisten angetrieben wird.

Die Fokussierung auf den Token-Verbrauch könnte jedoch die Aktivität um der Aktivität willen fördern, anstatt den wahren kommerziellen Wert zu messen, den künstliche Intelligenz bietet.

Aktuelle Beispiele, darunter Berichte über Amazons Abschaltung einer internen KI-Rangliste und Ubers Begrenzung der KI-Ausgaben seiner Mitarbeiter, nachdem das Jahresbudget schnell aufgebraucht war, verdeutlichen die Risiken, die mit der Betrachtung der Nutzung als primärem Erfolgsmaßstab einhergehen.

Die neuesten Daten zeichnen jedoch ein differenzierteres Bild. Laut den Daten des Vercel AI Gateway für Juli stieg das Token-Volumen im Juni um 29 %, während die Ausgaben um 27 % zunahmen. Der durchschnittliche Token-Preis blieb dabei stabil. Anstatt KI einfach nur zu konsumieren, gehen Unternehmen nun gezielter vor und entscheiden, wo sie verschiedene Modelle einsetzen und wie sie Kosten und Leistung in Einklang bringen.

Teams, die echte KI-Systeme entwickeln, setzen zunehmend auf die dynamische Verteilung von Aufgaben auf mehrere Modelle, abhängig von Kosten, Zuverlässigkeit und Inferenzfähigkeiten. Beispielsweise kann ein kostengünstiges Modell für die Zusammenfassung von Aufgaben nützlich sein, während ein leistungsstarkes Inferenzmodell für wichtige Entscheidungen reserviert ist.

In der Praxis geht es bei künstlicher Intelligenz eher um die Koordination von Schichten über mehrere Modelle hinweg als um den Aufbau von Systemen um einen einzigen Anbieter.

Die neuesten Daten des AI Gateway zeigen, dass Unternehmen ihre Arbeitslasten auf verschiedene Modellkategorien verteilen, anstatt sich auf einen einzigen Anbieter zu verlassen. Modelle mit offener Gewichtung verarbeiten mittlerweile 29 % der Gateway-Token, obwohl sie weniger als 4 % der Ausgaben ausmachen. Frontier-Modelle dominieren weiterhin die höherwertigen Inferenz-Workloads.

Anstatt einen Einheitsansatz zu verfolgen, wählen Organisationen je nach Aufgabe unterschiedliche Modelle.

Übertrifft die Spitzencharts

In der Anfangsphase der KI-Einführung in Unternehmen wurden Teams ermutigt, intensiv zu experimentieren, Prototypen zu entwickeln und neue Anwendungsfälle zu erkunden. Dies beschleunigte zwar die Einführung, die den Übergang von der experimentellen Phase zur praktischen Anwendung von KI erfordert, führte aber auch zu einer vereinfachenden Annahme: mehr KI bedeute automatisch mehr Wert.

Das Tokenvolumen und die Ausgaben stiegen im Juni um etwa 30 %; der durchschnittliche Tokenpreis blieb jedoch stabil. Unternehmen investieren weiterhin stark in KI, gehen aber strategischer vor, wenn es darum geht, Workloads zwischen kostengünstigen und Premium-Modellen zu verteilen.

Dieses Muster ähnelt früheren technologischen Umbrüchen, etwa der frühen Cloud-Computing-Ära, in der Unternehmen zunächst aggressiv expandierten, bevor sie ihre Effizienz steigerten. Die Einführung von KI verläuft ähnlich, jedoch deutlich schneller.

Für KI-Teams ist die wichtigste Kennzahl nicht der Kostenfaktor, sondern der Ergebnisfaktor, denn er bildet die Grundlage für den Erfolg von KI . Ein Workflow, der wochenlange Entwicklungsarbeit automatisiert, kann deutlich effizienter sein als ein kostengünstigerer Workflow, der unzuverlässige Ergebnisse liefert und Folgekosten verursacht, die die anfänglichen Einsparungen übersteigen.

Die Frage ist nicht, wie wenig künstliche Intelligenz das Team einsetzen kann, sondern wie effektiv sie zur Lösung sinnvoller Probleme eingesetzt werden kann.

Künstliche Intelligenz verändert Arbeitsabläufe.

Herkömmliche Chatbots arbeiten mit relativ einfachen Arbeitsabläufen: Sie geben einen Befehl ein und erhalten eine Antwort. Agentensysteme, die im Wesentlichen intelligentere KI-Agenten sind , verhalten sich ganz anders.

KI-Agenten denken, rufen Tools auf, führen Code aus, rufen Informationen ab, fragen Datenbanken ab und wiederholen Operationen in mehreren Schritten, bevor sie die Aufgabe abschließen. Jede dieser Aktionen verbraucht Token.

Infolgedessen werden KI-Workloads zunehmend agentengesteuert. Eine einzelne Anfrage kann nun Ketten von Tool-Aufrufen, Validierungsschleifen und Anbieterwechseln im Hintergrund auslösen und die Wirtschaftlichkeit grundlegend verändern.

Backoffice-Agenten stellen die teuersten Token pro Portal dar; sie machen zwar nur 5 % aller Token aus, verursachen aber 14 % der Gesamtausgaben. Komplexere und geschäftskritische Arbeitsabläufe erfordern mehr Schlussfolgerungen als einfachere KI-Aufgaben.

Das bedeutet, dass eine verstärkte Nutzung nicht immer ein Indikator für Ineffizienz ist. In vielen Fällen spiegelt sie die wachsende Komplexität und Leistungsfähigkeit der KI-Systeme selbst wider.

Infrastruktur als Differenzierungsmerkmal

Da sich Unternehmen zunehmend auf mehrere KI-Modelle und Dienstleister verlassen, wird die Aufrechterhaltung der Zuverlässigkeit zu einer komplexeren Aufgabe.

Inferenzaufgaben, Multiagenten-Workflows und komplexe Koordinationsketten können Modellanbieter stark belasten. Fällt ein einzelnes Modell während der Ausführung aus, kann der gesamte Workflow zusammenbrechen.

Infolgedessen hat sich das Fallback-Routing zu einem zentralen Bestandteil der KI-Infrastruktur in Produktionsumgebungen entwickelt. Der AI-Gateway-Bericht von Vercel vom Mai zeigte, dass etwa 3.5 % der Anfragen aufgrund von Fehlern, Timeouts oder Problemen bei der Ratenbestimmung umgeleitet werden müssen.

Ohne dynamisches Routing zwischen Dienstanbietern schlagen diese Anfragen einfach fehl. Und für Endnutzer ist die Instabilität des Dienstanbieters unsichtbar; sie interessiert die Ursache des Problems nicht, sondern nur, ob die Anwendung weiterhin funktioniert.

Da KI-Systeme zunehmend in der Lage sind, als unabhängige Agenten zu agieren, werden Flexibilität und Koordination genauso wichtig wie die Leistungsfähigkeit des Modells selbst, was die Bedeutung des Wandels der KI hin zu intelligenteren Agenten unterstreicht.

Das Ende der Einheitsmodell-Ära

Strategien, die auf einem einzigen Dienstleister basieren, sind zunehmend schwer aufrechtzuerhalten. Ständig werden neue Modelle eingeführt, die Preise ändern sich rasant, und je nach Art der Aufgabe zeichnen sich unterschiedliche Modelle durch ihre Leistungsfähigkeit aus.

Das beste Programmiermodell von heute ist möglicherweise nicht das beste für Informationsabfrageaufgaben, Kundensupport oder Inferenzprozesse von morgen.

Es geht nicht darum, ein einzelnes Modell als alleinigen Gewinner auszuwählen. Es geht darum, KI-Systeme zu entwickeln, die in der Lage sind, sich anzupassen und das jeweils beste Modell der Woche zu integrieren, da sich diese Präferenz schnell ändert und auch weiterhin ändern wird.

Teams, die die Formatierung mehrerer Modelle als Infrastruktur betrachten, sind diejenigen, die ihre Systeme bei der Einführung eines neuen Modells nicht neu aufbauen müssen.