Welches KI-Modell passt zu welcher Unternehmensaufgabe?

ModellwahlJeremy Bluhm · KI-Stratege, BKG Integration14 Minuten

Das beste KI-Modell gibt es nur für eine klar definierte Aufgabe, einen erlaubten Datenweg und ein messbares Ziel. Ein Modell kann bei einer Dokumentenanalyse überzeugen und bei kurzen Standardantworten unnötig langsam oder teuer sein. Dieser Leitfaden liefert deshalb keine Siegerliste, sondern einen reproduzierbaren Prüfpfad für die Modellauswahl im Unternehmen.

Chat-Aufgabe mit ausgewähltem lokalem KI-Modell in der AI Zentrale
Die Chatansicht macht das gewählte Modell am Auftrag sichtbar und erleichtert so den Vergleich zwischen Kandidaten.

Entscheidungsmatrix: fünf Prüffelder pro Unternehmensaufgabe

Die Beispiele geben keine Modellbewertung vor. Sie zeigen, welche Nachweise ein Team für dieselbe Aufgabe bei jedem Kandidaten erheben sollte.

Horizontal wischen, um alle fünf Prüffelder zu vergleichen →

Entscheidungsmatrix: fünf Prüffelder pro Unternehmensaufgabe
AufgabeQualitätDatenschutzKostenKontextLatenz
Standardkommunikation

Zehn freigegebene Beispielantworten gegen Fakten, Ton und nötige Korrekturen prüfen.

Zunächst synthetische Kontakt- und Kundendaten; Produktivdaten erst nach Freigabe des Modellwegs.

Ein- und Ausgabetokens, Caching und Bearbeitungszeit für 50 gleichartige Fälle erfassen.

Stilvorgabe plus drei Beispiele; zusätzlich mit bewusst irrelevantem Material testen.

p50, p95 und Zeit bis zur freigabefähigen Antwort statt nur den schnellsten Einzelwert messen.

Dokumentvergleich

Bekannte Unterschiede in zwei Verträgen oder Berichten vollständig und mit Fundstelle finden.

Dokumentklasse, erlaubte Region, Aufbewahrung und Anbietervereinbarung vor dem Upload klären.

Lange Eingaben, erneute Läufe und mögliche Cache-Kosten getrennt ausweisen.

Volltexte gegen ausgewählte Auszüge testen; großes Kontextfenster nicht mit guter Nutzung gleichsetzen.

Zeit bis zur vollständigen, überprüften Tabelle inklusive eventueller Wiederholung messen.

RAG-Wissensfrage

Zwanzig Fragen mit bekannten Sollquellen auf Treffer, Antworttreue und unbelegte Aussagen prüfen.

Berechtigungen vor Retrieval und Antwort testen; ausdrücklich gesperrte Quelle als Negativfall verwenden.

Embedding, Retrieval, Eingabekontext und Antwort gemeinsam in die Fallkosten einbeziehen.

Nur gefundene Passagen übergeben und bei fehlendem Treffer eine begrenzte Antwort verlangen.

Retrieval und Generierung getrennt messen, damit der eigentliche Engpass sichtbar bleibt.

Code und strukturierte Ausgabe

Gleiche Aufgaben gegen Tests, Schema-Validierung und eine Review-Checkliste ausführen.

Keine Geheimnisse oder produktiven Daten in Testprompts; Repository- und Tool-Rechte begrenzen.

Fehlversuche, Tool-Aufrufe und menschliche Nacharbeit in die Kosten pro bestandenem Test einrechnen.

Nur benötigte Dateien und Schnittstellenbeschreibungen statt des gesamten Repositories bereitstellen.

Zeit bis zu grünem Testlauf und p95 für wiederholbare Teilaufgaben erfassen.

Sensibler lokaler Einsatz

Mit repräsentativen, aber künstlichen Daten dieselben fachlichen Sollfälle wie beim Cloud-Kandidaten prüfen.

Nachweisen, dass Inferenz, Protokolle und verbundene Tools innerhalb des freigegebenen Netzes bleiben.

Hardware, Betrieb, Energie, Wartung und Auslastung statt eines vermeintlichen Nullpreises erfassen.

Kontextgrenze und Speicherbedarf unter der tatsächlich bereitgestellten Hardware messen.

Kaltstart, Parallelität und p95 unter realistischer Last in der eigenen Umgebung testen.

Prüfstand, Modellversionen und Grenzen dieses Vergleichs

Redaktioneller Stand ist der 9. August 2026. Als nachvollziehbare Referenzkandidaten dienen die in offiziellen Katalogen dokumentierten Versionen GPT-5.6 Terra (`gpt-5.6-terra`), Claude Sonnet 5 (`claude-sonnet-5`), Gemini 3.6 Flash (`gemini-3.6-flash`), Mistral Large 3 (v25.12) und das offen gewichtete `gpt-oss-120b`. Sie bilden unterschiedliche Cloud- und lokale Betriebswege ab, aber keine Rangliste. Ergebniszahlen ohne identische Aufgaben, Parameter, Region und Messumgebung wären Scheingenauigkeit. Die Matrix ist daher ein offengelegtes Testprotokoll: Jede Organisation führt sie mit ihren freigegebenen Modell-IDs erneut aus und dokumentiert Datum, Region, Parameter, Prompt-Version und Ergebnis.

Ein reproduzierbarer Testlauf beginnt mit Sollfällen

Wählen Sie pro Aufgabenklasse echte, bereits fachlich gelöste Beispiele und entfernen oder synthetisieren Sie sensible Daten. Für jeden Fall braucht es ein erwartetes Ergebnis, zulässige Abweichungen und ein klares Ausschlusskriterium. Führen Sie anschließend alle Kandidaten mit denselben Eingaben und verfügbaren Werkzeugen mehrfach aus. Eine faire Auswertung trennt fachliche Richtigkeit, Vollständigkeit, Format, Quellenbezug und benötigte Nacharbeit. Modellname und Anbieter sollten bei der fachlichen Erstbewertung ausgeblendet werden. Versionierte Prompts, Parameter und Rohresultate machen spätere Modellupdates nachvollziehbar.

  • Aufgabe, Zielgruppe und fachliches Soll-Ergebnis festhalten.
  • Exakte Modell-ID, Region, Parameter und Testdatum protokollieren.
  • Mindestens einen Negativ- oder Grenzfall pro Aufgabe aufnehmen.
  • Qualität, Kosten und Latenz über mehrere identische Läufe messen.
  • Ausschlusskriterien für Datenweg, Fehlerquote und fehlende Nachweise vorab definieren.

Konkrete Beispiele schlagen allgemeine Benchmarks

Ein öffentlicher Benchmark kann Kandidaten vorsortieren, beantwortet aber nicht, ob ein Modell Ihre Produktnamen korrekt schreibt, Pflichtfelder aus Ihrem Vertrag extrahiert oder eine freigegebene JSON-Struktur einhält. Für einen Dokumentvergleich kann das Soll etwa aus zwölf bekannten Unterschieden und den jeweiligen Fundstellen bestehen. Für eine RAG-Frage zählen richtige Quelle, belegte Antwort und ein kontrolliertes Nichtwissen bei fehlendem Treffer. Für Code zählen ausführbare Tests und Review-Befunde, nicht der überzeugende Ton der Erklärung.

Ein großes Kontextfenster ist Kapazität, keine Qualitätsgarantie

Die maximale Tokenzahl beschreibt zunächst nur, wie viel Eingabe technisch möglich ist. Relevant ist, ob das Modell die entscheidende Stelle in langen, teils widersprüchlichen Inhalten zuverlässig findet und ob irrelevanter Kontext die Antwort verschlechtert. Testen Sie deshalb kurze Referenzpakete gegen lange Volltexte, platzieren Sie die Schlüsselinformation an unterschiedlichen Stellen und prüfen Sie Zitate oder Fundstellen. Bei umfangreichen Wissensbeständen ist gutes Retrieval häufig wichtiger als das größtmögliche Fenster.

Kosten pro freigegebenem Ergebnis statt Listenpreis pro Token

Der Listenpreis ist nur ein Faktor. Ein aussagekräftiger Vergleich addiert Eingabe, Ausgabe, Caching, Embeddings, Tool-Aufrufe, Wiederholungen und menschliche Korrektur. Ein günstiger Lauf wird teuer, wenn er häufig wiederholt oder vollständig nachbearbeitet werden muss. Lokale Modelle haben zwar keinen externen Tokenpreis, verursachen aber Hardware-, Betriebs-, Energie- und Wartungskosten. Halten Sie Preisquelle und Währung am Testdatum fest, statt Werte dauerhaft in eine Rangliste einzubauen.

Datenschutz gehört zum konkreten Modellweg

Datenschutz ist keine feste Eigenschaft eines Modellnamens. Entscheidend sind der gewählte Endpunkt, Vertrag und Auftragsverarbeitung, Speicher- und Verarbeitungsregion, Protokollierung, Unterauftragnehmer und aktivierte Zusatzfunktionen. Derselbe Modelltyp kann über verschiedene Angebote unterschiedliche Datenwege haben. Ein lokaler Endpunkt reduziert externe Übertragung nur dann, wenn auch Retrieval, Tools, Telemetrie und Protokolle innerhalb der vorgesehenen Grenze bleiben. Prüfen Sie diese Kette vor der Qualitätswertung als eigenes Ausschlusskriterium.

Latenz misst den Arbeitsfluss, nicht nur das erste Token

Für einen interaktiven Chat sind Zeit bis zum ersten sichtbaren Token und p95 der Gesamtdauer wichtig. Bei Stapelverarbeitung zählen Durchsatz und Zeit bis zum vollständigen Ergebnis. Bei Reasoning oder Werkzeugnutzung gehört auch die Wartezeit für Freigaben und wiederholte Aufrufe dazu. Messen Sie unter realistischer Parallelität und notieren Sie Ausreißer; ein einzelner schneller Demolauf ist keine belastbare Betriebsentscheidung.

Aus dem Testergebnis wird eine begrenzte Freigabe

In der AI Zentrale kann eine Organisation Cloud-, lokale und eigene Modelle zentral bereitstellen und pro Rolle freigeben. Der sichtbare Modellname im Chat hilft, Ergebnisse dem gewählten Weg zuzuordnen. Die fachliche Entscheidung sollte zusätzlich festhalten, für welche Aufgabenklasse, Datenstufe und Kosten- oder Latenzgrenze die Freigabe gilt. Nach einem Modellupdate oder einer Änderung an Prompt, Tools, Retrieval oder Region wird der relevante Testsatz erneut ausgeführt.

Eine belastbare Entscheidung darf auch mehrere Modelle ergeben

Das Ergebnis muss kein einzelner Standard für alles sein. Ein schneller Kandidat kann Standardkommunikation übernehmen, ein stärkeres Reasoning-Modell seltene komplexe Prüfungen und ein lokaler Endpunkt besonders sensible Aufgaben. Wichtig sind klare Anzeigenamen, dokumentierte Einsatzgrenzen, ein Fallback und ein Termin für die erneute Bewertung. So bleibt Modellauswahl eine kontrollierte Betriebsentscheidung statt einer einmaligen Markenpräferenz.

Zum Autor

Jeremy Bluhm

KI-Stratege bei BKG Integration

Jeremy Bluhm arbeitet an der Einführung und technischen Einordnung von KI-Systemen für Unternehmen. Der Beitrag trennt öffentlich dokumentierte Anbieterdaten von dem Prüfprotokoll, das ein Team mit seinen eigenen Aufgaben ausführen muss.

Team und Betreiber kennenlernen

Quellen und Versionsstand

Abgerufen am 9. August 2026. Modellkataloge und Preise ändern sich; für eine Entscheidung gelten immer die am Testtag dokumentierten Anbieterangaben und Verträge.

OpenAI
Models – OpenAI API

Offizieller Modellkatalog und Einordnung aktueller sowie offener Modelle.

OpenAI
Data controls in the OpenAI platform

Modell- und Endpunktabhängige Datenkontrollen, Aufbewahrung und regionale Verarbeitung.

Anthropic
Models overview and pricing

Offizielle Claude-Modellfamilien, Versionierung, Kontext- und Preisangaben.

Google
Gemini API models and long context

Modellmetadaten, unterstützte Funktionen und Kontextgrenzen der Gemini API.

Mistral AI
Mistral model catalog

Offizieller Katalog mit Versionen, Betriebsformen und Modellschwerpunkten.

NIST
Artificial Intelligence Risk Management Framework: Generative AI Profile

Rahmen für dokumentierte Messung, Bewertung und laufende Kontrolle generativer KI-Systeme.

Überführen Sie die Matrix in einen begrenzten Modelltest.

Vergleichen Sie verfügbare Cloud-, lokale und eigene Modellwege. Nutzen Sie anschließend den API-Prüfpfad für einen versionierten Sollfall.