LLM (Large Language Model)

Ein Large Language Model sagt, vereinfacht gesagt, immer den nächsten Textbaustein voraus. Dass daraus brauchbare Antworten, Übersetzungen und Zusammenfassungen entstehen, ist eine Folge der Trainingsmenge - nicht davon, dass das Modell etwas im menschlichen Sinne versteht oder nachschlägt.

Aus dieser Funktionsweise folgen die bekannten Grenzen direkt. Ein Modell hat einen Wissensstand zum Trainingszeitpunkt und kennt nichts, was danach kam oder nie öffentlich war. Es kann Aussagen erfinden, die richtig klingen. Und es hat kein Bewusstsein für die eigene Unsicherheit - eine falsche Antwort klingt genauso souverän wie eine richtige. Deshalb bekommen Anwendungen, die belastbar sein müssen, Kontext aus den eigenen Daten mitgeliefert und eine Prüfstufe davor.

Bei der Auswahl entscheidet selten die Rangliste, die ein Anbieter zeigt. Relevant sind: Wie gut löst das Modell genau Ihre Aufgabe, gemessen an echten Fällen aus Ihrem Haus? Was kostet ein Durchlauf, hochgerechnet auf das tatsächliche Volumen? Wo werden die Daten verarbeitet? Und wie aufwendig wäre ein Wechsel - denn der Markt bewegt sich schneller, als Projekte laufen.

Wir bauen die Anbindung deshalb austauschbar. Welches Modell hinter einer Funktion arbeitet, soll eine Konfigurationsentscheidung sein und keine Architekturentscheidung. Das erlaubt es auch, teure Modelle nur dort einzusetzen, wo sie den Unterschied machen, und die Routinefälle günstiger zu erledigen.