LLM einfach erklärt
Ein Sprachmodell entsteht in zwei Stufen. Zuerst verarbeitet es riesige Textbestände, meist ohne dass Menschen die Beispiele vorher kennzeichnen, und baut so ein allgemeines Sprachverständnis auf. Danach wird es feinabgestimmt, damit es bestimmte Aufgaben gut erledigt, zum Beispiel Fragen beantwortet oder Anweisungen befolgt. Es gehört damit zur generativen künstlichen Intelligenz.
Beim Antworten zerlegt das Modell Text in kleine Bausteine, sogenannte Tokens. Aus den gelernten Zusammenhängen berechnet es, welcher Baustein mit hoher Wahrscheinlichkeit als nächster passt, und setzt die Antwort so Schritt für Schritt zusammen. Das Ergebnis liest sich oft wie von Menschen geschrieben. Ein Wissen im Sinne geprüfter Fakten steckt allerdings nicht dahinter.
Was das Modell bei einer Anfrage berücksichtigt, steht in seinem Kontextfenster: Ihre Frage, eingefügte Unterlagen und der bisherige Gesprächsverlauf. Was dort nicht steht und auch nicht aus dem Training stammt, kennt es nicht.
Wo Sprachmodelle stark sind und wo sie irren
Gut geeignet sind LLMs für Arbeit mit Sprache: Entwürfe formulieren, lange Verläufe zusammenfassen, Texte übersetzen, frei formulierte Anfragen nach Thema ordnen oder Programmcode vorschlagen. Ein Chatbot im Kundenservice oder ein Schreibassistent im Büro nutzt genau diese Fähigkeiten.
Drei Schwächen sollten Sie kennen:
- Stand des Trainings: Ohne Zugriff auf aktuelle Quellen weiß das Modell nur, was zum Zeitpunkt des Trainings bereits existierte. Neue Vorschriften oder geänderte Termine fehlen.
- Erfundene Inhalte: Das BSI beschreibt, dass Sprachmodelle Inhalte erzeugen, die weder in der Eingabe noch in den Trainingsdaten vorkamen. Heikel daran ist, dass solche Halluzinationen glaubwürdig wirken, bis hin zu erfundenen Quellenangaben.
- Schwankende Antworten: Dieselbe Frage kann zu unterschiedlichen Ergebnissen führen. Für Abläufe, die verlässlich gleich enden sollen, ist das ein Nachteil.
Abhilfe schafft vor allem eigenes Material. Bei der sogenannten Retrieval-Augmented Generation sucht die Anwendung zuerst passende Abschnitte in Ihren Unterlagen und reicht sie zusammen mit der Frage an das Modell weiter. Zeigt sie dazu die Fundstellen an, lassen sich Aussagen an der Quelle nachprüfen.
Nach einem ähnlichen Prinzip bezieht Microsoft 365 Copilot je nach Lizenz Inhalte aus Ihrem Mandanten ein, und zwar nur solche, auf die die jeweilige Person Zugriff hat (Stand: Oktober 2026). Wie die Einführung abläuft, beschreiben wir auf der Seite Microsoft 365 Copilot einführen. Soll ein Assistent darüber hinaus Daten aus Fachprogrammen abrufen, kommt das Model Context Protocol ins Spiel.
Reiseunterlagen in zwei Anläufen
Angenommen, ein Veranstalter von Gruppenreisen mit 15 Mitarbeitenden lässt die Informationsmappe für eine Studienreise von einem Sprachmodell vorbereiten. Im ersten Anlauf bekommt das Modell nur das Reiseziel und die Daten. Der Text klingt gut, nennt aber eine überholte Einreiseregel und Öffnungszeiten eines Museums, die es so nicht gibt.
Im zweiten Anlauf gibt die zuständige Kollegin dem Assistenten das eigene Reiseprogramm, die Hotelbestätigungen und die Hinweise der Reiseleitung. Sie weist ihn an, nur diese Unterlagen zu verwenden und Lücken offen zu markieren. Der neue Entwurf ist kürzer, stützt sich auf die eigenen Dokumente und kennzeichnet zwei offene Punkte. Die Einreisebestimmungen prüft sie zum Schluss selbst an der amtlichen Quelle.
Was bei der Auswahl eines Dienstes zählt
Nutzen Sie ein Sprachmodell als Dienst eines Anbieters im Internet, also nach dem Prinzip des Cloud Computing, verlassen Ihre Eingaben das Haus. Die Datenschutzkonferenz rät deshalb zu prüfen, ob ein Anbieter Eingaben für das Training verwendet und ob sich das abschalten lässt, und Beschäftigten betriebliche Konten bereitzustellen. Sobald personenbezogene Daten im Spiel sind, braucht es mit dem Anbieter in aller Regel zusätzlich eine Vereinbarung zur Auftragsverarbeitung.
Ein zweiter Punkt betrifft hochgeladene Dateien. Nach einer Veröffentlichung des BSI vom September 2026 können versteckte Anweisungen in Dokumenten die Antwort eines Sprachmodells steuern; abschließend lösen lässt sich dieses Problem bisher nicht. Assistenten sollten darum nur auf die Daten zugreifen dürfen, die ihre Aufgabe verlangt.
Wie ProNet unterstützt
Wir helfen Ihnen, einen passenden Dienst nach Vertragsgrundlage, Speicherort und Umgang mit Eingaben auszuwählen; die Entscheidung treffen Sie. Gemeinsam legen wir Regeln für die Nutzung fest, und auf Wunsch schulen wir Ihr Team im Umgang mit Stärken und Schwächen der Modelle. Welche Einsatzfelder wir darüber hinaus mit Ihnen angehen können, zeigt unser Bereich KI und Automatisierung.