LLMs: Grenzen und KI-Halluzinationen

LLMs stoßen bei Aufgaben an ihre Grenzen, bei denen sachlich korrekte Antworten entscheidend sind, wie z. B. in der industriellen Automatisierung oder im Gesundheitswesen.
LLMs haben Schwierigkeiten mit Halluzinationen, d. h. der Generierung von faktisch falschen oder irreführenden Informationen, Aktualisierbarkeit, d. h. der Einbeziehung von neuem Wissen, und Provenienz, d. h. der Nachverfolgung des Ursprungs von Informationen.

KI-Halluzinationen sind Inhalte, die von einem KI-Modell generiert werden, die zwar realistisch erscheinen, aber von den vorgegebenen Quellen abweichen.
KI-Halluzinationen führen zu fehlender Übereinstimmung oder mangelnder faktischer Richtigkeit.

Halluzinationen können durch die Trainingsdaten, die Trainingsmethoden und die Art und Weise, wie das Modell Inhalte generiert (Inferenz), verursacht werden.

Fehlerhafte Datenquellen führen zu Ungenauigkeiten oder Stereotypen, die zu einer fehlerhaften Repräsentation der Realität führen.
Nicht aktuelle Trainingsdaten führen dazu, dass neuere Entwicklungen oder Erkenntnisse nicht berücksichtigt werden.
Wenn das Trainingsdatenset kein spezialisiertes Faktenwissen beinhaltet, kann es zu KI-Halluzinationen kommen.
Modelle stützen sich häufig auf Korrelationen statt auf kausale Effekte, was zu oberflächliche Analysen und falschen oder irreführenden Ergebnissen führen kann.
Das "Needle in a Haystack"-Problem tritt auf, wenn relevante Fakten in einer großen Datenmenge versteckt sind.

Schwachstellen in der Architektur, wie z. B. "Attention Glitches", können zu Inkonsistenzen in den Ergebnissen führen.
Unterschiede zwischen den Trainings- und Inferenzstrategien, die als "Exposure Bias" bekannt sind, können dazu führen, dass das Modell in der Praxis nicht optimal arbeitet.
Die Anpassung durch "Fine-Tuning" und "Instructions-Tuning", wie z. B. "Reinforcement Learning through Human Feedback" (RHLF), hat ebenfalls ihre Grenzen, wie z. B. das Phänomen der "Sycophancy".

Inferenz in der KI bezieht sich auf den Prozess, bei dem ein trainiertes Modell verwendet wird, um Vorhersagen zu treffen oder Entscheidungen auf Basis neuer Daten zu treffen.
Dekodierungsstrategien sind häufig stochastisch, und eine zu starke Randomisierung kann zu Halluzinationen führen.
Ähnliche numerische Werte, nahe beieinander liegende Daten, ähnlich klingende Namen oder technische Begriffe und Abkürzungen können problematisch sein.
Phänomene wie "Over Confidence" und "Instruction Forgetting" beschreiben, wie das Modell zu stark auf lokale Wörter fokussiert und dabei den Gesamtzusammenhang verliert.

Das Erkennen von Halluzinationen ist entscheidend für die Verbesserung der Genauigkeit und Zuverlässigkeit der erzeugten Antworten.

Die Unsicherheit der Antwort kann durch eine Analyse der Wahrscheinlichkeiten der generierten Token bewertet werden.
Stichprobenverfahren wie "Self-Consistency" können verwendet werden, um zu beurteilen, ob das LLM immer ähnliche oder völlig unterschiedliche Antworten auf dieselbe Frage ausgegeben hätte.

Die Ergebnisse des Sprachmodells können mit einer Wissensdatenbank oder den Benutzereingaben verglichen werden, um falsche Informationen zu identifizieren und zu korrigieren.
Die Modellausgabe kann über klassische NLP-Vergleichsmetriken, über semantische Ähnlichkeit oder über die Prüfung, ob bestimmte faktische Entitäten oder Entitätsbeziehungen vorhanden sind, mit vorhandenen Fakten verglichen werden.
Andere Ansätze verwenden ein zweites (oder mehrere) LLM(s) als eine Art Prüfer, um Antworten und Fakten zu vergleichen.

Sorgfältige Datenaufbereitung, die Deduplizierung und Debiasing umfasst, ist eine vielversprechende Maßnahme.
Das Training der KI-Modelle sollte durch gezielte Architekturanpassungen verbessert werden.
Der Ursprung der Halluzinationen kann in den Gewichten des Modells durch "Knowledge Editing" oder "Representation Engineering" verstanden und das Modell "repariert" werden.
Prompting-Techniken wie "Chain of Thoughts" oder Architekturen wie "Retrieval Augmented Generation" (RAG) können verwendet werden, bei denen LLMs mit externen Wissensdatenbanken verbunden werden.

Deep Learning ist ein Unterfeld der Künstlichen Intelligenz (KI), das sich auf Algorithmen bezieht, die auf künstlichen neuronalen Netzwerken basieren.
Jede Schicht in einem solchen Netzwerk kann komplexe Muster in Daten erkennen und verarbeiten, was Deep Learning besonders effektiv für Aufgaben wie Bild- und Spracherkennung macht.

Deep Learning ist ein Teilgebiet des "Maschinellen Lernens", bei dem ein Modell durch Exposition gegenüber großen Mengen an Daten trainiert wird.
Dies kann als "unüberwachtes Lernen" (engl. Unsupervised Learning) auch ohne gelabelte Daten erfolgen.
Die "Tiefe" in Deep Learning bezieht sich auf die Anzahl der Schichten im neuronalen Netzwerk.

Große Sprachmodelle (engl. Large Language Models, LLMs) sind neuronale Netzwerke, die darauf trainiert sind, menschliche Sprache zu verstehen und zu generieren.
Diese Modelle, darunter prominente Beispiele wie GPT-4 von OpenAI, PaLM 2 von Google oder Chatbot Claude von Anthropic, können komplexe Aufgaben bewältigen, etwa die Erstellung passgenauer Texte, die Analyse und Kategorisierung von Bildern, automatische Übersetzung oder Analyse großer Datenmengen.