Data Science - (Gastvortrag: Ergo) Pt.2

KI @ ERGO - Teil 2: Data Science im Unternehmenskontext

• Die Gastvorlesung am 16.01.2025 wurde von Felix Wenzel (Head of Data Engineering & Strategy), Till Pickhard und David Burk (beide Data Engineers) gehalten.
• Es werden die Themen Data Science im Unternehmenskontext ERGO, die Umsetzung bei ERGO, aktuelle Use Cases, die Notwendigkeit einer Datenstrategie, die Funktion einer KI-Klassifikation, LLM und deren Nutzen sowie die Umsetzung einer Datenstrategie behandelt.
• ERGO bietet Beratung, Versicherung, Vorsorge und Services an.
• ERGO ist in über 20 Ländern international präsent.
• Das Unternehmen verzeichnete 20,1 Mrd. Euro Beitragseinnahmen.
• Die Kapitalanlagen belaufen sich auf 136,4 Mrd. Euro.
• ERGO beschäftigt rund 38.600 Mitarbeiter und Vertriebspartner (Stand: 31.12.2023).
• Die Advanced Analytics Abteilung ("ADA") ist zentralisiert aufgebaut.
• Die ADA umfasst Analytics Strategy & Consultancy, Data Engineering & Strategy, AI Solutions und Robotics.
• Das Team der ADA besteht aktuell aus etwa 45 FTE.
• Das Vorgehensmodell bei ERGO zur Umsetzung von KI Use Cases umfasst Model Development, Implementation, Operation und Business Adaptation.
• Die KI Use Case Implementierung bei ERGO umfasst die Phasen Data, Training, Deployment und Follow-Up Processes.
• Es gibt ein Modelling Environment ("Data Lab") und ein Operationalisation Environment ("AI Services").
• Die Entwicklung und Operationalisierung von KI-Modellen haben unterschiedliche Anforderungsprofile, weshalb die "AI Factory" beide Bereiche abdeckt.
• Die ERGO Group stellt sich für das Datenzeitalter auf.
• Die ERGO AI Factory dient der Skalierung via zentraler, cloudbasierter KI IT-Plattform und der Implementierung von KI Use Cases.
• Die Datenstrategie beinhaltet die Umsetzung des Target Data Operating Models, Harmonisierung von Data Management & Governance und Förderung der unternehmensweiten Datenkompetenz.
• Im Datenzeitalter soll man wissen, welche Daten man hat, wo sie sind und was sie bedeuten, um Risiken zu minimieren und Chancen zu erkennen.
• Das Data Excellence Center (DEC) treibt die Umsetzung der Datenstrategie voran.
• Das DEC ermöglicht Data Excellence durch Data Target Operation Model, Data Governance & Tooling, Data Culture & Data Literacy, Data Management und ADA Data Expertise.
• Eine lebendige Datenkultur wird durch Kommunikation, Datenkompetenz und Tools, Anreizsysteme und Vorbild aufgebaut.
• Daten und Algorithmen führen zur Anwendung in verschiedenen Gebieten.
• Strukturierte und unstrukturierte Daten werden mithilfe verschiedener Verfahren wie Statistical Modelling, Machine Learning und Neural Networks & Deep Learning in Anwendungsgebieten wie Tarifierung & Produktentwicklung, Cross-Selling Potenziale, Automatisierte Prüfprozesse, Optimierte Arbeitsgutsteuerung und Bildbasierende Schadenkalkulation angewendet.
• Beim regelbasierten Ansatz wird ein Bild digitalisiert und als Matrix von Zahlen dargestellt, wobei die Farbe jedes Pixels als Zahl interpretiert wird.
• Mögliche Regeln zur Identifizierung von Tigern sind mehrere benachbarte orangefarbene und dunkle Pixel, ein oranger Fleck in der Mitte des Bildes und eine große Anzahl von grünen Pixeln.
• Der regelbasierte Ansatz hat Grenzen, da er nicht immer zuverlässig ist.
• Al-Modelle (KI-Ansatz) werden eingesetzt, um die Grenzen des regelbasierten Ansatzes zu überwinden.
• Durch das Erfassen und Labeln von Klassen in einem Bilddatensatz und die Verwendung des Trainingsdatensatzes lernt der KI-Algorithmus, wie ein Tiger aussieht und entwickelt eigene Klassifizierungsregeln.
• Der KI-Algorithmus kann Bilder klassifizieren, die er noch nie zuvor gesehen hat.

Klassifikation: Regelwerke vs. KI-Ansatz

• Eingehende Dokumente werden entweder durch ein Regelwerk zur Klassifikation oder durch einen integrierten Lösungsansatz mit OCR und KI klassifiziert.
• Regelwerke zur Klassifikation bestehen aus verschiedenen Kriterien wie Ambulante Arztrechnung, Stationäre Arztrechnung, Rezept, Zahnarztrechnung, Adressänderung und Bankdatenänderung.
• Der integrierte Lösungsansatz kombiniert OCR und KIM für die Klassifikation von Dokumenten.
• KI wird im Eingangsmanagement zur Klassifikation von Gesundheitsdokumenten eingesetzt.
• Die Daten werden extrahiert und in ein Modell eingespeist, das die Dokumente klassifiziert und extrahiert (z.B. Ambulante AR, Stationäre AR, Rezept, Zahnarzt RE, Adressänderung, IBAN-Änderung).
• Die Dokumente werden über verschiedene Eingangskanäle wie E-Mail, Brief, Fax usw. eingereicht.
• Für das Training werden 10 Mio. gelabelte Seiten verwendet, während pro Jahr 60 Mio. Seiten verarbeitet werden.
• Es werden Modelle für Bilder, Texte und Metadaten verwendet.
• Das System erkennt über 300 Dokumententypen.
• Die korrekte Klassifizierung hängt von den Wahrscheinlichkeiten ab, die den einzelnen Dokumententypen zugewiesen werden.
• Ein Beispiel zeigt den Vergleich der Ergebnisse von Regelwerken und KI-Modellen bei der Klassifikation.

Generative KI

• Seit dem OpenAl im November 2022 ChatGPT veröffentlicht hat, überschlagen sich die Ereignisse.
• ChatGPT und Sprachmodelle: Eine Einführung mit Blick auf die Versicherung.
• ERGO GPT: Beginnen Sie den Chat.
• Die zugrunde liegende Technologie ist nicht ganz neu, dennoch war ChatGPT ein Durchbruch in Bezug auf die breite Akzeptanz.
• ChatGPT bietet ein User Interface, um mit den LLMs GPT-3 / GPT-4 zu interagieren.
• GPT-3 war nicht das erste LLM auf dem Markt
• Dennoch gewann es massiv an Marktanteil, da es einen einfachen Zugang über eine Chat-Oberfläche bot und die Fähigkeit zur effektiven Problemlösung integrierte.
• Das BERT-Modell wurde veröffentlicht und wird auf großen Mengen von Textdaten mit einem maskierten Sprachmodellierungsziel vortrainiert, wodurch es kontextuelle Repräsentationen von Wörtern und Sätzen lernen kann.
• Das GPT-Modell wird ebenfalls auf großen Mengen von Textdaten vortrainiert, verwendet aber ein generatives Sprachmodellierungsziel, um zu lernen, kohärenten Text zu erzeugen.
• LLMs wie GPT haben in den letzten Jahren eine schneller Entwicklung erlebt.
• Entwicklung der LLMs: Bis 2021 trieb ein exponentielles Wachstum bei Parametern und Dateneingaben die Verbesserungen an.
• Nach 2021 fanden Entwickler Wege, menschliche Logik gezielt einzubringen, wodurch das „Wettrennen um Parameter" gestoppt wurde.
• LLM / generative Kl unterstützt verschiedene Arten von Use Cases wie „Gespräche“ führen, Erstellen, Analysieren, Zusammenfassen und Klassifizieren und extrahieren.

Anwendungsgebiete

• Die Einsatzmöglichkeiten für generative KI in Versicherungsunternehmen sind vielfältig.
• Generative KI bietet neue Potenziale durch öffentliche Angebote, interne Unterstützung, Wissensassistenten, Chatbots für Kunden und technische Schnittstellen.
• LLM-basierter Chatbot mit ERGO Daten: Basiert auf AzureGPT-
• Antworten werden aus bereitgestellten Dokumenten generiert.
• Antwortet immer in der Sprache, in der die Frage gestellt wurde.
• Das Funktionsweise LLM - Beispiel: Generierter Token wird als Input für die neue Eingabe an das LLM angehängt.
• Usereingabe, Tokenizing, Word Embedding, Transformer Layer (GPT), Dekodierung des Tokens aus der W'keitverteilung.
• Dennoch gibt es einige Einschränkungen und Bedenken hinsichtlich großer Sprachmodelle (Fakt oder Fiktion, Verzerrungen, Mangel an Referenzen, Alte Informationen, Schädliche Informationen, Datensicherheit).
• RAG (Retrieval Augmented Generation) in der Versicherungsbranche.
• Von Chatbots zu Al Agents.
• Neben Technologien und Skills auch Investitionen in Daten unabdingbar, um GenAl-Nutzen zu heben.