Fraunhofer_Studie_ML_201809.pdf

 MASCHINELLES LERNEN EINE ANALYSE ZU KOMPETENZEN, FORSCHUNG UND ANWENDUNG   FRAUNHOFER-GESELLSCHAFT MASCHINELLES LERNEN EINE ANALYSE ZU KOMPETENZEN, FORSCHUNG UND ANWENDUNG Autoren Inga Döb...

 MASCHINELLES LERNEN EINE ANALYSE ZU KOMPETENZEN, FORSCHUNG UND ANWENDUNG   FRAUNHOFER-GESELLSCHAFT MASCHINELLES LERNEN EINE ANALYSE ZU KOMPETENZEN, FORSCHUNG UND ANWENDUNG Autoren Inga Döbel | Fraunhofer IMW Dr. Miriam Leis | Fraunhofer-Zentrale Manuel Molina Vogelsang | Fraunhofer IMW Dmitry Neustroev | Fraunhofer IMW Dr. Henning Petzka | Fraunhofer IAIS Annamaria Riemer | Fraunhofer IMW Dr. Stefan Rüping | Fraunhofer IAIS Dr. Angelika Voss | Fraunhofer IAIS Die Publikation wurde durch das Bundesministerium Martin Wegele | Fraunhofer-Zentrale für Bildung und Forschung (BMBF) gefördert. Dr. Juliane Welz | Fraunhofer IMW in Kooperation mit Forschungszentrum Maschinelles Lernen im Fraunhofer- Cluster of Excellence Cognitive Internet Technologies Fraunhofer-Allianz Big Data & Künstliche Intelligenz INHALT Vorwort 5 Executive Summary 6 1 Konzepte, Methoden und Grenzen des Maschinellen Lernens 8 1.1 Maschinelles Lernen und Künstliche Intelligenz 8 1.2 Ein kurzer historischer Überblick 9 1.3 Lernaufgaben, Lernstile, Modelle und Algorithmen 10 1.4 Tiefe Neuronale Netze 11 1.5 Herausforderungen des Maschinellen Lernens 11 2 Akteure und Kompetenzlandschaft 13 2.1 Publikationen 14 2.2 Patente 20 3 Märkte und Branchen 24 3.1 Techniken in der Anwendung 24 3.2 Anwendungsbranchen und Produkte 25 4 Neue Aufgaben für die Forschung 28 4.1 Daten als Herausforderung 29 4.1.1 Nutzung großer Datenmengen 29 4.1.2 Lernen mit geringen Datenmengen 29 4.2 Ausbau der Fähigkeiten 29 4.2.1 Anpassungsfähigkeit und Flexibilität 29 4.2.2 Lernen mit zusätzlichem Wissen 30 4.2.3 Kollaboration 30 4.3 Nachvollziehbarkeit, Fairness und Sicherheit 30 4.3.1 Nachvollziehbarkeit, Erklärbarkeit und Transparenz 30 4.3.2 Fairness und Diskriminierungsfreiheit 31 4.3.3 Sicherheit und robuste Lernverfahren 31 5 Fähigkeiten und Reifegrade 32 6 Rahmenbedingungen für ­Maschinelles Lernen 38 6.1 Aus- und Weiterbildung 38 6.2 Transfer in die Praxis 38 6.3 Datenverfügbarkeit und Governance 39 6.4 Rechtliche, ethische und soziale Gestaltung 40 7 Fazit 42 Glossar 43 Quellenverzeichnis 47 Weiterführende Literatur zum Thema Maschinelles Lernen 50 Abbildungen und Tabellen 51 Danksagung 52 Impressum 53  V orwort VORWORT Neueste Errungenschaften im Bereich des Maschinellen Ler- Weiterbildung in entsprechenden Bereichen, wie beispiels­ nens (ML) haben einen enormen Beitrag zur Weiterentwick- weise »Data Science«. Nur so können Deutschland und lung von Künstlicher Intelligenz (KI) und kognitiven Systemen Europa im internationalen Wettbewerb um kluge Köpfe und geleistet. KI ist inzwischen zu einem globalen wirtschaftlich Talente mithalten. und strategisch hochrelevanten Faktor geworden. In Zukunft werden Menschen in vielen Kontexten lernenden Systemen Wichtig ist aber auch eine faktenbasierte Auseinander- begegnen. Es gibt kaum einen Bereich, der nicht von ML- und setzung in der Breite zu den Einsatzmöglichkeiten und KI-basierten Technologien entscheidend transformiert wird: der Gestaltung von KI- und ML-basierten Technologien, sei es die Produktion von Gütern im Kontext Industrie 4.0, wie sie beispielsweise in der Plattform Lernende Systeme das Gesundheitswesen mit KI-Assistenten für eine bessere angelegt ist. Ängsten und Mythen ebenso wie übersteigerten Diagnostik, unsere Mobilität mit autonomen Fahrzeugen Erwartungen müssen wissenschaftliche Erkenntnisse entge- oder eine saubere und sichere Energieversorgung, wo gengesetzt werden. intelligente Computerprogramme eine optimale Steuerung gewährleisten. Aber auch unsere Ausbildung und Arbeitswelt Die vorliegende Publikation – basierend auf den Ergebnissen werden zu­sehends von intelligenten Systemen geprägt eines aktuellen Forschungsprojekts im Auftrag des BMBF – sein, die uns helfen können und die von uns lernen. liefert einen wichtigen Beitrag zur öffentlichen Debatte. Sie ordnet wesentliche Begriffe des Maschinellen Lernens Deutschland bringt im Bereich der ML- und KI-Forschung sehr wissenschaftlich ein, gibt einen Überblick zu aktuellen Her- gute Voraussetzungen mit und hat frühzeitige Pionierarbeit ausforderungen und künftigen Forschungsaufgaben und stellt – beispielsweise auf dem Gebiet der immer noch relevanten Deutschlands Position in der Anwendung von Maschinellem Stützvektormaschinen – geleistet. Gleichwohl muss uns Lernen dar. hier noch eine stärkere und schnellere anwendungsnahe Umsetzung von KI in konkrete Produkt-, Prozess- und Dienst- Den Leserinnen und Lesern dieser Ergebnisbroschüre wünsche leistungsinnovationen gelingen. Der globale Wettbewerb ist ich viele interessante Einblicke. Auf den weiteren Austausch enorm stark, insbesondere von ostasiatischer und nordame- zu den Potenzialen und Auswirkungen von KI-basierten rikanischer Seite. Deutschland und Europa müssen der Kon- Produkten und Dienstleistungen freue ich mich sehr. kurrenz eigene Innovationen entgegensetzen. Nicht zuletzt, weil wir dadurch mittelbar auch eine auf unserem Rechts- und Wertesystem basierte KI in die Anwendung bringen. Um das Wertschöpfungspotenzial von ML und KI zu nutzen und dem hohen Fachkräftemangel zu begegnen, bedarf es Prof. Dr.-Ing. Reimund Neugebauer auch einer zielgerichteten und interdisziplinären Aus- und Präsident der Fraunhofer-Gesellschaft e. V. 5 MASCHINELLES LERNEN EXECUTIVE SUMMARY Kaum ein anderes Forschungsfeld hat in letzter Zeit so viel Statistiken zu Publikationen in wissenschaftlichen Fachzeitschrif- Aufsehen erregt wie das Maschinelle Lernen (ML) mit den ten zeigen, dass 60 % aller Publikationen zu ML aus China, den damit einhergehenden rasanten Fortschritten auf dem Gebiet USA, der EU und Indien kommen. China weist hier ein beson- der Künstlichen Intelligenz (KI). ders hohes quantitatives Wachstum von jährlich 17,5 % im Zeit- raum 2006 bis 2016 auf. Sechs der zehn meist publizierenden Diese Publikation gibt eine kompakte Einführung in die wich- Hochschulen und Forschungseinrichtungen kommen aus China. tigsten Konzepte und Methoden des Maschinellen Lernens, 51 % der erfassten Publikationen können dem Anwendungsfeld einen Überblick über Herausforderungen und neue Forschungs- der Bild- und Videoauswertung zugeordnet werden, gefolgt fragen sowie eine Übersicht zu Akteuren, Anwendungsfeldern von 18 % zur Sprachverarbeitung. Bei den Publikationen zum und sozioökonomischen Rahmenbedingungen der Forschung Deep Learning kann seit 2013 weltweit ein merkbarer Anstieg mit Fokus auf den Standort Deutschland. Die Basis hierfür ist verzeichnet werden. Davor war der Anteil vernachlässigbar das vom BMBF geförderte wissenschaftliche Projekt »Maschinel- gering, und auch 2016 ist er mit 2,6 % in Fachzeitschriften und les Lernen – Kompetenzen, Anwendungen und Forschungsbe- 6,8 % in Konferenzbeiträgen geringer als erwartet. darf«, das vom Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS, dem Fraunhofer-Zentrum für In Europa entfallen die meisten Publikationen auf Groß­ Internationales Management und Wissensökonomie IMW sowie britannien, gefolgt von Deutschland. Innerhalb von Deutsch- der Zentrale der Fraunhofer-Gesellschaft durchgeführt wurde. land gib es jedoch regionale Unterschiede. Die Bundesländer Neben der statistischen Auswertung von wissenschaftlichen mit der höchsten Publikations- und Patendichte sind Baden- Publikationen, Patenten und Projekten wurden zahlreiche Württemberg, Bayern und Nordrhein-Westfalen. Marktstudien und wissenschaftliche Publikationen analysiert sowie Interviews mit 18 Expertinnen und Experten auf dem In unserer Patentrecherche als Indikator für die technologische Gebiet des ML durchgeführt, ebenso wie ein Workshop mit Leistungsfähigkeit von Regionen und Einrichtungen entfallen 17 Fachleuten a­ us Wissenschaft, Wirtschaft und Politik. die Hauptaktivitäten auf die USA, China und Südkorea. 73 % aller im Zeitraum 2006 bis 2016 erfassten Patente stammen In Expertenkreisen wird ML als Schlüsseltechnologie für aus diesen Ländern, mit den Unternehmen Microsoft, Google, moderne KI-Techniken gesehen, weshalb insbesondere im Amazon, Facebook, Samsung (Südkorea) und Huawei (China) ökonomischen Kontext KI und ML oft synonym verwendet an der Spitze. In Deutschland sind die patentstärksten Akteure werden. Maschinelles Lernen und insbesondere das die Siemens AG, Robert Bosch GmbH, Deutsche Telekom AG, sogenannte Deep Learning (DL) eröffnen völlig neue Möglich- Daimler AG, BMW AG und SAP SE. Deutsche mittelständische keiten in der automatischen Sprachverarbeitung, Bildanalyse, Unternehmen mit 49 bis 249 Mitarbeitenden weisen vergleichs- medizinischen Diagnostik, Prozesssteuerung und dem weise wenige Patentaktivitäten auf. Im Hinblick auf die Stand- Kundenmanagement. Wirtschaftsmedien sprachen 2017 vom orte von KI-Start-ups ist Berlin, wo über 50 Unternehmen ihren »Jahr der KI« und die Anwendungsmöglichkeiten werden mit Sitz haben, nach London die zweitstärkste Region in Europa. dem Fortschreiten der Digitalisierung weiter steigen. Um den Standort Deutschland international zu stärken, haben Die wissenschaftliche ML-Forschung ist längst nicht ausge- die konsultierten Fachleute ausdrücklich auf die Aus- und schöpft und insbesondere Forschungsfragen zu ML mit extrem Weiterbildungssituation hingewiesen. Ihnen zufolge muss in großen oder sehr kleinen Datenmengen, zur Kombination von Deutschland noch viel stärker ML-bezogen aus- und weiter- ML mit physikalischem oder Expertenwissen sowie Sicherheit gebildet werden, nicht nur in der Informatik, sondern auch und Transparenz von ML-Modellen sind hochaktuell und in den Anwendungsdisziplinen. Gleichzeitig sollten Aus- und hochrelevant. Weiterbildungsangebote stärker interdisziplinär orientiert sein 6  E x ecutive S ummar y um KI-basierte Kompetenzen in der beruflichen Breite aufzu- Herausforderung gesehen, insbesondere in der Medizin und bauen. Zusätzlich müssen entsprechende Arbeitskräfte global der industriellen Produktion. Hier sind Governance-Strukturen, angeworben werden, was angesichts des weltweiten Wett- die den kontrollierbaren und sicheren Datenaustausch bewerbs um Talente sowie der zu erwartenden steigenden ermöglichen, sowie datenschutzrechtliche Bedingungen zu Nachfrage nach ML-basierten Produkten und Dienstleistungen berücksichtigen oder anzupassen. eine Herausforderung darstellt. In Zukunft werden Maschinen zusehends entscheidungs- Deutschland verfügt über eine gute wissenschaftliche Basis in relevante Ergebnisse generieren. Hierzu ist es wichtig, auf ML. Für die Sicherung der Wettbewerbsfähigkeit ist ausschlag- der technologischen Seite die Sicherheit, Robustheit und gebend, den Anwendungsbezug in der Forschung zu stärken hinreichende Nachvollziehbarkeit von automatisierten Ent­ und dies beispielsweise auch in öffentlichen Forschungsaus- scheidungsprozessen zu gewährleisten. Gleichzeitig muss schreibungen stärker einzufordern. Ferner wurde konstatiert, dafür gesorgt werden, dass ML-Anwendungen mit juristischen dass derzeitige Maßnahmen zur Unternehmensförderung eher Fragen wie Haftung und Verantwortlichkeit für algorithmisch junge Start-ups anstatt etablierte Traditionsunternehmen an- getroffene Entscheidungen vereinbar und auch technisch um- sprechen. Im Hinblick auf die Förderung der Anwendung von setzbar sind. Dies auszuformulieren und ­regulativ umzusetzen ML in Deutschland liegt gerade hier viel Potenzial, insofern ist ein wichtiges und komplexes An­liegen, das einen inter- und sollten KMU durch mehr Fachinformationen zum Einsatz und transdisziplinären Ansatz erfordert. Für die weitere Verbreitung zur Nutzung von ML unterstützt werden. maschinell basierter Lernverfahren in die Anwendung ist nicht zuletzt auch die gesellschaftliche Akzeptanz von zentraler Der Zugang zu hinreichend großen und qualitativ hoch- Bedeutung. Hierfür ist eine breite öffentliche Diskussion wertigen Datenbeständen wurde für den Erfolg und die und Einbindung ver­schiedener gesellschaftlicher Gruppen Wettbewerbsfähigkeit Deutschlands als bislang ungelöste erforderlich. 7 MASCHINELLES LERNEN 1  ONZEPTE, METHODEN UND GRENZEN K DES MASCHINELLEN LERNENS 1.1 Maschinelles Lernen und Künstliche Intelligenz zu beeinflussen. Es ist ein enormer globaler Wettbewerb rund um dieses Zukunftsfeld entfacht, der insbesondere zwischen In Expertenkreisen wird Maschinelles Lernen als Schlüssel­ den USA und China ausgetragen wird. technologie der Künstlichen Intelligenz verstanden. Künstliche Intelligenz ist ein Teilgebiet der Informatik mit dem Ziel, Die oftmals erstaunlich scheinenden Leistungen ML- und KI- Maschinen zu befähigen, Aufgaben »intelligent« auszuführen. basierter Systeme implizieren jedoch nicht, dass die Maschine Dabei ist weder festgelegt, was »intelligent« bedeutet, noch irgendein Verständnis oder gar Bewusstsein davon hat, welche welche Techniken zum Einsatz kommen. Erste kommerziell Daten sie verarbeitet, warum und in welchem Kontext sie bedeutende Erfolge im Bereich der KI erzielten sogenannte das tut und welche Bedeutung die Daten haben. Auch eine Experten­systeme mit manuell konstruierter Wissensbasis. Mit ­menschenähnliche »Künstliche Universalintelligenz« oder derartigen manuellen Wissenseingaben oder gar der expliziten gar eine »Künstliche Superintelligenz«, wie sie häufig in den Programmierung eines Lösungswegs ist man bei komplexeren Medien dargestellt und von einigen Forschern und Industrie- Aufgaben der KI jedoch gescheitert. Eine Alternative hierzu vertretern propagiert wird, spielt absehbar realistischerweise bietet das Maschinelle Lernen, das heute tatsächlich die keine Rolle. Die diskutierten Szenarien machen allerdings auf Schlüsseltech­nologie intelligenter Systeme darstellt. etwaige generelle Risiken aufmerksam.1 Maschinelles Lernen bezweckt die Generierung von Die existierenden ML-Anwendungen sind mit großem Auf­ »Wissen« aus »Erfahrung«, indem Lernalgorithmen aus Bei­ wand konstruiert und lediglich für enge Aufgaben trainiert spielen ein komplexes Modell entwickeln. Das Modell, und und einsatzbereit. Die derzeitige Forschung beschäftigt damit die automatisch erworbene Wissensrepräsentation, sich vorrangig damit, den Trainingsaufwand zu reduzieren, kann anschließend auf neue, potenziell unbekannte Daten Robustheit, Sicherheit und Transparenz der Modelle zu derselben Art angewendet werden. Immer wenn Prozesse verbessern, sie leichter an neue Aufgaben anzupassen und zu kompliziert sind, um sie analytisch zu beschreiben, aber die Kompetenzen von Mensch und Maschinen zweckmäßig genügend viele Beispieldaten – etwa Sensordaten, Bilder zu kombinieren. oder Texte – verfügbar sind, bietet sich Maschinelles Lernen an. Mit den gelernten Modellen können Vorhersagen ML-basierte Maschinen werden zukünftig in vielen Bereichen getroffen oder Empfehlungen und Entscheidungen generiert zusehends Entscheidungen selbstständig treffen können. werden – ganz ohne im Vor­hinein festgelegte Regeln oder Das ruft aus unterschiedlichen Perspektiven neue rechtliche Berechnungsvorschriften. Fragestellungen auf den Plan, beispielsweise zur Haftung bei Schäden und Mängeln, zur Verantwortung von Inhalten und ML-Anwendungen oder »lernende Maschinen« sind nicht nur Urheberrechtsfragen, zur Transparenz von Entscheidungen, auf physische Geräte und Roboter beschränkt, sondern kön- zum Daten- und Verbraucherschutz oder zur Frage, inwieweit nen auch rein digitale Anwendungen in IT-Systemen sein, wie den Entscheidungen von solchen Maschinen Folge zu verschiedene Arten von »Robos« und Bots, zum Beispiel Chat- leisten ist. Die zentrale ethische Herausforderung ist es, die bots, Social Bots, Gamebots oder Robo-Player, Robo-Advisors ­Maschinen so zu gestalten, dass sie mit unseren Gesell- oder Robo-Journalisten. ML-Techniken und KI-Anwendungen schafts-, Rechts- und Wertevorstellungen kompatibel sind. sind dabei, sämtliche Branchen und Lebensbereiche nachhaltig Diese gesellschaftliche Debatte muss jetzt beginnen.2 1 De Spiegeleire/Maas/Sweijs 2017 2 Bitkom 2017 8  K onzepte , M ethoden und G renzen des M aschinellen L ernens 1.2 Ein kurzer historischer Überblick mit wenigen lokalen Vernetzungen in ihrer Ausdrucksfähigkeit beschränkt waren. Dies führte in den 1970er Jahren zur Sta- Maschinelles Lernen kann auf eine recht lange Geschichte gnation der KI-Forschung, insbesondere an KNN, und leitete zurückblicken und ist aus Methoden der Statistik und KI den sogenannten ersten »KI-Winter« ein. hervorgegangen. Angeregt durch das Verständnis verteilter neuronaler Prozesse im Gehirn entstanden bereits in den In den 1980er Jahren konzentrierte sich die Forschung auf späten 1940er Jahren erste Konzepte von Künstlichen symbolische Expertensysteme. Ihre Wissensbasis bestand aus Neuronalen Netzen (KNN) und fanden zehn Jahre später manuell eingegebenen logischen Regeln, die sich auf manuell erste Implementierungen. Ende der 1960er Jahre haben zwei selektierte Merkmale oder ebenfalls manuell konstruierte bekannte KI-Wissenschaftler, Minsky und Papert, gezeigt, dass Objekthierarchien bezogen. Solche Wissensrepräsentationen damals ein einziges Neuron schon die elementare Entweder- bezeichnet man als »symbolisches Wissen«. Es stellte sich aber oder-Logik nicht lernen konnte und größere Neuronale Netze heraus, dass ein konsistenter Ausbau größerer Wissensbasen Tabelle 1: Überblick zu ausgewählten Meilensteinen im Einsatz von Maschinellem Lernen heute ML-basierte Systeme sind inzwischen in der Lage, I radiologische Bilder so gut wie Mediziner zu analysieren I automatisch unklare Bilder zu vervollständigen I selbst KI-Software zu schreiben und zu trainieren I Börsengeschäfte anhand eigener Prognosen selbstständig durchzuführen I in komplexen Spielen wie Go und Poker gegen Menschen zu gewinnen I sich selbst Wissen, Spiele und Strategien beizubringen 2017 KI (Alpha Go) gewinnt im Go-Spiel gegen den »besten Spieler der Weltrangliste« Ke Jie 2011 KI gewinnt im Quiz-Spiel (IBM Watson) 2010er Bedeutende Erfolge mit Deep Learning (v. a. in der Sprachverarbeitung, Objekterkennung, Mustererkennung, Bioinformatik) 2000er Popularitätsgewinn des ML: Revival der Neuronalen Netze (Big Data und schnelle Computer); Verbreitung der Kernel-Methoden des ML 1996 KI gewinnt im Schach gegen den Weltmeister Kasparow (IBM Deep Blue) 1990er Durchbruch: Stützvektormaschinen (SVM) 1985-1995 Stagnation der Forschung und Entwicklung: Aufgabe der Expertensysteme (zu hohe Komplexität und langsame Computer) 1980er Praktische Anwendung der »Back Propagation«-Methode für ML und KNN; Forschung an Expertensystemen 1980er Boom der humanoiden Robotik (Japan) 1974-1980 Stagnation der FuE: Scheitern Neuronaler Netze (zu langsame Computer) 1960er Entwicklung: Bayessche Netze, probabilistisches ML und semantische Netze 1950er Pionierarbeiten im Maschinellen Lernen (ML); Begriffsprägung der Künstlichen Intelligenz (KI) 1940er Theorie der »Künstlichen Neuronalen Netze« (KNN) 9 MASCHINELLES LERNEN immer schwerer wurde. Man erkannte, dass praktisch niemals als sogenannte Labels mitgeliefert werden. Die Angabe von alle denkbaren Vorbedingungen für eine Aktion explizit an­ ­Labels bedeutet meist mehr Arbeit für die Datenvorver- gegeben werden können. Zudem traten Probleme im Umgang arbeitung, ist aber notwendig, wenn Objekte klassifiziert mit neuen Informationen auf, die bereits eingegebenem und Werte geschätzt oder vorhergesagt werden sollen. widersprachen. Das führte Ende der 1980er zum zweiten Beim unüberwachten Lernen hingegen reichen die rohen »KI-Winter«. Beispieldaten aus, um grundlegende Muster in den Daten zu entdecken. Beim bestärkenden Lernen nutzen Maschinen Mitte der 1980er Jahre wurden Neuronale Netze zwar durch Feedback aus ihrer Interaktion mit der Umwelt, um ihre die Back-Propagation-Methode wieder interessant. Für prakti- zukünftigen Aktionen zu verbessern und Fehler zu verringern. sche Anwendungen stellten sich ab 1995 aber Lernmethoden Diese Art des Lernens kommt häufig in der Robotik zum wie Stützvektormaschinen als handhabbarer heraus. Einsatz, beispielsweise zum Erlernen der besten Greifbewe- gungen für Objekte. Erst um die Jahrtausendwende ermöglichten Fortschritte in den Computertechnologien und das Aufkommen von »Big Es gibt inzwischen eine Vielzahl von Modelltypen und Lern­ Data« das Lernen von sehr komplexen, sogenannten »tiefen« verfahren bzw. konkreten Lernalgorithmen, die jeweils für Künstlichen Neuronalen Netzen. Damit begann der Erfolg der unterschiedliche Aufgaben besonders gut geeignet sind. Die heutigen KI. meist verbreiteten sind in Tabelle 2 zusammengestellt. 1.3 Lernaufgaben, Lernstile, Modelle und Algorithmen Kaggle, eine Plattform für ML-Wettbewerbe, hat 2017 in einer Umfrage nach den verwendeten Methoden gefragt. Das Bei maschinellen Lernverfahren unterscheidet man Lernstile, Ergebnis auf Basis von 7 301 Antworten zeigt Abbildung 1. die für jeweils andere Zwecke geeignet sind. Je nachdem, Ensemble-Methoden und »Gradient boosted machines« welche Zusatzinformation zur Verfügung steht, können kombinieren mehrere Modelle, meist Entscheidungsbäume, andere Aufgaben gelernt werden. Beim überwachten für Klassifikations- und Regressionsaufgaben. CNN und RNN Lernen m ­ üssen die richtigen Antworten zu den Beispielen gehören zu den tiefen Neuronalen Netzen. Tabelle 2: Gängige Lernverfahren und ihre Modelle Lernstil Lernaufgabe Lernverfahren Modell Überwacht Regression Lineare Regression Regressionsgerade Klassifikations- und Regressionsbaum­ Regressionsbaum verfahren (CART) Klassifikation Logistische Regression Trennlinie Iterative Dichotomizer (ID3) Entscheidungsbaum Stützvektormaschine (SVM) Hyperebene Bayessche Inferenz Bayessche Modelle Unüberwacht Clustering K-Means Clustermittelpunkte Dimensionsreduktion Kernel Principal Component Zusammengesetzte Merkmale Analysis (PCA) Bestärkend Sequentielles Entscheiden Q-Lernen Strategien Verschiedene Verschiedene Rückwärtspropagierung Künstliche Neuronale Netze 10  K onzepte , M ethoden und G renzen des M aschinellen L ernens Abbildung 1: Verwendete Methoden der von Kaggle befragten Data Scientists und ML-Fachleute3 Logistische Regression 63,5 % Entscheidungsbäume 49,9 % Random Forests 46,3 % Neuronale Netze 37,6 % Bayessche Inferenzen 30,6 % Ensemble-Methoden 28,5 % Stützvektormaschinen 26,7 % Gradient Boosted Machines 23,9 % Faltungsnetze (CNN) 18,9 % Rekurrente Neuronale Netze (RNN) 12,3 % Andere 8,3 % 1.4 Tiefe Neuronale Netze 3 oft nur sinnvoll mit sehr großen Datenmengen. Da es sich dem Menschen nicht ohne weiteres erschließt, was die Gewichtun- Ab 2006 verzeichnete das Deep Learning oder das Lernen gen bei einem KNN bedeuten und wie genau die Ausgaben mit tiefen Künstlichen Neuronalen Netzen enorme Fort- zustande kommen, spricht man hier von »subsymbolischen« schritte, insbesondere in der Analyse von Bild- und Video-, Modellen, im Gegensatz zu symbolischen Modellen wie den Sprach- und Textdaten. Inzwischen können Maschinen mit Entscheidungsbäumen (siehe Abb. 3) oder den Wissensbasen tiefen KNN in einigen Fällen Gesichter und Objekte mit einer früherer Expertensysteme. geringeren Fehlerquote identifizieren als Menschen und sogar Fachleute4. Außerdem können solche Maschinen neuartige Es gibt eine Vielzahl von Netzarchitekturen, die sich für jeweils Lernaufgaben mit komplexen Ergebnissen lösen wie Texte unterschiedliche Datentypen und Aufgabenstellungen als wir- übersetzen, Fragen und E-Mails beantworten, Nachrichten kungsvoll erwiesen haben. Da die Netze im Ganzen von den zu Berichten verdichten, Musik und Texte komponieren oder Rohdaten bis zur Ausgabe trainiert werden können, spricht Bilder produzieren. man auch von Ende-zu-Ende-Lernen. Eine sehr erfolgreiche Anwendung von tiefen KNN sind die »Deep Q-Networks« im Die tiefen KNN bestehen aus vielen in Software realisierten bestärkenden Ende-zu-Ende-Lernen5 für Spiele und Roboter. Schichten von »Knoten«, die als künstliche Neuronen be- zeichnet werden (siehe Abb. 2). Beim Lernen werden die Ge- 1.5 Herausforderungen des Maschinellen Lernens wichte, das sind Zahlen­werte an den Verbindungen zwischen den Knoten, solange verändert, bis die Ausgaben gut genug Beim Maschinellen Lernen als datengestützter Technologie sind. In ihren inneren Schichten gewinnen die Netze aus den gibt es ganz andere Herausforderungen als bei der klassischen Rohdaten selbstständig kompakte Darstellungen, wodurch Programmierung. Generell gilt: je mehr Trainingsdaten ein viele Vorverarbeitungs­programme überflüssig werden und die Lernalgorithmus erhält, desto eher kann er sein Modell eigentliche Aufgabe leichter lernbar wird. Tiefe KNN bilden ver­bessern und die Fehlerquote verringern. Dabei besteht die ausdrucksstarke ­Modelle, die sich außerdem effizient in Kunst darin, das Modell allgemein genug zu halten, damit parallelen Rechner­systemen trainieren lassen. Das funktioniert es auch auf neuen Daten, die nicht in der Trainingsphase 3 Kaggle 2017 4 He et al. 2015 5 Mnih et al. 2015 11 MASCHINELLES LERNEN Abbildung 2: Schematische Darstellung eines KNN, hier in Form eines Feed-forward Network – eigene Darstellung Summierung und Ausgangswert Eingangswerte Gewichte Aktivierungsfunktion w11 x1 ∑α w12 w13 w1n... x2 ∑α y1... x3 ∑α y2...... xn ∑α Eingabeschicht Verdeckte Zwischenschicht Ausgabeschicht vor­kamen, gut funktioniert. Außerdem sollen die Modelle ro- Abbildung 3: Schematische Darstellung eines Entscheidungsbaums6 bust sein, also auf ähnliche Eingaben auch ähnlich reagieren. Alter Die Qualität eines Modells hängt auch von der Qualität der alt jung Trainingsdaten ab. Werden dem Algorithmus zu viele falsche Beispiele gezeigt, kann er nicht die korrekten Antworten Sorte nein lernen. Wenn die Beispiele nicht repräsentativ sind, sind die veredelt natürlich Ausgaben bei neuartigen Eingaben auch mit größerer Un­ ja Boden sicherheit behaftet. Manche Modelle können aber zusammen mit ihrer Ausgabe auch eine Einschätzung abliefern, wie reichhaltig mager fundiert die Ausgabe ist. ja nein Eine wünschenswerte und wichtige Eigenschaft ist die Nachvollziehbarkeit der Modelle im Allgemeinen und ihrer Ergebnisse im Einzelfall. Entscheidungsbäume lassen sich für erfolgreiche ML-Anwendungen halten. Die Wahl der besonders gut interpretieren, tiefe Neuronale Netze hingegen Methode sollte sich immer nach den Anforderungen der schlecht. Aufgabe richten. In Deutschland gibt es auch zukünftig viele Einsatz­bereiche für klassische Lernverfahren, die weniger Die gute Skalierbarkeit mit steigenden Datenmengen einer- Daten benötigen – wie die hier stark vertretenen Stützvektor­ seits und die schlechte Nachvollziehbarkeit andererseits sind maschinen und Kernmethoden. Noch größeres Potenzial Gründe, weshalb die im Projekt konsultierten Fachleute sehen die Fachleute aber in der Verbindung von maschinellen das tiefe Lernen für notwendig, aber nicht ausreichend Lernverfahren mit anderen Wissensformen.6 6 Snider 2017 12  A kteure und K ompetenzlandschaft 2 AKTEURE UND KOMPETENZLANDSCHAFT Im Zuge der fortschreitenden Digitalisierung in nahezu allen werden, um anschließend die Merkmale mit bekannten Lebensbereichen nehmen Maschinelles Lernen und Künstliche Objekten auf wahrscheinliche Übereinstimmungen zu Intelligenz eine bedeutende strategische Rolle im wirtschaft­ vergleichen10, wurde in den l­etzten Jahren durch das lichen, zivilen und militärischen Bereich ein.7,8 Somit rücken sie tiefe Lernen in KNN überholt. Deep Learning ermöglicht auch immer stärker in den Fokus von Politik, Wissenschaft und die Verarbeitung visueller D ­ aten mit einer höheren Wirtschaft, um im globalen Wettbewerb um Forschungs- und Genauigkeit und Zuverlässig­keit in einem einzigen Schritt Entwicklungserfolge, Talente, Daten sowie kommerzielle (end-to-end). Damit konnten bei Bildklassifikation, Ob- Anwendungen mithalten zu können. Auch in den USA äußern jekterkennung und Bildsegmentierung im Maschinellem sich inzwischen besorgte Stimmen, in KI- und ML-basierter Sehen erhebliche Fortschritte erzielt werden. Forschung und Technologie insbesondere von China, aber auch von Russland überholt zu werden.9 Text- und Sprachverarbeitung Text- und Sprachverarbeitung (Natural Language Process- Ziel dieser Analyse ist es, einen Überblick über die Forschungs- ing, NLP) umfasst Techniken, die Computersysteme be- aktivitäten im Bereich ML zu geben mit einem besonderen fähigen, natürliche Sprache in Wort und Schrift zu inter- Blickpunkt auf den Standort Deutschland. Als Methode hierfür pretieren und zu erzeugen. Die Algorithmen verar­beiten dienten statistische Analysen über wissenschaftliche Publi­ die menschliche Spracheingabe und wandeln sie in ma- kationen, Patentanmeldungen sowie öffent­lich geförderte For- schinenverständliche Darstellungen um.11 Dazu ge­hören schungsprojekte. All diese Indikatoren bestätigen ein starkes unter anderem: Erkennung gesprochener Sprache (speech Wachstum der ML-Themen in den letzten zehn Jahren. Eben- recognition, automatische Transkription mensch­licher falls wurden wissenschaftliche und wirtschaftliche Aktivitäten Sprache); natural language generation, auto­matisiertes von Akteuren in vier bedeutenden Anwendungsbereichen Schreiben von Texten in stark formalisierten Bereichen betrachtet, die ML auf bestimme Datentypen anwenden: Bild- wie Sport- oder Finanznachrichten; Sentiment­analyse, und Videoanalyse, Text- und Sprachverarbeitung, Verarbeitung die Analyse von Tonalität und Stimmung in Texten; von Audiodaten sowie heterogene Datenquellen. maschinelle Übersetzung sowie das Führen von Dialogen und Unterhaltungen. Die semantische Interpretation ist Bild- und Videoanalyse dabei eine der großen Herausforderungen. Bei der Bild- und Videoanalyse handelt es sich um die Verarbeitung visueller Daten (z. B. von optischen Audiodatenverarbeitung aus heterogenen Quellen ­Sensoren, Kamerasystemen oder Bildern). Dies ermöglicht Viele Problemstellungen in datenintensiven Branchen es einer Maschine, Objekte, Szenen und Aktivitäten in wie Automobilindustrie, Fertigungsindustrie, Ener- der Umgebung wahrzunehmen und zu identifizieren. Ein giesektor oder Medizin erfordern die gleichzeitige Computer-Vision-System erfasst, verarbeitet und analy- Berücksichtigung großer Mengen von Signalen aus siert Bilder, um numerische oder symbolische Informatio- verschiedenen, heterogenen Quellen in Echtzeit. Im Rah- nen zu erzeugen. Die traditionelle Heran­gehensweise, bei men der KI-gestützten Sensor­datenfusion werden sta- der in möglichst kleinen Teilschritten, wie dem Erkennen tistische Interdependenzen zwischen unterschiedlichen von ­Linien und Texturen, Bilder berechnet und analysiert Datenquellen unter Verwendung von Bayes-Netzwerken 7 The Hague Centre for Strategic Studies 2017 8 Button 2017 9 Simonite 2017 10 Gentsch 2018 11 Rao und Verweij 2017 13 MASCHINELLES LERNEN und probabilistischen grafischen Modellen genutzt. Vor Die Anzahl der ML-Publikationen in wissenschaftlichen Fach­ allem Deep Learning wird verwendet, um Datenströme zeitschriften ist im Zeitraum von 2006 bis 2016 von 9 636 auf verschiedener Sensortypen (Beschleunigungsmesser, Gy- 21 724 angestiegen. Auch ist die Anzahl der Konferenzbei­ roskop, Magnetometer, Barometer, Satellitenempfänger, träge zu ML von 7 811 in 2006 auf 17 686 in 2016 gestiegen. usw.) zusammenzuführen. 12 Das Publikationsaufkommen in den Com­puterwissenschaften insgesamt hat sich im gleichen Zeitraum von 190 583 auf 2.1 Publikationen 319 523 zitierbare Publikationen erhöht.15 Die ML-Publikatio- nen weisen damit ein relativ stärkeres Wachstum auf als der Ein in der Forschung etablierter Indikator für die Betrachtung allgemeine Publikationstrend und lassen auf eine intensivere wissenschaftlicher Aktivitäten sind wissenschaftliche Forschungstätigkeit schließen. Publikationen (Artikel in Fachzeitschriften bzw. Fachjournals und Konferenz­beiträge), die mit Hilfe von bibliometrischen Geographisch betrachtet, entfallen im Durchschnitt mehr Statistiken in Publikationsdatenbanken erfasst und recher- als 60 % der ML-Publikationen auf die USA, EU und China. chiert werden können. Die Elsevier-Scopus-Datenbank bildet Diese Regionen publizieren in absoluten Zahlen am meisten. als etablierte Publikationsdatenbank die Datengrundlage für Innerhalb der EU ist Großbritannien, gefolgt von Deutschland, die biblio­metrischen Auswertungen der vorliegenden Unter- der publikationsstärkste Akteur. China weist innerhalb des suchung. Die Definition und Abgrenzung der relevanten 13 Betrachtungszeitraums mit einer jährlichen Zunahme von Suchbegriffe für die Datenbankabfrage wurde in Zusammen- durchschnittlich 15 % eine besonders hohe Wachstumsrate arbeit mit ML-Fachleuten erstellt und erfolgte anhand von auf: so stieg der Anteil an den weltweiten ML-Publikationen ausgewählten großen Anwendungsfeldern sowie auf der von 13 % in 2006 auf 21 % in 2016. Wird jedoch nur technologischen Systemebene anhand von ML-Methoden, die reine Anzahl der Veröffentlichungen in einschlägigen Lernstilen und -aufgaben, Modellen und Lernverfahren.14 Konferenzbeiträgen ohne Berücksichtigung M ­ L-bezogener Abbildung 4: Entwicklung der Publikationen im Bereich ML für Deutschland (DE), Frankreich (FR), Großbritannien (UK), USA (US) und China (CN) sowie die restlichen EU-Staaten und übrige Länder Artikel in Fachzeitschriften Konferenzbeiträge 20,000 20,000 DE FR UK 15,000 15,000 EU US CN übrige 10,000 10,000 5,000 5,000 Source: Scopus; Fraunhofer IMW; 0 0 eigene Berechnungen 06 20 7 20 8 20 9 20 0 20 1 20 2 20 3 20 4 20 5 16 06 20 7 20 8 20 9 20 0 20 1 20 2 20 3 20 4 20 5 16 0 0 0 1 1 1 1 1 1 0 0 0 1 1 1 1 1 1 EU: EU−28 exkl. DE, FR, UK 20 20 20 20 12 Groopman und Kaul 2017 13 Erfasst sind über 67 Mio. Aufsätze in wissenschaftlichen Fachzeitschriften und rund 8 Mio. Konferenzbeiträge. Darüber hinaus gibt es noch w ­ eitere Datenbanken (z. B. Web of Science, Google Scholar, arXiv.org), die sich in Abdeckung und Qualität von der gewählten Datenbank unterscheiden. Es wurde keine Vorauswahl der Fachzeitschriften oder Konferenzbeiträge vorgenommen. 14 Neben dem Suchbegriff »Machine Learning« wurden in einem iterativen Prozess insgesamt 15 Suchbegriffe und 85 Schreibvariationen definiert. Die Suche wurde auf Publikationen in englischer Sprache im Zeitraum zwischen 2006-2016 sowie relevante Disziplinen (Physik und Ingenieur­ wissenschaften, Lebenswissenschaften, Wirtschafts- und Verhaltenswissenschaften) eingegrenzt. Da das Analyseziel die Identifikation von relevan- ten Akteuren war, die in der Forschung und Entwicklung von ML-Methoden und Technologien tätig sind, sollten mit der Disziplinenfokussierung beispielsweise Beiträge zur philosophischen oder ethischen Auseinandersetzung mit ML gefiltert werden. 15 Vgl. http://www.scimagojr.com/worldreport.php (zuletzt geprüft am 20.02.2018) 14  A kteure und K ompetenzlandschaft Tabelle 3: Top-10 der publikationsstärksten Akteure weltweit Rang Forschungseinrichtung Land Fachzeitschriften Konferenzbeiträge Summe 1 Tsinghua University China 672 910 1582 2 Carnegie Mellon University USA 445 917 1362 3 Zhejiang University China 816 532 1349 4 Harbin Institute of Technology China 646 613 1260 5 Shanghai Jiao Tong University China 704 509 1213 6 Chinese Academy of Sciences China 489 536 1025 7 Nanyang Technological University Singapur 526 445 971 8 Huazhong University of Science and Technology China 440 521 961 9 National University of Singapore Singapur 476 439 915 10 Beihang University China 372 518 889.................. 31 Max-Planck-Gesellschaft Deutschland 462 207 669 32 Helmholtz-Gemeinschaft Deutschland 374 292 666 70 Technische Universität München Deutschland 228 274 502 115 Fraunhofer-Gesellschaft Deutschland 127 256 383 193 Rheinisch-Westfälische Technische Hochschule Aachen Deutschland 114 169 283 Such- und Schlüsselbegriffe betrachtet, so kann die Stellung vergleichsweise hoch. In Großbritannien liegt er bei 8,7 %, Chinas gegenüber den USA deutlich geringer ausfallen16. in China bei 8,3 % und in Deutschland bei 5,3 %. Der Trend scheint in wissenschaftlichen Zeitschriften um zwei Jahre Die zehn publikationsstärksten Organisationen stammen aus zeitversetzt einzutreten. Es ist davon auszugehen, dass die der Wissenschaft, wobei acht von zehn Organisationen aus Dynamik in diesem Bereich weiter anhalten wird, denn tiefes Asien stammen. Lernen steht im Mittelpunkt vieler Anwendungsszenarien. Die Anzahl von Publikationen zu Deep Learning in wissen- In Deutschland ist die Anzahl der ML-Publikationen in Fach- schaftlichen Zeitschriften und Konferenzbeiträgen wurde zeitschriften von 427 in 2006 auf 627 in 2016 angewachsen. ebenfalls durch unterschiedliche Suchbegriffe erfasst. Seit Die Konferenzbeiträge sind im gleichen Zeitraum von 266 2013 kann bei den Fachkonferenzen ein starkes Wachstum auf 617 angewachsen. Zum Vergleich sind die zitierbaren konstatiert werden. Hier erreichte der Anteil von Deep Publikationen aus Deutschland über alle wissenschaftlichen Learning 2016 bereits 6,8 %. Im gleichen Jahr liegt der Anteil Disziplinen von 115 542 auf 149 645 angestiegen und in den der DL-bezogenen Konferenzbeiträge in den USA mit 10,4 % Computerwissenschaften von 11 088 auf 18 691.17 16 EFI 2018 17 Vgl. http://www.scimagojr.com/worldreport.php (zuletzt geprüft am 20.02.2018) 15 MASCHINELLES LERNEN Abbildung 5: Anteil der Deep-Learning-Publikationen an gesamten ML-Publikationen, 2006-2016 in Prozent 8 7 6 5 4 3 2 1 0 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015 2016 Artikel in Fachzeitschriften Konferenzbeiträge Source: Scopus; Fraunhofer IMW; eigene Berechnungen Deutsche Forscherinnen und Forscher leisteten insbesondere (KIT). Mit einer starken Anwendungsorientierung befinden Pionierarbeit bei der Entwicklung von Support-Vektor-Maschi- sich die Fraunhofer-Gesellschaft (FhG) und das Deutsche nen. Weiterhin werden hier auch klassische ML-Technologien Forschungszentrum für Künstliche Intelligenz (DFKI) unter den erforscht, verbessert und weiterentwickelt. führenden Wissenschaftseinrichtungen. Das DFKI publiziert stark in den Bereichen »Computerlinguistik«, »Mensch- In absoluten Zahlen sind die Bundesländer Baden- Maschineinteraktion« und »Semantische Tech­niken«, hinter Württemberg, Nordrhein-Westfalen und Bayern die publika­ denen sich neben ML auch andere Techniken verbergen tionsstärksten im Bereich der ML-Technologien. Es folgen können. Unter den publikationsstärksten Hochschulen Niedersachsen, Berlin, Hessen und Sachsen. Die publikations- befinden sich insgesamt sechs Technische Universitäten: RWTH schwächeren Bundesländer sind Rheinland-Pfalz, Saarland, Aachen, TU Berlin, TU Darmstadt, TU Dortmund, TU Dresden Thüringen, Sachsen-Anhalt, Hamburg, Bremen und Schleswig- und TU München. Bei der Einordnung und Bewertung der Holstein, Brandenburg und Mecklenburg-Vorpommern. Einrichtungen müssen sowohl Größe als auch Zielrichtung der Organisationen berücksichtigt werden. Deutschland verfügt über eine hohe Dichte an Forschungs­ einrichtungen. Das ML-Publikationsaufkommen in Deutsch- Bei den Unternehmen entfällt die Hälfte der zehn publika- land ist stark konzentriert, so dass die 20 publikationsstärksten tionsstärksten Akteure auf Softwarekonzerne aus den USA. Einrichtungen über 40 % der ML-Publikationen hervorbringen. Im Deutschen Raum verzeichnen die Siemens AG, Honda Hierzu zählen die Max-Planck-Gesellschaft (MPG), insbeson- Research Institute Europe GmbH, SAP SE, Robert Bosch GmbH dere das Max-Planck-Institut für Informatik, das Max-Planck- und Daimler AG die meisten Publikationen. Erwartbar war, Institut für biologische Kybernetik und das Max-Planck-Institut dass Unternehmen in ihren ML-Publikationen stärkere Bezüge für Intelligente Systeme, und die Helmholtz-Gemeinschaft zu den definierten Anwendungsbereichen herstellen als (HGF), insbesondere das Deutsche Zentrum für Luft- und Hochschulen oder Forschungseinrichtungen. Raumfahrt (DLR) sowie das Karlsruher Institut für Technologie 16  A kteure und K ompetenzlandschaft Abbildung 6: Kompetenzlandkarte auf Basis wissenschaftlicher Publikationen, 2006-2016 Airbus MeVis AG U Bremen Bayer Pharma TU Berlin, MPI U Hannover Molekulare Genetik, > 2501 U Magdeburg Fh-FOKUS 1501-2500 NEC U Bonn, U Bochum, TU Dresden, MPI 501-1500 RWTH, TU Dortmund, Kognitions- und Fh-IAIS, Fh-FHR, DLR, FZJ U Jena Neurowissenschaften, < 500 UFZ Honda TU Darmstadt Unternehmen DFKI, MPI Informatik, U Saarland Siemens, BMW Robert Bosch, Daimler, SAP TUM, LMU, FAU, U Stuttgart, U Freiburg, HMGU, Fh-IIS U Ulm, MPI für bio. Forschung Kybernetik, MPI Intelligente Systeme, KIT, Fh-IOSB Source: Scopus; Fraunhofer IMW; eigene Berechnungen Abkürzungen: FAU= Friedrich Alexander Universität Erlangen Nürnberg; Fh = Fraunhofer-Institut; FZJ = Forschungszentrum Jülich; HMGU = Helmholtz Zentrum München; LMU = Ludwig-Maximilians-Universität München; MPI= Max-Plank-Institut; TUM = TU München; UFZ = Helmholtz-Zentrum für Umweltforschung Tabelle 4: Anzahl der ML-Publikationen in Unternehmen Rang Organisation Standort Fachzeitschriften Konferenzbeiträge Summe 1 IBM Inc. USA 197 594 790 2 Microsoft Inc. USA 156 529 685 3 Google Inc. USA 74 221 296 4 Yahoo Inc. USA 54 229 283 5 Microsoft Research Asia Inc. China 68 164 232 6 Siemens USA Inc. USA 131 68 199 7 Nippon Telegraph and Telephone Corporation Japan 68 123 191 8 Philips B.V. Niederlande 111 68 180 9 Hewlett-Packard Inc. USA 39 106 145 10 Intel Corp. USA 38 106 144.................. 13 Siemens AG Deutschland 47 49 96 22 Honda Research Institute Europe GmbH Deutschland 18 20 38 30 SAP SE Deutschland 2 29 32 37 Robert Bosch GmbH Deutschland 6 20 26 48 Daimler AG Deutschland 4 14 18 17 MASCHINELLES LERNEN 18 19 Tabelle 5: Die publikationsstärksten Forschungseinrichtungen Deutschlands im Bereich ML Publikationen 2006-2016 Forschungseinrichtung19 Fachzeitschriften Konferenzbeiträge Summe Deutsche Forschungszentrum für 24 83 107 Künstliche Intelligenz DFKI Fraunhofer-Gesellschaft 127 256 383 Friedrich-Alexander-University 116 85 201 Erlangen-Nürnberg (FAU) Gottfried Wilhelm Leibniz Universitat 36 79 114 Helmholtz-Gemeinschaft (HGF) 374 292 666 Ludwig-Maximilians-Universität 172 84 256 München (LMU) Max-Planck-Gesellschaft (MPG) 462 207 669 Otto von Guericke Universität Magdeburg 100 122 222 RWTH Aachen 114 169 283 Technische Universität Berlin 100 125 225 Technische Universität Darmstadt 66 141 207 Technische Universität Dortmund 53 102 154 Technische Universität Dresden 111 95 206 Technische Universitat München 228 274 502 Universität Bonn 177 66 243 Universität Bremen 65 71 136 Albert-Ludwigs-Universität Freiburg 100 101 201 Universität des Saarlandes 64 64 128 Universität Stuttgart 52 102 154 Universität Ulm 77 71 148 18 Die jeweiligen Forschungsschwerpunkte wurden anhand der Stichwörter zu konkreten ML-Lernverfahren und Anwendungsbereichen ermittelt, mit denen die Publikationen verschlagwortet wurden. Generell ist bei den Stichwörtern zu den Publikationen aller betrachteten Akteure auffällig, dass hier sehr viele Begriffe zu den Themen Gesundheit, Medizin und Lebenswissenschaften zu finden sind, z. B.: Alzheimer, Biomarker, DNA, fMRI, EEG, Gehirn, Genetik, Krebs, Neurowissenschaften, Prothetik etc., die hier nicht explizit als Anwendung aufgelistet wurden. 19 Alphabetisch sortiert. 18  A kteure und K ompetenzlandschaft Häufig genannte Forschungsthemen der Publikationen im Zeitraum 2014-201618 Lernverfahren und Aufgaben Anwendungen Support Vector Machine (SVM), Vereinfachung von Repräsentationen Mustererkennung; Bildverarbeitung; Text- und Wissensanalyse, (weitere: Ensemble Learning, Merkmalsextraktion, KNN/Deep semantische Technologien Learning) KNN/Deep Learning, SVM (weitere: Merkmalsextraktion, PCA, Aktivitäts- und Bewegungsanalyse; Muster- und Objekt­erkennung; Bayessche Modelle, statistisches ML, Entscheidungsbäume) Bildverarbeitung/-analyse (Vision); Vorhersage­analysen; Text-, Audio-, Video- und Geräuschanalyse KNN/Deep Learning, SVM/Kernmethoden (weitere: Bayessche Netze, Signalverarbeitung, Industrie 4.0, Sensordatananalyse, ­Semantik, Feature Maps, inverse Probleme) Stimmerkennung Neuronale Netze (weitere: Active Learning, Entscheidungsbäume) Text- und Semantikanalysen, Linked Data, Sensordatananalysen KNN/Deep Learning, SVM, Merkmalsextraktion (weitere: Bayessche Hyperspektraldatenanalyse, Spektroskopie; Fernerkundung Netze, statistisches ML, Active Learning, Entscheidungsbäume) (Remote Sensing); Bildverarbeitung SVM/Kernmethoden, statistisches ML (weitere: KNN, Visualisierungen; Bild-, Sprach-, und Textverarbeitung Ensemble Methoden, Markov-Modelle) KNN, SVM (weitere: statistische ML-Methoden, Gesichts-, Muster- und Objekterkennung; Bayessche Methoden) Gehirn-Computer-Schnittstellen (BCI);Vorhersagemodelle SVM (weitere: KNN, genetische/evolutionäre Algorithmen, Mustererkennung; (IT)-Forensik; Bildverarbeitung (Vision) ­Merkmalsextraktion) KNN/Deep Learning; (weitere: Markov Modelle, Sprach- und Textanalyse, semantische Analysen; Bildanalysen; Statistische ML-Methoden) Aktivitätsanalysen; Energiesysteme Entscheidungsbäume, Deep Learning (weitere: SVM/Kernmethoden, Gehirn-Computer-Schnittstellen (BCI); Mustererkennung; Markov Modelle) Signalverarbeitung Neuronale Netze, Markov-Modelle (weitere: Active Learning, SVM) Aktivitätserkennung, Knowledge Discovery, Textanalyse, Agentensysteme, ML-Games, akustische Sensoranalyse Transfer-Learning (weitere: Active Learning, KNN/Deep Learning, Ereignisdetektion, Wort- und Geräuscherkennung, Bild-, Form- SVM) und Szenenerkennung, Modellierungen (Graphik, Verkehr) Active Learning, SVM Text-, Inhalts- und Medienanalyse, Knowledge Discovery, Geräuschanalyse KNN/Deep Learning, Active Learning; (weitere: SVM, Bildanalyse; Sprachanalyse; Stimmungsanalyse; Emotions­erkennung; ­Entscheidungsbäume, bestärkendes Lernen) Aktivitätsvorhersage (activity prediction) SVM (weitere: KNN) Aktivitätsvorhersage (activity prediction); Bewegungsanalyse Neuronale Netze, SVM Agentensysteme, Affective Computing/Emotionsanalyse, ­Detektionssysteme und Vorhersagemodelle (industrielle ­Produktion, Fehler, Kopien, Schadstoffe, Erdbeben) SVM, KNN/Deep Learning (weitere: Active Learning, Randon Forests) Sentimentanalyse, Entscheidungsunterstützung, ­Aktivitätserkennung, autonome Systeme/Roboter SVM, Neuronale Netze Daten-, Text- und Social-Media-Analysen, Energiemanagementsysteme Neuronale Netze, SVM Vorhersagemodelle, Optimierung und Steuerung (Produktion), Textanalysen, Wissensintegration SVM/Kernmethoden, KNN/Deep Learning Affective Computing/Emotionserkennung, Sprach- und ­Textanalyse, Signalverarbeitung 19 MASCHINELLES LERNEN Es konnten nur für ein Drittel der ML-Publikationen auch bei der Audioverarbeitung (2 %) deutlich geringer ausfällt und ML-Anwendungsbereiche bestimmt werden. Dies kann zum insgesamt eine niedrigere Dynamik aufweist. Die deutsche einen methodische Gründe haben, so ist eine eindeutige Forschung folgt diesem Trend, adressiert jedoch überdurch- Abgrenzung der Anwendungsbereiche schwierig. Zum schnittlich stark die Bild- und Videoverarbeitung (52 %). anderen muss davon ausgegangen werden, dass viele Neben der Bild- und Videoverarbeitung fokussieren die USA Forscherinnen und Forscher zu ML publizieren, ohne konkrete und China vergleichsweise stärker die Sprachverarbeitung Anwendungsbereiche zu adressieren. Unternehmen stellen (23 %) als Deutschland. stärkere Bezüge zu den definierten Anwendungsbereichen her als etwa Hochschulen oder Forschungseinrichtungen. 2.2 Patente Die internationale ML-Forschung adressiert insbesondere das Patente sind ein wertvoller Indikator, um die technologische Anwendungsfeld »Bild- und Videoverarbeitung« (51 %). Leistungsfähigkeit von Forschungseinrichtungen, Unter­ Daneben stellen die maschinelle Sprachverarbeitung (22 %) nehmen, Regionen oder Ländern nachzuvollziehen und Tech- und die Signalverarbeitung (12 %) wichtige Anwendungs- nologietrends abzuleiten. Untersuchungen zeigen, dass sich bereiche dar. In diesem Zusammenhang sei daran erinnert, die Patentierbarkeit von ML-Techniken in den verschiedenen dass bei der Sprach- und Bildverarbeitung bislang die Patentsystemen stark unterscheidet.20 Die Espacenet-Patent­ größten Erfolge mit Deep Learning erzielt wurden. Besonders datenbank des Europäischen Patentamts b ­ ildet die Grundlage auffällig sind die unterschiedlichen Forschungsschwerpunkte für die hier verwendete statistische A ­ nalyse von Patentfami- bei wissenschaftlichen Fachzeitschriften im Vergleich zu lien.21 Insgesamt kann für die Ent­wicklung von Patentanmel- Konferenzbeiträgen. Forscher aus den USA und Deutschland dungen ein stetiges Wachstum konstatiert werden. So sind veröffentlichten vergleichsweise mehr Publikationen zu die weltweiten Patentanmeldungen für ML-Technologien Sprach- und Signalverarbeitung in Konferenzbeiträgen als in von 487 Patentfamilien in 2006 auf 1258 Patentfamilien in Fachzeitschriften. 2015 angestiegen. Die Patentdynamik im Bereich ML folgt dem weltweiten Trend: so stiegen die Patentfamilien über alle International nimmt das Publikationsaufkommen bei der Technologiefelder von 901 973 in 2006 auf 1,55 Mio. in 2015 Sprach- und Signalverarbeitung seit 2011 stark zu, während es kontinuierlich an.22 Abbildung 7: Entwicklung der Patentfamilien zu ML-Technologie nach Ländern, 2006-2015 1,000 800 600 400 200 0 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015 DE FR US CN KR JP übrige Quelle: EPO; Fraunhofer IMW; eigene Berechnungen 20 Neuhäusler et al. 2015. 21 Patentfamilien setzen sich aus einer oder mehreren nationalen oder internationalen Patentanmeldungen zusammen und schützen die gleiche tech- nologische Erfindung in unterschiedlichen Patentsystemen. Analog zum oben skizzierten Ansatz für die Publikationen wurden auch hier die Felder Titel und Zusammenfassung der Datenbankeinträge semantisch durchsucht. Die Suche beschränkte sich auf Patentfamilien im Zeitraum 2006-2015. 22 WIPO statistics database. Letzte Aktualisierung: Dezember 2017. 20  A kteure und K ompetenzlandschaft Die meisten Patentfamilien werden von Organisationen Automobil-, Maschinen- und Anlagenbau, sowie der che- aus den USA, China und Südkorea angemeldet. Diese drei mischen und pharmazeutischen Industrie, so dass potenziell Länder vereinen auf sich insgesamt über 75 % der weltweiten weniger deutsche Unternehmen ML-Technologien zum Patent Patentfamilienanmeldungen im Bereich ML. Die Patentstatistik anmelden als die Hauptwett­bewerber aus den USA oder aus wird von den Unternehmen Microsoft, IBM, Google, Amazon, Ostasien. Cisco, Qualcomm (USA) sowie Samsung, Korea Electronics Telecomm (Südkorea), Huawei und ZTE (China) angeführt. ML- In absoluten Zahlen sind die patentstärksten Regionen in Techniken sind eine bedeutende Grundlage für die Entwicklung Deutschland wie bei den Publikationen Bayern und Baden- von ­Maschinen mit sogenannten »cognitive computing«- Württemberg, gefolgt von Nordrhein-Westfalen und Hessen. Fähigkeiten. Aus diesem Grund investieren Firmen in ML- Unter den 20 führenden ML-Patentanmeldern finden sich Techniken bzw. kaufen entsprechende ­Start-up-­­Unternehmen überwiegend Unternehmen. auf. Auffallend ist, dass in Südkorea und China die Hochschulen und Forschungseinrichtungen zu den aktivsten Patentanmel- ML-bezogene Patentfamilien konnten für 75 Unterneh- dern gehören, während in den USA und Deutschland fast men identifiziert werden, davon 56 Großunternehmen ausschließlich Unternehmen in der ML-Patentstatistik vertreten (> 249 Mitarbeitende), allen voran Siemens AG, gefolgt von sind. Die Unterscheidung zwischen akademischen und unter- Robert Bosch GmbH, Deutsche Telekom AG, Daimler AG, nehmerischen Patenten erlaubt teilweise Rückschlüsse auf die BMW AG und SAP SE, 15 kleine und Kleinstunternehmen Reife der patentierten Techniken. (< 49 Mitarbeitende), aber lediglich 4 mittlere Unternehmen (49-249 Mitarbeitende). Insbesondere stechen die Branchen Die Patentdynamik deutscher Akteure ist kaum vergleichbar Gesundheit, Mobilität, industrielle Produktion sowie Informa- mit den Hauptwettbewerbern USA, China oder Südkorea: die tions- und Kommunikationstechnik hervor. An dieser Stelle sei Zahl deutscher Patentfamilien ist von 21 im Jahr 2006 auf 36 erneut auf die eingeschränkte Patentierbarkeit von Software im Jahr 2015 angestiegen. Die Ergebnisse müssen im Kontext bzw. computerimplementierten Erfindungen hingewiesen. der Wirtschaftsstruktur der untersuchten Länder interpretiert Des Weiteren werden keine Unternehmen erfasst, die ML- werden. So liegen die Stärken der deutschen Wirtschaft im Technologien nutzen, aber nicht selbst entwickeln. Tabelle 6: Führende Einrichtungen nach Patentierung in ML-Anwendungsbereichen, 2006-2015 Bild- und Videoverarbeitung Audioverarbeitung Sprachverarbeitung Signalverarbeitung 1. Microsoft Corp. (USA) 1. University of Korea (Südkorea) 1. Microsoft Corp. (USA) 1. Sensormatic Electronics (USA) 2. Samsung Group (Südkorea) 2. Amazon Inc. (USA) 2. IBM Corp. (USA) 2. Microsoft Corp. (USA) 3. Siemens AG (Deutschland) 3. Samsung Group (Südkorea) 3. Korea Electronics Telecomm 3. Robert Bosch GmbH 4. Sony Corp. (Japan) 4. Inha-Industry Partnership (Südkorea) (Deutschland) 5. Chinese Academy of Sciences Institute (Südkorea) 4. Yahoo Inc. (USA) 4. Hyundai Motor Co. Ltd (China) 5. IBM Corp.(USA) 5. Google Inc. (USA) (Südkorea) 5. IBM Corp. (USA) Tabelle 7: Führende Einrichtungen ML-Anwendungsbereiche in Deutschland, 2006-2015 Bild- und Videoverarbeitung Audioverarbeitung Sprachverarbeitung Signalverarbeitung 1. Siemens AG 1. Nero AG 1. Deutsche Telekom AG 1. Robert Bosch GmbH 2. Robert Bosch GmbH 2. Schäffler AG 2. Siemens AG 2. Siemens AG 3. Sanofi-Aventis Deutschland 3. Fraunhofer-Gesellschaft 3. Audi AG 3. Balluff GmbH GmbH 4. TU Dresden 4. Becker Automotive Systems 4. Brainlab AG 4. Beckhoff Automation GmbH 5. Siemens AG GmbH 5. Hartmann AG 5. Daimler AG 5. EXB Asset Mgt. GmbH 21 MASCHINELLES LERNEN Abbildung 8: Anzahl der deutschen Unternehmen mit ­Patentaktivitäten Aus Deutschland werden insbesondere ML-Techniken für die Bild- und Videoverarbeitung (31 %), Signal­ verarbeitung (13 %) und Sprachverarbeitung (6 %) durch 15 Patente geschützt. Führend sind eindeutig die USA mit 1 486 Patentfamilien. Der Fokus liegt hier ebenfalls auf der Bild- und V ­ ideoverarbeitung (20 %) und der Sprachverarbei- 4 tung (16 %). Die Daten für China zeigen, dass die Anbieter einen starken Schwerpunkt auf »Bild- und Videoverarbei- tung« (19 %) legen, gefolgt von der »­Audioverarbeitung« Großunternehmen 56 (7 %). Die Sprach- und Signalverarbeitung spielt für Mittlere Unternehmen chinesische Hersteller eine untergeordnete Rolle. Für Süd- Kleine Unternehmen korea kann eine ähnliche Entwicklung festgehalten werden: so werden dort vorwiegend Erfindungen zur Bild- und Videoverarbeitung (18 %) und Audioverarbeitung (18 %) Ähnlich wie bei der Publikationsanalyse zeigt sich, dass der zum Patent angemeldet. Aus Japan werden insbesondere ML-Anwendungsbereich »Bild- und Sprachverarbeitung« ML-Techniken für die Bild- und Videoverarbeitung (31 %) überproportional stark patentiert wird. Außerdem entfällt und die Sprachverarbeitung (15 %) durch Patente geschützt. nahezu die Hälfte der ML-Anwendungen auf die Kategorie Entgegen dem Patentverhalten der asiatischen Länder ist in »heterogene Daten«, also auf die Kombination von zwei Deutschland und den USA auch die Signalverarbeitung von oder mehr Datentypen, die ebenfalls Sprach- und Bilddaten Bedeutung. umfassen können. Abbildung 9: Entwicklung der Patentfamilien für ML-Anwendungsbereiche, 2006-2015 800 600 400 200 0 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015 Bild Sprache Audio Signal heterogene Daten Quelle: EPO; Fraunhofer IMW; eigene Berechnungen 22  A kteure und K ompetenzlandschaft Tabelle 8: ML-Patentfamilien nach Anwendungsbereichen, 2006-2015 Bild- und Video­ Audioverarbeitung Sprachverarbeitung Signalverarbeitung Heterogene Daten verarbeitung Welt 932 64 602 310 2141 23 % 2% 15 % 8% 53 % Deutschland 43 4 9 18 66 31 % 3% 6% 13 % 47 % USA 298 14 241 147 789 20 % 1% 16 % 10 % 53 % China 140 56 8 20 530 19 % 7% 1% 3% 70 % Südkorea 145 20 143 41 437 18 % 3% 18 % 5% 56 % Japan 75 2 35 12 116 31 % 1% 15 % 5% 48 % 23 MASCHINELLES LERNEN 3 MÄRKTE UND BRANCHEN Fortschritte in der Computertechnologie, der rasante Der jährliche Gesamtumsatz für Deep-Learning-Software, Anstieg der verfügbaren Datenmengen und die wachsenden -Dienstleistungen und -Hardware soll von 3,3 Mrd US-Dollar neuen Möglichkeiten, die sich durch ML eröffnen, haben im Jahr 2016 auf 160 Mrd US-Dollar im Jahr 2025 bei einer inzwischen einen enormen globalen Wettbewerb um die jährlichen Wachstumsrate von 54 Prozent steigen. Weiterentwicklung intelligenter Systeme und Anwendungen entfacht. Führende internationale Hochtechnologieunter- Wie bei vielen Softwaretechniken fand die Einführung von nehmen investieren deshalb zunehmend in die Forschung ML-Produkten in den ersten Jahren überwiegend in Nordame- und Entwicklung von ML-Verfahren, die schnellere, präzisere rika statt, bevor sie im Rest der Welt zur Anwendung kamen. und effizientere Ergebnisse bei der Analyse großer Mengen Die höchsten Wachstumsraten finden sich gemäß den Progno- heterogener und komplexer Daten liefern und innovative sen vor allem im ostasiatischen Raum.26 Die globalen Vor­reiter Anwendungen insbesondere auf den Gebieten der Bild- und auf dem heutigen ML-Markt sind führende Technologie­ Objekterkennung, Verarbeitung natürlicher Sprache und der unternehmen aus den USA (vor allem Amazon, Facebook, intelligenten Robotersteuerung ermöglichen. Google, IBM, Intel, Microsoft, NVIDIA, Tesla) und China (vor allem Baidu, Alibaba, Tencent). Diese Akteure haben einen 3.1 Techniken in der Anwendung begünstigten Zugang zu massiven Mengen an Lerndaten und entsprechender Hardware, bauen Forschungsgruppen für ML-Unternehmen spezialisieren sich auf die Entwicklung Künstliche Intelligenz und Deep Learning auf und nutzen für von ML-Software und -Plattformen, bieten Cloud-basierte das Training ML-Algorithmen auf eigenen ML-Plattformen.27 ­ML-as-a-service-Lösungen an und entwickeln ML-angereicher- te Produkte und Dienste für fast alle Branchen.23 In den kom- Demgegenüber verfügen kleinere Anbieter und Start-ups über menden Jahren entsteht verschiedenen Prognosen zufolge ein geringere Ressourcen. Als vertikale Akteure entwickeln sie auf großer internationaler Markt für ML-basierte Produkte und Open-Source-Frameworks spezialisierte Produkte orientiert Dienstleistungen, die insbesondere datenintensive Bereiche an bestimmten Problemstellungen oder einzelnen Branchen. mit hohem Automatisierungspotenzial wie Transport, Gesund- Beispiele hierfür sind die Verwaltung von Kreditverträgen für heitswesen, Energie und industrielle Fertigung transformieren die Finanzindustrie28, Big Data Analytics für Beratungsunter- werden.24 nehmen und Managed-Services-Anbieter29, Sprachassistenten für das Autofahren30 oder Deep Learning für industrielle Unter den ML-Techniken steht das Deep Learning im Anwendungen.31 Mittelpunkt vieler Anwendungsszenarien. Die weltweiten Einnahmen aus Software für Deep Learning werden den Das weltweite Gesamtvolumen an Investitionen in Deep- Prognosen von Tractica25 zufolge von 654,9 Mio US-Dollar Learning-Start-ups belief sich einer aktuellen Studie von Clip- (2016) auf 34,9 Mrd US-Dollar (bis 2025) ansteigen und perton zufolge im Jahr 2016 auf 594 Mio Euro. Nach London im Jahr 2025 57 % des gesamten KI-Marktes ausmachen. ist Berlin das zweitgrößte Zentrum für KI-Start-ups in Europa, 23 Nach Böttcher et al. 2017 24 Austin und Krensky 2017; Gartner 2017 25 Groopman und Kaul 2017 26 Groopman und Kaul 2017 27 Z. B. Microsoft Azure, IBM Watson, Amazon Web Services. 28 https://leverton.de/ (zuletzt geprüft am 20.02.2018) 29 http://www.panoratio.com (zuletzt geprüft am 20.02.2018) 30 https://www.hellochris.ai/ (zuletzt geprüft am 20.02.2018) 31 https://www.twentybn.com/ (zuletzt geprüft am 20.02.2018) 24  M ärkte und B ranchen über 50 Unternehmen haben in der deutschen Hauptstadt ihren Das Gesundheitswesen stellt eine der zentralen Anwendungs- Sitz. Die international begrenzte Verfügbarkeit von KI-Talenten branchen für ML dar. Hier wird vor allem das Deep Learning und -Know-how spiegelt sich in der hohen Akquisitionsaktivität zur Analyse von medizinischen Bildern (MRT, CT, Röntgen) der Hochtechnologieunternehmen wider. Damit versuchen und anderen komplexen, unstrukturierten Daten eingesetzt. sie, Start-ups bereits in einem frühen Entwicklungsstadium zu Weitere Einsatzbeispiele sind die effiziente Verwaltung von erwerben, bevor sie erfolgreiche Geschäftsmodelle mit ihren Patientendaten und die derzeit meist noch prototypischen Produkten auf dem Markt platzieren können. 32 Systeme zur Entscheidungsunterstützung bei der klinischen Diagnostik sowie Anwendungen in der Radiologie, Pathologie Die deutsche ML-Unternehmenslandschaft ist heterogen und und Dermatologie. Derzeit erlauben ML-Techniken schon, fragmentiert, aufgeteilt in Dienstleister, Software- und Tool- Brustkrebs, Herzerkrankungen, Osteoporose und erste Anbieter wie SAP als große Akteur sowie Kleinstunternehmen Anzeichen von Hautkrebs zu identifizieren. Zukünftig werden und Start-ups, die einzelne industriespezifische Nischen Systeme zur frühzeitigen Erkennung und Prävention von adressieren. Maschinelles Lernen findet sich darüber hinaus als Pandemien erwartet, ebenso wie kollaborative Service­ Thema in den Unternehmensstrategien großer Technologie­ roboter33 zum Beispiel für die Pflegeunterstützung.34 Umset- unternehmen, die ML- und KI-basierte Techniken in eigenen zungsherausforderungen im medizinischen Bereich liegen FuE-Abteilungen und Forschungsgruppen weiterentwickeln und insbesondere in der datenschutzrechtlichen Regulierung bei in eigene Produkte oder Prozesse integrieren (u. a. Siemens, der Nutzung von Patientendaten, der Transparenz der Systeme Daimler, Bosch, VW, Audi). Der deutsche Mittelstand ist unter sowie der Anwenderakzeptanz. Für das Jahr 2025 wird für den Anbietern und Entwicklern hingegen gering vertreten. Die Anwendungen von Deep Learning im Gesundheitswesen ein konsultierten ML-Fachleute wiesen darauf hin, dass die Ursachen Umsatzvolumen von 3 Mrd ­US-Dollar prognostiziert.35 hierfür weniger in einer grundsätzlich fehlenden Bereitschaft liegen, sondern eher an vorhandenen Unsicherheiten, dem Auch im Kontext von Industrie 4.0 und der Digitalisierung Bedarf an zielgerichteten fachlichen Kompetenzen und einem der Produktion bietet ML reichlich Potenzial in der Automati- unzureichenden Zugang zu Daten, der für ML essenziell ist. sierung von Produktionsprozessen und in der Industrierobotik, insbesondere im Bereich der Bild- und Videoverarbeitung und 3.2 Anwendungsbranchen und Produkte Handlungsplanung. Hinzu kommen neue Geschäftsmodelle durch die Analyse von Industriedaten und darauf basierende Maschinelles Lernen hat den Interviewaussagen zufolge das Dienstleistungen im Service-Bereich: Monitoring, Analysen Potenzial, beinahe in allen Branchen erfolgreich kommerziell und Prognosen, zum Beispiel für die präventive Wartung, eingesetzt zu werden. In Deutschland wurden die ersten die Prozess-, Logistik- und Energieoptimierung sowie das Produkte bereits Anfang der 1990er Jahre entwickelt, Qualitätsmanagement. darunter auch tiefe Neuronale Netze für industrielle Anwen- dungen. Zentrale Anwendungsfelder sind heute vor allem Bis 2030 wird eine Vervielfachung der Umsätze durch die Bild- bzw. Videoanalyse sowie die Sprachverarbeitung. KI-gestützte Optimierung von Produktivität, Qualität und Als einen bedeutenden Trend nennen die Fachleute den Personalisierung prognostiziert. Es wird erwartet, dass sich Einsatz von Wissensgraphen, zum Beispiel in der Medizin. dies vor allem in den Bereichen Produktion und Transport Neben Automobilindustrie, Maschinen- und Anlagenbau ­niederschlägt. Durch Effizienzgewinne wie Automatisierung sowie Finanzdienstleistungen werden Gesundheitswesen, und Unterstützung von Arbeitskräften wird eine globale Telekommunikation, Landwirtschaft, Kundendienst, Konsum- Produktivitätssteigerung von 55 % im Zeitraum von 2017 elektronik und intelligente Umgebungen (Smart Home) sowie bis 2030 vorhergesagt.36 Der jährliche Umsatz für Anwendun- Verteidigung, zivile Sicherheit und die öffentliche Verwaltung gen des Deep Learning in der industriellen Fertigung wird im als zukunftsweisend betrachtet. Jahr 2025 global 762 Mio US-Dollar erreichen.37 32 Valorge et al. 2017 33 Kollaborative Roboter, oder Koboter übernehmen zunehmend komplexere Aufgaben, die in Kooperation mit Menschen durchgeführt werden k­ önnen. 34 Rao und Verweij 2017 35 Groopman und Kaul 2017, Groopman und Wheelock 2017, Sahi und Kaul 2017 36 PwC 2017 37 Groopman und Kaul 2017 25 MASCHINELLES LERNEN Abbildung 10: Anwendungsbranchen für Maschinelles Lernen34 MARKETING, HANDEL, E-COMMERCE KONSUMELEKTRONIK GESUNDHEITSWESEN UND MEDIZIN* BANKVERKEHR, FINANZDIENSTLEISTUNGEN UND VERSICHERUNGEN TRANSPORT UND MOBILITÄT, LOGISTIK GESCHÄFTSDIENSTLEITUNGEN, KUNDENDIENST MEDIEN- UND UNTERHALTUNG LANDWIRTSCHAFT* l nzia TELEKOMMUNIKATION International umsatzstarke Anwendungsbranchen PRODUKTION UND INDUSTRIE 4.0* pote für ML, davon: SICHERHEIT UND VERTEIDIGUNG at z ENERGIE UND ÖKOSYSTEME ms Branchen mit großer Bedeutung für den U ÖFFENTLICHE VERWALTUNG UND deutschen Markt, und tes INFRASTRUKTUR* hätz BILDUNG UND FORSCHUNG *Branchen, in denen ML-Anwendungen stärker öffentlich durch Förderung bzw. Gesc RECHT Anpassung der Rahmenbedingungen COMPUTERSPIELE unterstützt werden sollen. 38 In der Robotik besteht die größte Herausforderung derzeit übernehmen und Kollisionen verhindern. Auch auf zukünftige ­darin, in Robotern Adaptionsmechanismen zu ­implementieren, Sharing-Konzepte mit autonomen Fahrzeugen und deren damit sie mit ihrer Umgebung und den Menschen in einer Management wird sich ML maßgeblich auswirken.41 Weitere sicheren, anpassungsfähigen und flexiblen Art und Weise Funktionalitäten ermöglichen das Kolonnenfahren, prädiktive interagieren.39 Die Fortschritte beim Deep Learning könnten in Wartung, die Überwachung des Fahrzeug- und Fahrerzustandes diesem Kontext entscheidende Vor