ChatGPT: Chancen und Herausforderungen (PDF)

Sachinformation ChatGPT – Chancen und Herausforderungen Künstliche Intelligenz (KI) ist ein großes Thema unserer Zeit. KI-Anwendungen sind bereits seit ei- niger Zeit in unterschiedlichen Bereichen eingesetzt, beispielsweise in der Medizin, in Büro-An- wendungen oder in der Industrie. Mit ChatGPT i...

Sachinformation ChatGPT – Chancen und Herausforderungen Künstliche Intelligenz (KI) ist ein großes Thema unserer Zeit. KI-Anwendungen sind bereits seit ei- niger Zeit in unterschiedlichen Bereichen eingesetzt, beispielsweise in der Medizin, in Büro-An- wendungen oder in der Industrie. Mit ChatGPT ist der Begriff KI mehr in den öffentlichen Fokus ge- rückt. Nie zuvor war ein Programm so gut darin, menschenähnliche Konversationen zu führen. Da- bei entstehen wie bei allen neuen Technologien und Anwendungen auch bei ChatGPT sowohl Chancen als auch Herausforderungen, die im Folgenden erläutert werden. Chancen  Entlastung und Unterstützung ChatGPT besitzt ein breites Anwendungsspektrum und kann an vielen Stellen eine Erleich- terung für Nutzerinnen und Nutzer sein. Der Chatbot kann Menschen z. B. dabei unterstüt- zen, lange, komplexe Texte zu schreiben, zu übersetzen und zu vereinfachen, aber auch Inhalte für Webseiten zu erstellen sowie Software zu programmieren. Vor allem Branchen, die unter Fachkräftemangel leiden, könnten durch die Übernahme von Routineaufgaben durch KI-Anwendungen einfachere Tätigkeiten auslagern. Im Bildungsbereich entsteht die Möglichkeit, dass Lehrkräfte bei Routineaufgaben entlastet werden, indem z. B. Texte für unterschiedliche Niveaustufen aufbereitet oder sogar ganze Unterrichtsstunden konzipiert werden. So können Lehrkräfte ihren Fokus stärker auf die direkte Arbeit mit den Schülerin- nen und Schülern setzten.1 Darüber hinaus kann ChatGPT durch seine Funktionen für die Schülerinnen und Schüler als „Lernpartner“ fungieren sowie als Hausaufgabenhilfe dienen. 1Karnahl, Julia: „Künstliche Intelligenz. Chancen und Risiken von ChatGPT“, URL: https://www.mitmi- schen.de/bundestag-aktuell/news/chancen-und-risiken-von-chatgpt (zuletzt abgerufen am 06.11.2024). Bayerisches Staatsministerium für Unterricht und Kultus: „Was können KI-Textgeneratoren leisten?“ URL: https://www.km.bayern.de/schule-digital/orientierungsrahmen-ki-und-schule.html (zuletzt abgerufen am 06.11.2024). © Siemens Stiftung 2024. Inhalt lizenziert unter CC BY-SA 4.0 international Seite 1 von 5 Sachinformation  Zugänglichkeit Des Weiteren können durch den einfachen Zugang zu Informationen und durch die schnelle Übersetzung in einfache Sprache Sprachbarrieren abgebaut und so die Inklusion verbessert werden.2 Dabei können beispielsweise Menschen mit Beeinträchtigungen wie Hör- oder Sehbeeinträchtigungen oder kognitiven Einschränkungen in der Kommunikation unterstützt werden. Ihnen kann eine barrierefreie Verständigung geboten werden, die es ihnen ermöglicht, auf eine Weise zu interagieren, die ihren Bedürfnissen entspricht.  Verfügbarkeit Ein weiterer Vorteil von Chatbots wie ChatGPT besteht darin, dass sie zu jeder Zeit genutzt werden können, um Fragen zu beantworten, wenn Unterstützung benötigt wird oder um sich einfach nur mit den KI-Anwendungen „auszutauschen“. Die ständige Verfügbarkeit bie- tet Flexibilität und Komfort. Unternehmen ermöglicht dies beispielsweise, ihren Kundenser- vice kosteneffizient zu verbessern, indem sie den Kundensupport rund um die Uhr anbieten können, ohne dass eine Vielzahl von Mitarbeitern benötigt wird.  Effizienz Ebenso sind KI-Anwendungen schneller im Lösen und Erstellen von Aufgaben als ein Mensch, da sie wiederkehrende Aufgaben automatisieren. Dadurch können Zeit und Res- sourcen gespart werden, sodass Mitarbeiterinnen und Mitarbeiter von solchen Aufgaben entlastet und ihre Kapazitäten für komplexere Aufgaben genutzt werden können. Auch der Zugang zu Chatbots ist in den meisten Fällen schnell und unkompliziert.3 Herausforderungen  Datenschutz und Urheberrecht ChatGPT verarbeitet und generiert Texte auf der Grundlage von Benutzereingaben. Chat- GPT antwortet nicht nur auf die Benutzereingabe, sondern verarbeitet und speichert diese auch, um die KI so zu trainieren und zu verbessern. Diese gesammelten Benutzereingaben können jedoch sensible Informationen enthalten wie beispielsweise persönliche Angaben oder Firmengeheimnisse. Durch die Speicherung personenbezogener sowie anderer Daten besteht die Gefahr der Datenschutzverletzung.4 Nach dem deutschen Urheberrechtsgesetz kann nur ein Mensch urheberrechtsfähig sein. Deshalb kann eine KI nicht Urheber eines Werkes sein. Dies gilt selbst dann, wenn eine KI Erzeugnisse, die menschlich geprägte Züge aufweisen, produziert. Auch ein Prompt kann nicht urheberrechtlich geschützt werden. Fragt man ChatGPT, sagt der Chatbot, er sei selbst nicht in der Lage gegen das Urheberrecht zu verstoßen, da die erzeugten Inhalte nicht von ihm selbst erstellt wurden. Nach deutschem Urheberrecht können Rechtsverletzungen bereits beim Input, also bei der Verwendung von geschützten Trainingsdaten geschehen. Auch beim Output sind Urheber- rechtsverletzungen möglich, beispielsweise, wenn das Ergebnis der KI einem geschützten 2 Frankfurter Rundschau: „ChatGPT: Experten betonen Risiken und Chancen“, URL: https://www.fr.de/pano- rama/chatgpt-experten-betonen-risiken-und-chancen-zr-92237988.html (zuletzt abgerufen am 06.11.2024). 3 Online-Karriere-Tag: „ChatGPT: Was sind die Vor- und Nachteile?“ URL: https://online-karriere- tag.de/news/chatgpt-was-sind-die-vor-und-nachteile (zuletzt abgerufen am 06.11.2024). Neue-Tageszeitung: „Hey ChatGPT, was sind deine Vor- und Nachteile?“ URL: https://www.neue.at/start- seite/2023/04/30/hey-chatgpt-was-sind-vorteile-und-nachteile.neue (zuletzt abgerufen am 06.11.2024). 4 Heydata: „Die Rechtslage von ChatGPT“, URL: https://heydata.eu/magazin/die-rechtslage-von-chatgpt (zu- letzt abgerufen am 06.11.2024). © Siemens Stiftung 2024. Inhalt lizenziert unter CC BY-SA 4.0 international Seite 2 von 5 Sachinformation Werk zu ähnlich ist.5 Stellen Benutzerinnen und Benutzer Material von ChatGPT zur Bear- beitung oder Verwendung zur Verfügung, sind diese Benutzerinnen und Benutzer für Urhe- berrechtsverletzungen verantwortlich.6  Missbrauch und Falschinformationen KIs wurden bereits trainiert, >> Captcha-Abfragen geschickt zu umgehen. Dies beweist auch ein Vorfall, bei dem der Chatbot einen Menschen mit einer Lüge überlisten konnte, indem durch eine Ausrede von diesem das >> Captcha für den Chatbot ausgelöst wurde.7 Zudem können Kriminelle mit ChatGPT den Sprachstil von bestimmten Personen oder Gruppen imitieren, sodass sie andere Menschen täuschen und ihr Vertrauen gewinnen können.8 Um solch einen Missbrauch zu vermeiden, gibt es bereits entwickelte Software, die erkennt, ob ein Text von einem Menschen oder von einer KI erstellt wurde. Allerdings können diese Programme nicht immer von einem Computer geschriebene Texte korrekt identifizieren.9 Dadurch besteht die Gefahr, dass Fälschungen von Texten, Videos oder Tonaufnahmen, die sich echt anhören, verwendet werden. Ein Beispiel hierfür, ist die Platt- form Elevenlabs, welche Stimmen anhand einer kurzen Probe täuschend echt künstlich er- zeugen kann.10 Des Weiteren kann es bei KI-Textgeneratoren häufig zu Fehlinformationen kommen. Dies hängt damit zusammen, dass die Textgeneratoren, selbst wenn sie auf keine passenden Daten für eine Antwort zurückgreifen können, eine Antwort geben, die zu- nächst zwar plausibel erscheint, allerdings nachweislich erfunden ist. Dies nennt sich in der KI-Forschung „halluzinieren“.  >> Bias und Vertrauenswürdigkeit Sprachmodelle von KI-Textgeneratoren können auch Vorurteile und Stereotype reproduzie- ren, die in den Trainingsdaten enthalten sind: Die Trainingsdaten wurden von Menschen aus den USA aus dem englischsprachig dominierten Internet ausgesucht. Dadurch ist es möglich, dass bestimmte Werte und Meinungen der westlichen Welt überrepräsentiert sind. Obwohl diese Trainingsdaten von Menschen vorgefiltert, die Trainingsergebnisse auf Gül- tigkeit getestet (validiert) und das resultierende Sprachmodell durch menschliches Feed- back verfeinert werden können, ist es nicht ausgeschlossen, dass ein Sprachmodell vorein- genommene und unverhältnismäßige Abschnitte in seine Antwort mit aufnimmt.11 5 Müller, Peggy: „The future is now: Künstliche Intelligenz und das Urheberrecht“, URL: https://www.haufe.de/recht/weitere-rechtsgebiete/kuenstliche-intelligenz-und-das-urheber- recht_216_588912.html (zuletzt aufgerufen am 06.11.2024). 6 Chip: „ChatGPT und das Urheberrecht: Diese Copyright-Regeln müssen Sie kennen“, URL: https://pra- xistipps.chip.de/chatgpt-und-das-urheberrecht-diese-copyright-regeln-muessen-sie-kennen_155595 (zuletzt abgerufen am 06.11.2024). 7 Chip: „Die KI belügt Menschen: So trickst ChatGPT uns einfach aus“, URL: https://www.chip.de/news/Die- KI-beluegt-Menschen-So-trickst-ChatGPT-uns-einfach-aus_184711147.html (zuletzt abgerufen am 06.11.2024). 8 Haerting: „KI und Copyright – wie hält es ChatGPT mit dem Urheberrecht?“ URL: https://haerting.de/wis- sen/ki-und-copyright-wie-haelt-es-chatgpt-mit-dem-urheberrecht/ (zuletzt abgerufen am 06.11.2024). 9 Heise online: „ChatGPT-Entwickler veröffentlichen Software zur Erkennung maschineller Texte“, URL: https://www.heise.de/news/ChatGPT-Entwickler-veroeffentlichen-Software-zur-Erkennung-maschineller- Texte-7477382.html (zuletzt abgerufen am 06.11.2024). 10 Lobo, Sascha: „KI kann menschliche Verantwortung nicht ersetzen? – Doch!“ URL: https://www.spie- gel.de/netzwelt/netzpolitik/kuenstliche-intelligenz-kolumne-von-sascha-lobo-a-9fbc4869-4ab6-41ad-9959- d60fc5eda4c8 (zuletzt abgerufen am 06.11.2024). 11 Bayerisches Staatsministerium für Unterricht und Kultus: „Orientierungsrahmen Künstliche Intelligenz und Schule - Wo liegen die Grenzen der KI-Textgeneratoren?“ URL: https://www.km.bayern.de/schule-digital/ori- entierungsrahmen-ki-und-schule.html (zuletzt abgerufen am 06.11.2024). © Siemens Stiftung 2024. Inhalt lizenziert unter CC BY-SA 4.0 international Seite 3 von 5 Sachinformation  Gesellschaftliche Spannungen Durch neue Technologien kam es in der Vergangenheit häufig zu Arbeitsplatzveränderun- gen. Die Automatisierung von Kundenservice- und Supportaufgaben durch Chatbots kann zu Jobverlusten in bestimmten Branchen führen. Jedoch kann die Implementierung von KI- Anwendung auch neue Stellen schaffen, die darauf spezialisiert sind mit diesen umzuge- hen. Denkbar ist auch, dass Menschen, die KI-Anwendungen nicht nutzen können oder wollen – beispielsweise, weil sie keinen Zugang haben oder die Nutzung ablehnen –, dadurch Nachteile erleiden und „abgehängt“ werden.  Energieverbrauch Darüber hinaus ist zu bedenken, dass KI-Anwendungen große Rechenleistungen benöti- gen und dabei große Mengen an Energie verbraucht werden. Im Zusammenhang mit der globalen Erwärmung und des voranschreitenden Klimawandels sind energieintensive Tech- nologien, wie etwa KI-Anwendungen, auch aus ökologischer Sicht kritisch zu betrachten.12 Die Zukunft der Sprachmodelle Künstliche Intelligenz verwischt die Grenzen zwischen Mensch und Maschine zunehmend; dies zeigen besonders Sprachmodelle wie ChatGPT. Aber gerade die menschlichen Züge der KI zei- gen auch die Grenzen der Technologie auf: Chatbots können nicht selbstständig denken, weshalb sie besonders bei solchen Aufgaben Schwächen aufweist, für die komplexeres menschliches Ver- ständnis oder Kreativität nötig sind. So kommt es zu Fehlern, Falschinformationen und Vorurteilen, die in den Texten und Daten enthalten sind, an denen die Bots trainiert werden.13 Eine KI ist somit nur so gut und differenziert wie von ihren Entwicklerinnen und Entwicklern vorgesehen. Nichtsdestotrotz weisen Sprachmodelle wie ChatGPT auch großes Potenzial auf: Sie übernehmen einfache Aufgaben, wie beispielsweise die Erstellung von Listen oder Texten sowie die Erstellung von Codes in unterschiedlichen Programmiersprachen. Solche Sprachmodelle sind demzufolge zeitsparend, dienen als Inspirationsquelle oder liefern schnell Antworten auf einfache Fragen.14 Im Zuge der Weiterentwicklung von Künstlicher Intelligenz stellt sich die Frage, welche Bedeutung Sprachmodelle für Lehre und Unterricht haben. Die (richtige) Nutzung von ChatGPT kann Lehr- kräften Zeit sparen, die der Unterrichtsvorbereitung und damit den Schülerinnen und Schülern zu- gutekommt. Denkbar ist eine Verschiebung von Lernzielen: Immer wichtiger wird hierbei die Ver- mittlung von „Informationskompetenz“ im Unterricht. Schülerinnen und Schüler (wie alle Men- schen) müssen lernen, kritisch mit KI-generierten Informationen umzugehen, Chatbot-Ergebnisse zu hinterfragen, Quellen zu bewerten und die gewonnenen Informationen nicht einfach nur zu re- produzieren. Dabei soll ChatGPT die Lernenden unterstützen, ihnen aber nicht den Lernprozess abnehmen.15 12 Golem: „Künstliche Intelligenz boomt – CO2-Fußabdruck ebenfalls“, URL: https://www.go- lem.de/news/klima-kuenstliche-intelligenz-boomt-co2-fussabdruck-ebenfalls-2303-172536.html (zuletzt ab- gerufen am 06.11.2024). 13 Simply Science: „Kann künstliche Intelligenz logisch denken und kreativ sein?“ URL: https://www.simplyscience.ch/teens/wissen/kann-kuenstliche-intelligenz-logisch-denken-und-kreativ-sein (zu- letzt abgerufen am 06.11.2024). 14 Moin.Ai: „ChatGPT: Die 14 wichtigsten Fragen + Antworten“, URL: https://www.moin.ai/chatbot-lexi- kon/chatgpt-chatbot#toc-15 (zuletzt abgerufen am 06.11.2024). 15 Prof. Dr. Spannagel, Christian, Blogbeitrag „ChatGPT und die Zukunft des Lernens: Evolution statt Revo- lution“, URL: https://hochschulforumdigitalisierung.de/chatgpt-und-die-zukunft-des-lernens-evolution-statt- revolution/ (zuletzt abgerufen am 06.11.2024). © Siemens Stiftung 2024. Inhalt lizenziert unter CC BY-SA 4.0 international Seite 4 von 5 Sachinformation Zusammenfassend lässt sich sagen, dass neben dem großen Potenzial, das Sprachmodelle mit sich bringen, ein verantwortungsvoller Umgang und eine kritische Prüfung der Ergebnisse für die Nutzerinnen und Nutzer immer wichtiger werden. Sprachmodelle wie GPT-3.5 oder GPT-4, welche als Basis von ChatGPT dienen, sind vermutlich der Beginn einer umwälzenden Entwicklung. Denn mit der stetigen Verbesserung der Ergebnisqualität wird der Einsatz von KI-Anwendungen immer alltagstauglicher werden. So ist zu erwarten, dass KI unaufhaltsam in immer mehr Bereiche unse- res Lebens einziehen wird. Ein offener wie kritischer Blick auf diese Veränderungen ermöglicht es, KI-Anwendungen im Kontext der (persönlichen) Nutzung zu reflektieren und (für sich selbst) einzu- ordnen. Glossar Bias Bias (engl. Voreingenommenheit, Vorurteil). Im Zusammenhang mit KI ist die Verzerrung bestimm- ter Tatsachen oder Muster gemeint. Beispielsweise wenn die KI vorwiegend Menschen mit weißer Hautfarbe erkennt oder in Bewerbungsverfahren für technische Jobs Frauen benachteiligt. CAPTCHA Der Begriff CAPTCHA ist ein englischsprachiges Akronym für „completely automated public Turing test to tell computers and humans apart”. Captcha-Abfragen Captcha-Abfragen dienen der vollautomatischen Unterscheidung von Computern und Menschen und werden meist bei der Eingabe in Internetformulare verwendet, da diese von Computerpro- grammen oder Bots häufig missbräuchlich ausgefüllt werden. Chat-Bots wie ChatGPT konnten Captcha-Abfragen zum Teil bereits erfolgreich beantworten, weshalb sich die Technologie weiter- entwickelt hat. reCAPTCHA ist eine spezielle Captcha-Variante von Google und nutzt Tests, die im Hintergrund das Verhalten des Nutzers analysieren, um Menschen von Bots zu unterscheiden. Dazu gehören Mausbewegungen, Klickverhalten, Verweildauer und Browserkonfigurationen. Nur wenn Zweifel bestehen, ob der Nutzer ein Mensch ist, erscheint eine sichtbare CAPTCHA-Auf- gabe. © Siemens Stiftung 2024. Inhalt lizenziert unter CC BY-SA 4.0 international Seite 5 von 5