Beängstigend beeindruckend, aber nicht beeindruckend gut

ChatGPT steht für »Chatbot Generative Pre-trained Transformer« und ist ein textbasiertes Dialogsystem, das auf KI basiert und von der US-amerikanischen, auf KI spezialisierten Organisation OpenAI entwickelt wurde. Das KI-System antwortet auf textbasierte Fragen oder Arbeitsaufträge, sogenannte Prompts, und kann komplexe Sachverhalte zu jedem denkbaren Thema einfach erklären. Ein Chatbot ist ein Sprachmodell, dass sich mit Menschen in natürlicher Sprache unterhalten, Texte in verschiedenen Sprachen schreiben und umformulieren kann. Er versteht Fragen und liefert in rasanter Geschwindigkeit Antworten in geschliffenem Deutsch. So lassen sich ohne viel Aufwand leicht Zusammenfassungen, Dankesschreiben und Begrüßungsreden, Gedichte und Artikel bis zu Hausaufgaben und Seminararbeiten sowie Referate und auch Lösungen im Mathematikbereich herstellen. Ebenso kann er Codes in vielen Programmiersprachen generieren. Millionen von Menschen haben sich seit der Veröffentlichung im November 2022 in der freien Version registriert und den Chatbot getestet. Durch das riesige Interesse an dem KI-Tool wird es ständig weiterentwickelt. Seit März 2023 gibt es eine neue kostenpflichtige Version von ChatGPT, die auch Bilder interpretieren kann.

ChatGPT wurde mit Millionen von Texten aus dem Internet, aus sozialen Medien, Zeitungsartikeln, Büchern und wissenschaftlichen Aufsätzen trainiert, die das Programm dank künstlicher Intelligenz verarbeitet. ChatGPT hatte nur fünf Tage nach seinem Start eine Million Nutzer*innen. Facebook oder Instagram haben für solche Zahlen Monate gebraucht. Chat­GPT ist beängstigend beeindruckend, aber nicht beeindruckend gut. Neben vielen richtigen Beiträgen, produziert er auch viel Unsinn und verbreitet Fake News.

Bisher unbeantwortete Fragen

Was genau ist ChatGPT und wie funktionieren textgenerierende KI-Anwendungen? Geben wir unsere digitale Souveränität ab, wenn wir ChatGPT nutzen? Welche Auswirkungen haben diese Entwicklungen des Technokapitalismus für unsere Gesellschaft und unser alltägliches Leben?

Wie verändert KI das Arbeitsleben? Welche Chancen und Risiken ergeben sich aus den neuen KI-Anwendungen für die Schule? Dürfen KI-Anwendungen im Unterricht eingesetzt werden? Wie wird der Einsatz von KI den Unterricht und das Lernen verändern? Welche rechtlichen Rahmenbedingungen gelten? Haben Lehrkräfte für ihre originären Tätigkeiten einen Nutzen beim Einsatz von ChatGPT? Welche neuen Kompetenzen erfordern KI-Anwendungen von Schüler*innen und Lehrer*innen? Wie können Lehrkräfte unterstützt werden, eine gute Balance bei der Nutzung von KI im Unterricht zu finden? Hinzu kommt die zentrale Frage, wie künftig eine Leistung bewertet werden soll, die mithilfe von KI entstanden ist.

Zu all diesen Fragen müssen sich die zuständigen Bildungsverwaltungen der Länder sowie die Kultusministerkonferenz (KMK) zeitnah Antworten überlegen. Schon jetzt lässt sich mit ziemlicher Sicherheit feststellen, dass digitale Antwort- und Gesprächsmaschinen wie Chat­GPT in naher Zukunft zu einem integralen Bestandteil unseres gesellschaftlichen Alltags werden. Nach Aussage des Bundesarbeitsministers Hubertus Heil wird es ab dem Jahr 2035 keinen Job mehr geben, der nicht mit KI zu tun hat. Die Entwicklung im Bereich der KI ist atemberaubend. Microsoft und Google liefern sich aktuell ein regelrechtes KI-Wettrennen. In Schulen und Hochschulen wird der Chatbot gravierende Auswirkungen haben.

KI und Algorithmen sind aktuell in vielen Anwendungen bereits integriert und längst fester Bestandteil unseres Alltags geworden, auch wenn wir uns dessen nicht immer bewusst sind. Wenn uns zum Beispiel Suchmaschinen, abhängig von unserem bisherigen Onlineverhalten, bestimmte Ergebnisse liefern, Sprachassistenten unsere Musikwünsche erfüllen oder Navigationssysteme uns dabei unterstützen, Staus zu umfahren und schnell ans gewünschte Ziel zu kommen, steht letztlich immer eine KI dahinter. Daher ist es im digitalen Zeitalter zwingend erforderlich, dass Menschen sich vom Kindesalter eine umfassende Medienkompetenz aneignen.

Das Wissen um die Funktionsweise von KI und die Auseinandersetzung mit deren Potentialen und Risiken trägt dazu bei, dass man sie besser einschätzen sowie angemessen und kompetent nutzen kann. Kontinuierliche Fortbildung ist daher zwingend notwendig.

Es gilt bei ChatGPT, wie bei jeder neuen technischen Entwicklung, zwischen Potentiale und Risiken abzuwägen.

Potentiale des Einsatzes von ChatGPT

Eine blitzschnelle Recherche zu allen denkbaren Themen ist möglich. Die vorhandene Datenbasis ist um vieles größer, als es eine menschliche Recherche jemals leisten könnte. Nachfragen sind möglich, denn ChatGPT verfügt über eine Art digitales Kurzzeitgedächtnis und kann daher Bezüge zu früheren Chat-Eingaben erkennen. ChatGPT kann im Unterricht eingesetzt werden, ob für Zusammenfassungen oder Übersetzungen, um Arbeitsanweisungen und Texte mit unterschiedlichen Niveaustufen für die Binnendifferenzierung zu erstellen, um Ergebnisse von ChatGPT mithilfe anderer Quellen zu recherchieren und kritisch zu prüfen sowie für ein persönliches schnelles Feedback zu den Arbeitsergebnissen der Schüler­*innen mit anschließenden neuen Lernaufgaben. Darüber hinaus kann ChatGPT für lernschwache Schüler­*innen als Lerncoach eingesetzt werden, der geduldig viele Fragen beantwortet.

Risiken des Einsatzes von ChatGPT

ChatGPT mischt immer wieder Fake News unter die Mehrzahl der richtigen Antworten. Die Informationsqualität hängt entscheidend von den Trainingsdatensätzen ab, dabei können auch rassistische oder sexistische Datensätze auftauchen. Die Ergebnisse beziehen sich auf den Datenbestand von 2021. Es generiert nichts Neues, sondern bezieht sich auf Vergangenes. Vom Überfall der Ukraine durch Russland hat die aktuelle Version von ChatGPT noch nie etwas gehört. Bei der Herstellungsmethodik von ChatGPT handelt es sich sowohl bei Texten als auch bei Bildern, in vielen Fällen um Diebstahl geistigen Eigentums. Die Bewertung der Informationen von ChatGPT setzt Wissen und Kompetenzen der Nutzer*innen voraus. Es besteht die Gefahr des Betrugs, wenn KI als eigene Leistung ausgewiesen wird. ChatGPT kann weder kontextualisieren, noch hat es eine eigene Kompetenz. Eine Qualitätskontrolle der Ergebnisse findet nicht statt. Darüber hinaus liefert ChatGPT keine Quellenangaben. Aus datenschutzrechtlicher Sicht muss geklärt werden, worauf sich die riesige Datensammlung stützt, welche personenbezogenen Daten verwendet wurden und wie Nutzer*innendaten vor der Verwertung durch die großen Digital- und Onlinefirmen geschützt werden können. KI stammt aktuell zu über zwei Dritteln aus den USA und China und sie sind ohne Rücksicht auf europäische Werte sowie Datenschutz- und Transparenzvorschriften entwickelt worden.

Reflexion von KI gehört in die Schulbildung

Transparenz über die Herkunft der generierten Texte und klare Regeln, wie im Bereich Datenschutz und Urheberrecht sowie Quellennachweise, sind daher dringend notwendig. ChatGPT ist kein Ersatz für menschlichen Sachverstand und kritisches Denken.

Lehrkräfte sollten ChatGPT erst einmal selbst austesten und mögliche Anwendungsmöglichkeiten im Kollegium diskutieren, bevor ChatGPT unreflektiert im Unterricht eingesetzt wird. Unterstützung finden die Lehrkräfte in der von SenBJF veröffentlichten Broschüre »Empfehlungen für den Umgang mit KI-Anwendungen am Beispiel von ChatGPT«. Dort wird explizit gesagt, dass Künstliche Intelligenz aktiv im Schulunterricht behandelt werden sollte, um Schüler*innen zu einem verantwortungsvollen Umgang mit dieser neuen Technologie zu befähigen. Denn es ist vollkommen klar, dass sich die jetzige Schüler*innengeneration künftig regelmäßig auf neue KI-Anwendungen einstellen muss. Auch aus Gründen der Chancengleichheit sollte die kritische Reflektion mit dieser neuen Technik für alle Schüler­*innen in der Schule erfolgen.

Kostenfrei ausprobieren lässt sich ChatGPT über die Website von OpenAI. Dazu muss man sich mit seiner E-Mail-Adresse registrieren. Auf der Seite chat.openai.com tippen Nutzer*innen dann in ein Textfeld und der Bot antwortet binnen Sekunden.