Chatbots im schulischen Unterricht – Chancen und Risiken erkennen und adäquat adressieren

Berlin, 23. Januar 2024. Der im Juni 2020 vorgestellte Chatbot ChatGPT ist ein auf Künstlicher Intelligenz (KI) basierendes Programm, das Texteingaben in natürlicher Sprache versteht und thematisch uneingeschränkt Antworten produziert.

Neben der Beantwortung von Fragen kann die Anwendung Texte zusammenfassen, umschreiben, übersetzen oder eigenständig erstellen. Die generierten Ergebnisse, z.B. Aufsätze, Essays oder Gedichte, besitzen eine hohe Eloquenz und lassen sich kaum von menschlichen Antworten unterscheiden. Der angewendete Algorithmus basiert auf einer automatisierten Datenverarbeitung. Entsprechende IT-Systeme werden mit verfügbaren Daten (Texte, Bücher, Briefe, Wikipedia-Einträge, literarische Textsammlungen) „gefüttert“. Die eigentliche Datenbasis bleibt für den Nutzer intransparent. Die ausgegebenen Informationen können Verzerrungen aufweisen, wenn die eingegebenen „Trainingsdaten implizite Gewichtungen zugunsten oder zuungunsten bestimmter Inhalte oder gesellschaftlicher Gruppen enthalten [. . .]“. Durch erkannte Muster und statistische Wahrscheinlichkeiten generiert das Programm digitale Artefakte, die sich aus der Rekombination vorhandener Textbausteine ergeben.

Zum Antrag