Auweia! Nun ist Episode 36 des Podcasts Feierabendbier Open Education bereits sechs Wochen alt. In dieser hatten Christian Friedrich und Markus Deimann das Thema (Chat)-Bots in der Lehre angeschnitten. Dazu hatte ich ein paar Gedanken von meiner Seite versprochen, für die ich mir nun endlich Zeit genommen habe.

Markus und Christian beschäftigen sich mit dem Artikel „Chatbots as Teaching Assistants“, der sich um die Frage dreht: Was können (Chat-)Bots heute leisten und wo könnte die Reise aus technischer Sicht hingehen? Finde ich interessant. Dazu habe ich aber nicht viel zu sagen. Ich habe mich mit maschinellem Lernen ein wenig beschäftigt und glaube, dass das Ende der Fahnenstange noch ein bisschen auf sich warten lassen wird. Ablehnung mit Verweis auf die Grenzen des Machbaren (kann die tatsächlich jemand abschätzen?) scheint mir mitunter aber schlicht eine Ausflucht zu sein. Eigentlich geht es um die normative Frage an eine Gesellschaft: „Wollen wir das?“

Diese Frage könnten wir mit ja oder nein beantworten. Und eigentlich auch noch mit vielleicht oder ein paar differenzierteren Antworten. So oder so stecken hoffentlich ein paar Überlegungen dahinter und nicht bloß pauschale Befürwortung oder Ablehnung von technischen Entwicklungen. Ich könnte momentan jedenfalls noch keine fundierte Antwort geben. Dazu müsste ich mir erst einmal die richtigen Fragen stellen, und die habe ich noch nicht einmal — gerne in die Kommentare damit :-)

Wohl aber kann ich hier ein paar Gedanken festhalten. Was wäre eigentlich anders, wenn ein paar Lehraufgaben von Bots übernommen würden statt von Menschen?

• J.A.R.V.I.S.: Test complete. Preparing to power down and begin diagnostics.
• Tony Stark: Uh, yeah. Tell you what. Do a weather and ATC check. Start listening in on ground control.
• J.A.R.V.I.S.: Sir, there are still terabytes of calculations needed before an actual flight is …
• Tony Stark: J.A.R.V.I.S.! Sometimes you got to run before you can walk. Ready? In three, two, one.

Da ignoriert der gute Tony Stark doch einfach die Ratschläge seines Bots. Dasselbe passiert bereits heute tagtäglich etwa auch beim Studieren, wenn man beispielsweise nicht auf die Ratschläge der menschlichen Lehrperson hört oder womöglich den Lehrveranstaltungen gleich ganz fernbleibt. Soll es geben ;-) Man darf auch weiterhin den Mut haben, sich seines eigenen Verstandes zu bedienen.

Okay, was aber ist in der Schule oder anderen formalen Settings, in denen die Machtverhältnisse anders aussehen? Was, wenn ein Bot über die Note entscheidet, obwohl er womöglich über seine Programmierung oder seine Trainingsdaten eine wie auch immer geartete Voreingenommenheit entwickelt hat? Fiktives Beispiel: Der Bot könnte etwa pauschal Jungen benachteiligen. Bei dieser Frage könnte es sich lohnen, Bot einfach mal gegen Lehrperson auszutauschen. Was ist denn, wenn ein Deutschlehrer über die Note eines Schülers entscheidet und dabei befangen ist? Genau davon berichtete gerade Dejan Mihajlović aus seiner eigenen Schulzeit. Lässt sich das nachweisen? Was passiert in diesem Fall? Lässt sich das einfach auf Bots übertragen?

Wie steht es beispielsweise bei folgenden Fragen?

• Wer haftet, wenn der Bot/die Lehrperson die SchülerInnen schlecht berät?
• Was, wenn der Bot auf einem überholten Modell aufbaut/die Lehrperson aktuelle Erkenntnisse der Pädagogik nicht kennt?
• Wer kann schon sagen, was im Kopf des Bots/der Lehrperson vorgeht?
• Mit wem tratscht der Bot/die Lehrperson über die Ergebnisse der SchülerInnen?
• …

Noch nicht sonderlich ergiebig, meine Gedanken dazu — aber mich interessiert tatsächlich eher, was mit maschinellem Lernen technisch möglich sein könnte. Ich werde gleich mal Netflix anwerfen, und mir mal wieder eine der besten Star-Trek-Episoden überhaupt anschauen: The Measure of a Man… Vielleicht bringt mich das auf neue Ideen.

Randnotiz: Warum wird in der Wissenschaft eigentlich erst jetzt über das nachgedacht, was sich in der Science Fiction schon vor Jahren abgezeichnet hat? The Three Laws of Robotics (1942). Militärische Robotik als Herausforderung für das Verhältnis von menschlicher Kontrolle und maschineller Autonomie (2017). Gibt’s kein „Journal of hypothetical questions“?