Thorsten Leimbach, AI-Manager am Fraunhofer IAIS
Foto: Thorsten Leimbach © IAIS Fraunhofer
Unter der Leitung von Thorsten Leimbach ging 2014 die bis heute erfolgreiche Programmierumgebung Open Roberta Lab an den Start. Sie ist Teil der 2002 initiierten Initiative „Roberta – Lernen mit Robotern“, die Mädchen stärker für MINT-Fächer, insbesondere für Roboter und Coden begeistern möchte. Später kam unter anderem die Initiative AI4Schools hinzu. Allen Projekten gemeinsam ist der Anspruch, einem Gender-Gap im Umgang mit Technik und KI entgegenzuwirken.
Welche zentralen Erkenntnisse haben Sie mit der Roberta-Initiative darüber gewonnen, wie man Mädchen und Jungen für Technik begeistert?
Thorsten Leimbach: Als wir 2002 mit der Roberta-Initiative anfingen, richteten wir uns zunächst an 5. bis 7. Klassen. Aber im Lauf der Jahre haben zwei Dinge unser Vorgehen verändert. Zum einen haben wir erkannt, dass wir früher beginnen müssen, wenn wir Jungen und Mädchen gleichermaßen für Themen wie Coding oder Robotik begeistern wollen. Wenn wir erst in der Pubertät auf sie zugehen, sind Selbstkonzept und Rollenvorstellungen schon sehr ausgeprägt. Dann kam noch eine technologische Entwicklung hinzu: Mit Microcontrollern wie dem Calliope Mini oder dem Bob3 bekamen wir kostengünstige Tools, die auch Sensorik und Aktorik mitbringen, also mit der Umwelt interagieren können. Mit unserer grafischen Open-Source-Programmierumgebung „Open Roberta Lab“ lassen sich die Microcontroller sehr einfach programmieren. Wir haben also unser Konzept angepasst und sind verstärkt auf Grundschulen zugegangen. In dem Alter haben die Kinder kaum Berührungsängste. Beim Programmieren legen sie einfach los und schauen, was passiert. Studien zeigen, dass solche frühen Erfahrungen jahrelang nachwirken. Eine zweite zentrale Erkenntnis ist aber auch, dass man Jungen und Mädchen vorleben muss, dass das Interesse an Themen nicht geschlechterspezifisch verteilt ist. Es nützt nichts, das nur zu sagen.
Wie übertragen Sie die Erkenntnisse aus der Roberta-Initiative auf neuere Projekte wie AI4Schools, um alle Jugendlichen unabhängig von ihrem Geschlecht oder auch ihrer sozialen Herkunft anzusprechen?
Über Multiplikator*innen in den Bundesländern bilden wir im Rahmen von AI4Schools Lehrkräfte für den Umgang mit KI fort. Dabei geht es um viele Fragen zum Einsatz von KI, zum Datenschutz, zum AI Act der EU. Zugleich versuchen wir immer, bei den Lehrkräften ein Bewusstsein für Hürden und unterschiedliche Zugänge zu KI zu schaffen. Denn nur über Schule können wir ausgleichen, wenn Eltern etwa nicht die finanziellen Möglichkeiten haben, um ihren Kindern Accounts für verschiedene KI-Tools zu bezahlen. Ein anderes Learning aus der Roberta-Initiative ist, dass wir die richtigen Themen und Beispiele wählen müssen, um alle mitzunehmen. Bei Roberta sagen wir etwa: Wenn man die Arbeitsweise einer Pumpe erklären will, kann man zeigen, wie eine Ölpumpe funktioniert. Mehr Mädchen und Jungen spricht man aber an, wenn man das am menschlichen Herzen zeigt. Das kann man sehr gut auf das Prompting übertragen und Beispiele finden, die alle interessieren.
Außerdem gehen wir in unseren Fortbildungen auf ethische Aspekte im Umgang mit KI ein, zum Beispiel auf Deep Fakes, auf stereotype oder verzerrte Darstellungen, die KI aufgrund ihrer Daten generiert. Dabei betonen wir immer, dass die Person, die mit der KI interagiert, die Verantwortung trägt und die Ergebnisse prüfen muss, um Halluzinationen, Fehler und Diskriminierungen zu erkennen. Eigentlich bräuchten wir ein eigenes LLM, also ein Large Language Model wie ChatGPT für die Bildung, um solche Mechanismen besser aufzudecken.
Was könnte ein Bildungs-LLM leisten?
Mit einem eigenen großes Sprachmodell für Schulen hätten Lehrkräfte wirklich die Freiheiten, die sie im Umgang mit so einem Tool brauchen. Wenn man Bedenken beim Datenschutz, beim Urheberrecht oder in Bezug auf die Datenquellen hat, traut man sich nicht, die Möglichkeiten der KI voll auszuschöpfen. Ich stelle mir vor, dass solch ein Bildungs-LLM nicht ChatGPT ersetzt, sondern dass man daran zeigen kann, wie eine KI funktioniert. Zum Beispiel könnte man einstellen, wie kreativ die KI antworten soll. Oder man kann verschiedene Datenbasen auswählen und zeigen, wie sich dadurch der Output der KI verändert. Vielleicht könnte man auch die Oberfläche so gestalten, dass man bei bestimmten Prompts direkt Hilfestellung bekommt oder dass man mit der KI diskutiert, welche Quellen sie herangezogen hat. Man könnte mit ihr darüber sprechen, ob diese Quellen vertrauenswürdig sind und woran kann man das erkennt. Die KI könnte auch Sparringspartner sein, um gemeinsam ein Projekt zu entwickeln. Es gibt bereits Ansätze, solch ein LLM zu entwickeln, und sicher wird es irgendwann kommen. Aber dafür sind viele Ressourcen nötig. Und es muss geklärt werden, wer das leisten kann, wer die Verantwortung dafür übernimmt und wie die KI genau aussehen soll. Diese Fragen werden uns sicher noch einige Jahre beschäftigen. Ende November 2024 haben wir bei Fraunhofer IAIS im Rahmen des Projekts OpenGPT-X ein europäisches KI-Sprachmodell namens „Teuken“ veröffentlicht. Vielleicht bietet es in Zukunft eine gute Basis für ein echtes Bildungs-LLM.
Links zum Artikel:
Thorsten Leimbach, AI-Manager am Fraunhofer IAIS
Foto: Thorsten Leimbach © IAIS Fraunhofer
Unter der Leitung von Thorsten Leimbach ging 2014 die bis heute erfolgreiche Programmierumgebung Open Roberta Lab an den Start. Sie ist Teil der 2002 initiierten Initiative „Roberta – Lernen mit Robotern“, die Mädchen stärker für MINT-Fächer, insbesondere für Roboter und Coden begeistern möchte. Später kam unter anderem die Initiative AI4Schools hinzu. Allen Projekten gemeinsam ist der Anspruch, einem Gender-Gap im Umgang mit Technik und KI entgegenzuwirken.
Welche zentralen Erkenntnisse haben Sie mit der Roberta-Initiative darüber gewonnen, wie man Mädchen und Jungen für Technik begeistert?
Thorsten Leimbach: Als wir 2002 mit der Roberta-Initiative anfingen, richteten wir uns zunächst an 5. bis 7. Klassen. Aber im Lauf der Jahre haben zwei Dinge unser Vorgehen verändert. Zum einen haben wir erkannt, dass wir früher beginnen müssen, wenn wir Jungen und Mädchen gleichermaßen für Themen wie Coding oder Robotik begeistern wollen. Wenn wir erst in der Pubertät auf sie zugehen, sind Selbstkonzept und Rollenvorstellungen schon sehr ausgeprägt. Dann kam noch eine technologische Entwicklung hinzu: Mit Microcontrollern wie dem Calliope Mini oder dem Bob3 bekamen wir kostengünstige Tools, die auch Sensorik und Aktorik mitbringen, also mit der Umwelt interagieren können. Mit unserer grafischen Open-Source-Programmierumgebung „Open Roberta Lab“ lassen sich die Microcontroller sehr einfach programmieren. Wir haben also unser Konzept angepasst und sind verstärkt auf Grundschulen zugegangen. In dem Alter haben die Kinder kaum Berührungsängste. Beim Programmieren legen sie einfach los und schauen, was passiert. Studien zeigen, dass solche frühen Erfahrungen jahrelang nachwirken. Eine zweite zentrale Erkenntnis ist aber auch, dass man Jungen und Mädchen vorleben muss, dass das Interesse an Themen nicht geschlechterspezifisch verteilt ist. Es nützt nichts, das nur zu sagen.
Wie übertragen Sie die Erkenntnisse aus der Roberta-Initiative auf neuere Projekte wie AI4Schools, um alle Jugendlichen unabhängig von ihrem Geschlecht oder auch ihrer sozialen Herkunft anzusprechen?
Über Multiplikator*innen in den Bundesländern bilden wir im Rahmen von AI4Schools Lehrkräfte für den Umgang mit KI fort. Dabei geht es um viele Fragen zum Einsatz von KI, zum Datenschutz, zum AI Act der EU. Zugleich versuchen wir immer, bei den Lehrkräften ein Bewusstsein für Hürden und unterschiedliche Zugänge zu KI zu schaffen. Denn nur über Schule können wir ausgleichen, wenn Eltern etwa nicht die finanziellen Möglichkeiten haben, um ihren Kindern Accounts für verschiedene KI-Tools zu bezahlen. Ein anderes Learning aus der Roberta-Initiative ist, dass wir die richtigen Themen und Beispiele wählen müssen, um alle mitzunehmen. Bei Roberta sagen wir etwa: Wenn man die Arbeitsweise einer Pumpe erklären will, kann man zeigen, wie eine Ölpumpe funktioniert. Mehr Mädchen und Jungen spricht man aber an, wenn man das am menschlichen Herzen zeigt. Das kann man sehr gut auf das Prompting übertragen und Beispiele finden, die alle interessieren.
Außerdem gehen wir in unseren Fortbildungen auf ethische Aspekte im Umgang mit KI ein, zum Beispiel auf Deep Fakes, auf stereotype oder verzerrte Darstellungen, die KI aufgrund ihrer Daten generiert. Dabei betonen wir immer, dass die Person, die mit der KI interagiert, die Verantwortung trägt und die Ergebnisse prüfen muss, um Halluzinationen, Fehler und Diskriminierungen zu erkennen. Eigentlich bräuchten wir ein eigenes LLM, also ein Large Language Model wie ChatGPT für die Bildung, um solche Mechanismen besser aufzudecken.
Was könnte ein Bildungs-LLM leisten?
Mit einem eigenen großes Sprachmodell für Schulen hätten Lehrkräfte wirklich die Freiheiten, die sie im Umgang mit so einem Tool brauchen. Wenn man Bedenken beim Datenschutz, beim Urheberrecht oder in Bezug auf die Datenquellen hat, traut man sich nicht, die Möglichkeiten der KI voll auszuschöpfen. Ich stelle mir vor, dass solch ein Bildungs-LLM nicht ChatGPT ersetzt, sondern dass man daran zeigen kann, wie eine KI funktioniert. Zum Beispiel könnte man einstellen, wie kreativ die KI antworten soll. Oder man kann verschiedene Datenbasen auswählen und zeigen, wie sich dadurch der Output der KI verändert. Vielleicht könnte man auch die Oberfläche so gestalten, dass man bei bestimmten Prompts direkt Hilfestellung bekommt oder dass man mit der KI diskutiert, welche Quellen sie herangezogen hat. Man könnte mit ihr darüber sprechen, ob diese Quellen vertrauenswürdig sind und woran kann man das erkennt. Die KI könnte auch Sparringspartner sein, um gemeinsam ein Projekt zu entwickeln. Es gibt bereits Ansätze, solch ein LLM zu entwickeln, und sicher wird es irgendwann kommen. Aber dafür sind viele Ressourcen nötig. Und es muss geklärt werden, wer das leisten kann, wer die Verantwortung dafür übernimmt und wie die KI genau aussehen soll. Diese Fragen werden uns sicher noch einige Jahre beschäftigen. Ende November 2024 haben wir bei Fraunhofer IAIS im Rahmen des Projekts OpenGPT-X ein europäisches KI-Sprachmodell namens „Teuken“ veröffentlicht. Vielleicht bietet es in Zukunft eine gute Basis für ein echtes Bildungs-LLM.
Links zum Artikel: