KI-Lagerfeuer: Recht und Moodle

Im Rahmen des ZDT-Forums möchten wir mit dem „KI-Lagerfeuer“ einen lockeren, offenen Austausch zu spezifischen Themen im Bereich von KI an unseren Hochschulen in Brandenburg ermöglichen.

Vor diesem Hintergrund laden wir alle KI-Interessierten herzlich ein zu einem

KI-Lagerfeuer: KI in Moodle integrieren – Rechtliche Voraussetzungen für Hochschulen

Moodle selbst ist nicht automatisch ein KI-System. Entscheidend sind die integrierten KI-Funktionen und das konkrete Nutzungsszenario. Das KI-Lagerfeuer nimmt die rechtlichen Rahmenbedingungen in den Blick, die Hochschulen bei der Integration von KI in ihr Learning Management System (LMS) berücksichtigen müssen. Denn bereits Unterschiede in Funktion, Zweck und Einsatzkontext können entscheidend dafür sein, welche rechtlichen Anforderungen gelten, welche Rolle die Hochschule einnimmt und ob eine KI-Anwendung bis hin zu einem Hochrisiko-KI-System reguliert wird. Anhand konkreter Szenarien aus Lehre und Prüfung wird diskutiert, welche rechtlichen, didaktischen, organisatorischen und technischen Fragen vor dem Einsatz von KI in Moodle geklärt werden müssen.

Ablauf:

1. 1. 1. 1. KI-VO und Hochschule: Wann wird eine KI-Anwendung im LMS Moodle zum regulierten KI-System?

      [tba]

      Welche Rolle spielen Anbieter- und Betreiberpflichten? Wann handelt es sich um ein KI-System, welche regulatorischen Anforderungen können entstehen und unter welchen Voraussetzungen kann eine Anwendung als Hochrisiko-KI-System einzustufen sein?

      2. 2. KI in Online-Prüfungen: Welche Regelungen brauchen Hochschulen, Prüfungsordnung und Lehrveranstaltung?

      Dr. Andrea Radcke, Universität Potsdam

      Welche Möglichkeiten und Grenzen bestehen beim Einsatz von KI in Prüfungen? Welche Fragen sollten in Prüfungsordnungen, Prüfungssatzungen oder konkreten Prüfungsformaten geregelt werden?

      3. 3. Fall-Werkstatt: Welche rechtlichen Aspekte müssen bei der Integration eines RAG-Chatbots in Moodle geklärt werden?

      Gäst*innen: Dr. Andrea Radcke (Universität Potsdam), Rabeah Suma (Universität Potsdam), Referent*in 1 [tba], Teilnehmer*in [tba]
      Moderation: Julia Lee (FH Potsdam), Fabian Heuel (ZDT)

      Anhand von vier konkreten Praxisfällen diskutieren wir, welche rechtlichen und organisatorischen Prüfungen vor einer Umsetzung erforderlich sind:

   2.  
   3. Fall 1: RAG-Kursassistent
      Ein Moodle-Kurs erhält einen RAG-Chatbot. Der RAG-Chatbot darf ausschließlich auf durch Lehrende freigegebene Kursmaterialien zugreifen. Er beantwortet Fragen von Studierenden und gibt Feedback. Es erfolgt keine Bewertung.
   4.  
   5. Fall 2: KI bewertet Prüfungsleistungen
      Eine Lehrperson nutzt ein KI-System, das studentische Antworten analysiert und einen Bewertungsvorschlag erzeugt.
   6.  
   7. Fall 3: KI in der Prüfung
      In einer Online-Prüfung mit dem LMS Moodle wird ein KI-Chatbot ausdrücklich als Hilfsmittel zugelassen.
   8.  
   9. Fall 4: KI erkennt vermeintliche Täuschung
      Studierende geben einen Freitext in einem Chatbot ein. Aus Ihrem Text generiert der Chatbot automatische Zufallsfragen, die die Studierenden beantworten müssen. Das System meldet einer Lehrperson, wenn die Ergebnisse auffällig sind. Im Verdachtsfall werden Studierende mündlich von einer Lehrperson nachgeprüft.
   10.  
       4. 4. Hochschulübergreifender Austausch an der Kaffeebar*

Hinweis: Das Programm wurde von Julia Lee mit Hilfe von OpenAI ChatGPT5+ erstellt.

* Teaser wurde mit Hilfe von ChatGPT 5+ erstellt.