Anwesende: Fabian (HS München), Peter (HS München), Fabian (TU Darmstadt), Finn (KIT), Nele (KIT), JP (KIT Alumi), Samuel (TU Darmstadt), Vincent (TU Darmstadt), Adrian (TU Ilmenau), Sinom (RPTU Kaiserslautern), Andrea (RPTU Kaiserslautern), Markus Dippel (RPTU Kaiserslautern), Kardelen(TH Nürnberg), Cyryl (TH Nürnberg), Christoph (TH Nürnberg), Karla (TU Dresden), Armin (TU Dresden), Lennard (CAU Kiel), Leon (HS Koblenz)

KI ist inzwischen in der Gesellschaft angekommen. Im vorherigen AK wurden die KI-Richtlinien der verschiedenen Hochschulen gesammelt. Jetzt ist die Frage, ob Hochschulen auch ethischen Umgang mit KI vermitteln. Falls im vorherigen AK noch nicht passiert, analysiert die gesammelten Richtlinien und erweitert eure Suche potenziell auf Modulhandbücher einzelner Hochschulen.

Ziel des AKs ist es, einige Best-Practice Module bzw. Richtlinien zu finden, diese können dann zurück zu den eigenen Hochschulen genommen werden. Bei fehlender Zeit fokussiert euch auf weniger Richtlinien und vergleicht diese.

• KI-Handreichung fast KIT weit
• Richtlinie zum angeben von LLM-Nutzung in Abschlussarbeiten, Seminararbeiten etc.
• Neuer Studiengang: Robotics and embeded AI
• Technikethik als überfachliche Qualifikation im Bachelor

• Olat KI Kompass und Ersti Veranstaltung als KI Kompass, soll evtl. langfristig Zertifikatskurs werden, der ECTS gibt
• Anfrage an Professoren für eigene, lokale KI für Studenten, trainiert mit Altklausuren und Vorlesungsmaterialien, um Antworten zu verbessern.

• Von Fakultät zu Fakultät unterschiedlich, keine uniweite einheitliche Richtlinien
• Grobe Guidelines, wie man Text-generating-AI-Systems nutzen soll
• Eigens trainiertes KI Model von Dozent als Unterstützung bei Übungen und Klausurvorbereitung
• Workshops zur KI-Nutzung im akademischen Schreiben

• Eigene KI
• Nur unterstützend für die Lehre
• OneTutor in der Pilotphase
• Von der Hochschule finanzierter Zugang zu Chat-GPT

• Es gibt eine Handreichung, in der über aufgezeigt wird, wie KI im Studium und in der Lehre verwendet werden kann
• Keine spezifischen Module die den Umgang mit KI behandeln
• Für studentische Arbeiten wird ein Leitfaden ausgegeben, der darüber informiert wie die Nutzung von KI gekennzeichnet werden soll
• Es gibt ein LLM, welches von der Uni gehostet wird

• Professoren oder generell lehrende Personen sollen nicht den Eindruck vermitteln, dass alles mit „KI“ gelöst werden kann → „nicht Lehrauftrag an ChatGPT abgeben“
• Workshops, Seminare für Nutzung von KI / Einordnen eigentliche Funktion von KI (als Werkzeug, nicht als Ersatz)
• Problem: Übermäßige Nutzung von KI führt zu Eigenständigkeitsverlust, hohem Energieverbrauch und großen Kosten
• Chance/ Möglichkeiten/ Gewinn/ Perspektive/ Kapaziäten: Triviale/ repetetive Aufgaben erledigen
• Risiken beleuchten, Open Source Software nahelegen, Datenschutz, AI-Blase platzt (wann?), Gefahr: Selbstverständlichkeit führt zur „Auslagerung“ von Wissen und damit Abhängigkeit
• Literaturempfehlungen
• Jüngere Leute haben durch Homeschooling und Pandemie vermehrt die Tendenz, LLMs zu nutzen

• Durch schnelle Innovation ist die Lehre immer direkt veraltet, wenn möglich eigene angepasste von der Hochschule gestellte LLMs.
• Erstsemester haben keine Basics durch „faule“ KI Nutzung. Aufklärung zu Studienbeginn und die richtige Nutzung sollte gelehrt werden.
• Bereitstellung von Servern mit Rechenleistung für Nutzung von LLMs in der Forschung.
• LLMs sollten, wenn möglich, mit grüner Energie betrieben werden.

• Möglichkeiten: kooperatives Lernen, Generieren von zusätzlichen Lernmaterialen, Gegenprüfen von eigenen Lösungen
• Grenzen: Ergebnisse werden halluziniert, KI hängt sich in Schleifen auf
• Probleme: Urheberrecht bei Dokumenten, Welche Daten können/können nicht geteilt werden; Bias der Antworten durch die Art des promptens

• Datenschutz ist ein großes Problem wegen persönlichen Daten, Forschungsergebnissen, Urheberrechtlichgeschützen Dokumenten. Lösung: KI-Modell local hosten, aber die Performance ist meistens schlechter.
• Auch die Verletzung von Urheberrecht ist problematisch, gerade bei kleineren Autoren
• Wir identifizieren das Problem der sozialen Isolation
• KI != KI, LLM sind nicht alles, auch Optimierung

• Professoren oder generell lehrende Personen sollen nicht den Eindruck vermitteln, dass alles mit „KI“ gelöst werden kann → „nicht Lehrauftrag an ChatGPT abgeben“
• Problem: Übermäßige Nutzung von KI führt zu Eigenständigkeitsverlust, hohem Energieverbrauch und großen Kosten

• Workshops, Seminare für Nutzung von KI/ Einordnen der eigentlichen Funktion von KI (als Werkzeug, nicht als Ersatz)
• Mögliche Inhalte:
  • Risiken beleuchten, Open Source Software nahelegen, Datenschutz, AI-Blase platzt, Gefahr: Selbstverständlichkeit führt zur „Auslagerung“ von Wissen und damit Abhängigkeit
  • Urheberrecht bei Dokumenten, Welche Daten können/können nicht geteilt werden
  • Datenschutz
  • Ein einheitliches System zur Nutzung von KIs
  • Anwendung von KI im jeweiligen Studienfeld

Künstliche Intelligenz ist längst Teil des Hochschulalltags. Ob bei Recherche, Klausurvorbereitung oder wissenschaftlichem Schreiben KI-Systeme, insbesondere Large Language Modelle (LLM), werden zunehmend selbstverständlich genutzt. Gleichzeitig fehlen oft klare Richtlinien und eine kritische Auseinandersetzung mit den Folgen dieser Entwicklung. KI bietet große Chancen für Lehre und Forschung, birgt allerdings auch Risiken. Während sie Lernen und Arbeiten erleichtern kann, besteht zugleich die Gefahr, eigenständiges Denken und grundlegende Kompetenzen zunehmend auszulagern. Hinzu kommen Fragen zu Datenschutz, Urheberrecht und der Abhängigkeit von kommerziellen Anbietern. Hochschulen stehen deshalb vor der Aufgabe, nicht nur den Einsatz von KI zu ermöglichen, sondern auch ein Verständnis für den kritischen Umgang damit zu vermitteln. - Formulierungsmöglichkeit, erzeugt mit Hilfe von Chat-GPT

Künstliche Intelligenz ist längst Teil des Hochschulalltags. Ob bei Recherche, Klausurvorbereitung oder wissenschaftlichem Schreiben – KI-Systeme, insbesondere Large Language Modelle (LLM), werden zunehmend selbstverständlich genutzt. Gleichzeitig fehlen oft klare Richtlinien und eine kritische Auseinandersetzung mit den Folgen dieser Entwicklung. KI bietet große Chancen für Lehre und Forschung, birgt allerdings auch erhebliche Risiken. Während sie Lernen und Arbeiten erleichtern kann, besteht zugleich die Gefahr, eigenständiges Denken und grundlegende Kompetenzen zunehmend auszulagern. Eine übermäßige Nutzung von KI-Systemen gefährdet nicht nur die intellektuelle Selbstständigkeit der Studierenden, sondern geht auch mit hohem Energieverbrauch und erheblichen Kosten einher – Aspekte, die in der gesellschaftlichen Debatte oft zu wenig Beachtung finden. Hinzu kommen Fragen zu Datenschutz, Urheberrecht und der Abhängigkeit von kommerziellen Anbietern. Eine besondere Verantwortung tragen dabei die Lehrenden: Professorinnen und Professoren sowie alle anderen in der Lehre tätigen Personen sollten nicht den Eindruck vermitteln, dass KI-Werkzeuge für jede Aufgabe die richtige Antwort seien. Der Lehrauftrag darf nicht an ChatGPT oder ähnliche Systeme delegiert werden – weder implizit durch unkritische Empfehlungen noch durch das Fehlen alternativer Methoden im Lehralltag. Hochschulen stehen deshalb vor der Aufgabe, nicht nur den Einsatz von KI zu ermöglichen, sondern auch einen verantwortungsvollen Umgang damit zu vermitteln. Ziel dieses Arbeitskreises ist es, die bisher bestehenden Konzepte kritisch zu vergleichen und Best-Practice-Beispiele für den universitären Einsatz zu erarbeiten. - Formulierungsmöglichkeit, erzeugt mit Hilfe von Claude.ai

• Evtl. als Studium Generale Module ⇒ ECTS Punkte
• Oder als Modul in den Einführungswochen
• Mögliche Inhalte:
  • Wie funktioniert ein LLM?
  • Anwendungen von verschiedenen LMM-Tools
  • How-To Promt-Erstellung
  • Grenzen von Tools, typische Fehler, wie entsteht Halluzination
  • Ethische Komplikationen
  • Datenschutz Probleme

• Ein Workshop muss regelmäßig aktualisiert werden und mit der Entwicklung mitgehen
• Inhalte
  • Wie erkenne ich mit KI erstellte Beiträge (welche Marker gibt es dafür?)
  • Welche Grenzen existieren: Was geht und was geht nicht?
  • Was muss bzgl. Datenschutz beachtet werden?
  • Wie können die produzierten Ergebnisse geprüft werden?
  • Grundlagen vermitteln: Wie funktionieren Modelle? Wie werden die Ergebnisse produziert (Arbeit mit Wahrscheinlichkeiten)?
  • Wie kann KI sinnvoll im Studienalltag verwendet werden ?
  • Wie prompted man richtig?

Beginn: 11:00 Uhr
Ende: 13:30 Uhr
Der AK ist nicht fertig und sollte auf weiteren Tagungen besprochen werden. Erste Inhalte, welche den Studierenden vermittelt und Hochschulen empfohlen werden sollen, wurden erarbeitet. Ein folgender AK kann als Arbeits-AK die Inhalte weiter ausbauen und -formulieren, um eine finale Best-Practice Empfehlung zu erstellen.