KI und gesellschaftliche Auswirkungen

98. BuFaTa an der RWTH Aachen
Datum	Beginn	Ende	Sitzungsleitung	Protokollierung
14.05.2026	11:00	13:30	Fabian (HS München)	Alle

Anwesende: Fabian (HS München), Peter (HS München), Fabian (TU Darmstadt), Finn (KIT), Nele (KIT), JP (KIT Alumi), Samuel (TU Darmstadt), Vincent (TU Darmstadt), Adrian (TU Ilmenau), Sinom (RPTU Kaiserslautern), Andrea (RPTU Kaiserslautern), Markus Dippel (RPTU Kaiserslautern), Kardelen(TH Nürnberg), Cyryl (TH Nürnberg), Christoph (TH Nürnberg), Karla (TU Dresden), Armin (TU Dresden), Lennard (CAU Kiel), Leon (HS Koblenz)

Einführung

KI ist inzwischen in der Gesellschaft angekommen. Im vorherigen AK wurden die KI-Richtlinien der verschiedenen Hochschulen gesammelt. Jetzt ist die Frage, ob Hochschulen auch ethischen Umgang mit KI vermitteln. Falls im vorherigen AK noch nicht passiert, analysiert die gesammelten Richtlinien und erweitert eure Suche potenziell auf Modulhandbücher einzelner Hochschulen.

Ziel des AKs ist es, einige Best-Practice Module bzw. Richtlinien zu finden, diese können dann zurück zu den eigenen Hochschulen genommen werden. Bei fehlender Zeit fokussiert euch auf weniger Richtlinien und vergleicht diese.

Bestehende Module und Richtlinien

KIT

KI-Handreichung fast KIT weit

Richtlinie zum angeben von LLM-Nutzung in Abschlussarbeiten, Seminararbeiten etc.

Neuer Studiengang: Robotics and embeded AI

Technikethik als überfachliche Qualifikation im Bachelor

RPTU Kaiserslautern

Olat KI Kompass und Ersti Veranstaltung als KI Kompass, soll evtl. langfristig Zertifikatskurs werden, der ECTS gibt

Anfrage an Professoren für eigene, lokale KI für Studenten, trainiert mit Altklausuren und Vorlesungsmaterialien, um Antworten zu verbessern.

TU Dresden

Von Fakultät zu Fakultät unterschiedlich, keine uniweite einheitliche Richtlinien

Grobe Guidelines, wie man Text-generating-AI-Systems nutzen soll

Eigens trainiertes KI Model von Dozent als Unterstützung bei Übungen und Klausurvorbereitung

Workshops zur KI-Nutzung im akademischen Schreiben

HS München

Eigene KI

Nur unterstützend für die Lehre

OneTutor in der Pilotphase

Von der Hochschule finanzierter Zugang zu Chat-GPT

TU Darmstadt

Es gibt eine Handreichung, in der über aufgezeigt wird, wie KI im Studium und in der Lehre verwendet werden kann

Keine spezifischen Module die den Umgang mit KI behandeln

Für studentische Arbeiten wird ein Leitfaden ausgegeben, der darüber informiert wie die Nutzung von KI gekennzeichnet werden soll

Es gibt ein LLM, welches von der Uni gehostet wird

Identifikation von Soll-Themen

Gruppe 1

Professoren oder generell lehrende Personen sollen nicht den Eindruck vermitteln, dass alles mit „KI“ gelöst werden kann → „nicht Lehrauftrag an ChatGPT abgeben“

Workshops, Seminare für Nutzung von KI / Einordnen eigentliche Funktion von KI (als Werkzeug, nicht als Ersatz)

Problem: Übermäßige Nutzung von KI führt zu Eigenständigkeitsverlust, hohem Energieverbrauch und großen Kosten

Chance/ Möglichkeiten/ Gewinn/ Perspektive/ Kapaziäten: Triviale/ repetetive Aufgaben erledigen

Risiken beleuchten, Open Source Software nahelegen, Datenschutz, AI-Blase platzt (wann?), Gefahr: Selbstverständlichkeit führt zur „Auslagerung“ von Wissen und damit Abhängigkeit

Literaturempfehlungen

Jüngere Leute haben durch Homeschooling und Pandemie vermehrt die Tendenz, LLMs zu nutzen

Gruppe 2

Durch schnelle Innovation ist die Lehre immer direkt veraltet, wenn möglich eigene angepasste von der Hochschule gestellte LLMs.

Erstsemester haben keine Basics durch „faule“ KI Nutzung. Aufklärung zu Studienbeginn und die richtige Nutzung sollte gelehrt werden.

Bereitstellung von Servern mit Rechenleistung für Nutzung von LLMs in der Forschung.

LLMs sollten, wenn möglich, mit grüner Energie betrieben werden.

Gruppe 3

Möglichkeiten: kooperatives Lernen, Generieren von zusätzlichen Lernmaterialen, Gegenprüfen von eigenen Lösungen

Grenzen: Ergebnisse werden halluziniert, KI hängt sich in Schleifen auf

Probleme: Urheberrecht bei Dokumenten, Welche Daten können/können nicht geteilt werden; Bias der Antworten durch die Art des promptens

Gruppe 4

Datenschutz ist ein großes Problem wegen persönlichen Daten, Forschungsergebnissen, Urheberrechtlichgeschützen Dokumenten. Lösung: KI-Modell local hosten, aber die Performance ist meistens schlechter.

Auch die Verletzung von Urheberrecht ist problematisch, gerade bei kleineren Autoren

Wir identifizieren das Problem der sozialen Isolation

KI != KI, LLM sind nicht alles, auch Optimierung

Ausarbeitung der einzelnen Soll-Themen

Punkte für eine mögliche Einleitung:

Professoren oder generell lehrende Personen sollen nicht den Eindruck vermitteln, dass alles mit „KI“ gelöst werden kann → „nicht Lehrauftrag an ChatGPT abgeben“

Problem: Übermäßige Nutzung von KI führt zu Eigenständigkeitsverlust, hohem Energieverbrauch und großen Kosten

Angebote für Studierende, die wir uns von den Fakultäten wünschen:

Workshops, Seminare für Nutzung von KI/ Einordnen der eigentlichen Funktion von KI (als Werkzeug, nicht als Ersatz)

Mögliche Inhalte:

Risiken beleuchten, Open Source Software nahelegen, Datenschutz, AI-Blase platzt, Gefahr: Selbstverständlichkeit führt zur „Auslagerung“ von Wissen und damit Abhängigkeit

Urheberrecht bei Dokumenten, Welche Daten können/können nicht geteilt werden

Datenschutz

Ein einheitliches System zur Nutzung von KIs

Anwendung von KI im jeweiligen Studienfeld

Ausarbeitung zu der Einleitung einer möglichen Stellungnahme bzw. Empfehlung

Künstliche Intelligenz ist längst Teil des Hochschulalltags. Ob bei Recherche, Klausurvorbereitung oder wissenschaftlichem Schreiben KI-Systeme, insbesondere Large Language Modelle (LLM), werden zunehmend selbstverständlich genutzt. Gleichzeitig fehlen oft klare Richtlinien und eine kritische Auseinandersetzung mit den Folgen dieser Entwicklung. KI bietet große Chancen für Lehre und Forschung, birgt allerdings auch Risiken. Während sie Lernen und Arbeiten erleichtern kann, besteht zugleich die Gefahr, eigenständiges Denken und grundlegende Kompetenzen zunehmend auszulagern. Hinzu kommen Fragen zu Datenschutz, Urheberrecht und der Abhängigkeit von kommerziellen Anbietern. Hochschulen stehen deshalb vor der Aufgabe, nicht nur den Einsatz von KI zu ermöglichen, sondern auch ein Verständnis für den kritischen Umgang damit zu vermitteln. - Formulierungsmöglichkeit, erzeugt mit Hilfe von Chat-GPT

Künstliche Intelligenz ist längst Teil des Hochschulalltags. Ob bei Recherche, Klausurvorbereitung oder wissenschaftlichem Schreiben – KI-Systeme, insbesondere Large Language Modelle (LLM), werden zunehmend selbstverständlich genutzt. Gleichzeitig fehlen oft klare Richtlinien und eine kritische Auseinandersetzung mit den Folgen dieser Entwicklung. KI bietet große Chancen für Lehre und Forschung, birgt allerdings auch erhebliche Risiken. Während sie Lernen und Arbeiten erleichtern kann, besteht zugleich die Gefahr, eigenständiges Denken und grundlegende Kompetenzen zunehmend auszulagern. Eine übermäßige Nutzung von KI-Systemen gefährdet nicht nur die intellektuelle Selbstständigkeit der Studierenden, sondern geht auch mit hohem Energieverbrauch und erheblichen Kosten einher – Aspekte, die in der gesellschaftlichen Debatte oft zu wenig Beachtung finden. Hinzu kommen Fragen zu Datenschutz, Urheberrecht und der Abhängigkeit von kommerziellen Anbietern. Eine besondere Verantwortung tragen dabei die Lehrenden: Professorinnen und Professoren sowie alle anderen in der Lehre tätigen Personen sollten nicht den Eindruck vermitteln, dass KI-Werkzeuge für jede Aufgabe die richtige Antwort seien. Der Lehrauftrag darf nicht an ChatGPT oder ähnliche Systeme delegiert werden – weder implizit durch unkritische Empfehlungen noch durch das Fehlen alternativer Methoden im Lehralltag. Hochschulen stehen deshalb vor der Aufgabe, nicht nur den Einsatz von KI zu ermöglichen, sondern auch einen verantwortungsvollen Umgang damit zu vermitteln. Ziel dieses Arbeitskreises ist es, die bisher bestehenden Konzepte kritisch zu vergleichen und Best-Practice-Beispiele für den universitären Einsatz zu erarbeiten. - Formulierungsmöglichkeit, erzeugt mit Hilfe von Claude.ai

Ausarbeitung zu dem Workshop- / Seminar- / Erstiveranstaltungsinhalt

Gruppe 1

Evtl. als Studium Generale Module ⇒ ECTS Punkte

Oder als Modul in den Einführungswochen

Mögliche Inhalte:

Wie funktioniert ein LLM?

Anwendungen von verschiedenen LMM-Tools

How-To Promt-Erstellung

Grenzen von Tools, typische Fehler, wie entsteht Halluzination

Ethische Komplikationen

Datenschutz Probleme

Gruppe 2

Ein Workshop muss regelmäßig aktualisiert werden und mit der Entwicklung mitgehen

Inhalte

Wie erkenne ich mit KI erstellte Beiträge (welche Marker gibt es dafür?)

Welche Grenzen existieren: Was geht und was geht nicht?

Was muss bzgl. Datenschutz beachtet werden?

Wie können die produzierten Ergebnisse geprüft werden?

Grundlagen vermitteln: Wie funktionieren Modelle? Wie werden die Ergebnisse produziert (Arbeit mit Wahrscheinlichkeiten)?

Wie kann KI sinnvoll im Studienalltag verwendet werden ?

Wie prompted man richtig?

Empfehlung für folgenden AK

Ausblick auf den nächsten AK Beratung, wie Hochschulen den Studierenden Urheberrecht vermittelt, z.B. Upload von Lernmaterial in LLMs. Form der Vermittlung: Workshop, Lehrveranstaltung, Erstsemesterveranstaltung, Eigenverantwortung der Lehrenden?

Ende

Beginn: 11:00 Uhr
Ende: 13:30 Uhr
Der AK ist nicht fertig und sollte auf weiteren Tagungen besprochen werden. Erste Inhalte, welche den Studierenden vermittelt und Hochschulen empfohlen werden sollen, wurden erarbeitet. Ein folgender AK kann als Arbeits-AK die Inhalte weiter ausbauen und -formulieren, um eine finale Best-Practice Empfehlung zu erstellen.