AK Protokoll: Technikfolgenabschätzung

BuFaTa SoSe23 Ulm
Datum	Beginn	Ende	Sitzungsleitung	Protokollierung
18.05.2023	16:10	18:03	Lukas Riesel (CAU Kiel)	Alle

Teilnehmende

Anwesende: Tom Störtebecker (HSMA), Annerieke Janssen (TU Ilmenau), Timo, Basti (TH Nürnberg), Mesian (TU Dortmund), Lennard (CAU Kiel), Oliver (FH Dortmund FB10), Steven (FH Dortmund FB3), Hussein (THI), Sascha (Uni Stuttgart)

Einführung

Zu Beginn Diskussion über Vorgehensweise. Was will der AK eigentlich machen?

Hauptthema: Risikenabschätzung von KI als Gesellschaft

Zur Einordnung des Themas werden Fragen formuliert über „Quiz Academy“

Frage 1: Welche von diesen Technologien habt ihr schonmal benutzt?

Antwort: 11 Chat GPT, 2 Bing, 1 Andere

Bing Chat Vorteile: Aufbau auf GPT 4 mit Internetzugrif

Agent GPT: Anfrage des Nutzers ist ein Ziel, OUTPUT: Zielerfüllung

Frage 2: Wie regelmäßig werden die Technologien verwendet?

Antwort: 0-2

Frage 3: Wofür werden diese Technologie werden verwendet?

Antwort: l

Sonstiges: Kochen, kreative Anwendungsbereiche, Reisen, Freizeitvertreib

Gefühl: Informationsfluss steigt an

Alle Großen Unternehmen betten KI in Software ein

Warum Gratis? Konkurenzkampf, um Google herauszufordern

Ungewissheit: Wie wird es in Zukunft? Beeinflussbarkeit, Privatsphäre, Neutralität, Machtmonopol

Missbrauch wird leichter eventuell

Frage 4: Risiken

Gruppenergebnisse:

Fehlinformationen: 1. Wenn Informationen falsch sind, werden auch Informationen der KI falsch 2. Quantitative als Qualitative Informationen 3. AI „haluziniert“ 4. AI neigt dazu Quellen zu erfinden und stützt sich auf eigene Quellen 5. Glaubwürdigkeit von Fachleuten sinkt

Datenschutz: 1. Anlegung von Psychologischen Profilien - Neue Dimension der personenbezogenen Werbung 2. Beeinflussung von AI ohne AI zu benutzen

Uneigenständiges Denken

Bestätigung der eigenen Meinung

AI kann Wissenschaft besser deuten und nachvollziehen

Angreifbarkeit des Menschen durch Abhängigkeit

Zusammenfassung: Halluzination, Datenschutz, Phishing & Social Engineering, Rückentwicklung des Menschen, Soziales Problem

Plagiate bei Bild-AI:

Künstler werden arbeitslos

KI macht Wasserzeichen

Etablierung von AI-Künstlern

Coexistieren von AI-Kunst und Kunst

Frage 5: Wir können wir den erkannten Risiken entgegenwirken?

KI als ultimativer Trainer gibt

Kommunikation

Factchecking lernen und Reflexion verbessern

Unabhängige Informationsquellen

Aufklärung

Transparenz steigern, Quellen anzeigen lassen

Ende

Beginn: 16:10 Uhr
Ende: 18:03 Uhr
Der AK ist fertig / nicht fertig / sollte auf weiteren Tagungen besprochen werden