Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz. Stellungnahme

Zusammenfassung ................................................................................................................... 7
1 Einleitung ...................................................................................................................... 54
TEIL I: TECHNISCHE UND PHILOSOPHISCHE GRUNDLEGUNGEN
2 Zentrale Entwicklungen und technische Grundlagen Künstlicher Intelligenz ...... 60
2.1 Historischer Kontext ...................................................................................................... 60
2.2 Künstliche Intelligenz im 21. Jahrhundert: Big Data, Algorithmen und
soziotechnische Ökosysteme ......................................................................................... 64
2.2.1 Digitale Durchdringung der menschlichen Lebenswelt ................................................. 64
2.2.2 Daten und digitale Infrastrukturen ................................................................................. 66
2.2.3 Algorithmen und Datenverarbeitung ............................................................................. 68
2.2.4 Einsatzbereiche algorithmischer Systeme und Künstlicher Intelligenz ......................... 74
2.2.5 Ethische Leitlinien und regulativer Rahmen für algorithmische Systeme und KI ........ 76
3 Zentrale Begriffe und philosophische Grundlagen................................................... 83
3.1 Künstliche Intelligenz: Begriffliche Analyse ................................................................ 83
3.2 Intelligenz und Vernunft ................................................................................................ 88
3.2.1 Intelligenz ...................................................................................................................... 88
3.2.2 Vernunft ......................................................................................................................... 93
3.3 Handlung und Verantwortung ....................................................................................... 97
3.3.1 Handlung ........................................................................................................................ 97
3.3.2 Verantwortung ............................................................................................................. 101
3.4 Anthropologische Aspekte des Mensch-Maschine-Verhältnisses ............................... 105
3.4.1 Philosophische Grundbestimmung des Menschseins .................................................. 105
3.4.2 Der Mensch als Maschine – die Maschine als Mensch? ............................................. 108
3.4.3 Verleiblichte Vernunft ................................................................................................. 114
3.5 Fazit ............................................................................................................................. 117
4 Mensch-Technik-Relationen ..................................................................................... 120
4.1 Einleitung ..................................................................................................................... 120
4.2 Technikdeterminismus versus Sozialkonstruktivismus ............................................... 121
4.3 Mehrstufige Mensch-Technik-Wechselwirkungen ...................................................... 125
4.4 Erweitern und Vermindern menschlicher Autonomie und Autorschaft ...................... 130
4.5 Fazit ............................................................................................................................. 134
+++ Vorabfassung! Wird durch die lektorierte Fassung ersetzt. +++
5
TEIL II: AUSGEWÄHLTE ANWENDUNGEN UND SEKTORSPEZIFISCHE
EMPFEHLUNGEN
5 Medizin ....................................................................................................................... 140
5.1 Einleitung ..................................................................................................................... 140
5.2 Einsatz von. KI-Systemen in der Medizin ................................................................... 141
5.2.1 Entwicklung von KI-Systemen .................................................................................... 142
5.2.2 KI in der medizinischen Forschung ............................................................................. 144
5.2.3 KI in der medizinischen Versorgung ........................................................................... 146
5.3 Fazit und Empfehlungen .............................................................................................. 159
6 Bildung ........................................................................................................................ 163
6.1 Einleitung ..................................................................................................................... 163
6.2 Zum Bildungsbegriff .................................................................................................... 164
6.3 Einsatzmöglichkeiten datenbasierter, KI-gestützter Lehr-Lern-Systeme .................... 167
6.4 Mensch-Maschine-Relationen in der schulischen Bildung: Ersetzen, Erweitern,
Vermindern .................................................................................................................. 170
6.5 Grundsätzliche Diskussion: KI im schulischen Bildungsprozess ................................ 178
6.6 Fazit und Empfehlungen .............................................................................................. 182
7 Öffentliche Kommunikation und Meinungsbildung .............................................. 187
7.1 Einleitung ..................................................................................................................... 187
7.2 Das Internet als soziotechnisches System: Funktionsweise Sozialer Medien ............. 188
7.2.1 Neue soziotechnische Infrastrukturen .......................................................................... 188
7.2.2 Informationsauswahl und Kuratierung ........................................................................ 189
7.2.3 Moderation von Inhalten .............................................................................................. 192
7.2.4 Auswirkungen auf die Erweiterung und Verminderung menschlicher
Handlungsfähigkeiten .................................................................................................. 195
7.3 Informationsqualität ..................................................................................................... 197
7.3.1 Falschnachrichten und Verschwörungstheorien .......................................................... 198
7.3.2 Filterblasen und Echokammern ................................................................................... 200
7.3.3 Moralische und emotionale Aufladung ........................................................................ 202
7.3.4 Relevanz der beobachteten Effekte .............................................................................. 203
7.4 Diskursqualität ............................................................................................................. 204
7.4.1 Politische Polarisierung ............................................................................................... 205
7.4.2 Politische Werbung und Manipulation ........................................................................ 208
7.4.3 Spannungsfeld Diskursverrohung und Äußerungsfreiheit ........................................... 212
+++ Vorabfassung! Wird durch die lektorierte Fassung ersetzt. +++
6
7.4.4 Erweiternde und vermindernde Rückwirkungen auf den öffentlichen
Vernunftgebrauch ........................................................................................................ 215
7.5 Fazit und Empfehlungen .............................................................................................. 216
8 Öffentliche Verwaltung ............................................................................................. 223
8.1 Einleitung ..................................................................................................................... 223
8.2. Ethische Fragen algorithmischer Automatisierung im Verwaltungshandeln .............. 224
8.3 Automatische Entscheidungssysteme am Beispiel des Sozialwesens ......................... 229
8.3.1 Erweiterung professioneller Handlungskompetenz ..................................................... 230
8.3.2 Verminderung von Entscheidungskompetenz, Handlungsoptionen und Autorschaft . 236
8.4 Predictive Policing – KI in der Kriminalitätsbekämpfung .......................................... 241
8.5 Fazit und Empfehlungen .............................................................................................. 247
TEIL III: QUERSCHNITTSTHEMEN UND ÜBERGREIFENDE EMPFEHLUNGEN
9 Zusammenfassung der bisherigen Analyse ............................................................. 253
9.1 Anthropologische und ethische Grundorientierung ..................................................... 253
9.2 Einsichten aus den Anwendungsfeldern ...................................................................... 256
10 Entfaltung von Querschnittsthemen und Empfehlungen ...................................... 261
10.1 Querschnittsthema 1: Erweiterung & Verminderung von Handlungsmöglichkeiten .. 261
10.2 Querschnittsthema 2: Wissenserzeugung durch KI und der Umgang mit
KI-gestützten Voraussagen .......................................................................................... 263
10.3 Querschnittsthema 3: Die Gefährdung des Individuums durch statistische
Stratifizierung .............................................................................................................. 265
10.4 Querschnittsthema 4: Auswirkungen von KI auf menschliche Kompetenzen und
Fertigkeiten .................................................................................................................. 267
10.5 Querschnittsthema 5: Schutz von Privatsphäre und Autonomie versus Gefahren
durch Überwachung und Chilling-Effekte ................................................................... 270
10.6 Querschnittsthema 6: Datensouveränität und gemeinwohlorientierte Datennutzung .. 272
10.7 Querschnittsthema 7: Kritische Infrastrukturen, Abhängigkeiten und Resilienz ........ 276
10.8 Querschnittsthema 8: Pfadabhängigkeiten, Zweitverwertung und
Missbrauchgefahren ..................................................................................................... 279
10.9 Querschnittsthema 9: Bias und Diskriminierung ......................................................... 281
10.10 Querschnittsthema 10: Transparenz und Nachvollziehbarkeit – Kontrolle und
Verantwortung ............................................................................................................. 284
10.11 Fazit ............................................................................................................................. 286