Künstliche Intelligenz

Arbeitsergebnisse: Thesen für eine KI-kompetente Gesellschaft

Im Rahmen der Tagung „Autonom? – Kompetentes Leben und Arbeiten mit KI-Systemen aus protestantischer Perspektive“ im November 2020 fassten die Veranstalter Thesen zu den Arbeitsergebnissen zum Thema künstliche Intelligenz zusammen.

Sie können hier die Thesen nachlesen oder sie sich hier als PDF herunterladen.

Thesen für eine KI-kompetente Gesellschaft 

Bereits heute liegt eine wachsende Vielfalt an ethischen Leitlinien zur künstlichen Intelligenz (KI) vor, von Richtlinien der EU über die Empfehlungen der Enquete-Kommission des Deutschen Bundestages bis zu Verbänden, einzelnen Unternehmen, Gewerkschaften und anderen Akteur*innen. Gleichzeitig schreiten die Konventionalisierung und Konfektionierung von Anwendungen autonomer KI-Systeme in der Medizin, Marketing, Verkehr, Produktion, Militär und anderen gesellschaftlichen Bereichen unaufhaltsam voran und verändern unser Leben und Arbeiten.

Welche ethischen Maßstäbe werden bei Entwicklung und Nutzung von KI-Systemen – auch unter Bedingungen der Ungewissheit– in unterschiedlichen Handlungsfeldern tatsächlich angewendet? Wie gut ist die Gesellschaft für die weitere Entwicklung und Anwendung maschineller autonomer Systeme gerüstet? Welche konkreten Antworten gibt protestantische Ethik für den sinnvollen Umgang heute und die zukünftige Gestaltung von KI-Systemen? Wir wenden den Blick damit auf unsere Kompetenzen als Person und auf unsere Gesellschaft, um mit künstlicher Intelligenz in Zukunft gut umgehen zu können.

Im Nachgang zur Tagung „Autonom? – Kompetentes Leben und Arbeiten mit KI-Systemen aus protestantischer Perspektive“ im November 2020 werden hier als deren Ergebnis die interaktiv mit Expert*innen und den Teilnehmenden erarbeiteten Thesen für eine KI-kompetente Gesellschaft in den Bereichen Bildung/Gesellschaft, Wirtschaft/Arbeitswelt und Kirche/Diakonie vorgestellt. Sie formulieren Zielsetzungen und Erfolgsfaktoren für einen sinnvollen und verantwortlichen Umgang mit autonomen KI-Systemen mit Blick auf konkrete Bildungsanforderungen und Arbeitsverhältnisse in unterschiedlichen Lebensbereichen. Darin wird auch die Perspektive einer christlichen Ethik der KI sichtbar.

30.11.2020

Prof. Dr. Jörg Kopecz, Arbeitskreis Evangelischer Unternehmer (AEU@kopez.net)

Prof. Dr. Georg Lämmlin, Sozialwissenschaftliches Institut der EKD (georg.laemmlin@si-ekd.de)

Prof. Dr. Tobias Popovic, Hochschule für Technik Stuttgart (tobias.popovic@hft-stuttgart.de)

1. KI-Kompetenz in Bildung und Gesellschaft

1.1 Ausgangslage

Die exponentielle Entwicklung und Nutzung künstlicher Intelligenz stellt enorme Herausforderungen an unsere Bildungswesen und an unsere gesellschaftlich/demokratischen Prozesse. Voraussetzung für eine auch zukünftig gute Entwicklung unserer gesellschaftlichen und ethischen Werte ist umfangreiche Kompetenz im Umgang mit KI.

1.2 Zielsetzung

Der Mensch muss verstärkt Verantwortung für seine Selbstbildungsprozesse übernehmen. Formale und non-formale Bildungsbereiche sind heute besonders gefordert, Lernende dabei zu unterstützen, Selbstlernkompetenz zu entwickeln.

Es gilt, die Freude am Entdecken neuer Möglichkeiten und Zusammenhängen lebenslang zu erhalten und zugleich neue Entwicklungen kritisch reflektieren zu können. Formales, non-formales und informelles Lernen wird zunehmend digitale Unterstützung nutzen. Hierdurch ergeben sich Chancen für individuelles, selbstbestimmtes Lernen und Erforschen.

Digital Literacy zielt als Kompetenz auf Kenntnisse (Algorithmen kennen), Fertigkeiten (Algorithmen nutzen und anwenden können) und Fähigkeiten (Algorithmen in ihrer Auswirkung reflektieren können und ethisch und digital-hermeneutisch beurteilen zu können). Das führt zu einer digitalen Souveränität und Handlungsfähigkeit. Diese gehört zum Recht auf lebenslanges Lernen und Bildung für jeden Menschen (SDG 4) in jedem Lebensalter. Daher gilt es, dieses Recht auf Bildung zur kompetenten Orientierung politisch aufzunehmen und bildungsstrukturell zu verankern. Alle Generationen müssen in diesen Prozess einbezogen werden.

Des Weiteren gilt es:

• Die personale Kompetenz zu fördern und Menschen mit Veränderungsoffenheit, Neugier, sozialer Kompetenz und Wertorientierung zu bilden. Hier gewinnt religiöse und ethische Bildung an Bedeutung, die auch das christliche Menschenbild umfassend achtet.
• Durch Vermittlung von Fachwissen müssen breite Bevölkerungsschichten regelrecht aufgeklärt werden, um eine gesellschaftliche Teilhabe an und Akzeptanz von KI zu erreichen. Ziel sollte es sein, eine Polarisierung zwischen „KI-Verlierenden“ und „KI-Gewinnenden“ i. S. eines „Digital Divide“ von vornherein zu vermeiden und Brücken zwischen unterschiedlichen gesellschaftlichen Gruppen zu bauen. Dazu braucht es mehr Lehrkräfte mit einschlägiger technischer Expertise.
• Konkret sind mit KI-Kompetenz („AI-Literacy“) gemeint: (1) Verantwortungskompetenz, (2) Reflektionskompetenz mit dem Ziel der Urteilsfähigkeit, Mündigkeit und Souveränität im Umgang mit und der Gestaltung von KI, (3) Kommunikations- und Kooperationskompetenz, um gemeinschaftlich zukunftsorientierte und verantwortungsvolle Lösungen zu entwickeln,
  (4) Prozesskompetenz, i. S. der in (1) bis (3) beschriebenen europäischen Prozesskultur, (5) Gestaltungs- und Spezifizierungskompetenz für die mitbestimmte Entwicklung KI-gestützter betrieblicher Abläufe, (6) als Fähigkeit, KI technologisch sachlich und inhaltlich zu verstehen.
• Neue Formen des Lernens wie z. B. die Vielfalt der digitalen Bildungsportale oder konkreter Projekte (eigene Forschungen, Ausbildung zum Hacken …) sind intensiv zu fördern.
• Die digitale Fachkompetenz im Miteinander der Disziplinen, Fächer und kulturellen Techniken des Menschen, über die der kreative Umgang mit Komplexität und Ambiguität gelernt wird, muss weiterentwickelt werden.

KI stellt Anforderungen an Individuen, Institutionen und Gesellschaft. Die Auswirkungen auf Meinungsbildung, Geschwindigkeit von Informationsbeschaffung, -verarbeitung und -verbreitung, Konsensbildung etc. müssen auf allen Ebenen in den Blick genommen werden. KI kann Fake-News ebenso produzieren wie sie entlarven. Eine KI-basierte Schlussfolgerung muss überprüfbar sein. Die Prozesshaftigkeit dieser Vorgänge braucht Zeit.

Die Chancen, die KI z. B. im Bereich der Medizin, der Automatisierung von redundanten Tätigkeiten bietet, dürfen nicht den kritischen Blick auf mögliche gesellschaftliche Konsequenzen dieser Technologie verdecken. So ist kritisch zu sehen, dass die Nutzung und Entwicklung von KI durch große global agierende Unternehmen getrieben wird und sich der gesellschaftlichen Mitgestaltung und Kontrolle weitgehend entziehen kann.

1.3 Kritische Erfolgsfaktoren für den Einsatz von KI

Die gesellschaftliche Verständigung auf eine gemeinsame Wirklichkeit ändert sich durch Digitalisierung und KI. Wir benötigen Raum und Zeit für Konsensbildung und geteilte Erfahrungen. Wenn wir digital miteinander kommunizieren, mit einem Computer die Welt erkunden, brauchen wir die Mittel, unsere Gesellschaft im Dialog zu halten.

Ein Gütesiegel für eine ethische KI und eine digitale Hermeneutik können hilfreiche und machtvolle Instrumente sein, menschliche Errungenschaften mit KI zu teilen.

2. KI-Kompetenz in Wirtschaft und Arbeitswelt

2.1 Ausgangslage

KI ist eine Schlüsseltechnologie, die viele Chancen bietet und ein dynamisierender Faktor unserer wirtschaftlichen Entwicklung in Deutschland, Europa und in der Welt der nächsten Jahrzehnte sein kann. In Wirtschaft und Verwaltung bietet sie die Chance, Arbeitsabläufe noch viel stärker als bisher zu automatisieren und damit unser Land und unsere Wirtschaft wettbewerbsfähiger zu machen. Belastende Routinetätigkeiten und schwere körperliche Arbeit werden zunehmend zugunsten von höherqualifizierten Tätigkeiten verschwinden.

Die Komplexität und Veränderungsgeschwindigkeit von KI führt jedoch in Teilen der Gesellschaft zu Unsicherheit, Angst und Bedenken – insbesondere zu der Sorge, dass der Einsatz von KI einen Abbau zahlreicher – auch hochqualifizierter – Arbeitsplätze mit sich bringen könnte. Weitere ethische und soziale Spannungsfelder ergeben sich bspw. hinsichtlich einer potenziellen Überwachung von Mitarbeiter*innen, der Privatsphäre von Kund*innen, dem Einsatz von KI in sensiblen Branchen (z. B. Rüstungsindustrie), etc. Zudem stellt sich die Frage, welche Auswirkungen diese Entwicklungen auf die Autonomie von Unternehmen und ihren Mitarbeiter*innen haben. Ebenso ist zu beantworten, wie – im Sinne der „Triple-Bottom-Line“ – ein Nutzen („Impact“) auf wirtschaftlicher, sozialer und ökologischer Ebene zu erzielen ist. Auch geht es um die Frage, wie ein europäischer Weg beschritten werden kann. Was sind die Voraussetzungen dafür, dass in Deutschland im internationalen Wettbewerb mit den USA und China ein zukunftsorientierter, verantwortlicher und protestantischer Weg aktiv mitgestaltet werden kann?

2.2 Zielsetzung

Im Vordergrund sollte das Ziel stehen, die sich durch KI ergebenden Chancen für Mensch, Wirtschaft, Gesellschaft und Umwelt zuversichtlich zu ergreifen. Unternehmen können durch die zielgerichtete Nutzung von KI ihre internationale Wettbewerbsfähigkeit stärken. Insofern sollte also nicht die Frage im Vordergrund stehen, ob wir KI in Wirtschaft und Gesellschaft einsetzen, sondern wie wir sie zukunftsorientiert ausgestalten. KI soll dem Menschen in Ihrem Lebenswandel dienen, Beschäftigung und Qualifikation fördern, Wettbewerbsfähigkeit sichern und unternehmerisches Handeln unterstützen. Hierbei gilt es, die Stärken und die Vielfalt des deutschen Wirtschaftssystems im Kontext des globalen Wirtschaftssystems zu nutzen. Dies sind zum einen die Prinzipien der sozialen Marktwirtschaft, zum anderen aber auch das erfolgreiche Zusammenspiel von global agierenden Großunternehmen, dem Handwerk und dem Mittelstand als Rückgrat der deutschen Wirtschaft. Zudem können das in der Europäischen Wirtschaft verbreitete systematische Prozessmanagement, die tiefe inhaltliche Durchdringung betrieblicher und technologischer Prozessabläufe und deren auf Qualität ausgerichtete Standardisierung einen definierten Rahmen für KI-unterstütze Abläufe in den Unternehmen bilden. Diese europäische Prozesskultur kann als eine Kernkompetenz einen Wettbewerbsvorteil im internationalen Vergleich ermöglichen.

Kompetenzentwicklung durch umfangreiche Bildung: Wie im Bereich „Bildung und Gesellschaft“ beschrieben, muss personale Kompetenz gefördert werden. Um im Rahmen der in Deutschland erfolgreichen Mitbestimmung bei der Neugestaltung betrieblicher Abläufe mit KI zu besseren und akzeptierteren Lösungen zu kommen, muss Wissen insbesondere an die betrieblichen Interessensvertreter*innen vermittelt werden. Hierzu zählen die bereits im Bereich Bildung genannten Kompetenzen:

• Verantwortungskompetenz,
• Reflektionskompetenz mit dem Ziel der Urteilsfähigkeit, Mündigkeit und Souveränität im Umgang mit und der Gestaltung von KI,
• Kommunikations- und Kooperationskompetenz, um gemeinschaftlich zukunftsorientierte und verantwortungsvolle Lösungen zu entwickeln,
• Prozesskompetenz, i. S. der vorstehend genannten europäischen Prozesskultur,
• Gestaltungs- und Spezifizierungskompetenz für die mitbestimmte Entwicklung KI-gestützter betrieblicher Abläufe,
• KI-Kompetenz („AI-Literacy“) als Fähigkeit, KI technologisch sachlich und inhaltlich zu verstehen. KI-Kompetenz stellt somit die Grundlage für die Entwicklung der anderen vorgenannten Kompetenzen dar.

2.3 Kritische Erfolgsfaktoren für den Einsatz von KI

• Humanistischer Mindset, Aufklärung im klassischen Sinne, um weite Teile der Gesellschaft KI-mündig werden lassen zu können,
• Bildung i. S. eines umfassenden lebenslangen Lernens,
• Transparenz und Erklärbarkeit als Grundlage für Vertrauen (z. B. durch eine anbieterseitige Kennzeichnungspflicht bei Nutzung von KI),
• Vorurteilsfreiheit („Freedom from Bias/Prejudice“), um ergebnisoffen unter Berücksichtigung unterschiedlicher Bedarfslagen verantwortungsvolle KI-Lösungen zu entwickeln,
• Schaffen von Kompensationsmechanismen für kurzfristige „KI-Verlierende“,
• Einbeziehung des Mittelstands und Handwerks anstelle einer Fokussierung auf Großunternehmen,
• zukunftsorientierte Weiterentwicklung der in Deutschland erfolgreich praktizierten Mitbestimmung.

Ethische Prinzipien sollten konkret auf die Aufgaben der Unternehmen bezogen werden und bei der Entwicklung und organisierten Einführung von KI-Systemen eine Rolle spielen. Es empfiehlt sich, eine Vielfalt ethischer Ansätze hierbei zu berücksichtigen, hierzu zählen insbesondere protestantische Verantwortungsethik, Gesinnungsethik, utilitaristische Ansätze, Daten- und Maschinenethik sowie ggf. die UN SDGs. Letztere bringen aufgrund ihrer weltweiten, kulturraumübergreifenden Verbreitung die Chance einer internationalen Verständigung auf ethische Mindeststandards mit sich. Für Unternehmen können die EU-Guidelines für Trustworthy AI einen wichtigen Orientierungspunkt darstellen. Von einer protestantischen, zukunftsgewandten Verantwortungsethik kann ein Gestaltungsbeitrag ausgehen. Hierbei kann der Austausch mit Kirche und Diakonie fruchtbare Impulse liefern.

3. KI-Kompetenz in Kirche und Diakonie

3.1 Ausgangslage

Im Übergang von Digitalisierung zum Einsatz von KI in Verwaltungs- und Beratungsvorgängen liegen Entwicklungspotentiale. Die in den Kirchen und in diakonischen Einrichtungen vorhandenen Daten können durch entsprechende Möglichkeiten intelligenter Datenanalyse stärker für die Spezifizierung von Angeboten, Verbesserung der Kommunikation und effiziente Planung und Nutzung von Ressourcen und Kapazitäten verwendet werden. Nutzung von KI kann auch zur Optimierung der Organisation religiöser Kommunikation dienen, indem sie zur Datenanalyse in der Mitglieder- und öffentlichen Kommunikation und zu deren adressatengerechten Ausrichtung verwendet wird. Dies setzt die Fähigkeit zu komplexerer personaler Kommunikation voraus, die durch KI unterstützt, nicht aber ersetzt werden kann, wie im Bereich Bildung und Gesellschaft beschrieben. Dies könnte in Projekten der zielgruppenspezifischen Mitgliederkommunikation beispielsweise im Rahmen von „Kasualagenturen“ konkret erprobt werden.

Wenn der Einsatz „intelligenter Systeme“ in Zusammenarbeit mit anderen Entwicklern*innen und Anwendern*innen erfolgt (z. B. Visualisierung von Kirchen in Routenplanern, Gemeinde-Apps), muss die Frage des Datenschutzes und der Datensicherheit geklärt sein. Unter den Bedingungen des Datenschutzes könnten die vorliegenden Daten mithilfe von KI sinnvoll und nutzbringend ausgewertet und für ein Training von lernenden Systemen eingesetzt werden. Datenanalyse könnte − zusätzlich zur „analogen Beobachtung“ − für die Analyse und Beschreibung des Sozialraums kirchlicher und diakonischer Praxis für die Entwicklung menschendienlicher Angebote stärker genutzt werden, unter Beachtung der Grundsätze des Datenschutzes und der freien Selbstbestimmung der Menschen. Dies könnte − analog zur „customer journey“ − zur individuellen Abstimmung der Kommunikation mit den Menschen (bzw. Mitgliedern) beitragen und die kirchliche Kommunikation erweitern und stärken.

3.2 Zielsetzung

Kirche hat eine hohe Qualität in der Begleitung von Menschen im Lauf ihres Lebens. Wenn diese Fähigkeit in die Digitalisierung übertragen wird, muss die informationelle Selbstbestimmung der Menschen in der „member journey“ bei den Mitgliedern erhalten bleiben! Beim Einsatz von KI in Kommunikations-, Beratungs- und Entscheidungszusammenhängen muss die „Subjektqualität“, der Spielraum zur eigenen Entscheidung, gewahrt bleiben. Eine Aufgabe besteht darin, in der theologischen Ausbildung die Fokussierung auf Sprache auf Kommunikation zu erweitern und darin auch digitale Kommunikation einzubeziehen. Die (noch herzustellende) Kompetenz zum Umgang mit Digitalisierung und KI-Systemen kann aber nicht allein auf Theolog*innen ruhen, vielmehr liegt sie bei allen Mitgliedern, die in diesem Bereich professionell kompetent sind.

In der Diakonie verspricht KI großen Nutzen: Sie hilft, Prozesse zu verbessern, Arbeit zu erleichtern, neue Dienstleistungen zu erschließen sowie Lebensqualität und Sicherheit zu erhöhen. Dabei geht es darum, Einsatzgebiete auszuloten, in denen die Anwendung sinnvoll Menschen unterstützt, ergänzt oder ihr Fehlen (etwa in der Pflege) ersetzt. Sie kann die Pflegenden von belastenden Routinen befreien und ihnen mehr Raum für menschliche Zuwendung ermöglichen. Dabei ist Orientierung an den Bedürfnissen der Menschen entscheidend, in der die Unterscheidung zwischen einem menschlichen und einem technischen Gegenüber transparent sein muss und der Entscheidung der Betroffenen untersteht.

Der Einsatz von KI in Kirche und Diakonie kann zum Modell einer ethischen Verwendung dienen, sofern er gerade hier unter strenger Orientierung am Kriterium der menschlichen Autonomie und Erhaltung und Erweiterung von Freiheitsräumen erfolgt.

3.3 Kritische Erfolgsfaktoren

Kirche kann sich in diesen Diskurs nur dann einbringen, wenn sie bereit ist, qualifiziert in die Auseinandersetzung mit Akteur*innen in Entwicklung und Anwendung (Informatik, Natur- und Technikwissenschaften, Wirtschaft) zu treten, um sich mit ihrer Werthaltung der Menschen-Dienlichkeit, dem christlichen Menschenbild und der Orientierung an Autonomie, Gerechtigkeit, Nachhaltigkeit einzubringen. Dazu muss sie …

• Forschungs- und Entwicklungsinteressen bewerten, die der Formulierung von Zielen und der Vergabe von Ressourcen zugrunde gelegt werden.
• Entwicklungs- und Anwendungsprozesse ethisch begleiten, um eine Gestaltung von Technik zu erlangen, die sich am Nutzen für die gesamte Gesellschaft orientiert.

Mit der Orientierung am christlichen Menschenbild trägt die Gestaltung der Technik zugleich der menschlichen Fähigkeit und Kreativität Rechnung, wie der Verletzlichkeit und Endlichkeit des Menschen.