In Zukunft Chatbot ​statt Gebet?

Künstliche Intelligenz (KI) begegnet uns im Alltag immer öfter. Die Prognosen zeigen, dass ihre Präsenz weiter zunehmen wird. Wie sollen die Gläubigen damit umgehen? Werden wir bald nur noch mit einem «KI-­Jesus» sprechen? Wo muss die Kirche Verantwortung übernehmen, wenn es um KI geht? Auf diese und weitere Fragen hat uns Theologe und Philosoph Prof. Dr. Peter G. Kirchschläger Antworten geliefert.

Künstliche Intelligenz durchdringt unsere Leben als Individuen und als Gesellschaft. Ganz allgemein: Welche Auswirkungen hat sie auf Religion?

Prof. Peter G. Kirch­schläger: Ich würde grund­sät­zlich dazu ein­laden, im Umgang mit soge­nan­nter «KI» kri­tisch zu sein, auch im Bere­ich von Reli­gion. Daher würde ich auch vorschla­gen, diese Sys­teme nicht als «KI», son­dern als daten­basierte Sys­teme (DS) zu beze­ich­nen, da sie uns Men­schen in gewis­sen Intel­li­genzbere­ichen wohl über­ra­gen, aber für sie als Maschi­nen andere Intel­li­genzbere­iche, wie zum Beispiel emo­tionale und soziale Intel­li­genz, unerr­e­ich­bar sind und bleiben – auf­grund von fehlen­der echter Emo­tion­al­ität oder auf­grund von fehlen­der Moralfähigkeit man­gels Frei­heit. Im Kern geht es bei diesen Maschi­nen um Dat­en, Dat­en, Dat­en. Daten­gener­ierung und ‑samm­lung, Daten­ver­ar­beitung, daten­basierte Hand­lun­gen. Es wäre aus ethis­ch­er Sicht wün­schenswert, wenn Reli­gio­nen Zeit, Orte und Gefässe anböten zur kri­tis­chen Reflex­ion über DS, zum gemein­samen Dia­log über die ethis­chen Chan­cen und Risiken von DS und über ethis­che Lösungsan­sätze. Ausser­dem wäre es gut, wenn sie ihre eigene ethis­che Kernkom­pe­tenz in den öffentlichen Diskurs über DS ein­brin­gen und Men­schen im Umgang mit der Ungewis­sheit, die DS aus­lösen, begleit­en wür­den.

Können datenbasierte Systeme religiöse Erfahrungen ermöglichen? Wenn ja, in welchem Rahmen? Wo liegen die Grenzen?

Kirch­schläger: DS kön­nen aus ethis­ch­er Sicht in vie­len Bere­ichen unseres Lebens pos­i­tiv einge­set­zt wer­den und dazu beitra­gen, dass allen Men­schen ein men­schen­würdi­ges Leben und dem Plan­eten eine nach­haltige Zukun­ft ermöglicht wird. Reli­gion zählt nicht zu diesen Bere­ichen, weil zum Beispiel Pas­toral und Seel­sorge von zwis­chen­men­schlich­er Inter­ak­tion und von Beziehun­gen leben. Da kön­nen die DS nichts bieten. Es mag ja sein, dass wir mit solchen DS gewisse Men­schen erre­ichen. Wir soll­ten aber aus ethis­ch­er Per­spek­tive kri­tisch hin­ter­fra­gen, wie, wom­it und wofür wir sie mit DS erre­ichen. Wir Men­schen soll­ten viel kri­tis­ch­er und ethisch informiert entschei­den, ob und wie wir eine Tech­nolo­gie schaf­fen, nutzen oder aus ethis­chen Grün­den nicht nutzen beziehungsweise sie sog­ar zer­stören.

Datenbasierte Systeme beruhen auf Algorithmen. Sie verfügen nicht über moralische Fähigkeiten. Nehmen wir an, ich unterhalte mich mit einem «KI-Jesus». Je nachdem, mit welchen Daten er gefüttert wurde, fallen seine Antworten auf bestimmte ethische und moralische Fragen unterschiedlich aus. Wie anfällig sind «KI-Jesusse/Götter» für die moralische Manipulation der Nutzenden? Wie können die Menschen davor geschützt werden?

Kirch­schläger: Eine der grössten Her­aus­forderun­gen und Risiken stellt bere­its in der Gegen­wart die poli­tis­che und ökonomis­che Manip­u­la­tion dar. Auf­grund der grossen Daten­sätze, die DS sam­meln und gener­ieren, «ken­nen» uns DS bess­er als wir uns selb­st. Sie wis­sen genau, welche Punk­te wie ange­sprochen wer­den müssen, um bei uns die durch die DS angestrebte poli­tis­che Wahl-/Ab­stim­mungsstimme oder Kaufentschei­dung zu bekom­men. Eine Ausweitung der Manip­u­la­tion auf das Religiöse wäre fatal. Gle­ichzeit­ig stehlen DS im religiösen Bere­ich nicht nur Dat­en über das, wer und wie wir sind (Ver­hal­tens­muster) sowie was wir wollen (Inter­essen, Präferen­zen), son­dern auch noch darüber, woran wir glauben und worauf wir hof­fen, was uns schliesslich noch weit ver­let­zbar­er macht.

Kann es auch eine Chance sein, sich mit einem KI-Jesus zu unterhalten?

Kirch­schläger: Aus ethis­ch­er Per­spek­tive beste­hen hier nur Risiken, keine Chan­cen. Denn ein solch­es DS – ein gen­er­a­tives DS – ist bildlich gesprochen nichts anderes als eine wiederkäuende Kuh, weil sie nur das wiederkäuen und dann ausspuck­en kann, was ihr als Dat­en bere­its einge­speist wor­den ist. Erschw­erend kommt noch hinzu, dass das Kri­teri­um der Wahrhaftigkeit keine Rolle spielt. Ein DS liefert etwas, das syn­tak­tisch kor­rekt ist und seman­tisch einiger­massen passt; ob die Inhalte stim­men oder nicht, erweist sich als neben­säch­lich. Wir Men­schen hinge­gen streben zumin­d­est danach, dieses Kri­teri­um zu erfüllen.
Ein dies­bezüglich­er konkreter Hand­lungsvorschlag aus mein­er Forschung umfasst, men­schen­rechts­basierte DS zu schaf­fen. Men­schen­rechts­basierte DS bedeutet, dass im gesamten Leben­szyk­lus von DS die Men­schen­rechte respek­tiert wer­den, d.h. beim Design, bei der Schür­fung der für DS notwendi­gen Rohstoffe, bei der Pro­duk­tion, bei der Nutzung und auch bei der Nicht­nutzung von DS auf­grund von Men­schen­rechts­be­denken. Gle­ichzeit­ig sollte für die Durch­set­zung men­schen­rechts­basiert­er «KI» eine Inter­na­tionale Agen­tur für daten­basierte Sys­teme (IDA) bei der UNO geschaf­fen wer­den – nach dem Mod­ell der Inter­na­tionalen Atom­en­ergiebe­hörde (IAEA), d.h. «mit Zäh­nen». Das meint, dass sie neben ein­er Plat­tform für tech­nis­che Zusam­me­nar­beit auch die Funk­tion ein­er Mark­tzu­las­sungs- und Mon­i­tor­ing­be­hörde erfüllen soll, um men­schen­rechtsver­let­zende und kli­ma- und umweltzer­störende DS zu ver­hin­dern.

KI ist geduldig. Ist es wichtiger, dass ein Gegenüber sich Zeit für einen nimmt, zuhört und auf einen eingeht, als dass es ein richtiger Mensch ist?

Kirch­schläger: Nein, es ist ein­deutig wichtiger, dass das Gegenüber ein richtiger Men­sch ist und dass wir uns als Men­schen gegen­seit­ig füreinan­der Zeit nehmen, denn DS sind nicht echt und haben wed­er Gefüh­le noch Empathie, son­dern simulieren Let­ztere nur und täuschen uns etwas vor. DS kön­nen nur das aus­führen, was wir ihnen antrainiert haben. Dies bedeutet, dass DS die Inter­ak­tion mit uns nicht ein­mal egal ist. DS haben über­haupt keinen Bezug dazu. DS erweisen sich auch nicht als fair, neu­tral und objek­tiv, denn sowohl die Dat­en als auch die Algo­rith­men, die DS aus­machen, ken­nen Verz­er­run­gen, soge­nan­nte «bias­es». Natür­lich haben wir Men­schen auch Vorurteile, aber wir kön­nen uns selb­stkri­tisch damit auseinan­der­set­zen und dazu ver­hal­ten.

Es gibt Schätzungen, dass ein Auftrag an einen Chatbot dreimal mehr Treibhausgase zur Folge hat als eine Google-Anfrage. Im Wissen darum und in der Sorge um die Mitwelt, dürfen wir uns dieser Technologie bedienen?

Kirch­schläger: Meines Eracht­ens erhal­ten die neg­a­tiv­en ökol­o­gis­chen Auswirkun­gen von DS viel zu wenig Aufmerk­samkeit. Natür­lich ist zu hof­fen, dass DS uns Men­schen dabei unter­stützen, Wege zu find­en, wie wir Kli­ma- und Mitweltzer­störung ein Ende set­zen kön­nen. Aber das ist noch Zukun­ftsmusik, bei der eine Unsicher­heit mitk­lingt, ob das über­haupt der Fall sein wird. Frap­pante Gegen­wart ist aber bere­its das ethis­che Prob­lem, dass DS die Mitwelt mas­siv belas­ten und zur Kli­maz­er­störung beitra­gen, was wir als poten­zielle Nutzende von DS berück­sichti­gen soll­ten. Daher wäre es auch eine zen­trale Auf­gabe von IDA bei der UNO, sich kon­se­quent für nach­haltige DS einzuset­zen – «mit Zäh­nen».

Priestermangel hier, nicht genug Personal da. Wenn Sie eine Prognose abgeben müssten: Wie könnte eine KI-integrierende Kirche in 10/20 Jahren aussehen?

Kirch­schläger: Es man­gelt defin­i­tiv nicht an Men­schen, die sich in der Kirche beru­flich engagieren wollen, son­dern es gibt dies­bezüglich eine drin­gen­den Reformbe­darf in der Kirche selb­st im Sinne ein­er Men­schen­recht­shermeneu­tik, um dies­bezügliche Diskri­m­inierun­gen von Men­schen zu been­den. Ich würde basierend auf mein­er Forschung dazu ein­laden, dass sich die Kirche in ihrem Wirken hin­sichtlich DS auf die Alle­in­stel­lungsmerk­male der Men­schen im Ver­gle­ich zu Maschi­nen fokussiert und diese fördert sowie zur Gel­tung kom­men lässt, näm­lich u. a. Zwis­chen­men­schlichkeit, Moralfähigkeit, Empathie, kri­tis­ches Denken, Kreativ­ität, Sinns­tiftung. Darüber hin­aus sollte sich die Kirche mit ihrer eige­nen ethis­chen Kernkom­pe­tenz viel stärk­er in den demokratis­chen Mei­n­ungs­bil­dungs- und Entschei­dungs­find­ung­sprozess zur Nutzung und auch ethisch basierten Nicht­nutzung von DS ein­brin­gen. Schliesslich wäre es von einem ethis­chen Stand­punkt aus hil­fre­ich, wenn die Kirche auch ein Ort wäre, wo Men­schen gemein­sam nach Antworten suchen kön­nen und Begleitung erfahren für den Umgang mit all den Ungewis­sheit­en, die der so ras­ant voran­schre­i­t­ende tech­nol­o­gis­che Fortschritt aus­löst, z. B. was die mas­sive Reduk­tion von bezahlten beru­flichen Auf­gaben für Men­schen bedeutet, wofür wir Zeit sin­nvoll ein­set­zen, wenn wir keinem bezahlten Beruf mehr nachge­hen müssen/können, wo alter­na­tive Quellen von Sinns­tiftung und Iden­tität liegen kön­nten, …