Markus Gabriel: «Ethische Intelligenz» (Teil 1) – Darstellung & kritische Einordnung

00:00:00: Bevor es richtig losgeht mit dieser Folge von Mindmaps, eine kurze Vorbemerkung Peter und ich sprechen über Markus Gabriels neuestes Buch Ethische Intelligenz.

00:00:13: Und der Text hat uns zu so vielen konstruktiv kritischen Gedanken angeregt das sich Das Gespräch auf fast zwei Stunden gedehnt hat, weshalb wir uns dann auch entschieden haben, zwei Folgen von Mindmaps draus zu machen.

00:00:29: In dieser ersten Folge stellen mir vor allem die Grundgedanken das Anliegen von Markus Gabriel mit diesem Buch vor und beginnen mit der kritischen Analyse.

00:00:42: in der zweiten Folge werden wir dann stärker noch in eine philosophische Kritik des Buches eintauchen und schauen, was sich aus dem Buch für unsere Zeit und auch für das Menschsein – auch theologisch bestimmte Menschsein in unserer Zeit ableiten lässt.

00:01:05: Viel Spaß mit dieser Auseinandersetzung mit einem kontroversen und auf jeden Fall anregenden Buch!

00:01:17: Mindmaps der Philosophie Podcast Unsere Gegenwart Neulesen.

00:01:33: Mindmaps ist wieder da mit einer Folge in der neuen Mindmapse-Reihe, in der wir – das ist Heinz Peter Hempelmann Professor für Religionsphilosophie und Systematische Theologie ein langjähriger Freund von mir und ich meine Wenigkeit reformierter Theologe in der Wir uns über Bücher unterhalten, die im Moment ein Vogue sind, Sachbücher, die überall besprochen werden oder die Einblicke in unsere Zeit und Gesellschaft erlauben.

00:02:08: Und philosophische Rückfragen provozieren!

00:02:13: Auf dieses Gespräch und dieses Buch habe ich mich schon lange gefreut.

00:02:18: Ich bin überzeugt, dass es außerordentlich anregend ist auch da wo man nicht mit ihm übereinstimmt.

00:02:26: Wir werden uns über Markus Gabriels neuesten Bestseller ethische Intelligenz unterhalten.

00:02:34: Markus Gabriel ist uns schon einmal begegnet.

00:02:38: wir haben nämlich vor einiger Zeit beim Mindmaps eine Folge zum Universalismus, zum ethischen moralischen Universalismus gemacht und da auch über Markus Gabriel gesprochen.

00:02:49: und wie wir in unserem jetzigen Gespräch ziemlich sicher noch erfahren werden, hat dieses ältere Buch von ihm über moralische Tatsachen durchaus auch zu tun mit seiner Vision einer ethischen Intelligenz.

00:03:06: Bevor jetzt aber die Pferde mit mir durchgehen möchte ich dir Peter also dich zuerst einmal sehr herzlich begrüßen Peter!

00:03:14: Sehr schön Podcast in diesem Gespräch zu sein und ich spiel dir den Ball zu, um ein bisschen einzuzumen Markus Gabriel.

00:03:24: Wer ist das?

00:03:25: Warum sollte uns das kümmern oder warum hilft es mit dem Namen irgendetwas

00:03:30: anzufangen?".

00:03:31: Ja vielen Dank für diese Hinführung.

00:03:35: zunächst mal auch von mir aus herzliche Grüße an dich Manuel in die Schweiz aus dem Schwarzwald und ich habe mich auch sehr auf dieses Gespräch gefreut dass in mehrfacher Hinsicht sehr, sehr interessant zu werden verspricht.

00:03:49: Zu Markus Gabel ist eigentlich bekannt geworden.

00:03:53: dadurch das man gesagt hatte es der jüngste Professor Deutschlands.

00:03:57: auf einem philosophischen Lehrstuhl also mit neun zwanzig Jahren ist er nach Bonn berufen worden.

00:04:03: dort sitzt er immer noch is aber auch in zahlreichen Institutionen und Einrichtungen leitend oder als Vorsitzender tätigt.

00:04:12: Man könnte sagen, er ist ein philosophischer Shooting Star nahezu omnipräsent in den einschlägigen Gremien.

00:04:21: Was ich an ihm schätze, ist dass er wirklich Philosophie für unsere Zeit macht.

00:04:27: Packt also alle möglichen relevanten Themen an, ist jetzt gerade nicht der Philosoph im Elfenbeinturm, philosophischen Studien über die philosophische Tradition macht und eine neue Aristoteles Auslegung vorlegt.

00:04:46: Das kann er auch, sondern er ist eben jemand der als Philosoph zu gegenwärtig bedrängenden Fragenstellungen nimmt.

00:04:53: Und das muss man bei allem was dann später vielleicht auch noch kritisch anzumerken ist wirklich zunächst einmal anerkennen.

00:05:02: zu seiner Position.

00:05:04: Er ist einer der Vertreter des sogenannten neuen Realismus, der sich also von daher auch sehr kritisch mit manchen – ich sage es jetzt mal sehr abgekürzt – postmodernen Auswüchsen eines radikalen Konstruktivismus auseinandersetzt und Evidenz basiert, sagt bestimmte Dinge kann man doch eigentlich gar nicht bestreiten und das wird daher noch mal Bedeutung haben wenn wir über die sogenannten moralischen Tatsachen als ein zentrales Theorie Element von dem reden was sein sein Modell eben auch auszeichnet.

00:05:41: Was ich an diesem Buch jetzt zur Abrundung der Vorstellung wirklich auch herausragend finde ist, dass es einer der wenigen Philosophen in Deutschland ohnehin ist.

00:05:54: Die sich die Herausforderungen durch das vielleicht dynamischste Moment in unserer gesellschaftlichen, wirtschaftlich kulturellen Entwicklung stellen.

00:06:10: markiert, worin die Herausforderung besteht.

00:06:13: Er lässt uns da nicht einfach ein Hintertürchen sondern er stellt uns vor den Sachverhalt und sagt ist euch eigentlich schon klar vor welcher Revolution des Zusammenlebens auch das Weltverhältnis es wir hier durch die Entwicklung in der sogenannten künstlichen Intelligenz geführt werden?

00:06:31: Und sind wir darauf vorbereitet und was müssen wir eigentlich tun um diese Entwicklung zu begegnen?

00:06:36: also das wird man jetzt zunächst mal positiv festhalten.

00:06:40: Ja, vielen Dank Peter für die kurze Einführung Markus Gabriel.

00:06:44: Ich schätze eigentlich ihn auch aus... Aus demselben Grund, dass ich das Gefühl habe er hat wirklich eine Leidenschaft dafür gegenwärtige Problemlagen und gegenwärtige Herausforderungen philosophisch zu durchdenken.

00:07:00: Er wirft sich quasi auf alles was im Moment im Gange ist und einer tieferen Reflexion bedarf Und er scheut auch vor einer gewissen Allgemeinverständlichkeit nicht zurück.

00:07:13: Also er scheute sich nicht auch wirklich Bücher zu schreiben Die, die so autonormal Verbraucher eigentlich mit etwas gedanklicher Anstrengung auch lesen und verstehen und nachvollziehen kann.

00:07:27: aus diesem Grund landen seine Bücher auch regelmäßig in den Bestsellerlisten oder verkaufen sich zumindest besser als die meisten literarischen Produkte anderer Philosophen.

00:07:39: Er ist jetzt nicht gerade ein Kiosk-Philosoph wie man es Richard David Recht nachgesagt hat aber also ein Philosoph, dessen Bücher an jedem Kiosk zu kaufen sind.

00:07:50: Aber auf jeden Fall ein populärer Philosoph der in seinen Büchern und auch unzähligen Podcasts und Talkshows usw.

00:08:02: sich zu Wort meldet, wir haben ja in der Vorbereitung uns immer mal wieder so in unserem Chat Quellen zugeschickt und da ist also... Der Podcast ist kein Ende mit Markus Gabriel, in denen er seine Idee einer ethischen Intelligenz in alle Richtungen entfaltet und kritische Fragen aussetzt.

00:08:23: Also ein sehr umtriebiger Typ auch sehr produktiv!

00:08:27: der haut mindestens jedes Jahr ein, zwei Bücher raus.

00:08:31: Jetzt eben sein neustes Werk zur ethischen Intelligenz.

00:08:36: Lass uns mal in einem ersten Teil versuchen seinen Kernideen möglichst gerecht zu werden.

00:08:43: Ich fange mal an und dann kannst du übernehmen wieder Peter.

00:08:46: also so wie ich das Buch verstanden habe auch von der Ausgangslage her versucht er Grundsätzlich einmal im Blick auf die enormen Entwicklungen und Errungenschaften, im Bereich der künstlichen Intelligenz versucht er ein plattes Werkzeugverständnis.

00:09:08: Im Blick auf diese Technik zu überwinden oder zu zeigen dass man nicht mehr allzu weit kommt wenn man einfach sagt ja der Mensch ist der Mensch und bleibt der Mensch Und der macht sich halt Werkzeuge und die Technik ist eine Art von Werkzeug.

00:09:23: Und die künstliche Intelligenz jetzt sein Neustes, und das braucht er einfach – das benutzt er einfach!

00:09:30: Das ist das Ende der Geschichte, sondern für Markus Gabriel ist klar, spätestens in der Verwendung von künstlicher Intelligenzen wirkt das Werkzeug auf dem Gebraucher des Werkzeugs zurück?

00:09:45: In diesem Spätestens wenn es um diese large language models geht, die jetzt in aller Munde sind und auch von allen für alles gebraucht werden.

00:09:57: Da merkt man das prägt auch die Lebenswelt des Menschen seine Wahrnehmung, seine Art der Kommunikation, seine art des Wirklichkeitszugangs.

00:10:08: Sie sortiert vor welche Fakten oder Beobachtungen man überhaupt in den Blick bekommt und so weiter, noch ganz abgesehen von den unzähligen KI-Applikationen die im Einkaufsportalen wie Amazon oder Zalando oder wo auch immer mit verbaut sind.

00:10:30: In denen wir ständig vermessen werden und die KI ein immer feinkörnigeres Verständnis von uns selber kriegt.

00:10:38: also er versucht zu zeigen in diesem Buch Und mal eine, nach meiner Wahrnehmung, fundamentale Grundlinie aufzuzeigen.

00:10:48: Er versucht zu zeigen die KI verändert uns als Menschen auch mit und das ist für ihn quasi unausweichlich.

00:10:57: Es kommt jetzt darauf an dass wir Richtung dieser Transformation unser selbst mitbestimmen und da quasi das Heft in die Hand nehmen.

00:11:10: Und es nicht einfach irgendwelchen Techkonzernen überlassen, sondern in Interaktion, in einer Kooperation mit der künstlichen Intelligenz uns auf einen Lernweg einlassen.

00:11:30: so viel mal dazu magst du anknüpfen.

00:11:33: Ja,

00:11:34: sehr gerne.

00:11:35: Wobei du natürlich entscheidende Sachen jetzt schon referiert hast.

00:11:38: also was mir auch aufgefallen ist ich beziehe mich übrigens nicht nur auf das Buch sondern auf die zahlreichen Podcasts und Gespräche Vorlesungen dir begleitend und vorbereiten teilweise Ende letzten Jahr schon gehalten hat.

00:11:52: wir werden einen Link machen wo man auf diese Quellen dann auch stößt damit ich dass hier nicht nur so behaupte Aber diese Äußerungen müssen natürlich hinzugenommen werden.

00:12:02: Sie sind sogar in besonderer Weise hilfreich, weil man in solchen Veranstaltungen natürlich anders zuspitzt als auf einem in einem hundertsechzig-hundertseptiseitigen Buch und deshalb erlaube ich mir das auch.

00:12:15: also die eine der zentralen Thesen ist tatsächlich nicht nur eine Entwicklung der KI sondern im Grunde eine revolutionäre Entwicklung der Ki mit einer mehrfachen qualitativen Veränderungen verbunden ist.

00:12:31: Diese revolutionäre Entwicklung bedeutet auf der einen Seite eine unglaubliche Mächtigkeit dieses Werkzeugs, die wir uns eigentlich erst seit Shatchity PT also den Large Language Modellen, die für jedermann ja jetzt auch zugänglich sind vorstellen konnten und die uns einfach flasht und überrollt Und ein Eindruck davon verschafft, wie mächtig diese KI ist.

00:13:00: Dass es keinen Menschen gibt oder kann an einer Stelle mal sagen die Gesamtheit der Menschen wäre nicht in der Lage eine KI auf dem Feld von Schach oder irgendeinem anderen Spiel zu besiegen so mächtigt das was uns dort begegnet.

00:13:16: also dieser ungeheure Quantitative Vergrößerung schlägt für ihn dann um das ein ganz, ganz wichtiger Punkt auch für die Interpretation in eine neue Qualität.

00:13:29: Und diese neue Qualitätszeit sich an zwei Stellen... Die eine hast du schon berührt.

00:13:35: Kai ist eben nicht nur etwas was uns instrumentell hilft sondern sie isst etwas dass uns begegnet und Er ist durchaus in der Lage, diese Begegnung auch zu personalisieren und zu personifizieren.

00:13:56: Man bezieht sich dabei auch zurecht darauf dass eine höhere Millionenzahl von Menschen etwa in den USA – wo wir es besonders gut auch schon wissen – KI benutzt als persönliche Begleiter bis zu den Phänomenen, dass sich Menschen eben auch in ihren KI-Assistenten verlieben.

00:14:19: Und hier also ganz offenbar an diesem Beispiel wird es besonders deutlich ein Personales gegenüber spüren.

00:14:27: und die These ist dann wer gibt uns eigentlich das Recht solchen Größen, Personalität, Bewusstsein, Intelligenz abzusprechen wenn sie genauso wirken.

00:14:42: Also, wenn etwas bellt wie ein Hund?

00:14:45: Wenn etwas so aussieht wie ein Hund?

00:14:47: Wenn was so riecht wie einen Hund und so weiter... Was gibt uns an das Recht zu sagen es ist kein Hund!

00:14:54: Das wird doch sehr suggestiv letzten Endes vorgetragen.

00:14:57: mit anderen Worten hier ist nicht mein Instrument dass ich Hand habe dass ich im Griff habe, sondern hier begegnet uns etwas das einen personalen Charakter hat.

00:15:08: Und ich hole jetzt nochmal deinen letzten Gedanke ein, das unglaublich übermächtig ist, dass wir nicht mehr in den Griff bekommen?

00:15:18: Er macht sich in dem Zusammenhang regelrecht lustig über die Bemühungen der EU den Umgang mit KI einzugrenzen, zu normieren bestimmten Regeln zu unterwerfen.

00:15:30: Also dieser Zug ist lange, lange abgefahren und wir haben jetzt eigentlich nur noch die Möglichkeit uns zu dieser neuen Realität erkannt von der Ontologie der Seinbindere des KI, der KI-Sprechen, der AI-Maschinen sag ich mal entmythologisierend dazu ums zu verhalten.

00:15:52: Und die Hoffnung ist dann, dass uns die KI einen Spiegel vorhält, der uns selber erziehen kann und uns letzten Endes zu besseren Menschen macht.

00:16:09: Am Ende soll dann rauskommen eine E-Cook für die ihr an verschiedenen Stellen auch so Leute wie Admar Gandhi nennt Buddha Martin Luther King und Jesus.

00:16:21: Also das ist das, wohin wir uns flüchten und entwickeln können.

00:16:28: Um dieser umfassenden digitalisierten Herrschaft der Maschinen – nein, pardon!

00:16:35: Der künstlichen Intelligenz letzten Endes auch zu entkommen?

00:16:39: Ja ich klipfe da nochmal an, um eine Kernidee vielleicht noch scharfzustellen die mir zum Verständnis seines Ansatzes sehr wichtig scheint.

00:16:53: Gabriel spricht in seinem Buch und eigentlich in allen Podcasts, die ich zu seinem Buch gehört habe gerne von der emotionalen Wende in der Entwicklung von KI.

00:17:04: Und er stellt fest dass die künstliche Intelligenz quasi über lange Zeit hinweg eigentlich als eine maximal potente, maximaleistungsfähige Rechenmaschine verstanden wurde.

00:17:18: Noch ganz im Stil eigentlich dieses rationalistischen Paradigmas der Computer.

00:17:24: die künstliche Intelligenz ist uns an Rechenleistung überlegen und sie ordnet Fakten und erkennt Muster usw.

00:17:33: Und da ist sie also paradigmatisch.

00:17:35: könnte man jetzt Schach den Schachcomputer nennen mit ihrer Fähigkeit, all diese strategisch möglichen Züge zu antizipieren.

00:17:47: und so da ist sie einfach die bessere Rechenmaschine.

00:17:50: Die bessere Kombinatorik usw.. Das hat sich fundamental gewandelt in den letzten Jahren eben im Sinne einer emotionalen Wende, dass die KI eben nicht nur Rechenmaschine ist sondern als Dialogisches gegenüber wie du das gesagt hast Auftritt und auch eben den ganz... Wie sagt man?

00:18:16: Die ganze Wolke von emotionalen Äußerungen mit Einpreis.

00:18:23: In der Sprache von Menschen erkennt, welche Stimmungen sie mitführen.

00:18:28: Welche Unsicherheiten sie prägen in der Art wie wir prompten usw.

00:18:33: Das war mir auch nicht so klar vorher.

00:18:35: ehrlich gesagt dass die großen Modelle die im Umlauf sind das die eben nicht nur die nackte Information unserer Prompts aufnehmen sondern auch die Geschwindigkeit mit der wir das eingeben die das Vokabular verwenden und so weiter.

00:18:53: Und eigentlich weit über die bloße Rationalität hinaus uns quasi anfängt, als emotionales Wesen zu lesen mit Stimmungen und Atmosphären und Gereizheiten

00:19:07: usw.,

00:19:07: die wir mitführen.

00:19:10: Für ihn ist das Zeichen einer emotionalen Wende der künstlichen Intelligenz, wie ich es verstanden habe für ihn wie eine Grundlage ist, um überhaupt dann von einer ethischen Intelligenz zu sprechen.

00:19:24: Das eben referiert ja auch diese Rede vom postfaktischen Zeitalter, die von Angela Merkel auch zitiert oder eingebracht wurde und er sagt ja postfraktisch durchaus in dem Sinne dass wir jetzt sogar und gerade mit der KI über diese Bloße Verrechnung von Fakten und dieses bloß rationalistische Weltverständnis hinauskommen in eine Wirklichkeit, in der eben auch die Emotionen und auch die Stimmungen und alle möglichen Aufladungen des Menschen mit eingepreist werden.

00:20:04: Und das ist für ihn ganz entscheidend wie ich ihn verstanden habe um seine Idee zu entwickeln dass das heutige heutige Modelle künstlicher Intelligenz eben den Menschen in einer breite seiner Lebensäußerungen, seiner Gefühls- und intentionalen und rationalen Äußerung wahrnehmen.

00:20:28: Und vermessen die es dann im zweiten Schritt erlaubt auch Rückschlüsse auf seine moralischen Koordinatensysteme zu ziehen habe ich das einigermaßen getroffen?

00:20:43: hast du das auch so, also weißt du der Link zwischen emotionaler Wände?

00:20:46: und dann das ist ja der entscheidende betitelgebene Begriff dieser ethischen Intelligenz.

00:20:52: Magst du das noch ein bisschen weiterziehen?

00:20:56: Ja

00:20:57: zunächst gerne ja.

00:20:58: und dann will ich aber nochmal zurückkommen auf das was gesagt hat dass ich glaube dass er unter ethischer Intelligenzen noch nicht mal behauptet, dass diese Intelligenze ethisch sei Wenn man, dass es eine Intelligenz ist in Entführungsstrichen die uns ethisch erziehen kann.

00:21:14: Die uns größeren Menschen macht also ich das scheint mir die eigentliche Vorhente zu sein.

00:21:20: Ich bin ganz bei dir bei dieser emotionalen Wende.

00:21:24: Also diese KI ist eine wie ihr abgekürzt sagt emotionale KI.

00:21:30: Es ist eben nicht mehr nur eine Rechnende.

00:21:32: natürlich rechnet sie und da hat die Basis.

00:21:35: was soll sie sonst tun?

00:21:37: Aber sie dringt eben in unser unmittelbares Weltverhältnis ein.

00:21:42: Also man kann sich das so vorstellen, es wird uns eben dann von Amazon.

00:21:46: nicht nur werden uns nicht nur Bücher gezeigt die uns interessieren könnten weil wir andere vorher gekauft haben sondern es wird eben von Google, Amazon und so weiter registriert.

00:21:58: wie lange brauchen wir um bestimmte Worte einzugeben.

00:22:03: Wann zögern wir, welchen Wortschatz haben wir?

00:22:06: Also auf die Millisekunde werden wir letzten Endes abgetastet.

00:22:12: und das ist diese neue Dimension.

00:22:18: dieser Zugriff dieser in das Intime hineingehenden Intelligenz ist im Grunde unentrennbar.

00:22:27: Dieser Diese Eindruck entsteht jedenfalls so weit wir digital kommunizieren und das tun wir ja alle immer mehr, nicht alle aber doch immer mehr und immer sehr viel mehr Menschen in einem immer größeren Umfang.

00:22:41: Und dass ist jetzt der Ausgangspunkt von dem er letztendlich ausgeht.

00:22:45: dann hast du gesagt es gibt mir Anlass auch schon mal zu einer ersten kleinen kritischen Meldung.

00:22:53: diese emotionale Intelligenz hilft zu einem immer besseren Verständnis.

00:22:58: In einem Interview kann er sagen, dass diese KI, das KI ihn uns Menschen insgesamt aber personifiziert hat auch identifiziert sich selbst damit ihn besser im Endeffekt besser kennen würde als er sich selbst weil sie all diese unglaubliche Datenschätze letzten Endes gesammelt hat.

00:23:21: Das ist natürlich schon eine sehr, sehr starke und voraussetzungsreiche These.

00:23:26: Stark jetzt im Sinne von inhaltsreich nicht im Sinne überzeugend.

00:23:32: Ein letzter Punkt um das noch mal zu präzisieren der Unterschied ergrenzt sich im Blick auf diese neue Qualität von Intelligenz in Anführungstrichen muss ich immer dazu sagen von dem Touring-Modell ab.

00:23:52: Allen Turing, der große führende Informatiker zur Zeit des Zweiten Weltkriegs, wo er den Geheimdienst des Deutschen Reiches geknackt hat mit seiner Knackung des Coats, wer zu militärischen Kommunikation nötig war, der dann einen Maß geben auf das geschrieben hat darüber dass Mit dem Ergebnis, das ich eben schon mal kurz referiert habe.

00:24:22: Wenn man fragt ob diese eine solche Maschine im Prinzip und Touring hat er schon sehr weit in die Zukunft gedacht, Bewusstsein habe dann ginge es hier nicht um eine philosophische Unterscheidung sondern letztendlich ist um die Frage kann ich in der Kommunikation mit einem solchen Gerät eigentlich unterscheiden?

00:24:40: wer steckt dahinter sitzt da ein Mensch dahinter?

00:24:43: Oder ist das eben tatsächlich nur ein hochkomplexer Computer, der reagiert?

00:24:49: Bei Turing.

00:24:50: und jetzt kommt entscheidende Punkt nach dieser langen Einleitung.

00:24:53: Bei Tuing wird der Unterschied zwischen Simulation von Bewusstsein und Bewusstseinselber noch festgehalten.

00:25:03: Eben weil er sagt, dass kann ich in bestimmten Verhältnissen nicht mehr unterscheiden aber eher begrifflich ist diese Unterscheidung eben sehr wichtig.

00:25:13: Bei Gabriel wird diese Unterscheidung zwischen bloßer Simulation etwas erscheint als etwas und der Frage ist es, dass denn wirklich treffe ich hier auf einen Bewusstsein mit einem Eigenleben.

00:25:28: Das wird letztendlich preisgegeben.

00:25:29: also den Ball wollte ich gerade noch eins holen.

00:25:32: Ja ja da müssten wir darauf zurückkommen weil sich da ja etwas andeutet was man vielleicht im Stichwort Reduktionismus zusammenfersen könnte.

00:25:41: Da scheint so die kritische Rückfrage auf ja Moment wird hier nicht der Mensch auf gewisse Lebensäußerungen in einer Art und Weise reduziert, die keinen Überschuss mehr zulässt?

00:25:59: Und die Maschine, die künstliche Intelligenz dann einfach ihr dann quasi dieselben, sie mit denselben Begriffen beschreibt so?

00:26:09: Genau.

00:26:09: Lass mich das gerade noch ergänzen und erläutern zuspitzen!

00:26:13: Da wird der neue Realist Markus Gabel zum Pragmatiker.

00:26:19: also er kann da sehr deutlich sagen naja ob die so jetzt bewusst seinem eigentlichen personifizierten Sinne haben ob sie Leben haben und so weiter.

00:26:32: Das sind doch alles ganz schwierige, definitorische Fragen.

00:26:35: die lassen wir einfach mal offen.

00:26:36: ja aber hier würde doch eigentlich die philosophische Klärung mal zunächst beginnen und die notwendigen Differenzierungen die müsste man ja wegen theoretisch festhalten und er weicht da im Grunde auf einen pragmatischen auf eine pragmatische Position außen sagt das ist doch eigentlich Letzte eines nebensächliche Fragen.

00:26:56: Das, was wir wahrnehmen ist – Wir sind geflasht davon einer Wirklichkeit zu begegnen, der wir im Grunde mit gesundem Menschenverstand und auf der Basis unserer staunen Bewusstsein und Intelligenz und auch Leben nicht abspeichen können?

00:27:13: Ja!

00:27:14: Also wir können gleich Ihnen eine auch etwas ich sage mal kritisch konstruktive Distanz zu dem Ansatz gehen.

00:27:22: Ich wollte vielleicht einen einfach diesen Schlüsselbegriff der ethischen Intelligenz nochmal aufgreifen und so versuchen zusammenzufassen Wie Gabriel auf diese Idee kommt, dass die künstliche Intelligenz zu einem Sparringpartner oder zu einem Kooperationspartner in der Herausbildung eines ethischeren Menschseins werden kann.

00:27:49: Eben wie du selbst gesagt hast ich habe ihn auch nicht so verstanden das er sagt die KI ist ethisch sondern die KI hat insofern ethische Intelligenz, als sie so perfektioniert menschliche Verhaltensmuster und die dahinterstehenden Motiveentscheidungen und auch moralischen Wertsetzungen analysieren kann.

00:28:17: Dass sie entdeckt was die leitenden Maximen, die leiteten ethischen Maximum dahinter sind und uns das auch ausspielen kann.

00:28:33: Aufmerksam machen kann zum Beispiel auch auf Differenzen zwischen dem, was wir als ethische Leitlinien und Regeln zu Protokoll geben.

00:28:43: Und dem, das unser Verhalten tatsächlich zu erkennen gibt usw.

00:28:48: Also auf der Linie mit dem von dir zitierten Satz niemand auf der Welt nicht einmal ich selbst verstehe mich so gut wie die KI.

00:28:59: Mich versteht.

00:29:00: auf dieser Linie sagt kann er dann auch die Hoffnung, muss man sagen, hegen dass uns die KI auch zu einem ethischen Selbstverständnis anleiten kann.

00:29:12: Zu einem kritischen Blick auf unser Verhalten und uns dazu führen kann.

00:29:19: Und er denkt das in einem Podcast kommt es sehr stark auch heraus.

00:29:22: Er denkt das auch sehr sehr dialogisch also nicht so dass die KI mir dann einfach sagt tu a oder to be, sondern dass die KI mit mir in einen intelligenten Dialog tritt um mich eigentlich dazu zu führen.

00:29:37: Im besten Falle selber zu der Einsicht zu kommen, die meinen eigentlich moralischen Wertsetzungen am ehesten entspricht oder noch ein einige Umdrehungen weiter gedreht, die eben übereinstimmt mit den moralischen Tatsachen welche die KI aus dem Verhalten nahezu aller Menschen ermittelt.

00:30:03: Das ist schon ein starker Anspruch, er spricht von einem Resonanzfeld das durch die künstliche Intelligenz geschaffen wird also der Mensch und die Künsteintelligenz sind in einem riesigen Resonanzenfeld dass eben diese moralisch relevanten Muster auch sichtbar machen kann.

00:30:25: Und er denkt das schon durch, indem er dann den Anspruch erhebt eine solche ethische Intelligenz müsste auf jeden Fall interdisziplinär angelegt sein.

00:30:40: Also KI-Forschung muss mit allen wissenschaftlichen Disziplinen kooperieren, sie müsste auch transsektorial angelegt Glaspellenspiel sein, sondern die muss verzahnt sein mit Wissenschaft, Wirtschaft, Politik, Zivilgesellschaft, Religion, Kunst und so weiter.

00:31:01: Und transkulturell um diesen Eurozentrismus zum Beispiel, diesen Westwien-Tunnelblick zu überwinden müsste sie eingebettet sein in verschiedenen Kulturen und überall diese moralischen verwende ich schon essenzialistische Sprache, wenn ich sage diese moralische Essenz extrahieren quasi.

00:31:22: Also das ist die Hoffnung, die sich mit der künstlichen Intelligenz bei Gabriel verbindet.

00:31:31: und vielleicht steigen wir mal ein in eine kritische Analyse.

00:31:34: Peter du hast mir im Vorfeld eigentlich seitenweise kritischen Anmerkungen geschickt.

00:31:43: Und ich stimme mit vielen überein, vielleicht magst du mal anfangen?

00:31:49: Ich fand das sehr stark was du zur Kommunikationssituation von Gabriels Buch festgehalten hast.

00:31:56: Du hast quasi zuerst einmal gefragt Was ist eigentlich die Lage aus der er seine Antworten zu geben versucht und hast gezeigt, es ist eine Erzeichne deine Bedrohungslage.

00:32:11: Kannst du das vielleicht stark machen an dieser Stelle?

00:32:14: Das will ich gerne noch tun, wobei du's ja schon gerade angedeutet hast.

00:32:19: Will an einer Stelle nochmal zurückkommen.

00:32:21: zu deinem letzten Beitrag kommt ihr zu seinem Modell und da leuchtet etwas auf was auch theologisch jetzt und religiös interessant sein könnte.

00:32:32: diese Unentrinnbarkeit dieser KI-Maschinen, ich sage drück das jetzt bewusst so distanzierend aus.

00:32:40: Die uns in allem überlegen sind lässt die Frage aufkommen was zeichnet denn eigentlich dem gegenüber den Menschen noch aus?

00:32:47: Ja

00:32:48: und da gibt ja eine sehr sehr interessante Antwort die Imperfektibilität, die Schwäche und interessanterweise in einem gewissen Widerspruch zu dem, was das Modell an sich sagt.

00:33:04: Die Tiefe ist natürlich jetzt, er meint emotionale Tiefe, dass unauslohtbare im Menschen aber dieser Gesichtspunkt der Schwäche dessen, was eben gerade den Gegensatz ausmacht und zu dieser maschinellen Intelligenz Worauf wir uns neu besinnen müssen.

00:33:26: Und deshalb auch die Namen, die ich eben nannte.

00:33:29: Mahatma Gandhi, Jesus Martin Luther King, Mutter Theresa Wien ... Ich glaub, die erwähnt er nicht.

00:33:35: Aber das gehört eigentlich in diese Reihe letztendlich auch hinein und das finde ich um das noch mal zu würdigen schon eine interessante Perspektive, dass jemand hier zu religiösen Wurzeln zurückfindet, die ja nun durchaus zum Kern abendländischer humanitärer Überzeugung gehören und eine religiöse Wurzel haben.

00:33:58: Ja, und reizt zu einer Christologischen Anschlussgedanken?

00:34:04: Ich hoffe wir kommen darauf noch zu sprechen.

00:34:07: Immerhin habe ich es jetzt schon mal angeteilt... Also das ist schon spannend, dass im radikalen Nachdenken was passiert uns eigentlich im Gegenüber zu dieser absolut überlegenden technischen in Anführungsstrichen Intelligenz jemand sich auf die Ursprünge jüdisch-christlichen Gottesglaubens und jüdische christliche Anthropologie besinnt.

00:34:31: Ja!

00:34:32: Was mich vor allen Inhaltlichen auseinandersetzungen Und kritischen Gesichtspunkten, die mir da wichtig sind zunächst einmal doch unangenehm berührt hat.

00:34:44: Um es so offen zu sagen ist der Druck den er ständig aufbaut und das fängt an mit dieser absoluten Betonung der unendlichen Überlegenheit.

00:34:53: Es gibt keinen Bereich mehr in dem etwas berechnet werden kann Indem die Maschine nicht unendlich überlegen ist und wo wir irgendein Punkt noch machen könnten.

00:35:08: Und es hat auch gar keinen Sinn mehr zu versuchen, diese Entwicklung einzuzäumen.

00:35:14: Sondern wir können uns eigentlich nur noch ihr ergeben und können – wie du das eben schon gesagt hast – versuchen eine gewisse Rolle zu spielen in diesem kommunikativen Feld, atmosphärischen Feld, uns da irgendwie einzugleisen und einen Minimum an Einfluss noch zu nehmen.

00:35:31: Aber im Grunde sind wir dieser ganzen Entwicklung nur ausgeliefert Pardon, anti-aufklärisch.

00:35:40: Die Tradition der Aufklärung, die ich mich hier verbunden fühle und in der ich bis vor kurzem auch Markus Gabriel gesehen habe sagt doch genau das Gegenteil tritt zurück reflektiere lass dich nicht unterdrücken lasst sich nicht er drücken sondern überlege wo deine Handlungsoptionen sind.

00:35:58: Und der ganze Ton, indem er die Inhalte seines Buches auch kommuniziert, geht genau in die andere Richtung.

00:36:05: Das spielt so gut wie gar keine Rolle mehr.

00:36:08: Ja

00:36:09: und das halte ich für nicht ganz unwichtig wenn man sich diesem Konzept nähert.

00:36:15: Die Frage

00:36:16: ist ob wir der KI wirklich so ausgeliefert sind?

00:36:20: Ich mache jetzt mal einen Punkt... Man könnte ja auch deutlich machen was das bedeutet.

00:36:28: in verschiedener Hinsicht jetzt gegenwärtig eigentlich auch schon auswirkt.

00:36:32: Ja, ja es erzeichnet wirklich so eine Situation der Unausweichlichkeit und ich bin hier Ein bisschen Zwiespälte, ich habe das auch so wahrgenommen wie du das beschreibst Peter.

00:36:46: Dass er hier ein Stück weit eben Druck aufsetzt oder sagt wir haben das Messer am Hals deshalb ist für ihn auch völlig alternativlos.

00:36:56: die KI kriegen mir nicht mehr aus der Welt.

00:36:58: Wir müssen jetzt mit ihr zusammenarbeiten.

00:37:01: eigentlich ist die KI schon viel zu mächtig.

00:37:05: wir können dass nicht mehr rückabwickeln.

00:37:07: es bleibt nichts anderes übrig als zu versuchen mit der KI weiterzukommen, das ist irgendwie ein unschönes Szenario oder ein uns schönes Motiv.

00:37:20: Das nicht so sehr von der Chance und von der positiven Motivation her denkt sondern eher eigentlich von einer Bedrohung, der man jetzt unter Ergreifungen des letzten Ausweges entgehen muss bietet, dass man so Kurzschlussreaktionen tätigt.

00:37:44: Dass man irgendwie eben diese Distanz gar nicht mehr hinkriegt.

00:37:48: Er sagt in einem Interview, sagt er sogar und der Interviewpartner nagelt ihn noch mal darauf fest, er sagt dann es wäre besser gewesen wir hätten diese ganzen large language models nie auf den Markt gebracht.

00:38:03: und da fragt dann der Gesprächspartner nachher also meinen sie das jetzt ernst?

00:38:08: Also Sie sagen besser gewesen, man hätte das gar nie unter die Menschheit gebracht.

00:38:13: und es hat er bejaht.

00:38:14: Also er hat irgendwie ein kritisches Bewusstsein für die problematischen und missbräuchlichen Potenziale von künstlicher Intelligenz ist aber gleichzeitig von der Überzeugung getragen wir kriegen den Geist nicht mehr in die Flasche.

00:38:35: jetzt müssen wir mit ihm tanzen

00:38:37: Und das geht mir zu schnell und das halte ich, um ein weiteres Urteil ungeschützt zu formulieren für fahrlässig.

00:38:47: Also ich rufe jetzt nur mal bestimmte Sachwalde auf die ja öffentlich seit einigen Jahren schon diskutiert werden in den letzten Monaten noch vermehrt.

00:38:55: also wir denken an die Software von Palantir, die von bestimmten Staaten eingeführt hat bei uns von bestimmtem Bundesländern heiß diskutiert als Überwachungssoftware die tatsächlich etwas Übermächtiges hat, aber es gibt eben bestimmte Staaten und es gibt bestimmte Länder auch in der Bundesrepublik.

00:39:15: Die sagen nein das wollen wir nicht weil damit eben ein ein Instrument geschaffen wird überwachende Bevölkerung dass einfach gefährlich ist.

00:39:24: oder wenn wir an an Tropic denken die von Open AI abgespalten firma die dieses wohl mächtigste KI, instead der die wohl mächigste

00:39:36: K.I.,

00:39:36: den Claude auf den Markt gebracht hat und jetzt zurückgezogen hat, weil diese Software in der Lage ist, die Sicherheitslücken aller möglichen Programme, die schützen sollen, aufzusprengen, aufzufinden zu durchdringen und quasi gegenstandlos gemacht

00:39:58: haben.".

00:39:58: Also da passieren Dinge und ich kann jetzt doch nicht einfach hingehen und sagen, das lass sich jetzt so.

00:40:04: Und wir die Dinge nehmen ihren Lauf?

00:40:07: Ich

00:40:07: muss doch eigentlich als Mensch auch versuchen, das Ganze zu reglementieren.

00:40:11: oder wenn wir an China denken Das beste Beispiel in welchen Überwachungsstaat diese Intelligenz letzten Endes hineinführte, da wo diese Instrumente angewandt werden können bestimmte Bürger die missliebig geworden sind für den Staat im Grunde noch nicht mal mehr ihre Orte verlassen weil die KI sie lückenlos überwacht.

00:40:35: Ja letztes Beispiel also das betrifft ja auch die Ökonomie.

00:40:40: Wir erleben wie der Bau von Rechenzentren und der gesamten Infrastruktur, die ja quasi die materielle Basis dieser Entwicklung ist.

00:40:51: Das darf man nicht vergessen.

00:40:53: Die Märkte absolut leer saugt!

00:40:57: Das wird von verschiedener Seite jetzt auch von liberalen Ökonomen kritisch diskutiert.

00:41:07: nicht mehr bloß sieben, sondern bei den Big Ten der Tech-Industrien mit einem Machtzuwachs auch ökonomischer Art zu tun.

00:41:18: Der ungeahnte Folgen für die gesamten westliche Volkswirtschaften in den USA aber natürlich auch in Europa letztendlich eine Unleichgewicht hineinbringt das eventuell verhängnisvolle Konsequenzen haben kann.

00:41:32: also wir können es nur mal vorstellen wenn die ganzen Hoffnungen auf Nvidia dann eben doch, wie ein Luftballon in sich zusammenfallen.

00:41:42: Dann kann der Kollaps einer solchen Firma im Grunde die Börse mit sich reißen.

00:41:48: also ich könnte jetzt noch lange darüber referieren.

00:41:50: Ich will nur deutlich machen da hängt sehr viel dran und angesichts dieser Sachverhalte stichwort Blasenbildung und vieles andere mehr sind wir nochmal mehr gefordert zu überlegen Wie gehen wir denn eigentlich mit diesen Entwicklungen um?

00:42:06: und überlassen wir die eigentlich einfach nur sich selbst.

00:42:10: Ja,

00:42:11: also dein Einwand betrifft jetzt nicht so sehr das Gefahrenpotenzial von Künstlierintelligenz, dass Gabriel ja ausdrücklich betont – und ja Grund ist weshalb er findet!

00:42:26: Jetzt müssen KI zusammenarbeiten, sonst übernehmen diese Menschen feindlichen oder ungerechten Kräfte.

00:42:37: Aber dein Einwand wäre mehr es gibt kein Grund sich über Regulierungen lustig zu machen oder das Gefühl zu haben dass nützt sowieso nichts.

00:42:46: man müsste versuchen wenigstens effektive Regulationsmaßnahmen zu ergreifen.

00:42:55: Man könnte dann natürlich wieder einwenden, damit könnte es sein wenn diese Systeme noch mehr anmacht und Einfluss gewinnen dass man sich einfach als Nation dann auch und als Firma sowieso einen so massiven Wettbewerbsnachteil einhandelt das man einfach dann auch wieder gar keine Alternativen hat Technologien zurückzugreifen, weil sie halt wirklich wahnsinnig effektiv und leistungsfähig sind.

00:43:29: Und Dinge in einer Zeit erledigen und in einer Präzision abliefern für die Menschen händisch einfach hundert oder tausendmal länger braucht.

00:43:40: Ja,

00:43:40: richtig!

00:43:41: Und was passieren wird, wenn wirklich die Quantencomputer nicht mehr nur eine ansatzweise nur realisierte Idee sind.

00:43:49: Sondern das Potenzial dieser KI-Maschinen?

00:43:53: noch einmal vor Vielfachen davon dürfen wir ja da müssen gar nicht drüber spekulieren.

00:44:00: Der Punkt ist der dass ich die Gefährdung gar nicht da sehe wo sie Gabriel sieht sondern dass aus meiner Sicht schon aktuelle Gefährdungen gar nicht ausreichend berücksichtigt.

00:44:15: Also ich habe eben einen wichtigen Punkt den Arbeitsmarkt vergessen, also wenn man vor vier fünf Jahren jungen Menschen geraten hat.

00:44:22: was ist ein zukunftssicherer Beruf?

00:44:25: Was kannst du aller Wahrscheinlichkeit nach die nächsten zwanzig dreißig vierzig Jahre machen?

00:44:30: dann hat man gesagt wer der Informatiker?

00:44:32: und das ist exakt der Beruf in dem man jetzt als Studierter ein Studium hinter sich haben da, Examinierter keine Anstellungschancen mehr findet.

00:44:45: Weil die KI Assistenten in diesem wie in anderen Berufsweigen dominant werden weil sie natürlich deutlich günstiger sind als wenn ich da jemanden anstelle.

00:44:55: und wir haben eine breite Debatte darüber wie jetzt schon Diese Systeme letzten Endes unser gesellschaftliches Leben, unser Zusammenleben verändern.

00:45:05: und diese Dimension fehlt mir.

00:45:08: Sie ist da aber sie wird in ihrer Bedeutung nicht angemessen berücksichtigt.

00:45:18: MindMaps

00:45:33: Damit machen wir für heute einen Schnitt, wie angekündigt wird es.

00:45:38: Einen zweiten Gesprächsteil eine zweite Folge von MindMaps zu Gabriels Buch Ethische Intelligenz geben.

00:45:46: in diesem ersten Teil haben wir vor allem versucht seine Grundanliegen klarzustellen und deutlich zu machen was er sich von einer ethischen KI verspricht, im zweiten Teil werden wir dann stärker in die kritische Analyse gehen und fragen was denn eigentlich passiert wenn wir der KI Begriffe wie Bewusstsein, Intelligenz oder Personalität zuschreiben.

00:46:12: Wir fragen uns, kennt uns die KI wirklich besser als wir uns selber kennen?

00:46:18: Wie überzeugend ist Gabriels Idee von moralischen Tatsachen?

00:46:23: Und was lässt sich eigentlich aus christlich-theologischer Perspektive zu dem Menschenbild sagen, dass hinter Gabriels Buch steckt und zu seiner optimistischen Zuversicht das uns die KI zu einem neuen ethischen verantwortlichen Handeln anleiten kann?

00:46:43: Ihr dürft euch freuen auf diese zweite Folge.

00:46:46: Bis dann alles Gute und Tschüss!