Der furiose Philosoph und der stille Herr Kehlmann

Das Nachdenken über Künstliche Intelligenz kann eine vertrackte Sache sein. Da ist zum Beispiel Daniel Kehlmanns Stuttgarter Zukunftsrede von 2021, die noch im selben Jahr unter dem Titel „Mein Algorithmus und ich“ erschien. Bei dem vier Jahre alten Text handelt es sich mittlerweile um ein vollkommen wertloses und hoffnungslos veraltetes Büchlein. Was wie das vorlaute Urteil eines Volontärs klingt, ist tatsächlich die Einschätzung von Kehlmann selbst, geäußert in einer anderen Rede vor ziemlich genau einem Jahr.

In dieser Rede aus dem Juli 2024, die unter dem Titel „Virtuelle Freunde“ in Kehlmanns kürzlich erschienenem Sammelband „Sorgt, dass sie nicht zu zeitig mich erwecken“ zu finden ist, verreißt Kehlmann also sein eigenes Buch. Er schildert darin, dass dieses entstand, nachdem er im Jahr zuvor an einem Experiment mit einem bis dato noch unveröffentlichten Large Language Model teilgenommen hatte und schreibt nun – wenige Jahre später –, dass sein Buch „in den letzten drei Jahren von der technischen Entwicklung dermaßen überholt wurde, dass es heute, um es zurückhaltend auszudrücken, vollkommen wertlos ist“. Es erinnere ihn mittlerweile an einen Text über die ersten Eisenbahnen oder eine Flugschau von Doppeldeckermaschinen.

Auftritt Kehlmann am Montagabend zur Eröffnung der phil.cologne. Aber, Moment, zuvor eröffnet Festivalleiter Tobias Bock in flotten Worten die mittlerweile 13. Ausgabe des Kölner Philosophie-Festivals, das er als „die kluge, schöne, groß gewordene Schwester der lit.cologne“ bezeichnet. Noch bis zum 30. Juni werden in der Domstadt Gäste aus Politik, Wissenschaft und Medien, darunter Andreas Reckwitz, Julian Nida-Rümelin, Robin Alexander, stellvertretender WELT-Chefredakteur, oder WELT-Herausgeber Ulf Poschardt über die großen Fragen der Gegenwart nachdenken.

Dann ist es aber wirklich so weit, zusammen mit dem Philosophen Markus Gabriel und Moderatorin Simone Miller betritt Daniel Kehlmann die Bühne des Palais in der Flora Köln. Die Decken sind hoch, die Themen schwer, anderthalb Stunden lang wollen Gabriel und Kehlmann über den Menschen im Zeitalter der KI sprechen. Mit dem Namen der Veranstaltung, die genau wie Kehlmanns „wertlos“ gewordenes Buch „Mein Algorithmus und ich“ heißt, beweisen die Festivalveranstalter einen subtilen Humor. Ob das, was die Diskutanten erzählen, nach den 90 Minuten auch noch seine Gültigkeit haben wird?

Für Daniel Kehlmann ist jedenfalls gewiss, dass die Entwicklung der Künstlichen Intelligenz umstürzender ist als die industrielle Revolution, „so umstürzend, dass wir noch gar nicht vollends begriffen haben, wie umstürzend es ist“, wie er sagt. Das betreffe nicht nur die breite Masse der Bevölkerung, sondern auch die Entwickler von KI-Modellen. Oft wüssten diese nicht mal selbst, wie ihr Algorithmus im Detail funktioniere. „Die Leute bei OpenAI wissen nicht mehr über den Algorithmus als wir“, meint Kehlmann.

Moderatorin Miller, selbst studierte Philosophin, will von Markus Gabriel wissen, ob diese Revolution, von der Kehlmann spreche, die Versprechen der Aufklärung einhalten oder diese vielmehr bitter verraten werde. „Das hängt davon ab, welche KI-Systeme wir haben und wer diese bauen wird“, meint der Erkenntnistheoretiker Gabriel, der mit seiner Forschung an der Universität Bonn die philosophische Schule des „Neuen Realismus“ in den vergangenen Jahren wesentlich prägte.

Gabriel stellt klar, dass KI-Modelle in keiner Weise wertneutral seien, sondern lediglich verstärkten und optimierten, was sie als Muster in ihren Datengrundlagen erkennen würden. Die Verantwortung liege demnach bei denen, die diese Systeme bauten. „Und auch bei den Usern“, ergänzt Miller, worauf Gabriel entgegnet, dass es bei KI-Systemen streng genommen gar keine User gebe. „KI-Systeme sind nicht so, dass man ein fertiges Produkt herstellt und dieses dann einfach gebraucht wird“. Im Bereich der KI gebe es keine Endprodukte, diese würden sich durch den Gebrauch vielmehr ständig fortentwickeln.

Gabriel kommt in der Folge darauf zu sprechen, wie intelligent die Systeme wirklich seien. „Intelligenz ist die Fähigkeiten, gegebene Probleme in einem endlichen Zeitraum zu lösen“, so seine Definition, ehe er darauf zu sprechen kommt, ob KI-Systeme denn wirklich „Probleme“ haben könnten. Er verweist auf deren mangelnden Überlebensdrang, die diese Systeme von den existenziellen Problemen aller Lebewesen unterscheide. Dann kommt Gabriel auf die Frage zu sprechen, ob diese Systeme dennoch ein Bewusstsein haben könnten. Er verweist auf den für die KI-Forschung wichtigen Hegel, demzufolge ein Gedanke auch dann in der Welt sein könne, wenn er nicht in einem Lebewesen stattfinde. Kehlmann sitzt nebendran, hört zu und wippt dabei sanft mit dem Fuß.

„Wie ist es denn grundsätzlich mit der Fähigkeit von KI-Systemen, zu philosophieren?“, will Miller von Gabriel wissen. „Ja, die können gar nix“, antwortet dieser prompt. Lachen im Publikum. KIs könnten zwar komplexe philosophische Texte zusammenfassen, aber keinen philosophischen Dialog führen. Er verweist auf Roger Penrose, demzufolge es in Menschen die Fähigkeit gebe, eine Ebene der Wirklichkeit zu erkennen, die nicht rechnerisch reproduzierbar sei. Ein philosophischer Dialog sei genau solch eine Ebene.

Kehlmann ergänzt, dass er auch auf dem Feld der Literatur derzeit nicht von den Fähigkeiten von KI überzeugt sei. Von KI verfassten Büchern fehle der letzte Schritt an Originalität, weil sie Literatur auf Basis von anderer Literatur erstellten. „Der größte Teil der von KI geschriebenen Kunst ist nicht kreativ“, findet Kehlmann, „wie auf Autopilot verfasst.“ Er glaube nicht daran, dass das nächste „100 Jahre Einsamkeit“ von einer KI verfasst wird.

Zum Schluss wirft Gabriel die Frage auf, wie wir in Zukunft unseren Sinn von Gemeinschaft kalibrieren werden. Den richtigen Weg sieht er im Gegenhacken. „Was gehackt wird, kann auch gegenhackt werden. Der richtige Weg wäre, sich ethische KI-Agenten zu bauen.“ So arbeite er gerade selbst an der Erstellung eines Gandhi-Bots, erzählt Gabriel lachend. „Ein Gandhi-Bot geht in ein gegebenes System ein und macht eine Peacemaking-Strategie.“ Dann kommt er auf Japan zu sprechen, wo KI-Systeme einen ganz anderen Stellenwert hätten als im pessimistisch gestimmten Europa. Dort beschäftige sich man damit, wie man KI-Systeme sinnvoll als Teil der Gesellschaft integrieren könne. Generell sei Japan auf einem ganz anderen Weg, meint Gabriel, der furiose Philosoph, der jetzt von Japans Photonen-Technik und seinem eigenen KI-Startup redet, mit dem er noch dieses Jahr in Indien auf den Markt wolle.

Kehlmann, der lange zugehört hat, beschließt die Runde. „Ich weiß zu wenig über Asien, aber wenn ich nachts wach liege und mich die Sorge wach hält, dann denke ich tatsächlich an Markus und daran, dass er mir diese Dinge sagt. Vielen Dank!“

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt beim ursprünglichen Autor. Die erneute Veröffentlichung dieses Artikels dient ausschließlich der Informationsverbreitung und stellt keine Anlageberatung dar. Bei Verstößen kontaktieren Sie uns bitte umgehend. Wir werden bei Bedarf Korrekturen oder Löschungen vornehmen. Vielen Dank.