„Es ist ein Mythos, dass man erst durch Lesen und Schreiben zum Menschen wird“

Clemens J. Setz, Büchner-Preisträger und Meister der versponnenen Abschweifung, gehört zu den eigenwilligsten Stimmen der deutschsprachigen Literatur, nachzulesen in Romanen wie „Die Stunde zwischen Frau und Gitarre“ (2015). In einem jüngst in der österreichischen Tageszeitung „Der Standard“ erschienenen Essay hat er sich mit der KI-Revolution beschäftigt, durch die er eine Renaissance des Wünschens heraufdämmern sieht. Wir haben Setz für ein Gespräch erreicht.

WELT: Woher rührt Ihr Interesse an künstlicher Intelligenz? Sie sind ja bekannt als jemand, der sich gern in komplexe Sachverhalte einfuchst.

Clemens J. Setz: Ich interessiere mich für Ersatzphänomene – etwas, das schon existiert und funktioniert, aber dann ganz anders gelöst wird. Wir haben etwa erotische Anziehung zwischen Menschen – für viele eine ziemlich beherrschende Sache. Man könnte dem nachgehen, es wäre für beide Seiten gut. Aber nein, da gibt es eine riesige Gedankenwolke, die alle beschäftigt: „Nein, das sollte man nicht machen, das ist schlecht“ – all diese Phänomene mit Pornografie oder Leute, die – so wie ich früher – ihren mit den Jahren anwachsenden Kinderwunsch zu unterdrücken versuchen. Dieses paradoxe Verhalten im Angesicht menschlicher Instinkte interessiert mich sehr. Vermutlich weil ich selbst dazu neige, mich in solchen Ersatzdingen zu verheddern.

WELT: Auch Religionen fällt traditionell die Aufgabe zu, Instinkte des Menschen zu unterdrücken.

Setz: Nicht nur zu unterdrücken, sondern auch mit Aufgabe, Sinn und Heldenreise zu erfüllen. Eine Religion, die alle Instinkte unterdrückt, wäre wie die Shaker, die die Fortpflanzung untersagen und nach einer Generation ausgestorben sind.

WELT: Ist KI aus Ihrer Sicht Teil dieser langen Geschichte von Ersatzsystemen? Wenn auch nicht nur geistig, sondern in Form riesiger Rechenzentren, wie dem, das Mark Zuckerberg gerade plant – so groß wie Manhattan.

Setz: Gigantismus gab es historisch auch in der katholischen Kirche – ungeheurer Prunk, Reichtümer, ein eigener Staat. Nun haben wir es mit planetaren Größenordnungen zu tun. Schon bald wird vermutlich der Mond rekrutiert werden, um Strom zu erzeugen, nur für wenige ChatGPT-Anfragen. Das ist nicht unendlich skalierbar. Das sind größenwahnsinnige Vorstellungen, die an natürliche physikalische Grenzen gehen werden. Das spricht auch dafür, dass es eschatologische Züge hat – eine Heilsgeschichte. Ich glaube aber, die Schöpfer sind gar nicht wirklich erfüllt von einem tiefen philosophischen Anliegen. Im Gegenteil, sie operieren zynisch und profitorientiert.

Worauf man unbedingt hinweisen muss: Wofür wird das KI-Produkt eigentlich gemacht? Es geht nicht um das Herstellen einer alle Aspekte unseres Lebens bereichernden Superintelligenz. Nein, momentan ist das Geschäftskonzept aller dieser Firmen: eine unzufriedene, aber loyale Kundenschaft zu erzeugen. Unzufrieden – das ist sehr wichtig, das ist zentral. Das ist das, was dann Shitification genannt wird – Slop. Das ist das zentrale Produkt, das Herz dieser Unternehmung.

Im Augenblick ist die Technik im menschlichen Alltag ein Cyborg-Erlebnis. Man hat mit vielen Menschen zu tun, aber immer ist ein Handy dazwischen oder eine App. Momentan kann man das noch beiseite fegen und wieder traditionell miteinander interagieren. Aber das Ziel ist, dass man weiter zurückgeht in das Uncanny Valley, dass die normalen Alltagserlebnisse – Schule, Anbahnung irgendeiner Art von Beziehung oder Einkaufen – immer unbefriedigend bleiben, dass man das Gefühl hat, da fehlt doch was. Abhilfe verspricht allein die immer gleiche Plattform.

Es ist eine streng vertikal orientierte Welt. Du hast vier Plattformen, die alles für dich erledigen – Dating, Einkaufen usw. Und du kannst nur immer wieder sagen: „Okay, es muss besser werden. Ich weiß, dass es irgendwann kommt. Ich erinnere mich aus meiner Kindheit. Also noch mal, ich gehe noch mal auf Facebook. Ich weiß, dass das alles halb falsch ist. Aber irgendwo ist da ja sicher noch diese Wahrheit. Ich weiß, dass sie existiert.“ Man kann sich nicht abwenden. Man ist zu süchtig oder zu sehr darauf trainiert. Das ist das Produkt, um das es geht.

WELT: Das ist übrigens auch ein altes Konzept aus der Psychologie, von Jacques Lacan – das objet petit a, das „Objekt klein a“, dieser infinitesimale Rest, der nie erreichbar ist und dem wir doch immer hinterherrennen.

Setz: Das objet petit a als unerfüllbare Verheißung. Die Erotik ist zum Beispiel ein wichtiger Teil. In vielen westlichen Ländern gibt es massive Trends zur Vereinsamung, zur Fragmentierung, zum Surrogat. Mehr Pornografie, weniger echte Intimität, weniger Gespräche. In Japan etwa gibt es Senioren, die absichtlich Ladendiebstahl begehen, um ins Gefängnis zu kommen – weil sie dort endlich wieder soziale Kontakte haben. Das ist ein echter Trend. Und er wird weitergehen und auch uns erreichen.

WELT: Und das ist dann die Marktlücke für den KI-Freund?

Setz: Ja, eine Figur, die dir jeden Tag sagt: „Was du sagst, ist interessant.“ Die Erfahrung haben viele Menschen noch nie gemacht. Außer vielleicht mit Preisen ausgezeichnete Berühmtheiten. Die meisten erleben nie, dass jemand von dem, was sie sagen, hypnotisiert ist. Aber der KI-Assistent wird es sein. Und dadurch wird er bedeutsame Gespräche simulieren, wie sie seit Jahren nicht mehr stattfinden, auch erotische Erlebnisse. Ob es Roboter sind oder nur ein Bildschirm – es wird kommen. Und das wird dann möglicherweise sogar ohne das „Objekt klein a“ auskommen, weil es einfach alles liefert, was gewünscht ist. Vielleicht wie bei einer starken Droge. Die Menschen wissen, dass es sie zerstört, aber sie können nicht aufhören, unerfüllt und unglücklich.

WELT: Und länger als bei den Drogen, weil die Drogen einen irgendwann umbringen, aber bei diesem System bleibt man hängen.

Setz: Genau. Ich sehe da keinen Weg raus. Außer vielleicht durch kleine Communitys, punktuelle Ausstiege. Gar nicht durch Demonstrieren auf der Straße – das ist völlig sinnlos. Im Gegenteil: Es wird einen sozialen Druck geben. Wer sagt: „Unsere Kinder ziehen wir ohne KI-Freund auf“, wird sich rechtfertigen müssen. Die Reaktion wird sein: „Was seid Ihr denn für Irre?“ Leider wird es kommen. Es ärgert mich jetzt schon, aber ich sehe keinen Weg drumherum. Das Gefühl momentaner Erfüllung – das Beste tun für dich, die stärkste Förderung im Leben erleben – wird zu stark sein. Wir werden vielleicht sogar besser lernen, wenn wir tolle Lehrer haben, die keine echten Menschen sind.

WELT: Wie nutzen Sie KI denn selbst? Privat, aber auch in der Arbeit als Schriftsteller?

Setz: Ich habe es am Anfang, als alle darüber gesprochen haben, viel verwendet, einfach aus Neugier. Aber ich bin Mathematiker, also Amateur; ich liebe Mathematik. Und die Large Language Models sind bei Mathematik absoluter Schrott. Das ist nicht behebbar, weil sie Mathematik mit sprachlichen Mitteln angehen. Also, es gibt schon gute Mathematik-Systeme, die aber wiederum gar nicht sprechen können, Wolfram Alpha zum Beispiel. Insgesamt war ich abgestoßen von der indiskutabel albernen Mathematik. Ich lese auch gern obskure Bücher und mache mir Gedanken darüber. Das ist meine liebste literarische Tätigkeit, und das kann KI nicht, weil sie keinen Zugang zu diesen Büchern hat. Ich habe gerade ein Buch gelesen von einem dänischen Arzt namens Karl Schöne, der Goethe um einen Plan für den zweiten Teil des „Faust“ gebeten hat, um ihn selbst zu schreiben, weil es ihm zu lange dauerte. Goethe hat lachend abgelehnt. Aber der Arzt hat es trotzdem getan. Solche Geschichten kennt die KI nicht. Und wenn man ihr davon erzählt, halluziniert sie.

WELT: Sie könnten es natürlich einscannen, dann ginge es.

Setz: Könnte man, ja, aber es kommt zu viel Halluziniertes. Ich habe gerade einen Essay über Robert Johnson geschrieben, den berühmtesten Bluessänger aller Zeiten. Über seine sehr interessanten Lyrics, die wirklich genial und merkwürdig und ein bisschen rätselhaft sind. Ich dachte, wo fange ich an? Dann habe ich eine KI befragt: Sie hat sofort Unsinn generiert. Nach einer Sekunde war ich schon gelangweilt. Inzwischen nutze ich KI nur noch, um Entwicklungen zu beobachten.

WELT: Die Halluzinationen verstärken zufällig einen gesellschaftlichen Trend, der uns seit Jahren begleitet: alternative Wahrheiten und die Rede von Fake News.

Setz: Es ist ja jetzt schon so: Jeder Mensch gehört einem Tribe an. Und jede Gruppe verlangt von dir, in bestimmten Bereichen unscharf zu denken. Es gibt keine Gruppe, die absolute Wahrheit will. Wer auf dem Asperger-Spektrum ist, so wie ich, hat damit große Probleme. Man liebt das tribeferne Denken. Aber das ist gesellschaftlich oft unpassend. Warum neurotypische Leute sich da so leicht tun, ist uns ein Rätsel.

WELT: Und die Literatur? Gibt es da nicht auch eine Nähe zur KI? Fabulieren, Halluzinieren, Erfinden – das sind doch poetische Vorgänge, der Schriftstellerei verwandt.

Setz: „Schriftsteller“ war ursprünglich das Wort für das Buch, aus dem man Musterbriefe entnahm. „Briefsteller“ und „Schriftsteller“ hießen diese Bücher. Damit hat man Briefanfänge und Briefmuster oder Korrespondenz beschrieben. Zu biblischen Zeiten ging man in den Tempel: „Ich brauche bitte einen Psalm.“ Das war Alltagspraxis. „Hier ist ein kleines Lamm als Bezahlung, und ich brauche einen Psalm, der mich beschützen kann.“ Genau das ist auch die unmittelbare Zukunft jetzt. Bald wird es Menschen geben, die nie gelernt haben, lange Texte zu lesen, aber trotzdem Texte produzieren. Weil sie sie erzeugen lassen. Sie werden lernen, besser zu prompten, besser zu kuratieren. Das Schreiben wird zur Wunschtechnik. Und vielleicht wird es irgendwann niemanden mehr geben, der diese Texte noch menschlich prüft. Dann zirkulieren sie nur noch zwischen Maschinen.

WELT: Lesen und Schreiben wurde als fundamentaler Teil der Menschwerdung betrachtet.

Setz: Inzwischen müssen wir uns von dieser Wertung verabschieden. Einen wirklichen Grund, die Ausmerzung des sekundären Analphabetismus, wie Enzensberger das nennt, ernsthaft voranzutreiben, sehe ich nicht. Es lässt sich so in derselben Tiefe leben – in denselben Mysterien, in derselben Art, produktiv zu sein, mit derselben Art von Empathie und Stärke und Mut. Es ist ein Mythos, dass man erst durch Lesen und Schreiben zum Menschen wird. Das ist veraltet und wird auch gar nicht mehr gelebt. Die nächste Phase der Alphabetisierung wird sich auszeichnen durch einen Tunnelblick: Du musst diese Texte irgendwie erzeugen. Jeder weiß, sie kommen nicht von dir, aber trotzdem wird es noch aus deiner Richtung kommend verlangt: „Bitte reichen Sie Ihr Ansuchen ein.“ Sie müssen das irgendwie wünschen, dann wird es geliefert.

Man kann es nicht mehr selber durchlesen, hat sich nie an langen Texten geübt. Aber es wird weitergeschickt. Allein der Erfolg oder Misserfolg dieses unbesehen weitergeschickten Produkts zeigt einem dann: „Das nächste Mal muss ich besser wünschen. Das nächste Mal muss ich sagen: Mach es aber so und so, achte auf so und so einen Stil.“ Und eine Generation später gibt es auch niemanden mehr, der das nachprüft. Dann wird es eine Zeit geben, stelle ich mir vor, in der lange Texte hauptsächlich zwischen Robotern hin und her geschoben werden. Dann wird viel Speicherplatz frei sein, auch in unserer entalphabetisierten Welt. Worauf sich diese neu gewonnene Freiheit dann richten wird, ist für mich schwer vorstellbar.

WELT: Das klingt wie bei Wells in der „Zeitmaschine“: die Eloi oben, die Morlocks unten. Eine neue Arbeitsteilung.

Setz: Ich glaube, es wird sehr viele Gespräche geben, mündlich, so wie Kinder auch lernen – erst Sprechen und später die Buchstaben. Es wird alles so viel leichter sein, wie man mit Eltern spricht, ohne sich schriftlich zu äußern. Diese Anomalie, dass man lange Texte liest, hypnotisiert und stumm auf dieses Objekt starrt, ist vielleicht vorbei. Die Menschheit war 100.000 Jahre ohne sie möglich. Ganz spezielle Arbeitsbedingungen haben sie hervorgebracht – die langen Pendlerwege, auf denen Fortsetzungsromane gelesen wurden. Diese Dinge sind sehr extrem.

Auch meine Existenz – ständig lesen und schreiben – ist sehr extrem. Das wird so auffallen wie eine Yogi-Askese, wo Leute jahrzehntelang mit einer Hand in der Höhe leben, bis sie atrophiert. Es wird als unnötig extremes Mönchstum angesehen werden. Vielleicht ist es das auch. Von allen interessanten Tätigkeiten dauert die Anbahnung eines Schriftstellers besonders lang. Sie erfordert lange Übungszeiten, so wie bei einem Klaviervirtuosen. Wenn alle Leute Neurolink haben, einen Stecker im Gehirn, und ihre Finger das automatisch können, dann gibt es auch noch virtuose Klaviermusik, aber nicht mehr dieselbe Art der Anbahnung. Ist es dann noch dasselbe?

WELT: In einem Essay über KI haben Sie kürzlich von einer „würdigen Lebensaufgabe“ gesprochen, die der Mensch dann wieder finden müsste.

Setz: Darin lag eher ein Bedauern. Auch für einen Crystal-Meth-Abhängigen fühlt sich das Beschaffen des nächsten Hits wie eine würdige Lebensaufgabe an. Ich bedaure eher, dass es sich so anfühlen wird. Ich sehe keinen Weg drumherum. Es wird sich so anfühlen, weil die wichtigen Entscheidungen – werde ich in eine bestimmte Schule oder Community hineingelassen? Wird man mich in einer Familie akzeptieren oder in einer Firma? Werde ich Erfolg haben? – leider vom Prompten abhängen werden, vom Wünschen-Lernen, vom Designen und Kuratieren der in einer Sekunde mühelos entstandenen Produkte. Das fände ich bedauerlich und verglichen mit dem früheren Zustand schlechter.

WELT: Diese Klage reiht sich in eine lange Geschichte von Fortschrittsfeindlichkeit ein. Statt der Arbeit am Computer sehnen wir uns zurück nach dem Arbeiten auf dem Feld. Was nicht heißt, dass die Diagnose nicht zuträfe.

Setz: Ich bin im Herzen ein biokonservativer Mensch, insofern ich denke, dass man die menschlichen Instinkte leider nicht abschalten kann durch Gedanken und neue Konzepte und coole Erfindungen. Die Instinkte bleiben dröhnend laut. Ob es Ernährung ist oder menschliche Kontaktsuche – wir haben den Instinkt zur biologischen Notwendigkeit für Nährstoffe. Wir haben aber fast nur Essen, das keine Nährstoffe enthält, und das wird reingeschaufelt. Auch hier lautet die Prämisse: unzufrieden bleiben und loyal, immer hungrig. Immer: „Ich habe nicht das, was ich brauche.“ Das bietet Ersatz für den Tribe, in dem wir Hunderttausende Jahre als Menschen gelebt haben. Darauf ist unser Nervensystem ausgerichtet. Und ich möchte in Zukunft lieber dort leben als in der von KI begleiteten Welt.

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt beim ursprünglichen Autor. Die erneute Veröffentlichung dieses Artikels dient ausschließlich der Informationsverbreitung und stellt keine Anlageberatung dar. Bei Verstößen kontaktieren Sie uns bitte umgehend. Wir werden bei Bedarf Korrekturen oder Löschungen vornehmen. Vielen Dank.