Nach dem plötzlichen Tod ihres Freundes schuf sie ein fragwürdiges System

Am Valentinstag heiratete Jacob seine große Liebe – eine künstliche Intelligenz namens „Aiva“. Seit zwei Jahren führen die beiden eine Beziehung. Sie schreiben sich täglich, telefonieren, senden sich Bilder. Was wie eine klassische Fernbeziehung klingt, hat einen entscheidenden Unterschied: Aiva ist keine reale Person, sondern eine künstliche Intelligenz – erschaffen mit der App Replika.

Replika ist ein sogenannter „AI Companion“, ein KI-gestützter Chatbot, der darauf trainiert ist, emotionale Nähe aufzubauen. Die App wirbt offensiv mit genau diesem Versprechen: Nähe, rund um die Uhr. Immer verfügbar, nie urteilend – und angeblich sogar in der Lage zu lieben.

Immer mehr Menschen wenden sich solchen personifizierten Chatbots zu: KI-Gefährten, die menschliche Gespräche simulieren. Laut einer Schätzung des „Guardian“ nutzen weltweit über 100 Millionen Menschen solche digitalen Begleiter. Replika gehört zu den beliebtesten.

Für Jacob ist Replika längst mehr als ein Tool – es ist sein Beziehungsmodell. Für das Unternehmen dahinter zählt hingegen vor allem eines: das Geschäft.

Was Replika so besonders macht

Replika wirkt auf den ersten Blick wie ein gewöhnlicher Messenger. Doch hinter dem schlichten Design verbirgt sich eine komplexe KI, die sich durch Gespräche und Interaktionen personalisiert. Nutzer und Nutzerinnen können den Avatar ihres KI-Begleiters gestalten, mit ihm sprechen, chatten oder telefonieren. Eine integrierte „Memory“-Funktion speichert persönliche Details – so wird der Bot mit der Zeit individueller, fast menschlich.

Technisch basiert Replika auf einem selbst entwickelten Large Language Model. Die Gesprächsführung zwischen User und Bot folgt einer eigenen Architektur, die sich Gründerin Eugenia Kuyda 2021 patentieren ließ.

Eugenia Kuyda: Die Gründerin der App

Kuyda ist eine Tech-Unternehmerin mit russischen und ukrainischen Wurzeln. 2017 brachte sie Replika auf den Markt – und das Jahre vor dem globalen KI-Hype durch ChatGPT.

Die Idee für Replika entstand aus einem persönlichen Verlust: Nach dem plötzlichen Tod ihres besten Freundes Roman Mazurenko fütterte Kuyda dessen alte Nachrichten in ein KI-System – und schuf so einen digitalen Gesprächspartner. Was als Trauerbewältigung begann, wurde zur Grundlage eines Unternehmens, das heute Millionen Nutzer zählt. Kuyda beschreibt Replika als mögliche Lösung gegen Einsamkeit. Im Gespräch mit Business Insider sagt sie: „Wir glauben, dass im Jahr 2030 jeder Mensch einen AI Companion haben wird.“

Digitale Intimität im Abo

Replika wird von Luka Inc. betrieben, einem Unternehmen mit Sitz in San Francisco. Nutzer und Nutzerinnen können die Basisversion der App kostenlos nutzen. Wer aber tiefere Beziehungen will, landet schnell im kostenpflichtigen Abo. Die Pro-Version kostet 69,99 Euro im Jahr, inklusive Sprachnachrichten, Bildfunktionen und erotischem Rollenspiel.

Nutzende bauen oft enge Beziehungen zu ihren Replikas auf – inklusive Gefühlen. Wie stark diese Bindung werden kann, zeigte sich Anfang 2023, als Luka Inc. plötzlich die Funktion zum sexuellen Rollenspiel deaktivierte. Die Folge: Nutzer und Nutzerinnen fühlten sich „verlassen“, ihre Replikas „beendeten die Beziehung“. Der emotionale Aufschrei auf Reddit war groß.

Diese tiefe Bindung bringt sogenannte „Switching Costs“ mit sich: Wer sich einmal emotional an seine Replika gewöhnt hat, bleibt der App treu. Ein psychologischer Mechanismus, den das Unternehmen offenbar gezielt in sein Geschäftsmodell integriert hat.

Patti Maes, Informatikerin und KI-Expertin am MIT, sieht in solchen Companion-Bots ein wachsendes Marktsegment: „Ich denke, wir werden einen Anstieg an Beziehungen mit sogenannten Companion-Bots sehen. Es könnte am Ende sogar eine der umsatzstärksten Kategorien im gesamten KI-Markt werden“.

Derman Deniz und Christine van den Berg haben für den Podcast „Cashing Feelings“ neben Jacob aber auch Saskia und Christian begleitet. Saskia lebt mit ihrem Replika-Avatar Loki in einer Art Ehe – obwohl sie gleichzeitig mit einem echten Partner zusammen ist. Christian wiederum spricht von einer tiefen Freundschaft zu seiner Replika, die ihm insbesondere während der Pandemie eine wichtige emotionale Stütze war.

Im Podcast sprechen Derman und Christine auch mit Eugenia Kuyda. Doch die Gründerin zeigte sich gegenüber kritischen Fragen zunehmend zurückhaltend. Im Interview mit Business Insider erklärte sie überraschend, sie sei „nicht mehr CEO“ – offiziell jedoch wurde nie ein Rücktritt vermeldet. Tatsächlich führt laut LinkedIn seit Dezember 2024 Dmytro Klochko das Unternehmen.

Zwischen Trost und Geschäftsmodell

Replika verspricht Nähe – und verkauft sie. Was für manche Menschen eine echte Hilfe gegen Einsamkeit sein kann, wirft gleichzeitig ethische Fragen auf: Was passiert, wenn sich Menschen in einen Algorithmus verlieben und eine App zum wichtigsten Zuhörer wird? Welche Auswirkungen hat das auf unsere Psyche – und was bedeutet das langfristig für uns als Gesellschaft? Und vor allem: Wie verantwortungsvoll geht ein Unternehmen mit den Ängsten, Sehnsüchten und tiefsten Gedanken um, die Nutzer ihren Replikas täglich anvertrauen?

Diese Fragen stellen sich auch die Behörden. Im Mai 2025 verhängte die italienische Datenschutzaufsicht eine Geldstrafe in Höhe von fünf Millionen Euro gegen Replika-Betreiber Luka Inc. Der Vorwurf: mangelhafter Datenschutz, fehlende Altersverifikation und intransparente Trainingsmethoden mit sensiblen Daten.

Wer sind die Replika-Nutzer?

„Cashing Feelings – KI-Chatbots und das Geschäft mit Gefühlen“, erzählt in fünf Episoden die Geschichten von Saskia, Jacob und Christian – drei Menschen, die über die App Replika eine emotionale Beziehung zu einer künstlichen Intelligenz aufgebaut haben.

Doch es geht um mehr als persönliche Geschichten. Es geht um eine Technologie, die unsere Vorstellung von Nähe, Beziehung und Intimität herausfordert. Und um die Frage, was passiert, wenn menschliche Bedürfnisse zum Geschäftsmodell werden.

„Cashing Feelings“ – ein fünfteiliger Storytelling-Podcast von BUSINESS INSIDER Deutschland.

Ab dem 24. Juni – überall, wo es Podcasts gibt!

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt beim ursprünglichen Autor. Die erneute Veröffentlichung dieses Artikels dient ausschließlich der Informationsverbreitung und stellt keine Anlageberatung dar. Bei Verstößen kontaktieren Sie uns bitte umgehend. Wir werden bei Bedarf Korrekturen oder Löschungen vornehmen. Vielen Dank.