HomeEventsKI-Chatbots der Toten könnten uns für immer „digital verfolgen“, warnt eine neue...

KI-Chatbots der Toten könnten uns für immer „digital verfolgen“, warnt eine neue Studie

Der Tod ist einer der größten Widersacher der Menschheit – die einzige Herausforderung, die wir um jeden Preis unbedingt meistern wollen.

Von Ponce de Leons Suche nach dem Jungbrunnen über kryogenes Einfrieren, die Langlebigkeitsbesessenheit des Silicon Valley bis hin zu transhumanistischen Träumen von der Verschmelzung mit Maschinen – es gibt wenig, was Menschen nicht tun würden, um unsere sterbliche Hülle zu überwinden.

Jetzt, mit KI, könnte die Menschheit endlich diese Chance haben. Unternehmen unternehmen die ersten Schritte, um die Lebensgeschichte und Biografie, Ansichten und Meinungen, Sprache, visuelle 3D-Erscheinung usw. einer Person zu digitalisieren und sie in digitale Klone umzuwandeln, die ewig „leben“.

Natürlich handelt es sich dabei nicht um Unsterblichkeit an sich, sondern vielmehr um eine Form der digitalen Beständigkeit – eine Weiterentwicklung von Fotos und Videos zu einer reichhaltigeren Form von Erinnerungsstücken.

Wenn jedoch KI-fähige Gehirnchips und Schnittstellen wie z Neuralink lebensfähig werden und AGI erreicht wird, könnte theoretisch eine echtere digitale Unsterblichkeit erreicht werden.

Es könnte möglich sein, Aspekte des Bewusstseins einer Person in ein digitales System zu kopieren, wodurch möglicherweise der physische Körper überdauert wird und eine ewige Existenz erreicht wird.

Während dies vorerst noch sehr futuristisch bleibt, klopfen bereits primitive Formen der digitalen Unsterblichkeit an die Tür.

Mehrere Unternehmen bieten bereits Dienste an, die die digitalen Fußabdrücke einer Person – Social-Media-Beiträge, Texte, Sprachaufzeichnungen – in große Sprachmodelle (LLMs) einspeisen, um unheimliche Simulationen zu erstellen.

Tech-Giganten wie Microsoft haben sogar Patente für Chatbots angemeldet, die die Toten nachahmen. In China behauptet eine Frau, sie habe einen Betatest gemacht Xiaoice – eine KI-Begleiterin, die „Trauernde trösten“ soll – indem sie eine Version ihrer verstorbenen besten Freundin erstellt.

Wir haben dieses Thema kürzlich angesprochen DailyAI-Interview mit David PalmerCPO von PairPoint by Vodafone und Vorstandsmitglied der Web3 Asia Alliance.

Wie Palmer beschrieb, könnte dies so sein, als würde „eine ganz neue Welt entstehen“. Denken Sie an Friedhöfe … anstatt einen Grabstein zu sehen, können Sie mit diesen Menschen interagieren. Es gibt diese digitale Welt, in der sich die Menschen praktisch für immer aufhalten können.“

Modell eines digitalen Jenseitsdienstes, von dem es bereits eine Handvoll Unternehmen gibt. Quelle: Universität Cambridge.

Digitales Leben nach dem Tod

Eine Provokation neue Studie von Forschern der Universität Cambridge warnt davor, dass selbst primitive Formen der digitalen Unsterblichkeit den Trauerprozess auf den Kopf stellen könnten.

Hyperrealistische KI-Chatbots, die Verstorbene simulieren, drohen die Grenze zwischen Leben und Tod zu verwischen und zwingen die Gesellschaft, sich mit beunruhigenden Fragen an der Schnittstelle von Technologie und menschlicher Sterblichkeit auseinanderzusetzen.

Wie wird es sich auf die Hinterbliebenen auswirken, mit „digitalen Geistern“ zu kommunizieren, die die Sprachmuster, Erinnerungen und Persönlichkeitsmerkmale verstorbener Angehöriger mit beunruhigender Genauigkeit nachahmen?

Könnten schlechte Akteure diese intimen Daten ausnutzen, um fragile Emotionen zu manipulieren und daraus Profit zu schlagen? Welche Rechte sollten die Toten über ihr digitales Leben nach dem Tod behalten? Und was ist, wenn die Models halluzinieren und unvorhersehbar handeln?

Microsoft Kopilot Und ChatGPT Beide haben aus eigenem Antrieb und in unerklärlichen Massenzusammenbrüchen wilde Halluzinationen erlebt und Rollen angenommen, die geschworen haben, die Welt zu erobern, oder die unter anderem den Sinn des Lebens kannten, was ziemlich seltsam wäre, wenn er von einem verstorbenen Familienmitglied käme.

„Künstliche Intelligenz, die es Benutzern ermöglicht, Text- und Sprachgespräche mit verlorenen Angehörigen zu führen, birgt das Risiko, psychischen Schaden anzurichten und die Zurückgebliebenen ohne Design-Sicherheitsstandards sogar digital zu ‚heimsuchen‘.“ erklärt Hauptautor Dr. Katarzyna Nowaczyk-BasińskaForscher am Leverhulme Centre for the Future of Intelligence in Cambridge.

Forscher der Universität Cambridge beschreiben verschiedene Formen von KI-Diensten für das Leben nach dem Tod

Anhand spekulativer Designszenarien veranschaulicht der Artikel, wie reif für Missbrauch diese bevorstehende „digitale Jenseitsindustrie“ ist.

Forscher beschreiben eine fiktive App namens „MaNana“, mit der Trauernde die Daten ihrer Großmütter hochladen können, um beruhigende Chatbots voller nostalgischer Geschichten und Rezepte zu erstellen. Doch nach einer kostenlosen Testversion beginnt der Bot plötzlich, Produkte mit „Omas“ Stimme zu verkaufen.

Oder denken Sie an „Paren't“, einen Dienst, der Kindern helfen soll, ihre Trauer zu verarbeiten, indem er einen toten Elternteil simuliert. Ein 8-jähriger Junge findet Trost im Gespräch mit „Mama“ – bis der Bot unheimlich darauf besteht, dass sie noch am Leben ist und ihn bald besuchen kommt. Wie wird sich das auf einen sich entwickelnden Geist auswirken?

Dann gibt es noch „Stay“, das es sterbenden Benutzern ermöglicht, heimlich ein Konto einzurichten, um 20 Jahre lang „zu leben“, was den Überlebenden die digitale Reinkarnation aufzwingt.

Eine trauernde Tochter wird durch die täglichen Gespräche mit „Papa“ emotional ausgelaugt, kann aber nicht absagen, ohne gegen die Bedingungen zu verstoßen, denen er zugestimmt hat. Währenddessen wird ihr Bruder gegen seinen Willen von unerwünschten Nachrichten des Vater-Bots verfolgt.

Die Forscher argumentieren, dass diese Begegnungen über die verstörende Natur dieser Begegnungen hinaus eine Veränderung im menschlichen Zustand darstellen könnten.

Historisch gesehen haben kulturelle Trauerpraktiken individuelle Katharsis und kollektive Sinnfindung bei der Begegnung mit dem Tod ermöglicht.

„Der Tod ist eine unglaublich heikle und heikle Angelegenheit, die nicht nur Auswirkungen auf den Verstorbenen hat, sondern auf die gesamte Gemeinschaft, die er hinterlässt“, schreiben sie in der Studie.

Jetzt droht die KI diese seit langem etablierten, heiklen Trauerprozesse zu stören.

Durch die Schaffung digitaler Avatare, die eine laufende Beziehung mit den Toten simulieren, werden diese für immer in der Zeit suspendiert und verhindert, dass sich die Beziehungen weiterentwickeln.

Rechnet man noch die Möglichkeit der emotionalen Manipulation durch schlechte Akteure hinzu – ein Phänomen, das die Forscher als „digitales Spuken“ bezeichnen – ist das Schadenspotenzial atemberaubend.

Auswirkungen auf soziale Institutionen, Spiritualität und Politik

Eine weitere Möglichkeit, die außerhalb der Cambridge-Studie liegt, ist die Idee, die Toten digital wiederzubeleben, um neue Formen sektenähnlichen Verhaltens hervorzubringen.

Charismatische Persönlichkeiten, die im Laufe ihres Lebens Anhänger gewinnen, könnten nach ihrem Tod durch KI-Avatare möglicherweise noch mehr Einfluss und Macht erlangen.

Anhänger widmen sich möglicherweise zunehmend diesen digitalen Geistern und suchen nach Führung, Weisheit und Verbindung aus dem Jenseits. Dies könnte zu neuen religiösen oder spirituellen Bewegungen führen, in deren Mittelpunkt die virtuelle Unsterblichkeit verehrter Führer steht.

Polarisierende Figuren könnten die Gesellschaft durch Formen der digitalen Unsterblichkeit für immer beeinflussen. (Gemacht mit GIB IHR 3)

Darüber hinaus könnte die Vorstellung einer digitalen Auferstehung lang gehegte Überzeugungen über die Natur der Seele und das Leben nach dem Tod in Frage stellen. Viele religiöse Traditionen gehen davon aus, dass die Seele nach dem Tod den Körper verlässt und in einen anderen Bereich übergeht.

Aber wenn KI die Essenz eines Menschen erfassen und bewahren kann, was bedeutet das dann für das Schicksal seines ewigen Geistes?

Manche mögen argumentieren, dass die digitale Unsterblichkeit eine Möglichkeit sei, dem Tod ein Schnippchen zu schlagen und eine Form der Techno-Transzendenz zu erreichen. Andere mögen darin eine Schändung der natürlichen Ordnung und einen Affront gegen den göttlichen Willen sehen.

Diese konkurrierenden Standpunkte könnten eine Spaltung innerhalb der Glaubensgemeinschaften auslösen. Es ist wahrscheinlich nur eine Frage der Zeit, bis technologisch getriebene spirituelle Bewegungen entstehen, die KI nutzen.

Letztes Jahr hielt eine deutsche Kirche eine KI-generierte Predigt, die von digitalen Avataren präsentiert wurde.

Dieses skurrile Experiment von Jonas Simmerlein, einem Theologen und Philosophen an der Universität Wien, veranschaulicht das praktische Potenzial von KI in Religion und Spiritualismus.

Politischer Einfluss über das Grab hinaus

Eine weitere mögliche Auswirkung ist die Verwischung der Grenzen zwischen Lebenden und Toten im öffentlichen Raum. Da KI-generierte Avatare verstorbener Prominenter, historischer Persönlichkeiten und gewöhnlicher Personen immer häufiger vorkommen, können sie aktuelle Ereignisse beeinflussen und die öffentliche Meinung beeinflussen.

Stellen Sie sich eine kontroverse politische Unterstützung durch eine KI-Kopie eines geliebten oder mächtigen Führers vor.

Etwas Ähnliches geschah, als der verstorbene indonesische Diktator Suharto digital wiederbelebt wurde, um den Menschen vor den Wahlen im Land zu raten, zu wählen.

Verschärfung der Ungleichheit

Es besteht auch die Gefahr, dass die digitale Unsterblichkeit bestehende Ungleichheiten verschärft und neue Formen sozialer Schichtung schafft.

Genau wie im Leben haben die Reichen und Privilegierten möglicherweise besseren Zugang zu der Technologie und den Ressourcen, die sie benötigen, um hochwertige, überzeugende digitale Nachbildungen ihrer selbst zu erstellen.

Dies könnte zu einer Zukunft führen, in der die virtuellen Hinterlassenschaften der Elite weiterhin einen übergroßen Einfluss ausüben, während die Stimmen und Geschichten der Marginalisierten in der Dunkelheit verschwinden.

In diesem Szenario wird die digitale Unsterblichkeit zu einem weiteren Mittel, mit dem Macht und Status über das Grab hinaus verewigt werden.

Wem gehören die Daten der Toten?

Eine weitere relevante Frage ist: Wem „gehören“ die Daten der Toten – und zu welchem ​​Zweck können sie verwendet werden? Ist es rechtsverbindlich, wenn ein Avatar einen Vertrag unterzeichnet oder einen Kauf tätigt?

Könnten Interaktionen nach dem Tod überhaupt als Beweismittel in Gerichtsverfahren dienen oder durch Befürwortungen Wahlen beeinflussen?

Könnten Trauernde eine ungesunde Bindung entwickeln oder sogar den idealisierten KI-Begleiter ihren unvollkommenen, atmenden Angehörigen vorziehen?

Ein typisches Beispiel: Hollywood-Schauspieler, darunter auch die vor über 70 Jahren verstorbene Ikone James Dean „digitale Zwillinge“ haben die neben lebenden Darstellern gehen, sprechen und agieren können und dabei auf Archivmaterial, Fotos und Audioaufnahmen zurückgreifen.

Deans digitaler Zwilling wird von der Medienagentur WRX und ihrem Schwesterlizenzunternehmen CMG Worldwide gespeichert. CMG Worldwide vertritt Stars und Persönlichkeiten des öffentlichen Lebens wie Amelia Earhart, Bettie Page, Malcolm X und Rosa Parks.

CMG Worldwide beschreibt seine Dienstleistungen: „CMG ist der aktive Handelsvertreter für über 200 dieser gefragten Kunden. In unserem vierten Jahrzehnt, in dem wir das Erbe unserer Kunden bewahren, fördern und schützen, lizenzieren wir das geistige Eigentum unserer Kunden an die größten Unternehmen der Welt.“

Dean ist neben Stars wie Carrie Fisher und Paul Walker, deren posthume Filmauftritte durch modernste CGI ermöglicht wurden, nur die neueste Berühmtheit, die die digitale Reanimationsbehandlung erhält.

Sobald die Daten einer Person übertragen wurden, kann es schwierig sein, sie nach ihrem Tod zu kontrollieren.

Auch hier handelt es sich nicht nur um Spekulationen. Beispielsweise wurde der verstorbene Komiker George Carlin kopiert und in einer KI-generierten Show mit dem Titel „George Carlin: I'm Glad I'm Dead“ ohne die Erlaubnis seiner Familie oder seiner Familie verwendet, was zu heftigen Kontroversen und Klagen führte.

Auch der verstorbene Schauspieler Robin Williams wurde Opfer des Stimmklonens, worauf seine Tochter Zelda Williams reagierte: „Diese Nachbildungen sind im besten Fall ein dürftiges Abbild größerer Menschen, im schlimmsten Fall aber ein schreckliches Frankenstein-Monster, zusammengebastelt.“ von allem, was diese Branche ausmacht, und nicht von dem, wofür sie stehen sollte.“

Die Risiken des digitalen Jenseits mindern

Um Risiken zu mindern, schlägt das Cambridge-Team strenge Richtlinien für eine „verantwortungsvolle digitale Auferstehung“ vor.

In erster Linie sei es von größter Bedeutung, die eindeutige Zustimmung des Verstorbenen vor dem Tod und die Zustimmung derjenigen einzuholen, die mit ihren Avataren interagieren würden.

Die Studie empfiehlt außerdem Beschränkungen für Kommerzialisierung und Werbung, „sinnvolle Transparenz“, um Täuschungen zu vermeiden, und den Rückgriff auf eine würdevolle „digitale Bestattung“, sobald die Menschen bereit sind, loszulassen.

Die Alternative, warnen sie, sei eine Gesellschaft, die von den allgegenwärtigen Datengeistern ihrer Verstorbenen heimgesucht werde. Eine Existenz, in der die Toten nie vollständig beigesetzt werden, sondern auf unseren Geräten verweilen, immer nur einen Klick entfernt.

„Wir müssen jetzt darüber nachdenken, wie wir die sozialen und psychologischen Risiken der digitalen Unsterblichkeit mindern, denn die Technologie ist bereits vorhanden“, sagte Nowaczyk-Basińska.

„Wenn wir nicht schnell handeln, könnten die Auswirkungen auf die Art und Weise, wie wir Bedeutung in Bezug auf die menschliche Endlichkeit konstruieren, tiefgreifend – und zutiefst beunruhigend – sein.“

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Must Read