KI-Anbieter lassen Tote für Produkte werben

Großmutter: kann nach dem Tod als Deadbot weiterleben (Bild: Moondance, pixabay.com)

Cambridge (pte001/14.05.2024/06:00) - Forscher der University of Cambridge ( https://www.cam.ac.uk ) sehen in der Nutzung von KI-Sprachmodellen wie ChatGPT zum künstlichen Wiederaufleben von Verstorbenen, die diese zu Lebzeiten zu diesem Zweck trainiert haben, eine Gefahr. Zwar könne eine solche KI bei der Bewältigung des Verlustes helfen, doch auf Dauer führe sie zur psychischen Destabilisierung der Trauenden - erst recht, wenn sie von gewissenlosen Anbietern genutzt wird, um Werbebotschaften zu übermitteln, heißt es.

"Digitale Jenseitsindustrie"

Katarzyna Nowaczyk-Basińska, Forscherin am Leverhulme Centre for the Future of Intelligence ( http://lcfi.ac.uk/ ), und ihre Kollegen fordern deshalb Sicherheitsprotokolle, die verhindern, dass die aufkommende "digitale Jenseitsindustrie" sozialen und psychologischen Schaden anrichtet. Bei "Deadbots" oder "Griefbots" handelt es sich um KI-Chatbots, die die Sprachmuster und Persönlichkeitsmerkmale Verstorbener anhand der von ihnen hinterlassenen digitalen Fußspuren simulieren. Einige Unternehmen bieten diese Dienste bereits an.

Die Forschungsergebnisse zeigen, dass Unternehmen Deadbots einsetzen können, um Nutzern heimlich Produkte im Stil eines verstorbenen geliebten Menschen anzubieten oder Kinder zu beunruhigen, indem sie behaupten, ein toter Elternteil sei noch "bei dir". Wenn sich die Lebenden anmelden, um nach ihrem Tod virtuell wiedererschaffen zu werden, könnten die daraus resultierenden Chatbots von Unternehmen eingesetzt werden, um die Hinterbliebenen mit unaufgeforderten Benachrichtigungen, Erinnerungen und Aktualisierungen zu den von ihnen angebotenen Diensten zuzuspammen - "so als würden sie digital von den Toten gestalkt", meint Nowaczyk-Basińska.

Deadbots nicht aufzuhalten

Selbst diejenigen, die sich anfangs von einem Deadbot trösten lassen, könnten durch die täglichen Interaktionen, die zu einer "überwältigenden emotionalen Last" werden, ausgelaugt sein, argumentieren die Forscher. Derzeit hätten sie keine Möglichkeit, diese Software zu stoppen, wenn ihr verstorbener Angehöriger einen langen Vertrag mit einem digitalen Dienst für das Leben nach dem Tod abgeschlossen hat.

"Dieser Bereich der KI ist ein ethisches Minenfeld. Es ist wichtig, die Würde des Verstorbenen in den Vordergrund zu stellen und dafür zu sorgen, dass diese nicht durch finanzielle Motive von digitalen Dienstleistungen für das Leben nach dem Tod beeinträchtigt wird", sagt Nowaczyk-Basińska abschließend.

(Ende)