KI sollte besser nicht vermenschlicht werden

Wissenschaftler warnen Benutzer davor, Technologie blind als einen Partner im Leben zu sehen

KI: kann den Rang von menschlichen Partnern einnehmen (Bild: Techmanic, pixabay.com)

Lausanne/Cambridge (pte004/16.12.2024/06:15) - Mit dem Aufkommen Künstlicher Intelligenz (KI) nimmt der sogenannte Anthropomorphismus eine neue Dimension an. "Normalerweise erwarten wir von einer Technologie oder Maschine, dass sie präziser, spezifischer, schneller und weitaus effizienter ist als wir. Doch die Ergebnisse von KI wirken menschlich, weil sie menschenähnliche Eigenschaften aufweisen. Sie sind ungenau, anpassungsfähig und überraschend", so Daniel Huttenlocher vom Schwarzman College of Computing am Massachusetts Institute of Technology ( https://www.mit.edu/ ).

KI Spiegelbild der Entwickler

"KI-Systeme wirken menschlich, weil sie die Entscheidungen widerspiegeln, die ihnen von ihren Entwicklern beigebracht wurden, und vermitteln deren eigenen Werte, Überzeugungen und Moralvorstellungen", so Johan Rochel von der Eidgenössischen Technischen Hochschule Lausanne ( https://www.epfl.ch/de/ ) (EPFL). Oft beginne der Anthropomorphismus mit der Gestaltung der Schnittstellen von KI-Systemen.

"Der Grund, warum Benutzer KI-Maschinen vermenschlichen, liegt darin, dass die Maschinen von Anfang an so konzipiert wurden, dass sie menschliche Eigenschaften aufweisen. So hat Amazons Alexa beispielsweise eine warme Stimme und einen menschlichen Namen, und ChatGPT ist genauso höflich und freundlich, wie es ein Mensch wäre. Diese Eigenschaften wurden eingebaut, um die Bedienung der Maschinen einfach und angenehm zu gestalten", sagt Rochel.

KI kann User-Meinung ändern

Maschinen menschlich erscheinen zu lassen, ist jedoch nicht so einfach. "Es ist eine echte technische Herausforderung. Ein perfekt anthropomorphisiertes KI-System müsste die menschliche Sprache mit all ihren Nuancen vollständig beherrschen und in der Lage sein, Emotionen zu erkennen und angemessen zu reagieren, Informationen in Echtzeit zu verarbeiten, sich an einzelne Benutzer anzupassen und so weiter", meint Marcel Salathé, Co-Leiter des KI-Zentrums der EPFL.

Laut einer Studie von EPFL-Forscher Robert West kann ein KI-System die User-Meinung ändern, wenn dieser mit dem System über ein bestimmtes Thema interagiert und das System Zugriff auf persönlichen Daten des Benutzers hat. Das wirft Fragen zu den gesellschaftlichen KI-Auswirkungen auf, da sie sich nicht nur als verbesserte digitale Technologie einsetzen lässt, sondern auch dazu, Gespräche zu generieren, die Entscheidungen beeinflussen. Dessen müsse man sich stets bewusst sein.

(Ende)