Wissenschaft legt sich KI-Verhaltenskodex auf

Tools und Algorithmen offenlegen, KI-Inhalte klar kennzeichnen, Voreingenommenheit verhindern

KI: Forschung legt sich KI-Verhaltenskodex auf (Bild: KI-generiert, pixabay.com, susan-lu4esm)

München (pte016/24.05.2024/11:30) - Eine Arbeitsgruppe aus Vertretern der Politik, Unternehmen und Forschern unter Beteiligung der Technischen Universität München ( https://www.tum.de ) haben in einem Verhaltenskodex fünf Prinzipien zur verantwortungsvollen und transparenten Nutzung Künstlicher Intelligenz (KI) in der Wissenschaft definiert. Details sind in den "Proceedings of the National Academies of Sciences" publiziert.

Einsatz mit Bedacht

Wissenschaftler sollen offenlegen, welche Tools und Algorithmen sie bei ihrer Arbeit benutzen und Beiträge von KI beziehungsweise Menschen klar kennzeichnen. Auch sollen Forscher weiterhin die Verantwortung für die Genauigkeit der Daten und für die Schlussfolgerungen, die sie aus diesen ziehen, tragen - selbst wenn sie dafür KI-Analyse-Tools verwendet haben.

KI-generierte Daten müssen "kenntlich gemacht werden, damit sie nicht mit Daten und Beobachtungen aus der realen Welt verwechselt werden können". Auch sollen die Fachleute sicherstellen, dass ihre Ergebnisse wissenschaftlich fundiert sind und keinen Schaden anrichten. Und das Risiko, dass KI etwa durch Trainingsdaten "voreingenommen" wird, soll möglichst gering gehalten werden, heißt es.

AI Act verabschiedet

Erst Anfang der Woche hat der Ministerrat der 27 EU-Mitgliedsstaaten den AI Act zur Regulierung des Einsatzes von KI verabschiedet. Das neue KI-Gesetz regelt für Unternehmen etwa die Nutzung der Technologien in den Bereichen Videoüberwachung, Spracherkennung und Finanzdatenanalyse. Eine Kennzeichnungspflicht für KI-Anwender und -Content-Ersteller soll bei Text, Bild und Ton für mehr Transparenz sorgen, wie pressetext berichtete ( https://www.pressetext.com/news/20240521029 ).

(Ende)