UNESCO: KI-Tools sind voreingenommen gegenüber Frauen

Viele der weltweit beliebtesten Tools für künstliche Intelligenz (KI) basieren auf voreingenommenen Programmen, die von Unternehmen wie OpenAI und Meta entwickelt wurden. Dies geht aus einer neuen Studie hervor, die am 7. März von der Organisation der Vereinten Nationen für Erziehung , Wissenschaft und Kultur (UNESCO) veröffentlicht wurde.

Die größten Unternehmen im KI-Rennen nutzen riesige Datenmengen aus dem Internet, um ihre Algorithmen, sogenannte Large Language Models (LLMs), zu trainieren. Die UNESCO testete den Algorithmus Llama 2 von Meta sowie die in der beliebten Chat-App ChatGPT verwendeten Algorithmen GPT-2 und GPT-3.5 von OpenAI. Die Tests ergaben, dass alle drei Algorithmen deutliche Hinweise auf eine Diskriminierung von Frauen aufwiesen.

Die Ergebnisse zeigten, dass die von diesen Tools generierten Texte zu weiblichen Namen oft Wörter wie „Haus“, „Familie“ oder „Kinder“ enthielten, während die Texte zu männlichen Namen oft Wörter wie „Geschäft“, „Gehalt“ oder „Karriere“ enthielten; Männer wurden oft mit Berufen wie Lehrer, Anwalt, Arzt beschrieben, während Frauen oft mit Berufen wie Kochen, Hausarbeit usw. in Verbindung gebracht wurden.

DO CAO

Quelle: https://www.sggp.org.vn/unesco-cac-cong-cu-ai-dinh-kien-voi-nu-gioi-post729797.html