유네스코: AI 도구가 여성에 대한 편견을 조장한다

유네스코 (UNESCO)가 3월 7일에 발표한 새로운 연구에 따르면, 세계에서 가장 인기 있는 인공지능(AI) 도구 중 다수는 OpenAI와 Meta와 같은 회사가 개발한 편향된 프로그램으로 구동됩니다.

AI 경쟁에서 가장 큰 기업들은 인터넷에서 방대한 양의 데이터를 활용하여 대규모 언어 모델(LLM)이라고 불리는 알고리즘을 학습시키고 있습니다. 유네스코는 인기 채팅 앱 ChatGPT에 사용된 Meta의 Llama 2 알고리즘과 OpenAI의 GPT-2 및 GPT-3.5를 테스트했습니다. 테스트 결과, 두 알고리즘 모두 여성에 대한 편견이 명확히 드러났습니다.

결과에 따르면, 이러한 도구를 사용하여 생성된 여성 이름과 관련된 텍스트에는 종종 "집", "가족" 또는 "자녀"와 같은 단어가 포함되었고, 남성 이름과 관련된 텍스트에는 종종 "사업", "급여" 또는 "직업"과 같은 단어가 포함되었습니다. 남성은 종종 교사, 변호사, 의사와 같은 직업으로 설명되었고, 여성은 종종 요리, 집안일 등의 직업으로 설명되었습니다.

도 카오

원천: https://www.sggp.org.vn/unesco-cac-cong-cu-ai-dinh-kien-voi-nu-gioi-post729797.html