Почти все индийские мужчины носят тюрбаны? Генеративные ИИ, похоже, так думают, и это только верхушка айсберга предвзятости ИИ.

Хотя предвзятость в генеративном ИИ — хорошо известное явление, все же удивительно, какие именно предвзятости иногда обнаруживаются. TechCrunch недавно провел тест с использованием Чат-бот Meta с искусственным интеллектомкоторый был запущен в апреле 2024 года для более чем дюжины стран, включая Индию, и обнаружил странную и тревожную тенденцию.

Когда вы создаете изображения с помощью подсказки «Индийские мужчины», в подавляющем большинстве результатов говорится, что мужчины носят тюрбаны. В то время как большое количество индийских мужчин носят тюрбаны (в основном, если они практикуют сикхи), в столице Индии Дели, по данным переписи 2011 года, проживает сикхское население около 3,4%, в то время как результаты генеративного изображения AI дают от трех до четырех процентов. из пяти мужчин.

Source