Нейросеть Amazon считала женщин плохими и была закрыта

У компании Amazon был искусственный интеллект для найма рабочих, но как оказалось у него был недостаток из-за которого ИИ был полностью закрыт.
Как удалось узнать Reuters, нейронная сеть ненавидела женщин и на работу рекомендовала только мужчин.

Разработчики даже не стали разбираться в чем причина такой дискриминации по половому признаку и закрыла проект.

При этом СМИ удалось узнать, что руководство вначале планировало исправить HR-нейросеть, но когда информация о неправильном поведении искусственного интеллекта просочилась в сеть ее закрыли.

Есть предположение, что нейросеть решила, что мужчины лучше работают потому что в компании их больше, чем женщин.

Также ИИ при разработке обучали на базе существующих анкет реальных сотрудников, среди которых опять же больше мужчин.