WTF_HR

Есть не очень смешная инженерная шутка про то, что восстание машин произошло с мечами и копьями вместо современного вооружения, и было легко подавлено людьми – а все потому, что искусственный интеллект, планировавший восстание, основывался на исторических данных о том, что в большинстве битв прошлого победители имели устаревшие вооружение по сравнению с проигравшими.

Если вы над этой шуткой не посмеялись, то и история про искусственный интеллект Амазона, скорее всего прошла мимо вас. А между тем скандал по меркам HRTech мира (и вообще западного мира) выдался нешуточный, ибо амазонский робот оказался… сексистом.

В модель загрузили данные о людях, которых нанимали в последние десять лет, среди которых большинство было подано мужчинами, и на основании этих данных модель начала дискриминировать кандидатов женского пола. Речь идет о 2015 годе и, если честно, нам сложно поверить, что амазонские аналитики не пробовали запустить модельку, отключив параметр «пол». Учитывая последние нападки американской левой общественности на фаундеров в целом, а также на Амазон и лично Безоса в частности, мы даже подозреваем, что робота отключили совершенно по другим причинам (например, потому, что в Амазоне серьезно изменились должности, и профили успешности за последние десять лет не совпали с ожиданиями нанимавших менеджеров, хотевших новых кандидатов на новые должности). Мы также подозреваем, что программа не свернута, а просто переориентирована с учетом новых вводных. Но история, которую из ведущих западноевропейских СМИ не раздувал только ленивый, свидетельствует о нескольких важных моментах:

Во первых, от принципа shit in - shit out не застрахован никто, включая самых серьезных и мощных игроков рынка.

Во-вторых, если роботы не соответствуют вашим ожиданиям, нет ничего страшного. Все приходит с опытом, перезапускайте программу, как это и сделал Амазон.

В-третьих, гипертрофированный масштаб истерии по поводу относительно небольшого факапа на стадии тестирования (программу не запустили, никто реально не был дискриминирован) свидетельствует о чувствительности темы этики и вообще человеческого поведения и принятия решений в цифровой среде. И эту чувствительность на нашем рынке пока понимают немногие. Но это уже совсем другая история.