Подосокорский

"СМИ стараются приуменьшить влияние технологий, связанных с роботизацией и искусственным интеллектом (ИИ), на рынок труда, но несколько простых цифр дают представление о мотивации внедрения подобных технологий для бизнеса. Час труда промышленного рабочего в Германии стоит 49 долларов, в США —36 долларов, в то время как час работы робота, согласно недавнему исследованию компании Bain, обходится всего в четыре доллара (во многих развивающихся странах стоимость труда еще ниже). По оценкам исследования консалтинговой компании Ваin «Рынок труда в 2030 году: столкновение демографии, автоматизации и неравенства», внедрение роботов и ИИ приведет к тому, что каждый год два с половиной миллиона американцев будут пополнять число безработных. Для сравнения: в начале ХХ века, во время кризиса, связанного с переходом от сельскохозяйственного уклада к индустриальному, этот показатель был вдвое меньше. Опрос социологического центра Pew выявил: в то время как большинство американцев уверены, что еще при жизни нынешнего поколения роботы полностью заменят работников индустрии быстрого питания и страховщиков, лишь 30% считают, что перемены коснутся лично их. Это не должно успокаивать, говорится в докладе AI Now: ведь когда избиратели и политики поймут масштаб происходящего, их реакция может быть непредсказуемой. При приеме на работу ИИ, натренированный при помощи машинного обучения, будет чаще склоняться к «проверенным» решениям и тем самым усиливать предвзятость, проявленную в прошлом. При этом наниматься будут не лучшие сотрудники, отражающие все разнообразие кандидатов, а похожие на тех, кто уже был нанят в прошлом. Многие считают, что сложные алгоритмы будут следовать тому, что им предписали создатели, и тем самым проявлять предвзятость только в тех случаях, когда они на нее попросту запрограммированы. Но на практике даже непредвзятые разработчики с самыми лучшими намерениями могут создавать предвзятые системы просто потому, что даже они могут не понимать, как будет функционировать созданный ими ИИ.

Алгоритмы, разработанные для больших однородных групп населения, например для белых американцев, могут сильно отличаться от соответствующих алгоритмов для меньшинств, да и данных по меньшинствам у ИИ будет по определению гораздо меньше. Это может привести к ошибкам ИИ, которому, допустим, поручено отделить реальные имена в соцсети от фейковых. В итоге «забаненными» могут оказаться реальные люди, в то время как фейковые аккаунты будут продолжать работать.

Исследователь машинного обучения Мориц Хардт предлагает минимизировать риски путем выписывания всех возможных ошибок, которые могут случиться, занесения их в программу и интенсивного прогона cпециализированных тестов по каждой из них с целью их полного исключения. Но может ли сам ИИ составить такой список? Скорее всего, на нынешнем этапе развития ИИ — нет. Таким образом, ошибки будут неизбежно случаться, только вот исправить ошибку, связанную с предвзятостью суждения ИИ, будет очень трудно, если вообще возможно. Некоторые разработчики предлагают создать для ИИ мотивацию, вознаграждая его за работу без ошибок. Но не придумает ли он тогда способ, чтобы получить вознаграждение наверняка? Например, если награждать робота-уборщика за отсутствие мусора, он может просто отключить камеру, чтобы не передавать изображение мусора, или накрыть мусор чем-то непрозрачным, или просто спрятаться от хозяев. Как поступит ИИ? Мы попросту не знаем".

(Игорь Шнуренко. Искусственный интеллект на грани нервного срыва // "Эксперт", 2019. №1-3).