Подосокорский

"Еще год назад журнал Forbes оптимистично писал, что 2018-й станет прорывным в целом спектре областей, связанных с искусственным интеллектом (ИИ). В первую очередь называли автомобильную отрасль, где ИИ не только будет управлять машиной, но и возьмет под свою ответственность безопасность, досуг и даже эмоциональное состояние пассажиров. ИИ станет совсем умным и начнет отвечать на вопрос «почему», объясняя потребителям, что стоит за тем или иным решением. Ценообразование станет динамическим и будет меняться не только в зависимости от общего спроса и предложения, но с учетом запросов и даже эмоций конкретного потребителя, для каждого из которых будет установлена своя цена. О том, чтобы вызвать эмоции, благоприятные для совершения покупки, позаботятся не только вездесущие чат-боты, но и информационные помощники типа Сири. ИИ станет вездесущим, как вода и воздух, а компании, не добавившие хотя бы тонкий слой ИИ на свой продукт, заведомо потеряют в конкурентной борьбе.

2018 год позади. Действительно, связанные с ИИ системы входят в повседневную жизнь, пусть это не всегда заметно. Большой шаг вперед, как и предсказывалось, совершили системы, связанные с распознаванием лиц. Помощники типа Алексы от Amazon или Сири от Аррle теперь распознают не только что именно сказано, но и каким тоном сказано, какое эмоциональное и душевное состояние за этим стоит. Корпорации патентуют методы маркетинга, построенные на таких данных, и пытаются монетизировать эмоции. При этом пользователь Алексы является для ИИ-индустрии одновременно потребителем, ресурсом, работником и продуктом. Он покупает потребительский продукт и пользуется им, но при этом его голосовые команды поступают в центр обработки данных Аmazon, анализируются там и хранятся для пополнения базы человеческих голосов, эмоций и инструкций, которая потом используется в целях машинного обучения нейросетей. Потребители также постоянно оказывают компании бесплатные услуги по оценке качества ответов Алексы, их полезности и своевременности.

Amazon, Google и другие компании-разработчики ИИ вроде бы могут быть довольны: им в целом удалось достичь поставленных целей и начать получать выгоду. Однако по итогам года стало понятно и то, что опасности, о которых предупреждали такие исследователи ИИ, как записанный в пессимисты Ник Бостром, проявили себя гораздо раньше, чем этого ожидали оптимисты.

В марте управляемый ИИ автономный автомобиль компании Uber не увидел на дороге женщину, и это закончилось летальным исходом. В том же месяце сотрудники Google выступили с беспрецедентным протестом против создания систем ИИ по заказам Пентагона для систем вооружений. В мае система распознавания голоса, предназначенная разоблачать злоупотребления при подаче заявлений на иммиграцию в Великобританию, «сошла с ума», аннулировала тысячи виз и приняла решения о высылке из страны сотен людей. Цифровой помощник IВМ Watson рекомендовал людям, больным раком, неправильные и небезопасные для здоровья препараты, а алгоритм, разработанный для иммиграционной и таможенной полиции США, стал выдавать одну-единственную рекомендацию для всех без исключения иммигрантов: задержать.

Вопрос уже в том, есть ли опасность в ИИ-технологиях, говорится в докладе АI Now. В том, какие меры уже сейчас нужно принимать правительствам, обществу, бизнесу, чтобы избежать развития событий по самым худшим сценариям. Проблема особенно насущна, учитывая масштаб систем на базе ИИ: возникнув, они немедленно становятся глобальными, подстраивая под себя общество по принципу, выраженному Маршаллом Маклюэном: «Мы придаем форму нашим инструментам, а потом наши инструменты придают форму нам».

(Игорь Шнуренко. Искусственный интеллект на грани нервного срыва // "Эксперт", 2019. №1-3).