Подосокорский

Педро Домингос, профессор компьютерных наук из Вашингтонского университета, автор книги «Верховный алгоритм» (2015), член Ассоциации по продвижению искусственного интеллекта: "В ближайшее десятилетие у каждого из нас, вероятно, будет свой «цифровой двойник», ИИ-компаньон, гораздо более полезный, чем современный смартфон. Этот двойник не должен будет находиться у вас в кармане или где-нибудь поблизости. Скорее всего он будет «жить» в облаке, так, как это происходит сегодня с большинством ваших данных. Его прообразом может служить виртуальный ассистент, такой как Siri, Alexa и Google Assistant. «Сердцем» двойника будет ваша модель, построенная исходя из всей информации, которую вы поставили когда-либо цифровому миру: от настольного компьютера и различных интернет-сайтов до гаджетов и сенсоров, говорящих устройств и видеокамер. Чем совершеннее становится алгоритм и чем больше персональных данных в него заложено, тем адекватнее становится наш цифровой двойник. Создав универсальный алгоритм и соединив его с помощью датчиков с вашей чувственно-моторной системой, вы получите цифрового двойника, знающего о вас больше, чем ваши ближайшие друзья.

Сама модель и соответствующая информация будут храниться в «банке данных», сходном с обычным банком, в котором вы держите свои сбережения. Наверняка многие компании хотели бы оказывать подобные услуги. Сооснователь Google Сергей Брин заявил, что Google желал бы стать «третьей частью вашего мозга», но вы сами вряд ли согласитесь на такое замещение. Несмотря на все сказанное выше, основная угроза человечеству от искусственного интеллекта связана не с тем, что он самопроизвольно превратится в монстра, а с тем, что человек, который им управляет, воспользуется им ненадлежащим образом. И первейшая задача банка данных будет состоять в том, чтобы вашу модель никто не мог использовать в обход вас. Вместе с банком вы должны тщательно следить за тем, чтобы к модели не получили доступа криминальные элементы. Понадобится создать ИИ-полицию (полицию Тьюринга, как назвал ее Уильям Гибсон в своей книге «Нейромант», вышедшей в 1984 г.), отлавливающую таких мошенников.

Если вы по несчастью живете в авторитарном государстве, то этот сценарий крайне опасен, поскольку власти могут следить за вами и контролировать все ваши действия. Учитывая, как быстро совершенствуются обучаемые машины, а прогнозирующие полицейские системы уже используются, можно сказать, что сценарий фильма «Особое мнение» (где людей арестовывают превентивно, когда они как бы задумывают что-то противозаконное), уже не кажется абсурдным. Мир начинает жить с цифровыми двойниками прежде, чем все мы освоили хотя бы одного".

https://philologist.livejournal.com/10681266.html