Ученые предупреждают, что разработка автономных боевых систем может обернуться катастрофой для человечества и призывают ООН рассмотреть запрет на «наступательное автономное оружие».

Более тысячи зарубежных исследователей и инженеров опубликовали открытое письмо на сайте Института будущей жизни, предупреждающее об опасностях, связанных с разработкой автономных боевых систем. Авторы послания вручили этот документ также делегатам Международной конференции по искусственному интеллекту, прошедшей в Буэнос-Айресе. Под письмом подписались ученые с мировым именем.

По мнению иностранных специалистов, человек, который эволюционирует очень медленно, не может конкурировать с искусственным интеллектом и машины могут скоро превзойти людей. Ставшие массово доступными «роботы-убийцы» незамедлительно попадут в руки преступников и будут использоваться для заказных убийств и истребления отдельных этнических групп.

По мнению экспертов, искусственный интеллект, помимо всего прочего, помогает решать благородные задачи, например, спасать человеческие жизни, но все же угрозы он несет больше.

«Точно так же, как большинство химиков и биологов не заинтересованы в создании химического и биологического оружия, большинство ученых, работающих над искусственным интеллектом, не заинтересованы в создании ИИ-вооружения», – утверждают авторы письма.

Разделяют опасения иностранных коллег и российские эксперты. По их мнению, момент, когда автономные боевые системы будут не просто наделены функцией распознавания целей и расчета траектории полета снарядов, но и смогут автономно принимать решения об уничтожении цели, – вопрос ближайшего будущего.

«Автономное технологическое оружие, в отличие от ядерного, имеет гораздо более низкий барьер для входа: для его производства не будут требоваться редкие ресурсы с ограниченным доступом или масштабные технологические комплексы. Это создаст благодатную почву для развития поставок на черном рынке. Подобное оружие почти сразу может оказаться в руках террористов и диктаторов стран третьего мира, ведь все упирается исключительно в финансы на покупку, а не в интеллектуальные затраты на воровство защищенных военных технологий и труднодоступное сырье», - рассказал «Rosnauka.ru» генеральный директор группы компаний Cognitive Technologies, занимающихся разработкой систем искусственного интеллекта, машинного зрения и робототехникой Андрей Черногоров.

Не все эксперты категоричны в своих заявлениях, но мнение о том, что искусственный интеллект необходимо обучить пониманию, что такое "хорошо" и что такое "плохо" - это важное дополнение к концепции развития этого научного направления.

«Если все оставить как есть, то автономные интеллектуальные системы действительно могут представлять опасность, – считает Олег Варламов, доктор технических наук, старший партнер компании «Мивар». – Ведь чем дальше, тем больше их будет в нашей жизни, и тем более ответственные процессы люди будут им доверять. Сейчас человек контролирует работу атомных реакторов, управление запуска ядерных ракет, маршруты полетов авиалайнеров. Но не далек тот день, когда за работой компьютеров будут следить компьютеры. Уже через несколько лет у ведущих стран появятся гиперзвуковые ракеты, и существующие системы ответного удара окажутся слишком медленными, поэтому, наверняка, будут полностью автоматизированы. И судьба мира окажется в руках искусственного интеллекта, считающего вероятность успешного удара и коэффициент угрозы ответного.
Поэтому необходимо как можно скорее перейти от стадии считающих машин к стадии чувствующих, необходимо как можно скорее социализировать искусственный интеллект».

Источник: http://rosnauka.ru/news/761