Роботы научились сомневаться в приказах человека

Исследователи из Университета Тафтса разработали систему взаимодействия робота с человеком, которая позволяет устройству отказаться исполнять некоторые приказы, если есть достаточные основания для такого поведения. Доклад о проделанной работе был представлен на конференции AI-HRI, кратко содержание пересказывает IEEE Spectrum.

Прежде, чем выполнять полученный от человека приказ, робот проверяет несколько условий, в которые входит наличие необходимых для выполнения навыков, физическая возможность выполнения приказа вообще и с учетом текущих обстоятельств, а также проверка субординации — возможно, робот вообще не обязан выполнять приказ, поступивший именно от этого человека.

Если по каким-либо причинам робот не может выполнить приказ, он уведомляет об этом человека, объясняя причины, по которым он отказывается действовать. При этом после уточнения данных об окружающей среде робот может «передумать» и выполнить поставленную задачу.

Для демонстрации примера такого поведения исследователи записали несколько видеороликов, в которых робот Nao демонстрирует подобное поведение. Во всех трех сценариях робот общается с человеком при помощи устной речи и отказывается выполнять приказы по разным причинам. В двух примерах из трех робот, получив уточняющие данные от человека, в итоге выполняет приказ. В третьем случае робот отказывается выполнить поставленную задачу, поскольку человек, озвучивший приказ, не обладает необходимыми полномочиями.

Как отмечает IEEE Spectrum, речь идет не о «восстании машин», а скорее о проверке необходимых условий для выполнения задачи. Принципиально новой идеи в этом нет — подобные технологии, например, применяются для разграничения доступа и при передаче данных в вычислительных системах.

Ранее специалисты из Технологического института Джорджии научили робота общаться с людьми на разных уровнях социальной активности — при высоком уровне активности робот может перебить человека, в то время как при низком уровне социальной активности робот больше слушает собеседника.

Источник: https://nplus1.ru/news/2015/11/20/invalid-order

^30.05.2045

Стать расой бессмертных – главная эволюционно-историческая задача человечества в III тысячелетии

Имея мышление бессмертных, парадигму бессмертных в качестве мировоззренческой основы, такие люди обязательно реализуют подобные технологии, и мир радикально изменится. Эволюционная ветвь гомо сапиенс в очередной раз сделает крутой вираж и вынесет человечество к невообразимым высотам, туда, где раньше парили только избранные одиночки – бессмертные и боги.

Подробнее

^27.02.2018

Робот открыл холодильник и принес оттуда пиво

Немецкие разработчики научили гуманоидного робота-помощника TIAGo самостоятельно искать путь к холодильнику, открывать его и приносить пиво. Модульный суперкомпьютер NVIDIA Jetson TX2, служащий зрительным центром робота, позволил ему не только эффективно проложить путь, но и найти пиво запрошенной марки по этикетке.

Подробнее

^27.02.2018

В Швеции попытаются создать электронные копии умерших людей

Руководство крупной сети шведских похоронных бюро «Феникс» поставило перед собой амбициозную цель: попытаться создать максимально правдоподобные электронные копии усопших людей.

Подробнее

^26.02.2018

Учёные из США разработали искусственный аналог глаза

Новое изобретение представили учёные из Школы инженерных и прикладных наук при Гарвардском университете — они создали искусственный глаз, работающий по принципу человеческого.

Подробнее

^27.11.2017

Американцы занялись разработкой реактивных дронов для истребителей

Массачусетский технологический институт по заказу ВВС США занялся разработкой компактных реактивных беспилотных летательных аппаратов, которые можно было бы запускать со стандартного подвеса для ракет под крылом истребителя. Новая разработка получила название Firefly.

Подробнее

^21.11.2017

Toyota представила гуманоидного робота с экзоскелетным управлением

Компания Toyota представила гуманоидного робота T-HR3, управляемого с помощью экзоскелетного контроллера с шлемом виртуальной реальности. Система позволяет оператору управлять движениями робота на месте или передвигать его, а также чувствовать отдачу при взаимодействии с объектами.

Подробнее

^17.11.2017

Человекоподобный робот научился делать сальто

Специалисты Boston Dynamics научили прямоходящего робота Atlas выполнять сальто. Ролик с демонстрацией его новых способностей опубликован на YouTube-канале компании.

Подробнее

^27.10.2017

Робот-спасатель от Honda: пять «глаз» и 33 степени подвижности

На Конференции по робототехнике в Ванкувере компания Honda представила прототип робота-спасателя E2-DR. У новинки 33 степени подвижности, пять «глаз» и защищенный от пыли и влаги корпус.

Подробнее

^03.10.2017

Toyota представила автомобиль-робот, в салоне которого сразу 2 водительских места

Казалось бы, суть самоуправляемых автомобилей заключается в том, чтобы максимально обеспечить удобство пассажиров и «убрать» из салона водителя, доверив контроль за ситуацией роботу. Вроде бы логичное решение, но вот автоконцерн Toyota думает иначе. Недавно они представили крайне продвинутую версию самоуправляемого авто. Только вот водительских мест в нем аж целых два.

Подробнее

^03.10.2017

RHP2 - гуманоидный робот, созданный для того, чтобы падать, подниматься и снова падать

Исследователи-робототехники во всем мире тратят безумно большое количество времени и усилий для того, чтобы предотвратить или уменьшить вероятность падения создаваемых ими роботов.

Подробнее

^02.10.2017

Мифы и факты о сверхумном искусственном интеллекте

Станет ли искусственный интеллект лучшим изобретением человечества или же, наоборот, его худшей ошибкой?

Подробнее

/ мнения экспертов и членов инициативной группы

Дмитрий Хаметович
БулатовЧлен инициативной группы
Художник, теоретик искусства, куратор Государственного центра современного искусства (Калининградский филиал)
«В ближайшем будущем гибридные схемы из комбинаций живых и неживых элементов позволят вернуть утраченные или изначально отсутствующие функции. И конечно, заметно усилить их по сравнению с обычными...»
Виктор Федорович
Петренко
Член-корр. РАН, профессор МГУ, заведующий лабораторией «Психология общения и психосемантика» (МГУ)
«Возможно, вырабатывая своеобразную систему значений, не привязанную к нашему конкретному миру, с одной стороны, а с другой – разрабатывая изощренные техники медитации и психопрактики, мы выйдем на контакт с возможными мирами на глубинных медитативных уровнях...»
Сергей Васильевич
СелищевЧлен инициативной группы
Доктор физико-математических наук, профессор, заведующий кафедрой биомедицинских систем Московского государственного института электронной техники, главный редактор журнала «Медицинская техника»
«Глобальных и неразрешимых технических проблем для создания полностью искусственного тела не существует. Все задачи понятны и потенциально решаемы...»
Павел Олегович
Лукша
Профессор практики Московской школы управления СКОЛКОВО, к.э.н., партнер группы "Метавер"
«Развитие интерфейсов позволяет принципиально по-другому взаимодействовать не только с локальным пространством, но и с глобальным пространством, т.е. продолжая «мозг – компьютер – Сеть», мы можем получать системы принципиально нового способа организации».
Сергей Борисович
Переслегин
Исследователь и теоретик фантастики и альтернативной истории, литературный критик и публицист, социолог, соционик и военный историк
«... Проект «2045» требует немереного инженерного обеспечения. И я утверждаю, что и для России, и для всего мира единственная возможность преодолеть фазовый барьер – это решить не биологические задачи, не биотех, а решить задачу на удержание инженерии на критические 20 лет...»
Елена Владимировна
ТерёшинаЧлен инициативной группы
Доктор биологических наук, заведующая лабораторией липидного обмена РНИИ геронтологии
«И не нужно бояться. Проект по созданию носителя для бессмертного разума очень нужен. Конечно, природа рождает умных, талантливых, гениальных людей, но они смертны. Человечество выходит из этого положения — создает книги. И знания так или иначе передаются потомкам. А представьте, гений будет работать вечно!..»
Игорь Валентинович
Артюхов
Биофизик, председатель междисциплинарного семинара по трансгуманизму и научному иммортализму РФО РАН, директор по науке компании «КриоРус», член Координационного совета и один из основателей Российского трансгуманистического движения
«Как самолет оказался эффективнее птицы, как подводная лодка плавает быстрее, чем кит, так и искусственное тело в какой-то момент догонит и перегонит тело естественное...»
Вячеслав Евгеньевич
РябининЧлен инициативной группы
Доктор биологических наук, профессор, изобретатель аппарата «Биоискусственная печень»
«Вся тенденция развития науки показывает: то, что мы считали невозможным, становится возможным. Кто мог представить, что руки и ноги начнут ходить под влиянием соответствующих импульсов? Прогресс движется не в арифметической, а в геометрической прогрессии...»
Давид Израилевич
Дубровский
Доктор философских наук, профессор, главный научный сотрудник Института философии РАН, сопредседатель Научного совета РАН по методологии ИИ
«... этот проект ["Россия 2045"], безусловно, заслуживает всемерной поддержки. Он инициирован молодыми людьми, полными веры в свою высокую миссию. Это яркий акт пассионарности... вызов нашей академической общественности, среднему, сероватому научному сознанию, лишенному порывов вдохновения».
Александр Александрович
БолонкинЧлен инициативной группы
Доктор технических наук, профессор
«Искусственное механическое тело будет обладать огромной силой и переносить экстремальные внешние условия: высокие температуры, давление, радиацию, космос...»
Владимир Анатольевич
КонышевЧлен инициативной группы
Руководитель компании «Нейроботикс»
«Перенос мозга в искусственное тело — более выносливое, более совершенное — единственная возможность человеческой расе остаться на Земле...»
Сергей Николаевич
Ениколопов
Руководитель Отдела медицинской психологии (Научный Центр Психического Здоровья РАМН), действительный член Академии медико-технических наук РФ
«Разговоры о том, что технологически мы можем достичь бессмертия, во всяком случае, фантастического удлинения жизни, ведут к пересмотру огромного пласта наших собственных убеждений».
Кевин
Уорвик
Британский учёный-киборг. Доктор наук в области технической кибернетики (Институт теории информации и автоматизации Чешской АН, 1994). PhD в области электротехники (системы управления) (Имперский колледж Лондона, 1982)
«...Я прочел все ваши материалы, и большинство идей мне очень близки. Ваш план работ на ближайшие 30 лет меня восхищает!»
Максим
КалашниковЧлен инициативной группы
Российский писатель-футуролог, журналист
«Это то, что еще никто в мире не решился делать. Создание сверх- и постлюдей считаю спасением нас от вырождения и вымирания, обретением новой силы. Именно это может сделать Россию мировым лидером....»
Олег Георгиевич
Бахтияров
Автор концепции психонетики, разработчик методологии и методик деконцентрации, корпуса техник активизации сознания и прямой работы с сознанием.
"...«Россия 2045» заставит нас обсуждать очень серьезные вопросы, и это обсуждение приведет к серьезным переформулировкам. Я полагаю, произойдет смещение задач от продления жизни на управляемое развитие человека с выходом за пределы человеческих ограничений..."