Роботы научились сомневаться в приказах человека

Исследователи из Университета Тафтса разработали систему взаимодействия робота с человеком, которая позволяет устройству отказаться исполнять некоторые приказы, если есть достаточные основания для такого поведения. Доклад о проделанной работе был представлен на конференции AI-HRI, кратко содержание пересказывает IEEE Spectrum.

Прежде, чем выполнять полученный от человека приказ, робот проверяет несколько условий, в которые входит наличие необходимых для выполнения навыков, физическая возможность выполнения приказа вообще и с учетом текущих обстоятельств, а также проверка субординации — возможно, робот вообще не обязан выполнять приказ, поступивший именно от этого человека.

Если по каким-либо причинам робот не может выполнить приказ, он уведомляет об этом человека, объясняя причины, по которым он отказывается действовать. При этом после уточнения данных об окружающей среде робот может «передумать» и выполнить поставленную задачу.

Для демонстрации примера такого поведения исследователи записали несколько видеороликов, в которых робот Nao демонстрирует подобное поведение. Во всех трех сценариях робот общается с человеком при помощи устной речи и отказывается выполнять приказы по разным причинам. В двух примерах из трех робот, получив уточняющие данные от человека, в итоге выполняет приказ. В третьем случае робот отказывается выполнить поставленную задачу, поскольку человек, озвучивший приказ, не обладает необходимыми полномочиями.

Как отмечает IEEE Spectrum, речь идет не о «восстании машин», а скорее о проверке необходимых условий для выполнения задачи. Принципиально новой идеи в этом нет — подобные технологии, например, применяются для разграничения доступа и при передаче данных в вычислительных системах.

Ранее специалисты из Технологического института Джорджии научили робота общаться с людьми на разных уровнях социальной активности — при высоком уровне активности робот может перебить человека, в то время как при низком уровне социальной активности робот больше слушает собеседника.

Источник: https://nplus1.ru/news/2015/11/20/invalid-order

^30.05.2045

Стать расой бессмертных – главная эволюционно-историческая задача человечества в III тысячелетии

Имея мышление бессмертных, парадигму бессмертных в качестве мировоззренческой основы, такие люди обязательно реализуют подобные технологии, и мир радикально изменится. Эволюционная ветвь гомо сапиенс в очередной раз сделает крутой вираж и вынесет человечество к невообразимым высотам, туда, где раньше парили только избранные одиночки – бессмертные и боги.

Подробнее

^27.02.2018

Робот открыл холодильник и принес оттуда пиво

Немецкие разработчики научили гуманоидного робота-помощника TIAGo самостоятельно искать путь к холодильнику, открывать его и приносить пиво. Модульный суперкомпьютер NVIDIA Jetson TX2, служащий зрительным центром робота, позволил ему не только эффективно проложить путь, но и найти пиво запрошенной марки по этикетке.

Подробнее

^27.02.2018

В Швеции попытаются создать электронные копии умерших людей

Руководство крупной сети шведских похоронных бюро «Феникс» поставило перед собой амбициозную цель: попытаться создать максимально правдоподобные электронные копии усопших людей.

Подробнее

^26.02.2018

Учёные из США разработали искусственный аналог глаза

Новое изобретение представили учёные из Школы инженерных и прикладных наук при Гарвардском университете — они создали искусственный глаз, работающий по принципу человеческого.

Подробнее

^27.11.2017

Американцы занялись разработкой реактивных дронов для истребителей

Массачусетский технологический институт по заказу ВВС США занялся разработкой компактных реактивных беспилотных летательных аппаратов, которые можно было бы запускать со стандартного подвеса для ракет под крылом истребителя. Новая разработка получила название Firefly.

Подробнее

^21.11.2017

Toyota представила гуманоидного робота с экзоскелетным управлением

Компания Toyota представила гуманоидного робота T-HR3, управляемого с помощью экзоскелетного контроллера с шлемом виртуальной реальности. Система позволяет оператору управлять движениями робота на месте или передвигать его, а также чувствовать отдачу при взаимодействии с объектами.

Подробнее

^17.11.2017

Человекоподобный робот научился делать сальто

Специалисты Boston Dynamics научили прямоходящего робота Atlas выполнять сальто. Ролик с демонстрацией его новых способностей опубликован на YouTube-канале компании.

Подробнее

^27.10.2017

Робот-спасатель от Honda: пять «глаз» и 33 степени подвижности

На Конференции по робототехнике в Ванкувере компания Honda представила прототип робота-спасателя E2-DR. У новинки 33 степени подвижности, пять «глаз» и защищенный от пыли и влаги корпус.

Подробнее

^03.10.2017

Toyota представила автомобиль-робот, в салоне которого сразу 2 водительских места

Казалось бы, суть самоуправляемых автомобилей заключается в том, чтобы максимально обеспечить удобство пассажиров и «убрать» из салона водителя, доверив контроль за ситуацией роботу. Вроде бы логичное решение, но вот автоконцерн Toyota думает иначе. Недавно они представили крайне продвинутую версию самоуправляемого авто. Только вот водительских мест в нем аж целых два.

Подробнее

^03.10.2017

RHP2 - гуманоидный робот, созданный для того, чтобы падать, подниматься и снова падать

Исследователи-робототехники во всем мире тратят безумно большое количество времени и усилий для того, чтобы предотвратить или уменьшить вероятность падения создаваемых ими роботов.

Подробнее

^02.10.2017

Мифы и факты о сверхумном искусственном интеллекте

Станет ли искусственный интеллект лучшим изобретением человечества или же, наоборот, его худшей ошибкой?

Подробнее

/ мнения экспертов и членов инициативной группы

Акоп Погосович
Назаретян
Доктор философских наук, канд. психологических наук, главный редактор журнала «Историческая психология и социология истории», профессор МГУ.
«Интеллект современного человека – это искусственный интеллект. Естественным осталось только то, что он на белковом носителе, т.е. естествен не интеллект, а мозг...»
Давид Израилевич
Дубровский
Доктор философских наук, профессор, главный научный сотрудник Института философии РАН, сопредседатель Научного совета РАН по методологии ИИ
«... этот проект ["Россия 2045"], безусловно, заслуживает всемерной поддержки. Он инициирован молодыми людьми, полными веры в свою высокую миссию. Это яркий акт пассионарности... вызов нашей академической общественности, среднему, сероватому научному сознанию, лишенному порывов вдохновения».
Павел Олегович
Лукша
Профессор практики Московской школы управления СКОЛКОВО, к.э.н., партнер группы "Метавер"
«Развитие интерфейсов позволяет принципиально по-другому взаимодействовать не только с локальным пространством, но и с глобальным пространством, т.е. продолжая «мозг – компьютер – Сеть», мы можем получать системы принципиально нового способа организации».
Елена Владимировна
ТерёшинаЧлен инициативной группы
Доктор биологических наук, заведующая лабораторией липидного обмена РНИИ геронтологии
«И не нужно бояться. Проект по созданию носителя для бессмертного разума очень нужен. Конечно, природа рождает умных, талантливых, гениальных людей, но они смертны. Человечество выходит из этого положения — создает книги. И знания так или иначе передаются потомкам. А представьте, гений будет работать вечно!..»
Александр Владимирович
Кудрявцев
Мастер ТРИЗ, вице-президент Международной ассоциации ТРИЗ, ректор Московского общественного института технического творчества
«Развитие технической цивилизации в конечном счете приведет к полной автономии человека от внешних обстоятельств. Техника свернется как тонкая пленка, как некая субстанция, пронизывающая человека...»
Александр Иванович
Галушкин
Доктор технических наук, профессор, заслуженный деятель наук России, является автором более 300 научных работ, в том числе 25 монографий
«Я убежден в том, что нейросетевые технологии – это основа построения будущих систем управления роботами, т.е. мозга будущих роботов».
Хироси
Исигуро
Доцент кафедры информационных технологий Киотского университета и профессор Университета Осаки (Osaka University), двадцать восьмой гений из списка «Сто гениев современности», создатель антропоморфного робота «Геминоид» HI-1 (Geminoid)
«...Однажды мы сможем добиться появления аватаров и воспроизведем функции человеческого мозга внутри этого робота. И тогда люди смогут устремиться к бессмертию...»
Сергей Николаевич
Ениколопов
Руководитель Отдела медицинской психологии (Научный Центр Психического Здоровья РАМН), действительный член Академии медико-технических наук РФ
«Разговоры о том, что технологически мы можем достичь бессмертия, во всяком случае, фантастического удлинения жизни, ведут к пересмотру огромного пласта наших собственных убеждений».
Максим
КалашниковЧлен инициативной группы
Российский писатель-футуролог, журналист
«Это то, что еще никто в мире не решился делать. Создание сверх- и постлюдей считаю спасением нас от вырождения и вымирания, обретением новой силы. Именно это может сделать Россию мировым лидером....»
Ник
Бостром
Философ, профессор Оксфордского университета, известный своими работами об антропном принципе, основатель (вместе с Д. Пирсом) Всемирной ассоциации трансгуманистов
«Цифровой путь [бессмертия] – это наша возможность разработать технологию полного копирования мозга, когда мы могли бы создать очень подробную модель конкретного человеческого мозга и воспроизвести ее на компьютере. Тогда мы имели бы потенциал бесконечного существования, создавали бы запасные копии человека и тому подобное...»
Лев Александрович
Станкевич
Доцент, кандидат технических наук, профессор кафедры САиУ
Первый этап решения проблем бессмертия человека имеет своей главной целью создание нейроуправляемого аватара – гуманоидного робота с человекоподобным скелетом, набором технических мышц и сенсоров.
Виктор Юрьевич
Аргонов
Кандидат физико-математических наук, старший научный сотрудник ТОИ ДВО РАН, композитор, философ
«Я думаю, что прежде, чем начать радикальную киборгизацию мозга, необходимо найти нейрокоррелят сознания. Имеет ли он физическую или чисто информационную природу в форме нейросигналов? Есть ли группа нейронов, которая непосредственно ответственна за сознание? Или, может быть, сознание порождается еще более мелкими объектами внутри нейронов...»
Кевин
Уорвик
Британский учёный-киборг. Доктор наук в области технической кибернетики (Институт теории информации и автоматизации Чешской АН, 1994). PhD в области электротехники (системы управления) (Имперский колледж Лондона, 1982)
«...Я прочел все ваши материалы, и большинство идей мне очень близки. Ваш план работ на ближайшие 30 лет меня восхищает!»
Владимир Григорьевич
ЯхноЧлен инициативной группы
Доктор физико-математических наук, профессор, руководитель группы автоволновых процессов, заведующий лабораторией Института прикладной физики РАН
«Думаю, что именно понимание закономерностей в иерархии механизмов управления живыми системами позволит создать основу для производства эффективно работающих искусственных органов и имитаций тел человека.»
Дмитрий
Стребков
Директор Всероссийского НИИ электрификации сельского хозяйства РАСХН
«Мы предлагаем шесть стратегических проектов для будущего мира, которые позволят увеличить энергетическую безопасность и создать новое энергетическое снабжение Земли, не основанное на сжигании ископаемого топлива».