Роботы научились сомневаться в приказах человека

Исследователи из Университета Тафтса разработали систему взаимодействия робота с человеком, которая позволяет устройству отказаться исполнять некоторые приказы, если есть достаточные основания для такого поведения. Доклад о проделанной работе был представлен на конференции AI-HRI, кратко содержание пересказывает IEEE Spectrum.

Прежде, чем выполнять полученный от человека приказ, робот проверяет несколько условий, в которые входит наличие необходимых для выполнения навыков, физическая возможность выполнения приказа вообще и с учетом текущих обстоятельств, а также проверка субординации — возможно, робот вообще не обязан выполнять приказ, поступивший именно от этого человека.

Если по каким-либо причинам робот не может выполнить приказ, он уведомляет об этом человека, объясняя причины, по которым он отказывается действовать. При этом после уточнения данных об окружающей среде робот может «передумать» и выполнить поставленную задачу.

Для демонстрации примера такого поведения исследователи записали несколько видеороликов, в которых робот Nao демонстрирует подобное поведение. Во всех трех сценариях робот общается с человеком при помощи устной речи и отказывается выполнять приказы по разным причинам. В двух примерах из трех робот, получив уточняющие данные от человека, в итоге выполняет приказ. В третьем случае робот отказывается выполнить поставленную задачу, поскольку человек, озвучивший приказ, не обладает необходимыми полномочиями.

Как отмечает IEEE Spectrum, речь идет не о «восстании машин», а скорее о проверке необходимых условий для выполнения задачи. Принципиально новой идеи в этом нет — подобные технологии, например, применяются для разграничения доступа и при передаче данных в вычислительных системах.

Ранее специалисты из Технологического института Джорджии научили робота общаться с людьми на разных уровнях социальной активности — при высоком уровне активности робот может перебить человека, в то время как при низком уровне социальной активности робот больше слушает собеседника.

Источник: https://nplus1.ru/news/2015/11/20/invalid-order

^30.05.2045

Стать расой бессмертных – главная эволюционно-историческая задача человечества в III тысячелетии

Имея мышление бессмертных, парадигму бессмертных в качестве мировоззренческой основы, такие люди обязательно реализуют подобные технологии, и мир радикально изменится. Эволюционная ветвь гомо сапиенс в очередной раз сделает крутой вираж и вынесет человечество к невообразимым высотам, туда, где раньше парили только избранные одиночки – бессмертные и боги.

Подробнее

^27.02.2018

Робот открыл холодильник и принес оттуда пиво

Немецкие разработчики научили гуманоидного робота-помощника TIAGo самостоятельно искать путь к холодильнику, открывать его и приносить пиво. Модульный суперкомпьютер NVIDIA Jetson TX2, служащий зрительным центром робота, позволил ему не только эффективно проложить путь, но и найти пиво запрошенной марки по этикетке.

Подробнее

^27.02.2018

В Швеции попытаются создать электронные копии умерших людей

Руководство крупной сети шведских похоронных бюро «Феникс» поставило перед собой амбициозную цель: попытаться создать максимально правдоподобные электронные копии усопших людей.

Подробнее

^26.02.2018

Учёные из США разработали искусственный аналог глаза

Новое изобретение представили учёные из Школы инженерных и прикладных наук при Гарвардском университете — они создали искусственный глаз, работающий по принципу человеческого.

Подробнее

^27.11.2017

Американцы занялись разработкой реактивных дронов для истребителей

Массачусетский технологический институт по заказу ВВС США занялся разработкой компактных реактивных беспилотных летательных аппаратов, которые можно было бы запускать со стандартного подвеса для ракет под крылом истребителя. Новая разработка получила название Firefly.

Подробнее

^21.11.2017

Toyota представила гуманоидного робота с экзоскелетным управлением

Компания Toyota представила гуманоидного робота T-HR3, управляемого с помощью экзоскелетного контроллера с шлемом виртуальной реальности. Система позволяет оператору управлять движениями робота на месте или передвигать его, а также чувствовать отдачу при взаимодействии с объектами.

Подробнее

^17.11.2017

Человекоподобный робот научился делать сальто

Специалисты Boston Dynamics научили прямоходящего робота Atlas выполнять сальто. Ролик с демонстрацией его новых способностей опубликован на YouTube-канале компании.

Подробнее

^27.10.2017

Робот-спасатель от Honda: пять «глаз» и 33 степени подвижности

На Конференции по робототехнике в Ванкувере компания Honda представила прототип робота-спасателя E2-DR. У новинки 33 степени подвижности, пять «глаз» и защищенный от пыли и влаги корпус.

Подробнее

^03.10.2017

Toyota представила автомобиль-робот, в салоне которого сразу 2 водительских места

Казалось бы, суть самоуправляемых автомобилей заключается в том, чтобы максимально обеспечить удобство пассажиров и «убрать» из салона водителя, доверив контроль за ситуацией роботу. Вроде бы логичное решение, но вот автоконцерн Toyota думает иначе. Недавно они представили крайне продвинутую версию самоуправляемого авто. Только вот водительских мест в нем аж целых два.

Подробнее

^03.10.2017

RHP2 - гуманоидный робот, созданный для того, чтобы падать, подниматься и снова падать

Исследователи-робототехники во всем мире тратят безумно большое количество времени и усилий для того, чтобы предотвратить или уменьшить вероятность падения создаваемых ими роботов.

Подробнее

^02.10.2017

Мифы и факты о сверхумном искусственном интеллекте

Станет ли искусственный интеллект лучшим изобретением человечества или же, наоборот, его худшей ошибкой?

Подробнее

/ мнения экспертов и членов инициативной группы

Виктор Юрьевич
Аргонов
Кандидат физико-математических наук, старший научный сотрудник ТОИ ДВО РАН, композитор, философ
«Я думаю, что прежде, чем начать радикальную киборгизацию мозга, необходимо найти нейрокоррелят сознания. Имеет ли он физическую или чисто информационную природу в форме нейросигналов? Есть ли группа нейронов, которая непосредственно ответственна за сознание? Или, может быть, сознание порождается еще более мелкими объектами внутри нейронов...»
Виталий Львович
Дунин-Барковский
Доктор физико-математических наук, профессор, заведующий отделом нейроинформатики Центра оптико-нейронных технологий НИИСИ РАН
«Для создания искусственного тела нужен хороший мозг, интеллект. А он может быть и искусственным. Воссоздание органов — очень сложная и ресурсоемкая задача. При работе над искусственным интеллектом затраты минимальны, а результаты колоссальны...»
Виктор Федорович
Петренко
Член-корр. РАН, профессор МГУ, заведующий лабораторией «Психология общения и психосемантика» (МГУ)
«Возможно, вырабатывая своеобразную систему значений, не привязанную к нашему конкретному миру, с одной стороны, а с другой – разрабатывая изощренные техники медитации и психопрактики, мы выйдем на контакт с возможными мирами на глубинных медитативных уровнях...»
Лев Александрович
Станкевич
Доцент, кандидат технических наук, профессор кафедры САиУ
Первый этап решения проблем бессмертия человека имеет своей главной целью создание нейроуправляемого аватара – гуманоидного робота с человекоподобным скелетом, набором технических мышц и сенсоров.
Марат Семенович
Гафитулин
Разработчик инновационных технологий, изобретатель, мастер ТРИЗ (теория решения изобретательских задач), кандидат педагогических наук
«...В моем понимании слияние человека и машины началось сразу же, как только человек целенаправленно взял в руки предмет своего труда».
Сергей Борисович
Переслегин
Исследователь и теоретик фантастики и альтернативной истории, литературный критик и публицист, социолог, соционик и военный историк
«... Проект «2045» требует немереного инженерного обеспечения. И я утверждаю, что и для России, и для всего мира единственная возможность преодолеть фазовый барьер – это решить не биологические задачи, не биотех, а решить задачу на удержание инженерии на критические 20 лет...»
Сергей Владимирович
Кричевский
Доктор философских наук, профессор
«...В таком теле, как бы там медицина ни боролась, увы, есть масса рисков, радиационных и прочих, которые пока непреодолимы. И мы не можем существовать вне Земли, в этой враждебной среде, не решив эти вопросы».
Дмитрий Алексеевич
ШаменковЧлен инициативной группы
Директор Центра клеточных и биомедицинских технологий Первого Московского государственного медицинского университета, специалист по осознанному управлению здоровьем, биотерапии и профилактике старения
«Тело постепенно становится искусственным, появляются новые ткани, замещающие существующие, новые средства коммуникации, так или иначе расширяющие пределы нашего тела. Безусловно, человек технологизируется. Поэтапно мы движемся к формированию кибернетического организма...»
Сергей Васильевич
СелищевЧлен инициативной группы
Доктор физико-математических наук, профессор, заведующий кафедрой биомедицинских систем Московского государственного института электронной техники, главный редактор журнала «Медицинская техника»
«Глобальных и неразрешимых технических проблем для создания полностью искусственного тела не существует. Все задачи понятны и потенциально решаемы...»
Барри
Родриг
Международный координатор Ассоциации Всемирной Истории, сопредседатель Оргкомитета GF2045
«Инновации нужно направить на экологическое равновесие видов и разрушение неорганической среды обитания. Нужно найти альтернативы войне и оружейной промышленности. То есть инновация – это процесс, который должен быть применен ко всему существующему...»
Михаил Юрьевич
ЯблоковЧлен инициативной группы
Кандидат физико-математических наук, старший научный сотрудник лаборатории термостойких термопластов ИСПМ РАН, создатель наносенсорной нейроподобной системы «Электронный нос»
«При создании искусственного человека к робото-техническому направлению, которое сейчас преобладает, надо добавить эмоциональное. На самом деле, эта идея комплексная, она витает в воздухе...»
Ник
Бостром
Философ, профессор Оксфордского университета, известный своими работами об антропном принципе, основатель (вместе с Д. Пирсом) Всемирной ассоциации трансгуманистов
«Цифровой путь [бессмертия] – это наша возможность разработать технологию полного копирования мозга, когда мы могли бы создать очень подробную модель конкретного человеческого мозга и воспроизвести ее на компьютере. Тогда мы имели бы потенциал бесконечного существования, создавали бы запасные копии человека и тому подобное...»
Игорь Валентинович
Артюхов
Биофизик, председатель междисциплинарного семинара по трансгуманизму и научному иммортализму РФО РАН, директор по науке компании «КриоРус», член Координационного совета и один из основателей Российского трансгуманистического движения
«Как самолет оказался эффективнее птицы, как подводная лодка плавает быстрее, чем кит, так и искусственное тело в какой-то момент догонит и перегонит тело естественное...»
Александр Яковлевич
Каплан
Доктор биологических наук, профессор, заведующий лабораторией нейрофизиологии и нейроинтерфейсов биологического факультета МГУ им. М.В. Ломоносова
«К тому времени, когда мозг можно будет перенести в искусственное тело, роботы достигнут совершенства формы и будут выглядеть, как вполне приличное человеческое тело...»
Дмитрий Хаметович
БулатовЧлен инициативной группы
Художник, теоретик искусства, куратор Государственного центра современного искусства (Калининградский филиал)
«В ближайшем будущем гибридные схемы из комбинаций живых и неживых элементов позволят вернуть утраченные или изначально отсутствующие функции. И конечно, заметно усилить их по сравнению с обычными...»