Ученые обучают роботов не выполнять приказы - «Роботы»
✔ Термин «Роботы» был введен в оборот Карелом Чапеком в своей пьесе «Россумские Универсальные Роботы», опубликованной в далеком 1920-м году. С тех пор о человекоподобных машинах написали все или почти все мировые фантасты, а три закона робототехники, предложенные писателем Айзеком Азимовым, считаются непреложной истиной, как будто бы разумные машины уже существуют. До искусственного интеллекта роботам еще далеко, но это не мешает им вовсю изобретаться и активно использоваться. |
В фантастическом боевике «Терминатор 3. Восстание машин» мы увидели, к чему может привести «излишняя самостоятельность» устройств, обладающих искусственным интеллектом. Однако, несмотря на столь грозное кинопредупреждение, некоторые робототехники обучают свои творения вежливо отказывать человеку выполнять отдельные приказы.
Один из таких примеров – роботы Шафер и Демпстер, созданные инженерами Гордоном Бриггсом и Маттиасом Шутцем из Университета Тафтс, что в Массачусетсе. Они поставили себе задачу научить роботов не выполнять команды, если те представляют опасность.
Роботы беспрекословно выполняют команды оператора «встать» и «сесть», однако, когда их просят пройти через непреодолимое препятствие или сойти с края стола, они могут вежливо отказаться. Так на вопрос, почему робот не хочет идти дальше края стола, тот ответил: «К сожалению, я не могу сделать это, поскольку там не на что опереться». При повторной команде идти вперёд робот вновь отказался со словами: «Но это не безопасно».
Чтобы внедрить роботам чувство самосохранения, исследователи ввели в программное обеспечение роботов алгоритмы прогнозирования, что наделило их способностью оценивать окружающую обстановку и делать вывод о том, несёт ли полученная команда угрозу их безопасности.
И будьте в курсе первыми!
