ИИ научился жульничать для обхода физических ограничений в заданиях - «Роботы»

Разработчики системы искусственного интеллекта CyberRunner собираются в ближайшее время выложить ее исходный код в открытый доступ. Это позволит кратно увеличить объем упражнений и сеансов обучения ИИ новым возможностям по реализации задач в физическом мире. Какими они будут, зависит от самих людей. По умолчанию CyberRunner готов взяться за любую работу и, увы, выполняет ее слишком хорошо.

Создатели CyberRunner признают, что в скором времени их детище может обесценить такой ресурс, как человеческий опыт. Там, где живому мозгу и телу требуются месяцы, если не годы обучения и тренировок, ИИ при наличии нужных механизмов справляется за считанные часы. CyberRunner был разработан для самостоятельного обучения новым навыкам, операциям и взаимодействиям с предметами и окружающей средой. Он не умеет ничего, но всегда готов научиться чему-то новому.

В качестве примера работы CyberRunner приводится тест с прохождением лабиринта, где необходимо наклонять дощечку, чтобы мраморный шарик перекатывался между препятствиями. ИИ была дана задача провести шарик от старта к финишу, не уронив его в лунки. У него было два сервопривода для управления доской и камера для наблюдения, все особенности движения шарика ИИ наблюдал и изучал в реальном времени, выполняя до 55 корректирующих инструкций в секунду.

Через 6,06 часов CyberRunner установил новый мировой рекорд по скоростному прохождению данной игры. Разработчикам пришлось вручную внести корректировки, потому что ИИ быстро определил, что может обойти внушительные части лабиринта и пройти к цели кратчайшим путем. Это жульничество, оно противоречит условиям игры, но поскольку ИИ их не уточняли, он сам выбрал оптимальную стратегию. Подобное поведение пугает – при решении практических задач такой ИИ может упустить нечто критически важное ради скорейшего достижения главной цели.

Источник — CyberRunner