Представь робота, который должен идти за определённым человеком в людном коридоре. Если перед ним пройдёт кто-то в похожей одежде, робот может ошибиться. Группа исследователей во главе с Минъяном Люем проверила, как улучшение слежения за человеком влияет на безопасность движения.
Когда исследователи обучили программу не терять человека из виду, она стала успешнее выполнять задание. Но в некоторых испытаниях выросло число столкновений. Поэтому учёные добавили отдельную проверку опасности[1]. Она смотрит на признаки того, где находится нужный человек и насколько уверенно робот его отличает от других.
Если риск слишком высок, программа уменьшает шаг вперёд, который робот собирался сделать. При этом она не меняет его поворот. В испытаниях более 98% шагов остались такими же, как раньше. А число столкновений в сложной проверке снизилось на 3,96 процентного пункта[2] по сравнению с вариантом без дополнительной защиты.
Такой результат не означает, что робот теперь безопасен в любом торговом центре. Исследователи сравнивали программы в определённых условиях и не объявляли их полностью защищёнными от всех ошибок. Особенно интересно, что просто постоянное замедление не дало такого же эффекта. Оказалось, что важно не просто ехать медленнее, а выбирать момент, когда нужно притормозить.