Ручное управление (MO) или ручное аналоговое управление (MAO) — это механизм, в котором управление берется из автоматизированной системы и передается пользователю. Например, ручное управление в фотографии относится к возможности фотографа-человека отключить автоматическое изменение размера диафрагмы , автоматическую фокусировку или любую другую автоматизированную систему на камере. [1]
Некоторые ручные переопределения могут использоваться для наложения вето на решение автоматизированной системы, когда система ошибается. Примером этого является определение уровня чернил принтера : в одном случае исследователь обнаружил, что когда он переопределял систему, принтер мог напечатать на 38% больше страниц с хорошим качеством, чем позволяла бы автоматизированная система. [2]
Автоматизированные системы становятся все более распространенными и интегрируются в повседневные предметы, такие как автомобили и бытовая техника . Это развитие повсеместной вычислительной техники поднимает общие вопросы политики и права о необходимости ручного управления в вопросах большой важности, таких как ситуации, угрожающие жизни, и крупные экономические решения. Тогда лояльность таких автономных устройств становится проблемой. Если они следуют правилам, установленным производителем или требуемым законом, и отказываются уступать контроль в некоторых ситуациях, то владельцы устройств могут чувствовать себя бессильными, отчужденными и лишенными истинного права собственности. [3]
Рейс 140 авиакомпании China Airlines потерпел крушение, что привело к многочисленным жертвам из-за недопонимания ручного управления автопилотом . Система взлета/ухода на второй круг была активирована для отмены посадки. Она была запрограммирована игнорировать ручное управление в этой ситуации, но пилоты-люди попытались продолжить посадку. Затем противоречивые сигналы управления от пилотов и автопилота привели к сваливанию самолета и его падению. Затем автопилот для этого типа самолета был перепрограммирован таким образом, чтобы он никогда не игнорировал ручное управление. [4]