Текст: Пол Шар, Warontherocks.com. Перевод: Александр Прудников, «Спутник и Погром»
Пол Шар (Paul Scharre) является членом и директором 20YY Warfare Initiative в Центре новой американской безопасности (Center for a New American Security — CNAS) и автором недавнего доклада CNAS «Робототехника на поле боя, Часть II: Надвигающийся Рой» (Robotics on the Battlefield Part II: The Coming Swarm). Он бывший пехотинец 75-го полка рейнджеров и служил в нескольких командировках в Ираке и Афганистане.
От пылесоса до терминатора: что такое автономность?
Лидеры Министерства обороны США заявили, что робототехника и автономные системы будут играть ключевую роль в новой «стратегии компенсации», направленной на сохранение военного доминирования США, но что именно означает эта «автономность»? Необитаемые (беспилотные) системы играли важную роль в Ираке и Афганистане — от непрерывной воздушной разведки до обезвреживания бомб. Они в основном управлялись дистанционно, функции вроде взлета и посадки были автоматизированы лишь частично. Многочисленные «дорожные карты» и аналитические записки Министерства обороны рисуют будущее, в котором первенство постепенно переходит от беспилотных систем со все большей автономией к полностью роботизированной технике. Неясно, однако, как это повлияет на характер военных действий.
Что означает для робота быть «полностью автономным»? Сколько машинного интеллекта потребуется для достижения «полной автономности», когда ее можно ожидать? И какова роль человека-бойца в будущем, в котором роботы функционируют свободно, без привязки к их человеческим операторам?
Найти ясные ответы на эти вопросы мешает путаница вокруг термина «автономность». Разные люди обозначают этим словом разные вещи, делая разговор о перспективах робототехники особенно сложным. Для одного человека термин «автономный робот» может обозначать пылесос Roomba, для другого — Терминатора. Писатели и докладчики, рассказывающие об этой теме, часто оперируют «уровнями автономности», но их уровни редко согласуются между собой, что привело к полному отказу от понятия в недавнем отчете Научного совета при Министерстве обороны.
Необходимо внести в этот вопрос ясность, и мы поговорим о том, как люди применяют этот термин, почему он сбивает их с толку и как мы могли бы его уточнить. «Автономность» означает массу разных вещей для разных людей — с этим ничего нельзя поделать, и я не собираюсь пытаться втиснуть все эти возможные значения в очередную таблицу «уровней автономности». Я, однако, могу попытаться добавить в разговор немного необходимой точности.
Что такое автономность?
В своей наипростейшей форме, автономность представляет собой способность машины выполнять задачу без вмешательства человека. Соответственно, «автономная система» есть машина, физическая или программная, которая, будучи единожды активирована, выполняет задачи или функции самостоятельно. Робот представляет собой необитаемую систему, имеющую некоторую степень автономности, под которой, как правило, понимается способность к восприятию окружающей среды и взаимодействию с ней, по крайней мере, в грубой форме.
Автономные системы, однако, не ограничиваются необитаемыми платформами. На деле у многих пилотируемых систем сегодня есть автономные или автоматические функции. Большинство современных автомобилей снабжено антиблокировочной системой тормозов, электронным контролем устойчивости, усилителем руля, ремнями безопасности с преднатяжителями и подушками безопасности. В комплектацию автомобилей более высокого класса могут включаться интеллектуальный круиз-контроль, автоматическая система помощи движению по полосе, предотвращения столкновений, а также система автоматической парковки. В военной авиации системы предотвращения столкновений с землей (авто-GCAS) аналогичным образом перехватывают контроль над самолетом, если сам пилот дезориентирован или близок к крушению. Современные коммерческие авиалайнеры отличаются высокой степенью автоматизации на каждой стадии полета. Возросшая автоматизация, или автономность, может иметь много преимуществ — увеличение безопасности и надежности, улучшенное время реакции, большая производительность, снижение потребности в персонале вкупе с соответствующей экономией, а также возможность продолжения работы в условиях частичной или полной потери связи.
Анализ степеней свободы, которыми располагает система, очень важен для понимания проблем и возможностей, связанных с увеличением автономности. Разумеется, между Roomba и Терминатором большая разница. Вместо тщетного поиска единой системы «уровней автономности» полезнее будет представление об автономности, как о точке пересечения трех координатных осей или трех измерений. Эти измерения независимы друг от друга, так что автономность имеет не одну степень, а одновременно три.
Три измерения автономии
Концепцию автономности так тяжело сформулировать, потому что этим словом люди обычно описывают три не связанных между собой вещи:
— Взаимодействие человек-машина в смысле управления и контроля;
— Сложность машины;
— Типы решений, подвергнувшихся автоматизации.
Это, во-первых, важные особенности автономных систем, а во-вторых, три совершенно разных идеи.
Контроль и управление во взаимодействии человек-машина
Машины, которые выполняют задачу определенный промежуток времени, затем останавливаются и ожидают человеческого вмешательства перед продолжением своей работы, часто называются «полуавтономными», или же «с оператором в контуре управления». Машины, в которых функции выполняются самим аппаратом, а человеку отведена роль в мониторинге процессов с возможностью вмешательства при отказе или неисправности, обычно называют «автономными под наблюдением» или «с оператором на контуре управления». Машины же, которые способны выполнять задания полностью самостоятельно, без возможности человеческого вмешательства, принято называть «полностью автономными» или «с оператором вне контура управления». В этом смысле «автономность» рассматривается не с позиций разумности, но скорее относительно взаимодействия с человеком-оператором.
Сложность машины
Слово «автономность» также используется и совершенно другим образом, а именно для описания сложности системы. Вне зависимости от взаимодействия человек-машина в контроле и управлении такие термины, как «автоматический», «автоматизированный» и «автономный» часто употребляются для обозначения целого спектра степеней сложности машин. Слово «автономный» зачастую используется относительно систем, которые обнаруживают очень простые, механические реакции на вводные данные из окружающего мира. Примеры подобных систем включают в себя растяжки, мины, тостеры и старые механические термостаты. Термин «автоматизированный» часто употребляется для описания более сложных, основанных на правилах, систем. Беспилотные автомобили и современные программируемые термостаты являют собой образчики этих систем. Иногда слово «автономный» оставляется для машин, обнаруживающих некое подобие самонаведения, самообучения или неочевидного поведения, которое нельзя было предсказать напрямую, основываясь на ознакомлении с исходным кодом. Примером могли бы послужить самообучающиеся роботы, научившие себя ходить или «обучающийся термостат» компании Nest.
Другие же оставят термин «автономный» только для сущностей, обладающих разумом и свободой воли, однако это вряд ли добавит ясности. «Искусственный интеллект» — весьма многозначительный термин, относящийся к широкому кругу систем, начиная с таких, которые демонстрируют околочеловеческий или превышающий его уровень интеллекта в узкой области, например игре в шахматы (Deep Blue), участии в телевикторине Jeopardy! (Watson) или в программировании графика ремонтных работ в метро, до возможных в будущем систем, обладающих человеческим или сверхчеловеческим уровнем общего интеллекта. Но вопрос, ведет ли наличие общего интеллекта к свободе воли или обладают ли вообще люди этой свободой, все еще открыт.
Особую сложность представляет собой отсутствие четких границ между степенями сложности: от «автоматического» до «автоматизированного» и от «автономного» до «разумного». К тому же разные люди могут относить разные системы к разному классу.
Тип функции, подвергающейся автоматизации
В конце концов, не имеет смысла определять машину как «автономную» или «полуавтономную», не определив сначала задачу или функцию, которые подвергаются автоматизации. У разных решений разные уровни сложности и риска. Мина и тостер предполагают радикально разные уровни риска, хотя у обоих активированных устройств человек находится «вне контура управления» и оба они используют очень простые механические переключатели. Автоматизированные же задачи, однако, сильно отличаются. Любая машина может быть полностью управляема людьми-операторами в одних задачах и автономно выполнять другие. К примеру, «автономные автомобили» сами едут из точки А в точку Б, но человек все еще может выбирать место назначения. Таким образом, машина автономна только относительно некоторых функций.
Любительский дрон Lily, способный самостоятельно выбирать ракурсы аэросъемки
«Полная автономность» как бессмысленный термин
С этой точки зрения, вопрос о том, когда мы получим «полную автономию» лишен смысла. Не существует единого направления, в котором развивалась бы автономия. Парадигма «человек против машины» — распространенный в научной фантастике мем, но правильнее было бы спросить, какие задачи выполняются человеком, а какие машиной. Недавнее руководство по автономии, созданное несколькими странами НАТО, делает схожий вывод и рекомендует концепцию рассматривать «автономность» на уровне отдельной функции, а не всей платформы сразу.
Важно, что эти три измерения автономности независимы друг от друга. Разумность или сложность машины представляет собой отдельный от выполняемых задач концепт. Возросшая разумность или более сложные логические системы для выполнения задач необязательно равняются переходу управления большим числом процессов от человека к машине. Аналогично контроль и управление во взаимодействии человек-машина — отдельный от сложности выполняемых задач вопрос. Термостат работает самостоятельно без какого-либо надзора или вмешательства со стороны человека, когда вы покидаете свой дом, но выполняет очень ограниченную функцию.
Вместо того чтобы думать о «полной автономности», нам стоило бы сконцентрироваться на «оперативно-релевантной» автономности: автономности, достаточной для выполнения работы. В зависимости от задачи, окружающей обстановки и коммуникаций функции, необходимые для достижения оперативно-разумной автономности, могут сильно отличаться от сценария к сценарию. В области авиации оперативно-разумная автономность может означать способность летательного аппарата к взлету, приземлению, самостоятельным перелетам между точками маршрута в ответ на задачи, поставленные человеком, который при этом будет наблюдать за работой аппарата и принимать решения на уровне миссии, но не притронется к штурвалу. С этой точки зрения сильно автоматизированные самолеты типа Global Hawk или MQ-1C Gray Eagle уже достигли оперативно-релевантной автономности. У современных самолетов достаточно автономности, чтобы заниматься воздушной разведкой, радиоэлектронной борьбой и работать по заранее заданным целям на земле (поражение случайных целей все еще требует оператора в контуре управления) в условиях затрудненной связи. Для наземных платформ оперативно-релевантная автономность может похожим образом означать способность аппарата к самостоятельной навигации в зависимости от задач, поставленных оператором, без его физического участия в управлении транспортным средством. На земле оперативно-релевантная автономность сегодня возможна для операций сопровождения по типу ведущий-ведомый и операций, осуществляемых под надзором человека, однако еще не в полной мере относительно навигации в коммуникационно изолированных и загроможденных средах с потенциально возможными препятствиями и людьми. Под водой, где коммуникация осложнена, но где меньше препятствий, оперативно-разумная автономность уже присутствует, так как необитаемые подводные аппараты уже способны выполнять задачи без прямого человеческого надзора.
Global Hawk и MQ-1C Gray Eagle
«Автономность» это не абстрактное качество, которого мы достигнем в будущем. Автономность — это характеристика, которую будет получать все больше военных систем, так же, как это происходит и в автомобилестроении: автоматическая система помощи движению по полосе, предотвращения столкновений, самопарковка и так далее. Тем не менее участие человека по-прежнему потребуется для многих военных задач, в особенности силовых. Никакая система не станет «полностью автономной» в смысле возможности самостоятельно выполнить любую боевую задачу. Даже системы, рассчитанные на работу без связи, все равно окажутся ограничены набором заранее запрограммированных задач. Эти задачи по-прежнему будут ставить люди — определять параметры миссии, разворачивать боевые системы, выбирать для них применение.
Так что когда в следующий раз кто-то скажет «оно автономное», советуем уточнить, что именно он имеет в виду.
Конец первой части. Далее: Качество в количестве
Оригинал материала на сайте Warontherocks.com
