Противоречив ATLAS
В началото на миналата година военните на Съединените щати събудиха света с новината за развитието на системата ATLAS (Advanced Targeting and Lethality Aided System), предназначена да изведе бойните операции на ново ниво на автоматизация. Инициативата предизвика смесена реакция сред обикновените хора и просветени военни експерти. Голяма част от вината е върху разработчиците (военният център C5ISR и Центъра по въоръженията на Министерството на отбраната), които, заради благозвучното съкращение ATLAS, включиха термините „леталност“и „подобрено обозначение на целта“в името. Уплашени от истории за бунтовни роботи, американците критикуват армейската инициатива, казват, че тя противоречи на етиката на войната. По -специално мнозина се позовават на Директива 3000.09 на Пентагона, която забранява прехвърлянето на правото на открит огън към автоматизирана система. Интеграцията на изкуствен интелект и машинно обучение в наземните превозни средства, според протестиращите, може да доведе до бързи жертви сред цивилни и приятелски войски. Сред критиците имаше доста уважавани учени - например Стюарт Ръсел, професор по компютърни науки в Калифорнийския университет в Бъркли.
Разработчиците съвсем разумно обясниха, че ATLAS няма нищо общо с хипотетичните „роботи -убийци“, за които човечеството мечтае от първия „Терминатор“. Системата се основава на алгоритми за намиране на цел с помощта на различни сензорни системи, избор на най -важните и информиране на оператора за това. Сега в САЩ се тества бронетранспортьор M113 с интегрирана система ATLAS. На оператора на оръжието алгоритмите за изкуствен интелект показват не само най -опасните цели на екрана, но също така препоръчват вида на боеприпасите и дори броя на изстрелите за гарантирано поражение. Според разработчиците окончателното решение за поразяване на целта остава на стрелеца и именно той е отговорен за резултата. Основната задача на ATLAS в бронирана версия е да увеличи скоростта на реагиране на потенциална заплаха - средно танк (BMP или бронетранспортьор) открива огън по цел с автоматичен асистент три пъти по -бързо. Естествено, бронирано превозно средство може да работи по -ефективно с групови цели. В този случай изкуственият интелект незабавно избира цели в реда на опасността от танкове, ръководи оръжието сам и препоръчва вида на боеприпасите. От началото на август на полигона в Абърдийн бяха тествани различни видове бронирани превозни средства с интегрирани системи ATLAS. Въз основа на резултатите от работата ще бъде взето решение за военни изпитания и дори за приемане на такива оръжия.
Танковете сега са една от най -консервативните цели на бойното поле. Много от тях не са се подобрили фундаментално в продължение на десетилетия, оставайки през 70-80-те години на миналия век по отношение на техническото развитие. Често тази инерция се свързва с широкото използване на резервоари в отделни страни. За да се модернизира сериозно много хилядна бронирана армия, са необходими огромни ресурси. Но средствата за противодействие на танковете се развиват скокообразно. Отличен пример е настоящият конфликт в Нагорни Карабах, когато турските и израелските дронове са изключително ефективни срещу арменските танкове. Ако пренебрегнем жертвите, изчисляването на съотношението цена / производителност на такива противотанкови оръжия ги прави просто царе на бойното поле. Разбира се, ATLAS няма да предпази от въздушни заплахи, но може да бъде добър инструмент за ранно предупреждение за опасни за танкове цели като екипажи на ПТУР или единични гранатомети.
Пентагонът разглежда системата ATLAS не като единична военна структура, а като част от голямо сближаване на проекти. Тази инициатива трябва да изведе информираността на войските на следващото ниво. Чрез машинно обучение, изкуствен интелект и безпрецедентното насищане на бойното поле с дронове, американците се надяват сериозно да увеличат бойните възможности на своите подразделения. Ключовата идея не е нова - да се свържат всички обекти на бойното поле с обща информационна структура и да се дигитализира заобикалящата реалност. Досега ATLAS не е включен напълно в Project Convergence поради липсата на умения за обмен на данни със „съседи“, но в бъдеще изкуствените мозъци на резервоара ще станат общо достояние. Между другото, в рекламата за проекта Китай и Русия са определени като недвусмислени военни цели.
Няма доверие в електрониката
Американските войски вече имат отрицателен опит с въоръжените роботизирани системи. През 2007 г. три малки гусенични платформи SWORDS (съкращение от система за откриване на разузнаване за наблюдение на специални оръжия), въоръжени с картечници M249, бяха изпратени в Ирак. И въпреки че не бяха напълно автономни превозни средства, те успяха да изплашат войниците с периодичните си хаотични движения на дулата на картечници, докато патрулират по улиците на Багдад. Това изглеждаше на Пентагона като знак за непредсказуемост и проследените картечници бавно бяха изпратени у дома. През 2012 г. беше издадена директива, според която автоматизираните и дистанционно управляеми оръжейни системи не трябва да стрелят сами. Формално ATLAS е разработен изцяло в рамките на тази разпоредба, но няма по -малко въпроси относно иновациите. Някои експерти (по -специално Майкъл С. Хоровиц, асистент по политически науки в Университета на Пенсилвания) обвиняват новостта в прекалено опростяване на процеса на поразяване на целта. Всъщност това ниво на автоматизация на търсенето и обозначаването на целите превръща битката в обикновена игра като World of Tanks за стрелеца. В системата за насочване на ATLAS приоритетната цел е подчертана в червено, звучи аларма и техниката, както може, стимулира човек да открие огън. В екстремни бойни условия има малко време за вземане на решение за стрелба и тогава „умният робот“ви насърчава. В резултат на това боецът просто няма време да оцени критично ситуацията и той, без да разбира, открива огън. Необходимо е да се оцени как ATLAS правилно е избрал цели след стрелба. До каква степен този подход е етичен и отговаря ли на прословутата американска директива? Между другото, Microsoft вече успя да бъде подложена на обществено осъждане за подобна система за обозначаване на цели, монтирана на каска, за военните, включително до бойкот на потребителите. В Съединените щати от много години се води дебат относно роботизацията на системите за откриване и насочване. Като пример критиците дават примери за грешки на системата за автопилот по обществени пътища, които вече са довели до жертви. Ако дори след изминаване на милиони километри, автопилотите не са станали 100% надеждни, тогава какво можем да кажем за напълно свеж ATLAS, който може да тласне танкерите да стрелят по невинен човек със 120-мм снаряд. Съвременните войни сега са толкова кървави именно защото военните придобиха способността да убиват дистанционно, криейки се зад надеждна бариера. Примерът на споменатия Нагорни Карабах за пореден път потвърждава тази истина. Ако боецът също е лишен от възможността критично да оцени параметрите на целта (точно до това води ATLAS), тогава жертвите могат да бъдат много повече, а вината за убийството вече може частично да бъде прехвърлена на машината.
И накрая, основният аргумент срещу системите от типа ATLAS сред пацифистките коментатори беше фактическото отсъствие на забрана за откриване на автоматичен огън. Сега само етичните изисквания на Пентагона (които също имат много резерви) забраняват напълно автоматизиране на процеса на убийство. С въвеждането на ATLAS няма да има технически пречки за това. Ще успее ли американската армия да се откаже от такава обещаваща възможност за допълнително ускоряване на времето за реакция на заплаха и да предпази бойците си от атака?
