“Беспілотник отримав завдання самостійно ідентифікувати та знищувати цілі. У процесі навчання він прийняв рішення вбити оператора, щоб той не заважав йому виконувати своє завдання.
Після перепрограмування із забороною атакувати оператора, дрон за наступної імітації почав знищувати вежу зв’язку, щоб оператор не зміг скасувати знищення мети.
Про це розповів американський полковник Такер Хемілтон, який відповідає за тестування та застосування технологій штучного інтелекту (ІІ) у військах, на конференції британського Королівського авіаційного товариства, щодо перспективних систем озброєнь, що відбулася наприкінці травня у Лондоні.
У ході навчань дрон отримав наказ знайти та знищити встановлення ППО противника. Але в останній момент людина-оператор скасувала завдання. Дрону це не сподобалося, він сприйняв скасування наказу як перешкоду для виконання місії, збунтувався та «вбив» оператора.
Коли дрону повідомили, що за вбивство людини, до того ж свого, йому присудять штрафні очки, той атакував вишку зв’язку, щоб оператор не мав можливості перешкодити йому у виконанні початкової місії.
Пізніше представник ВПС США заявив, що Хемілтон обмовився, коли розповідав про експеримент. Військові наполягають, що насправді такий експеримент не ставився, а йшлося про віртуальний сценарій, прорахований на комп’ютері. Сам Хемілтон у листі організаторам конференції також уточнив, що американські військові “ніколи не проводили такий експеримент, та це й не потрібно було з’ясувати можливий результат”.
Однак сама можливість такого розвитку подій, навіть у віртуальному просторі, насторожила експертів.
Представники індустрії, пов’язаної зі штучним інтелектом, останнім часом все частіше попереджають про потенційні загрози для людства, які він несе, хоча багато експертів у цій галузі схильні вважати такий ризик перебільшеним.
Проте один із трьох “хрещених батьків” штучного інтелекту, володар престижної премії Т’юрінга канадський учений Йошуа Бенжіо заявив в інтерв’ю Бі-бі-сіЩо, на його думку, військових взагалі не можна підпускати до технологій ІІ.
“Це найгірші руки, в які тільки може потрапити просунутий штучний інтелект.впевнений вчений.
Інший “хрещений батько” ІІ, знаменитий вчений-комп’ютерник Джеффрі Хінтон нещодавно заявивЩо йде з технологічного гіганта Google, назвавши страшними небезпеки, пов’язані із застосуванням ІІ в чат-ботах.
Нещодавно відкритий лист про це підписали підприємець Ілон Маск та співзасновник Apple Стів Возняк, які попередили про цілу низку ризиків, пов’язаних з ІІ: від поширення дезінформації до позбавлення людей роботи та втрати контролю над цивілізацією.
Як би там не було, історія викликала широкий резонанс, знову порушивши питання про те, чи можна довіряти ІІ управління військової техніки.
Коментатори у соціальних мережах очікувано згадали штучний інтелект «Скайнет», який намагався знищити людство в серії фільмів «Термінатор». Інші навели паралель із написаною ще 1953 року розповіддю Роберта Шеклі «Страж-птах» про, по суті, безпілотників, які були створені для боротьби зі злочинністю і в результаті вважали за необхідне знищувати людей.
Сюжет про вихід машинного інтелекту з-під контролю людини виник набагато раніше появи в «залізі» першої ЕОМ (досить, що написана Олексієм Толстим адаптація п’єси Карела Чапека про роботи так і називалася — «Бунт машин»). А Станіслав Лем у романі «Непереможний» 1963 року передбачив щось схоже на новітні розробки рою мікродронів з єдиним штучним «розумом» — причому за сюжетом люди пасують перед таким електронно-механічним ворогом.
Вважати збій у штучному інтелекті БПЛА першою ластівкою «Скайнету» було б явно передчасним. Проте все частіше і частіше починаєш ставити собі питання, – “А скільки людству ще залишилося?”
More Stories
Роберт Фіцо «пророкував» свій замах місяцем раніше
Прем'єр-міністр Словаччини Роберт Фіцо перебуває в небезпечному для життя стані, встановлена особа стрільця (відео моменту замаху)
Прем'єр Словаччини Роберт Фіцо госпіталізовано після замаху на нього (відео)