Гучне попередження від Ілона Маска

Вступивши у вік штучного інтелекту, ризики для людського суспільства різко зросли, і саме тому Ілон Маск, група експертів з ІІ та керівників галузі закликають зробити шестимісячну паузу у навчанні систем ІІ, більш потужних, ніж GPT-4.

Фактично вони прямо заявляють, що існують потенційні ризики для суспільства та людства! Вони не уточнюють, у чому полягають ці небезпеки, але вони вже неодноразово згадувалися раніше і навіть стосувалися “незалежності” цих систем від людських господарів і того, що контролюючи глобальні кіберсистеми, вони можуть спричинити політичні та економічні катастрофи.

Згадаймо, що і американський, і російський ядерні арсенали контролюються комп’ютерами, і немає такого, який не був би вразливим для ІІ. Типовим прикладом є центральний сюжет фільмів про Термінатора, де штучний інтелект Скайнет взяв під контроль ядерні арсенали і активував їх, знищивши людство, яке він розглядав як свого роду… хворобу.

Лист, випущений некомерційним інститутом Future of Life Institute і підписаний більш ніж 1000 осіб, включаючи Маска, співзасновника Apple Стіва Возняка та генерального директора Stability AI Емада Мостаке, закликає зупинити розробку передового ІІ доти, доки не будуть розроблені, впроваджені та незалежно рецензовані загальні протоколи безпеки для таких програм. “Потужні системи ІІ повинні впроваджуватися лише тоді, коли ми впевнені, що їхні результати будуть позитивними, а ризики – керованими”, – йдеться у листі.

У листі також докладно описуються потенційні ризики для суспільства та цивілізації, пов’язані з появою конкуруючих з людиною систем ІІ, з погляду економічних та політичних потрясінь. У листі є заклик до розробників співпрацювати з політиками для створення нормативної бази.

Лист з’явився наступного дня після того, як Європол висловив етичне та юридичне занепокоєння з приводу передових додатків ІІ, таких як ChatGPT, попередивши про можливе зловмисне використання системи у спробах фішингу, дезінформації та кіберзлочинності.

Передові програми та функції ІІ демонструють різке зростання з кінця 2022 року, коли OpenAI, за підтримки Microsoft, представила свою платформу ChatGPT, що спонукало конкуруючі компанії запустити аналогічні програми або інтегрувати подібні функції до своїх платформ.

Source link