Наполягання уряду США на інтеграції штучного інтелекту у військові операції створює жорстку дилему для компаній, що працюють у сфері ІІ: надавати пріоритет стандартам безпеки або забезпечувати собі вигідні оборонні контракти. Ця напруженість досягла апогею, коли Пентагон піддав Anthropic, провідну компанію в області ІІ, ретельному контролю через її небажання повною мірою брати участь у певних “смертоносних операціях”, що потенційно ставить під загрозу контракт на 200 мільйонів доларів. Це надсилає чіткий сигнал іншим компаніям – OpenAI, xAI та Google – які зараз працюють із Міністерством оборони над несекретними проектами: повна відповідність очікується, якщо вони прагнуть отримання вищого рівня допуску.
Ставки Вище Прибули
Йдеться не лише про гроші. Прихильність Anthropic до принципів безпеки ІІ, рідкісна позиція в галузі, привела її в протиріччя з політикою адміністрації, спрямованою на необмежений військовий розвиток ІІ. Повідомляється, що компанія може навіть бути визнана “ризиком для ланцюжка поставок” – позначення, яке зазвичай резервується для організацій, пов’язаних з ворожими державами, такими як Китай. Це фактично відрізало б оборонні фірми використання ІІ Anthropic, змушуючи їх шукати альтернативи з меншими етичними коливаннями.
Суть питання полягає в тому, чи виправдовує прагнення національної безпеки компроміс із тими самими принципами, які багато розробників ІІ стверджують, що підтримують. Пентагон не хоче чути про “виключення” або “юридичні тонкощі”, коли йдеться про смертельні застосування. Як відверто заявив один із чиновників, компанії, які працюють з ІІ, повинні взяти на себе зобов’язання “робити все необхідне, щоб перемогти”. Це ставить тривожне питання: чи неминуче те, що державні вимоги до військового використання зроблять ІІ менш безпечним?
Парадокс Безпеки та Війни
Лідери в галузі ІІ самі визнають безпрецедентну силу цієї технології. Багато компаній були засновані на передумові досягнення загального штучного інтелекту (AGI) – надінтелекту – за одночасного запобігання широкомасштабній шкоді. Ілон Маск, колись затятий прихильник регулювання ІІ, заснував OpenAI зі страху, що безконтрольний розвиток буде катастрофічним.
Anthropic виділяється на тлі інших, глибоко інтегруючи запобіжні механізми у свої моделі, прагнучи запобігти їх експлуатації зловмисними суб’єктами. Це відповідає етичним принципам, сформульованим десятиліття тому Айзеком Азімовим у його законах робототехніки: ІІ не повинен завдавати шкоди людям. Проте наполегливість Пентагону на необмеженому військовому використанні підриває цю основу.
Неминуча Гонка Озброєнь?
США можуть використати свою перевагу в галузі ІІ проти таких супротивників, як Венесуела, з відносною безкарністю, але складні супротивники неминуче розроблять свої власні ІІ системи для національної безпеки. Це спровокує повномасштабні перегони озброєнь, в яких уряди віддаватимуть пріоритет військовому пануванню над етичними міркуваннями. Адміністрація, схоже, готова перевизначити юридичні кордони, щоб виправдати сумнівні практики, роблячи компанії, які наполягають на стандартах ІІ безпеки, непотрібними.
Цей підхід підриває зусилля створення безпечного ІІ. Розробка смертельних і несмертельних версій однієї й тієї технології внутрішньо суперечлива. Серйозні обговорення про міжнародні органи, що регулюють шкідливе застосування ІІ, заглухли, поступившись місцем суворої реальності: майбутнє війни нерозривно пов’язане з ІІ.
Довгострокові наслідки жахають. Якщо компаніям та урядам не вдасться приборкати потенціал цієї технології для насильства, майбутнє ІІ може стати більш агресивним та непередбачуваним. Питання не в тому, чи змінить ІІ війну; питання у тому, чи зіпсує війна ІІ.
Зрештою, домінування цифрових технологій перебудовує людство незворотним чином. У той час як політичні режими можуть підніматися та падати, розквіт ІІ – це сила, яка переживе навіть наймогутніших лідерів. Справжнє поле битви тепер не лише між державами, а й між ідеалами безпеки та вимогами абсолютної влади.
