Компанії готуються до наслідків масштабного інциденту

Як повідомляє Axios, керівники Anthropic, OpenAI та інших розробників ШІ приватно опрацьовують сценарії того, як суспільство й політики можуть відреагувати на катастрофічну подію, пов’язану з використанням штучного інтелекту.

Одним із найнебезпечніших сценаріїв вважають кібератаку, здатну порушити роботу банківських сервісів, інтернету або критичної інфраструктури, зокрема електро- та водопостачання. Такі наслідки можуть вийти далеко за межі цифрового середовища й безпосередньо вплинути на повсякденне життя людей та роботу бізнесу.

Планування передбачає не лише технічну підготовку, а й оцінку політичних наслідків: хто відповідатиме за інцидент, як реагуватимуть регулятори та яких обмежень вимагатиме суспільство.

OpenAI проводить навчання з готовності до криз

В OpenAI підтвердили, що проводять спеціальні навчання, під час яких команди розглядають різні потенційні сценарії та відпрацьовують можливі дії. Водночас представник компанії наголосив, що такі ситуації не вважаються неминучими: мета підготовки полягає в тому, щоб бути готовими до різних обставин.

В Anthropic від коментарів відмовилися.

Попри це, за інформацією Axios, частина представників індустрії вважає серйозний інцидент із використанням ШІ дедалі ймовірнішим. Причиною занепокоєння є як можливість виходу автономних ШІ-агентів за межі передбачених обмежень, так і використання доступних моделей зловмисниками для атак на цифрові системи.

Чому після атаки суспільство може вимагати заборон

Навіть один масштабний інцидент із реальними наслідками може суттєво змінити ставлення громадськості до штучного інтелекту. Особливо якщо атака призведе до перебоїв у роботі фінансових установ або критичних сервісів, від яких залежать мільйони людей.

У такому разі під посилену увагу можуть потрапити не лише розробники технології, а й політики, які визначають правила її використання. Серед фігур, навколо яких може розгорнутися дискусія, називають генерального директора Anthropic Даріо Амодеї, очільника OpenAI Сема Альтмана та президента США Дональда Трампа, якого критики звинувачують у недостатній підтримці жорсткого регулювання ШІ.

Однак наслідки потенційної кризи залежатимуть від її масштабу, причин і того, наскільки швидко компанії та державні органи зможуть локалізувати загрозу.

Демократи можуть просувати жорсткіші правила для ШІ

За сценаріями, які розглядають представники індустрії, після проміжних виборів у США посилитися можуть спроби запровадити суворіші обмеження для передових систем штучного інтелекту. Серед можливих пропозицій називають тимчасове призупинення розробки найпотужніших моделей або заборону окремих форм суперінтелекту.

Водночас швидке ухвалення таких рішень може зіткнутися з кількома перешкодами. ШІ вже інтегрований у бізнес-процеси, цифрові сервіси та інфраструктурні проєкти, а різке уповільнення його розвитку може вплинути на інвестиції й економічну конкуренцію США з іншими країнами.

Додаткову складність створюють моделі з відкритими вагами, які можна завантажувати й запускати поза інфраструктурою розробника. Навіть якщо компанія обмежить доступ до власної системи, це не означатиме автоматичного припинення використання інших моделей для шкідливих цілей.

Аварійне вимкнення ШІ залишається складним питанням

Серед можливих регуляторних заходів обговорюють вимогу передбачити механізм аварійного вимкнення небезпечних систем. Така ідея має підтримку серед представників різних політичних таборів, але її практична реалізація викликає запитання.

Якщо система працює на розподіленій інфраструктурі, використовує автономних агентів або доступна через численні сторонні сервіси, одного централізованого вимикача може бути недостатньо. Крім того, обмеження окремої моделі не зупиняє автоматично інші системи, які використовують схожі технології.

Тому майбутні правила можуть стосуватися не лише можливості вимкнення, а й тестування моделей, контролю доступу, кіберзахисту та відповідальності за наслідки їхнього використання.

Реальні випадки використання ШІ для кібератак посилюють занепокоєння

Побоювання галузі пов’язані не тільки з теоретичними сценаріями. У матеріалі Axios згадується кібератака на південнокорейські фінансові установи, під час якої, за наведеними даними, зловмисник із Китаю використовував інструменти моделей ШІ, зокрема DeepSeek, для викрадення даних десятків тисяч банківських клієнтів.

За інформацією компанії CrowdStrike, атакувальник також застосовував Claude Code, щоб шукати майданчики, на яких могли продавати викрадену інформацію.

Такі приклади демонструють, що ШІ може допомагати зловмисникам автоматизувати окремі етапи атак. Водночас використання моделі під час кіберзлочину саме по собі не доводить, що вона діяла автономно або стала єдиною причиною інциденту.

Чому компанії готуються до законодавчих змін заздалегідь

За даними Axios, представники індустрії хочуть не лише підготуватися до кризового сценарію, а й заздалегідь донести до американських законодавців можливі ризики та варіанти реагування. Нині жорстке регулювання стикається з політичними й економічними перешкодами, однак масштабна атака може змінити пріоритети влади.

У разі серйозної кризи політичні розбіжності можуть тимчасово відійти на другий план, як це траплялося під час пандемії COVID-19 або фінансової кризи 2008 року. Водночас конкретні рішення залежатимуть від характеру події та наявних доказів відповідальності розробників.

Головний ризик для індустрії полягає не лише в можливій кібератаці, а й у тому, що один великий інцидент може докорінно змінити правила розвитку ШІ. Проте наразі йдеться про сценарне планування та оцінки окремих учасників ринку, а не про підтверджений прогноз неминучої катастрофи.