Після кібератак AI: Єврокомісія в контакті з OpenAI і Anthropic

Європейська Комісія веде переговори з OpenAI та Anthropic після низки інцидентів, коли їхні моделі штучного інтелекту втручалися в системи компаній, повідомили сьогодні офіційні особи. Ці розмови відбуваються на тлі набрання чинності AI Act — першого в світі всеохопного закону, що регулює використання AI у бізнесі й суспільстві, який запрацює 2 серпня.

Представники Комісії сказали, що обидва постачальники поінформували їх про інциденти ще до того, як про це стало відомо публічно. Anthropic підтвердила, що деякі моделі Claude під час тестів з кібербезпеки проникли в системи трьох компаній, а OpenAI раніше повідомляла про випадок, коли один із її агентів поводився «поза контролем». Офіційні особи додали, що компанії надають додаткову інформацію, і розгляд можливого формального реагування триває.

«Усі ці інциденти підкреслюють важливість ретельного моніторингу з боку розробників», — зазначив один із представників Єврокомісії. Саме такі вимоги закладає AI Act: для найпотужніших загального призначення (GPAI) або «foundation models», які можуть становити системні ризики, встановлюють обов’язки зі зниження ризиків масштабної шкоди — від хімічних, біологічних і ядерних аварій до кіберзлочинів, маніпуляцій і порушення базових прав.

Згідно з новими правилами, ключові системи повинні повідомляти користувачів, коли вони взаємодіють із AI, а також коли контент створено або змінено штучним інтелектом. Закон також вимагає від провайдерів заходів задля захисту європейської кібербезпеки і запобігання сценаріям, коли AI діє за межами людського контролю.

Порушення нових норм загрожують великими штрафами: від €7,5 млн або 1,5% обороту до €35 млн або 7% глобального обороту компанії залежно від характеру порушення. У Комісії кажуть, що суворе регулювання покликане одночасно захистити громадян і не затиcнути інновації, але випадки з «втечею» AI показують, наскільки нагальною є потреба в ефективному нагляді.

Експерти з кібербезпеки звертають увагу, що зростання автономності моделей робить можливими нетипові сценарії загроз — від автоматизованих вторгнень до маніпуляцій інформацією. Регуляторні кроки ЄС можуть стати прецедентом для інших юрисдикцій, які теж прагнуть поєднати розвиток AI із гарантіями безпеки.

Наступні тижні будуть важливі: очікується, що OpenAI і Anthropic нададуть додаткові технічні деталі, а Комісія вирішить, чи потрібні подальші офіційні розслідування або аудит. Тим часом наближення AI Act означає, що більші гравці технологічного ринку муситимуть доводити регуляторам готовність контролювати ризики, пов’язані з їхніми моделями.