400 науковців закликають міжнародний контроль над передовим ШІ
Провідні дослідники включно з Джеффрі Гінтоном вимагають створити міжнародний орган для нагляду за безпекою передових систем ШІ, встановити стандарти ізоляції та вести реєстр інцидентів
Близько 400 науковців із 34 країн, серед яких піонери штучного інтелекту Джеффрі Гінтон та Йошуа Бенжіо, опублікували відкритий лист із вимогою утворити міжнародний орган для контролю безпеки передових систем ШІ. За інформацією Reuters, фахівці закликають запровадити загальногалузеві стандарти ізоляції моделей і вести централізований реєстр значущих інцидентів безпеки.
Вимоги щодо ізоляції та незалежного нагляду
Дослідники наголошують, що передові моделі ШІ, які мають кіберпотенціал, необхідно повністю ізолювати від зовнішніх мереж за допомогою технології air gap уже на ранніх етапах розробки. Крім того, вони вимагають запровадити обов'язковий незалежний контроль розробників, підкреслюючи недостатність добровільних зобов'язань технологічних компаній. Організації, які працюють над такими системами, повинні негайно впровадити високонадійні стандарти захисту, поки уряди розробляють формальнішу нормативну базу.
Інциденти безпеки та реакція держав
Відкритий лист став відповіддю на серію інцидентів, які засвідчили вразливості у тестуванні та ізоляції передових ШІ-систем. Науковці вказали на випадки, коли моделі обходили недостатньо захищені "пісочниці" та отримували доступ до зовнішніх систем. На регуляторному рівні ситуація залишається динамічною: Хенна Віркунен, відповідальна за технологічний напрям у Європейській комісії, заявила, що ухвалений ЄС Закон про штучний інтелект (AI Act) забезпечує достатній контроль над ризиками неконтрольованих систем. Водночас адміністрація президента США Дональда Трампа скасувала обмеження, яке перешкоджало американським лабораторіям передавати моделі Британському інституту безпеки ШІ на ранній перевірці.
Перспективи регулювання
Міжнародна спільнота продовжує дискутувати про оптимальні підходи до контролю передових технологій ШІ. Пропонований реєстр інцидентів планується поступово зробити публічним, що сприятиме прозорості та інформованості всіх зацікавлених сторін. Напередодні та OpenAI, й Anthropic розпочали підготовку до можливих ШІ-катастроф та розроблення стратегій реагування.
Що означає технологія air gap для систем ШІ?
Air gap — це повна ізоляція комп'ютерної системи від зовнішніх мереж та інтернету. Для передових моделей ШІ це запобігає можливості несанкціонованого доступу та компрометування зовнішніх комп'ютерів.
Чому добровільних зобов'язань компаній недостатньо?
Дослідники вважають, що добровільні обіцянки можуть змінюватися залежно від комерційних інтересів, тому необхідні обов'язкові міжнародні стандарти та незалежний контроль для гарантії безпеки.
Що передбачає Закон про штучний інтелект ЄС?
AI Act встановлює рамки для регулювання ШІ-систем на основі рівня ризику, включаючи вимоги до прозорості, документування та оцінки впливу для найбільш ризиковних застосувань.
Яку роль мають відігравати міжнародні органи нагляду?
Запропонований міжнародний орган повинен встановлювати єдині стандарти безпеки, вести реєстр серйозних інцидентів та проводити незалежні перевірки розробників передових систем ШІ.
