Технологічні гіганти, як-от NVIDIA, Microsoft, Dell, The Linux Foundation, Cloudflare та багато інших, анонсували нову ініціативу Open Secure AI Alliance, метою якої є розвивати технології з відкритим кодом для підсилення кібербезпеки в еру штучного інтелекту.
Open Secure AI Alliance спирається на лідерство ініціативи Akrites від The Linux Foundation та роботу спільноти OpenSFF, щоб разом працювати над усуненням та виявленням вразливостей за допомогою відкритих технологій.
В анонсі, опублікованому NVIDIA, аргументують, що світу потрібні як закриті, так і відкриті моделі, оскільки вони демократизують оборонні можливості, підвищують прозорість для захисників, посилюють кіберзахист, захищаючи дані, та доповнюють передові закриті моделі налаштовуваними, локалізованими елементами керування.
Для підкреслення важливості нової ініціативи згадують нещодавній інцидент, коли GPT‑5.6 Sol і потужніша невипущена модель OpenAI зламали частини виробничої інфраструктури Hugging Face.
“Цей інцидент продемонстрував практичну істину: коли захисники не можуть перевіряти, адаптувати та запускати передовий штучний інтелект на власній інфраструктурі, їхня здатність реагувати обмежена саме в той момент, коли швидкість має найбільше значення. Компаніям та країнам потрібні інструменти та методи захисту з відкритими рубежами, щоб критично важливі галузі могли створювати системи безпеки в екосистемі з кількома постачальниками та уникати єдиних точок відмови”, – йдеться в блозі NVIDIA.
Учасники Open Secure AI Alliance створюють відкритий захисний стек для агентів – від ідентифікації та ізоляції до безпечних форматів моделей, багатомодельного сканування та безпечних робочих процесів кодування. NVIDIA одразу наводить кілька прикладів, як-от внесок HPE у SPIFFE/SPIRE, який має гарантувати, що лише авторизовані робочі навантаження взаємодіють та отримують доступ до корпоративних ресурсів.
Hugging Face запропонувала PyTorch Foundation Safetensors – безпечний формат для зберігання ваг моделей ШІ, що забезпечує прозорість та гарантує відсутність віддаленого виконання коду. Lightwell від IBM та Red Hat розширює безпеку в ланцюжку поставок з відкритим кодом за допомогою цифрових підписів. Багатомодельний агентний сканер MDASH від Microsoft організовує спеціалізованих агентів ШІ для виявлення, обговорення та доведення помилок, що можуть бути використані. SpaceXAI відкрила вихідний код термінального агента кодування ШІ Grok Build для сприяння довірі, прозорості та новим можливостям, а також планує відкрити вихідний код ваг лінійки моделей Grok для підтримки спільнот розробників та дослідників.
На додачу до цього, учасники ініціативи роблять заклик до регуляторів та політиків:
“Компанії та уряди повинні інвестувати у спільну відкриту інфраструктуру для захисту від ШІ – набори даних, системи оцінювання, симулятори атак та інструменти для червоних команд – так само, як попередні покоління інвестували у програмне забезпечення з відкритим вихідним кодом”, – пише NVIDIA.
Читайте також: Після виходу Kimi K3 у США заговорили про обмеження китайських ШІ-моделей
