AI Security for Apps від Cloudflare виявляє та нейтралізує загрози для додатків на базі ШІ. Сьогодні ми оголошуємо про початок загального доступу до цього продукту.
Ми додаємо нові можливості, такі як виявлення для користувацьких тем, а також робимо функцію виявлення кінцевих точок ШІ безкоштовною для всіх клієнтів Cloudflare, включаючи користувачів тарифних планів Free, Pro та Business, щоб кожен міг бачити, де в їхніх інтернет-додатках розгорнуто ШІ.
Ми також оголошуємо про розширення співпраці з IBM, яка обрала Cloudflare для забезпечення захисту на базі ШІ для своїх клієнтів, що користуються хмарними сервісами. І ми співпрацюємо з Wiz, щоб надати спільним клієнтам цілісну картину стану їхньої безпеки в контексті штучного інтелекту.
Традиційні вебдодатки мають визначені операції: перевірка балансу банківського рахунку, здійснення переказу. Ви можете написати детерміновані правила для захисту цих взаємодій.
Програми та агенти на базі ШІ відрізняються. Вони приймають природну мову та генерують непередбачувані відповіді. Немає фіксованого набору операцій, які можна дозволити або заборонити, оскільки вхідні та вихідні дані є ймовірнісними. Зловмисники можуть маніпулювати великими мовними моделями, щоб виконувати несанкціоновані дії або викрасти конфіденційні дані. Введення запиту, розкриття конфіденційної інформації та необмежене споживання — це лише деякі з ризиків, перелічених у «OWASP Топ-10 для додатків на основі великих мовних моделей».
Ці ризики зростають, оскільки програми ШІ стають агентами. Коли ШІ отримує доступ до функцій системи — обробки повернень коштів, внесення змін до облікових записів, надання знижок або доступу до даних клієнтів — навіть один зловмисний запит може миттєво призвести до інциденту безпеки.
Клієнти розповідають нам, з чим вони стикаються. «Більшість команд Newfold Digital впроваджують власні заходи безпеки на основі генеративного ШІ, але всі так швидко впроваджують інновації, що зрештою неминуче виникнуть певні прогалини», — каже Рік Радінгер, головний системний архітектор Newfold Digital, яка керує сервісами Bluehost, HostGator та Domain.com.
Що робить AI Security for Apps
Ми створили AI Security for Apps, щоб розв'язувати цю проблему. Він знаходиться перед вашими додатками на базі ШІ, незалежно від того, чи використовуєте ви сторонню модель, чи розміщуєте власну, у складі зворотного проксі-сервера Cloudflare. Це допоможе вам (1) виявляти додатки на базі ШІ на ваших вебресурсах, (2) виявляти зловмисну або невідповідну політикам поведінку на цих кінцевих точках та (3) зменшувати загрози за допомогою звичного конструктора правил WAF.
Виявлення — тепер безкоштовно для всіх
Перш ніж ви зможете захистити свої програми на базі LLM, вам потрібно з’ясувати, де саме вони використовуються. Ми часто чуємо від команд з безпеки, що вони не мають повного уявлення про розгортання ШІ у своїх додатках, особливо з огляду на розвиток ринку LLM та те, що розробники змінюють моделі та постачальників.
AI Security for Apps автоматично ідентифікує кінцеві точки на базі LLM на ваших вебресурсах, незалежно від місця їх розміщення та типу моделі. Відсьогодні ця функція доступна безкоштовно для всіх клієнтів Cloudflare, включаючи користувачів тарифних планів Free, Pro та Business.
Сторінка панелі керування вебресурсами Cloudflare, на якій показано 2 приклади кінцевих точок з позначкою cf-llm
Для автоматичного виявлення цих кінцевих точок потрібно дещо більше, ніж просто зіставлення типових шаблонів шляхів, таких як /chat/completions. Багато програм на базі ШІ не мають інтерфейсу чату: наприклад, пошук товарів, інструменти оцінки нерухомості або системи рекомендацій. Ми побудували систему виявлення, яка аналізує поведінку кінцевих точок, а не їхні назви. Щоб впевнено ідентифікувати кінцеві точки на базі ШІ, потрібен достатній обсяг дійсного трафіку.
Виявлені кінцеві точки на базі ШІ будуть відображатися в розділі «Безпека → Вебресурси» з позначкою cf-llm. Для користувачів безкоштовного тарифного плану процес виявлення кінцевих точок запускається під час першого переходу на сторінку виявлення. Для клієнтів платного плану виявлення відбувається автоматично у фоновому режимі на регулярній основі. Якщо ваші кінцеві точки на базі ШІ було виявлено, ви можете негайно їх переглянути.
Система виявлення AI Security for Apps використовує підхід постійного моніторингу для трафіку, що надходить на ваші кінцеві точки, які працюють на базі ШІ. Кожен запит проходить перевірку через декілька модулів, що виявляють спроби введення шкідливого коду, розкриття персональних даних та наявність чутливих або токсичних тем. Результати — незалежно від того, чи містив запит шкідливий код — додаються як метадані, які можна використовувати в користувацьких правилах WAF для забезпечення дотримання ваших політик. Ми постійно шукаємо способи ефективного використання нашої глобальної мережі, через яку проходить трафік приблизно з 20% вебресурсів, щоб виявляти нові схеми атак на мільйонах сайтів, перш ніж вони досягнуть вашого.
Нове в GA: виявлення користувацьких тем
Продукт постачається з вбудованою функцією виявлення поширених загроз: введення запиту, вилучення персональних даних та токсичні теми. Але кожна компанія має власне визначення того, що вважається недопустимим. Компанії, що надає фінансові послуги, може знадобитися виявляти обговорення конкретних цінних паперів. Медичній компанії може знадобитися позначати розмови, в яких йдеться про дані пацієнтів. Продавець може бути зацікавлений у тому, щоб дізнатися, коли клієнти запитують про товари конкурентів.
Нова функція налаштування тем дозволяє вам визначати ці категорії. Ви вказуєте тему, ми перевіряємо запит і виводимо оцінку релевантності, яку ви можете використовувати для реєстрації, блокування або обробки на власний розсуд. Наша мета — створити гнучкий інструмент, який можна адаптувати до ваших потреб.
Оцінка релевантності за запитом у системі AI Security for Apps
AI Security for Apps застосовує запобіжні заходи, перш ніж небезпечні запити потраплять до вашої інфраструктури. Щоб забезпечити точне виявлення загроз і захист у режимі реального часу, нам спочатку потрібно визначити запит в тілі запиту. Запити можуть розміщуватися в будь-якій частині тіла запиту, а різні постачальники LLM по-різному структурують свої API. OpenAI та більшість провайдерів використовують $.messages[*].content для завершення чату. Пакетний API компанії Anthropic розміщує запити всередині $.requests[*].params.messages[*].content. Ваш інструмент оцінки нерухомості може використовувати $.property_description.
З самого початку ми підтримуємо стандартні формати, які використовують OpenAI, Anthropic, Google Gemini, Mistral, Cohere, xAI, DeepSeek та інші. Коли ми не можемо знайти збіг з відомим шаблоном, ми застосовуємо безпечну позицію за замовчуванням і запускаємо виявлення для всього тіла запиту. Це може призвести до хибнопозитивних результатів, коли корисне навантаження містить конфіденційні поля, які не передаються безпосередньо до моделі ШІ, наприклад, поле $.customer_name поруч із фактичним запитом може безпідставно ініціювати виявлення персональних даних.
Незабаром ви зможете визначати власні вирази JSONPath, щоб точно вказати нам, де знайти запит. Це зменшить кількість хибнопозитивних результатів та призведе до точніших виявлень. Ми також розробляємо функцію швидкого навчання, яка з часом автоматично адаптуватиметься до структури вашої програми.
Після виявлення та оцінки загрози ви можете її заблокувати, зареєструвати або застосувати індивідуальні заходи реагування, використовуючи той самий механізм правил WAF, який ви вже використовуєте для забезпечення безпеки інших частин вашого додатка. Сила спільної платформи Cloudflare полягає в тому, що ви можете поєднувати сигнали, специфічні для ШІ, з усією іншою інформацією про запит, яка представлена сотнями полів, доступних у WAF. Спроба введення запиту є підозрілою. А ось спроба швидкого введення з IP-адреси, яка перевіряла вашу сторінку входу, використовуючи відбиток браузера, пов’язаний із попередніми атаками, та проходячи через ботнет — це вже зовсім інша історія. Точкові рішення, які бачать лише рівень ШІ, не можуть встановити ці зв'язки.
Цей єдиний рівень безпеки — саме те, що потрібно Newfold Digital для виявлення, маркування та захисту кінцевих точок ШІ, каже Радінгер: «Ми з нетерпінням чекаємо на можливість застосовувати його у всіх цих проєктах як надійний запобіжний механізм».
AI Security for Applications також буде доступно через зростаючу екосистему Cloudflare, зокрема завдяки інтеграції з IBM Cloud. Завдяки IBM Cloud Internet Services (CIS) кінцеві користувачі вже можуть придбати передові рішення для безпеки додатків та керувати ними безпосередньо через свій обліковий запис IBM Cloud.
Ми також співпрацюємо з компанією Wiz, щоб поєднати AI Security for Applications з Wiz AI Security, надаючи спільним клієнтам єдине уявлення про їхній стан безпеки на базі ШІ, від виявлення моделей та агентів у хмарі до захисту на рівні додатків на периферії.
AI Security for Apps тепер доступна для корпоративних клієнтів Cloudflare. Щоб розпочати роботу, зверніться до команди з обслуговування клієнтів, або ознайомтеся з продуктом за допомогою інтерактиваної екскурсії.
Якщо ви користуєтеся тарифним планом Free, Pro або Business, ви вже сьогодні можете скористатися функцією виявлення кінцевих точок на базі ШІ. Увійдіть у свою панель управління та перейдіть у розділ «Безпека → Вебресурси», щоб побачити, які кінцеві точки ми визначили. Слідкуйте за оновленнями — ми плануємо незабаром зробити всі можливості AI Security for Apps доступними для клієнтів усіх планів.
Детальніше про конфігурацію див. у нашій документації.