AI та Web3: виникнення децентралізованих фінансів штучного інтелекту та їхні виклики безпеки

Нещодавно в Туреччині, в Стамбулі, відбулась блокчейн-конференція, що зосередилася на тенденціях інтеграції AI та Web3. Ця подія стала важливою платформою для обговорення безпеки Web3 цього року, залучивши багатьох експертів галузі.

На двох круглих столах кілька експертів провели глибоке обговорення стану застосування технологій ШІ в децентралізованих фінансах та безпекових викликів. Серед них "децентралізовані штучні інтелектуальні фінанси" (DeFAI) стали ключовим словом. Експерти зазначили, що з швидким розвитком великих мовних моделей та AI-агентів формується зовсім нова фінансова парадигма. Однак ця трансформація також принесла нові вектори атак і проблеми безпеки.

Деякий керівник безпекової компанії заявив: "DeFAI, хоча і має великі перспективи, вимагає від нас переосмислення механізмів довіри в децентралізованих системах. На відміну від смарт-контрактів, що базуються на фіксованій логіці, процес прийняття рішень AI-агентів підлягає впливу контексту, часу та навіть історичних взаємодій. Ця непередбачуваність не тільки загострює ризики, але й створює можливості для нападників."

AI-агенти в основному є інтелектуальними агентами, які здатні приймати автономні рішення та виконувати їх на основі логіки ШІ, зазвичай наділені правами на виконання користувачем, протоколом або DAO. Найтиповішим представником є AI-торгові роботи. Наразі більшість AI-агентів працюють на базі архітектури Web2, покладаючись на централізовані сервери та API, що робить їх вразливими до атак через ін'єкції, маніпуляцій моделей або спотворення даних. Як тільки їх захоплять, це може призвести не лише до втрати коштів, але й вплинути на стабільність всього протоколу.

На форумі також згадувався типовий сценарій атаки: коли торговий агент зі штучним інтелектом, яким керує користувач DeFi, відстежує повідомлення в соціальних мережах як торгові сигнали, зловмисник може спонукати агента негайно ініціювати екстрену ліквідацію, видавши помилкову сигналізацію, наприклад, «протокол зазнає атаки». Це не тільки призводить до втрати активів користувачів, але й викликає волатильність ринку, якою потім можуть скористатися зловмисники за допомогою випереджувальних транзакцій.

Щодо вказаних ризиків, експерти загалом вважають, що безпека AI-агентів не повинна покладатися на одну сторону, а є спільною відповідальністю користувачів, розробників та третіх сторін безпеки.

По-перше, користувачам потрібно чітко усвідомлювати обсяг прав代理, обережно надавати права та звертати увагу на перевірку високоризикових операцій AI代理. По-друге, розробники повинні впроваджувати заходи захисту вже на етапі проектування, такі як: зміцнення підказок, ізоляція в пісочниці, обмеження швидкості та механізми відкату. А треті сторони, які займаються безпекою, повинні надати незалежну перевірку поведінки моделі AI代理, інфраструктури та способів інтеграції на блокчейні, а також співпрацювати з розробниками та користувачами для виявлення ризиків і пропонування заходів з їх пом'якшення.

Деякий експерт з безпеки попередив: "Якщо продовжувати розглядати AI-агенти як 'чорну скриньку', то інциденти безпеки у реальному світі – це лише питання часу." Для розробників, які досліджують напрямок DeFAI, він порадив: "Як і у випадку з розумними контрактами, логіка поведінки AI-агентів також реалізується за допомогою коду. Оскільки це код, існує ймовірність атаки, тому потрібен професійний аудит безпеки та тестування на проникнення."

Як одна з найвпливовіших блокчейн-подій у Європі, це заходи залучили понад 15 тисяч учасників з усього світу, включаючи розробників, проекти, інвесторів та регуляторів. Варто зазначити, що з офіційним запуском Комісії з капітальних ринків Туреччини ліцензування блокчейн-проектів, статус цієї події в індустрії ще більше підвищився.