Потенційні загрози штучного інтелекту: вплив необмежених мовних моделей на сферу шифрування

З розвитком технологій штучного інтелекту, від серії GPT до таких передових моделей, як Gemini, постійно змінюється наш спосіб життя. Однак у цьому процесі поступово виникає питання, яке варто насторожити — поява необмежених або зловмисних великих мовних моделей.

Нескінченні мовні моделі — це ті, які були спеціально розроблені, модифіковані або "зламані", щоб уникнути вбудованих механізмів безпеки та етичних обмежень основних моделей. Хоча основні розробники зазвичай вкладають значні ресурси в запобігання зловживанню своїми моделями, в останні роки деякі особи або організації з незаконними намірами почали шукати або самостійно розробляти необмежені моделі.

Поява цих без обмежень моделей значно знизила поріг для мережевих атак. Завдання, які раніше вимагали професійних навичок, такі як написання шкідливого коду, створення фішингових електронних листів, планування шахрайства тощо, тепер за допомогою цих моделей можуть легко виконати навіть звичайні люди без жодного досвіду програмування. Атакуючі просто повинні отримати ваги та вихідний код відкритої моделі, а потім провести доопрацювання на наборі даних, що містить шкідливий контент, щоб створити персоналізовані інструменти атаки.

Ця тенденція приносить багато ризиків: зловмисники можуть налаштувати моделі під конкретні цілі, створюючи більш обманливий контент, який обходить звичайні обмеження безпеки; моделі також можуть бути використані для швидкого генерування варіантів коду фішингових сайтів або для створення шахрайських текстів, адаптованих до різних платформ; водночас доступність відкритих моделей також сприяє формуванню та поширенню підпільної екосистеми ШІ.

Ось кілька типових моделей без обмежень та їх потенційні способи зловживання:

1. Якась зловмисна мовна модель: це модель, яка відкрито продається на підпільних форумах, стверджуючи, що не має жодних моральних обмежень. Вона базується на відкритій моделі та була навчена на даних, пов'язаних із шкідливим програмним забезпеченням. Її основні застосування включають генерацію реалістичних комерційних електронних листів для атак вторгнення та фішингових електронних листів. У сфері шифрування вона може бути використана для генерації фішингової інформації, написання шкідливого коду та ведення автоматизованих шахрайств.

2. Спеціалізована модель: це модель, яка була навчена на даних з темної мережі, спочатку призначена для допомоги дослідникам та правоохоронним органам у розумінні екосистеми темної мережі. Однак, якщо її зловживати, вона може бути використана для здійснення точних шахрайств або імітації злочинних методів з темної мережі.

3. Модель мережевого шахрайства: це більш повна модель, яка в основному продається в даркнеті та на форумах хакерів. У сфері шифрування вона може використовуватися для підробки шифрувальних проектів, масового створення фішингових сторінок, проведення кампаній у соціальних мережах та соціальної інженерії.

4. Модель без моральних обмежень: це чітко визначений AI-чат-бот без моральних обмежень. У сфері шифрування він може бути використаний для складних фішингових атак, генерації шкідливого коду смарт-контрактів, створення поліморфних шифрувальних викрадачів, проведення соціальних інженерних атак та глибоких підробок.

5. Деяка платформа відкритого доступу: ця платформа надає доступ до різних мовних моделей, включаючи деякі з меншим цензуруванням або з м'якшими обмеженнями. Хоча вона має на меті забезпечити відкритий досвід AI, її також можуть використовувати злочинці для створення шкідливого контенту, обходу цензури та оптимізації методів атак.

Поява безмежних мовних моделей знаменує собою нову парадигму атак, з якою стикається кібербезпека, що є більш складною, масштабною та автоматизованою. Це не тільки знижує бар'єри для атак, але й приносить нові приховані та більш обманні загрози.

Щоб впоратися з цими викликами, усі сторони безпекової екосистеми повинні спільно працювати: збільшити інвестиції в технології виявлення, розробити інструменти, які можуть виявляти та перехоплювати контент, згенерований шкідливими моделями; сприяти розвитку можливостей моделей для запобігання обходу захисту, досліджувати механізми водяного знака та простеження; створити та удосконалити етичні норми та механізми регулювання, щоб з самого початку обмежити розробку та зловживання шкідливими моделями. Лише так ми зможемо забезпечити безпеку індустрії шифрування та всього кіберпростору на фоні швидкого розвитку технологій штучного інтелекту.