Дилема та майбутні напрямки Web3 AI

Акції Nvidia знову досягли рекордного рівня, прогрес мультимодальних моделей поглиблює технологічний бар'єр Web2 AI. Від семантичної уніфікації до візуального розуміння, від високовимірних вбудовувань до злиття ознак, складні моделі об'єднують різні способи вираження з небаченою раніше швидкістю. Однак цей бум, здається, не має жодного відношення до криптовалютної сфери.

Нещодавні спроби в напрямку Web3 AI, особливо в напрямку Agent, мають помилкове усвідомлення: намагаються змонтувати багатомодульну модульну систему в стилі Web2 на основі децентралізованої структури, що насправді є подвійним розривом у технологіях та мисленні. У сьогоднішньому світі, де модулі мають надзвичайно високий рівень зв'язності, розподіл ознак є надзвичайно нестабільним, а вимоги до обчислювальної потужності постійно зростають, багатомодульна модульність важко утримується в середовищі Web3.

Майбутнє Web3 AI полягає не в імітації, а в стратегічному маневруванні. Від семантичного вирівнювання у високих вимірах до інформаційних вузьких місць в механізмі уваги, і до вирівнювання ознак в умовах гетерогенної обчислювальної потужності, Web3 AI потрібно застосувати тактичний підхід "села оточують місто".

Проблема семантичного вирівнювання Web3 AI

Протокол Web3 AI або Agent важко реалізувати у високовимірному вбудованому просторі. Більшість Web3 Agent є лише простим обгортанням готових API, що призводить до відсутності єдиного центрального вбудованого простору та міжмодульного механізму уваги. Це призводить до того, що інформація не може взаємодіяти з багатьох кутів та на різних рівнях між модулями, а обробляється лише за лінійним процесом, що ускладнює формування загального циклу оптимізації.

Вимога реалізації Web3 AI у високих вимірах дорівнює вимозі протоколу агентів самостійно розробити всі залучені API інтерфейси, що суперечить його модульному призначенню. Архітектура високих вимірів потребує єдиного навчання або спільної оптимізації, тоді як концепція "модуль як плагін" Web3 Agent навпаки посилює фрагментацію, що призводить до стрімкого зростання витрат на обслуговування та обмежує загальну продуктивність.

Обмеження механізму уваги

Модульний Web3 AI важко реалізувати з єдиною системою розподілу уваги. По-перше, механізм уваги залежить від єдиного простору Query-Key-Value, тоді як формати даних та їх розподіл, що повертаються незалежними API, різняться, тому не можуть утворити взаємодійні Q/K/V. По-друге, багатоголове увагу дозволяє одночасно паралельно зосереджуватися на різних джерелах інформації, тоді як незалежні API часто є лінійними викликами, що позбавлені паралельних і багатоканальних динамічних можливостей зважування. По-третє, справжній механізм уваги динамічно розподіляє ваги на основі загального контексту, тоді як у моделі API між модулями відсутній реальний обмін центральним контекстом.

Поверхневі труднощі злиття ознак

Характеристики Web3 AI залишаються на простій статичній стадії з'єднання. Web2 AI схильний до спільного тренування від початку до кінця, одночасно обробляючи багатофункціональні характеристики у високих вимірах, співпрацюючи з завданнями нижчого рівня через увагові та зливальні шари. Натомість Web3 AI переважно використовує дискретні модульні з'єднання, що недостатньо мають єдину мету навчання і перехресний потік градієнтів між модулями.

Web2 AI використовує механізм уваги для динамічного налаштування стратегій злиття, тоді як Web3 AI зазвичай використовує фіксовані ваги або прості правила для оцінки. Web2 AI виконує складні інтерактивні операції у високорозмірному просторі, захоплюючи глибокі зв'язки, тоді як вихідний вимірник Web3 AI є нижчим, що ускладнює вираження тонкої інформації. Крім того, Web2 AI реалізує замкнуту оптимізацію через зворотний зв'язок від початку до кінця, тоді як Web3 AI більше покладається на ручну оцінку та налаштування.

Бар'єри в AI-індустрії та можливості Web3

Мультимодальні системи Web2 AI стали надзвичайно великим інженерним проєктом, що потребує величезних обсягів даних, потужних обчислювальних ресурсів, передових алгоритмів та досконалої інженерної системи. Це створює сильні бар'єри для входження в галузь і формує основну конкурентоспроможність кількох провідних команд.

Web3 AI має розвиватися за тактикою "села оточують місто". Його основна перевага полягає в децентралізації, що виявляється у високій паралельності, низькій зв'язаності та сумісності з різнорідними обчислювальними потужностями. Це робить Web3 AI більш конкурентоспроможним у сценах, таких як краєзнавчі обчислення, підходить для легких структур, простих для паралелізації та заохочуваних завдань, таких як доопрацювання LoRA, навчання після вирівнювання поведінки, обробка краудсорсингових даних, навчання малих базових моделей тощо.

Однак бар'єри Web2 AI лише починають формуватися, а AI для складних завдань з багатими модальностями перебуває на етапі прогресу. Web3 AI потрібно чекати, коли зникнуть вигоди Web2 AI, щоб виявити справжні можливості для входу. До цього часу проекти Web3 AI повинні обережно вибирати протоколи з потенціалом "сільська місцевість оточує місто", входячи з периферійних сценаріїв, поступово накопичуючи ресурси та досвід. Успішні проекти Web3 AI повинні мати можливість постійно ітерувати в невеликих застосункових сценаріях, зберігаючи гнучкість для адаптації до різних сценаріїв та швидко наближатися до цільового ринку.