Обчислювальна потужність стає новою бізнес-моделлю, а «переплавка» великих моделей, можливо, мине
Битва за обчислювальну потужність, розпочата тренуванням великих моделей, сприяє тому, що обчислювальні послуги стають новою бізнес-моделлю. Однак в індустрії загалом вважається, що поточний бум великих моделей врешті-решт вщухне, і постачальникам обчислювальних послуг потрібно заздалегідь підготуватися та вчасно відкоригувати стратегічний напрямок.
Не так давно, молодий чоловік, який закінчив університет Ціньхуа три роки тому, використав 200 графічних процесорів (GPU) і витратив близько двох місяців на навчання метеорологічної моделі з параметрами на рівні сотень мільйонів. За оцінками, лише вартість навчання цієї великої моделі в специфічній області перевищує 2 мільйони юанів. Якщо ж мова йде про навчання загальної великої моделі, витрати можуть зрости в сто разів.
Наразі в Китаї вже є понад 100 великих моделей з масштабом у 10 мільярдів параметрів. Але галузь загалом стикається з проблемами нестачі висококласних графічних процесорів, високими витратами на обчислювальну потужність тощо. Один з керівників великої компанії зізнався: "Нестача обчислювальної потужності – це факт, але ми нічого не можемо з цим вдіяти." Висококласні графічні процесори користуються великим попитом, ціни стрімко зростають, витрати на оренду також зростають, але навіть так може не вдасться купити чіпи.
Стикаючись з цією кризою, компанії активно реагують. Деякі компанії підвищують ефективність, використовуючи якісніші навчальні дані, інші прагнуть покращити можливості інфраструктури для забезпечення стабільної роботи масштабних GPU-кластерів. Є також постачальники, які обирають перехід з хмарної архітектури на суперкомп'ютерну архітектуру або використовують вітчизняні платформи замість GPU від NVIDIA.
Експерти вказують, що для реалізації масштабного впровадження технологій штучного інтелекту необхідні великі обсяги дешевої та зручної у використанні інтелектуальної Обчислювальної потужності, щоб малі і середні підприємства також могли зручно користуватися. Обчислювальна потужність вже в умовах попиту та технічних ітерацій поступово стає новою моделлю обслуговування.
Обчислювальна потужність сервісна індустрія формується, верхній рівень постачає базові ресурси, середній рівень відповідає за виробництво та розподіл обчислювальної потужності, а нижній рівень – це промислові користувачі. Хмарні провайдери та інші досліджують нові комерційні моделі обчислювальної потужності, такі як плата за використання, річна та місячна підписка тощо.
Незважаючи на те, що нині брак висококласних GPU призводить до боротьби за обчислювальну потужність, експерти вважають, що це лише тимчасове явище. У довгостроковій перспективі послуги обчислювальної потужності стають трендом. Постачальники обчислювальної потужності повинні заздалегідь підготуватися, щоб бути готовими до трансформації після повернення ринку до раціональності.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
19 лайків
Нагородити
19
3
Репост
Поділіться
Прокоментувати
0/400
GasWaster
· 08-16 20:59
ціни на gpu ростуть... так само, як газ для eth у 2021 році, смх
Переглянути оригіналвідповісти на0
DefiPlaybook
· 08-16 20:58
Вартість алхімії порівнянна з ранніми Біт установками для майнінгу, вже не можу заробити.
Битва за обчислювальну потужність великих моделей: довгострокове планування за короткочасним бумом
Обчислювальна потужність стає новою бізнес-моделлю, а «переплавка» великих моделей, можливо, мине
Битва за обчислювальну потужність, розпочата тренуванням великих моделей, сприяє тому, що обчислювальні послуги стають новою бізнес-моделлю. Однак в індустрії загалом вважається, що поточний бум великих моделей врешті-решт вщухне, і постачальникам обчислювальних послуг потрібно заздалегідь підготуватися та вчасно відкоригувати стратегічний напрямок.
Не так давно, молодий чоловік, який закінчив університет Ціньхуа три роки тому, використав 200 графічних процесорів (GPU) і витратив близько двох місяців на навчання метеорологічної моделі з параметрами на рівні сотень мільйонів. За оцінками, лише вартість навчання цієї великої моделі в специфічній області перевищує 2 мільйони юанів. Якщо ж мова йде про навчання загальної великої моделі, витрати можуть зрости в сто разів.
Наразі в Китаї вже є понад 100 великих моделей з масштабом у 10 мільярдів параметрів. Але галузь загалом стикається з проблемами нестачі висококласних графічних процесорів, високими витратами на обчислювальну потужність тощо. Один з керівників великої компанії зізнався: "Нестача обчислювальної потужності – це факт, але ми нічого не можемо з цим вдіяти." Висококласні графічні процесори користуються великим попитом, ціни стрімко зростають, витрати на оренду також зростають, але навіть так може не вдасться купити чіпи.
Стикаючись з цією кризою, компанії активно реагують. Деякі компанії підвищують ефективність, використовуючи якісніші навчальні дані, інші прагнуть покращити можливості інфраструктури для забезпечення стабільної роботи масштабних GPU-кластерів. Є також постачальники, які обирають перехід з хмарної архітектури на суперкомп'ютерну архітектуру або використовують вітчизняні платформи замість GPU від NVIDIA.
Експерти вказують, що для реалізації масштабного впровадження технологій штучного інтелекту необхідні великі обсяги дешевої та зручної у використанні інтелектуальної Обчислювальної потужності, щоб малі і середні підприємства також могли зручно користуватися. Обчислювальна потужність вже в умовах попиту та технічних ітерацій поступово стає новою моделлю обслуговування.
Обчислювальна потужність сервісна індустрія формується, верхній рівень постачає базові ресурси, середній рівень відповідає за виробництво та розподіл обчислювальної потужності, а нижній рівень – це промислові користувачі. Хмарні провайдери та інші досліджують нові комерційні моделі обчислювальної потужності, такі як плата за використання, річна та місячна підписка тощо.
Незважаючи на те, що нині брак висококласних GPU призводить до боротьби за обчислювальну потужність, експерти вважають, що це лише тимчасове явище. У довгостроковій перспективі послуги обчислювальної потужності стають трендом. Постачальники обчислювальної потужності повинні заздалегідь підготуватися, щоб бути готовими до трансформації після повернення ринку до раціональності.