Рынки GPU сообщества превосходят облако в 11,6 раза

TL;DR

Рынки GPU сообщества предоставляют в 11,6 раза больше предложений аренды, чем облачные провайдеры (6 402 против 553), и достигают 40% доступности в реальном времени против 30% облака. Облачные провайдеры имеют эксклюзивный доступ к корпоративным ускорителям, таким как A100 SXM4 и RTX PRO 6000 Max-Q. Выбор зависит от масштаба и специализации.

Почему предложение сообщества намного превосходит облако?

Математика проста: одноранговые сети объединяют майнеров, университетские лаборатории и небольших операторов, которые выставляют свободные мощности, когда они доступны. Облачные провайдеры управляют консолидированной инфраструктурой с обязательствами SLA и требованиями соответствия, которые ограничивают, насколько агрессивно они могут подключать новые мощности.

Аудит насчитал 6 402 предложения сообщества против 553 от облачных провайдеров. Это разрыв в 11,6 раза. Облачные провайдеры не пытаются выиграть по количеству инвентаря. Они оптимизируют маржу и гарантированное время безотказной работы, что означает меньше полностью управляемых узлов, а не открытую дверь для непроверенного оборудования.

Цифры доступности делают это конкретным. Платформы сообщества имели 2 662 из 6 402 предложений, доступных во время аудита (40%). Облако имело 186 из 553 (30%). Хосты сообщества выставляют мощности в тот момент, когда они свободны; облачные мощности часто зарезервированы или предварительно выделены корпоративным контрактам.

Какие GPU появляются на обоих рынках?

RTX 4090, RTX 5090, RTX 3090 и RTX 5060 Ti появляются в обоих каналах. Это уровень, где спрос достаточно высок, чтобы как отдельные хосты, так и облачные провайдеры считали целесообразным выставлять объявления.

Цены и количество доступности по отдельным моделям недоступны, поэтому точные разницы в цене за GPU здесь не сравнимы.

Если вам нужен RTX 4090 для вывода или тонкой настройки, у вас есть варианты в обоих каналах. Сторона сообщества дает вам больше объявлений для сравнения.

Какие ускорители остаются эксклюзивными для облака?

A100 SXM4 и RTX PRO 6000 Max-Q появляются только в объявлениях облачных провайдеров. Вы не найдете ни одного из них в объявлениях независимого майнера.

Причина в соответствии требованиям. Корпоративные ускорители поставляются с контрактами поддержки, страховкой ответственности и требованиями сертификации, которые отдельные хосты не могут реально выполнить. Лаборатория, запускающая распределенное обучение на A100 SXM4, нуждается в гарантированной пропускной способности соединения, топологии NVLink и в том, чтобы кому-то позвонить в 2 часа ночи. Платформы сообщества этого не предлагают.

На стороне сообщества Tesla V100 и RTX 3070 появляются как объявления только сообщества. Старое оборудование центра обработки данных, такое как V100, часто попадает на одноранговые рынки после того, как предприятия его снимают. Способно для вывода и меньших прогонов обучения, но не удовлетворит корпоративный контрольный список закупок.

Географический охват

Аудит отслеживал объявления сообщества в 25 странах: AE, AR, AT, AU, BA, BD, BE, BG, BH, BR, BY, CA, CH, CL, CN, CO, CR, CZ, DE, DK, DZ, EE, EG, ES и FI. Европа и Северная Америка доминируют. Африка и Южная Америка редки - Бразилия и Алжир появляются, но это скудное охватывание континента.

Облачные провайдеры работают из определенных региональных зон с предсказуемой задержкой. Вы знаете, что получаете. Рынки сообщества требуют, чтобы вы сами фильтровали по местоположению, и хост, который вы выберете, может работать на жилом соединении.

Для вывода, чувствительного к задержке, географическая предсказуемость облака имеет значение. Для пакетных заданий или асинхронных рабочих нагрузок хост сообщества в неидеальном регионе обычно подходит.

Разрыв доступности, точно

Облако: 186 доступных из 553 всего. Это 30%.

Сообщество: 2 662 доступных из 6 402 всего. Это 40%.

Процентный разрыв скромный. Что более значительно, так это абсолютное число: 2 662 доступных предложения сообщества против 186 облачных предложений. Вы намного менее вероятно столкнетесь со стеной «нет мощности» на стороне сообщества. Доступность облака также более волатильна - одно крупное резервирование может уничтожить региональный пул.

Трение при бронировании также отличается. Облачные провайдеры требуют настройки учетной записи, проверки выставления счетов и иногда запросов квоты для высокопроизводительных GPU. Платформы сообщества построены для одноранговой аренды с более быстрым подключением.

Сообщество или облако?

Выбирайте сообщество, если вам нужна емкость RTX 4090 или RTX 5090, вы хотите больше объявлений для сравнения и можете терпеть переменное качество поддержки. Преимущество инвентаря в 11,6 раза и уровень доступности 40% означают, что вы быстро найдете что-то работающее.

Выбирайте облако, если ваша рабочая нагрузка требует A100 SXM4 или RTX PRO 6000 Max-Q, или если вам нужна документация корпоративного SLA, записи соответствия или гарантированное время безотказной работы для производственного задания обучения. Нет эквивалента сообщества для этих требований.

Гибридный подход имеет смысл для команд, запускающих как обучение, так и вывод. Используйте облако для длительных прогонов обучения, где вам нужно корпоративное оборудование и гарантии SLA. Используйте сообщество для емкости вывода в пиковые периоды или экспериментов, где пул RTX 4090 глубокий.

Все цифры охватывают 6 955 общих предложений аренды в обоих каналах.

Связанное в блоге GPUniq

• RTX 4090 Dominates GPU Rentals at 30K/Week
• GPU Rental Prices Surge 55% in 30 Days