Глава SF Compute считает, что контрактам на аренду видеокарт нужны реальные поставки

Площадка SF Compute выставила на открытые торги 5% своих мощностей, а её глава предупреждает: индексами цен аренды видеокарт, к которым привязывают контракты без поставки, легко манипулировать.

Глава SF Compute Эван Конрад в подкасте Latent Space¹ объяснил, почему торговле вычислениями сначала нужна надёжная поставка мощностей, а уже потом контракты, привязанные к индексам цен.

Почему это важно: часы работы видеокарт начинают продавать заранее и страховать, как нефть или электричество, и за это взялись крупные трейдинговые фирмы. Конрад предупреждает, что контракты без поставки могут быть привязаны к цене, по которой мощности на деле не купить.

Предыстория: SF Compute — площадка, где покупают и перепродают часы работы видеокарт. Начинала она с попытки пересдать собственный кластер, а потом, по словам Конрада, всё пошло как в гостинице: гость просит уборку, еду в номер и охрану — и вот ты уже управляешь всей гостиницей.

Как это работает: покупатель получает работающие мощности, а не выплату по индексу — Конрад называет это физической поставкой, как у нефти на сырьевых биржах. Заявки при этом не сводят к одному стандарту:

Покупатель задаёт поколение чипа, сроки, хранилище и готовность к прерыванию: заявку на любой Blackwell² не дороже 6 долларов в час исполнят хоть на GB300, хоть на B300.
Купить можно от ближайшего часа до трёх лет вперёд, а сами кластеры обычно финансируют на 3–5 лет.
Задаче, которую можно прервать в любой момент, хватит предупреждения за час, сервису с живыми пользователями нужны месяцы, и стоят такие мощности по-разному.
Если сравнить цены блоков с разной датой начала, выходит горб: ближайшие дешевеют, как молоко в конце срока годности, более поздние стоят дороже, а самые далёкие снова дешевле.

Но: вычисления разнородны, как сорта нефти, и до общего стандарта, по словам Конрада, ещё далеко:

Две виртуальные машины одного оператора могут на 40% различаться по скорости запуска задач на видеокарте.
Первые партии H100 и GB200 ломались, а ошибка в прошивке от производителя серверов могла сидеть во всех машинах партии; похожее случилось с B300 у самой SF Compute.
Из-за множества вариантов заявки дробятся, и разрыв между ценами покупки и продажи шире, чем был бы при едином стандарте.

В цифрах: торги пока небольшие, но, по словам Конрада, ликвидные:

На открытые торги выставлено 5% всех мощностей SF Compute; компания переводит туда всё больше, а новые мощности ставит туда сразу.
Клиент, купивший мощности за 100 долларов, в среднем возвращает 25, перепродав ненужное, — этой мерой компания проверяет, полезны ли торги.
Всего SF Compute закрыла сделок на несколько сотен миллионов долларов.
Час B300 стоит 5–6 долларов, а запуск моделей для клиентов на нём, по оценке Конрада, приносит около 40 долларов в час при полной загрузке; по его словам, одно из этих чисел должно измениться.

Не факт: контракты с денежным расчётом, когда стороны получают не мощности, а разницу цен, Конрад не отвергает, но считает, что они должны опираться на цены поставки. Иначе он видит два риска:

Многие индексы считают по малому объёму данных, слабо связанных с ценой нового контракта на мощности, и ими легко манипулировать, как когда-то ставкой LIBOR³.
Тот, кто страхуется по индексу, может получить цену, не связанную с той, по которой мощности реально купить.

Между строк: нейтральность — главный довод SF Compute в свою пользу. Собственный кластер у компании был только в начале. Теперь она делает всё, что делает облако, но железом не владеет: мощности, которыми она управляет и торгует, принадлежат партнёрам — облакам, фондам, владельцам дата-центров. Будь железо её, говорит Конрад, она могла бы двигать цены будущих поставок. По той же причине, считает он, такую площадку не построят ни NVIDIA, ни облака вроде CoreWeave, ни сервисы, которые запускают чужие модели, вроде Fireworks: «Чтобы сделать такое, придётся убить собственный бизнес. Поэтому никто этого и не делает».

Если шире: за торговлю вычислениями берутся финансисты:

В октябре Jump Trading⁴ наняла всю команду основателей стартапа Itô, торговавшего вычислениями, чтобы открыть у себя отдел торговли мощностями, пишет Crypto Briefing.
Трейдинговая фирма DRW вырастила площадку Compute Exchange и компанию Silicon Data, которая считает индексы цен аренды видеокарт.
В мае биржа CME Group объявила фьючерсы на индексы Silicon Data — цены часа аренды H100 и B200; запуск ждёт одобрения американского регулятора товарных рынков CFTC.
Silicon Data и Compute Exchange Конрад называет вероятными будущими партнёрами: по его словам, они делают контракты с денежным расчётом, а SF Compute — с поставкой.

Что дальше: Конрад обещает объявления через неделю-две, а пока не называет ни одного партнёра, с которым SF Compute уже работает. Кластеры компания ставит и за пределами США, в том числе вместе с теми, кто строит облака в своих странах.

Из новых функций Конрад выделил одну: клиенты сами, без заявки оператору, перекраивают быструю сеть InfiniBand, по которой обмениваются данными серверы кластера. Так проще наращивать и сокращать кластер под сделки на торгах. «Мы виртуализируем дата-центр и делаем его программируемым», — говорит Конрад.