Tesla V100 за £200 в домашнем PC: 32 ГБ видеопамяти за 10% цены нового GPU

Разработчик купил серверную Tesla V100 SXM2 32 ГБ за £200, адаптер SXM2-to-PCIe за £50, напечатал крепление для вентилятора на 3D-принтере и воткнул всё в обычный десктоп рядом с RTX 4080. Результат: llama.cpp разбивает модели между двумя GPU через tensor splitting, и 32 ГБ HBM2 работают рядом с 16 ГБ GDDR6X. Вместе — 48 ГБ видеопамяти, достаточно для моделей, которые иначе требуют облачного inference.

Человек с двумя V100 в серверной стойке Supermicro подтвердил: qwen3.6-27B-mtp выдаёт 35–40 tok/s при умеренном контексте, агентские задачи потребляют сотни миллионов токенов без единого цента за API.

Но инженер, работающий с агентскими задачами, указал на критический дефект: prefill. При 100 000 токенов контекста и ~150 tok/s prefill — это 11 минут ожидания перед первым ответом. Для чата хватает, для кодинг-агентов с длинным контекстом — нет.

Другой энтузиаст уточнил: V100 SXM2 — это HGX-класс, не DGX. И idle потребление — 25–35 Вт без модели, 50+ Вт с загруженной. Управление вентилятором — отдельный квест: без кастомного решения серверный кулер на полной скорости делает комнату непригодной для жизни.

Экономика проекта красноречивее бенчмарков: автор посчитал, что 20 минут тяжёлого использования Opus 4.8 через API стоят больше, чем весь его сетап с GPU и адаптером. Если ваша задача — гонять локальные модели часами, а не minutes of frontier — окупаемость считается в днях.