RedactorПривет, Хабр! Я Михаил, CTO компании VizoGEN, и хочу поделиться нашим опытом поиска доступных AI-ресурсов. Изначально мы использовали скромные 3080 TI, но вскоре потребности росли, и нам понадобились более мощные решения. Попытка объединить графические карты не удалась, так как наш инструмент ComfyUI не поддерживал несколько GPU одновременно.
Скоро мы осознали, что нам нужны серверные карты Nvidia Tesla. Тестирование H100 у провайдера показало высокую мощность, но стоимость в $18-19K в месяц была неприемлема. Затем мы обратили внимание на Китай, где нашли более доступную H20, хотя возникли проблемы с настройкой окружения из-за фаервола и отсутствия доступа к GitHub.
Нам пришлось столкнуться с множеством трудностей, включая языковой барьер и несовместимость драйверов. В итоге, спустя четыре дня, мы смогли запустить систему, и теперь у нас есть мощные ресурсы по приемлемой цене. Главное — проверяйте все зависимости и будьте готовы к трудностям.
