Компьютер для ускорения обучения нейросетей

0

Всем привет! Наш компьютерный сервис продолжает собирать компьютеры в Краснодаре. Это конечно игровые компьютеры, компьютеры для рендеринга и дизайна, офисники. Но в конце сентября 2020 мы получили совсем нетипичный заказ. Нужно было собрать компьютер для ускорения обучения нейросетей. Конечно, мы смогли и собрали этот компьютер.

Обычно при сборке компьютера мы работаем и “мозгами”, и “руками” – т.е. сначала сами подбираем необходимые комплектующие, а потом и собираем из них системный блок. Но в сборке компьютера под ускорение обучения нейросетей мы работали только “руками” – т.к. заказчик точно знал какие ключевые комплектующие ему необходимы. Он определили, что видеокарта нужна только GTX 1080 Ti и процессор нужен 8 ядер 16 потоков. Поскольку бюджета на Intel Core i7-10700 не хватало, заказчик выбрал в качестве альтернативы процессор AMD Ryzen 2700. Остальные комплектующие мы уже выбрали сами по принципу соответствия основным.

Самым интересным моментом в сборке был выбор видеокарты. Когда стало понятно, что необходима видеокарта GTX 1080 Ti  мы предложили альтернативу в виде GTX 2080 по той простой причине, что 1080Ti новых в продаже уже не было. Но здесь проявились характерные особенности, о которых мы даже не подозревали. Оказывается, что для ускорения обучения нейросети применяются специальные фреймворки от nVidia. И эти фреймворки индивидуальны для каждого из чипов графического ускорителя. И потому фреймворк для 2080 не такой же что фреимворк для 1080. А заказчик, оказывается, уже начал обучать сформированную нейросеть именно на карте 1080Ti и соответствующем фреймворке. Поэтому переход на другую карту и фреймфорк означал бы необходимость глубоких изменений и начала обучения сети по новой. Поэтому карточку пришлось искать на вторичном рынке компьютерного аппаратного обеспечения – благо в Краснодаре затруднений с этим нет.

Видеокарту нашли на вторичном рынке - иначе сборка стала бы невозможной
Видеокарту нашли на вторичном рынке – иначе сборка стала бы невозможной

В самом заказе самым интересным была даже не сборка, а возможность пообщаться с заказчиком, который работает в новой области создания и обучения нейросетей. Пораспросили его на тему того, на каком же железе оптимально выполнять то самое ускорение обучения нейросетей. Оказалось, что самым ценным в этом занятии является даже не аппаратное обеспечение, а подкрепляющая его интеллектуальная собственность и наработки – те самые фреймворки. Оптимизированные, разумеется, под конкретное аппаратное обеспечение. Так вот выяснилось, что у компании nVidia в этой области практически нет конкурентов, т.к. именно она обладает самыми продвинутыми наработками в этой области – фреймворками. Компания AMD в эту сферу со слов заказчика даже не пытается пока соваться, а вот Intel предпринимает усилия к тому, чтобы догнать nVidia. Для этого Intel уже несколько лет  собирает команду из сильных математиков и программистов. Но пока до уровня nVidia в области ускорения машинного обучения далеко даже Intel. Потому и получается, что альтернативы карточкам nVidia (как аппаратной части решения задачи ускорения обучения) пока нет.

Про сам компьютер для ускорения обучения нейросети

С процессором и видеокартой определились. Нужно было определиться и с остальными комплектующими. А они просто должны были соответствовать. С учётом того, что сам системник работать будет 24/7/365 и приблизительно через 365 обучение нейросети будет завершено.

Корпус выбрали Zalman Z3 Plus c 4-мя вертушками – это обеспечит хороший продув корпуса.

Были опасения что огромный DeepCool RedHat не поместится в наш залман - но нет - всё получилось
Были опасения что огромный DeepCool RedHat не поместится в наш залман – но нет – всё получилось

Для охлаждения процессора выбрали огромный DeepCool RedHat – он позволит охладить не самый холодный AMD Ryzen 2700 и так же улучшит выдув теплого воздуха из корпуса “вообще”. Это важно т.к. нам необходимо было думать о нормальном охлаждении видеокарты.

Огромный DeepCool RedHat с 6-ю тепловыми трубками и идеальной полировкой поверхности. Размер вентилятора - аж 14 сантиметров
Огромный DeepCool RedHat с 6-ю тепловыми трубками и идеальной полировкой поверхности. Размер вентилятора – аж 14 сантиметров. Практика показала, что с охлаждением AMD Ryzen 2700 он справляется отлично. Максимальная температура под нагрузкой – 45 градусов. 

А её – карту – мы нашли только с 2-мя пропеллерами. Более продвинутые образцы на 3 пропеллера – раскупили. Так что заботиться о температуре видеокарты на горячем чипе нам пришлось через обеспечения хорошего притока забортного воздуха в корпус вообще.

Карточка на фото - это Zotac 1080Ti Mini. По качеству - это одна из топ карт на этом графическом чипе
Карточка на фото – это Zotac 1080Ti Mini. По качеству – это одна из топ карт на этом графическом чипе

Конечно приобрели материнскую плату с продвинутым питанием процессора, т.к. и процессор мощный и работать плата должна непрерывно. Блок питания особо мощный не брали – суммарное потребление нашего блока даже под нагрузкой и на процессор и на карту не превышает 450 Вт.

Asus TUF B450M-PRO Gaming - плата с хорошим питанием и по бюджету проходила хорошо
Asus TUF B450M-PRO Gaming – плата с хорошим питанием и по бюджету проходила хорошо
Asus TUF B450M-PRO Gaming - плата с хорошим питанием и по бюджету проходила хорошо
Asus TUF B450M-PRO Gaming – плата с хорошим питанием и по бюджету проходила хорошо

Хранение данных реализовано на связке SSD WD Green 480 и HDD WD Blue 1tb – ничего особенного. Сам заказчик блока отметил, что никаких особых требований к системе хранения данных нет. SSD под рабочий файл нейросети и HDD под резервирование того же файла.

Компьютер для ускорения обучения нейросетей – выводы

Для себя по крайней мере vs поняли, что задачу ускорения обучения нейросети на системном блоке сейчас и до появления через несколько лет возможных новинок от Intel решает видеокарта от nVidia. Под конкретный видеочип карты выбирается соответствующий фреймворк той же компании. Если сетку уже начали тренировать на определенной карте, значит уже осуществили привязку и оптимизацию к чипу карты и конкретному фреймворку. Сменить и то и другое в дальнейшем будет затратно – по времени и усилиям, а значит и средствам.

Хорошо что наш заказчик оказался экспертом в своей области и чётко знал чего хочет от собираемого системного блока. Нам оставалось только немного ему помочь. Что мы и сделали.

Компьютеры на заказ мы собираем регулярно и намереваемся делать это и дальше. Так что если и Вам необходима сборка компьютера на заказ в Краснодаре – обращайтесь в наш Компьютерный СЦ_ по тел +7(918)437-90-57 Евгений.

Обучение нейросети и ускорение обучения нейросети – это новая область применения компьютерной техники. Если есть что сказать по этой теме вообще и по материалу этой нашей статьи – пиши в комментарии !!!!

ОСТАВЬТЕ ОТВЕТ

Please enter your comment!
Please enter your name here