Abstract:
В работе проведён сравнительный анализ производительности и
экономической эффективности графических ускорителей (GPU) различных архитектур и
ценовых категорий при работе с большим количеством моделей BERT. Исследованы GPU
серии RTX, A100, H100 и других, выявлены модели с наилучшим соотношением
производительности к стоимости. Установлено, что наибольшая память и высокая стоимость
GPU не всегда обеспечивают оптимальную экономическую эффективность. Полученные
результаты позволят сделать обоснованный выбор видеокарт для задач обработки
естественного языка.
The paper provides a comparative analysis of the performance and costeffectiveness of graphics accelerators (GPUs) of various architectures and price categories when
working with a large number of BERT models. GPUs of the RTX, A100, H100 and others series
have been investigated, and models with the best performance-to-cost ratio have been identified. It
has been found that the largest memory and the high cost of a GPU do not always provide optimal
economic efficiency. The results obtained will make it possible to make an informed choice of
video cards for natural language processing tasks.
