Сравнительный анализ производительности и экономической эффективности видеокарт при работе с множеством моделей BERT

Abstract

В работе проведён сравнительный анализ производительности и экономической эффективности графических ускорителей (GPU) различных архитектур и ценовых категорий при работе с большим количеством моделей BERT. Исследованы GPU серии RTX, A100, H100 и других, выявлены модели с наилучшим соотношением производительности к стоимости. Установлено, что наибольшая память и высокая стоимость GPU не всегда обеспечивают оптимальную экономическую эффективность. Полученные результаты позволят сделать обоснованный выбор видеокарт для задач обработки естественного языка. The paper provides a comparative analysis of the performance and costeffectiveness of graphics accelerators (GPUs) of various architectures and price categories when working with a large number of BERT models. GPUs of the RTX, A100, H100 and others series have been investigated, and models with the best performance-to-cost ratio have been identified. It has been found that the largest memory and the high cost of a GPU do not always provide optimal economic efficiency. The results obtained will make it possible to make an informed choice of video cards for natural language processing tasks.