Международный облачный провайдер ITGLOBAL.COM, входящий в корпорацию ITG, заявил, что TPU-ускорители SOPHGO SC7 HP75 могут служить эффективной альтернативой решениям NVIDIA для задач искусственного интеллекта и компьютерного зрения. В результате тестирования было установлено, что TPU-ускоритель обрабатывает 30-секундное видео на 20% быстрее, чем сервер на базе GPU, при сопоставимой точности распознавания объектов.
ITGLOBAL.COM провел комплексное тестирование, сравнив TPU-ускоритель SOPHGO SC7 HP75 с профилем vGPU 16GB на базе NVIDIA A16, используя модель YOLOv5s. TPU-ускоритель завершил обработку видео за 6,2 секунды, тогда как GPU-решению потребовалось 7,8 секунд. Показатели точности детекции объектов различались менее чем на 0,04%, что демонстрирует эффективность TPU в задачах инференса в реальном времени, особенно при работе с видеопотоками.
Дополнительные тесты с использованием аудиообработки на двух устройствах SOPHGO SC7 (с 6 TPU) показали высокие результаты. Система обработала 12 аудиофайлов продолжительностью 883 секунды каждый за 1 326 секунд, обеспечивая скорость 7,99 секунд на секунду реального времени, при среднем времени обработки одного запроса в 661 секунду.
«Результаты тестирования подтверждают, что TPU-ускорители SOPHGO могут служить эффективной альтернативой традиционным GPU-решениям, предлагая сопоставимую или более высокую производительность в специфических задачах ИИ при более низкой стоимости», — прокомментировал Евгений Свидерский, директор облачного бизнеса ITGLOBAL.COM. Эти результаты важны для компаний, которые стремятся оптимизировать затраты на ИИ-проекты, оставаясь при этом на высоких уровнях производительности.
TPU-ускоритель SC7 HP75 построен на 24-ядерном процессоре ARM Cortex-A53, что позволяет ему выполнять задачи глубокого обучения и анализа данных, особенно в области видеоаналитики. Руководство ITGLOBAL.COM подчеркивает, что такие технологии могут стать значимыми инструментами в современном бизнесе, где скорость обработки данных и эффективность играют ключевую роль.