Битва HiSilicon за пропускную способность вывода использует общие SoC

HiSilicon SoC обеспечивают превосходную производительность компьютерного зрения. Их выделенный NPU обеспечивает отличную пропускную способность иЭнергоэффективность. Эта специализированная аппаратная конструкция приводит к более низкому энергопотреблению и более высокой эффективности во время вывода. Эта производительность делает HiSilicon SoC лидером в сравнительной работе с компьютерным зрением.

С другой стороны, общий SoC предлагает другое преимущество. Этот тип SoC обеспечивает превосходную гибкость программного обеспечения. Его широкая поддержка с открытым исходным кодом является ключевой особенностью.

Эта гибкость имеет решающее значение для различных рабочих нагрузок. Общая производительность общего SoC поддерживает быструю разработку. Конкретный NPU в HiSilicon SoC, однако, максимизирует пропускную способность и энергоэффективность для вывода компьютерного зрения.

Ключевые выходы

• HiSilicon SoCsЕсть специальная часть, называемая NPU. Этот NPU помогает им очень быстро обрабатывать задачи компьютерного зрения и потреблять меньше энергии.
• Общие SoC являются более гибкими. Они хорошо работают для многих различных задач, потому что они имеют хорошую поддержку программного обеспечения.
• Бенчмаркинг помогает нам сравнивать SoC. Мы смотрим на то, сколько изображений они обрабатывают в секунду, как быстро они работают и сколько энергии они используют.
• HiSilicon SoC используют меньше энергии для работы, которую они делают. Это важно для устройств, которые работают от батареек.
• The Общая стоимость SoCВключает его цену и сколько работы требуется для настройки. HiSilicon SoC может сэкономить деньги в долгосрочной перспективе благодаря своей эффективности.

ИНФЕРЕНЦИЯ КОМПЬЮТЕРНОГО ВИДЕНИЯ BENCHMARKING

Бенчмаркинг компьютерного зрения предполагает специализированный подход. Он выходит за рамки простых тестов скорости для оценки целостных возможностей системы. Правильный бенчмарк дает четкое представление о реальной производительности и эффективности SoC. Этот процесс имеет важное значение для сравнения выделенногоHiSilicon SoCПротив общего SoC.

ОСНОВНЫЕ МЕТРИКИ ЭФФЕКТИВНОСТИ

Эффективный бенчмаркинг опирается на основной набор показателей эффективности. Эти показатели измеряют, насколько хорошо система справляется с задачами компьютерного зрения. Они предоставляют данные, необходимые для прямого сравнения.

• Пропускная способность (FPS): Кадров в секунду измеряет, сколько изображений SoC может обработать за одну секунду. Более высокая пропускная способность указывает на лучшую производительность для видеопотоков.
• Время вывода: Это задержка, или время, которое требуется для одного вывода. Меньшее время вывода имеет решающее значение для приложений реального времени.
• Потребляемая мощность: Измеряется в ваттах, это показывает мощность, потребляемая SoC во время непрерывного вывода. Низкое энергопотребление жизненно важно для устройств с батарейным питанием.

Важной комбинированной метрикой являетсяПроизводительность на ватт (FPS/Watt). Этот показатель напрямую связывает пропускную способность с потребляемой мощностью. Это показывает истинную энергоэффективность SoC, которая является ключевым фактором для краевых устройств, где производительность и мощность ограничены.

ТОЧНОСТЬ И РАЗЛИЧНОСТЬ

Бенчмаркинг ИИ значительно отличается от традиционного бенчмаркинга. Одной скорости будет недостаточно. Точность модели не менее важна. Быстрый вывод бесполезен, если результаты ошибочны. Для компьютерного зрения оценщики используют такие показатели, какСредняя точность (mAP)Для измерения точности прогнозирования модели. Это обеспечивает баланс между эффективностью и правильностью.

Производительность также может варьироваться. Та же модель ИИ часто показывает разную производительность на разных аппаратных средствах. Эта изменчивость исходит из нескольких факторов:

Стандартизированные тесты, такие какMLPerf Мобильный бенчмаркПомогают контролировать эти переменные. Мобильный тест MLPerf обеспечивает основу для справедливого бенчмаркинга. Мобильный тест MLPerf является ключевым инструментом для бенчмаркинга мобильного ИИ. Аналитики используют тест MLPerf Mobile для сравнения мобильных SoC. Мобильный тест MLPerf оценивает как производительность, так и точность вывода. Мобильный тест MLPerf является отраслевым стандартом. MLPerf Mobile тест гарантирует, что результаты сопоставимы. Для этого анализа необходим тест MLPerf Mobile. Мобильный тест MLPerf помогает количественно оценить эффективность компьютерного зрения. Мобильный тест MLPerf предоставляет надежные данные.

ЧЕРЕЗ И ПОСЛЕ

Пропускная способность и задержка являются наиболее важными показателями для оценки производительности вывода в реальном мире. Высокая пропускная способность означает, что SoC может обрабатывать больше данных, а низкая задержка обеспечивает быструю реакцию. АКонтрольный анализПоказывает четкое архитектурное разделение. HiSilicon SoC используют специализированное оборудование для максимальной производительности. Generic SoC полагаются на гибкие, но менее оптимизированные процессорные устройства. Эта разница напрямую влияет на их возможности компьютерного зрения.

ПРЕИМУЩЕСТВО HISILICON NPU

HiSilicon SoCsДостичь превосходной пропускной способности и низкой задержки с помощью специального блока нейронной обработки (NPU). Этот NPU не является процессором общего назначения. Это специализированное оборудование, разработанное специально для рабочих нагрузок AI. Такая конструкция дает HiSilicon SoC значительное преимущество в производительности при выводе компьютерного зрения.

Архитектура DaVinci является основой этого преимущества. Он включает в себя несколько ключевых функций, которые ускоряют операции ИИ:

• 3D куб двигателяЭтот движок отлично работает в умножении матриц, фундаментальной операции в нейронных сетях. Он может выполнять тысячи операций за тактовый цикл, значительно ускоряя вывод.
• Векторный блок: Этот компонент обрабатывает специализированные функции и различные типы данных, что повышает универсальность и эффективность NPU.
• Дизайн Мульти-ядра: Высокоуровневые HiSilicon SoC интегрируют несколько ядер NPU. Эти ядра работают параллельно, чтобы повысить общую пропускную способность для сложных задач.

Перемещение данных часто создает узкие места производительности. HiSilicon NPU сводит к минимуму эту проблему с помощью сложногоПамятьСистемы. Он оснащен памятью с чрезвычайно высокой пропускной способностью иМногоуровневый кэш, оптимизированный для ИИ. Эта архитектура обеспечивает быстрый прием данных ядрами NPU, сокращая время простоя и снижая задержку. Результатом является исключительная эффективность и производительность для вывода в реальном времени.

ОБЩАЯ ПРОИЗВОДИТЕЛЬНОСТЬ SOC

Общий SoC по-разному обрабатывает рабочие нагрузки AI. Обычно он использует свой мощный графический процессор (GPU) или улучшенный процессор вместо полностью выделенного NPU. В то время как современные графические процессоры, такие как Qualcomm Adreno и ARM Mali, обладают высокой производительностью, их архитектура предназначена для более широкого круга задач. Это отсутствие специализации приводит к снижению эффективности вывода ИИ по сравнению с выделенным NPU. Разработчики также сталкиваются с проблемами оптимизации моделей для различных архитектур GPU, что может повлиять на конечную производительность.

Контрольная информация для общих SoC иллюстрирует их характеристики производительности. Например, тесты на модели YOLOv5 показывают широкий диапазон показателей задержки в различных SoC Qualcomm Snapdragon.

В следующей таблице выделены задержки для нескольких мощных общих SoC.Меньшая задержка лучше, так как она обеспечивает более быстрый вывод.

Этот тест показывает, что высокопроизводительная универсальная SoC обеспечивает высокую производительность. Такие методы, как квантование (w8a16), еще больше снижают задержку и энергопотребление. Однако зависимость от графического процессора или менее специализированного NPU означает, что SoC расходует больше энергии и ресурсов, чем HiSilicon SoC с его специально построенным NPU. Общий SoC должен балансировать задачи ИИ с другими системными процессами, ограничивая его пиковую пропускную способность и эффективность для устойчивых рабочих нагрузок компьютерного зрения. Этот компромисс между гибкостью и необработанной мощностью определяет производительность универсального SoC.

АНАЛИЗ ЭФФЕКТИВНОСТИ МОЩНОСТИ

Помимо сырой скорости, энергоэффективность является критическим полем битвы для современных процессоров. SoC может обеспечить высокую пропускную способность, но его ценность уменьшается, если он потребляет чрезмерную мощность. Это особенно актуально для краевых устройств, которые часто полагаются на батареи или имеют строгие тепловые ограничения. Таким образом, метрика производительности на ватт становится конечной мерой превосходного дизайна SoC. Анализ этой метрики выявляет значительные архитектурные преимущества специализированного НПУ. Общая производительность любого SoC в значительной степени зависит от его энергоэффективности.

HISILICON'S FPS/WATT СВИНЦ

HiSilicon SoC последовательно демонстрируют лидерство по производительности на ватт. Эта превосходная эффективность не является случайностью; это прямой результат специально построенного NPU. Архитектура NPU выполняет нейронные сетевые операции с использованием специализированных схем, которые потребляют гораздо меньше энергии, чем процессоры общего назначения. Такая конструкция позволяет SoC достигать высокой пропускной способности вывода при сохранении низкого энергопотреблением.

Концепция производительности на ватт (FPS/Watt) является центральной для оценки истинной эффективности. Он количественно определяет, сколько производительности SoC обеспечивает на каждый ватт потребляемой мощности. Более высокое значение указывает на лучшую энергоэффективность, которая имеет важное значение для создания устойчивых и экономически эффективных решений ИИ.

Отраслевые стандартные оценки, такие как эталон MLPerf, используютСтрогая методология для обеспечения справедливых и точных измерений мощности. Этот процесс тестирования обеспечивает надежную основу для сравнения эффективности различных аппаратных средств. Ключевые аспекты этой методологии включают:

• Точное выравнивание: Измерения мощности точно синхронизируются с рабочей нагрузкой вывода AI.
• Устойчивое тестирование: Эталонный тест работает не менее 60 секунд для сбора потребляемой мощности при непрерывной нагрузке, отражая реальные условия.
• Единые метрики: Эталон рассчитывает эффективность в виде образцов на джоулей, обеспечивая стандартизированный способ оценки производительности на ватт.

Этот строгий эталонный подход подтверждает эффективность HiSilicon NPU. Специализированная конструкция сводит к минимуму потраченную впустую энергию, давая HiSilicon SoC решающее преимущество в чувствительных к энергопотреблению приложениях. NPU обрабатывает рабочую нагрузку ИИ, позволяя другим частям SoC оставаться в состояниях с низким энергопотреблением, что еще больше повышает общую эффективность.

ОБЩИЙ ДРАВ СИЛЫ SOC

Generic SoC применяет другой подход, который приводит к увеличению мощности для задач ИИ. Вместо узкоспециализированного NPU они обычно выгружают рабочие нагрузки вывода на свои интегрированные GPU или расширенные ядра процессора. Будучи мощными, эти компоненты не оптимизированы исключительно для математики нейронных сетей. Такое отсутствие специализации приводит к снижению энергоэффективности. Наем мощности краевого устройства может варьироваться отОт нескольких милливатт для простых датчиков до десятков ватт для сложных серверов на границе. Общий SoC в умной камере часто падает посередине, Создавая сложный баланс между производительностью и энергопотреблением.

Например, общий SoC, такой как Rockchip RK3588, который содержит способный NPU, по-прежнему демонстрирует значительное энергоувеличение под нагрузкой. Тестовые тесты на промышленной материнской плате с этим SoC показывают энергозависимость между8-12 Вт при длительной рабочей нагрузке с искусственным интеллектом.

Эти данные показывают респектабельный показатель FPS на ватт, но общее энергопотребление является значительным для встроенного устройства. Опора на менее специализированный NPU или графический процессор означает, что SoC тратит больше энергии для достижения своих целевых показателей производительности.Выгрузка задачи вывода с процессора на графический процессор может повысить скорость, но часто увеличивает общую энергоэффективность.. Это более высокая мощность создает еще одну серьезную проблему: тепло.

Устойчивое высокое энергонапряжение генерирует значительную тепловую мощность. Когда SoC становится слишком горячим, он включает тепловое регулирование, механизм самосохранения, который автоматически снижает тактовую частоту процессора. Это снижает производительность, предотвращая тепловое повреждение.Тяжелые задачи компьютерного зрения могут вызвать тепловое регулирование на общем SoC в течение нескольких секунд, снижая пропускную способность и делая производительность непоследовательной.. Это заставляет дизайнеров добавлять активные решения для охлаждения, такие как вентиляторы, что увеличивает размер устройства, стоимость и общую потребляемую мощность. Фундаментальный компромисс для универсального SoC очевиден: его гибкость происходит за счет более высокого энергопотребления и связанных с этим тепловых проблем.

ОБЩАЯ СТОИМОСТЬ ВЛАДЕНИЯ

Полный анализ затрат и эффективности выходит за рамки простого эталона. Он должен учитывать общую стоимость владения, которая включает как первоначальные затраты на оборудование, так и долгосрочные усилия по разработке.Окончательная стоимость продуктаСильно зависит от этих факторов. Недорогой SoC может стать дорогим, если он требует обширного проектирования. Эта оценка дает реалистичное представление об истинных инвестициях, необходимых для каждой платформы.

СТОИМОСТЬ UPFRONT ОБОРУДОВАНИЯ

Первоначальная стоимость оборудования является наиболее заметным расходом. АХизиликонSoC часто представляет привлекательную цену за свою высокую производительность. Однако стоимость платы разработки является более практичной отправной точкой для сравнения. Комплекты для разработки обеспечивают необходимую среду для прототипирования и тестирования. Цена на эти комплекты может существенно различаться.

Это сравнение показывает, что специализированная SoC может предложить более низкую стоимость входа для оборудования. Эта первоначальная экономия является важным фактором. Это позволяет командам начать разработку без больших первоначальных инвестиций. Более низкая стоимость оборудования положительно влияет на общую метрику затрат и производительности.

РАЗВИТИЕ И ИНТЕГРАЦИЯ

Разработка и интеграция сопряжены со значительными, зачастую скрытыми издержками. Именно здесь появляются расходы на неповторяющиеся инженерные (NRE).NRE-это единовременные затраты на проектирование, тестирование и подготовку нового продукта к производству.Сложная СЗ требует значительного бюджета на НИЭ.

Деятельность NRE охватывает весь этап подготовки к производству. Эти единовременные затраты необходимы для превращения концепции в готовый к рынку продукт со стабильной производительностью и низким энергопотреблением.

Ключевые задачи НРЭ включают:

• Первоначальный дизайн продукта и инжиниринг
• Разработка программного обеспечения и прошивки
• Создание и тестирование прототипа
• Нормативные сертификаты (например, FCC, CE)

Стоимость NRE для современного дизайна SoC может легко достичь 1 миллиона долларов. Эта высокая стоимость отражает сложность оптимизации программного обеспечения для конкретной архитектуры оборудования для достижения целевых показателей производительности и мощности. Общий SoC с широкой поддержкой открытого исходного кода может снизить эту стоимость NRE. Специализированный SoC может потребовать более целенаправленных инженерных усилий, влияющих на конечную стоимость. Тщательный бенчмарк помогает оправдать эти инвестиции, доказав мощность и эффективность системы.

---

Для приложений, критически важных для производительности, HiSilicon SoC являются явным победителем в бенчмаркинг компьютерного зрения вывода. Специализированное оборудование NPU обеспечивает превосходную пропускную способность и энергоэффективность. Эта конструкция NPU повышает производительность вывода и общую эффективность. Высокая пропускная способность NPU и низкое энергопотребление оправдывают затраты на разработку. Эффективность NPU снижает общую стоимость электроэнергии.

Руководство по принятию решений:

• HiSilicon SoC: Выберите этот SoC для максимальной пропускной способности и эффективности вывода компьютерного зрения. Отличная производительность NPU снижает стоимость электроэнергии. Производительность и эффективность NPU снижают эксплуатационные расходы.
• Универсальный SoC: Выберите эту SoC, когда гибкость программного обеспечения снижает стоимость разработки для задач компьютерного зрения. Этот SoC уравновешивает производительность и стоимость.

Часто задаваемые вопросы

В чем заключается главное преимущество HiSilicon SoC?

HiSilicon SoC содержат специальный блок нейронной обработки (NPU). Это специализированное оборудование обеспечивает превосходную пропускную способность и энергоэффективность для задач компьютерного зрения. Конструкция обеспечивает высокую производительность при минимальном потреблении энергии.

Почему бы кому-то вместо этого выбрать общий SoC?

Универсальная SoC обеспечивает отличную гибкость программного обеспечения. Широкая поддержка с открытым исходным кодом ускоряет разработку для различных проектов. Это делает его сильным выбором для приложений, которые не сосредоточены исключительно на выводах AI.

Что означает FPS/Watt для краевой системы?

FPS/Watt измеряет энергоэффективность SoC. Он показывает, сколько кадров процессор может обрабатывать для каждого ватта энергии, которую он использует. Более высокое значение указывает на лучшую эффективность, что имеет решающее значение для устройств с батарейным питанием.🔋

Работает ли общий графический процессор SoC для ИИ?

Да, общий графический процессор SoC может эффективно запускать модели AI. Тем не менее, GPU-это единица общего назначения. Обычно он потребляет больше энергии и обеспечивает более низкую эффективность для устойчивых рабочих нагрузок ИИ по сравнению со специализированным NPU.