Сохранение HiSilicon AI SoCs Прохладный Руководство по применению

Вам нужен систематический подход, чтобы сохранить ваш чип HiSilicon AI прохладным. Рынок систем искусственного интеллекта на чипе (SoC) настроен наПревысит $75 млрд к 2033 году, Что делает производительность чипа AI главным приоритетом. Тепловая конструкция вашего чипа AI является ключевым. Это руководство по тепловому дизайну поможет вам управлять чипом AI. Хороший дизайн обеспечивает стабильную производительность чипа AI. Вы должны учитывать корпус микросхемы, термоинтерфейс и радиатор. Этот процесс защищает ваши инвестиции в чип AI и гарантирует максимальную производительность чипа AI для любого приложения AI с вашим чипом AI.

Ключевые выходы

• Чипы ИИСтановится жарко, когда они усердно работают. Это тепло может замедлить их.
• Вам нужно выбрать правильные материалы, чтобы отогнуть тепло от чипа. Это включает в себя специальную пасту и металлический радиатор.
• Обязательно положитеОхлаждающие деталиНа правильно. Это помогает им работать наилучшим образом.
• Иногда вам нужен вентилятор, чтобы еще больше охладить чип. Вы можете управлять вентилятором для экономии энергии.
• Весь корпус компьютера требует хорошего воздушного потока. Это помогает всем частям оставаться прохладными.

ТЕПЛОВЫЙ ПРОБЛЕМ HISILICON

Вы должны пониматьТепловой вызовДля эффективного охлаждения вашего чипа HiSilicon AI. Невероятная сила современного ИИ имеет свою цену: тепло. Управление этим нагревом имеет решающее значение для стабильной производительности и долговечности вашего чипа. Это требует сосредоточения внимания на энергоэффективности и умном тепловом дизайне.

Мощность, производительность и тепло

Ваш чип AI использует электроэнергию для запуска сложных рабочих нагрузок AI. Это потребление энергии напрямую генерирует тепло. МодернПолупроводниковые достиженияПозволяет производителям чипов AI упаковыватьМиллиарды транзисторов на одном чипе.Эта высокая плотность увеличивает плотность мощности, что создает интенсивное тепло. Это тепло влияет на производительность чипа, энергопотребление и общую энергоэффективность. Плохое управление температурой может даже сократить срок службы чипа.Архитектура чипа AI сама по себе является фактором того, сколько энергии она использует. Ваша цель-поддерживать высокую производительность, не позволяя нагреву скомпрометировать систему. Этот баланс является ключевым для всех приложений ИИ, от вывода AI до обучения AI.

Влияние термического дросселирования

Когда ваш чип AI становится слишком горячим, он защищает себя с помощью процесса, называемого термическим дросселированием. Чип намеренно замедляет свою производительность, чтобы уменьшить тепловыделение. Это напрямую вредит производительности и энергоэффективности вашего приложения. Вы увидите падение ключевых данных о производительности и метрик расчета энергии. Для рабочих нагрузок ИИ, требующих высокой пропускной способности, влияние является значительным.

Пример падения производительности: Термическое регулирование может серьезно ограничить скорость вывода AI. Без надлежащего охлаждения ваш ускоритель ИИ может обрабатывать гораздо меньше кадров в секунду (FPS).

• Активное охлаждение может повысить пропускную способность более чем на 80% для некоторых задач.
• Для модели ResNet-18 улучшение может достигать 90%.

Это показывает, насколько важно охлаждение для получения полной производительности от вашего чипа AI во время вывода и обучения. Это напрямую влияет на производительность вычислений энергии.

Со-дизайн обломока-пакета термальный

Ведущие производители чипов AI уже обращены к теплу на самой ранней стадии. Это называется тепловой совместной конструкцией чип-пакета. Физический дизайн чипа AI и его упаковка разработаны вместе для лучшего отвода тепла. Эта оптимизация помогает управлять тепловой нагрузкой от требовательных AI-моделей и AI-обучения. Эта фундаментальная дизайнерская работа упрощает вашу работу. Это обеспечивает лучшую отправную точку для индивидуального решения охлаждения, которое вы создадите. Понимание этого совместного дизайна поможет вам сделать более разумный выбор для вашего AI-ускорителя, обеспечивая лучшую адаптацию AI-чипа и больших моделей, а также оптимизацию энергетических вычислений. Ваша стратегия охлаждения основана на этом первоначальном усилии для достижения максимальной производительности и эффективности для вывода и обучения AI.

ПРАКТИЧЕСКОЕ РУКОВОДСТВО ПО ТЕПЛОМУ ДИЗАЙНУ

Теперь, когда вы понимаете тепловую проблему, вы можете сосредоточиться на решении. Ваша цель-создать эффективный путь для тепла, чтобы путешествовать от HiSiliconЧип ИИ. Это практическое руководство по тепловому дизайну проведет вас через три важных компонента вашей стратегии пассивного охлаждения: материал теплового интерфейса (TIM), радиатор и монтажный механизм. Успешный дизайн здесь имеет основополагающее значение для управления энергией ИИ.

Выбор материала теплового интерфейса

Материал теплового интерфейса (TIM) является критическим, часто упускаемым из виду компонентом. Он заполняет микроскопические воздушные зазоры между поверхностью чипа AI и радиатором. Воздух является плохим проводником тепла, поэтому этот материал создает мост для эффективной передачи тепловой энергии. Вы должны выбрать ТИМ, основываясь не только на его рекламируемой теплопроводности (Вт/мК).

Рассмотрим эти ключевые параметры для вашего приложения AI:

• Температура интерфейса:Ожидаемая рабочая температура вашего чипа AI.
• Контактное давление:Усилие, прилагаемое монтажным оборудованием.
• Шероховатость поверхности:Текстура поверхности чипа и радиатора.
• ИнтерфейсТепловое сопротивление(ITR):Сопротивление в реальном мире, которое обеспечивает ТИМ.

Вы можете выбрать один из нескольких типов TIMA.Эта таблица поможет вам сравнить общие варианты для вашего чипа.

Совет Pro: тест на надежность Ваша тепловая конструкция должна быть надежной в течение всего срока службы продукта. Профессионалы тестируют TIMs, используя отраслевые стандарты, чтобы убедиться, что они выдерживаютПовторяющиеся колебания температуры. Это предотвращает деградацию, которая может повредить ваш чип AI позже.

• Стандарт теста:JESD22-A104C
• Условия испытаний: От-55 ° C до 125 ° C, 1000 циклов
• Цель: Чтобы подтвердить, что ТИМ устойчив к механическим воздействиям от теплового расширения и сжатия.

Размеры вашего радиатора

Ваш радиатор является основным компонентом для рассеивания тепла в окружающий воздух. Правильное его отображение имеет важное значение для здоровья вашего ИИ-чипа. Вы должны рассчитать максимальное тепловое сопротивление, которое может иметь ваш радиатор, чтобы поддерживать микросхему ниже максимальной температуры перехода (Tj,max).

Вы можете рассчитать требуемое тепловое сопротивление радиатора (R_hs), используя простую формулу.Это основная часть любого руководства по тепловому дизайну.

R_hs = (Tj,max - Tamb) / P ) - R_jc - R_tim

Где:

• R_HS: Требуемое тепловое сопротивление радиатора (° C/Вт). Это то, что вам нужно найти.
• Tj, макс: Максимальная рабочая температура чипа AI (из спецификации).
• Тамбе: Максимальная ожидаемая температура окружающего (окружающего) воздуха.
• П: Мощность, рассеиваемая чипом в виде тепла (TDP в ваттах).
• R_JC: Тепловое сопротивление от соединения чипа до корпуса.
• Р_тим: Тепловое сопротивление выбранного вами ТИМа.

Как только вы рассчитаете необходимыйR_HS, Вы можете выбрать радиатор от производителя, который соответствует или превосходит (имеет меньшее значение, чем) это число.

У вас также есть выбор материала радиатора и дизайна ребров.

• Материал:Алюминий легкий и экономичный. Медь обеспечивает превосходную теплопроводность, но тяжелее и дороже. Вы должны сбалансировать производительность, вес и стоимость для вашего конкретного устройства ИИ.
• Тип реза:Форма ребер влияет на воздушный поток и эффективность охлаждения. Современный дизайн плавник любитПерфорированные или конические штыревые ребраМожет увеличить теплопередачу и уменьшить падение давления воздуха. Это повышает энергоэффективность вашей конструкции охлаждения для чипа AI.

Обеспечение правильного монтажа

Идеальный ТИМ и радиатор бесполезны без правильного монтажа. Цель состоит в том, чтобы приложить твердое, равномерное давление по всей поверхности чипа AI. Это минимизирует толщину TIM и обеспечивает минимально возможное тепловое сопротивление. Неправильный монтаж может создать зазоры или даже повредить микросхему.

Выполните следующие действия для безопасной и эффективной установки:

1. Очистите поверхности:Вы должны очистить верхнюю часть чипа AI и основание радиатора соответствующим растворителем, таким как изопропиловый спирт. Это удаляет любые масла, пыль или остатки.
2. Примените ТИМ:При использовании термопасты нанесите небольшое количество размером с горошину на центр чипа. При использовании термопрокладки осторожно снимите защитные пленки и поместите их на чип.
3. Расположите радиатор:Аккуратно поместите радиатор прямо поверх чипа. Избегайте скручивания или скольжения, так как это может создать пузырьки воздуха в пасте.
4. Затяните винты:Закрепите монтажное оборудование. Всегда затягивайте винты в виде звездочек или перекрещивающихся винтов, поворачивая каждый по чуть-чуть за раз. Это равномерно распределяет давление и предотвращает наклон или растрескивание стружки.

⚠️ ВНИМАНИЕ:Не затягивайте винты слишком сильно. Чрезмерное давление может повредить тонкий кремниевый чип AI. Следуйте спецификациям крутящего момента, предоставленным производителем радиатора или системы, чтобы достичь оптимального контактного давления для вашей энергоэффективной конструкции.

АКТИВНОЕ ОХЛАЖДЕНИЕ

Ваша конструкция пассивного охлаждения обеспечивает отличную основу. Иногда, интенсивная сила вашего HiSiliconЧип ИИТребует больше. Вы должны добавить активное охлаждение, когда радиатор в одиночку не может справиться с тепловой нагрузкой. Этот шаг имеет решающее значение для раскрытия полного потенциала вашего чипа ИИ и управления его энергопотреблением.

Когда добавлять фанатов

Вы должны добавить вентилятор, когда рассеиваемая мощность вашего чипа AI превышает то, что может управлять пассивное решение,Обычно выше 15 Вт. Активное решение обеспечивает превосходную теплоемкость, что очень важно для высокопроизводительного чипа AI. Это решение предполагает компромиссы между производительностью, мощностью и сложностью. Ваш выбор влияет на общий энергетический профиль системы.

В этой таблице сравниваются два подхода для вашего чипа AI.

Выбор и размещение вентиляторов

Выбор правильного вентилятора для вашего чипа AI имеет решающее значение. Вы должны учитывать два ключевых показателя: воздушный поток и статическое давление. Ваша цель-эффективно перемещать воздух через ребра радиатора, что требует понимания сопротивления в вашей системе. Этот выбор напрямую влияет на необходимую энергию охлаждения.

Для плотного радиатора AI вам понадобится вентилятор с высоким статическим давлением. Конструкция лопастей вентилятора также имеет значение. Лезвия с более крутой кривой создают большее давление, чтобы проталкивать воздух через сопротивление, гарантируя, что ваш чип AI остается прохладным. Правильное размещение направляет воздушный поток через радиатор, максимизируя теплопередачу и повышая энергоэффективность для всей системы ИИ.

ШИМ для динамического управления вентилятором

Вы можете сделать свою систему охлаждения умнее и энергоэффективнее с помощью широтно-импульсной модуляции (ШИМ).4-проводной вентилятор PWM позволяет точно контролировать его скорость в зависимости от температуры чипа AI. Вместо того, чтобы просто включать или выключать вентилятор, сигнал ШИМ регулирует скорость двигателя. Этот метод является бесшумным, обеспечивает более широкий диапазон управления и снижает общее потребление энергии.

Вы можете реализовать это, создав кривую скорости вентилятора. Это алгоритм, который связывает температуру чипа AI с определенной скоростью вращения вентилятора.

Пример кривой веера: Вы можете настроить вентилятор на тихую и низкую скорость для обычных задач. Затем вентилятор агрессивно нарастает только тогда, когда чип AI находится под большой нагрузкой AI.

Температура (°C)	Скорость вентилятора (%)
0 - 60	50%
65	75%
70	100%

Такой подход экономит энергию и снижает шум, обеспечивая охлаждение только тогда, когда ваш чип ИИ действительно нуждается в этом.

ВНЕ СОВЕТА: СИСТЕМА-УРОВЕНЬ ОХЛАЖДЕНИЯ AI

Ваша стратегия охлаждения выходит за рамки самого чипа. Вы должны рассмотреть всю систему для достиженияМаксимальная производительностьИ энергоэффективность. Хорошо продуманный корпус и тщательное тестирование гарантируют, что ваш чип HiSilicon AI надежно работает при требовательных рабочих нагрузках AI. Это представление на уровне системы имеет жизненно важное значение для долгосрочного успеха вашего дизайна ИИ.

Конструкция корпуса для воздушного потока

Корпус вашего устройства является активной частью теплового решения. Вы можете использовать его дизайн для создания естественного воздушного потока, явления, известного какЭффект дымохода. Этот процесс использует различия в плотности воздуха для перемещения тепла. Вы можете повысить энергоэффективность своей системы с помощью интеллектуального размещения.

• Поместите вентиляционные отверстия холодного воздуха на корпус низко.
• Расположите вентиляционные отверстия теплого воздуха высоко над корпусом.
• Совместите чип AI и ребра радиатора с этим путем воздушного потока..
• Дайте горячим компонентам, таким как чип AI, пространство для дыхания, особенно вблизи путей воздушного потока..

Эта стратегическая планировка предотвращает нагревание. Это помогает вашему ускорителю AI управлять использованием энергии для любой задачи вывода AI. Правильное размещение компонентов является ключом к термической оптимизации и общей производительности.

Стратегии охлаждения на уровне объекта

Когда вы масштабаетесь до центра обработки данных, эти принципы охлаждения развиваются. Рабочие нагрузки с искусственным интеллектом высокой плотности для обучения и вывода генерируют огромное тепло. Охлаждение воздуха само по себе часто не может обеспечить достаточную энергоэффективность. Более широкая экосистема ИИ движется к передовым решениям для этих рабочих нагрузок центров обработки данных.

Охлаждение следующего поколения:Для крупномасштабного обучения ИИ вы можете столкнуться с передовыми методами.

• Прямое охлаждение на чип:Этот метод используетМикроканальные или микроконвективные пластиныПоднести жидкую охлаждающую жидкость прямо на чип AI,Точное наведение горячих точек.
• Охлаждение погружением:Этот метод погружает целые серверы в непроводящую жидкость, обеспечивая максимальную теплопередачу для самых интенсивных моделей ИИ.

Эти стратегии имеют решающее значение для будущегоЧип ИИИ адаптацию большой модели, гарантируя, что центр обработки данных может обрабатывать выводы ИИ следующего поколения и потребности в энергии для обучения.

Стресс тестирование и валидация

Вы должны подтвердить свой полный тепловой дизайн. Этот последний шаг подтверждает, что ваша система может обрабатывать реальные рабочие нагрузки с искусственным интеллектом без термического дросселирования. Вам нужно раздвинуть свой чип AI до предела, чтобы собрать точные данные о производительности.

Запускайте интенсивные модели ИИ для имитации пикового использования как для обучения ИИ, так и для вывода ИИ. Внимательнее следите за температурой и производительностью чипа. Ваша цель-обеспечить, чтобы чип AI поддерживал свою целевую производительность без перегрева. Эта проверка обеспечивает уверенность в энергоэффективности и надежности вашего дизайна. Успешное тестирование подтверждает ваши усилия по оптимизации чипа AI и адаптации большой модели, гарантируя бесперебойную работу службы вывода модели AI. Это окончательное доказательство эффективности и производительности вашей системы для любого вывода AI или учебной задачи.

---

Ваш успех с любым чипом AI зависит от эффективного охлаждения. Вы можете использовать этот окончательный контрольный список из нашего руководства по тепловому проектированию для своего чипа AI. Следуя этим шагам, ваш чип ai будет работать оптимально. Отличный дизайн защищает ваш чип AI.

1. Определите тепловую нагрузку вашего чипа ai.
2. Выберите правильный TIM для вашего чипа ai.
3. Размер радиатора для вашего чипа ai.
4. Правильно установите охлаждающий раствор на микросхему ai.
5. Добавьте вентилятор, если этого требует ваш чип ai.
6. Протестируйте свою полную систему ai с помощью чипа ai.

Часто задаваемые вопросы

Каков первый шаг в охлаждении моего чипа AI?

Вы должны сначала понять свой чип AIПотребление энергии. Это поможет вам спланировать охлаждение для задач вывода AI. Этот шаг имеет жизненно важное значение для управления энергией и производительности вывода AI. Энергия вашей системы AI очень важна.

Всегда ли достаточно пассивного охлаждения для вывода ИИ?

Это зависит от вашего чипа AI. Для вывода AI с низким энергопотреблением может не потребоваться вентилятор. Мощные AI-задачи требуют активного охлаждения для лучшего использования энергии. Профиль энергии вашей системы AI является ключевым фактором для вывода AI. Это влияет на энергию ай.

Почему материал термораздела (ТИМ) так важен?

Хороший TIM обеспечивает перемещение тепла от вашего AI-чипа к радиатору. Эта простая деталь сильно влияет на охлаждение вашей AI-системы. Это важно для энергии вывода ai и производительности ai. Это-ключевая тема AI.

Как охлаждение влияет на скорость вывода моей модели ИИ?

Правильное охлаждение предотвращает термическое регулирование. Ваш чип ai поддерживает пиковую скорость для вывода ai. Это повышает производительность и энергоэффективность вашей модели AI. Хорошее охлаждение-ключ к любой услуге AI-вывода. Это является основной концепцией AI.

Что является главной целью охлаждения ИИ?

Основная цель-сбалансировать производительность AI иИспользование энергии. Вы хотите, чтобы ваш чип AI быстро бегал без перегрева. Это обеспечивает надежный вывод AI и управляет общей энергией системы. Это является основой управления энергией AI.