HiSilicon AI SoCをクールに保つハウツーガイド

HiSilicon AIチップをクールに保つには、体系的なアプローチが必要です。AIシステムオンチップ (SoC) 市場は2033年までに750億ドルを超える、AIチップのパフォーマンスを最優先事項にします。AIチップの熱設計が重要です。このサーマルデザインガイドは、AIチップの管理に役立ちます。優れた設計により、AIチップのパフォーマンスが持続します。チップパッケージ、サーマルインターフェイス、ヒートシンクを考慮する必要があります。このプロセスは、AIチップの投資を保護し、AIチップを搭載したAIアプリケーションのピークAIチップパフォーマンスを保証します。

重要なポイント

• AIチップ彼らが一生懸命働くとき熱くなる。この熱はそれらを遅くすることができます。
• 熱をチップから遠ざけるには、適切な材料を選ぶ必要があります。これには特殊なペーストと金属製のヒートシンクが含まれます。
• 置くことを確かめて下さい冷却部品正しくオン。これは彼らが最善を尽くすのを助けます。
• 時々、あなたはチップをさらに冷やすのを助けるためにファンを必要とします。ファンを制御してエネルギーを節約できます。
• コンピュータケース全体には良好な気流が必要です。これはすべての部品が冷たくとどまるのを助けます。

歴史的なTHERMALチャレンジ

あなたは理解しなければなりません熱チャレンジHiSilicon AIチップを効果的に冷却します。現代のAIの信じられないほどの力にはコストがかかります: 熱。この熱を管理することは、チップの持続的な性能と寿命のために重要です。これには、エネルギー効率とスマートな熱設計に重点を置く必要があります。

パワー、パフォーマンス、ヒート

AIチップは、電力を使用して複雑なAIワークロードを実行します。このエネルギー消費は直接熱を発生させる。モダン半導体の進歩Aiチップメーカーがパックできるようにする1つのチップに数十億のトランジスタを参照してください。この高密度は出力密度を増加させ、激しい熱を発生させる。この熱は、チップの性能、電力使用量、および全体的なエネルギー効率に影響を与えます。不十分な熱管理は、チップの寿命を短くすることさえできます。Aiチップアーキテクチャ自体は、使用するエネルギー量の要因です。あなたの目標は、熱がシステムを損なうことなく高性能を維持することです。このバランスは、ai推論からaiトレーニングまで、すべてのAIアプリケーションにとって重要です。

熱スロットルの影響

AIチップが熱くなりすぎると、サーマルスロットリングと呼ばれるプロセスを使用して自分自身を保護します。チップは意図的にパフォーマンスを遅くして、発熱を減らします。これにより、アプリケーションの出力とエネルギー効率が直接低下します。主要なパフォーマンスデータとエネルギー計算メトリックが低下します。高いスループットを必要とするAIワークロードの場合、その影響は大きくなります。

パフォーマンスドロップの例: 熱スロットルは、AI推論の速度を大幅に制限する可能性があります。適切な冷却がなければ、AIアクセラレータは1秒あたりのフレーム数 (FPS) をはるかに少なく処理する可能性があります。

• アクティブな冷却は、一部のタスクでスループットを80% 以上向上させることができます。
• ResNet-18モデルの場合、改善は90% に達する可能性があります。

これは、推論とトレーニング中にAIチップから完全なパフォーマンスを得るための重要な冷却がいかに重要であるかを示しています。エネルギー計算のパフォーマンスに直接影響します。

チップパッケージ熱共同設計

大手のaiチップメーカーは、すでに早い段階で熱に取り組んでいます。これは、チップパッケージ熱共同設計と呼ばれます。AIチップとそのパッケージの物理的設計は、より良い熱放散のために一緒に開発されています。この最適化は、要求の厳しいaiモデルとaiトレーニングによる熱負荷の管理に役立ちます。この基本的な設計作業により、仕事が簡単になります。それはあなたが構築するカスタム冷却ソリューションのためのより良い出発点を提供します。この共同設計を理解することで、aiアクセラレータをよりスマートに選択できるようになり、aiチップと大型モデルの適応とエネルギー計算の最適化が確実になります。冷却戦略は、ai推論とトレーニングのピークパフォーマンスと効率を達成するためのこの最初の取り組みに基づいています。

実用的なTHERMALデザインガイド

熱的な課題が理解されたら、ソリューションに集中できるようになりました。あなたの目標は、熱がHiSiliconから離れて移動するための効率的な経路を作成することですAIチップを参照してください。この実用的なサーマルデザインガイドでは、パッシブ冷却戦略の3つの重要なコンポーネントであるサーマルインターフェイス材料 (TIM) 、ヒートシンク、および取り付けメカニズムについて説明します。ここで成功した設計は、AIエネルギー管理の基本です。

熱インターフェイス材料の選択

熱インターフェース材料 (TIM) は、重要な、見過ごされがちなコンポーネントです。AIチップの表面とヒートシンクの間の微視的なエアギャップを埋めます。空気は熱伝導性が低いため、この材料は熱エネルギーが効率的に通過するためのブリッジを作成します。宣伝されている熱伝導率 (W/mK) 以上のものに基づいてTIMを選択する必要があります。

AIアプリケーションのこれらの重要なパラメータを考慮してください。

• インターフェイスの温度:あなたのAIチップの期待される動作温度。
• 接触圧力:取り付けハードウェアによって加えられる力。
• 表面の粗さ:チップとヒートシンクの両方の表面のテクスチャ。
• インターフェイス熱抵抗(ITR):TIMが提供する現実世界の抵抗。

いくつかのタイプのTIMsから選択できます。この表は、チップの一般的なオプションを比較するのに役立ちます。

プロのヒント: 信頼性のテスト あなたの熱設計は製品の寿命にわたって信頼できるものでなければなりません。専門家は業界標準を使用してTIMsをテストし、耐えられることを確認します繰り返される温度変動を参照してください。これにより、後でAIチップに害を及ぼす可能性のある劣化を防ぎます。

• 標準テスト:JESD22-A104C
• テスト条件: -55 ℃ 〜125 ℃ 、1000サイクル
• 目的: TIMが熱膨張と収縮による機械的ストレスに抵抗することを確認します。

ヒートシンクのサイジング

あなたのヒートシンクは、周囲の空気に熱を放散するための主要なコンポーネントです。正しくサイジングすることは、AIチップの健康に不可欠です。チップを最大接合部温度 (Tj、max) 未満に保つために、ヒートシンクが必要とする最大熱抵抗を計算する必要があります。

簡単な式を使用して、必要なヒートシンク熱抵抗 (R_hs) を計算できます。これは、あらゆる熱設計ガイドの中核部分です。

R_hs = ( (Tj,max - Tamb) / P ) - R_jc - R_tim

どこで:

• R_hs: 必要なヒートシンクの熱抵抗 (°C/W)。これはあなたが見つける必要があるものです。
• Tj、max: AIチップの最大動作温度 (データシートから)。
• タムブ: 予想される最大周囲 (周囲) 気温。
• P: チップによって熱として放散された電力 (ワットのTDP)。
• R_jc: チップ接合からケースまでの熱抵抗。
• R_tim: 選択したTIMの熱抵抗。

必要なものを計算したらR_hs、あなたはこの数を満たすか打つ (より低い値を持つ) メーカーからヒートシンクを選択することができます。

ヒートシンクの素材とフィンのデザインにも選択肢があります。

• 素材:アルミニウムは軽量で費用効果が高いです。銅は優れた熱伝導率を提供しますが、より重く、より高価です。特定のAIデバイスのパフォーマンス、重量、コストのバランスを取る必要があります。
• フィンタイプ:フィンの形状は、気流および冷却効率に影響を与える。モダンなフィンのようなデザイン穴あきまたはテーパーピンフィン熱伝達を高め、空気圧の低下を減らすことができます。これにより、AIチップの冷却設計のエネルギー効率が向上します。

適切な取り付けを確保する

完璧なTIMとヒートシンクは、正しい取り付けがなければ役に立たない。目標は、AIチップの表面全体にしっかりとした圧力をかけることです。これは、TIMの厚さを最小化し、可能な限り低い熱抵抗を保証する。不適切な取り付けは、ギャップを作成したり、チップを損傷したりする可能性があります。

安全で効果的なインストールのために、次の手順に従います。

1. 表面をきれいにして下さい:イソプロピルアルコールのような適切な溶剤で、AIチップの上部とヒートシンクのベースを掃除する必要があります。これにより、油、ほこり、または残留物が除去されます。
2. TIMを適用する:サーマルペーストを使用する場合は、チップの中心に小さなエンドウ豆サイズの量を塗ります。サーマルパッドを使用する場合は、保護フィルムを慎重に取り外してチップ上に置きます。
3. ヒートシンクの位置:ヒートシンクをチップの上に直接そっと置きます。ペーストに気泡が発生する可能性があるため、ねじったりスライドさせたりしないでください。
4. ねじを締めて下さい:取り付けハードウェアを固定します。常にネジを星型または十字形のパターンで締め、一度に少しずつ回します。これにより圧力が均等に分散され、チップが傾いたり割れたりするのを防ぎます。

⚠️ 注意:ネジを締めすぎないでください。過度の圧力は、繊細なシリコンAIチップを損傷する可能性があります。ヒートシンクまたはシステムメーカーが提供するトルク仕様に従って、エネルギー効率の高い設計に最適な接触圧力を実現します。

アクティブな冷却操作

あなたのパッシブ冷却デザインは素晴らしい基礎を提供します。時々、あなたのHiSiliconの強い力AIチップより多くを要求します。ヒートシンクだけでは熱負荷を処理できない場合は、アクティブ冷却を追加する必要があります。このステップは、AIチップの可能性を最大限に引き出し、そのエネルギー消費を管理するために重要です。

ファンを追加するとき

AIチップの電力消費がパッシブソリューションで管理できる量を超えた場合は、ファンを追加する必要があります。通常15W以上を参照してください。アクティブソリューションは、高性能AIチップに不可欠な優れた熱容量を提供します。この決定には、パフォーマンス、パワー、および複雑さの間のトレードオフが含まれます。あなたの選択は、システムの総エネルギープロファイルに影響を与えます。

この表では、AIチップの2つのアプローチを比較します。

ファンの選択と配置

AIチップに適したファンを選択することが重要です。気流と静圧という2つの重要な指標を考慮する必要があります。あなたの目標は、あなたのシステムの抵抗を理解する必要があるヒートシンクフィンを通して効果的に空気を動かすことです。この選択は、必要とされる冷却エネルギーに直接影響する。

高密度のAIヒートシンクには、静圧の高いファンが必要です。ファンブレードのデザインも重要です。カーブが急なブレードは、空気を抵抗に押し込むための圧力を発生させ、AIチップを涼しく保ちます。適切な配置により、ヒートシンク全体に気流が誘導され、熱伝達が最大化され、AIシステム全体のエネルギー効率が向上します。

ダイナミックファン制御用PWM

パルス幅変調 (PWM) を使用すると、冷却システムをよりスマートでエネルギー効率の高いものにすることができます。4線式PWMファンを使用すると、AIチップの温度に基づいて速度を正確に制御できます。ファンをオンまたはオフにするだけでなく、PWM信号がモーターの速度を調整します。この方法は静かで、より広い制御範囲を提供し、全体的なエネルギー使用量を減らします。

これは、ファン速度曲線を作成することで実装できます。これは、AIチップの温度を特定のファン速度にリンクするアルゴリズムです。

ファンカーブの例: 通常のタスクでは、ファンを静かで低速で実行するように設定できます。その後、AIチップがAIの作業負荷が大きい場合にのみ、ファンが積極的に増加します。

温度 (℃)	ファンの速度 (%)
0 - 60	50%
65	75%
70	100%

このアプローチは、エネルギーを節約し、ノイズを減らし、AIチップが本当に必要なときにのみ冷却を提供します。

ボードを超えて: システムレベルのAI冷却

あなたの冷却戦略はチップ自体を超えています。達成するためにシステム全体を考慮する必要がありますピークパフォーマンスそしてエネルギー効率。適切に設計されたエンクロージャーと厳格なテストにより、HiSilicon AIチップは要求の厳しいAIワークロードの下で確実に動作します。このシステムレベルのビューは、AI設計の長期的な成功に不可欠です。

気流のためのエンクロージャデザイン

お使いのデバイスのエンクロージャは、熱溶液のアクティブな部分です。自然な気流、として知られている現象を作成するためにその設計を使用できます煙突効果を参照してください。このプロセスは、空気密度差を使用して熱を移動させます。スマートな配置でシステムのエネルギー効率を向上させることができます。

• エンクロージャーの低い位置に冷たい吸気口を置きます。
• エンクロージャーの高い位置に暖かい排気口を配置します。
• AIチップとヒートシンクフィンをこの気流経路に合わせますを参照してください。
• AIチップのようなホットコンポーネントに、特に気流経路の近くで呼吸するスペースを与えますを参照してください。

この戦略的なレイアウトは、熱が蓄積するのを防ぎます。AIアクセラレータがAI推論タスクのエネルギー使用量を管理するのに役立ちます。適切なコンポーネントの配置は、熱最適化と全体的なパフォーマンスの鍵です。

施設レベルの冷却戦略

データセンターにスケールアップすると、これらの冷却原理が進化します。トレーニングと推論のための高密度AIワークロードは、莫大な熱を発生させます。空冷だけでは、しばしば十分なエネルギー効率を提供できない。より広範なAIエコシステムは、これらのデータセンターのワークロードに対する高度なソリューションに向かっています。

次世代冷却:大規模なAIトレーニングでは、高度な方法に遭遇する可能性があります。

• チップに直接冷却:このメソッドは、マイクロチャネルまたはマイクロ対流プレート液体クーラントをAIチップに直接持ち込むには、正確にホットスポットをターゲットにするを参照してください。
• 浸冻冷却:この手法は、サーバー全体を非導電性流体に沈め、最も強力なAIモデルに最大の熱伝達を提供します。

これらの戦略は未来のために重要ですAIチップ大規模なモデルの適応により、データセンターが次世代のAI推論とトレーニングのエネルギー需要を確実に処理できます。

ストレステストと検証

完全なサーマルデザインを検証する必要があります。この最後のステップでは、システムが熱調整なしで実際のAIワークロードを処理できることを確認します。正確なパフォーマンスデータを収集するには、AIチップを限界までプッシュする必要があります。

集中的なAIモデルを実行して、AIトレーニングとAI推論の両方のピーク使用量をシミュレートします。チップの温度と性能を注意深く監視します。あなたの目標は、AIチップが過熱することなくターゲットパフォーマンスを確実に維持することです。この検証により、設計のエネルギー効率と信頼性に自信があります。テストの成功により、AIチップの最適化と大規模モデルの適応が確認され、AIモデル推論サービスがスムーズに実行されるようになります。これは、AI推論またはトレーニングタスクに対するシステムの効率とパフォーマンスの究極の証拠です。

---

任意のaiチップでの成功は、効果的な冷却に依存します。この最終チェックリストは、aiチップのサーマルデザインガイドから使用できます。これらの手順に従うことで、aiチップのパフォーマンスが最適になります。素晴らしいデザインはあなたのaiチップを保護します。

1. Aiチップの熱負荷を定義します。
2. Aiチップの正しいTIMを選択します。
3. あなたのaiチップのヒートシンクのサイズ。
4. 冷却ソリューションをaiチップに正しくマウントします。
5. Aiチップが必要な場合は、ファンを追加します。
6. Aiチップであなたの完全なaiシステムをテストします。

よくある質問

AIチップを冷却する最初のステップは何ですか?

最初にあなたのaiチップを理解する必要がありますパワー使用量を参照してください。これは、ai推論タスクの冷却を計画するのに役立ちます。このステップは、aiエネルギー管理とai推論パフォーマンスに不可欠です。あなたのaiシステムのエネルギーは重要です。

パッシブ冷却は常にAI推論に十分ですか?

それはあなたのaiチップに依存します。低電力ai推論はファンを必要としないかもしれません。高出力のaiタスクでは、エネルギー使用を改善するためにアクティブな冷却が必要です。あなたのaiシステムのエネルギープロファイルは、ai推論の重要な要素です。これはaiエネルギーに影響します。

なぜ熱インターフェース材料 (TIM) がそれほど重要なのですか?

優れたTIMにより、aiチップからヒートシンクへの熱の移動が保証されます。このシンプルな部分は、aiシステムの冷却に大きな影響を与えます。Ai推論エネルギーとaiパフォーマンスには不可欠です。これは重要なaiトピックです。

冷却はAIモデルの推論速度にどのように影響しますか?

適切な冷却は熱スロットルを防ぎます。お客様のaiチップは、ai推論のピーク速度を維持します。これにより、aiモデルの出力とエネルギー効率が向上します。よい冷却はあらゆるaiの推論サービスのためのキーです。これはコアaiの概念です。

AI冷却の主な目的は何ですか?

主な目的はaiの性能のバランスをとることですエネルギー使用を参照してください。あなたはあなたのaiチップが过热することなく速く走ることを望みます。これにより、信頼性の高いai推論が保証され、システム全体のエネルギーが管理されます。これはaiエネルギー管理の中核です。