Kao Data社とケイデンス

Kao Data社、デジタルツインを使ったシミュレーションで複雑な間接蒸発冷却を用いた設計案の実現可能性を検証

Kao Data and Cadence Cover Image

ハイライト

適用範囲

  • コロケーションデータセンタの設計と運用管理

ソフトウェア

  • Cadence Reality DC Design

利点

  • データセンターの冷却設計を最適化
  • 運用効率の最大化
  • 提案された設計コンセプトの妥当性を確認
  • 十分な情報に基づいた意思決定

課題

Kao Data社が約146,000㎡ の敷地に計画した4つのデータセンターのうち、1棟目のKDL1の運用を開始した際、このデータセンターは英国初の「フリークーリング100%のホールセール型コロケーション施設」となりました。このデータセンターでは、ハイパフォーマンスコンピューティング(HPC)や人工知能(AI)の要件に対応可能な最先端の設計が行われています。そして、極めて重要なポイントとなるのが、環境に配慮している点です。このデータセンターは構内のエネルギー効率を可能な限り高めることを前提として、環境性能に焦点を当てて設計されました。

同社のデータセンターは、機械学習・深層学習などの処理で増えている高密度実装に対応すること、OCP Readyのインフラとして最高のものを提供することを目的としています。4つのデータホールで構成されたこの施設には、合計約14,000㎡のサーバ設置スペースがあります。

GPUを使用した高度なスーパーコンピューティングに対応するために、このスペースは一から設計されており、Technology Suitesと名付けられた各データホールは、スラブフロアや広いアクセス通路を備えた柱のない設計となっています。データホールの負荷合計は、それぞれ8.8MWとなっており、ラックあたり20kW以上の電力密度にも対応して顧客の要望に応えています。

Kao Data社では、敷地内に変電所を設けて電力の耐障害性を確立し、100%の稼働率という素晴らしい実績を生み出しています。この変電所では、UK Power Networks (UKPN) の全国 電力網から供給される43.5MVAの電力を二重化し、データセンター施設に供給します。必要に応じて、N+1冗長構成のバックアップ発電機による発電を行い、顧客の厳格なSLAに対応しています。

通常の稼働条件下では、認証を受けた再生可能エネルギーを100%使用して、敷地全体に電力を供給します。Kao Data社の建物は、Building Research Establishment (BRE) が作成したBREEAMの「Excellent」の認証を受けており、建物のエネルギー効率や環境・サステナビリティに関する性能を評価されています。

IT機器の運用では、部分負荷時でも、PUE1.2を達成しており、また、機械冷却が無い空調設計で有害な冷媒を用いたシステム化から脱却することで、ASHRAE TC 9.9の環境ガイドラインに準拠するようにしています。

GPUを搭載するシステムは電力や冷却の要件が厳しいため、Kao Data社の敷地でサステナビリティをできるだけ高めることが不可欠です。そのためには、運用効率を精度高く把握し、設計案の検証に役立つ科学的な裏付けを基にした方法が必要でした。同社は、エネルギー効率の高い設計を確立するため、機械冷却システムの代わりに水の蒸発を用いて空気を冷却する間接蒸発式冷却システムを検討しました。

解決策

Kao Data社は、より環境に優しく、効率的で費用対効果の高いデータセンターを運用するために、IECの設計を検討しました。本プロジェクトでは、JCA Engineering社・Kao Data社と共同で、Cadence Reality DC Design(旧6SigmaDCX)を使用したデータセンター屋外・屋内環境のCFD解析を弊社が行いました。このCFD解析により、同社は設計・実装・運用の意思決定を下すことができました。また、シミュレーションを継続的に行い、構築のフェーズ毎の影響を把握して、運用のリスクを最小限に抑えました。

デジタルツイン技術によって敷地内のデータセンターが再現され、次の目的でCFD解析が実施されました。

  • 間接蒸発冷却システムの設計構想案について、実現可能性と性能を評価
  • 施設構築を複数の段階に分けて行うにあたり、各段階の設計案が十分な冷却性能を備えているかを確認
  • 可能性のある変更や極端な環境条件の影響を検証
  • さまざまな外部環境の条件下で間接蒸発冷却式空調機(以下、IEC)の入口の状況を予測・検証し、許容範囲内で収まっているか、空調機の性能が落ちないかを確認

外部環境モデルでは、さまざまな気象シナリオにおける冷却性能を幅広い条件下で物理学に基づき評価しました。間接蒸発冷却システムは、蒸発冷却の一つであることに留意することが重要です。屋外環境に排出する空気は加湿されています。つまり、間接蒸発冷却システムを設計する際は、湿った空気が逆流しない ように、外気の吸排気の経路を適切に分離させることが非常に大切です。

よって、吸排気で発生する再循環のリスク評価が重要視されます。このような場面こそ、CFD解析の使いどころです。屋外のCFD解析によって、Kao Data社は、以下3点を把握できるようになりました。

  • 設計全体の熱に関する影響
  • さまざまな気象条件下における「設計全体の熱に関する影響」の変化
  • 施設構築の各段階における性能への影響

JCA Engineering社とケイデンスのエンジニアは、ASHRAEの過去の気象データを評価し、このエリアで最もリスクが高いと思われる条件を見積もりました。これにより、必要なシナリオ数を考慮したうえで、さまざまな風速と風向きを含む解析条件を定義できました。CFD解析では、幅広い種類の外部環境シナリオの検証を行いました。この検証では、「障害物となっている建造物が外気の取入れに与える影響」や「排気が混じり、吸気の湿球温度がIECの規定値を超えるなどの問題が発生する可能性」が考慮されました。

このシミュレーションによってリスクが特定されたことで、「冷却用チラーの設置」や「チラー同士近づけて配置する場合や、景観目的でユニット周囲に装飾ルーバーを設置した場合に制限される気流」を加味した最終設計案を作成できました。

CFDモデルは、IT機器の設置空間に関しても重要な役割を果たしました。Cadence Reality DC Designを用いて、IT機器の設置空間内で冷却システムが効果的に稼働しているかを検証しました。データセンター全体に気流が均等に行き渡り、場所によって偏りが出ることなく、IT機器を冷却できることが極めて重要だったのです。また、通常の稼働条件下の熱的性能に加えて、障害シナリオ(特に、停止した空調機の近くに設置されたIT機器の状況)もCFD解析で検証しました。

まとめ

「ホールセール型コロケーション」と「ハイパフォーマンスコンピューティング」を提供するKao Data社は、Cadence Reality DC Designを使用して、弊社と協力しながら施設内の間接蒸発冷却システムの設計を検証しました。同社の設計は、「機械的な冷却を一切使用せずに、高いパフォーマンスを発揮するデータセンター」となりました。これは、同社最初のTechnology Suiteが稼動した時点で、前例のないことでした。

この設計の成果として、IT機器の稼働率が低い場合でも、PUE 1.2の高効率な産業規模のデータセンターを実現できました。Kao Data社とその顧客は運用コスト(OPEX)を長期的に削減できるようになり、加えて、運用に使う冷却システムはサステナビリティの高さで認証を受けることができました。さらに、この設計はスペースの使い方に柔軟性を持たせることを可能にしたのです。大半の従来型データセンターと異なり、50%負荷時のPUEはわずか1.14となったため、ホールセール型コロケーションのデータホールとしては極めて素晴らしい結果となりました。

同社は弊社と継続して協力し、複雑な設計のモデル化でエンタープライズ・HPC・AIの顧客をサポートしています。


 

当社のデータセンター戦略において常に重要な柱の一つとしているのがエネルギー効率です。IT機器使用率が高い時も低い時も1.2のPUEを維持しており、当データセンターを他と差別化する主要な要因の一つとなっています。当社がケイデンスとの連携を選んだ理由は、同社のCFD解析が業界屈指の評価を受けていたからです。CFD解析は「英国で最もサステナビリティが高くかつエネルギー効率の高い施設」を設計・建設するうえで、極めて重要な役割を話しました。
Kao Data社
Paul Finch氏