この見出しに考えさせられたなら、ぜひ読み進めてほしい。
私たちは今、ビジネス、教育、防衛（一国家あるいは全人類という大きな種族の）、科学などにおいて、AIをどのように活用すべきか模索している真っ最中だ。そして、数年先を見据えて考える人々を悩ませる疑問に、私たちはどのように答えるべきなのだろうか。
今年9月、カリフォルニア州マウンテンビューでImagination in Actionとそのパートナーが主催したイベント「Next Endeavor」（注：筆者はこれらのイベントの運営を手伝っている）のセッションで、Metaのリサ・リヴァリン（Lisa Rivalin）氏とリチャ・ミシュラ（Richa Mishra）氏の2人が、同社がこの分野でどのように前進しているかについて語った。
「サステナビリティ（持続可能性）」の意味
リヴァリン氏は、「サステナビリティ」という言葉の背景にある二面性と、その目標達成に向けたAI活用の二面性についての説明から始めた。
「ここでいう『サステナブル』には二重の意味がある。長く続くものという意味と、環境への負荷を減らすという意味だ」と彼女は述べた。「（そして）環境問題を解決するためにAIを使うことと、AIハードウェア自体の環境フットプリントを削減する『サステナブルAI』がある」
ミシュラ氏は、ある比喩を引き合いに出した。
「ほぼこの会場と同じくらいの大きさの部屋を想像してほしい」と彼女は観客に語りかけた。「そこには『ラック』と呼ばれる数十万個の金属製本棚が収納されている。そこにはフラットボード、つまり調達を計画している、あるいはもっと増やしたいと思っている専門的なGPUやCPUなど、あらゆるチップを搭載した回路基板が収められている。これらは世界中に分散したデータセンター内に配置されており、データセンター内で伸びる光ファイバーで相互に接続されている。そこからは莫大な熱が放熱・排出されており、同時にすべての拠点で膨大な電力も消費されている。私たちが現在直面している最大の課題は、これらすべての運用における規律を統合することであり、電力、信頼性、炭素（排出量）が、このAIレイヤーを実質的に支える主要な3つの柱となっている」
ユーザーは、これらすべてを目にするべきではないと彼女は指摘する。
「インフラエンジニアとして、私たちの最大の成功は『不可視』であることだ」と彼女は語った。「私たちの存在に気づくのは、何かが障害を起こしたときだけだ」
エネルギーに関して、リヴァリン氏はこうした問題のいくつかが新たに浮上していることを示唆した。
「需要の加速によって、問題がより可視化している」と彼女は言った。「つまり、避けて通れない大問題が存在するのだ。データセンターをさらに建設する必要があるなら、ハードウェアの面でもさらなるニーズが生じる」
リヴァリン氏は供給制約の役割についても触れた。
「現在、実際に半導体を調達するのは極めて困難だ」と彼女は語った。
時間の経過にともなう進展
「5年前、私たちは自分たちのカーボンフットプリントが正確にどこにあるのかを把握できていなかった」とリヴァリン氏は語った。「そして、プロセスの過程で放出される化学物質やエネルギー消費の多い製造工程のため、半導体が極めてカーボンインテンシブ（炭素集約的）な原因となっていることに気づいた。そのため、私たちは半導体業界と緊密に連携しており、半導体業界で働くすべての人々に対して、そのことを考慮し、よりサステナブルになれるような再構築を行うよう行動を呼びかけている」
その仕組み
「多くのエージェントが人間の代わりに作業を行い、人間が意思決定を下している」とリヴァリン氏は続けた。「しかし、この状態に達する前に、私たちは一連の原則を経なければならなかった」
彼女が言及した原則には、検証、ドメインの曖昧さへの対処、コンテキストの作成が含まれていた。関連する彼女の発言を3つ紹介する。
「ロジックとコードはテンプレートの外、エージェントの外に置き、エージェントには決定論的なコードを参照させてほしい」
「より小さなエージェントを作ること」
「多くの場合、検証プロセスが必要であり、人間によるゲートが必要になる。そして、それは容易ではない。多くのものが自動化され、フリートに投入されている例を数多く見てきたが、想像できるように、私たちの規模では、それが実際に多くの問題を生み出し得る」
人と、それ以上のもの
終盤、ミシュラ氏は人間と、人間以外のコンポーネントとの相互作用について語った。
「最大の成功は、（開発者が）あらゆる分野のドメインエキスパートと密接に連携したときにのみ起こる」と彼女は語った。「それはエージェントの場合も同様だ。私たちはラック全体に配置されたこれらすべてのコンポーネントが最大利用率で稼働していると想像しがちだ。しかし現実には、そうした状態は絶対に起こらないかもしれない。前回のトークでもあったように、時には利用率が3〜5%という低さで稼働していることもある。これは実際に起きていることだ。本番環境における私たちの仕事は、こうしたインサイトの一部を表面化させ、エージェントやソフトウェアソリューションの助けを借りて最適化し、コンポーネントレベルで電力バジェットを活用できるモジュール式ソリューションを構築することだ」
電力網（グリッド）について、彼女は次のように語った。
「GPUの利用率が急増するスパイクが発生することがあるが、私たちはデータセンターの稼働増強を支える電力網に対して、安定性を還元したいと考えている。ワークロードを拡大しようとして電力網を破綻させたくはないからだ。これは実際に起きている深刻な問題だ。そのため、これら全体を通じて、使用可能な電力をどのように確保できるかを模索している。また、長期的なモデルがどうなるかも見極めようとしている」
さらにミシュラ氏は、サイレントデータ破損の問題にも触れた。
「本質的に何が起こるかというと」と彼女は語った。「単一のチップが、異なる条件で動作している隣接するチップよりも早く劣化することだ。そして、これらすべてのケースは、大規模に実行される大規模モデルにとって連鎖的な障害となる。これらは、私たちが空間的・時間的シグナルを見つけようとしている事象の一例だ」
早期警戒と成功への道
「ベンダーのツール仕様を使う難しさについて言えば、ハードウェア設計フェーズを進める中で、現場の暗黙知が築かれている」とミシュラ氏は指摘した。「最終的に、これが私たちに広く突きつけた問いは、こうした異なる世代のハードウェアを通じて進化しようとする中で、フリートを健全で高性能かつ信頼性の高い状態に保つため、すべての診断の精度をどう向上させるか、ということだ。障害に関する早期警戒は増えており、私たちが頼れる最適化もある。それは今後数年間、私たちにとっても主要な注力領域になるだろう」
リヴァリン氏は協働の重要性を強調した。
「ハードウェアのカーボンフットプリントを計算する新しい方法を構築し、業界全体で標準化するために、業界横断的に多くのコラボレーションを行っている」と彼女は述べた。「また、規制当局や標準化団体とも連絡を取り、それを確実に定義できるよう取り組んでいる。さらに、コンポーネントの修理や交換時なども含め、フリート上にある個々のコンポーネントのカーボンフットプリントを計算するソフトウェアとエージェントのスイートを開発した」
そしてラック空間の問題もある。
「ハードウェアの側面では」と彼女は続けた。「炭素効率に関して学んだことすべてを、設計の側面でも活用している。Metaでは自社でラックを設計しており、現在ではすべてのハードウェア設計プロセス全体に、設計とカーボンフットプリントの観点を組み込んでいる。つまり、妥協点を見出し、代替案を探し、さまざまなサプライヤーと連携することを意味し、炭素効率に関してサプライヤーとの連携をますます強化している」
Metaにおける全体論的な進展についての彼女の見解は次の通りだ。
「それはまさに、ハードウェア、サステナビリティ、AIなど、すべてを融合させる架け橋だ。私たちは統計的に使えるものをすべて用いて、ラックが実際に構築される前に、そのカーボンフットプリントと効率を推定する。そしてさまざまな代替案を提案し、それが頭の中の単なるアイデアである時点から、そのラックの耐用年数が尽きるまで追跡する。これは反復的なプロセスだ」
信頼性については、こう語った。
「設計におけるこれらの異なるフェーズ間で信頼性が確実に橋渡しされるよう努めており、また製造現場に対しても同様の情報を伝え、現場から得られる品質やインサイトの文脈を共有している」と彼女は語った。「これによりギャップが埋められ、フリートが多様なベンダーに対してすべてのデータや情報を提供できるようになっている。また、そのもう1つのユースケースがコンポーネントの再利用とリサイクルだ。新しいラックを設計する段階でこれらすべてを行い、新しい部品を購入する代わりに古い部品を再利用できるかを確認している。これはカーボンフットプリント削減に向けた画期的な取り組みだ」
動画では再利用や効率性についてさらに詳しく語られている。ぜひチェックしてみてほしい。
最後に
「また、補足すると、この分野のニッチさを考慮すると、過去の大学との共同研究は私たちにとって非常に有益だった」とミシュラ氏は述べた。「これらの領域のいずれかに親和性を感じ、さらに進められる研究があると思われる場合は、ぜひご連絡いただきたい。なぜなら、最終的にこれこそが『次なる取り組み（Next Endeavor）』だからだ。これは次なる最大の計算上の挑戦であり、データがその最も重要な部分を占めることになると考えている」
以上が、米国を代表するAI企業の一社で起きていることの概要だ。今後の動向にも注目してほしい。
