アップルはA19 ProとM5ファミリーで、GPU内にNeural Acceleratorsと呼ぶ行列演算の高速化機能を加えた。M4ファミリー以前の世代では、言語モデルを動かす際、デコードに比べてプリフィルが相対的に弱かった。しかし、このアクセラレータによってプリフィルは最大4倍に高速化され、膨大なメモリ帯域によるデコード性能と釣り合うようになった。ローカルで言語モデルを動かす際にも、高い応答性と生成スループットを両立できる。
現代のAI機能の多くは、言語モデルを基礎に組み立てられている。Mac StudioやMacBook Proで大規模言語モデルを動かす際にも、この両輪は重要だ。しかし、最も重要なことは、アップルの製品ライン全体で、このバランスの取れた性能を生み出すことだと彼は説明した。
アップルは「何の会社」なのか
アップルとは、何の会社なのか。
サービスの売上をどれだけ伸ばそうと、優れた半導体をどれだけ設計しようと、その根にあるものは一つだ。コンピューティングを通じて、より良いユーザー体験を作る。アップルは、そのたった一つの価値観を追求するハードウェア製品の会社である。
この視点でAppleシリコン全体を見渡すと、ブルックスが語った設計思想が一本の線でつながる。常識外れとも言える大容量のユニファイドメモリを搭載することにこだわるのも、メモリ帯域を惜しまないのも、演算性能とメモリ帯域を釣り合わせるのも、多様な処理モジュールを用途ごとに最適な数だけ配置するのも、すべては製品を手にした人間が感じる体験が先にあってのものだ。
マイクロソフト、グーグル、NVIDIAなど、「AI」というトレンド軸で見るとき、アップルの周囲には、部分的に事業領域が重なるライバルがいて比較しがちだ。
しかし、それぞれが追求している方向性は異なる。マイクロソフトはソフトウェアとクラウドの上に、グーグルはクラウドに集まる情報の上に、NVIDIAは演算そのものへの要求に応えることで、それぞれの世界で君臨している。
こうした中で、アップルほど、エンドユーザーが手にするハードウェア製品の体験を起点に、半導体、OS、フレームワーク、アプリケーションまでを一体で設計している企業はない。同じような半導体のアーキテクチャを採用し、同じようにオンデバイスAIが今後重要になっていくと定義していても、行き着く答えは変わってくる。
ブルックスは、こうした設計思想は、機械学習をデバイスの機能へ取り入れ始めた初期の時代から積み上げられてきたと振り返る。
機械学習処理専用のNeural Engineが初めて導入されたのは、2017年のA11 Bionicである。iPhone XのFace IDやAnimojiなどを実現するために組み込まれたものだ。その後、カメラ機能などへ応用領域を広げ、Core MLというフレームワークを通じて開発者にも開放されてきた。
さらに、A19 ProとM5ファミリーでは、GPUにNeural Acceleratorsを搭載した。前述したように言語モデルのプリフィル処理を効率化するこの機能も、長い時間軸の中で、製品体験を改善するために持ち込まれたものだ。
