Mac StudioでMuse Spark Openを分散実行
社内で大規模AIモデルをローカル実行したい企業向けに、Mac StudioとMLXによる構成・性能が示されました。Muse Spark Openには512GBメモリ搭載モデルが少なくとも2台必要です。
公開
Metaは、マルチモーダル大規模言語モデルのMuse Spark Openの重みを公開しました。Appleと協力し、機械学習モデルの推論やファインチューニングに使えるオープンソースフレームワークのMLXで、M5 Ultra搭載Mac Studio上で動作するよう最適化しています。社内のプライベートな環境で、コーディングやエージェント型の作業向けモデルを試したい企業に関わる取り組みです。
Appleは、複数のMac Studioにモデルを分割して推論する構成と性能を紹介しました。Muse Spark Openを2台でテンソル並列化した測定では、コンテキスト長8,192トークンで毎秒24.99トークンを生成し、初回トークン生成時間は8.2秒でした。4台構成では、同じコンテキスト長で毎秒36トークン超を生成しています。
Apple Japanは、512GBユニファイドメモリ搭載モデルを2026年10月後半に追加する予定です。M5 Ultra搭載Mac Studioの価格は949,800円(税込)からですが、512GB構成の個別価格は発表資料に記載されていません。
情シス向けのポイント
- Muse Spark Openは、NVFP4でもモデルの保持に約493GBを必要とします。推論中の中間計算用メモリも加わるため単体には収まらず、少なくとも512GBメモリ搭載のM5 Ultra搭載Mac Studioが2台必要とされています。
- 複数台の接続には、macOS 26.2で導入された低遅延RDMAドライバと、それを利用できるMLX 0.30.1以降を使います。評価の2台構成ではThunderbolt 5のケーブル2本で接続し、帯域幅を倍増させています。
- モデルの重みには、商用利用に制限条件のあるMuse Model Licenseが適用されます。無料でダウンロードできますが、企業での利用にはライセンス上の条件があります。
出典
誤りを見つけたらお知らせください。これまでの訂正は訂正のページにあります。