ジェイルブレイクPS5上でLLMを動かす「PS5LM」とは

PS5がプライベートAIサーバーに?ローカルLLM実行ツール「PS5LM」が登場のイメージ画像

「PS5LM」は、ジェイルブレイクされたPlayStation 5(PS5)をプライベートなAIモデルサーバーに変えるオープンソースプロジェクトです。2024年6月14日にHacker Newsで紹介され、多くの開発者の注目を集めています。 このツールは、llama.cpp のVulkanバックエンドを利用し、PS5に搭載されているAMD RDNA 2 GPUの11.4GBの共有メモリを活用して、GGUF形式のLLMをネイティブに実行します。

これにより、高性能なPCやクラウドサービスを使わずとも、自宅で手軽にAIモデルを動かせる環境が実現します。(Hacker News)

ジェイルブレイク済みのPS5が、自宅のプライベートAIサーバーとして機能するようになるのは、非常に興味深い進化だと感じます。

主な機能と性能:API互換性と意思決定モデル

PS5がプライベートAIサーバーに?ローカルLLM実行ツール「PS5LM」が登場のイメージ画像

PS5LMは、OpenAIの /v1/chat/completions やAnthropicの /v1/messages と互換性のあるAPIを提供し、既存のAIクライアントや開発ツールからPS5上のモデルを利用できます。さらに、OllamaのようにPC上で意思決定モデルを実行する「Ollaya」のAPI (/v1/systemone) にも対応しており、テキストや画像に関する定型的な質問に迅速に回答するモデルも動作させることが可能です。

具体的なパフォーマンスとしては、Tom's Hardwareの記事によると、PS5 Slim上での「Qwen 3.5 9B, Q4_K_M」モデルが約55トークン/秒で動作すると報告されています。これは、家庭用ゲーム機としては非常に高い処理能力と言えるでしょう。(Tom's Hardware)

モデル サイズ PS5 Slimでの性能
Qwen 3.5 0.8B, Q4_K_M 0.5 GB 207トークン/秒
Qwen 3.5 9B, Q4_K_M 5.3 GB 55トークン/秒
Qwen 3.8 27B, UD-Q2_K_XL 9.2 GB 約20トークン/秒、64kコンテキスト
d1 Omni 600M (意思決定モデル) 1.1 GB 3つの質問を0.3秒、720p画像と7つの質問を2.9秒

動作要件とインストール

PS5LMを動作させるためには、ファームウェアバージョン7.00から13.60までのジェイルブレイクされたPS5が必要です。また、いくつかの特定のペイロードをロードする必要があります。

これには、カーネルパッチを提供する kstuff-lite、Homebrewをサポートする etaHEN、PS5LMをホーム画面に表示するための ShadowMountPlus が必須とされています。さらに、温度や電力などの情報を取得するために elfldr、アプリのインストールやモデルのコピーのために ftpsrv が推奨されています。

インストールは、PS5LMの最新リリースからZIPファイルをダウンロードし、解凍したものをPS5の /data/homebrew にコピーすることで行います。GGUFモデルは、Hugging Faceから直接ダウンロードして内蔵ストレージ、M.2 SSD、またはUSBドライブに保存できます。(Hacker News)

動作に必要なジェイルブレイクの手順は多少ハードルが高いかもしれませんが、一度環境が整えば、その後のモデル運用は比較的スムーズに行えそうです。

エンジニア目線で見ると:手軽なローカルAI環境の可能性と注意点

PS5LMは、手軽にローカルAI環境を構築したいエンジニアにとって、非常に魅力的な選択肢となり得るのではないでしょうか。特に、個人プロダクトの開発や、機密性の高いデータを扱う必要がある研究開発において、プライバシーが保たれたオフラインでのLLM実行環境は大きなメリットです。

PS5のRDNA 2 GPUは、RTX 3060に近い性能を持つと言われており、VRAMが11.4GBと、ある程度の規模のモデルを動かすには十分な容量を備えています。私の個人プロダクトでも、手軽に試せるローカルLLMとして、以前から llama.cpp に注目していました。

今回のPS5LMは、普段使っていないゲーム機を有効活用できる点で、コストパフォーマンスも良いと感じます。PythonバインディングがあるOpenAI API互換なので、既存のスクリプトに組み込むのも容易そうです。

一方で注意すべきは、ジェイルブレイク自体がソニーの保証対象外となる行為であり、セキュリティリスクや将来的なファームウェアアップデートによる使用不能化の可能性も考慮する必要があります。また、商用利用の可否や、モデルライセンスへの準拠も重要です。

しかし、趣味のプロジェクトや学習用途であれば、非常に魅力的な選択肢だと考えます。まずは手元で小さなモデルを動かして、そのパフォーマンスを検証してみたいですね。