ローカルLLMの整備

proxmoxとパススルーGPU

先日、ミニPCとGPUがOculinkで接続できることを確認したので、本格的にAIサーバ化の縦鼻に取り掛かった。

ミニPCの中身をProxmox(仮装可アプリ)に入れ直しホストOSとし、ゲストOSをいくつか作成。

proxmox上で外部GPUを認識させる作業があったが、Nvidia製品使ってる限りは特に問題なくパススルー設定できた。

最近、intel ArcのB580を購入したが、こちらはパススルーどころかOcukink経由では同期すらできない。

GPUパススルーの確認とずんだもん

GPUのパススルーを確認したので、LLMへの適用を本格？化。

Windows ゲストOSからGPUが検知できることを確認し、構築を継続。

途中、取得したテキストを読み上げてもらいたくなり、「ずんだもん」のAPI経由で音声出力チャットを作成した。

The following two tabs change content below.

• この記事を書いた人
• 最新の記事

中嶋 慎也

最新記事 by 中嶋 慎也 (全て見る)

• ローカルLLMの自宅検証 - 2026年4月1日
• 2月、3月　業務状況報告 - 2026年3月31日
• 2026年1月　作業報告 - 2026年1月30日