自宅のProxmox上にGPUパススルーのVMを1台立てて、ローカルLLMの推論環境として使っている。構成自体は平凡なのだが、運用してみると「パススルーVMならでは」のハマりどころがいくつかあったので、メモとして残しておく。
続きを読む自宅のProxmox上にGPUパススルーのVMを1台立てて、ローカルLLMの推論環境として使っている。構成自体は平凡なのだが、運用してみると「パススルーVMならでは」のハマりどころがいくつかあったので、メモとして残しておく。
続きを読むVRChat向けのUnityツールを作っています。たまに技術メモを書きます
自営業