Ubuntu ollama-ipex-llmで大きなモデルを動かすには
前回の記事でollama-ipex-llmを素のままで動作させてみました。ただ、モデルファイルは5.2GBしかないのでVRAMに十分収まる容量でした。B570はVRAMは10GBしかありませんので、ollamaで大きなモデルを動作させるには...
Ubuntu
Ubuntu
Ubuntu