ollama

スポンサーリンク
Ubuntu

ollama-ipex-llmで大きなモデルを動かすには

前回の記事でollama-ipex-llmを素のままで動作させてみました。ただ、モデルファイルは5.2GBしかないのでVRAMに十分収まる容量でした。B570はVRAMは10GBしかありませんので、ollamaで大きなモデルを動作させるには...
Ubuntu

ollamaのカスタム版、ollama-ipex-llmを動作させてみた(GPUで)(Ubuntu編)

先日、ollamaを使ってgtp-oss:120bを動作させてみました。ですが、本家ollamaはまだIntel GPUに対応していません。今回は、Intelが独自に開発している「ollama-ipex-llm」をUbuntuで動作させてみ...
Ubuntu

gpt-oss:120bをollamaで動かしてみました(CPUで)(Ubuntu編)

最近、「gpt-oss」なるものが、自分の環境でもyoutubeでオススメに出てきていたので一体なんのことだろうと思って調べてみました。ローカルで動かせるChatAIというものがあるんですね。Intel ARCでも動かせるのかと思ったのです...
スポンサーリンク