ipex

スポンサーリンク
Ubuntu

ollama-ipex-llmで大きなモデルを動かすには

前回の記事でollama-ipex-llmを素のままで動作させてみました。ただ、モデルファイルは5.2GBしかないのでVRAMに十分収まる容量でした。B570はVRAMは10GBしかありませんので、ollamaで大きなモデルを動作させるには...
Ubuntu

ollamaのカスタム版、ollama-ipex-llmを動作させてみた(GPUで)(Ubuntu編)

先日、ollamaを使ってgtp-oss:120bを動作させてみました。ですが、本家ollamaはまだIntel GPUに対応していません。今回は、Intelが独自に開発している「ollama-ipex-llm」をUbuntuで動作させてみ...
Ubuntu

Intel Extension for PyTorch「v2.6.10+xpu」登場

ちらっとこのページを見てみましたが、Windowsの方はインストールが簡単になったみたいですね。condaを使わなくても良さそうです。試してませんけど。condaは必要みたいです、ごめんなさい。2025/3/16チャレンジしてみましたが、「...
スポンサーリンク