llama.cppの簡易チャットでAIエージェントを動かす

Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。

以前の記事で、llama.cppのUIをChatGPTみたいに変更する記事を書きました。

Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。今までllama.cppを使う時、ターミナルで操作していました。こんな感じ。これはこれで良いんですが・・・。毎回こんな感じで入力するのはしんどいです。というわけで、…

今回、この簡易チャットにエージェントの機能が試験的に導入されたのを偶然発見したので試してみました。
事の発端は、gpt-oss-20bの知識のカットオフの時期を知ろうとした時でした。

ちょっと日本語にしてみましょう。

しかし驚いたのはそこではありません。
ツールを実行しようとしているのです。

ちょっと質問を変えてみました。

「llama-server」の起動コマンドに「–agent」オプションを付ければファイル操作ができるようになるとのこと。マジ？

おお！こんな機能があったのか！？
驚いてgeminiに聞いてみたのですが、この機能については公式のドキュメントには存在しないとのこと。
“「–agent」オプションなんて存在しない、これはgpt-oss-20bのハルシネーションだ”と言ってゆずりません。
でもちゃんと動いてるし、存在しないならそもそも起動時にエラーが出ますよね？って証拠の写真を添えてgeminiに調べ直してもらいました。

このエージェント機能は実験的なもの

–agent は全く新しい独立した機能というわけではなく、エージェント環境を構築するために必要な2つの機能（–tools all と –ui-mcp-proxy）を一度にオンにするための便利なショートカットコマンドとして実装されていたということです。

もともと「–tools all」と「–ui-mcp-proxy」という２つのオプションを「–agent」というひとつのコマンドで立ち上げられるよう、開発者が作ったものではないか？とのこと。

但し、

“whether to enable CORS proxy and all built-in tools – do not enable in untrusted environments (default: disabled)\n”
説明文には「信頼できない環境では有効にしないでください」と強く警告されています。ローカルのファイルに直接アクセスできる権限をサーバーに与えるため、外部に公開するような用途では使ってはいけない機能であることが分かります。

とも言っています。ソースコードの中に注意書きがあるみたいです。
まだ、試験的に実装され始めた機能なので、いきなり使ったりせず様子を見るのが良いかと思います。

自分としては、llama.cpp(llama-server)の簡易チャット画面はシンプルで好きなので、このままAIエージェントとして使えるようになったら「pi coding agent」から乗り換えようかと思います。

と、いうわけで偶然発見した機能の紹介でした。
今回は以上です。

Amazon | AMD CPU Ryzen 7 8700G BOX With Wraith Stealth Cooler 100-100001236SBX CP1676 | AMD | CPU 通販

AMD CPU Ryzen 7 8700G BOX With Wraith Stealth Cooler 100-100001236SBX CP1676がCPUストアでいつでもお買い得。当日お急ぎ便対象商品は、当日お届け可能です。アマゾン配...

Amazon | Bornffinally MAXSUN インテル Arc Pro B60 デュアル 48G ターボグラフィックスカード。 | デュアルGPUデザイン、48GB GDDRメモリ、デュアルスロットフォームファクタ、PCIeインターフェイス、AIワークステーションGPU。 | Bornffinally | グラフィックボード通販

Bornffinally MAXSUN インテル Arc Pro B60 デュアル 48G ターボグラフィックスカード。 | デュアルGPUデザイン、48GB GDDRメモリ、デュアルスロットフォームファクタ、PCIeインターフェイス、AI...

Amazon | SPARKL Intel Arc Pro B70グラフィクスカードブロワーファン搭載モデル [SBP70W-32G] | スパークル(Sparkle) | グラフィックボード通販

SPARKL Intel Arc Pro B70グラフィクスカードブロワーファン搭載モデルがグラフィックボードストアでいつでもお買い得。当日お急ぎ便対象商品は、当日お届け可能です。アマゾン配送商品は、通常配送無料（一部除く）。

Amazon | ASRock Intel Arc Pro B65 クリエイター 32GB ワークステーショングラフィックスカード、Intel Xe2-HPG、32GB GDDR6、PCIe 5.0、4X DisplayPort 2.1、ブロワーファン、ベイパーチャンバー、Honeywell PTM7950 | ASRock | グラフィックボード通販

ASRock Intel Arc Pro B65 クリエイター 32GB ワークステーショングラフィックスカード、Intel Xe2-HPG、32GB GDDR6、PCIe 5.0、4X DisplayPort 2.1、ブロワーファン、ベイ...