「慧仕(Huìshì)」というAIエージェントフレームワークを作っています。
Huishi(以下この記法にします)の詳細についてはまたそのうち書くとして、これで使っている「思考構造」について公開したいと思います。 これは、世の中にある様々なAIエージェントを調べていて、類似の構造のものがなかったからです。
「なかった」理由はよくわかりません。有効でないと考えられているのか、そこに考えが至らなかったのか、その辺はよくわかりません。 とは言え、「なかった」のは事実なので、文章にまとめて公開して公知にしておきます。 そうすれば、少なくとも私が使えないことはないからです。
おごちゃん
弊社でもコーディングにAIを活用するようになりました。
まだ完全自動コーディングは「おもちゃ」の域を出てないと言うか、それ以上の使い方をするにはコストがかかり過ぎるという感じがあるので、あくまでも「補助」としてしか活用していません。 まぁ、たまにホームラン級の効率を叩き出してくれることがあるので、ある種の期待がありますし、使ってみたりしてますけどね。でも、主には「補助」です。
あくまで「補助」として使っていても、以前と比較すれば効率は爆上がりです。 そうなると… さてどうしましょうかというのが、このエントリの主題です。
直接弊社の話そのものではないのですが、RK3588のNPUのオープンソースドライバがLinuxメインラインに入るかも？ とゆー期待を持たせてくれるニュースがありました。
Rockchip Open-Source NPU Driver “RKNN” Continues Making Progress
みなさんGWしてますか？ 私はCatchUp(RSSリーダのことです)を強化するのが楽しくなって色々やっています。
AI agentの要領がわかって来たので、どんな構成にするとかどんなプロンプトにするとかやっていると、完全にハマってしまいますね。
というわけで、公開してから
とかを強化してしまいました。
相変わらず(ry
なのですが、会社でも家でもやり続けていていろいろストレスになったので、家では他のことをやろうと思って、前々から欲しかったRSSリーダを作ってみました。
いまさらわざわざ作るのですから、当然ながら「人工知能搭載」です。
人工知能にまたブームが来て、今度は本物っぽいなと感じています。
前回のブーム(人工知能学会が出来た頃)に人工知能という名のついた部署の仕事をしていたことや、深層理解がやりたくて留学とか考えてたことを思うと、「いよいよ時代がやって来た」という感じがします。
とは言え、いろんな事情から出遅れてしまって、指をくわえて見てるだけ… の時代が長くなってしまいました。
それはそれで残念なことなのですが、お陰で見えて来たことがあって、それが表題のことです。
ローカルLLMの商談があったので、表題のものを調べてみました。
今まで、量子化ビット数による違いは「トークン間違い」くらいしか気にしてなかったのですが、結構結果が違うようです。
ごちゃごちゃ書かないで、結果とそこへのツッコミだけ出しておきます。
最近、「AI驚き屋」みたいなことばかりやってて申し訳ないような気持ちになってます。
基本的には試してみたもののうち「本気で驚いたもの」だけ驚いてるつもりですが、しばらく色々試さないでいると結構本気で驚きます。
というところで、表題のもので驚いたので書いておきます。
前のエントリの追記にも書きましたが、サイバーエージェントからDeepSeek-R1の日本語対応版が出ました。
cyberagent/DeepSeek-R1-Distill-Qwen-14B-Japanese
cyberagent/DeepSeek-R1-Distill-Qwen-32B-Japanese
さっそくggufが作られています。
bluepen5805/DeepSeek-R1-Distill-Qwen-14B-Japanese-gguf
bluepen5805/DeepSeek-R1-Distill-Qwen-32B-Japanese-gguf
ということで試してみます。
phi-4とDeepSeek-R1の翻訳を比較してみました。
参考として、Chat-GPT4oとGoogle翻訳も一緒に挙げておきます。
ごく雑なことを言えば、これを見る限りではphi-4の方が使いやすいなという印象です。
