ローカルLLMの商談があったので、表題のものを調べてみました。

今まで、量子化ビット数による違いは「トークン間違い」くらいしか気にしてなかったのですが、結構結果が違うようです。

ごちゃごちゃ書かないで、結果とそこへのツッコミだけ出しておきます。

最近、「AI驚き屋」みたいなことばかりやってて申し訳ないような気持ちになってます。

基本的には試してみたもののうち「本気で驚いたもの」だけ驚いてるつもりですが、しばらく色々試さないでいると結構本気で驚きます。

というところで、表題のもので驚いたので書いておきます。

前のエントリの追記にも書きましたが、サイバーエージェントからDeepSeek-R1の日本語対応版が出ました。

cyberagent/DeepSeek-R1-Distill-Qwen-14B-Japanese

cyberagent/DeepSeek-R1-Distill-Qwen-32B-Japanese

さっそくggufが作られています。

bluepen5805/DeepSeek-R1-Distill-Qwen-14B-Japanese-gguf

bluepen5805/DeepSeek-R1-Distill-Qwen-32B-Japanese-gguf

ということで試してみます。

phi-4とDeepSeek-R1の翻訳を比較してみました。

参考として、Chat-GPT4oとGoogle翻訳も一緒に挙げておきます。

ごく雑なことを言えば、これを見る限りではphi-4の方が使いやすいなという印象です。

前エントリの続きです。 PSで続けようかと思いましたが、あらためてエントリにします。

前エントリではphi-4のことはあまり書いてなかったので、phi-4を試したものを書いておきます。

DeepSeek-R1-Distill-Qwen-14Bのggufがあったので試してみました。

試してみると、「ヤバいヤバい」以外の声が出せないくらい「凄い」としか言いようがなくて、この驚きは初めてChatGPTを使った時のような感じですし、ある意味それ以上かも知れません。

この驚きを共有してもらうために、エントリ書いてみます。

前々から「パーソナルサーバ」というものを考えていました。

そういったことで以前CasaOSを評価を評価しました。

今回はTipiというシステムを試してみました。

Runtipi

あちこちで「Runtipi」という名前と「Tipi」という名前が混在していますが、多分アプリの名前としては「Tipi」が正しいんだと思います。

このシステムは、CasaOSと同様、パーソナルクラウドを構築するためのものです。

操作もアーキテクチャもだいたい同じですが、TipiはTypeScriptで書かれているという点が異なります。

これらを動かしてみて、「パーソナルサーバ」についてあらためて考えてみようと思います。