Sakana Fugu検証の最終回です。設定編でFuguが「クラウドの集合知」であることを、実測編で応答速度と社外への通信を確認しました。今回は、まったく同じ問いをローカルLLMに投げ、Fuguと並べてみます。使ったのは、社内のGPU（NVIDIA GeForce RTX 3050・6GB）で動く Qwen2.5-7B。結果は、私たち自身が驚くものでした。
クラウド側はFugu（api.sakana.ai経由）。ローカル側はOllamaで動かしたQwen2.5-7B（4.7GB、量子化済み）で、推論はすべてRTX 3050上——ollama psの表示は100% GPUでした。問いは前回と同じ「自己説明」と「日本語要約（3行）」。いずれもワンショット・1回計測です。
| タスク | Fugu（クラウド） | ローカル7B（RTX 3050） |
|---|---|---|
| 自己説明 | 8.55秒 | 1.40秒 |
| 日本語要約（3行） | 7.82秒 | 1.54秒 |
| データの送信先 | api.sakana.ai（社外） | 外部接続なし |
数字は明快です。ローカルの単一7Bモデルは、簡単な問いに約1.5秒で応答しました。Fuguの約8秒に対して、おおよそ5倍の速さです。そして通信監視では、ローカル推論中に社外への接続（:443）は一つも現れませんでした。100% GPUで処理が完結し、データはネットワークの外へ一切出ていません。
意外に思えるかもしれませんが、理由は構造的です。Fuguは「複数モデルを束ねるオーケストレーション」である以上、(1) どの下位モデルに振り分けるか判断し、(2) クラウド越しにそのモデルを呼び、(3) 結果をまとめる——という多段の処理とネットワーク往復が必ず入ります。一方ローカルの単一モデルは、手元のGPUで一発推論するだけ。簡単なタスクほど、この差が応答時間に直結します。
もちろん、これはFuguを貶めるものではありません。Fuguの真価は、単一モデルでは難しい複雑・多段のタスクで、複数のフロンティアモデルの“集合知”を引き出すところにあります。高度な調査やコード生成など、難度の高い仕事では、束ねる強みが効く場面があるはずです。今回測ったような日常的なタスクでは、ローカル7Bで十分すぎるほど速く、的確だった——というだけのことです。
重要なのは使い分けです。社外に出して構わない情報を、最高水準の集合知で処理したいならFugu。日常業務を、速く・安く・データを外に出さずにこなしたいならローカル。扱うデータの機密性と、タスクの難度で選べばよいのです。
3回にわたる検証で見えたのは、こういうことです。Fugu＝クラウドの集合知は、賢く、便利だが、データは社外へ出て、応答は数秒オーダー。ローカル＝手元のGPUで動く単一モデルは、日常タスクなら桁違いに速く、何よりデータが一切外に出ない。私たちが開発する「TRIAD（三賢AI評議）」は、後者の土台に“複数AIの合議”という発想を載せたものです。Fuguの集合知をクラウドで、ではなく、合議をローカルで。中小企業が安心して使える日本産LLMという目標は、この「速くて、出さない」基盤の上にあります。クラウドの集合知と、ローカルの合議。その距離を、私たちは自分たちの手元で、数字で確かめました。
※ 計測は2026年6月25日、自社環境で実施。ローカル＝Ollama / Qwen2.5-7B（Q4）/ NVIDIA RTX 3050（100% GPU）。Fugu＝api.sakana.ai経由。応答時間は1回計測の参考値で、ハードウェアや問いにより変動します。