株式会社アテナは、日本産LLM(大規模言語モデル)を目指す会社です。数値計算からマイニング、そして生成AIへ——計算基盤を自分たちの手で握ってきた経験をもとに、オンプレミスAIやLLMにまつわる実務的な知見を発信します。
同じ問いをローカルLLM(RTX3050のQwen2.5-7B)で実測。Fuguの約5倍速・外部接続ゼロ。比較表つきの検証3部作・最終回。
自社オンプレ機でFuguを実走。応答約8秒、動的ルーティングの実観測、そして社外IP(8.233.232.167)への接続を一次データで確認しました。
話題のSakana Fuguを自社のオンプレAI環境で動かして検証。クラウドの集合知と、ローカルの合議(TRIAD)の違いを実機構成から解説します。
社内文書を検索して根拠にしながらAIに回答させる「RAG」を、導入のポイントとともに分かりやすく解説します。
ネットワークから物理的に切り離してAIを運用する意味と、メリット・運用上の注意点を解説します。
AIが事実と異なる内容をもっともらしく出力する理由と、RAG・決定論エンジン・人手承認による実務的な対策を解説します。
数値計算からマイニング、生成AIへ。データ主権を守れる日本産LLMを目指す理由と、中小企業に届ける現実的なアプローチを語ります。
重みマージ・ルーター・Mixture-of-Agents。特化モデルを賢く束ねて、特定領域でフロンティア級を狙う考え方を解説します。
数値は決定論エンジン(コード/SQL)に委譲し、LLMには言語と解釈を任せる。ハルシネーションを構造的に排除する設計思想です。
系統の統一、Qwen3 Swallowなどの選択肢、パラメータ規模とVRAM、量子化、QLoRA+Unslothによる微調整までを実務目線で整理。
独立した複数のAIが合議すると、なぜ単独より精度が上がるのか。多数決・相互検証・誤りの独立性という観点から解説します。
限られたGPUでもLLMを自社業務に微調整できるQLoRA。LoRA/量子化/Unslothとデータ作りを実務目線で解説します。
過剰最適化・ベンチ汚染・好まれやすさ。公開ランキングが実力を表さない理由と、自社の実務で測る大切さを整理します。
大きなLLMを手元のGPUで動かす鍵「量子化」。なぜ軽くなるのか、Q4/Q8の意味、精度とのトレードオフを解説します。
検証用のエッジ機から、GPUワークステーション、本格運用サーバーまで。VRAMを軸にした規模の決め方を整理します。
「便利だけど、社外にデータを出すのが怖い」。クラウドに出せない情報を、自社内で安全にAI活用するための考え方をまとめました。
DSP明細の名寄せ、契約スプリットの抽出、未払いの検出。LLMが解釈を、決定論エンジンが金額を担う役割分担を実務に即して解説します。
専用ハードウェアを自前で安定運用してきた経験が、オンプレミスAIや日本産LLMの基盤にどうつながるのかを解説します。
業界特有の構造的な事情と、現場から始める現実的なDXの進め方を、著作権分配データの集計を例に解説します。
識別コードの不一致や表記揺れはなぜ起きるのか。分配データ集計の実務でつまずきやすい点と対処を整理します。