Service Detail // サービス詳細

ローカルAI・社内AI基盤構築

LOCAL AI / PRIVATE AI INFRASTRUCTURE

社内の情報を、むやみに外へ出さないAI環境を。

生成AIを業務に使いたい。でも、顧客情報・社内文書・技術資料を外部のAIサービスへ送ることには不安がある。そこで止まっているご相談を、よくいただきます。

OVERWRITEでは、ローカルLLMやオンプレミスの社内サーバーを活用し、企業・学校・組織専用の生成AI環境を設計・構築します。ローカルLLMを売ることが目的ではありません。扱う情報とAI環境の置き場所を、業務から設計するサービスです。

神戸を拠点に、兵庫・関西の企業や学校を中心にご支援しています。打ち合わせはオンラインでも対応できるため、地域は問いません。

// 構築できるもの

企業の社内利用のほか、学校や組織の中だけで使える生成AI環境としてもご相談いただいています。

01
社内専用AIチャット
ブラウザから使える、組織専用のAIチャット環境。ChatGPTのような操作感のまま、文章作成・要約・質問・アイデア整理・プログラミング支援などに使えます。
02
社内文書検索 / RAG
社内マニュアル、PDF、Word、Excel、技術資料などをAIから検索・参照できる環境。一般的なAIの知識ではなく、自社の情報をもとに答えるAIにします。
03
開発・技術支援AI
ソースコード、AWS構成、Terraform、社内システムの仕様書などを参照し、開発者や社内SEを支援するAI環境を構築します。
04
AIエージェント
検索、文書処理、データ整理、社内システム連携など、AIが複数の処理を組み合わせて業務を支援する環境を構築します。

// 構成例と技術スタック

用途と規模に応じて選定します。下記は代表的な組み合わせで、ここから要件に合わせて調整します。

CASE:01 // 小規模
数名〜十数名
手元のMacやPCを活かして、まず社内AIチャットから始める構成です。
  • Mac mini / Apple Silicon
  • Ollama / LM Studio
  • Open WebUI
  • ローカルLLM
CASE:02 // 中規模
部署単位
GPUを積んだ機材を置き、社内文書検索まで含めて使う構成です。
  • GPU搭載PC / Linux Server
  • Ollama / vLLM 等
  • Open WebUI
  • RAG
CASE:03 // 組織利用
全社・学校単位
認証とアクセス権限を入れ、組織全体で安定して使う構成です。
  • GPU Server
  • 認証・ユーザー管理
  • RAG / Vector Database
  • 社内システム連携
CASE:04 // ハイブリッド
使い分け
日常の処理はローカル、高い精度が要る処理だけクラウドに寄せる構成です。
  • ローカルLLM
  • Amazon Bedrock 等
  • AWS
  • 社内データ
※「すべてローカル」に固定しません。情報の機密性・AI性能・利用人数・運用コストを比較したうえで、構成を決めます。※実際のデータ送信範囲は、利用するモデル・ソフトウェア・外部連携によって変わります。設計時に一つずつ確認します。

// コストの考え方

CLOUD AI
クラウドAI
利用人数・API利用量
使うほど、月額・従量費が増えていく
LOCAL AI
ローカルAI
初期ハードウェア+構築費
一定量以上使うと、従量費を抑えやすい
HYBRID
ハイブリッド
日常処理はローカル/高性能AIが必要な処理はクラウド
使い分けて、両方のいいところを取る
「ローカルのほうが安い」とは限りません。利用量が少なければ、クラウドAIのほうが総額は安く済みます。どこから逆転するかは、利用人数と処理量によって変わります。そこも含めて診断で試算します。

// 向いているケース / 向かないケース

LOCAL AI // 向いていること
ローカルAIで得られること

データの扱いを自分たちで決められる
処理する情報を自社の管理環境内に限定できる構成を選べます。※実際の送信範囲は利用するモデル・ソフトウェア・外部連携によって変わるため、設計時に一つずつ確認します。

API従量課金を抑えられる
ローカルLLMで処理する分は、外部LLM APIの利用回数に応じた従量課金がかかりません。大量の文章処理や、社内で使う頻度が高い環境ではコストメリットが出る場合があります。

自社専用に拡張できる
社内文書検索、RAG、AIエージェント、既存システム連携など、業務に合わせて後から足していけます。

ユーザー単位の外部AI契約を抑えられる
サーバー性能の範囲内であれば、複数のユーザーが同じ社内AI環境を使えます。人数分の外部AI契約を積み上げずに済む構成も選択できます。※必要なライセンスは利用するソフトウェアによって異なります。

CAUTION // 向かないこと
ローカルAIにも、向かないケースがあります

常に最新・最高性能のモデルを使いたい
モデルの進化は速く、最上位の性能を追い続けるならクラウドAIのほうが合理的です。

大規模なGPU設備が必要になる
求める性能によっては、ハードウェアの初期費用と電力・保守の負担が見合わないことがあります。

利用頻度が低い
たまにしか使わない用途なら、従量課金のクラウドAIのほうが総額は安く済みます。

私たちは「ローカルAIを売る」ことを目的にしません
ローカルAI/クラウドAI(ChatGPT・Claude・Amazon Bedrock 等)/ハイブリッドを比較し、業務・セキュリティ・予算に合う構成をご提案します。結果として「クラウドのままでいい」という結論になることもあります。

// 導入の流れ

STEP_01
業務・データ整理
何にAIを使いたいか、どの情報を扱うか、利用人数、セキュリティ要件を整理します。ここが一番大事です。
STEP_02
AI・インフラ選定
ローカルLLM、Mac / PC / GPU Server、AWS・Amazon Bedrock 等を比較し、構成の候補を絞ります。
STEP_03
PoC
小規模な環境を構築し、回答の品質・速度・業務での効果を実際のデータで確認します。
STEP_04
本番構築
認証、RAG、アクセス権限、バックアップ、監視までを含めて本番環境を構築します。
STEP_05
運用・改善
モデル更新、社内データ追加、AIエージェント化、利用状況の改善まで継続して支援します。
NOTE
STEP_01だけでも構いません
「ローカルにする必要はなかった」と分かることも、立派な成果です。整理だけで終わっても問題ありません。

// 料金

プラン費用内容
ローカルAI導入診断 5万円〜 用途・利用人数・データ・セキュリティ要件を整理し、ローカル/クラウド/ハイブリッドを比較。構成案+推奨AIモデル+必要ハードウェア+概算費用+導入ロードマップをお渡しします。
ローカルAI PoC構築 30万円〜 実機または検証環境にAIチャット・LLMを構築し、実際の業務データで使えるかを検証。動作するPoC+AIモデル選定+性能評価+本番構成案をお渡しします。
社内AI基盤構築 個別見積 AIチャット、RAG、認証、ユーザー管理、アクセス権限、バックアップ、監視までを含む社内利用環境を構築。規模・利用人数・RAG・認証・システム連携により個別にお見積りします。ハードウェア費用は別途。
運用・改善 月5万円〜 モデル更新、RAGデータ追加、バックアップ、監視、利用改善などを継続支援します。
※価格は内容により変動します。まずは無料相談で、御社に合う構成と概算をお伝えします。

「社内でAIを使いたい。でも、データをどこまで外に出していいか分からない。」

その段階から相談できます。ローカルAIが向いているのか、クラウドAIのほうが合理的なのかも含めて整理します。まずは30分、いまの業務と扱いたいデータについて聞かせてください。

ローカルAIについて無料相談する →