技術情報
エンタープライズ AI の実装ノウハウ
社内 AI 基盤の構築・運用で得た知見を、ハードウェア選定から RAG・データ連携まで整理して公開しています。
- ハードウェア
ASUS Ascent GX10（NVIDIA GB10 / DGX Spark）実機検証｜小型筐体で動かすローカルLLMの実用性
NVIDIA GB10搭載のASUS Ascent GX10を実機検証。273GB/sのメモリ帯域がスループットに与える制約と、MoEモデルによる多接続・高精度の両立、OllamaとvLLMの使い分けを、業務AI基盤の観点から解説します。
- 技術情報
データ連携基盤におけるPythonの型設計｜pydanticとdictの使い分けと渡し方
社内データをAIに連携する基盤の保守性を支える、Pythonの型設計を解説します。入出力境界でのpydanticによる検証と内部処理でのdictの使い分け、認証情報の管理、日付・タイムゾーンの正規化を整理します。
- ソフトウェア
n8nによる業務自動化の導入と限界｜日本企業の現場に定着させる設計指針
n8nによるSaaS連携とAI要約のワークフローを整理し、社内AIの本番運用に向けたコネクタの補完、大量データ処理の分離、推論基盤との役割分担を解説します。
- AI
LLM I/Oとデータ連携基盤の境界設計｜構造化出力・冪等性・スキーマ駆動・観測可能性
LLMを業務システムに組み込む際には、確率的なLLM I/Oと決定的なデータ連携基盤の境界設計が重要です。構造化出力・冪等性・スキーマ駆動・観測可能性の4原則と、入力の前処理から出力の検証・永続化までの設計を解説します。
- AI
VLMによるCAD図面・手書き図面の読み取り精度検証｜完全オフライン環境での実用性と設計指針
Qwen3-VL系の画像言語モデルでCAD図面・手書き図面の読み取り精度を完全オフライン環境で検証。標準的なCAD図面が実用域に達する一方で課題となる手書き・密集レイアウトについて、前処理・プロンプト・段階処理の設計指針と運用への組み込み方法を整理します。
- インフラ
Ubuntu 24.04でのAIサーバー構築｜社内LAN・ケーブル直結の両対応を実現するネットワーク設計
オンプレミスGPUサーバーの社内接続に必要な構築手順を整理します。Ubuntu 24.04 LTSの初期設定、Avahi（mDNS）による名前解決、リンクローカルIP固定によるケーブル直結対応に加え、再起動後の自動復旧とセキュリティ設定を説明します。
- 技術情報
CronとWebhookで構築する業務フロー自動化｜設計指針と5つの実装パターン
AI処理を含む業務フローの運用に向けて、スケジュール起動（Cron）とイベント起動（Webhook）の使い分けを整理します。月次集計や問い合わせ対応など5つの構成例と、署名検証・冪等性・状態管理の設計要件を解説します。
- AI
OllamaからvLLMへの移行設計｜ローカルLLMで複数モデルを同時運用する構成
ローカルLLM推論エンジンとして広く使われるOllamaとvLLMを比較し、社内AI基盤を本番運用へ移行する設計指針を整理します。APIの変更点、Embeddingサーバーの分離、GPUメモリの割り当てと起動順序を解説します。
- インフラ
CUDA実行環境の選定指針｜ベアメタル・Docker・VMの構造比較とユースケース別の最適解
社内のGPU推論基盤を構築・運用する担当者向けに、ベアメタル・Docker・VMの構造的な違いを整理します。CUDAとドライバの互換性、権限設定、GPUの台数や用途を踏まえ、実行環境の選定に必要な判断材料を示します。
- RAG
pgvectorで構築するRAG基盤｜PostgreSQL拡張によるベクトル検索の設計と実装
RAGのベクトル検索に専用DBは必須ではありません。PostgreSQL拡張のpgvectorとSQLAlchemy + Pydanticを用いて、型安全かつ既存テーブルとJOIN可能なベクトル検索基盤を構築する手法を、設計指針と実装コードを交えて解説します。
- RAG
RAGのベクトルインデックス選定｜HNSWとIVFFlatの比較と本番運用ガイド
RAGの本番運用に向けて、HNSWとIVFFlatの特性を比較します。pgvectorでの実装例とともに、データ規模・メモリ制約に応じた選定指針と運用上の要点をDigitalBaseの知見として整理します。
- 技術情報
LLMファインチューニング向けデータセット設計｜量より質を実現する実践指針
業務向けLLMのファインチューニングに必要なデータ品質の判断基準と、本番環境に合わせたデータ設計、評価時の注意点を整理します。データ汚染、過学習、破壊的忘却への対策と、データ準備・品質保証のチェックリストを紹介します。
- ハードウェア
ローカルLLM選定｜MoE（gpt-oss-20b）とDense（Gemma 3 12B）の比較と業務での選び方
ローカルLLM導入時に検討されるMoE（Mixture of Experts）モデルについて、gpt-oss-20bとGemma 3 12Bを題材にアーキテクチャの違い、性能特性、実効パラメータ数、業務用途での選定指針を整理します。
- ハードウェア
Ollamaファインチューニングのチャットテンプレート比較｜ChatML・Gemma・Llama形式の構文と実装指針
Ollamaでのファインチューニングでは、チャットテンプレートの選択が出力品質を左右します。学習時と推論時でテンプレートが一致しないとモデルは期待どおりに応答しません。ChatML・Gemma・Llamaの3形式の構文と、Ollamaでの設定・運用上の注意点を整理します。
- RAG
RAGのEmbedding次元設計｜768d/1536d/3072dの比較と選定指針
社内RAG基盤のEmbedding次元数について、768・1536・3072次元の検索精度、ストレージ容量、検索速度を比較します。次元数の指定方法と、データ規模や業務要件に応じた選定指針を整理します。
- RAG
RAG構築におけるEmbedding選定｜OpenAI APIとOllama（ローカルLLM）の実装差と運用設計
RAGの本番運用に向けて、OpenAI APIとOllamaによるEmbedding生成の選択基準を整理します。モデルの特徴、メタデータ設計、コスト構造、モデル切り替え時の注意点を解説します。
- ハードウェア
LLMファインチューニングのデータ形式｜Alpaca形式とChatML形式の比較とUnsloth実装指針
LLMファインチューニングで用いる代表的なデータ形式、Alpaca形式とChatML形式を比較します。データ構造の違い、Unslothでの取り扱い、業務用途に応じた形式選定の判断基準を解説します。
- ソフトウェア
ファインチューニングの最適データ量｜モデルサイズ・タスク別の設計指針
業務向けモデルのファインチューニングに必要なデータ量を、モデルサイズとタスク別に整理します。過学習や既存知識への影響、調整後の性能を評価する指標も解説します。
- ハードウェア
ベアメタル・Docker・WSL2の環境差分｜AI開発基盤の比較と選定指針
社内AI基盤の本番運用に向けて、ベアメタル・Docker・WSL2の性能、環境再現性、管理上の注意点を比較します。PoCから本番への移行を想定し、用途別の選定指針と運用構成を整理します。
- 技術情報
社内LANで構築する安全なAI開発環境｜0.0.0.0バインドとポートフォワーディングのリスク設計
社内AIサービスの共有に必要な、バインドアドレスとポートフォワーディングの関係を整理します。NATの動作、外部公開時の対策、LAN内の開発環境でのアクセス制御と動作確認手順を解説します。
- ハードウェア
ローカルLLMのモデル規模別 GPU選定ガイド｜VRAM・メモリ帯域から考える実用構成
ローカルLLMやRAGを社内で運用する際のGPU選定指針を、VRAM容量とメモリ帯域の観点から整理します。RTX 40/50シリーズの世代差、モデル規模別の推奨構成、量子化前提の実用ラインを、業務AI基盤の構築という視点で解説します。
- ハードウェア
ローカルLLM向けGPU接続インターフェース比較｜PCIe直挿しとThunderbolt eGPUの実効帯域と性能差
社内LLM基盤の構成選定に向けて、PCIe直挿しとThunderbolt eGPUの接続帯域、LLM推論のデータフロー、CPUメモリへの退避やGPU間通信による影響を整理します。
- ハードウェア
Core i7-13700 と Core i9-12900 の比較と選定指針｜ローカルLLM・RAG基盤に適したCPU
社内のローカルLLM・RAG基盤を支えるCPUとして、Core i9-12900とCore i7-13700を比較します。推論性能、冷却性、メモリI/O、RTX 4060併用時の差を整理し、長時間稼働を想定した選定指針を解説します。
- ハードウェア
RTX 4060 / RTX 4070 比較と選定指針｜ローカルLLM推論に適したGPUの考え方
RTX 4060とRTX 4070をローカルLLM推論の観点で比較します。VRAM容量とメモリ帯域がモデルサイズの上限と推論速度を決める仕組みを整理し、8B〜20Bクラスを扱う社内検証機の選定指針と、同時利用を検討する際の注意点を解説します。
- 技術情報
ローカルLLM導入ガイド｜gpt-ossとLM StudioでオフラインAI環境を構築する
クラウドに依存せず社内のPCでLLMを運用する「ローカルLLM」の導入手順を、業務活用の観点から解説します。gpt-ossモデルとLM Studioを用いたセットアップ、推奨スペック、日本語化、GPU認識の確認を説明します。
- 技術情報
Next.js + FastAPIによるAIアプリ基盤｜SQLAlchemyを軸にしたDB・API設計の指針
Next.jsとFastAPIを用いた業務AIアプリケーションの本番運用に向け、SQLAlchemyによるデータアクセスの集約、DB接続管理、APIのアクセス制御、認証、パフォーマンス最適化の設計指針を整理します。
- ハードウェア
ローカルLLM向けCPU選定｜Intel/AMDのAVX-512対応状況と確認方法
社内AI基盤でCPU推論を利用する際の選定要素として、AVX-512の基本とAMDの対応状況、サーバー・ワークステーション向けの選択肢を整理します。llama.cppやOllamaでの対応確認と量子化形式の評価方法も紹介します。
- 技術情報
Unsloth・LoRA・QLoRAで実現するLLMファインチューニングの高速化と省メモリ化｜手法比較と選定指針
LLMファインチューニングの課題であるGPUメモリ使用量と学習時間について、LoRA・QLoRA・Unslothによる削減手法を整理します。各手法の原理と実装、実測ベンチマーク、GPUリソース別の選定指針を、社内AI基盤構築の観点から解説します。
- ハードウェア
ローカルLLMハードウェア選定ガイド｜VRAM・メモリ帯域・コスト効率から考える構成設計
ローカルLLMを業務で運用するためのハードウェア選定を、VRAM容量・メモリ帯域・コスト効率の観点から体系的に整理します。量子化によるVRAM削減、GPUの使い分け、推論サーバーの選択と運用監視の要点を解説します。
- アプリ開発
社内AI基盤のアクセス制御設計｜RBAC・ABAC・最小権限で守る権限管理の実装指針
社内AI／RAG基盤に必須となるアクセス制御の設計指針を整理します。RBAC・ABAC・PBACの使い分け、最小権限と職務分離、データアクセス制御、監査ログの設計と確認手順を解説します。
- ハードウェア
Ollama実行環境のハードウェア比較と選定指針｜VRAM容量・コスト効率・実測スループット
社内AI基盤でOllamaを運用するためのハードウェア要件を、VRAM容量を軸に整理します。GPUとCPUの推論性能、メモリ・ストレージ要件、クラウドGPUとのコスト比較を通じて、企業の環境選定に必要な判断材料を示します。