安全なオンプレミスLLM構築の新しき道

株式会社マクニカ（本社: 横浜市港北区、代表取締役社長: 原 一将、以下マクニカ）と株式会社neoAI（本社: 東京都千代田区、代表取締役CEO: 千葉 駿介、以下neoAI）は、大規模言語モデル（LLM）をオンプレミスで利用可能にする生成AI活用ソリューション提供における協業を開始することを本日発表いたします。マクニカがもつAI環境構築の専門知識とneoAIがもつ先進的なAI技術を融合し、国内企業のデジタルトランスフォーメーション（DX）加速と生成AI実用化を推進します。

■クラウドを使わないローカルLLMが求められる背景
ChatGPTをはじめとする生成AIの飛躍的な発展により、企業でのLLM環境整備が進んでいます。翻訳・要約、メール作成等の汎用的なユースケースにとどまらず、情報検索の精度を向上させるRetrieval-Augmented Generation（以下RAG）技術によって社内に蓄積されたナレッジを業務へ活かすなど、LLM活用の幅が広がっています。
現在は、パブリッククラウドベンダーが提供するクラウド上へのLLM環境構築が主流ですが、例えば設計/製造プロセスデータ、顧客情報などの機密性の高いデータを扱う場面では、クラウドの利用による情報漏洩やセキュリティの懸念があります。こうした背景から、クラウドを使わないオンプレミスで実装可能な「ローカルLLM」に注目が集まっています。ローカルLLMは、セキュリティ面の利点だけでなく、企業固有の特定業務やタスクに特化させることが可能であり、長期的にはコスト面でのメリットもあります。

■ローカルLLM構築における課題
ローカルLLM構築は、GPUリソースの調達からはじまり、LLMの推論/学習/RAGに関する専門的な知見が求められるAIインフラ構築、構築後にはアプリケーションの開発・保守やGPUインフラの運用管理など、技術的にも人的にもリソースの負担がかかり多くの企業にとって障壁となっています。また、効果的に生成AIを活用するには、ユースケースに応じた精度向上、使いやすいUI/UXへの改善、組織全体への浸透といった課題にも取り組む必要があります。

■マクニカ・neoAIが提供する生成AI活用ソリューション
AI環境構築の専門知識を持つマクニカと、生成AI活用における豊富な実績とノウハウを持つneoAIが包括的な支援体制を組み、構築から導入、伴走支援まで一気通貫で企業の生成AI活用をサポートいたします。

マクニカは、最適なハードウェアと生成AI開発・展開を加速するソフトウェアを提供し、LLMをベースとした環境構築を実施します。
neoAIは、最新のLlama 3.1、Gemini 2や、さらにはneoAI独自開発の高性能日本語LLMなど、最先端のローカルLLMを駆使し、RAGを含めた生成AI環境をオンプレミスで提供します。neoAIが提供する法人向け生成AIオールインワンパッケージ「neoAI Chat＊」の導入により、スクラッチ開発と比較してコスト削減と導入期間の短縮を実現しつつ、高品質なAIソリューションを展開することが可能です。さらに、neoAIの学習ノウハウを活かし、企業固有のデータで追加学習を行なったLLMの構築まで、幅広くサポートします。

マクニカとneoAIは、導入後も、各企業の固有の課題に応じた精度向上や機能拡張など、継続的かつきめ細やかなサポートを提供し、本ソリューションを通じて日本企業のDXを加速させ、生成AIの実用化と企業競争力の向上を強力に推進してまいります。

本発表にあたり、株式会社neoAI 代表取締役 CEO 千葉 駿介 氏は次のように述べています。
「neoAIでは、これまで金融機関様など高いセキュリティが求められる領域で生成AI活用を推進してまいりました。生成AIプロジェクトを進める中で、クラウドだけでなくオンプレミスも視野に入れたLLM環境構築のニーズを多くいただいておりました。マクニカ様との協業で、GPUの環境構築からアプリケーションまで、一気通貫でオンプレミスのLLM環境を提供できることを大変楽しみにしております。」

生成AI基盤の構築と開発に重要なAI向けGPUサーバーで両社のパートナーシップをサポートするSuper Micro Computer, Inc.（本社：米国カリフォルニア州、CEO：Charles Liang）の日本法人であるスーパーマイクロ株式会社（本社:東京都渋谷区、カントリーマネージャ兼VPセールス：James Hsieh）のジェームズ・シェー（James Hsieh）氏は次のように述べています。
「neoAI様及び弊社国内代理店マクニカ様の今回のAI基盤構築の協業にハードウェアの面で協力させていただけることを大変嬉しく思います。SupermicroのGPUサーバーは世界のAI市場を常にリードしており、国内の生成AI実用化に向けた今回の取り組みも、最先端のGPU搭載AIサーバーの提供でサポートさせていただきます。」

株式会社マクニカ　クラビス カンパニー プレジデント 伊藤 啓介は次のように述べています。
「この度、neoAI社とのパートナーシップを通じて、最先端のローカルLLMを用いた生成AI基盤構築や導入支援の提供が開始できることを大変嬉しく思います。マクニカは、お客様におけるAI開発基盤の導入に貢献してまいりました。今回のneoAI社との協業開始により、高品質な生成AIの実装と活用に向けた伴走支援を提供できることを確信しています。」
＊：neoAI Chatは、neoAIが提供する生成AIオールインワンパッケージで、50社以上の企業に利用いただいています。ドキュメントをアップロードするだけで、企業の業務ごとに特化した生成AIアシスタントを作成可能です。高性能なRAG機能だけでなく、生成AIを社内導入する上で必要な管理機能も備わっています。

【製品に関するお問い合せ先はこちら】
株式会社マクニカ　クラビス カンパニー 製品担当
Tel：045-470-9821

※本文中に記載の社名及び製品名は、株式会社マクニカ、株式会社neoAI及び各社の商標または登録商標です。
※ニュースリリースに掲載されている情報（製品価格、仕様等を含む）は、発表日現在の情報です。その後予告なしに変更されることがありますので、あらかじめご承知ください。

株式会社neoAIは、生成AI特化したソリューションを提供する東京大学松尾研究室発スタートアップです。2022年の創業以来、圧倒的な技術力とスピード感で急成長を遂げています。株式会社ゆうちょ銀行でのneoAIの生成AIオールワンパッケージ「neoAI Chat」導入や、株式会社オリックスとの協業など、生成AIの活用による業務効率化や新規事業創出を支援しています。独自のLLM開発にも注力しており、最先端のAI技術を駆使して革新的なサービスを展開しております。
neoAIについて： https://neoai.jp/

マクニカは、半導体、サイバーセキュリティをコアとして、最新のテクノロジーをトータルに取り扱う、サービス・ソリューションカンパニーです。世界26か国/地域92拠点で事業を展開、50年以上の歴史の中で培った技術力とグローバルネットワークを活かし、AIやIoT、自動運転など最先端技術の発掘・提案・実装を手掛けています。
マクニカについて：www.macnica.co.jp