開発の背景
現在、国内における生成AIに係る「大規模言語モデル」 (以下、LLMモデル）の開発及びサービス展開は、OpenAI社(ChatGPT)などを始めとする海外事業者が中心となっており、このままでは、国内企業のAI基盤が海外AIサービスに依存してしまう事態になりかねません。また、オープンソース(OSS)で公開されている生成AI関連の技術についても扱える技術者が少なく、国内での活用が進んでいない状況です。そこで、当社は「Magatama.AI」を展開し、オープンソースの生成AI・LLMによるDX成功事例を生み出し、国内事業者による日本企業のDX化・AIカンパニー化を進めます。
サービス概要
LLM(AI)活用に向けてのコンサルティングから実装までを一気通貫にてサポートし、導入企業の本当のDXに寄与する持続可能な組織作りとAIシステム基盤を構築いたします。
ここで構築するAIシステム基盤は以下の様な特徴を持ちます。
完全ローカル環境
外部の生成AIサービスを利用しないため、ローカル環境下でのよりセキュアな環境で運営できます。また、API利用料が個別に発生しません。
※機密性の高いドキュメントも安全に扱えます。
システム全体を軽量化し高速動作が可能
量子化・バイナリー化技術を用いて、各LLMを軽量化し、高速・並列動作できる環境を実現できます。
必要リソースが軽量
NVIDIAのGPUかAMDのGPU、もしくはM2かM3のMacアーキテクチャで、オンボードメモリかユニファイドメモリが16GB以上であれば動作可能である。（さくらインターネット/AWS/Azure/OracleなどクラウドGPUサーバーも利用可能）
システム構成例
参考情報
レガシーシステムのソースコードとドキュメント管理を効率化する「2025年の崖」対策ソリューションの基礎研究を完了
レガシーシステムのソースコードとドキュメント管理を効率化する「2025年の崖」対策ソリューションの開発を発表
