サービス概要
LLM(AI)活用に向けてのコンサルティングから実装までを一気通貫にてサポートし、導入企業自身のサービスのAIによる高度化や持続可能な組織作りを支援いたします。
システム構成
構成例
チャット特化型×汎用型
チャット特化型 7Bモデル | 強力なマルチターンチャットスキルとシステムプロンプト機能を備えており、同じパラメータのモデルよりもユーザーの指示に的確に答えます。 | |
汎用型 10.7Bモデル | 107億パラメーターで学習した下地に、Depth Up-Scaling技術を用いて汎用型7Bモデルの重みをアップスケールしつつ取り入れ、より強力な特性を持たせたモデルです。 |
「プライム・ストラテジー社のYoutubeチャンネル登録者数を増やす施策を日本語で列挙して」と指示をすれば協調動作により自動的に解析と結果の表示が行われる。
チャット特化型×日本語特化型
チャット特化型 7Bモデル | 強力なマルチターンチャットスキルとシステムプロンプト機能を備えており、同じパラメータのモデルよりもユーザーの指示に的確に答えます。 | |
日本語特化型 7Bモデル | 汎用型7Bモデルに日本語のデータセットを追加学習させて、日本語の理解力と応答性能を向上させたモデルです。日本語に対しての的確な応答が可能です。 |
「社内の取引情報から特定の企業情報を検索し、営業文章を作成しつつリスト化して」と指示をすれば、企業情報を検索しつつユーザーへ確認はチャット特化型モデルが担当し、情報の内容理解と営業文章生成は日本語特化型モデルが担当する事で、質の高い営業文章を生成します。
チャット特化型×プログラム特化型×プログラム特化型
チャット特化型 2.7Bモデル | 人間が厳選した質の高いチャット応答文章に特化したデータを学習させる事で、小さいが応答性能が14Bモデル相当の高性能なチャット特化型モデルです。 | |
プログラム特化型 3Bモデル | 学習させるプログラミング言語を絞り、かつ、プログラム構成の学習に重点を置いたデータで学習させたモデルです。小さいが7Bモデル以上のプログラム構文理解性能が高いモデルです。 | |
プログラム特化型 14Bモデル | メジャーなプログラミング言語のソースコードと処理内容のデータセットを学習させたモデルです。対話などは苦手ですが、指示された特定の処理を実現するソースコードを生成する事が得意です。 |
「社内文章・メールデータから特定の企業名と関連情報を抽出し、リスト化してExcel形式のファイルに保存するプログラムを作成して」と指示すれば、LLM:Aが橋渡し役となり、LLM:BとLLM:CがそれぞれメインプログラマーとQAプログラマーとなり、自分たちでプログラム内容検証しつつ、動作可能なプログラムを生成して提供します。これにより、社内のプログラム作業工程を高速化出来ます。
デモ プログラムの自動生成
デモ動画内では「スネークゲームを作って」という簡単な命令で、完全動作するスネークゲームを2分以内で生成して実行までしています。最初、プランナーがスネークゲームを作成するまでのプランを考え、それに伴い、プログラマー、テスター、マネージャーなど計6人に及ぶエージェントに作業を割り振りつつ、協調動作して下記の作業を実行しています。
分かりやすくゲームの作成をデモとして提示しておりますが、ゲーム以外のプログラムも生成可能です。
システム構成の特徴
完全ローカル環境
APIを利用してOpenAI(ChatGPT)などの外部サービスを利用しないため、セキュリティは非常に高い上に、ローカル環境なのでAPI利用料がかからず利用し放題である。
システム全体を軽量化し高速動作が可能
量子化・バイナリー化技術を用いて、各LLMを軽量化し、高速・並列動作できる環境にしている。
必要リソースが軽量
NVIDIAのGPUかAMDのGPU、もしくはM2かM3のMacアーキテクチャで、オンボードメモリかユニファイドメモリが16GB以上であれば動作可能である。(さくらインターネット/AWS/Azure/OracleなどクラウドGPUサーバーも利用可能)
基幹システム・サービスと連携可能
コア部分は全てマイクロサービス化している為、ニーズによって御社サービスや社内システムとの連携も可能
概算費用
ステップ | 内容 | 金額 |
---|---|---|
Step1 LLM(AI)活用企画支援 | LLM(AI)導入コンサルティング ・首都圏近郊でのオンサイトミーティング可能(交通宿泊費は別途) ・調査及び資料作成に係る時間も計上となります。 ・準委任契約 | 100,000円/日/人 |
Step2 環境構築からのサービス実装 | 初期LLM構築費用 ・サーバーの調達は御社にて実施 ・OSセットアップ以降の作業を当社にて実施 ・請負契約 | (概算)2,000,000円~/環境 |
LLM環境運用費用 ・性能モニタリング ・月次レポート提出 ・サーバー障害時の対応(平日日中限定) ・請負契約 | (概算)300,000円~/月/環境 |