完全オフライン対応の生成AIシステム
[23/10/27]
提供元:PRTIMES
提供元:PRTIMES
データ検索、人材教育、業務改善をサポートする画期的なAIアシスタント
株式会社K-walk(所在地:新潟県加茂市、代表取締役:永山光夫)は、10月27日に完全オフライン対応の生成AIシステム「Chimaki(チマキ)」における社内導入および性能評価を終了し、実運用を開始しました。業務マニュアル、自社セキュリティガイドライン等のデータ検索、要約や既存データをもとにした文章生成等に活用します。
また、2023年11月中旬を目処にサービス化および導入を開始致します。
Chimakiサービスページ:https://chimaki.k-walk.co.jp/
[画像1: https://prtimes.jp/i/131853/1/resize/d131853-1-6430eba049a212aec1cf-0.jpg ]
インターネット不要で独自の言語モデルを使ったAIシステム
[画像2: https://prtimes.jp/i/131853/1/resize/d131853-1-390232b94f477ab40aa9-4.png ]
Chimakiは、インターネット接続が不要で、様々な状況下での活用が可能な生成AIシステムです。独自の言語モデル(オープンソースモデル等)による回答の生成が可能であり、利用者の疑問に対してリアルタイムで回答を検索、生成します。
現状、実用レベルの言語モデルにおいては、パラメータサイズの影響により膨大なVRAM(GPU上のメモリ)を要求されますが、量子化等の軽量化・最適化によりシングルGPUによる実用可能レベルでの文章生成が可能となりました。
これにより完全オフラインおよびローカルネットワーク(社内ネットワーク)での稼働が実現し、情報漏洩リスクや従量課金コスト問題に寄与できます。
さらに回答の生成時に事前知識として、構築済みのベクトル化したデータベースを用途によって選択・使用し、回答とともに引用部分を出力することにより、従来より問題視されていた回答の正確性や回答根拠がブラックボックス化する問題を解決できます。
今後の展開
今後は自社での試験導入結果および、試験導入の承諾を得た企業への導入結果をもとに最終的な調整および最適なデバイス選定やライセンスチェックを行った後に、正式リリースとなります。
導入や協業等をご検討の企業、自治体、団体様は、下記ページ内のフォームよりお問い合わせください。
Chimakiサービスページ:https://chimaki.k-walk.co.jp/
活用事例
Chimakiはオフラインで利用可能なLLM(Large Language Model)を搭載したシステムであり、さまざまな場面で効果的に活用できます。
●社内マニュアル等を読み込ませ、従業員の問い合わせ対応窓口として運用
●作成された文章をもとにした案内文章や案内メールの作成
●補助金関連資料や行政資料等の年度ごとに変更がある膨大な文章の要約や文章に対する検索
●バッテリー駆動端末での災害対応マニュアルQAシステムの構築
●インターネット環境がないエリアにおけるQAボット構築
代表取締役のコメント
このChimakiのサービス開始を行う前に商工会議所など複数の組織でテストしました。ここで出てきた課題は各組織における進まないDX化でした。生成AIを使用する前にマニュアルやガイドラインがない状態なのでChimakiを使いこなせれば人材、人手不足に悩む地方の官民両組織で大きな成果をあげることができると確信しております。そのため、今後の展開としてChimakiの導入やサービス展開において代理店制度や共同開発などのパートナーシップを幅広い企業に求め、このChimakiを通じて人口減少時代の日本に明るい未来を創れるようにしていきたいと考えています。
開発者のコメント
本システムは、生成AI導入時の大きな障壁であった【ランニングコスト】【セキュリティ】【出力結果の信頼性】を解決し、専門スタッフが不在の組織での生成AI活用に大きく寄与できると考えています。さらに基幹となる言語モデル自体においても日々急速な進歩があり、それを利用したシステム自体も頻繁なアップデートが推奨されるため、Chimakiはモデルの切り替えや継続的なサポート、他システムとの連携も視野に入れた技術選定、システム構築を行なっております。
株式会社K-walkについて
[画像3: https://prtimes.jp/i/131853/1/resize/d131853-1-bcbba281fe568f0d9172-3.png ]
株式会社K-walkは地方における急速な人口減少からくる様々な課題に対し、ICT技術を駆使して地域経済の衰退、人手不足、スマートシティ化の推進等のこれからの地方が取り組む利益の最大化と損失の最適化をサポートしています。
所在地:新潟県加茂市穀町9-8 水田屋ビル
代表取締役社長:永山光夫
TEL:0256-64-7470
e-mail:contact@k-walk.co.jp
HP:https://k-walk.co.jp/
株式会社K-walk(所在地:新潟県加茂市、代表取締役:永山光夫)は、10月27日に完全オフライン対応の生成AIシステム「Chimaki(チマキ)」における社内導入および性能評価を終了し、実運用を開始しました。業務マニュアル、自社セキュリティガイドライン等のデータ検索、要約や既存データをもとにした文章生成等に活用します。
また、2023年11月中旬を目処にサービス化および導入を開始致します。
Chimakiサービスページ:https://chimaki.k-walk.co.jp/
[画像1: https://prtimes.jp/i/131853/1/resize/d131853-1-6430eba049a212aec1cf-0.jpg ]
インターネット不要で独自の言語モデルを使ったAIシステム
[画像2: https://prtimes.jp/i/131853/1/resize/d131853-1-390232b94f477ab40aa9-4.png ]
Chimakiは、インターネット接続が不要で、様々な状況下での活用が可能な生成AIシステムです。独自の言語モデル(オープンソースモデル等)による回答の生成が可能であり、利用者の疑問に対してリアルタイムで回答を検索、生成します。
現状、実用レベルの言語モデルにおいては、パラメータサイズの影響により膨大なVRAM(GPU上のメモリ)を要求されますが、量子化等の軽量化・最適化によりシングルGPUによる実用可能レベルでの文章生成が可能となりました。
これにより完全オフラインおよびローカルネットワーク(社内ネットワーク)での稼働が実現し、情報漏洩リスクや従量課金コスト問題に寄与できます。
さらに回答の生成時に事前知識として、構築済みのベクトル化したデータベースを用途によって選択・使用し、回答とともに引用部分を出力することにより、従来より問題視されていた回答の正確性や回答根拠がブラックボックス化する問題を解決できます。
今後の展開
今後は自社での試験導入結果および、試験導入の承諾を得た企業への導入結果をもとに最終的な調整および最適なデバイス選定やライセンスチェックを行った後に、正式リリースとなります。
導入や協業等をご検討の企業、自治体、団体様は、下記ページ内のフォームよりお問い合わせください。
Chimakiサービスページ:https://chimaki.k-walk.co.jp/
活用事例
Chimakiはオフラインで利用可能なLLM(Large Language Model)を搭載したシステムであり、さまざまな場面で効果的に活用できます。
●社内マニュアル等を読み込ませ、従業員の問い合わせ対応窓口として運用
●作成された文章をもとにした案内文章や案内メールの作成
●補助金関連資料や行政資料等の年度ごとに変更がある膨大な文章の要約や文章に対する検索
●バッテリー駆動端末での災害対応マニュアルQAシステムの構築
●インターネット環境がないエリアにおけるQAボット構築
代表取締役のコメント
このChimakiのサービス開始を行う前に商工会議所など複数の組織でテストしました。ここで出てきた課題は各組織における進まないDX化でした。生成AIを使用する前にマニュアルやガイドラインがない状態なのでChimakiを使いこなせれば人材、人手不足に悩む地方の官民両組織で大きな成果をあげることができると確信しております。そのため、今後の展開としてChimakiの導入やサービス展開において代理店制度や共同開発などのパートナーシップを幅広い企業に求め、このChimakiを通じて人口減少時代の日本に明るい未来を創れるようにしていきたいと考えています。
開発者のコメント
本システムは、生成AI導入時の大きな障壁であった【ランニングコスト】【セキュリティ】【出力結果の信頼性】を解決し、専門スタッフが不在の組織での生成AI活用に大きく寄与できると考えています。さらに基幹となる言語モデル自体においても日々急速な進歩があり、それを利用したシステム自体も頻繁なアップデートが推奨されるため、Chimakiはモデルの切り替えや継続的なサポート、他システムとの連携も視野に入れた技術選定、システム構築を行なっております。
株式会社K-walkについて
[画像3: https://prtimes.jp/i/131853/1/resize/d131853-1-bcbba281fe568f0d9172-3.png ]
株式会社K-walkは地方における急速な人口減少からくる様々な課題に対し、ICT技術を駆使して地域経済の衰退、人手不足、スマートシティ化の推進等のこれからの地方が取り組む利益の最大化と損失の最適化をサポートしています。
所在地:新潟県加茂市穀町9-8 水田屋ビル
代表取締役社長:永山光夫
TEL:0256-64-7470
e-mail:contact@k-walk.co.jp
HP:https://k-walk.co.jp/