WEELメディア事業部AIライターの2scです。
みなさん！生成AIの陰で注目を集める「エッジAI」はご存知ですか？
エッジAIとは、端末機器上でAIモデルを稼働させる形態のこと。小型LLMの進歩によって、生成AIでもエッジAIが実現できるようになってきています。
このエッジAI化した生成AIなら、API料金は一切不要で、24時間アイデア出しができます！さらに、金融・医療分野レベルの厳しいセキュリティ要件下でもセキュアに運用できます。
当記事では、そんな生成AI導入の新たな形・エッジAIの詳細を探っていきます。エッジAI化した生成AIの活用事例まで詳しく解説しておりますので、完読いただくと、諦めていた生成AI導入が実現しちゃうかもしれません。
ぜひぜひ、最後までお読みください！
エッジAIとは
初めに、小型LLMの登場でさらなる注目を集める「エッジAI」について、概要をお届けします。関連する「生成AIのエッジAI化」や「オンプレミス」についても以下、詳しくみていきましょう！
エッジAIの概要
「エッジAI（Edge AI）」とは、ネットワークの末端に位置する端末機器（エッジデバイス）に直接AIモデルを実装する体制・システムを指します。
このエッジAIについては、AIモデルの一連の処理を端末機器内で完結させる（エッジコンピューティング）のが特徴。その性質上、下記のようなメリットが期待できます。
- 応答速度に優れ、リアルタイムでの処理・応答ができる
- インターネットにアクセスできない環境でも動かせる
- 外部ネットワークとの通信が不要で、セキュアに運用が行える
- 通信費やサーバーのレンタル費用が抑えられる
そんなエッジAIはこれまで、物体検出や予測等のシングルタスクに特化した小型AIモデルでのみ、採用されてきました。
ですが昨今では、エッジAIとして使える小型のLLM（大規模言語モデル）も登場。ワークステーションやノートPC上で、汎用性・創造性に優れた生成AIが動かせるようになってきています。
オンプレミスとの関係性
エッジAIは、自社保有のハードウェア・ソフトウェアでシステムを構築する「オンプレミス（On-premise）」と組み合わせることで、その強みをフルに発揮します。
エッジAI自体の強みに、オンプレミスの下記のメリットが加わることで、
- 実装したいAIモデルに合わせてハードウェアが選べる
- 外部ネットワークへのアクセスをゼロにできる
- 通信・処理速度が安定している
セキュアかつ快適なAIシステムが構築可。セキュリティ要件の厳しい業界であっても、エッジAI化した生成AIがストレスなく使えます。
エッジAIとクラウドAIとの違い
エッジAIとしばしば比較される「クラウドAI」は、社外のリソースにAIモデルを実装して運用する体制です。
このクラウドAIでは、膨大な計算リソースが使えるため、大型の生成AI（GPT-4o / OpenAI o1 / Claude 3…etc.）も利用可能。さらにAPIを経由することで、社内の端末機器からでもAIモデルにアクセスできるようになっています。
そんなクラウドAIとエッジAIの違いはズバリ、AIモデルの使用時に社外へのアクセスがあるか否かにあります。先述のエッジAIの場合は、社内の端末機器単体でもAIモデルが稼働させられました。
対して、クラウドAIの場合はAIモデルを稼働させる度に社外リソースへのアクセスが必要。リソースを提供しているクラウドサービスに、社内データと利用料を渡さなくてはいけません。データを社外に出してはいけない等、セキュリティ要件の厳しい業界では導入が難しいでしょう。
なお、オンプレミス×生成AIの組み合わせについて詳しく知りたい方は、下記の記事を合わせてご確認ください。
エッジAIにできること
ここからはエッジAIのなかでも「エッジAI化した生成AI」に焦点を当てて、2024年10月時点でできることを3点ご紹介します。「厳しいセキュリティ要件下で生成AIを使いたい！」とお考えの方は必見です。
業務特化のタスク
生成AIは1つのタスクに特化させて余分なパラメータを削ぎ落とすことで、回答の品質を担保しながらのエッジAI化が可能。特化させるタスク自体は下記のとおり自由で、複数のエッジAIを組み合わせて使うこともできます。
- 問い合わせ対応
- レポート
- 要約
- コーディング
- アイデア出し
…etc.
ChatGPTと異なり「あらゆるタスクに1モデルで対応できる」わけではありませんが、組み合わせ次第で幅広い業務に適用できるでしょう。
初歩的なAIエージェント
RPAやBot等のソフトウェアプログラムと生成AIを組み合わせた「AIエージェント」は、エッジAIでも実現可能。自律型AIエージェントとまではいきませんが、UI操作やコーディングを手伝う初歩的なAIエージェント（≒コパイロット）であれば十分に開発できます。
ノートPC（AI PC）への実装
ワークステーションやデスクトップのほかノートPCでも、生成AIのエッジAI化が可能。高性能GPUを備えたゲーミングノートPCやLLM稼働用のプロセッサ（NPU）を備えた「AI PC」に生成AIを組み込むことで、通信環境を問わずその恩恵が受けられるでしょう。
なお、GPU上でチャットボットを実装できるソリューションについて詳しく知りたい方は、下記の記事を合わせてご確認ください。
エッジAIにまだできないこと
続いては、エッジAI化した生成AIについて、現時点でできないことも2点ご紹介します。先ほど少し触れた「自律型AIエージェント」から、詳しくみていきましょう！
自律型AIエージェントへの実装
自ら手順を組み立てて幅広いタスクをこなす高度なAIエージェント「自律型AIエージェント」は、エッジAI化した生成AIでの実現が困難です。
というのも、自律型AIエージェントは大型LLMならではの汎用性に基づく技術。自律型AIエージェントに組み込まれるLLMは……
- 幅広い質問に対応する能力
- 幅広いツールと連携する能力
を備えている必要があるのです。エッジAI用の小型LLMでは、以上の要件が満たせません。
正確性が求められるタスク
エッジAI化した生成AIはChatGPT以上に、ハルシネーションやズレた回答を返してしまいます。そのため、正確性を要するタスクには適用できません。そのようなタスクにはRPAやルールベースのほうが適任でしょう。
エッジAIが活躍できるケース
ここからは、エッジAI化した生成AIが活躍できる場面を5つに分けてご紹介します。社内専用の生成AIをご検討中の方は、こちらも必見です！
クラウド化が難しい場合
これまでの生成AI導入のスタイルは、クラウドサービスや各種SaaSと組み合わせる前提での「クラウドAI」が主流。クラウド化や各種DXを行なっていない企業様の場合、生成AI自体の導入費用は安価でも、環境構築に多大な初期投資が必要でした。
対して、エッジAIとして導入する場合ならクラウド化・DXがまだでも、生成AIが使えます。初期投資も生成AI対応のノートPCが10万円から、とリーズナブル。こちらは、クラウド化のコストに阻まれて生成AI導入を断念されていた企業様におすすめです。
会社のセキュリティ要件が高い場合
クラウドAIとして生成AIを活用する従来のスタイルでは、入力した内容が生成AIの提供元に送信されます。規約上入力内容はAIモデルの学習に使われませんが、それでも社外・部外の第三者が閲覧できる状態にあります。そのため、論文や図面を扱うセキュリティ要件の高い企業様では、安心して生成AIを活用いただけませんでした。
対して、エッジAI化した生成AIであれば、入力内容が社外・部外に渡る心配はありません。セキュリティ要件の高い企業様でも、無理なく導入いただけるでしょう。
法律上第三者提供ができない場合
保険業界・金融業界・医療業界等、法律上社内データを第三者に提供できない業界でも、エッジAI化した生成AIなら導入が可能。問い合わせ対応や文書作成で、生成AIの力が借りられるようになります。
大量のデータを処理したい場合
従来のクラウド型生成AIでは、入力・出力に対して従量課金制で利用料が請求されます。そのためアンケート分析やアイデア出し等、大量のデータを処理するタスクでは予想外に大きなランニングコストがかかっていました。
対して、エッジAI化した生成AIなら、電気代以外のランニングコストがほぼゼロになります。こちらは「生成AIに夜通しアイデア出しをさせる」といった使い方を想定されている企業様におすすめ。ワークステーションの導入等、初期投資は必要ですが、ランニングコストの差額で元が取れるでしょう。
処理速度を求める場合
顧客向けのチャットボット等、素早い応答を要するタスクもエッジAI化した生成AIの得意分野。質問から回答までにタイムラグがある従来のクラウド型生成AIとは異なり、数秒ほどで応答が可能となります。
エッジAIの実際の活用事例
続いてはエッジAI化した生成AIの活用事例について、弊社のお客様のケースから4つお見せします。まずは、病院での活用事例からご覧ください！
病院
ある病院では試行錯誤の末、エッジAI化した小型LLMの活用が始まろうとしています。
弊社のお客様であるこの病院では2024年4月の段階から、競合に先駆けて小型LLMの試験運用が行われてきました。ですが、回答の品質が不十分であったため、同年5月の時点で実用化は保留となっています。
その後、同年6月に入力データとプロンプトの形式を見直してリトライしたところ、十分なクオリティの回答が実現。小型LLMの実用化が秒読みとなっています。
保険会社
セキュリティ要件がとりわけ厳しいケースでは、自社データの入力の有無を問わず、クラウド型生成AIが導入できませんでした。弊社をご愛顧いただいているある保険会社様もこのケースで、エッジAI化した生成AIの導入をご検討されています。
当初、こちらのお客様とは本格的な計算リソースも含めての生成AI導入を目指しておりました。ですが、費用対効果の面からその計画は一旦保留となります。
その後、関連技術の進歩により、より安価なワークステーションでの生成AI稼働が実現可能に。こちらのお客様は最終的に、部門・チームを絞ってワークステーション上での文書作成から、エッジAI化した生成AIの活用を始められています。
このように技術の進歩を待つことで、生成AIの導入が成功する事例もあります。「今後、機会があれば生成AIを導入したい」とお考えの方は、当メディアの最新記事もチェックいただけると、導入がスムーズに行えるかもしれません。
コンサル会社
弊社にご依頼くださったあるコンサル会社様では、エッジAI化した生成AIとRAGを組み合わせたチャットボットを活用されています。こちらの事例でも本格的な計算リソースの導入は一切なし、ハイエンドのデスクトップのみでチャットボット用の環境が用意できました。
ちなみに現在、そのチャットボットは社外秘・部外秘のノウハウで新人社員をサポート中。業務に欠かせないアイデア・広い視野を提供しているそうです。
全国各施設内でのチャットボット
全国に施設を抱える企業様も、エッジAI化した生成AIの導入をご検討されています。
こちらのお客様は、全国各施設内で処理が完結するチャットボットの開発を目指されていました。施設ごとの予算に限りがあった中……
- まずは1店舗から、RAGの検索機能のみを試験導入
- 検索結果に基づく回答生成（RAG）も試験導入
- 他店舗への導入も検討開始
以上の段階を踏んで、チャットボットの開発・導入に成功されています。こちらの事例のように、生成AIの導入はスモールステップから始めるのがおすすめです。
エッジAIの今後
ここまでお伝えしてきたように、生成AI周りの技術は日夜、目覚ましい進歩を遂げてきました。いまや、サーバー等の本格的な計算リソースを用意せずとも、ノートPC一台で十分に生成AIが使えます。今後、生成AIはエッジAIとしての実装が当たり前になってきそうです。
そんなエッジAI化した生成AIに、今後期待できそうなこととしては……
- プロセッサユニットの進歩に伴う、実装できるAIモデルの大型化
- コンテキストウィンドウ増加による、小型LLMの理解力・一貫性の向上
- AIエージェントの発展に伴う、ノートPC一台での業務自動化
以上が挙げられます。今後も、生成AI関連のニュースからは目が離せませんね！
なお、生成AIのこれまでついて詳しく知りたい方は、下記の記事を合わせてご確認ください。
「エッジAI」なら、業界問わず生成AIが導入可能！
当記事では、生成AI導入の新たな形「エッジAI」について解説しました。
以下にてもう一度、エッジAI化した生成AIが活躍できるケースを振り返っていきましょう！
- クラウド化が難しい場合
- 会社のセキュリティ要件が高い場合
- 法律上第三者提供ができない場合
- 大量のデータを処理したい場合
- 処理速度を求める場合
ノートPC一台で生成AIをラクラク動かせる時代は目と鼻の先。すでに、各業界で生成AIのエッジAI化が始まっています。
これを機に生成AI導入を検討される企業様も増えてくるはずですので、「競合に先手を打ちたい」とお考えの方はぜひ、弊社の無料相談をお試しください！
最後に
いかがだったでしょうか？
弊社では
・マーケティングやエンジニアリングなどの専門知識を学習させたAI社員の開発
・要件定義・業務フロー作成を80%自動化できる自律型AIエージェントの開発
・生成AIとRPAを組み合わせた業務自動化ツールの開発
・社内人事業務を99%自動化できるAIツールの開発
・ハルシネーション対策AIツールの開発
・自社専用のAIチャットボットの開発
などの開発実績がございます。
まずは、「無料相談」にてご相談を承っておりますので、ご興味がある方はぜひご連絡ください。
︎生成AIを使った業務効率化、生成AIツールの開発について相談をしてみる。
「生成AIを社内で活用したい」「生成AIの事業をやっていきたい」という方に向けて、生成AI社内セミナー・勉強会をさせていただいております。
セミナー内容や料金については、ご相談ください。
また、弊社紹介資料もご用意しておりますので、併せてご確認ください。
