失敗しない生成AI導入のロードマップ。業務を変革する「仕組み」の作り方

今回のコラムでは、生成AIを導入する時に知っておきたいポイントや導入のステップ、また、導入時のリスクと解決策を解説します。

生成AI導入とは何か？

生成AI導入は「ツール導入」ではなく「業務プロセス変革」である

生成AI導入とは、ChatGPTなどのツールを使い始めることではありません。生成AIを使って、「どの業務を、どのように改善するか」を設計して、業務プロセスそのものを変革する取り組みです。

ChatGPTなどの生成AIに触れていると、その賢さゆえに、何でも解決してくれる“考える道具”だと捉えがちです。しかしビジネスの現場では、生成AIに考えることを任せて、”いい感じ”の答えを出してもらおうとしても、多くの場合うまくいきません。

生成AIとは、“考える道具”ではなく、正しく設計された業務プロセスの中で初めて価値を発揮する部品として捉えることが大切です。

なぜ生成AI導入はうまくいかないのか

生成AIの導入がうまくいかない場合の原因は、多くの場合、生成AI自体ではありません。「人の仕事をどう分解し、どうAIに渡すか」が整理されていないことにあります。

生成AIを「どう使うか」、「何をさせるか」に注目が集まる一方で、業務内容、AIに参照させる知識やデータ、運用ルールについて、分析や設計が後回しにされることで、生成AIの活用方法が属人化してしまったり、実際の業務とズレが生じたりといった問題が起こりやすいのです。

生成AI導入は、単なるツール導入ではなく、業務プロセス変革であり、仕組みの設計がとても大切です。

生成AI活用の目的は「知識の取得」と「自動化」

業務での生成AI活用の目的は、突き詰めていえば「知識・知恵の取得」と「仕事の自動化」の二つの方向性があります。これらのどちらか一方のみを目的とするのではなく、両方を狙った活用方法も多くみられます。

生成AIの活用例をご紹介します。

• 人事部門向け、求人票の自動生成（仕事の自動化）
  • 人事担当者の業務負荷を減らすため、担当者は関連するキーワードを選択するだけで、企業の求人票を自動で作成。
• 金融市場分析・情報提供（知識・知恵の取得）
  • 金融情報を提供するメディア企業が、蓄積した膨大な金融データを生成AIに学習させ、金融市場の高度な分析と情報提供を実施。
• 自動車工場での検査の自動化（仕事の自動化）
  • 製品画像を分析し、製品の欠陥や異常を特定することで、品質管理を向上。
• ライブコマースでAIが質問に回答（仕事の自動化／知識・知恵の取得）
  • ライブコマース（SNSを活用した物販）で、ライブ販売中に視聴者がチャットで質問するとAIがリアルタイムで回答
• 販促用メールの作成（仕事の自動化）
  • 顧客の嗜好に合わせて、生成AIが興味をひきやすいメール文を自動で作成
• 市場調査とキャンペーン企画（仕事の自動化／知識・知恵の取得）
  • マーケティング担当者向けに、生成AIが市場の動向や消費者の反応、競合の活動などを分析し、マーケティング計画を策定。

「コスト削減」と「売上向上」という二つの効果

AIを活用することで、コスト削減あるいは売上向上を実現することができます。

これまで人が行っていた煩雑な作業を自動化するという用途が多いことから、人の作業時間や手間の削減を通じたコスト削減を狙うケースが多いと言えます。

一方で、売上向上効果を実現する例としては、マーケティング業務にて生成AIによる情報分析とコンテンツのパーソナライズを行い、見込み客の獲得数を増やすケースなどが挙げられます。

失敗しない生成AIの導入ステップとロードマップ

生成AIの導入は、次のステップで行います。

1. 課題分析と生成AI導入対象の絞り込み
2. 目的・目標設定
3. PoC（実証実験）
4. 仕組みの設計・実装
5. 運用

生成AI導入におけるリスクと注意点

生成AI導入のリスクは、セキュリティ・法的なリスクと、システム品質・運用に関するリスクの二つに分けられます。

セキュリティ・法的なリスク

• 情報漏洩・セキュリティリスク
  • 個人が自由にプロンプトを入力する形で生成AIを使う場合は、社内情報・顧客情報・未公開資料などが本人の自覚なく混在しやすくなります。これは技術的な問題ではなく、情報の流れが可視化・制御されていない設計上の問題だと言えます。
• 著作権侵害・コンプライアンスリスク
  • 生成AI自体では完全には解決できないリスクもあります。特に「著作権侵害」「コンプライアンス」など法的責任につながる領域では、人のチェックも含めてプロセスを設計することが重要です。

システム品質・運用に関するリスク

• 誤回答・判断ミスのリスク
  • 生成AIがウソの回答をするハルシネーションは、「どの知識を根拠に答えるか」が定義されていないことで発生します。ハルシネーションを抑制するために、社内ルール、最新の資料、判断すべき領域を指定することが必要になってきます。
• 生成AI活用の属人化・ブラックボックス化のリスク
  • 運用段階では、生成AIを「うまく使える人」と「そうでない人」の差が生まれやすくなります。この差を放置すると、業務そのものが特定の個人に依存してしまうことになるので注意が必要です。
• 使われなくなるリスク
  • 費用対効果の観点では、導入した仕組みが使われなくなることは、ビジネスリスクと言えます。使われないシステムが生まれる原因の一つは、導入時に“運用の設計”がされていないことです。

リスク対策の考え方

情報漏洩、属人化、誤回答、定着しないといった問題は、「生成AI自体」と、「生成AIの使い方」の両方の観点で原因と対策を検討していくことが大切です。

次節以降では、リスク対策という観点も含めて「生成AIの使い方」を解説していきます。

生成AIを業務で使うために必要な3つの要素

必要な3つの要素

生成AIを業務で安定して使うためには次の3つの要素が必要です。

• 生成AIモデル
• 知識データ
• ワークフロー

要素① 生成AIモデル

生成AIモデルとは、AIの頭脳の部分です。一般向けのサービスとしては、OpenAIのGPT、GoogleのGemini、AnthropicのClaudeなどが有名です。

生成AIモデルは、質問への回答、文章作成、翻訳などさまざまなタスクを1つのAIモデルで行える汎用性が特徴です。「与えられた文章の後に続く文章を予測する」という技術が生成AIモデルのベースとなっています。

生成AIモデルを企業のビジネスプロセスで活用する場合には、企業向けのサービスを利用するのが一般的です。ビジネス用途では、次の3点が満たされているサービスを選ぶことが重要です。

この3点を満たすサービスとして、Microsoft Azure OpenAI、Amazon Bedrock、Google Vertex AIの3つが有力です。それぞれの特徴は次の通りです。

これら3つのサービスでも、一般ユーザー向けのChatGPTやGeminiなどに組み込まれている頭脳（AIモデル）が利用されています。例えば、ChatGPTで使われている”GPT”は、Azure OpenAIの頭脳として利用できます。

要素② 知識データ

生成AIを業務に活用する場合、利用企業や対象業務に特有の知識や情報に基づいて、生成AIに回答させたいケースが多くあります。

例えば社員からの質問に社内規定に沿って回答するチャットボットを作りたい、自社商品の特徴をわかりやすく伝えるメールを作成したい、などの要望がある場合、独自の知識やデータを生成AIに与える必要があります。

それを実現する方法として、プロンプトに、指示に加えて知識も組み込むことで、独自の回答をさせることもできます。プロンプトに組み込めばよいので難易度も低く、高い精度の回答も期待できます。

しかしこの方法にも欠点があります。毎回プロンプトに情報を与える必要があるために、入力する人それぞれのやり方に依存してしまうこと、プロンプトが長くなり生成AIの利用コストが膨らんでしまうことなどです。

これを解決するためのひとつの方法として、RAGという技術の活用があります。ユーザーの質問に関係する外部データを検索し、その検索結果とユーザー質問の両方を生成AIに与えて、回答を得る手法です。

要素③ ワークフロー

ビジネスの現場では、「質問」→「回答」という流れで完結するタスク、つまり、「質問に答えてくれればOK」というタスクばかりではありません。

例えばカスタマーサポート担当者がユーザーからの質問に答える場合、質問内容を理解し、必要な情報を集め、情報を取捨選択し、回答文を作成するという複数のステップを踏むことが多いでしょう。また、製造現場で商品を検査する作業では、発見した不具合の内容によって、不具合品をより分けたり、責任者に通知したりなど対応方法が変わることもあるはずです。

これら複数のステップを踏んだり、判断によって異なる対応を取ったりする業務を生成AIに担わせたい場合は、タスクの順番や条件付けを指定する必要が出てきます。これらを実現するため、ワークフローを設計・指定し、生成AIの動きを制御します。

生成AI導入の具体的な方法

生成AI利用の成熟度による二つの導入方法

実務の現場に生成AIを導入するには、大きく分けて二つのアプローチがあります。

• 方法① ChatGPT、Geminiなどの生成AIをそのまま使う
  • 利用者が、ChatGPT、Geminiなどのチャットに指示を入力します。さまざまな質問・指示に答えてくれる一方で、毎回個人が入力する必要があります。
• 方法② 生成AIモデル、知識データ、ワークフローを組み合わせたシステムを作る
  • 生成AIモデルに知識データと動作を制御するワークフローを組み合わせることで、これまで人しか対応できなかった複雑なタスクも自動的に処理することが可能です。特定の業務を標準化・自動化し、誰でも使えるツールとして全社展開することもできます。

方法①「生成AIをそのまま使う」場合の課題と対処法

方法① では毎回プロンプトを入力することが必要です。利用者ごとにプロンプトの書き方が変わるため、使い方のノウハウが属人化してしまうリスクがあります。また、本来は入力してはいけない個人情報などを質問に含めてしまい、生成AIモデルに情報を漏らしてしまう不安も出てきます。

生成AIの活用を進める初期段階で、ITリテラシーの高い人に限定して使う場合には柔軟性もあってよい方法ですが、生成AIを本格的に導入する段階では、業務プロセスに組み込む仕組みを設計することも検討すべきです。

方法②「生成AIモデル、知識データ、ワークフローを組み合わせたシステムを作る」場合の課題と対処法

生成AIモデル、知識データ、ワークフローを組み合わせたシステムを作る場合に、知識データの組み込みが課題になることがあります。

知識データの組み込みで使われることが多いRAGは、生成AIに指示するプロンプトとは独立した検索の技術で、独特の工夫が必要になります。

「有りもののデータ」を投入するだけでは検索の精度が上がらないこともあり、業務内容と必要な情報をていねいに紐づけること、データの特性に合わせてプロンプトを工夫して意図通りの結果を導くようにするなど個別に設計していくことが大切です。

具体例：社内問い合わせ対応業務で考える生成AI活用

「各種規定を探して閲覧する」作業を生成AIを使って効率化してみよう

具体的な例を使って、生成AI活用方法を解説していきます。

企業に勤務していると、「有給休暇の取得ルールを知りたい」、「出張時の経費処理の手続きを知りたい」、「PCの調子が悪いので直して欲しい」など、さまざまな質問や要望が出てきます。まず社内の規定を読み、次に問い合わせ窓口に質問するという流れが一般的です。規定が分かりづらかったり、問い合わせ先が分からなかったりと、不便を感じることも多いものです。

これら、人事部門、経理部門、IT部門への問い合わせを、生成AIを使って効率化する方法を考えてみましょう。

最初に「生成AIをそのまま使う方法」、次に「生成AIモデル、知識データ、ワークフローを組み合わせたシステムを作る方法」の順で実践方法を紹介します。

方法①「生成AIをそのまま使う」

設定と利用フロー

社内問い合わせに、「生成AIをそのまま使う」場合のフローは次のようになります。

方法①の長所

既存のサービスを使ってすぐに始めることができます。
自分で規定文書を参照・精読して、自分の質問に関連する規定を見つける手間が省けます。
複数の文書を同時にアップロードしたり、チャットの流れの中で何度も質問をして解決策を探ったりなど、柔軟な使い方ができます。

方法①の短所

「文書を探す→チャットに添付し、質問する」のは手間がかかります。
利用方法が人によって変わるため、利用方法が属人化する可能性があります。

社内文書は社外秘であることも多いはずです。ChatGPTなどの生成AIを一般的な環境で使うと、その文書が学習に使われる可能性があります。
生成AIの設定を変えることで、入力内容を生成AIの学習に利用しないようにすることができます。そうであっても、個人情報などプライバシーにかかわる情報は入力を避けるべきです。個人が生成AIを自由に使うという運用だと、そのような情報の入力を止める、または入力状況を監視することが難しくなります。

方法②「生成AIモデル、知識データ、ワークフローを組み合わせたシステムを作る」

設定と利用フロー

社内問い合わせ用として、「生成AIモデル、知識データ、ワークフローを組み合わせたシステムを作る」場合の設定と利用フローは次のようになります。

方法②の長所

企業内の一般ユーザーが簡単に利用できます。
入力される情報を制限したり、監視できたりすることで、情報漏洩のリスクをおさえることができます。
利用ログを分析することで、社内サービスの品質の向上につなげられます。

方法②の短所

業務フローの分析・設計や、 知識データ・アプリケーションの実装が必要です。
知識データの更新など、メンテナンスが必要です。

方法①と②の比較

生成AI導入を成功させるために重要なこと

生成AI導入を成功させるための鍵は「生成AI」ではなく「仕組み全体」にあります。業務に合わせてプロセス全体を設計し、適切に知識データとAIを組み込むことによって、生成AI導入を成功させましょう。