生成AIに社内情報を入力すると、情報漏えいにつながるかもしれない――。
ここまではイメージしやすいかもしれません。
しかし、生成AIを業務で利用するときに注意したいのは、情報の取り扱いだけではありません。

今回は、特に押さえておきたいリスクを3つに分けて紹介します。

たとえば、顧客から届いた長いメールを生成AIで要約するため、そのままコピーして入力したとします。

• 顧客の氏名
• メールアドレス
• 取引内容
• 契約に関する情報

などが含まれていたらどうでしょうか。「AIに質問している」という感覚でも、実際には外部のサービスへ情報を送信しています。

個人情報保護委員会も、個人情報を生成AIサービスに入力する場合には、利用目的や、サービス提供者が入力情報をどのように取り扱うのかなどを十分確認するよう注意を促しています。

個人情報保護委員会では、個人情報保護法のいわゆる『3年ごと見直し』に関する検討が進められています。AIをはじめとする情報通信技術の進展も踏まえ、今後の制度動向を継続的に確認することが重要です。

「この情報を外部サービスへ送っても問題ないか？」

AIに入力する前に、この視点を持つことが大切です。

生成AIの回答は、必ずしも正しいとは限りません。実際には存在しない情報や、事実と異なる内容を、自然で説得力のある文章として回答する場合があります。

こうした現象は、一般に「ハルシネーション」と呼ばれています。

たとえば、生成AIに法律や制度について質問し、その回答を確認せずに顧客向けの資料へ掲載してしまったらどうなるでしょうか。間違った情報を顧客へ伝えてしまう可能性があります。

文章が自然であっても、「AIが答えた＝正しい」ではありません。
重要な情報は、公的機関のWebサイトや原典など、信頼できる情報源で確認することが重要です。

生成AIで作成した文章や画像などを業務で利用するときは、著作権をはじめとする第三者の権利にも注意が必要です。

文化庁は「AIと著作権に関する考え方について」を公表し、生成・利用段階を含め、AIと著作権の関係について考え方を整理しています。

そのため、「AIが作ったものだから、何にでも自由に使える」と判断するのは避けたほうがよいでしょう。

特に広告やWebサイト、販売物など社外へ公開するものに利用する場合は、用途に応じて権利上の問題がないか確認することが大切です。

生成AIを業務で利用するときは、次の3点を意識するとリスクを整理しやすくなります。

• 　　　　　　　　入れる：その情報をAIに入力してよいか？
• 　　　　　　　　確かめる：AIの回答は本当に正しいか？
• 　　　　　　　　使う：生成されたものを、その用途で利用して問題ないか？

生成AIの便利さを生かすためにも、利用する人がこうしたリスクを理解しておくことが重要です。

リスクがあるなら、「生成AIをすべて禁止すればよい」と思うかもしれません。
しかし、禁止するだけが唯一の対策とは限りません。

第3回では、シャドーAIを防ぎながら生成AIを安全に活用するために、企業が取り組みたい4つの対策を紹介します。

第3回を読む

本記事は、経済産業省『AI事業者ガイドライン』、個人情報保護委員会、文化庁等の公表資料を参考に、企業における生成AI利用のリスクと対策を整理したものです。

参考資料

• 経済産業省「AI事業者ガイドライン（第1.2版）」
  https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html
• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」
  https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/
• 文化庁「AIと著作権に関する考え方について」
  https://www.bunka.go.jp/seisaku/chosakuken/aiandcopyright.html

シャドーAIのリスクを防ぎつつ、生成AIのメリットを最大限に引き出すためには、セキュアな環境で自社データを利用できる仕組みが必要です。

エイコーが提供する「ナレナビエージェント」は、社内情報と連携して安全に回答を生成するAIソリューションです。情報漏えいの不安なく、業務効率化を実現します。

ナレナビエージェントは株式会社ロビットが提供するサービスです。株式会社エイコーは、販売パートナーとして本サービスをご紹介しています。

　　　セキュアな環境　入力データがAIの学習に利用されません。

　　　社内文書連携　自社のマニュアルや規定を元に正確に回答します。

　　　直感的な操作性　専門知識がなくても誰でも簡単に利用可能です。

シャドーAIのリスクを抑え、業務効率化を実現するためには、「ルールの策定」と「安全なツールの導入」の両輪が必要です。

「自社の環境でどうルールを作ればいい？」「どのサービスを導入すべき？」など、
シャドーAI対策から安全な生成AI導入まで、サポートいたします。

お問い合わせ