ChatGPT利用の情報リスクとは？「自治体における生成AI導入状況」の調査結果と、組織が取るべき対策を解説

昨今、ChatGPTのような生成AIが普及する中、生成AIは非常に優秀な部下として機能してくれます。手軽で便利なところは生成AIの長所ですが、使い方を間違えた場合、大きな損害となることもあります。

生成AI活用の壁の一つは「リスク管理の難しさ」

「リスク管理の難しさ」に悩まされている実態～自治体の調査から

令和6年度に総務省から発表されたデータによると、自治体ではAI活用に「リスク管理の難しさ」について以下のような３項目の懸念があることが明らかになりました。

要機密情報流出の懸念がある...458件
情報収集・活用等に関する個人情報保護の制約...275件
著作権侵害の懸念がある...272件

出典：総務省公式ホームページ　自治体における生成AI導入状況（令和6年）
https://www.soumu.go.jp/main_content/000956953.pdf
（最終アクセス：2025/6/23）

ChatGPT利用による情報流出の事例～自覚のない情報流出

とある組織では、従業員の一人がプログラムのエラーを解消させる目的でChatGPTに社内システムのコードを入力しました。この行為はコードが流出する原因となり得るため、コードが外部に漏れることで組織内のセキュリティに関わる危険性があります。

生成AI利用におけるガイドラインが未策定な団体は1,000団体以上存在しています。これは、機密情報の流出や個人情報保護、著作権侵害などの懸念の影響により、数多くの団体がガイドラインの作成に苦労している事が原因だと考えられます。

出典：総務省公式ホームページ　自治体における生成AI導入状況（令和6年）
https://www.soumu.go.jp/main_content/000956953.pdf
（最終アクセス：2025/6/23）

AI時代を勝ち抜くためのリスク管理と教育の重要性

ChatGPTをはじめとする生成AIは、業務効率化や新たな価値創造に貢献する強力なツールです。しかし、その利便性の裏には、情報漏洩、著作権侵害、個人情報保護といった潜在的なリスクが潜んでいます。特に、今回のコラムで紹介したように、意図せず機密情報をAIに入力してしまうといった「自覚のない情報流出」の事例は、多くの組織にとって他人事ではありません。

これらのリスクを最小限に抑え、生成AIを安全かつ効果的に活用するためには、以下の2点が不可欠です。

利用ガイドラインの策定と周知徹底: どのような情報をAIに入力してよいか、また入力してはいけないか、利用目的や範囲を明確にしたガイドラインを策定し、組織全体に周知徹底する必要があります。
従業員のリテラシー向上: ガイドラインを策定するだけでなく、従業員一人ひとりが生成AIの特性やリスクを正しく理解し、適切な判断ができるよう、継続的な教育が重要です。事例を通じて具体的なリスクを学ぶ機会を提供することも有効でしょう。

生成AIの導入が進む現代において、リスク管理と従業員への教育は、組織が競争力を維持し、持続的に成長していくための重要な投資と言えます。これらの対策を講じることで、生成AIを「優秀な部下」として最大限に活かし、その恩恵を享受できるでしょう。

（半日研修）ChatGPT理解研修～導入事例やリスクを知り、組織での活用方法を検討する

生成AI活用のリスク管理と一口にいっても、生成AI自体に詳しくないから何をすれば良いかわからない、不慣れなツールは情報収集が大変という組織も多いでしょう。

インソースの「ChatGPT理解研修」では、ChatGPTの活用方法について多数の事例を参考にしながら、リスク管理を重点的に学ぶことができます。不慣れな方・知見のある方問わず参加できるよう「生成AIとは何か」「ChatGPTとは何か」という概要部分から説明を行いますので、AIの知識や経験に関するご心配は不要です。政府機関・都道府県・市町村・民間企業が実際に行ったChatGPT活用事例と、リスク管理不足により起きてしまったリスク事例をご紹介、具体的な運用方法とその活用例まで学ぶことができます。