株式会社インソースデジタルアカデミー

生成AIの心臓部分「LLM」を徹底解説!ハルシネーションと情報漏洩を減らし、業務効率化につなげるために

「生成AI」「ChatGPT」「LLM」最近よく耳にする言葉ですが、実際には何ができるのか、自社でどう活用できるのか分からず、導入の一歩を踏み出せない...そんな悩みを抱えていませんか。

「作成が面倒な文章を自動生成したい」「従業員からのよくある問い合わせをAIに回答してもらいたい」「導入すると業務削減ができるらしい」等、漠然と考えていても技術の中身が分からなければ安全性への不安が付きまといます。
自社で活用を検討するなら、まず「LLMとは何か」「どこまで頼れるのか」「どう扱うべきか」を整理することが不可欠です。

LLM(大規模言語モデル)とは?

LLM(Large Language Models)は、大量の文章データを学習して人間の言葉を理解し生成できるAIモデルです。「大規模」とは、学習に使われるデータ量やモデル内部のパラメータの数を指します。言い換えれば、データと計算資源が大きいほど、多様で自然な文章を生成できるということです。生成AIはこのLLMをベースに、ユーザーの指示(プロンプト)に応じた文章を作り出します。

LLMはどのように機能する?「良い出力」を引き出すための具体的なプロンプト例

LLMはまず入力された文章を「トークン」という単位に分解し、文脈を理解して次に来る単語を予測します。事前学習(pre-training)で一般的な言語パターンを学び、その後のファインチューニング(fine-tuning)で業務や特定領域に最適化します。この過程で重要なのがプロンプト設計(Prompt Engineering)で、入力の仕方次第で出力内容は大きく変わります。

プロンプトは、生成AIに出す「レシピ指示」のようなものです。材料や手順を丁寧に伝えれば、美味しい料理(=良い出力)ができます。逆に「適当に作って」と曖昧に指示すれば、味も見た目もいちな料理(=精度が低い結果)が出てくることもあります。

プロンプト入力例

  1. 誤字脱字の修正
    あなたは、プロの編集者です。下記文章について、誤字・脱字及び語尾の言い回しに気を付け、より適切な表現に修正してください。また、どの箇所を修正したか箇条書きで記載して下さい。

    #文章
  1. メール作成
    以下の内容を基に、日本語のビジネスメールのベストプラクティスに従い、わかりやすく、整理された清書を作成してください。

    #対象文章
  1. 炎上リスクの確認
    以下の文章をSNSにアップする際にどの程度炎上のリスクがあるか、教えてください。炎上のリスクがある場合、その理由を教えてください。

    #対象文章

プロンプト事例出典:
東京都庁デジタルサービス局「文章生成AI活用事例集」(最終アクセス:2025/10/30)

主要なLLM

代表的なLLMには、OpenAI社のGPTシリーズがあります。国内外にはClaudeGemini、MetaのLLaMAなど、多数のモデルが存在します。行政分野でも生成AIの活用が進んでおり、デジタル庁でも2025年10月、生成AI利用環境「プロジェクト名:源内」において、OpenAI社が提供する最先端のLLMを活用するという発表がされました。職員が安全にAIを使える環境を整備し、より一層の業務効率化を目指しています。

出典:デジタル庁
ガバメントAIの具体化に向けたOpenAI社との連携協力」(最終アクセス:2025/10/30)

LLM導入時に絶対守るべき「情報漏洩」と「ハルシネーション」対策

生成AIを社内で使うには、いくつかの課題があります。まず、生成される文章の正確性に注意が必要です。誤情報(ハルシネーション)のリスクはゼロではありません。次に、内部情報漏洩やデータプライバシーの保護も重要です。さらに、運用体制やガバナンス、コストやインフラ、社員のAIリテラシーも考慮しなければなりません。PoC(試験運用)で確認し、ルール化してから段階的に運用を拡大することが推奨されます。

誤情報(ハルシネーション)が問題となった事例~米ニューヨーク州の裁判所で起きた例

裁判の際、とある弁護士が生成AIを使って実在しない判例を引用したことが問題となりました。生成AIが「もっともらしい架空の判例」を創作したハルシネーションが原因で、弁護士は高額な制裁金を科すように勧告されました。本件は、生成AIの出力をそのまま信用せず、人間が内容を検証する重要性を示す象徴的な事例として世界的に注目を集めています。

まとめ:生成AIでさらに広がる業務効率化の可能性

生成AIを自社に導入するにあたり、まずは仕組みをきちんと理解することが不可欠ですが、正しく活用すれば業務効率化や人材リソースの最適化に大きく寄与します。まずは小さな一歩から始め、試行と改善を重ねることが成功への近道です。

今後は、文章や画像、音声など複数の情報を同時に理解できる「マルチモーダルAI」や、より高度な推論能力を持つ「推論強化モデル」など、より性能の高いAIが登場する見込みです。こうした技術の進化により、業務効率化の可能性はさらに広がるでしょう。

(半日研修)ChatGPTのはじめ方研修~触って学び、明日の業務を効率化する

ChatGPTの登録から、基礎的な使い方を学びたい方向けの研修です。触って学び、明日の業務を効率化する半日研修で、基礎から実践まで学べます。

よくあるお悩み・ニーズ

  • ChatGPTを使ってみたいが、なにから始めてよいかわからない
  • ChatGPTを使ってはみたが、欲しい回答が出てこない
  • 業務でChatGPTを活用できるとはいうが、具体的にどうすればよいのかわからない

本研修の目標

  • ChatGPTを使って情報を収集することができる
  • ChatGPTから、より有益な回答を引き出すことができる
  • 自身の業務の中でのChatGPTの活かし方を具体的に理解できる

>公開講座の詳細はこちら

>講師派遣型研修の詳細はこちら

セットでおすすめの研修・サービス

(半日研修)Microsoft 365 Copilotの使い方研修~Excel・PowerPoint操作を効率化する

Excel・PowerPoint操作を効率化する半日研修で、Copilotの活用方法を習得できます。

はじめてCopilotを使用する方向けに、Copilotの使い方から、更に使いこなすためのテクニックを半日で体感する研修です。

>公開講座の詳細はこちら

>講師派遣型研修の詳細はこちら

ChatGPT×Excel研修~知識ゼロからマクロを作る

知識ゼロからマクロ作成までを学ぶ研修で、実務に直結したスキルを習得できます。

Excel作業自動化に必要な技術を身につける近道として、ChatGPTの活用方法を学ぶ研修です。どのような手順や考え方で自動化のための設計を行うのか、プログラミングコードではなく、ChatGPTと日本語の「指示パーツ」を用いた指示の組み立て方によって学びます。

>公開講座の詳細はこちら

>講師派遣型研修の詳細はこちら

>動画教材の詳細はこちら

AI時代の文書作成研修~人にもAIにも「伝わる・使える」文書の残し方(1日間)

人間だけでなく生成AIが読み手になること想定した文書作成の方法を学ぶ研修です。

生成AIの特性を理解し、見出しによる構造化や簡潔で具体的な表現、文脈の明確化といった、正確に処理・分析しやすい文書を作るためのポイントを身につけます。顧客対応の履歴やトラブル報告など、具体的な題材で生成AIを業務に活用するための文書設計スキルを実践的に習得します。

>講師派遣型研修の詳細はこちら

関連記事

関連研修シリーズ