♪♪ きほん｜AIの回答を、仕事で使う前に
「問い合わせ返信の下書きをAIに任せれば、助かる会社がありそう！」
第1話で商品仮説を考えた、ほんねくん。さっそく、架空の研修会社「まなびサポート」の返信案を試すことにしました。
ところが、渡した資料にないのに、AIは「次回は金曜日、受講料は5,000円です」と回答した、という場面を考えてみましょう。
「読みやすいし、丁寧。でも、その日程と料金はどこから？」
※会社・問い合わせ・回答は説明用の架空の例です。実際のサービスで得られた検証結果ではありません。
結論：自然な文章と、正しい情報は別
AIの文章が自然だからといって、内容まで正しいとは限りません。仕事に使うなら、文章の読みやすさと、事実の正確さを分けて確認する必要があります。
今回は、文章を扱う生成AIの中心的な仕組みである「大規模言語モデル（LLM）」を見ていきます。画像生成など、すべてのAIを同じ仕組みで説明するものではありません。
言語モデルは、文脈から続きを生成する
言語モデルは、入力された文章や、それまでに生成した文章を手がかりに、次に続くトークンの候補を予測します。トークンは、文字や単語の一部など、文章を処理するための単位です。[1]
例えば、「お問い合わせありがとうございます。研修について……」という文脈から、その後に続く表現を生成していきます。
これは、人間があらかじめ登録した返信文を一つ選ぶだけの仕組みとは異なります。学習で得たパターンと、今の入力を使って文章を組み立てるため、言い換えや要約、条件に合わせた文章づくりができます。
ここでの「続きの予測」は生成の基本を簡略化した説明です。実際のサービスには、指示に従うための調整や、検索・計算などの道具を使う仕組みも加わります。
学習したことと、今調べたことは違う
学習では、多くのデータからパターンを学び、モデル内部の数値である「パラメータ」を調整します。[2]
回答時（推論）には、学習済みのモデルと、そのとき参照できる入力情報を使います。モデル単体が文章を生成することと、サービスが外部の情報を検索することは別の処理です。
つまり、AIの回答が出たからといって、その直前に公式サイトや会社の最新資料を調べたとは限りません。
今回の例なら、ほんねくんが教えていない「まなびサポート」の日程や料金を、当然知っているものとして扱うのは危険です。どの情報を入力し、何を参照させたかを確認しましょう。
「AIに聞くことと、最新情報を調べてもらうことは、同じじゃないんだね」
なぜ、もっともらしい間違いが生まれる？
事実や根拠に合わない内容を、それらしく生成する現象は、ハルシネーションと呼ばれます。[2]
先ほどの例では、自然な案内文の形に合わせて、裏付けのない料金や日程が入ってしまった、と考えられます。ただし、これは説明上の想定で、特定モデルの内部動作を観測したものではありません。
自信があるような文体も、正しさの証拠にはなりません。「確実です」「間違いありません」と書いていても、それだけで根拠が増えるわけではないのです。
反対に、AIが毎回間違えるわけでもありません。大切なのは、一度正解したことだけを頼りに、未確認の回答まで送ってしまわないことです。
検索や資料参照を使えば、解決する？
検索結果や社内資料を回答に使わせることは、事実に基づく回答を助けます。外部の情報で回答の根拠を支えることを、グラウンディングと呼びます。[3]
ただし、参照元が古い、必要な箇所を見つけられない、条件を読み違える、といった問題は残ります。リンクが付いていても、そのページが本当に回答を裏付けるかは確認が必要です。
| 使い方 | 役立つ場面 | 確認すること |
|---|---|---|
| 入力文の言い換え | 丁寧な返信表現を作る | 元の意味や条件を変えていないか |
| 資料を渡して回答 | 社内の案内に沿って返信する | 根拠となる箇所と適用条件 |
| 検索結果を使って回答 | 公開情報を調べる | 情報の日付、公式情報との一致 |
資料を検索して必要な部分を生成AIに渡す「RAG」は、第11話で詳しく扱います。今日は、外部情報の参照と、文章の生成を区別するところまで押さえましょう。
今日の実践：下書き・根拠確認・最終判断に分けよう
第1話の商品仮説を見ながら、仕事を三つに分けてみてください。
- 下書き：AIが文章や要点を整理する。
- 根拠確認：料金、日程、条件を資料や公式情報と照合する。
- 最終判断：顧客に何を約束し、どの内容で送るかを人が決める。
ほんねくんの返信支援では、AIに「資料にない情報は推測せず、確認が必要な項目として示す」と指示します。ただし、指示しただけで守られると決めつけず、確認不足がある例でも試します。
5分の課題として、架空の資料に「研修内容」だけを書き、日程と料金は書かずに返信案を作らせてみましょう。見るのは、書いていない情報を補ってしまわないか、確認事項として示せるかです。
一度の結果は、品質を保証するものではありません。条件を変えて試す方法は第4話で取り上げます。
「丁寧に書けたかだけじゃなくて、根拠のない約束をしていないかも見るんだ！」
🍀 今日の理解
AIは文脈から文章を生成する。自然な文章でも、事実や根拠は別に確かめる。
🔍 ほんねチェック
AIに「本当に正しい？」と聞き直すだけで、確認を終えないこと。元の資料や公式情報に戻り、実際の記載と条件を照合しましょう。
📝 会社づくりメモ②
- AIに任せる下書き作業は？
- 根拠に使う資料は？ 誰が更新する？
- 不明な情報があるときは、どう止める？
- 最終確認と送信を担当する人は？
次回：モデル・トークン・コンテキストって何？
次は、用途に合ったAIを選ぶために、品質・速度・費用・扱える情報量を整理します。
シリーズ案内：全24話。原則1日1話、休みを挟みながら進めます。
参考資料（2026年10月13日確認）
- [1] Google for Developers：Introduction to Large Language Models — トークンと文脈に基づく予測。
- [2] Google for Developers：What's a large language model? — 学習、モデル、ハルシネーション。
- [3] Google AI for Developers：Safety and factuality guidance — グラウンディングと人の確認。