🚀 「モデル・トークン・コンテキストって何?AI選びの3つの基本【AI起業ラボ③】」

 

ほんねくんがAI選びの3つの基本、モデル・トークン・コンテキストを学ぶ。第3話。

♪♪ きほん|名前や評判だけでAIを選ばないために

「AIの回答は、根拠まで確認しないといけない。そこはわかった!」

第2話で、AIの文章の自然さと情報の正確さを分けて考えた、ほんねくん。次は、返信支援サービスに使うAIを選びます。

ところが、紹介ページには「モデル」「トークン」「コンテキスト」という言葉が並んでいました。

「高性能なAIを選べば、全部うまくいくんじゃないの?」

今回は、この3語を仕事に結びつけて整理します。例に使う研修会社「まなびサポート」は、第1話から登場する架空の会社です。😊

結論:品質・速度・費用・情報量を合わせて考える

AIを選ぶときに見るのは、知名度やランキングだけではありません。必要な回答品質、待てる時間、予算、扱う情報量が、自分の仕事に合っているかです。

短い問い合わせへの返信案と、長い資料を読んで条件を比較する仕事では、求めるものが違います。

まずは3つの用語を押さえましょう。

用語意味仕事で見るポイント
モデル回答の生成を担う学習済みの仕組み必要な品質・速度・機能
トークン入出力を処理する単位利用量・費用・長さの上限
コンテキスト回答時に参照できる情報指示・資料・会話履歴の範囲
モデル、トークン、コンテキストの意味と、仕事で確認するポイント。

① モデル:AIの「中身」を選ぶ

同じAIサービスでも、複数のモデルが用意されていることがあります。アプリの名前と、その中で使うモデルの名前は区別しましょう。

モデルや設定によって、文章作成、複雑な判断、画像の扱い、応答時間などに違いがあります。利用できる機能と制限は、提供元の仕様で確認します。

ほんねくんのサービスなら、「資料にない料金を補わない」「必要事項を含む」「確認しやすい返信案になる」という条件が先です。

同じ問い合わせと資料を候補に渡し、同じ基準で比べれば、名前だけで選ぶより判断しやすくなります。

「僕の仕事で合格するかを、試して決めるんだね」

② トークン:文字数と同じではない

AIは文章などを、トークンという単位で処理します。トークンは、文字や単語、その一部などに対応し、分割の仕方はモデルや言語によって異なります。[1]

したがって、日本語1文字=1トークンとは限りません。画像などの入力も、対応するモデルではトークンとして扱われます。正確な利用量は、提供元のカウント機能や利用情報で確認します。[1]

返信支援で送るのは、問い合わせだけではありません。返信のルール、研修案内、必要に応じた会話履歴も入力になります。AIが返す返信案は出力です。

有料APIの費用を考えるときは、入力と出力の単価を確認します。キャッシュ、思考処理、検索などの扱いもサービスやモデルで違うため、単純な文字数だけでは判断できません。[2]

説明用の仮の条件として、1回の処理で「入力2,000トークン、出力500トークン」を100回使うなら、入力は20万、出力は5万トークンです。これは計算例で、実際の測定値や特定モデルの料金ではありません。

同じ資料を毎回送る場合は、その資料も入力に含まれます。まず利用量を記録し、必要な情報だけを渡す方法を考えることが、費用管理の入口になります。

③ コンテキスト:今の回答に使える情報

コンテキストは、回答時に参照できる指示、資料、会話履歴などの情報です。その量の上限を、コンテキストウィンドウと呼びます。入力・出力の上限や、思考処理の数え方は、モデルの仕様を確認します。[1]

「大きな机の上に、今使う資料を広げる」と考えるとイメージしやすいでしょう。ただし、これは説明のためのたとえです。永久に覚えておく記憶とは異なります。

アプリに過去の会話が表示されていても、そのすべてが毎回モデルに渡されているとは限りません。履歴の省略や要約など、アプリ側の処理にも左右されます。

机が大きければ資料を多く置けますが、大量に入力できることと、必要な情報を正確に使えることは別です。長い資料を扱う場合も、自分の課題で回答品質を確認します。[3]

例えば、新旧の研修案内を一緒に渡すなら、「現在有効な案内はどれか」を明確にします。量を増やす前に、日付や適用条件を整理することが大切です。

問い合わせ返信の下書きに必要な品質、速度、費用、情報量を整理する。

無料のチャットと、アプリから使うAPIは別

チャット画面の無料利用や月額契約と、自分のアプリからAIを呼ぶAPIの料金・利用枠は、同じものとは限りません。APIの条件を別に確認してください。

また、無料枠があっても、無制限に使えるわけではありません。Gemini APIでは、一定時間内のリクエスト数やトークン数などに利用制限があり、実際の枠はモデルや利用階層などで異なります。[4]

モデル名、料金、無料枠は変わるため、この記事では具体的なモデルを固定せず、選ぶ条件を中心に説明しています。

今日の実践:AIの選定条件を3行にしよう

5分ほどで、次の3行を埋めてみましょう。

  • 品質:どんな返信案なら合格?
  • 速度:担当者は、どのくらい待てる?
  • 費用・情報量:月の予算と、1回に扱う資料は?

ほんねくんの仮案は、「不明な料金や日程は確認事項にする」「待ち時間の目標は10秒程度」「最初は短い研修案内1枚で試し、予算上限を決める」です。

10秒はこの事例の目標で、モデルの性能保証ではありません。待ち時間を測り、返信案を確認・修正する時間も含めて、現場で使えるか判断します。

「一番高性能そうなAIより、必要な仕事を続けられるAIを選びたいな!」

🍀 今日の理解

モデルは中身、トークンは処理の単位、コンテキストは今参照できる情報。用途を決めてから、品質・速度・費用・情報量を比べる。

🔍 ほんねチェック

長い資料を入れられるからといって、全部入れる必要はありません。必要な資料を整理し、回答の確認しやすさまで含めて選びましょう。

📝 会社づくりメモ③

  • AIの回答が満たすべき条件は?
  • 待ち時間の目標は?
  • 1回に渡す資料と履歴の範囲は?
  • 月の予算と利用制限を、どう確認する?

次回:良い回答は偶然?プロンプトを試して比べよう

次は、指示と合格基準をセットにして、複数の事例で品質を確かめます。


シリーズ案内:全24話。原則1日1話、休みを挟みながら進めます。

前回:第2話「AIはどう答える?『もっともらしい』の仕組み」

第1話から読む

参考資料(2026年10月13日確認)