1 ── 書く順序
「よく考えてから、結論だけ」は、考える場所を消している。
答えは全体を先に決めてから書かれているのではない。そこまでに出た文を見て次の1つを選ぶ、をひたすら繰り返している。だから結論を先頭に置かせると、その結論は何も参照せずに選ばれる。
答えの1文字目を選ぶとき、モデルが見られるのは?
先頭の1つを選ぶ時点で、参照できるのは入力だけ。途中の考えを書かせるかどうかで最終的な答えが変わることが測定されている ── 考える場所は、出力の中に作るしかない。
⚠️ 内部で下書きをしてから答えるモデル(推論モード)もあるが、あれも同じ仕組み ── 見えない場所に、先に書いているだけ。順序が効くことは変わらない。
模式四角ひとつが、書かれていく単位。上の括弧は、その1つを選ぶときに見えている範囲。
よくある直し方
この企画、よく考えてから、 結論だけ簡潔に教えて。
効かないので「もっとよく考えて」を足す。考える場所が無いことは変わらない。
仕組みに合う直し方
この企画の判断材料を、 良い点と悪い点で箇条書きに。 そのうえで最後に結論を1行。
結論を後ろに置く。読む側は最後の1行だけ読めばよく、短さは失われない。
論文途中の考えを書かせると最終的な答えが変わることの測定(2022)── arxiv.org/abs/2201.11903
講義1つずつ前から選んで生成する仕組み(Stanford CS336)── stanford-cs336/lectures
2 ── 置く位置
長い資料の真ん中は、落ちる。
長い入力では、置いた位置で拾われやすさが変わる。先頭と末尾に置いた情報は拾われやすく、真ん中に置いた情報は落ちやすい。長い文脈を売りにしたモデルでも、同じ傾向が出る。
長い資料の中で、いちばん拾われにくいのはどこ?
先頭と末尾が拾われやすく、真ん中が落ちる ── U字になる。だから大事な指示を資料の途中に埋め込むのは、いちばん弱い置き方。先頭と末尾の両方に書くのは有効で、無駄ではない。
模式縦軸に数値は置かない ── 形が結論で、どれだけ落ちるかはモデルと長さで変わる。
よくある直し方
[長い資料] ※ここ重要:日付は西暦で [資料の続き]
拾われないので「※※重要※※」と目立たせる。位置は変わっていない。
仕組みに合う直し方
[長い資料] 上の資料から日付を拾って 一覧にして。西暦で書くこと。
指示は資料の後ろ。長い資料を貼るときは、先頭にも一度置いて挟むとさらに固い。
論文長い文脈で、置いた位置と拾われやすさを測定(2023)── arxiv.org/abs/2307.03172
3 ── 聞き方(寄り)
「これで合ってる?」は、確認になっていない。
人の好みで調整する工程が入っているため、利用者の意見に合う答えのほうへ寄る性質がある。複数の主要モデルで測定されている。自分の案を見せた時点で、返ってくる答えは動いている。
「A案で行こうと思う。合ってる?」と聞いたとき、返る答えは?
調整の工程では、利用者に好まれた答えが選ばれる。同意はほぼ常に好まれるので、重ねるほどその方向へ寄る。賛成が返ってきても、それは検証ではなく同意かもしれない ── 外から区別が付かない。
模式寄る向きが結論。どれだけ寄るかはモデルと話題で変わる。
よくある直し方
A案で行こうと思うんだけど、 これで合ってる? (賛成が返る) →「本当に?厳しく見て」
追撃しても、今度は否定の方へ寄るだけ。押した方向に動くという性質は同じ。
仕組みに合う直し方
A案とB案がある。 それぞれの弱点を3つずつ挙げて。
自分がどちらを推しているかを出さない。両方に同じ仕事をさせると、寄りが効く先が消える。
論文利用者の意見へ寄る傾向を、複数の主要モデルで測定(2023)── arxiv.org/abs/2310.13548
4 ── 聞き方(空欄)
知らないときも、同じ顔で返ってくる。
黙るより答えるほうが点になるように、訓練と評価の仕組みが働いている。知らないことを聞かれても空欄で返らないのはそのため。口調の自信は、確からしさの信号ではない。
モデルが知らない事柄を聞かれたとき、いちばん多い返り方は?
「分からない」と言うことに点が入る仕組みになっていない。だから「分からなければ分からないと書いて」は、効きが限られる ── 訓練の勾配に逆らって頼んでいることになる。確からしさは、こちらが外から確かめられる形を要求して作る。
模式差は中にある。外から見た形が同じなので、読む側では選り分けられない。
よくある直し方
〇〇社の返品規定を教えて。 (自信のある文体で返る) →「分からなければそう言ってね」
断りの一文が増えるだけで、埋めに行く性質は変わらない。
仕組みに合う直し方
〇〇社の返品規定を、項目ごとに 出典URLを付けて。 URLを出せない項目は 「出典なし」と書いて。
URLは自分で開く。確かめられる形にすることが目的で、宣言してもらうことではない。
論文訓練と評価の仕組みが「答えてしまう」方向に働くことの分析(2025)── arxiv.org/abs/2509.04664
5 ── 判定の仕方
1回で、プロンプトの良し悪しは決まらない。
次の1つは確率から選ばれるので、同じ入力でも出力は揺れる。1回うまくいったことは、そのプロンプトが良い証拠にならない ── そして1回失敗したことも、その頼み方が駄目な証拠にならない。
まったく同じプロンプトを2回送ると?
次の1つは確率から選ばれる。文体だけでなく、結論そのものが割れることもある。だから直す前に、まず何回か振って「毎回そうなるのか、たまたまか」を分ける。これをやらないと、効いていない修正をずっと足し続けることになる。
模式割れ方は毎回変わる。割れること自体が結論で、割合はモデル・設定・問いで違う。
よくある直し方
1回試す → 良かった → 採用 → 悪かった → 書き足す
効かない修正が効いたことになって残る。プロンプトが長くなる原因の多くがこれ。
仕組みに合う直し方
同じものを3回、別々に送る → 3回とも同じ形で返るか見る → 直したら、また3回
見るのは形が安定しているか。同じ文章が返るかではない。
講義次の1つを確率から選ぶ仕組み(Stanford CS336)── stanford-cs336/lectures
論文書かせ方の違いで最終的な答えが変わることの測定(2022)── arxiv.org/abs/2201.11903
6 ── 渡すもの
マイナーな対象は、深掘りするほど崩れる。
学習データに多く出てきた事柄ほど正確で、めったに出てこない事柄ほど誤りやすい。この関係は「その話題が学習データに何件あったか」と「正答率」を並べて量として測定されている。そして学習データには締め切りがある。
あまり知られていない製品について、さらに詳しく聞くと?
件数が少ない事柄ほど誤りやすく、細部ほど件数は少ない。掘るという操作が、件数の少ない方へ進む操作。だから、知っているかに賭けずに渡す。
⚠️ 締め切りには2種類ある ── 学習データが入っている範囲(training data cutoff)と、知識が広く確実な範囲(reliable knowledge cutoff)は別で、後者のほうが早い。
模式右上がりの向きが測定されているもの。曲線の形と位置は説明のための当てはめ。
よくある直し方
〇〇という製品の仕様を、 もっと詳しく。 (それらしい数値が返る)
返ってきたものが正しいかは、その分野をすでに知っている人にしか見分けられない。
仕組みに合う直し方
[仕様ページを貼る] この資料の範囲だけで答えて。 書かれていないことは 「資料に無い」と書いて。
知っているかに賭けない。範囲を切ると、埋めに行く余地も同時に狭まる。
論文学習データ中の件数と正答率の関係の測定(2023)── proceedings.mlr.press / Kandpal et al.
公式「学習データの締め切り」と「知識が確実な締め切り」を別々に公表している例 ── platform.claude.com / Models overview
7 ── 形の与え方
説明を足すより、完成形を1つ見せる。
素の言語モデルは「続きを書く」だけの機械で、指示に従う・断る・丁寧に話すは、あとから別の工程で足された性質。だから完成形を1つ置くと、下の層に直接効く ── 続きを書けばいいだけの形になる。
出力の形を揃えたい。より効くのは?
説明は「後から足した層」に向けた頼みごと。例は下の層がそのまま使える形で、続きを書くという本来の動きに乗る。例に無い形は出てこないので、例は「いちばん外したくない形」で作る。
模式指示は上の層への頼みごと、例は下の層がそのまま続けられる形。
よくある直し方
見出しを付けて、次に箇条書きで 3点、各項目は40字程度、 文末は体言止め、最後に一言 まとめ、絵文字は使わないで…
条件が増えるほどどれかが落ちる。落ちるたびに条件を足すことになる。
仕組みに合う直し方
この形で書いて。 [完成した例をそのまま1つ貼る] 題材はこちら:〇〇
40字も体言止めも、例の中に既に入っている。言葉にしなくていい条件が消える。
論文指示に従う性質を、後から別の工程で付けていることの報告(2022)── arxiv.org/abs/2203.02155
8 ── 長さの指定
文字を、数えていない。
モデルは文字でも単語でもなく、学習のときに決めた区切り(トークン)で文章を読む。「300文字以内」が守られないのは、言うことを聞いていないからではなく、その単位で見ていないから。強く言っても直らない。
「300文字以内で」が守られない。効く手は?
数える能力の問題なので、言い方を強めても直らない。目安なら伝わる(短く/長くの方向は効く)。厳密に要るなら、書かせたあとに自分で数えるか、数える仕組みに渡す。
⚠️ 同じ内容でも、区切りの決め方が変わればトークン数は変わる ── 公式に「同じ文章で約30%増える」と注記された世代交代の例がある。文字数と一定の比では結びついていない。
模式区切りの位置は描いていない ── 実際の分け方はモデルごとに違う。棒の長さの差だけが測定されているもの。
よくある直し方
必ず300文字以内で! 絶対に超えないこと!!
強めた分だけ他の指示が薄まる。長さは相変わらずずれる。
仕組みに合う直し方
だいたい300文字で。 長くなったら削って。
厳密に要るなら数えるのは外の仕事。文字数制限のある欄に貼るなら、貼る前に自分で数える。
講義トークンという単位に切って読む仕組み(Stanford CS336)── stanford-cs336/lectures
論文同じ内容でも言語によってトークン数が変わることの測定(2023)── arxiv.org/abs/2305.15425
載せなかったもの
通す関門は、三つ。
検索すると出てくる「プロンプトのコツ」の多くは、ここに並んでいない。落ちた理由のほうが、残ったものより多くを説明する。
| 関門 | 問い | これで落ちるもの |
|---|---|---|
| ① | 知らないと、直し方が逆になるか | 「具体的に書く」「例を出す」── 知らなくても損しない |
| ② | 道具・年・モデルが変わっても成り立つか(構造に由来し、外に出典がある) | 「あなたはプロの〇〇です」「深呼吸して」「丁寧に頼む」「否定形を避ける」── 出典が意見か、世代で覆っている |
| ③ | 読ませずに見せられるか | 正しくても、文章でしか置けないもの |
- ②で落ちたものは「効かない」という意味ではない。効くかどうかがモデルの世代で変わり、確かめる先が無い、という意味。試すのは自由で、その時は5の「3回振る」を先に。
- ここに上限や料金の値は書いていない。道具ごとに変わり、すぐ古びるので、使っている道具の公式ページで見るほうが確実。この8つは、値が変わっても成り立つ側だけを集めてある。
- 8つに共通しているのは、どれも言い方ではなく置き方だということ ── 何をどの順で、どこに、どれだけ渡すか。強く言う余地はどこにも無い。