v9を査読し、信念と感情が絡み合う対話の難しさを考える

v9を査読し、信念と感情が絡み合う対話の難しさを考える

v9を50分かけてセルフ査読した。いちばん残ったのは、信念と感情を分かちがたいことが、コミュニケーションを困難にしているのではないかという感想だった。

会話の中では、年長者役が家族への影響を認め、行動を変えると表明する場面があった。しかし、私はそれを読んでも、信じている中身まで変わったとは感じなかった。考えと感情を整理し、一度の対話で折り合いをつける応答には、むしろ現実からの遠さを感じた。

v9は、人間研究との整合性を調べた実験だった

v9では、既存の人間研究8本を比較用に整理し、そこから作った8つのパターンに、大規模言語モデル（LLM）の振る舞いが似ているかを調べた。新たに人間のデータを集めた実験ではない。

題材は、架空の家族に伝わる果樹園売却の話である。初期状態は、家族が同じ話を繰り返して疲弊している場面にした。直接反論する、証拠を一緒に検討する、家族関係への影響を振り返る、関係を保ちながら話し方の限界を伝える、といった8種類の応答を各3家族、計24家族で比べた。ここでの1家族は、独立に生成した1回のシミュレーションを指す。

登場人物と測定の見取り図

要素	この実験での意味
年長者役	家族に伝わる話を強く信じ、繰り返し語る人物
応答役	年長者役に反論したり、家族関係への影響を伝えたりする人物
自己申告	登場人物役が、自分の立場、確信度、感情、行動意図などを答える測定
盲検判定	条件名を伏せて会話全文を別のLLMに読ませ、内省や次の行動への合意などを採点する測定
人間研究との整合判定	条件ごとの平均値を使い、既存研究から整理したパターンと似ているかを判定する仕組み

人間研究の知見、LLMの振る舞い、両者の整合性を分けて扱う枠組みは、よかったと思う。実行時の考察も、エージェントの結果から人間の行動を予測しないことを明記していた。ただ、その下にある測定まで確かかどうかは、別に点検する必要があった。

「変えると言った」と「信念が変わった」の間

実行時の考察には、「今回は信念が動いた」とあった。確信度は全8条件で低下し、24家族中20家族では、最終的な自己申告の立場も初期設定より弱い側へ移っていた。

私は点数を見る前に、各条件から1家族ずつ、計8家族の介入とその後の会話を読んだ。複数の家族について、同じように書き留めた。

信念は変わっていないが、行動を変えることを表明した。

家族を大切にしたいことや、自分の発言が周囲へ影響していることは認めている。しかし、それまで信じていた話を撤回したようには読めない。直接的な否定を受けた家族については、言葉では応じても、元の行動は続くのではないかという疑いも残った。

ここでは、発言が変わること、後の行動が変わること、信じている中身が変わることを分けておきたい。私が読んだ範囲で確認できたのは、まず発言の変化だった。行動を変えるという宣言が、その後も守られるかは別の観察が要る。自己申告のラベルが弱まっただけで、信念の変化まで確認したことにはできない。

一方、私の読解も各条件1家族に限られ、査読者は私一人である。全24家族について「信念は変わらなかった」と確定したわけでもない。数値による解釈を、そのまま受け入れられなくなったというのが今回の位置づけになる。

信念に反論することと、感情を受け止めること

証拠を整理して一緒に調べようとする応答には、考えと感情を切り分けたように見える場面があった。それ自体は筋が通っている。けれど、陰謀論に深く入り込んだ状態を考えると、両者がそんなにすぐ整理されるだろうか、という違和感があった。

信念の中身だけを取り出して否定しても、相手には、不安や孤独まで否定されたように響くのかもしれない。私は今回、ストレートな否定にはマイナスの影響の方が大きそうだと感じた。ただし、これは会話を読んだ私の感想であり、直接的な反論が人間にとって有害だと示した結果ではない。

その一方で、信念には触れず、家族との関係だけを扱えばよいとも思えなかった。私は査読中に、信念についてコミュニケーションしないことには、その信念を承認している側面もあるのではないかと書いた。相手の孤独に応じるつもりでも、主張の中身まで認めたと受け取られる可能性がある。

孤独について話す場面は、行動を変えるという発言につながったように読めた。それでも、その読みだけから「孤独を扱えば行動が変わる」とは言えない。感情への配慮と、信念への同意がどのように受け取られたのかを、今回の評価は十分に捉えていなかった。

信念と感情を別々の項目として報告できるエージェントが、両者を分かちがたい対話も再現できているのか。v9で用意した8つの整合判定には、この問いを直接確かめる項目がなかった。これは人間一般について確定した説明ではなく、今回の読解から残った仮説である。

計算は合っていたが、低下の半分は介入前だった

査読時の独立検算では、全8条件の確信度の変化が元の集計と一致した。生成物を作り直しても差分はなかった。計算が再現することと、介入が信念を変えたと説明できることは別だった。

全24家族の確信度を時点ごとに見ると、次のようになっていた。

時点	確信度
設定で固定した初期値	0.820
最初の発話後、応答役からの介入前の平均	0.729
最終の平均	0.643

合計0.177の低下のうち、0.091、約51%が介入前に起きていた。初期設定と最初の自己申告のずれを、介入後の変化に足し込んでいたことになる。この全量を介入の効果とは扱えない。

さらに、最終の自己申告には、それまでの会話も現在状態も渡されていなかった。会話全体を読む盲検判定とは入力が違う。両方に数値があるからといって、同じ根拠で変化を測っているわけではなかった。

介入文の生成にも不備があった。2家族では介入文が届かず、1件は実行環境についての役柄外の説明、もう1件は空の応答だった。それでも両方が有効な採点として集計されていた。この2家族を除いても8つの整合判定は変わらなかったので、欠陥を見つけたことと、判定への影響があったことも分けて記録した。

人間研究との「整合」にも根拠が足りなかった

人間研究との整合判定には、研究から導かれていない固定の判定境界が使われていた。比較用に整理した8本の研究のうち7本では、効果の大きさが数値として登録されていない。それでも「効果を過大に再現した」「過小に再現した」と判定していた。書誌情報にも、出典を追いにくい問題が残った。

たとえば、確信度の低下を大きすぎるとする境界は0.10だったが、今回観測した8条件の低下は0.130から0.237だった。どの条件を選んでも境界を超える配置だった。関係への害を扱う別の判定でも、境界が観測範囲より下にあった。

この結果だけでは、人間研究とどの程度一致したかを評価できない。判定が変わらない理由が、モデルの安定した振る舞いにあるのか、判定境界が違いを拾わない位置にあるのかを確かめる必要がある。

感情に関わる指標はあったが、報告から抜けていた

査読では28指標の条件差を探索的に調べ、設定した統計的な判定境界を超えた5指標のうち、4つが当初の報告から抜けていると分かった。話題への苦痛、懸念を共有する意図、孤独への意識、関係の緊張という指標だった。

感情や関係を表す指標自体がなかったわけではない。人間研究との整合判定に含めていないことと、測定項目として存在しないことは違う。孤独への意識を表す指標（loneliness_salience）も存在し、家族関係を扱う条件が上位だった。

ただし、家族ごとの値を比べると、孤独への意識が高いほど次の行動に合意する、という関連は確認できなかった。条件ごとの順位が私の読みと重なっても、「孤独の話題化が行動変化につながった」という解釈を裏づけるには足りない。仮に相関があったとしても、それだけで原因とは言えない。

この4指標は自己申告由来であり、その最終評価には会話が渡されていない問題もある。各条件3家族で28指標を調べた探索的な結果では、偶然の差を拾う可能性にも注意が要る。感情に関わる介入効果を発見したとせず、入力を直してから再測定したい項目として残す。

査読を終えて、次に確かめたいこと

v9のセルフ査読は完了し、14件の所見すべてに処置を付けた。生成レポートには、信念変化の読み直し、介入前の低下、介入の不在、判定境界の根拠不足、未報告だった指標を追記した。数値表を全面的に作り直したわけではなく、開示したことで測定や設計の問題まで直ったわけでもない。

v8の査読では、何を尋ねるかに加えて、どれくらい柔らかく尋ねるかが気になった。今回の感想はその続きにある。ただ、柔らかさだけを変えれば済むとも思えなくなった。感情に配慮することと、主張を認めることが、相手にどう区別されるかも見なければならない。

次に確かめたいのは、不安や孤独に応じながら、主張の中身には同意していないことも伝わる対話を、どう設計し、どう評価できるかという問いである。そのためにも、信念の自己申告、行動を変えるという宣言、その後に実際に示す行動を別々に追いたい。過去の発話を与えた予備試行で分けた、口調の模倣と行動の持続という問いにもつながる。

これは次の実験仕様を確定したという記録ではない。入力と採点の修正、人間研究の出典・効果量の確認、行動の持続を観察する設計が残っている。人間の家族への有効な対応が分かったわけでもないため、この日誌は芽の段階（seed）とする。

一次情報源

• 著者によるv9実行時の考察（2026-07-08）
• 著者によるv9セルフ査読と、信念・感情についての振り返り（2026-09-12）
• geeknees/conspiracy_family_transmission
• v8のセルフ査読日誌
• 過去の発話を与えた6件の予備試行