combine two sources interactive

%23%20%2F%2F%2F%20script%0A%23%20requires-python%20%3D%20%22%3E%3D3.11%22%0A%23%20dependencies%20%3D%20%5B%22marimo%3E%3D0.23.9%22%2C%20%22matplotlib%3D%3D3.10.8%22%2C%20%22numpy%3D%3D2.4.3%22%2C%20%22scipy%3D%3D1.17.1%22%5D%0A%23%20%0A%23%20%5Btool.marimo.export%5D%0A%23%20lock_kind%20%3D%20%22resolved%22%0A%23%20%2F%2F%2F%0A%0Aimport%20marimo%0A%0A__generated_with%20%3D%20%220.23.13%22%0Aapp%20%3D%20marimo.App()%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20import%20marimo%20as%20mo%0A%20%20%20%20import%20matplotlib.pyplot%20as%20plt%0A%20%20%20%20import%20numpy%20as%20np%0A%20%20%20%20from%20scipy.stats%20import%20norm%0A%0A%20%20%20%20plt.style.use(%22default%22)%0A%0A%20%20%20%20%23%20Shared%20colour%20scheme%20across%20the%20three%20sections.%0A%20%20%20%20C_SRC1%20%3D%20%22%231f77b4%22%20%20%20%23%20source%201%20%2F%20likelihood%20(data)%0A%20%20%20%20C_SRC2%20%3D%20%22%23ff7f0e%22%20%20%20%23%20source%202%0A%20%20%20%20C_PRIOR%20%3D%20%22%239467bd%22%20%20%23%20prior%0A%20%20%20%20C_COMB%20%3D%20%22%232ca02c%22%20%20%20%23%20combined%20%2F%20posterior%0A%20%20%20%20C_EST%20%3D%20%22%23d62728%22%20%20%20%20%23%20the%20combined%20estimate%0A%20%20%20%20return%20C_COMB%2C%20C_EST%2C%20C_PRIOR%2C%20C_SRC1%2C%20C_SRC2%2C%20mo%2C%20norm%2C%20np%2C%20plt%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%20Combining%20Two%20Sources%20of%20Information%20%E2%80%94%20the%20Precision-Weighted%20Mean%0A%0A%20%20%20%20Two%20instruments%20measure%20the%20*same*%20quantity%20and%20disagree.%20A%20sensor%20reading%20and%20a%0A%20%20%20%20physical%20prior%20point%20at%20*different*%20values.%20A%20new%20measurement%20arrives%20that%20must%20be%0A%20%20%20%20fused%20with%20everything%20seen%20so%20far.%20In%20each%20case%20we%20hold%20**two%20sources%20of%20information**%0A%20%20%20%20about%20one%20unknown%20and%20must%20distil%20them%20into%20a%20single%20best%20estimate.%0A%0A%20%20%20%20This%20notebook%20tells%20one%20story%20in%20three%20steps%3A%0A%0A%20%20%20%201.%20**The%20mechanism.**%20Independent%20sources%20combine%20by%20**multiplying%20their%20likelihoods**%3B%0A%20%20%20%20%20%20%20the%20maximum-likelihood%20estimate%20is%20the%20peak%20of%20the%20product.%0A%20%20%20%202.%20**The%20formula.**%20When%20both%20sources%20are%20Gaussian%20and%20*unbiased*%20(same%20true%20mean%2C%0A%20%20%20%20%20%20%20different%20variances)%2C%20that%20peak%20is%20the%20**precision-weighted%20mean**%2C%20and%20the%20combined%0A%20%20%20%20%20%20%20estimate%20is%20*more%20certain%20than%20either%20source%20alone*.%0A%20%20%20%203.%20**The%20reappearance.**%20In%20**maximum-a-posteriori%20(MAP)**%20estimation%20the%20two%20sources%20are%0A%20%20%20%20%20%20%20the%20**likelihood**%20(data)%20and%20the%20**prior**%20(belief).%20If%20both%20are%20Gaussian%20we%20recover%0A%20%20%20%20%20%20%20*exactly%20the%20same*%20precision-weighted%20formula%20%E2%80%94%20the%20prior%20is%20just%20%22another%20measurement%22.%0A%0A%20%20%20%20Throughout%2C%20*precision*%20means%20inverse%20variance%2C%20%24%5Ctau%20%3D%201%2F%5Csigma%5E2%24%3A%20a%20sharp%2C%20confident%0A%20%20%20%20source%20has%20high%20precision.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Motivating%20Example%20%E2%80%94%20Two%20Sensors%2C%20One%20Unknown%0A%0A%20%20%20%20You%20want%20to%20measure%20**room%20temperature**%20and%20have%20two%20sensors%20on%20hand%3A%0A%20%20%20%20a%20cheap%20budget%20sensor%20and%20a%20professional%20lab%20sensor.%0A%20%20%20%20Both%20measure%20the%20same%20room%20but%20give%20**different%20readings**.%0A%0A%20%20%20%20**Which%20reading%20should%20you%20trust%20more%20%E2%80%94%20and%20how%20do%20you%20combine%20them%20into%20a%20single%20best%20estimate%3F**%0A%20%20%20%20Adjust%20the%20sliders%20to%20see%20how%20accuracy%20(%CF%83)%20controls%20the%20influence%20of%20each%20sensor.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20r1_i%20%3D%20mo.ui.slider(start%3D15.0%2C%20stop%3D30.0%2C%20step%3D0.5%2C%20value%3D22.0%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20label%3D%22Budget%20sensor%20reading%20(%C2%B0C)%22)%0A%20%20%20%20s1_i%20%3D%20mo.ui.slider(start%3D0.3%2C%20stop%3D4.0%2C%20step%3D0.1%2C%20value%3D3.0%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20label%3D%22Budget%20sensor%20accuracy%20%CF%83%E2%82%81%20(%C2%B0C)%22)%0A%20%20%20%20r2_i%20%3D%20mo.ui.slider(start%3D15.0%2C%20stop%3D30.0%2C%20step%3D0.5%2C%20value%3D20.0%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20label%3D%22Lab%20sensor%20reading%20(%C2%B0C)%22)%0A%20%20%20%20s2_i%20%3D%20mo.ui.slider(start%3D0.3%2C%20stop%3D4.0%2C%20step%3D0.1%2C%20value%3D0.5%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20label%3D%22Lab%20sensor%20accuracy%20%CF%83%E2%82%82%20(%C2%B0C)%22)%0A%20%20%20%20show_i%20%3D%20mo.ui.checkbox(label%3D%22Show%20result%22%2C%20value%3DFalse)%0A%20%20%20%20return%20r1_i%2C%20r2_i%2C%20s1_i%2C%20s2_i%2C%20show_i%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20C_COMB%2C%0A%20%20%20%20C_EST%2C%0A%20%20%20%20C_SRC1%2C%0A%20%20%20%20C_SRC2%2C%0A%20%20%20%20norm%2C%0A%20%20%20%20np%2C%0A%20%20%20%20plt%2C%0A%20%20%20%20r1_i%2C%0A%20%20%20%20r2_i%2C%0A%20%20%20%20s1_i%2C%0A%20%20%20%20s2_i%2C%0A%20%20%20%20show_i%2C%0A)%3A%0A%20%20%20%20from%20matplotlib.patches%20import%20FancyBboxPatch%2C%20Circle%0A%0A%20%20%20%20_r1%2C%20_s1%20%3D%20r1_i.value%2C%20s1_i.value%0A%20%20%20%20_r2%2C%20_s2%20%3D%20r2_i.value%2C%20s2_i.value%0A%20%20%20%20_p1_i%2C%20_p2_i%20%3D%201.0%20%2F%20_s1%20**%202%2C%201.0%20%2F%20_s2%20**%202%0A%20%20%20%20_mu_i%20%3D%20(_p1_i%20*%20_r1%20%2B%20_p2_i%20*%20_r2)%20%2F%20(_p1_i%20%2B%20_p2_i)%0A%20%20%20%20_sc_i%20%3D%201.0%20%2F%20np.sqrt(_p1_i%20%2B%20_p2_i)%0A%20%20%20%20_w1_i%2C%20_w2_i%20%3D%20_p1_i%20%2F%20(_p1_i%20%2B%20_p2_i)%2C%20_p2_i%20%2F%20(_p1_i%20%2B%20_p2_i)%0A%0A%20%20%20%20def%20_stars(sigma)%3A%0A%20%20%20%20%20%20%20%20log_p%20%3D%20-2.0%20*%20np.log(sigma)%0A%20%20%20%20%20%20%20%20log_p_max%20%3D%20-2.0%20*%20np.log(0.3)%0A%20%20%20%20%20%20%20%20log_p_min%20%3D%20-2.0%20*%20np.log(4.0)%0A%20%20%20%20%20%20%20%20frac%20%3D%20max(0.0%2C%20min(1.0%2C%20(log_p%20-%20log_p_min)%20%2F%20(log_p_max%20-%20log_p_min)))%0A%20%20%20%20%20%20%20%20n%20%3D%20max(1%2C%20round(frac%20*%205))%0A%20%20%20%20%20%20%20%20return%20%22%E2%98%85%22%20*%20n%20%2B%20%22%E2%98%86%22%20*%20(5%20-%20n)%0A%0A%20%20%20%20def%20_draw_sensor(ax%2C%20cx%2C%20cy%2C%20color%2C%20quality)%3A%0A%20%20%20%20%20%20%20%20bw%2C%20bh%20%3D%200.24%2C%200.16%0A%20%20%20%20%20%20%20%20ax.add_patch(FancyBboxPatch(%0A%20%20%20%20%20%20%20%20%20%20%20%20(cx%20-%20bw%20%2F%202%2C%20cy%20-%20bh%20%2F%202)%2C%20bw%2C%20bh%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20boxstyle%3D%22round%2Cpad%3D0.01%22%2C%20facecolor%3D%22%23eeeeee%22%2C%20edgecolor%3Dcolor%2C%20lw%3D2.5%2C%20zorder%3D4%2C%0A%20%20%20%20%20%20%20%20))%0A%20%20%20%20%20%20%20%20scr_color%20%3D%20%22%23e3f2fd%22%20if%20quality%20%3D%3D%20%22pro%22%20else%20%22%23fff8e1%22%0A%20%20%20%20%20%20%20%20ax.add_patch(FancyBboxPatch(%0A%20%20%20%20%20%20%20%20%20%20%20%20(cx%20-%200.07%2C%20cy%20-%200.02)%2C%200.10%2C%200.08%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20boxstyle%3D%22square%2Cpad%3D0.005%22%2C%20facecolor%3Dscr_color%2C%20edgecolor%3D%22%23aaaaaa%22%2C%20lw%3D1%2C%20zorder%3D5%2C%0A%20%20%20%20%20%20%20%20))%0A%20%20%20%20%20%20%20%20led_color%20%3D%20%22%234caf50%22%20if%20quality%20%3D%3D%20%22pro%22%20else%20%22%23ff9800%22%0A%20%20%20%20%20%20%20%20ax.add_patch(Circle(%0A%20%20%20%20%20%20%20%20%20%20%20%20(cx%20%2B%20bw%20%2F%202%20-%200.03%2C%20cy%20%2B%20bh%20%2F%202%20-%200.03)%2C%200.018%2C%20color%3Dled_color%2C%20zorder%3D5%2C%0A%20%20%20%20%20%20%20%20))%0A%20%20%20%20%20%20%20%20if%20quality%20%3D%3D%20%22pro%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(%5Bcx%20%2B%200.07%2C%20cx%20%2B%200.11%2C%20cx%20%2B%200.09%5D%2C%20%5Bcy%20%2B%200.07%2C%20cy%20%2B%200.13%2C%20cy%20%2B%200.09%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20color%3D%22%23888888%22%2C%20lw%3D1.5%2C%20zorder%3D4)%0A%0A%20%20%20%20fig_intro%20%3D%20plt.figure(figsize%3D(14%2C%208))%0A%20%20%20%20ax_c%20%3D%20fig_intro.add_axes((0.0%2C%200.35%2C%201.0%2C%200.62))%0A%20%20%20%20ax_c.set_xlim(0%2C%203)%0A%20%20%20%20ax_c.set_ylim(0%2C%201)%0A%20%20%20%20ax_c.axis(%22off%22)%0A%0A%20%20%20%20CW_I%2C%20CH_I%20%3D%200.75%2C%200.88%0A%20%20%20%20_gap_i%20%3D%20(1.5%20-%20CW_I%20%2F%202)%20-%20(0.5%20%2B%20CW_I%20%2F%202)%0A%0A%20%20%20%20for%20_cx%2C%20_title%2C%20_reading%2C%20_sigma%2C%20_color%2C%20_price%2C%20_kind%20in%20%5B%0A%20%20%20%20%20%20%20%20(0.5%2C%20%20%22Budget%20Sensor%22%2C%20_r1%2C%20%20%20_s1%2C%20%20%20C_SRC1%2C%20%22%245%22%2C%20%20%20%22cheap%22)%2C%0A%20%20%20%20%20%20%20%20(1.5%2C%20%20%22Best%20Estimate%22%2C%20_mu_i%2C%20_sc_i%2C%20C_COMB%2C%20None%2C%20%20%20%22combined%22)%2C%0A%20%20%20%20%20%20%20%20(2.5%2C%20%20%22Lab%20Sensor%22%2C%20%20%20%20_r2%2C%20%20%20_s2%2C%20%20%20C_SRC2%2C%20%22%24200%22%2C%20%22pro%22)%2C%0A%20%20%20%20%5D%3A%0A%20%20%20%20%20%20%20%20_x0%2C%20_y0%20%3D%20_cx%20-%20CW_I%20%2F%202%2C%200.06%0A%20%20%20%20%20%20%20%20ax_c.add_patch(FancyBboxPatch(%0A%20%20%20%20%20%20%20%20%20%20%20%20(_x0%20%2B%200.012%2C%20_y0%20-%200.012)%2C%20CW_I%2C%20CH_I%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20boxstyle%3D%22round%2Cpad%3D0.02%22%2C%20facecolor%3D%22%23cccccc%22%2C%20edgecolor%3D%22none%22%2C%20zorder%3D1%2C%0A%20%20%20%20%20%20%20%20))%0A%20%20%20%20%20%20%20%20ax_c.add_patch(FancyBboxPatch(%0A%20%20%20%20%20%20%20%20%20%20%20%20(_x0%2C%20_y0)%2C%20CW_I%2C%20CH_I%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20boxstyle%3D%22round%2Cpad%3D0.02%22%2C%20facecolor%3D%22white%22%2C%20edgecolor%3D_color%2C%20lw%3D3%2C%20zorder%3D2%2C%0A%20%20%20%20%20%20%20%20))%0A%20%20%20%20%20%20%20%20ax_c.add_patch(FancyBboxPatch(%0A%20%20%20%20%20%20%20%20%20%20%20%20(_x0%2C%20_y0%20%2B%20CH_I%20-%200.18)%2C%20CW_I%2C%200.19%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20boxstyle%3D%22round%2Cpad%3D0.01%22%2C%20facecolor%3D_color%2C%20edgecolor%3D%22none%22%2C%20zorder%3D3%2C%0A%20%20%20%20%20%20%20%20))%0A%20%20%20%20%20%20%20%20ax_c.text(_cx%2C%20_y0%20%2B%20CH_I%20-%200.09%2C%20_title%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ha%3D%22center%22%2C%20va%3D%22center%22%2C%20fontsize%3D12%2C%20fontweight%3D%22bold%22%2C%20color%3D%22white%22%2C%20zorder%3D4)%0A%0A%20%20%20%20%20%20%20%20if%20_kind%20in%20(%22cheap%22%2C%20%22pro%22)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20ax_c.text(_cx%2C%20_y0%20%2B%20CH_I%20-%200.26%2C%20f%22Price%3A%20%7B_price%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ha%3D%22center%22%2C%20va%3D%22center%22%2C%20fontsize%3D9%2C%20color%3D%22%23888888%22%2C%20zorder%3D4)%0A%20%20%20%20%20%20%20%20%20%20%20%20_draw_sensor(ax_c%2C%20_cx%2C%20_y0%20%2B%200.56%2C%20_color%2C%20_kind)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax_c.text(_cx%2C%20_y0%20%2B%200.38%2C%20_stars(_sigma)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ha%3D%22center%22%2C%20va%3D%22center%22%2C%20fontsize%3D16%2C%20color%3D%22%23ffa000%22%2C%20zorder%3D4)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax_c.text(_cx%2C%20_y0%20%2B%200.24%2C%20f%22%7B_reading%3A.1f%7D%20%C2%B0C%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ha%3D%22center%22%2C%20va%3D%22center%22%2C%20fontsize%3D18%2C%20fontweight%3D%22bold%22%2C%20color%3D_color%2C%20zorder%3D4)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax_c.text(_cx%2C%20_y0%20%2B%200.12%2C%20f%22accuracy%3A%20%C2%B1%7B_sigma%3A.1f%7D%20%C2%B0C%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ha%3D%22center%22%2C%20va%3D%22center%22%2C%20fontsize%3D10%2C%20color%3D%22%23666666%22%2C%20zorder%3D4)%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20show_i.value%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax_c.text(_cx%2C%20_y0%20%2B%200.60%2C%20f%22%7B_reading%3A.1f%7D%20%C2%B0C%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ha%3D%22center%22%2C%20va%3D%22center%22%2C%20fontsize%3D22%2C%20fontweight%3D%22bold%22%2C%20color%3D_color%2C%20zorder%3D4)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax_c.text(_cx%2C%20_y0%20%2B%200.45%2C%20f%22accuracy%3A%20%C2%B1%7B_sigma%3A.2f%7D%20%C2%B0C%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ha%3D%22center%22%2C%20va%3D%22center%22%2C%20fontsize%3D11%2C%20color%3D%22%23666666%22%2C%20zorder%3D4)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax_c.text(_cx%2C%20_y0%20%2B%200.30%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22%3D%20%7B_w1_i%3A.0%25%7D%C3%97%7B_r1%3A.1f%7D%20%2B%20%7B_w2_i%3A.0%25%7D%C3%97%7B_r2%3A.1f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ha%3D%22center%22%2C%20va%3D%22center%22%2C%20fontsize%3D10%2C%20color%3D%22%23444444%22%2C%20zorder%3D4)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax_c.text(_cx%2C%20_y0%20%2B%200.17%2C%20%22precision-weighted%20mean%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ha%3D%22center%22%2C%20va%3D%22center%22%2C%20fontsize%3D9%2C%20fontstyle%3D%22italic%22%2C%20color%3D%22%23888888%22%2C%20zorder%3D4)%0A%20%20%20%20%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax_c.text(_cx%2C%20_y0%20%2B%200.55%2C%20%22%3F%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ha%3D%22center%22%2C%20va%3D%22center%22%2C%20fontsize%3D52%2C%20fontweight%3D%22bold%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20color%3D%22%23cccccc%22%2C%20zorder%3D4)%0A%0A%20%20%20%20_ax1%20%3D%200.5%20%2B%20CW_I%20%2F%202%20%2B%20_gap_i%20*%200.1%0A%20%20%20%20_ax2%20%3D%200.5%20%2B%20CW_I%20%2F%202%20%2B%20_gap_i%20*%200.9%0A%20%20%20%20ax_c.annotate(%22%22%2C%20xy%3D(_ax2%2C%200.50)%2C%20xytext%3D(_ax1%2C%200.50)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20arrowprops%3Ddict(arrowstyle%3D%22-%3E%22%2C%20color%3DC_SRC1%2C%20lw%3D2.5)%2C%20zorder%3D6)%0A%20%20%20%20_w1_label%20%3D%20f%22w%E2%82%81%3D%7B_w1_i%3A.0%25%7D%22%20if%20show_i.value%20else%20%22w%E2%82%81%3D%3F%22%0A%20%20%20%20ax_c.text((_ax1%20%2B%20_ax2)%20%2F%202%2C%200.58%2C%20_w1_label%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20ha%3D%22center%22%2C%20va%3D%22center%22%2C%20fontsize%3D9%2C%20color%3DC_SRC1%2C%20fontweight%3D%22bold%22%2C%20zorder%3D6)%0A%0A%20%20%20%20_bx1%20%3D%202.5%20-%20CW_I%20%2F%202%20-%20_gap_i%20*%200.1%0A%20%20%20%20_bx2%20%3D%202.5%20-%20CW_I%20%2F%202%20-%20_gap_i%20*%200.9%0A%20%20%20%20ax_c.annotate(%22%22%2C%20xy%3D(_bx2%2C%200.50)%2C%20xytext%3D(_bx1%2C%200.50)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20arrowprops%3Ddict(arrowstyle%3D%22-%3E%22%2C%20color%3DC_SRC2%2C%20lw%3D2.5)%2C%20zorder%3D6)%0A%20%20%20%20_w2_label%20%3D%20f%22w%E2%82%82%3D%7B_w2_i%3A.0%25%7D%22%20if%20show_i.value%20else%20%22w%E2%82%82%3D%3F%22%0A%20%20%20%20ax_c.text((_bx1%20%2B%20_bx2)%20%2F%202%2C%200.58%2C%20_w2_label%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20ha%3D%22center%22%2C%20va%3D%22center%22%2C%20fontsize%3D9%2C%20color%3DC_SRC2%2C%20fontweight%3D%22bold%22%2C%20zorder%3D6)%0A%0A%20%20%20%20ax_g%20%3D%20fig_intro.add_axes((0.08%2C%200.05%2C%200.84%2C%200.27))%0A%20%20%20%20_lo_i%20%3D%20min(_r1%20-%204%20*%20_s1%2C%20_r2%20-%204%20*%20_s2)%20-%200.5%0A%20%20%20%20_hi_i%20%3D%20max(_r1%20%2B%204%20*%20_s1%2C%20_r2%20%2B%204%20*%20_s2)%20%2B%200.5%0A%20%20%20%20_th_i%20%3D%20np.linspace(_lo_i%2C%20_hi_i%2C%20600)%0A%20%20%20%20ax_g.plot(_th_i%2C%20norm.pdf(_th_i%2C%20_r1%2C%20_s1)%2C%20color%3DC_SRC1%2C%20lw%3D2%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20label%3Df%22Budget%3A%20%7B_r1%3A.1f%7D%C2%B0C%20%C2%B1%20%7B_s1%3A.1f%7D%C2%B0C%22)%0A%20%20%20%20ax_g.plot(_th_i%2C%20norm.pdf(_th_i%2C%20_r2%2C%20_s2)%2C%20color%3DC_SRC2%2C%20lw%3D2%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20label%3Df%22Lab%3A%20%7B_r2%3A.1f%7D%C2%B0C%20%C2%B1%20%7B_s2%3A.1f%7D%C2%B0C%22)%0A%20%20%20%20if%20show_i.value%3A%0A%20%20%20%20%20%20%20%20ax_g.plot(_th_i%2C%20norm.pdf(_th_i%2C%20_mu_i%2C%20_sc_i)%2C%20color%3DC_COMB%2C%20lw%3D3%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20label%3Df%22Combined%3A%20%7B_mu_i%3A.1f%7D%C2%B0C%20%C2%B1%20%7B_sc_i%3A.2f%7D%C2%B0C%22)%0A%20%20%20%20%20%20%20%20ax_g.fill_between(_th_i%2C%20norm.pdf(_th_i%2C%20_mu_i%2C%20_sc_i)%2C%20color%3DC_COMB%2C%20alpha%3D0.15)%0A%20%20%20%20%20%20%20%20ax_g.axvline(_mu_i%2C%20color%3DC_EST%2C%20lw%3D1.8%2C%20ls%3D%22--%22)%0A%20%20%20%20ax_g.set_xlabel(%22Temperature%20(%C2%B0C)%22)%0A%20%20%20%20ax_g.set_ylabel(%22Density%22)%0A%20%20%20%20if%20show_i.value%3A%0A%20%20%20%20%20%20%20%20ax_g.set_title(%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Combined%20estimate%20is%20sharper%20than%20either%20sensor%20alone%20%E2%80%94%20precision%20flows%20to%20the%20accurate%20source%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20fontweight%3D%22bold%22%2C%0A%20%20%20%20%20%20%20%20)%0A%20%20%20%20ax_g.legend(fontsize%3D9)%0A%20%20%20%20ax_g.grid(alpha%3D0.3)%0A%20%20%20%20return%20(fig_intro%2C)%0A%0A%0A%40app.cell%0Adef%20_(fig_intro%2C%20mo%2C%20r1_i%2C%20r2_i%2C%20s1_i%2C%20s2_i%2C%20show_i)%3A%0A%20%20%20%20mo.vstack(%5B%0A%20%20%20%20%20%20%20%20mo.hstack(%5Br1_i%2C%20s1_i%5D)%2C%0A%20%20%20%20%20%20%20%20mo.hstack(%5Br2_i%2C%20s2_i%5D)%2C%0A%20%20%20%20%20%20%20%20show_i%2C%0A%20%20%20%20%20%20%20%20mo.mpl.interactive(fig_intro)%2C%0A%20%20%20%20%5D)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%201%20The%20mechanism%20%E2%80%94%20fuse%20two%20sources%20by%20multiplying%20likelihoods%0A%0A%20%20%20%20Each%20source%20tells%20us%20how%20plausible%20every%20candidate%20value%20%24%5Ctheta%24%20is%2C%20through%20a%0A%20%20%20%20**likelihood**%20%24%5Cmathcal%7BL%7D_i(%5Ctheta)%24.%20If%20the%20two%20sources%20are%20*independent*%2C%20the%20joint%0A%20%20%20%20likelihood%20is%20their%20product%2C%20so%20the%20combined%20maximum-likelihood%20estimate%20is%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cwidehat%7B%5Ctheta%7D%0A%20%20%20%20%3D%20%5Coperatorname*%7Bargmax%7D_%7B%5Ctheta%7D%5C%3B%5Cmathcal%7BL%7D_1(%5Ctheta)%5C%2C%5Cmathcal%7BL%7D_2(%5Ctheta)%0A%20%20%20%20%3D%20%5Coperatorname*%7Bargmax%7D_%7B%5Ctheta%7D%5C%3B%5Cbig%5B%5Clog%20%5Cmathcal%7BL%7D_1(%5Ctheta)%20%2B%20%5Clog%20%5Cmathcal%7BL%7D_2(%5Ctheta)%5Cbig%5D.%0A%20%20%20%20%24%24%0A%20%20%20%20There%20are%20two%20equivalent%20views%2C%20shown%20side%20by%20side%20below.%20**Multiplying**%20the%20likelihoods%0A%20%20%20%20(left)%20is%20an%20**AND**%20%E2%80%94%20the%20product%20is%20large%20only%20where%20*both*%20sources%20are%20large.%0A%20%20%20%20Equivalently%2C%20**adding**%20the%20log-likelihoods%20(right)%20stacks%20two%20downward%20parabolas%20into%20a%0A%20%20%20%20single%20parabola.%20Either%20way%20the%20peak%20sits%20**between**%20the%20two%20sources%2C%20pulled%20toward%20the%0A%20%20%20%20**narrower**%20(more%20confident)%20one.%20Drag%20the%20centres%20apart%20and%20make%20one%20source%20sharp%20%E2%80%94%20the%0A%20%20%20%20estimate%20follows%20the%20confident%20source%2C%20and%20the%20summed%20parabola's%20vertex%20dips%20below%20zero%20by%0A%20%20%20%20exactly%20how%20much%20the%20two%20sources%20*disagree*.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20x1_a%20%3D%20mo.ui.slider(start%3D-6.0%2C%20stop%3D6.0%2C%20step%3D0.1%2C%20value%3D-1.5%2C%20label%3D%22source%201%20reading%20x%E2%82%81%22)%0A%20%20%20%20s1_a%20%3D%20mo.ui.slider(start%3D0.3%2C%20stop%3D4.0%2C%20step%3D0.1%2C%20value%3D1.6%2C%20label%3D%22source%201%20spread%20%CF%83%E2%82%81%22)%0A%20%20%20%20x2_a%20%3D%20mo.ui.slider(start%3D-6.0%2C%20stop%3D6.0%2C%20step%3D0.1%2C%20value%3D2.0%2C%20label%3D%22source%202%20reading%20x%E2%82%82%22)%0A%20%20%20%20s2_a%20%3D%20mo.ui.slider(start%3D0.3%2C%20stop%3D4.0%2C%20step%3D0.1%2C%20value%3D0.8%2C%20label%3D%22source%202%20spread%20%CF%83%E2%82%82%22)%0A%20%20%20%20return%20s1_a%2C%20s2_a%2C%20x1_a%2C%20x2_a%0A%0A%0A%40app.cell%0Adef%20_(C_COMB%2C%20C_EST%2C%20C_SRC1%2C%20C_SRC2%2C%20norm%2C%20np%2C%20plt%2C%20s1_a%2C%20s2_a%2C%20x1_a%2C%20x2_a)%3A%0A%20%20%20%20_x1%2C%20_x2%20%3D%20x1_a.value%2C%20x2_a.value%0A%20%20%20%20_s1%2C%20_s2%20%3D%20s1_a.value%2C%20s2_a.value%0A%0A%20%20%20%20_p1%2C%20_p2%20%3D%201.0%20%2F%20_s1**2%2C%201.0%20%2F%20_s2**2%0A%20%20%20%20_mu%20%3D%20(_p1%20*%20_x1%20%2B%20_p2%20*%20_x2)%20%2F%20(_p1%20%2B%20_p2)%0A%20%20%20%20_sc%20%3D%201.0%20%2F%20np.sqrt(_p1%20%2B%20_p2)%0A%20%20%20%20_penalty%20%3D%20-((_x1%20-%20_x2)%20**%202)%20%2F%20(2.0%20*%20(_s1**2%20%2B%20_s2**2))%0A%0A%20%20%20%20_lo%20%3D%20min(_x1%20-%203%20*%20_s1%2C%20_x2%20-%203%20*%20_s2)%20-%200.5%0A%20%20%20%20_hi%20%3D%20max(_x1%20%2B%203%20*%20_s1%2C%20_x2%20%2B%203%20*%20_s2)%20%2B%200.5%0A%20%20%20%20_th%20%3D%20np.linspace(_lo%2C%20_hi%2C%20700)%0A%0A%20%20%20%20%23%20Left%20view%3A%20relative%20likelihoods%20(scaled%20to%20peak%201)%20and%20their%20product%20(also%20scaled).%0A%20%20%20%20_L1%20%3D%20norm.pdf(_th%2C%20_x1%2C%20_s1)%3B%20_L1%20%3D%20_L1%20%2F%20_L1.max()%0A%20%20%20%20_L2%20%3D%20norm.pdf(_th%2C%20_x2%2C%20_s2)%3B%20_L2%20%3D%20_L2%20%2F%20_L2.max()%0A%20%20%20%20_LP%20%3D%20_L1%20*%20_L2%3B%20_LP%20%3D%20_LP%20%2F%20_LP.max()%0A%0A%20%20%20%20%23%20Right%20view%3A%20log%20relative%20likelihoods%20(parabolas%20peaking%20at%200)%20and%20their%20sum.%0A%20%20%20%20_l1%20%3D%20-((_th%20-%20_x1)%20**%202)%20%2F%20(2.0%20*%20_s1**2)%0A%20%20%20%20_l2%20%3D%20-((_th%20-%20_x2)%20**%202)%20%2F%20(2.0%20*%20_s2**2)%0A%20%20%20%20_lsum%20%3D%20_l1%20%2B%20_l2%0A%0A%20%20%20%20figA%2C%20(_axL%2C%20_axR)%20%3D%20plt.subplots(1%2C%202%2C%20figsize%3D(14%2C%205))%0A%0A%20%20%20%20_axL.plot(_th%2C%20_L1%2C%20color%3DC_SRC1%2C%20lw%3D2%2C%20label%3Df%22%24%5C%5Cmathcal%7B%7BL%7D%7D_1%24%20(x%E2%82%81%3D%7B_x1%3A.1f%7D%2C%20%CF%83%E2%82%81%3D%7B_s1%3A.1f%7D)%22)%0A%20%20%20%20_axL.plot(_th%2C%20_L2%2C%20color%3DC_SRC2%2C%20lw%3D2%2C%20label%3Df%22%24%5C%5Cmathcal%7B%7BL%7D%7D_2%24%20(x%E2%82%82%3D%7B_x2%3A.1f%7D%2C%20%CF%83%E2%82%82%3D%7B_s2%3A.1f%7D)%22)%0A%20%20%20%20_axL.plot(_th%2C%20_LP%2C%20color%3DC_COMB%2C%20lw%3D3%2C%20label%3D%22product%20%24%5C%5Cmathcal%7BL%7D_1%5C%5Cmathcal%7BL%7D_2%24%22)%0A%20%20%20%20_axL.fill_between(_th%2C%20_LP%2C%20color%3DC_COMB%2C%20alpha%3D0.12)%0A%20%20%20%20_axL.axvline(_x1%2C%20color%3DC_SRC1%2C%20ls%3D%22%3A%22%2C%20lw%3D1)%0A%20%20%20%20_axL.axvline(_x2%2C%20color%3DC_SRC2%2C%20ls%3D%22%3A%22%2C%20lw%3D1)%0A%20%20%20%20_axL.axvline(_mu%2C%20color%3DC_EST%2C%20lw%3D2.2%2C%20label%3Df%22estimate%20%CE%B8%CC%82%3D%7B_mu%3A.2f%7D%22)%0A%20%20%20%20_axL.set_title(%22Multiply%20the%20likelihoods%20(AND)%22%2C%20fontweight%3D%22bold%22)%0A%20%20%20%20_axL.set_xlabel(r%22candidate%20value%20%24%5Ctheta%24%22)%0A%20%20%20%20_axL.set_ylabel(%22relative%20likelihood%22)%0A%20%20%20%20_axL.legend(fontsize%3D9%2C%20loc%3D%22upper%20right%22)%0A%20%20%20%20_axL.grid(alpha%3D0.3)%0A%0A%20%20%20%20_axR.plot(_th%2C%20_l1%2C%20color%3DC_SRC1%2C%20lw%3D2%2C%20label%3Dr%22%24%5Clog%5Cmathcal%7BL%7D_1%24%22)%0A%20%20%20%20_axR.plot(_th%2C%20_l2%2C%20color%3DC_SRC2%2C%20lw%3D2%2C%20label%3Dr%22%24%5Clog%5Cmathcal%7BL%7D_2%24%22)%0A%20%20%20%20_axR.plot(_th%2C%20_lsum%2C%20color%3DC_COMB%2C%20lw%3D3%2C%20label%3Dr%22sum%20%24%5Clog%5Cmathcal%7BL%7D_1%2B%5Clog%5Cmathcal%7BL%7D_2%24%22)%0A%20%20%20%20_axR.axvline(_mu%2C%20color%3DC_EST%2C%20lw%3D2.2)%0A%20%20%20%20_ybot%20%3D%20-10.0%0A%20%20%20%20if%20_penalty%20%3E%3D%20_ybot%3A%0A%20%20%20%20%20%20%20%20_axR.plot(%5B_mu%5D%2C%20%5B_penalty%5D%2C%20%22o%22%2C%20color%3DC_EST%2C%20ms%3D8%2C%20zorder%3D5)%0A%20%20%20%20%20%20%20%20_axR.annotate(f%22vertex%20%CE%B8%CC%82%3D%7B_mu%3A.2f%7D%5Cnheight%20%7B_penalty%3A.2f%7D%22%2C%20xy%3D(_mu%2C%20_penalty)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20xytext%3D(8%2C%2010)%2C%20textcoords%3D%22offset%20points%22%2C%20fontsize%3D8.5%2C%20color%3DC_EST)%0A%20%20%20%20_axR.set_ylim(_ybot%2C%200.6)%0A%20%20%20%20_axR.set_title(%22%E2%80%A6or%20add%20the%20log-likelihoods%20(parabolas)%22%2C%20fontweight%3D%22bold%22)%0A%20%20%20%20_axR.set_xlabel(r%22candidate%20value%20%24%5Ctheta%24%22)%0A%20%20%20%20_axR.set_ylabel(%22log%20relative%20likelihood%22)%0A%20%20%20%20_axR.legend(fontsize%3D9%2C%20loc%3D%22lower%20right%22)%0A%20%20%20%20_axR.grid(alpha%3D0.3)%0A%20%20%20%20plt.tight_layout()%0A%0A%20%20%20%20_closer%20%3D%20%22source%202%22%20if%20abs(_mu%20-%20_x2)%20%3C%20abs(_mu%20-%20_x1)%20else%20%22source%201%22%0A%20%20%20%20noteA%20%3D%20(%0A%20%20%20%20%20%20%20%20f%22Both%20panels%20peak%20at%20the%20same%20%24%5C%5Cwidehat%5C%5Ctheta%3D%7B_mu%3A.2f%7D%24%2C%20**between**%20%22%0A%20%20%20%20%20%20%20%20f%22%24x_1%3D%7B_x1%3A.1f%7D%24%20and%20%24x_2%3D%7B_x2%3A.1f%7D%24%20and%20closer%20to%20**%7B_closer%7D**%20(the%20sharper%20source).%20%20%22%0A%20%20%20%20%20%20%20%20%22Left%3A%20multiplying%20is%20an%20AND%20%E2%80%94%20large%20only%20where%20*both*%20are%20large.%20%20%22%0A%20%20%20%20%20%20%20%20%22Right%3A%20each%20%24%5C%5Clog%5C%5Cmathcal%7BL%7D_i%24%20is%20a%20downward%20parabola%20of%20curvature%20%241%2F%5C%5Csigma_i%5E2%24%3B%20%22%0A%20%20%20%20%20%20%20%20%22**adding**%20them%20gives%20a%20parabola%20whose%20curvatures%20add%20(the%20combined%20precision)%2C%20with%20%22%0A%20%20%20%20%20%20%20%20f%22vertex%20height%20%24%7B_penalty%3A.2f%7D%5C%5Cle%200%24%20%E2%80%94%20the%20**disagreement%20penalty**%2C%20zero%20only%20when%20the%20%22%0A%20%20%20%20%20%20%20%20%22two%20readings%20coincide.%22%0A%20%20%20%20)%0A%20%20%20%20return%20figA%2C%20noteA%0A%0A%0A%40app.cell%0Adef%20_(figA%2C%20mo%2C%20noteA%2C%20s1_a%2C%20s2_a%2C%20x1_a%2C%20x2_a)%3A%0A%20%20%20%20mo.vstack(%0A%20%20%20%20%20%20%20%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.hstack(%5Bx1_a%2C%20s1_a%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.hstack(%5Bx2_a%2C%20s2_a%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.mpl.interactive(figA)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(noteA)%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%202%20Two%20unbiased%20Gaussians%20%E2%86%92%20the%20precision-weighted%20mean%0A%0A%20%20%20%20Now%20make%20both%20sources%20Gaussian%20and%20**unbiased**%3A%20each%20is%20centred%2C%20in%20expectation%2C%20on%20the%0A%20%20%20%20same%20true%20value%20%24%5Ctheta%24%2C%20but%20with%20its%20own%20variance%2C%0A%20%20%20%20%24%24%0A%20%20%20%20X_1%20%5Csim%20%5Cmathcal%7BN%7D(%5Ctheta%2C%5Csigma_1%5E2)%2C%20%5Cqquad%20X_2%20%5Csim%20%5Cmathcal%7BN%7D(%5Ctheta%2C%5Csigma_2%5E2).%0A%20%20%20%20%24%24%0A%20%20%20%20The%20joint%20likelihood%20of%20the%20two%20readings%20%24x_1%2Cx_2%24%20is%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cmathcal%7BL%7D(%5Ctheta)%0A%20%20%20%20%5Cpropto%20%5Cexp%5C!%5CBig(-%5Ctfrac%7B(x_1-%5Ctheta)%5E2%7D%7B2%5Csigma_1%5E2%7D%5CBig)%5C%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%5Cexp%5C!%5CBig(-%5Ctfrac%7B(x_2-%5Ctheta)%5E2%7D%7B2%5Csigma_2%5E2%7D%5CBig).%0A%20%20%20%20%24%24%0A%20%20%20%20Taking%20%24%5Clog%24%2C%20differentiating%20in%20%24%5Ctheta%24%20and%20setting%20it%20to%20zero%20gives%20a%20linear%20equation%0A%20%20%20%20whose%20solution%20is%20the%20**precision-weighted%20mean**%3A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cboxed%7B%5C%3B%0A%20%20%20%20%5Cwidehat%7B%5Ctheta%7D%0A%20%20%20%20%3D%20%5Cfrac%7B%5Cdfrac%7Bx_1%7D%7B%5Csigma_1%5E2%7D%2B%5Cdfrac%7Bx_2%7D%7B%5Csigma_2%5E2%7D%7D%0A%20%20%20%20%20%20%20%20%20%20%20%7B%5Cdfrac%7B1%7D%7B%5Csigma_1%5E2%7D%2B%5Cdfrac%7B1%7D%7B%5Csigma_2%5E2%7D%7D%0A%20%20%20%20%3D%20%5Cfrac%7B%5Ctau_1%20x_1%20%2B%20%5Ctau_2%20x_2%7D%7B%5Ctau_1%2B%5Ctau_2%7D%5C%3B%7D%0A%20%20%20%20%5Cqquad%20%5Ctau_i%20%3D%20%5Cfrac%7B1%7D%7B%5Csigma_i%5E2%7D.%0A%20%20%20%20%24%24%0A%20%20%20%20Two%20consequences%2C%20both%20visible%20below%3A%0A%0A%20%20%20%20-%20**Weights%20are%20precisions.**%20%24%5Cwidehat%5Ctheta%20%3D%20w_1%20x_1%20%2B%20w_2%20x_2%24%20with%0A%20%20%20%20%20%20%24w_i%20%3D%20%5Ctau_i%2F(%5Ctau_1%2B%5Ctau_2)%24%20summing%20to%201%20%E2%80%94%20the%20confident%20source%20dominates.%0A%20%20%20%20-%20**Precisions%20add.**%20Each%20log-likelihood%20is%20a%20parabola%20of%20curvature%20%24%5Ctau_i%3D1%2F%5Csigma_i%5E2%24%0A%20%20%20%20%20%20(Section%201%2C%20right%20panel)%3B%20summing%20them%20adds%20the%20curvatures%2C%20so%20the%20combined%20density%20is%0A%20%20%20%20%20%20Gaussian%20with%20%24%5Ctau%20%3D%20%5Ctau_1%2B%5Ctau_2%24%2C%20and%20%24%5Csigma%5E2%20%3D%201%2F(%5Ctau_1%2B%5Ctau_2)%24%20is%20**smaller%20than%0A%20%20%20%20%20%20either**%20%24%5Csigma_1%5E2%24%20or%20%24%5Csigma_2%5E2%24%3A%20fusing%20always%20sharpens.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20x1_b%20%3D%20mo.ui.slider(start%3D-6.0%2C%20stop%3D6.0%2C%20step%3D0.1%2C%20value%3D-1.0%2C%20label%3D%22reading%20x%E2%82%81%22)%0A%20%20%20%20s1_b%20%3D%20mo.ui.slider(start%3D0.3%2C%20stop%3D4.0%2C%20step%3D0.1%2C%20value%3D1.8%2C%20label%3D%22std%20%CF%83%E2%82%81%22)%0A%20%20%20%20x2_b%20%3D%20mo.ui.slider(start%3D-6.0%2C%20stop%3D6.0%2C%20step%3D0.1%2C%20value%3D2.0%2C%20label%3D%22reading%20x%E2%82%82%22)%0A%20%20%20%20s2_b%20%3D%20mo.ui.slider(start%3D0.3%2C%20stop%3D4.0%2C%20step%3D0.1%2C%20value%3D0.9%2C%20label%3D%22std%20%CF%83%E2%82%82%22)%0A%20%20%20%20return%20s1_b%2C%20s2_b%2C%20x1_b%2C%20x2_b%0A%0A%0A%40app.cell%0Adef%20_(C_COMB%2C%20C_EST%2C%20C_SRC1%2C%20C_SRC2%2C%20norm%2C%20np%2C%20plt%2C%20s1_b%2C%20s2_b%2C%20x1_b%2C%20x2_b)%3A%0A%20%20%20%20_x1%2C%20_x2%20%3D%20x1_b.value%2C%20x2_b.value%0A%20%20%20%20_s1%2C%20_s2%20%3D%20s1_b.value%2C%20s2_b.value%0A%0A%20%20%20%20_p1%2C%20_p2%20%3D%201.0%20%2F%20_s1**2%2C%201.0%20%2F%20_s2**2%0A%20%20%20%20_ptot%20%3D%20_p1%20%2B%20_p2%0A%20%20%20%20_mu%20%3D%20(_p1%20*%20_x1%20%2B%20_p2%20*%20_x2)%20%2F%20_ptot%0A%20%20%20%20_sc%20%3D%201.0%20%2F%20np.sqrt(_ptot)%0A%20%20%20%20_w1%2C%20_w2%20%3D%20_p1%20%2F%20_ptot%2C%20_p2%20%2F%20_ptot%0A%0A%20%20%20%20_lo%20%3D%20min(_x1%20-%203%20*%20_s1%2C%20_x2%20-%203%20*%20_s2)%20-%200.5%0A%20%20%20%20_hi%20%3D%20max(_x1%20%2B%203%20*%20_s1%2C%20_x2%20%2B%203%20*%20_s2)%20%2B%200.5%0A%20%20%20%20_th%20%3D%20np.linspace(_lo%2C%20_hi%2C%20700)%0A%0A%20%20%20%20figB%2C%20(_axL%2C%20_axR)%20%3D%20plt.subplots(1%2C%202%2C%20figsize%3D(14%2C%205)%2C%20gridspec_kw%3D%7B%22width_ratios%22%3A%20%5B2%2C%201%5D%7D)%0A%0A%20%20%20%20%23%20Left%3A%20the%20two%20source%20densities%20and%20the%20(normalised)%20combined%20density.%0A%20%20%20%20_axL.plot(_th%2C%20norm.pdf(_th%2C%20_x1%2C%20_s1)%2C%20color%3DC_SRC1%2C%20lw%3D2%2C%20label%3Df%22source%201%20%20%24%5C%5Cmathcal%7B%7BN%7D%7D(%7B_x1%3A.1f%7D%2C%7B_s1**2%3A.2f%7D)%24%22)%0A%20%20%20%20_axL.plot(_th%2C%20norm.pdf(_th%2C%20_x2%2C%20_s2)%2C%20color%3DC_SRC2%2C%20lw%3D2%2C%20label%3Df%22source%202%20%20%24%5C%5Cmathcal%7B%7BN%7D%7D(%7B_x2%3A.1f%7D%2C%7B_s2**2%3A.2f%7D)%24%22)%0A%20%20%20%20_axL.plot(_th%2C%20norm.pdf(_th%2C%20_mu%2C%20_sc)%2C%20color%3DC_COMB%2C%20lw%3D3%2C%20label%3Df%22combined%20%20%24%5C%5Cmathcal%7B%7BN%7D%7D(%7B_mu%3A.2f%7D%2C%7B_sc**2%3A.2f%7D)%24%22)%0A%20%20%20%20_axL.fill_between(_th%2C%20norm.pdf(_th%2C%20_mu%2C%20_sc)%2C%20color%3DC_COMB%2C%20alpha%3D0.12)%0A%20%20%20%20_axL.axvline(_x1%2C%20color%3DC_SRC1%2C%20ls%3D%22%3A%22%2C%20lw%3D1)%0A%20%20%20%20_axL.axvline(_x2%2C%20color%3DC_SRC2%2C%20ls%3D%22%3A%22%2C%20lw%3D1)%0A%20%20%20%20_axL.axvline(_mu%2C%20color%3DC_EST%2C%20lw%3D2.2%2C%20label%3Df%22precision-weighted%20mean%20%CE%B8%CC%82%3D%7B_mu%3A.2f%7D%22)%0A%20%20%20%20_axL.set_title(%22Combined%20density%20is%20narrower%20than%20either%20source%22%2C%20fontweight%3D%22bold%22)%0A%20%20%20%20_axL.set_xlabel(r%22%24%5Ctheta%24%22)%0A%20%20%20%20_axL.set_ylabel(%22density%22)%0A%20%20%20%20_axL.legend(fontsize%3D8.5%2C%20loc%3D%22upper%20right%22)%0A%20%20%20%20_axL.grid(alpha%3D0.3)%0A%0A%20%20%20%20%23%20Right%3A%20precision%20decomposition%20as%20stacked%20weights.%0A%20%20%20%20_axR.bar(%5B%22source%201%22%2C%20%22source%202%22%5D%2C%20%5B_p1%2C%20_p2%5D%2C%20color%3D%5BC_SRC1%2C%20C_SRC2%5D%2C%20alpha%3D0.85)%0A%20%20%20%20_axR.axhline(_ptot%2C%20color%3DC_COMB%2C%20lw%3D2%2C%20ls%3D%22--%22%2C%20label%3Df%22combined%20%CF%84%3D%7B_ptot%3A.2f%7D%22)%0A%20%20%20%20_axR.set_title(%22Precisions%20add%22%2C%20fontweight%3D%22bold%22)%0A%20%20%20%20_axR.set_ylabel(r%22precision%20%20%24%5Ctau%3D1%2F%5Csigma%5E2%24%22)%0A%20%20%20%20for%20_i%2C%20(_p%2C%20_w)%20in%20enumerate(%5B(_p1%2C%20_w1)%2C%20(_p2%2C%20_w2)%5D)%3A%0A%20%20%20%20%20%20%20%20_axR.annotate(f%22w%3D%7B_w%3A.2f%7D%22%2C%20xy%3D(_i%2C%20_p)%2C%20xytext%3D(0%2C%204)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20textcoords%3D%22offset%20points%22%2C%20ha%3D%22center%22%2C%20fontsize%3D9%2C%20fontweight%3D%22bold%22)%0A%20%20%20%20_axR.legend(fontsize%3D9)%0A%20%20%20%20_axR.grid(alpha%3D0.3%2C%20axis%3D%22y%22)%0A%20%20%20%20plt.tight_layout()%0A%0A%20%20%20%20noteB%20%3D%20(%0A%20%20%20%20%20%20%20%20f%22%24%5C%5Cwidehat%5C%5Ctheta%20%3D%20w_1%20x_1%20%2B%20w_2%20x_2%20%3D%20%7B_w1%3A.2f%7D%5C%5Ccdot(%7B_x1%3A.1f%7D)%20%2B%20%7B_w2%3A.2f%7D%5C%5Ccdot(%7B_x2%3A.1f%7D)%20%3D%20%7B_mu%3A.2f%7D%24.%20%20%22%0A%20%20%20%20%20%20%20%20f%22Combined%20precision%20%24%5C%5Ctau_1%2B%5C%5Ctau_2%20%3D%20%7B_ptot%3A.2f%7D%24%20gives%20combined%20std%20%22%0A%20%20%20%20%20%20%20%20f%22%24%5C%5Csigma%3D%7B_sc%3A.2f%7D%24%20%E2%80%94%20**below**%20both%20%24%5C%5Csigma_1%3D%7B_s1%3A.1f%7D%24%20and%20%24%5C%5Csigma_2%3D%7B_s2%3A.1f%7D%24.%20%20%22%0A%20%20%20%20%20%20%20%20%22Make%20one%20source%20very%20precise%20(small%20%CF%83)%3A%20its%20weight%20%24%5C%5Cto%201%24%20and%20the%20estimate%20snaps%20onto%20it.%22%0A%20%20%20%20)%0A%20%20%20%20return%20figB%2C%20noteB%0A%0A%0A%40app.cell%0Adef%20_(figB%2C%20mo%2C%20noteB%2C%20s1_b%2C%20s2_b%2C%20x1_b%2C%20x2_b)%3A%0A%20%20%20%20mo.vstack(%0A%20%20%20%20%20%20%20%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.hstack(%5Bx1_b%2C%20s1_b%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.hstack(%5Bx2_b%2C%20s2_b%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.mpl.interactive(figB)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(noteB)%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%203%20The%20same%20formula%20in%20MAP%20estimation%20%E2%80%94%20likelihood%20%C3%97%20prior%0A%0A%20%20%20%20Bayesian%20estimation%20fuses%20two%20sources%20too%3A%20the%20**likelihood**%20carried%20by%20the%20data%20and%20the%0A%20%20%20%20**prior**%20belief%20about%20the%20parameter.%20With%20Bayes'%20theorem%20the%20posterior%20is%20their%20(scaled)%0A%20%20%20%20product%2C%20and%20the%20**maximum-a-posteriori**%20estimate%20is%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cwidehat%7B%5Cphi%7D_%7B%5Cmathrm%7BMAP%7D%7D%0A%20%20%20%20%3D%20%5Coperatorname*%7Bargmax%7D_%7B%5Cphi%7D%20f_%7B%5CPhi%5Cmid%5Cmathbf%20X%7D(%5Cphi%5Cmid%5Cmathbf%20x)%0A%20%20%20%20%3D%20%5Coperatorname*%7Bargmax%7D_%7B%5Cphi%7D%5C%3B%0A%20%20%20%20%20%20%5Cbig%5B%5Cunderbrace%7B%5Clog%20f_%7B%5Cmathbf%20X%5Cmid%5CPhi%7D(%5Cmathbf%20x%5Cmid%5Cphi)%7D_%7B%5Ctext%7Blikelihood%7D%7D%20%2B%20%5Cunderbrace%7B%5Clog%20f_%7B%5CPhi%7D(%5Cphi)%7D_%7B%5Ctext%7Bprior%7D%7D%5Cbig%5D.%0A%20%20%20%20%24%24%0A%0A%20%20%20%20Take%20a%20Gaussian%20prior%20%24%5CPhi%5Csim%5Cmathcal%20N(%5Cmu_0%2C%5Csigma_0%5E2)%24%20and%20%24N%24%20measurements%20with%0A%20%20%20%20known%20noise%20std%20%24%5Csigma%24%2C%20so%20the%20likelihood%20for%20%24%5Cphi%24%20is%20centred%20on%20the%20sample%20mean%0A%20%20%20%20%24%5Cbar%20x%24%20with%20variance%20%24%5Csigma%5E2%2FN%24.%20The%20posterior%20is%20again%20Gaussian%2C%20with%20mean%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cboxed%7B%5C%3B%0A%20%20%20%20%5Cwidehat%7B%5Cphi%7D_%7B%5Cmathrm%7BMAP%7D%7D%0A%20%20%20%20%3D%20%5Cfrac%7B%5Cdfrac%7BN%7D%7B%5Csigma%5E2%7D%5C%2C%5Cbar%20x%20%2B%20%5Cdfrac%7B1%7D%7B%5Csigma_0%5E2%7D%5C%2C%5Cmu_0%7D%0A%20%20%20%20%20%20%20%20%20%20%20%7B%5Cdfrac%7BN%7D%7B%5Csigma%5E2%7D%20%2B%20%5Cdfrac%7B1%7D%7B%5Csigma_0%5E2%7D%7D%0A%20%20%20%20%3D%20%5Cfrac%7B%5Ctau_%7B%5Ctext%7Blik%7D%7D%5C%2C%5Cbar%20x%20%2B%20%5Ctau_%7B%5Ctext%7Bprior%7D%7D%5C%2C%5Cmu_0%7D%7B%5Ctau_%7B%5Ctext%7Blik%7D%7D%2B%5Ctau_%7B%5Ctext%7Bprior%7D%7D%7D%5C%3B%7D%0A%20%20%20%20%24%24%0A%0A%20%20%20%20%E2%80%94%20**identical**%20to%20Section%202%20with%20%24x_1%5C!%5Cto%5C!%5Cbar%20x%24%2C%20%24x_2%5C!%5Cto%5C!%5Cmu_0%24.%20The%20prior%20is%20simply%0A%20%20%20%20*another%20measurement*.%20Two%20limits%20to%20try%20on%20the%20sliders%3A%0A%0A%20%20%20%20-%20**Flat%20%2F%20weak%20prior**%20(%24%5Csigma_0%5Cto%5Cinfty%24)%3A%20%24%5Ctau_%7B%5Ctext%7Bprior%7D%7D%5Cto0%24%20and%0A%20%20%20%20%20%20%24%5Cwidehat%5Cphi_%7B%5Cmathrm%7BMAP%7D%7D%5Cto%5Cbar%20x%24%20%E2%80%94%20MAP%20collapses%20to%20the%20**ML%20estimate**.%0A%20%20%20%20-%20**More%20data**%20(raise%20%24N%24)%3A%20%24%5Ctau_%7B%5Ctext%7Blik%7D%7D%3DN%2F%5Csigma%5E2%24%20grows%2C%20the%20likelihood%20sharpens%0A%20%20%20%20%20%20and%20dominates%2C%20and%20the%20posterior%20slides%20off%20the%20prior%20onto%20the%20data.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20xbar_c%20%3D%20mo.ui.slider(start%3D-6.0%2C%20stop%3D6.0%2C%20step%3D0.1%2C%20value%3D2.0%2C%20label%3D%22sample%20mean%20of%20data%20x%CC%84%22)%0A%20%20%20%20sig_c%20%3D%20mo.ui.slider(start%3D0.3%2C%20stop%3D4.0%2C%20step%3D0.1%2C%20value%3D1.5%2C%20label%3D%22per-sample%20noise%20std%20%CF%83%22)%0A%20%20%20%20N_c%20%3D%20mo.ui.slider(start%3D1%2C%20stop%3D50%2C%20step%3D1%2C%20value%3D1%2C%20label%3D%22number%20of%20measurements%20N%22)%0A%20%20%20%20mu0_c%20%3D%20mo.ui.slider(start%3D-6.0%2C%20stop%3D6.0%2C%20step%3D0.1%2C%20value%3D-1.0%2C%20label%3D%22prior%20mean%20%CE%BC%E2%82%80%22)%0A%20%20%20%20sig0_c%20%3D%20mo.ui.slider(start%3D0.3%2C%20stop%3D6.0%2C%20step%3D0.1%2C%20value%3D1.2%2C%20label%3D%22prior%20std%20%CF%83%E2%82%80%22)%0A%20%20%20%20return%20N_c%2C%20mu0_c%2C%20sig0_c%2C%20sig_c%2C%20xbar_c%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20C_COMB%2C%0A%20%20%20%20C_EST%2C%0A%20%20%20%20C_PRIOR%2C%0A%20%20%20%20C_SRC1%2C%0A%20%20%20%20N_c%2C%0A%20%20%20%20mu0_c%2C%0A%20%20%20%20norm%2C%0A%20%20%20%20np%2C%0A%20%20%20%20plt%2C%0A%20%20%20%20sig0_c%2C%0A%20%20%20%20sig_c%2C%0A%20%20%20%20xbar_c%2C%0A)%3A%0A%20%20%20%20_xbar%20%3D%20xbar_c.value%0A%20%20%20%20_sig%20%3D%20sig_c.value%0A%20%20%20%20_N%20%3D%20int(N_c.value)%0A%20%20%20%20_mu0%20%3D%20mu0_c.value%0A%20%20%20%20_s0%20%3D%20sig0_c.value%0A%0A%20%20%20%20_tau_lik%20%3D%20_N%20%2F%20_sig**2%0A%20%20%20%20_tau_pri%20%3D%201.0%20%2F%20_s0**2%0A%20%20%20%20_tau_post%20%3D%20_tau_lik%20%2B%20_tau_pri%0A%20%20%20%20_phi_map%20%3D%20(_tau_lik%20*%20_xbar%20%2B%20_tau_pri%20*%20_mu0)%20%2F%20_tau_post%0A%20%20%20%20_s_lik%20%3D%20_sig%20%2F%20np.sqrt(_N)%20%20%20%20%20%23%20likelihood%20width%20as%20a%20function%20of%20phi%0A%20%20%20%20_s_post%20%3D%201.0%20%2F%20np.sqrt(_tau_post)%0A%20%20%20%20_w_data%20%3D%20_tau_lik%20%2F%20_tau_post%0A%0A%20%20%20%20_lo%20%3D%20min(_xbar%20-%203%20*%20_s_lik%2C%20_mu0%20-%203%20*%20_s0)%20-%200.5%0A%20%20%20%20_hi%20%3D%20max(_xbar%20%2B%203%20*%20_s_lik%2C%20_mu0%20%2B%203%20*%20_s0)%20%2B%200.5%0A%20%20%20%20_th%20%3D%20np.linspace(_lo%2C%20_hi%2C%20700)%0A%0A%20%20%20%20figC%2C%20_ax%20%3D%20plt.subplots(figsize%3D(12%2C%205))%0A%20%20%20%20_ax.plot(_th%2C%20norm.pdf(_th%2C%20_mu0%2C%20_s0)%2C%20color%3DC_PRIOR%2C%20lw%3D2%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20label%3Df%22prior%20%20%24%5C%5Cmathcal%7B%7BN%7D%7D(%5C%5Cmu_0%3D%7B_mu0%3A.1f%7D%2C%5C%5C%2C%5C%5Csigma_0%5E2%3D%7B_s0**2%3A.2f%7D)%24%22)%0A%20%20%20%20_ax.plot(_th%2C%20norm.pdf(_th%2C%20_xbar%2C%20_s_lik)%2C%20color%3DC_SRC1%2C%20lw%3D2%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20label%3Df%22likelihood%20%20(x%CC%84%3D%7B_xbar%3A.1f%7D%2C%20%CF%83%C2%B2%2FN%3D%7B_s_lik**2%3A.2f%7D)%22)%0A%20%20%20%20_ax.plot(_th%2C%20norm.pdf(_th%2C%20_phi_map%2C%20_s_post)%2C%20color%3DC_COMB%2C%20lw%3D3%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20label%3Df%22posterior%20%20%24%5C%5Cmathcal%7B%7BN%7D%7D(%7B_phi_map%3A.2f%7D%2C%7B_s_post**2%3A.2f%7D)%24%22)%0A%20%20%20%20_ax.fill_between(_th%2C%20norm.pdf(_th%2C%20_phi_map%2C%20_s_post)%2C%20color%3DC_COMB%2C%20alpha%3D0.12)%0A%20%20%20%20_ax.axvline(_mu0%2C%20color%3DC_PRIOR%2C%20ls%3D%22%3A%22%2C%20lw%3D1)%0A%20%20%20%20_ax.axvline(_xbar%2C%20color%3DC_SRC1%2C%20ls%3D%22%3A%22%2C%20lw%3D1%2C%20label%3Df%22ML%20estimate%20x%CC%84%3D%7B_xbar%3A.1f%7D%22)%0A%20%20%20%20_ax.axvline(_phi_map%2C%20color%3DC_EST%2C%20lw%3D2.2%2C%20label%3Df%22MAP%20estimate%20%CF%86%CC%82%3D%7B_phi_map%3A.2f%7D%22)%0A%20%20%20%20_ax.set_title(%22Posterior%20%3D%20prior%20%C3%97%20likelihood%3A%20MAP%20is%20the%20precision-weighted%20mean%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20fontweight%3D%22bold%22)%0A%20%20%20%20_ax.set_xlabel(r%22parameter%20%24%5Cphi%24%22)%0A%20%20%20%20_ax.set_ylabel(%22density%22)%0A%20%20%20%20_ax.legend(fontsize%3D8.5%2C%20loc%3D%22upper%20right%22)%0A%20%20%20%20_ax.grid(alpha%3D0.3)%0A%20%20%20%20plt.tight_layout()%0A%0A%20%20%20%20noteC%20%3D%20(%0A%20%20%20%20%20%20%20%20f%22%24N%3D%7B_N%7D%24%3A%20data%20precision%20%24%5C%5Ctau_%7B%7B%5C%5Ctext%7B%7Blik%7D%7D%7D%7D%3DN%2F%5C%5Csigma%5E2%3D%7B_tau_lik%3A.2f%7D%24%2C%20%22%0A%20%20%20%20%20%20%20%20f%22prior%20precision%20%24%5C%5Ctau_%7B%7B%5C%5Ctext%7B%7Bprior%7D%7D%7D%7D%3D1%2F%5C%5Csigma_0%5E2%3D%7B_tau_pri%3A.2f%7D%24%2C%20%22%0A%20%20%20%20%20%20%20%20f%22so%20the%20data%20carries%20weight%20%24%7B_w_data%3A.2f%7D%24.%20%20%22%0A%20%20%20%20%20%20%20%20f%22%24%5C%5Cwidehat%5C%5Cphi_%7B%7B%5C%5Cmathrm%7B%7BMAP%7D%7D%7D%7D%3D%7B_phi_map%3A.2f%7D%24%20sits%20between%20the%20prior%20mean%20and%20%24%5C%5Cbar%20x%24.%20%20%22%0A%20%20%20%20%20%20%20%20%22Push%20%24N%24%20up%20(or%20%24%5C%5Csigma_0%24%20up)%20and%20the%20posterior%20marches%20onto%20the%20data%20%E2%80%94%20MAP%20%E2%86%92%20ML.%22%0A%20%20%20%20)%0A%20%20%20%20return%20figC%2C%20noteC%0A%0A%0A%40app.cell%0Adef%20_(N_c%2C%20figC%2C%20mo%2C%20mu0_c%2C%20noteC%2C%20sig0_c%2C%20sig_c%2C%20xbar_c)%3A%0A%20%20%20%20mo.vstack(%0A%20%20%20%20%20%20%20%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.hstack(%5Bxbar_c%2C%20sig_c%2C%20N_c%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.hstack(%5Bmu0_c%2C%20sig0_c%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.mpl.interactive(figC)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(noteC)%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Key%20takeaways%0A%0A%20%20%20%201.%20**Independent%20sources%20multiply.**%20Combine%20information%20by%20taking%20the%20product%20of%0A%20%20%20%20%20%20%20likelihoods%20(sum%20of%20log-likelihoods)%3B%20the%20ML%20estimate%20is%20the%20peak%20of%20the%20product%2C%0A%20%20%20%20%20%20%20always%20*between*%20the%20sources%20and%20pulled%20toward%20the%20sharper%20one.%0A%0A%20%20%20%202.%20**Gaussian%20%2B%20unbiased%20%E2%87%92%20precision-weighted%20mean.**%20With%20%24X_i%5Csim%5Cmathcal%20N(%5Ctheta%2C%5Csigma_i%5E2)%24%2C%0A%20%20%20%20%20%20%20%24%24%5Cwidehat%5Ctheta%3D%5Cfrac%7B%5Ctau_1%20x_1%2B%5Ctau_2%20x_2%7D%7B%5Ctau_1%2B%5Ctau_2%7D%2C%5Cqquad%20%5Ctau_i%3D1%2F%5Csigma_i%5E2.%24%24%0A%20%20%20%20%20%20%20Weights%20are%20normalised%20precisions%2C%20and%20**precisions%20add**%2C%20so%20the%20fused%20estimate%20is%0A%20%20%20%20%20%20%20strictly%20more%20certain%20than%20either%20input.%0A%0A%20%20%20%203.%20**MAP%20is%20the%20same%20fusion.**%20With%20a%20Gaussian%20prior%20and%20Gaussian%20likelihood%2C%0A%20%20%20%20%20%20%20%24%24%5Cwidehat%5Cphi_%7B%5Cmathrm%7BMAP%7D%7D%3D%5Cfrac%7B%5Ctau_%7B%5Ctext%7Blik%7D%7D%5C%2C%5Cbar%20x%2B%5Ctau_%7B%5Ctext%7Bprior%7D%7D%5C%2C%5Cmu_0%7D%7B%5Ctau_%7B%5Ctext%7Blik%7D%7D%2B%5Ctau_%7B%5Ctext%7Bprior%7D%7D%7D%2C%24%24%0A%20%20%20%20%20%20%20the%20precision-weighted%20mean%20of%20**data**%20and%20**prior**.%20The%20prior%20behaves%20exactly%20like%20a%0A%20%20%20%20%20%20%20second%20measurement.%0A%0A%20%20%20%204.%20**Two%20limiting%20reflexes.**%20A%20flat%20prior%20(%24%5Csigma_0%5Cto%5Cinfty%24)%20or%20abundant%20data%0A%20%20%20%20%20%20%20(%24N%5Cto%5Cinfty%24)%20makes%20the%20data%20dominate%20and%20**MAP%20%E2%86%92%20ML**%3B%20a%20very%20confident%20prior%20or%20a%0A%20%20%20%20%20%20%20very%20precise%20sensor%20dominates%20the%20fusion%20the%20other%20way.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A