1、渡边贝叶斯理论：探索统计新境界

渡边贝叶斯理论：探索统计新境界

1. 开篇与渡边教授的邂逅

初次遇见渡边教授是在1994年初夏的一次研讨会上，当时刚成为大阪大学全职讲师的我，就贝叶斯网络的结构学习进行了约90分钟的演讲。期间，渡边教授频繁提问，约每2 - 3分钟就有一次，总共提问20 - 30次。大约5年后，渡边教授在信息归纳科学研讨会上发表了题为“学习理论中的代数几何方法”的演讲，其内容极具原创性，让自信于贝叶斯统计和代数几何的我也难以理解。

2. 传统贝叶斯统计与渡边贝叶斯理论

传统贝叶斯统计通常假设“正则性”，在此情况下，给定样本的后验分布会成为正态分布。而渡边贝叶斯理论是对现有贝叶斯统计的推广，它运用代数几何方法，在不假设正则性的情况下推导后验分布。由此得出了诸如广泛适用信息准则（WAIC）和广泛适用贝叶斯信息准则（WBIC）等信息准则。这些准则与AIC和BIC等信息准则类似，但在真实分布与统计模型的关系非正则时也能应用。若有样本数据，可使用Stan等软件轻松计算这些值。

3. 渡边贝叶斯理论的发展历程

2005 - 2010年是渡边贝叶斯理论发展的鼎盛时期，许多学生进入渡边实验室。期间，我听了实验室年轻研究人员的多次成果汇报，但我认为不学习基础知识很难理解。渡边教授分别在2006年和2009年出版了相关书籍，但都未深入探讨其贝叶斯理论的本质。2012年出版的《贝叶斯统计的理论与方法》虽有涉及，但未深入细节，理解其本质仍有难度。

4. 写作初衷与书籍特点

2019年渡边教授在大阪大学工程科学研究生院的集中讲座坚定了我写作的决心。我期望约半年完成的书，最终花了一年时间。因为我意识到渡边贝叶斯理论难以理解，写作时发现