光華講壇——社會(huì)名流與企業(yè)家論壇第6644期
主題:Conditional Stochastic Interpolation for Generative Learning生成學(xué)習(xí)的條件隨機(jī)插值
主講人:香港理工大學(xué) 黃堅(jiān)教授
主持人:統(tǒng)計(jì)學(xué)院 林華珍教授
時(shí)間:11月10日 16:00-17:00
舉辦地點(diǎn):柳林校區(qū)弘遠(yuǎn)樓408會(huì)議室
主辦單位:統(tǒng)計(jì)研究中心和統(tǒng)計(jì)學(xué)院 科研處
主講人簡(jiǎn)介:
黃堅(jiān),香港理工大學(xué)應(yīng)用數(shù)學(xué)系數(shù)據(jù)科學(xué)與分析講座教授。在武漢大學(xué)獲得數(shù)學(xué)學(xué)士和統(tǒng)計(jì)學(xué)碩士學(xué)位,在華盛頓大學(xué)(西雅圖)獲得統(tǒng)計(jì)學(xué)博士學(xué)位。曾任美國(guó)愛(ài)荷華大學(xué)統(tǒng)計(jì)學(xué)與精算學(xué)系和生物統(tǒng)計(jì)學(xué)系教授。其研究興趣包括機(jī)器學(xué)習(xí),高維統(tǒng)計(jì),計(jì)算統(tǒng)計(jì),生物統(tǒng)計(jì)學(xué),和生物信息學(xué)。近年來(lái)主要致力于深度學(xué)習(xí)的研究, 包括生成學(xué)習(xí)、深度神經(jīng)網(wǎng)絡(luò)逼近理論、深度學(xué)習(xí)的誤差分析、以及刻畫(huà)在什么條件下深度神經(jīng)網(wǎng)絡(luò)方法可以克服維數(shù)災(zāi)禍等。在包括《The Annals of Statistics》、《Journal of The American Statistical Association》,《Journal of Machine Learning Research》,《Biometrika》,《Conference on Neural Information Processing Systems》等國(guó)際統(tǒng)計(jì)學(xué)、機(jī)器學(xué)習(xí)雜志和會(huì)刊,和《Econometrika》,《Journal of Econometrics》等計(jì)量經(jīng)濟(jì)學(xué)雜志,以及《PNAS》,《American Journal of Human Genetics》, 《Bioinformatics》, 《Nucleic Acid Research》等雜志上發(fā)表學(xué)術(shù)論文150余篇。是美國(guó)統(tǒng)計(jì)學(xué)會(huì)(ASA)和國(guó)際數(shù)理統(tǒng)計(jì)研究所(IMS)Fellow。從2015年到2019年入選科睿唯安全球高被引學(xué)者榜,在數(shù)學(xué)領(lǐng)域里被引用最多的論文中排名前百分之一;并在2022,2023年被斯坦福大學(xué)列入全球前 2% 被引用最多的科學(xué)家名單。
內(nèi)容提要:
We present a novel framework, called the Conditional Stochastic Interpolation (CSI), which learns the stochastic differential equations for transporting between two empirically observed distributions. The proposed framework provides an effective solution to conditional generative modeling. The key idea is to learn the velocity function and the conditional score function based on conditional stochastic interpolation using deep neural networks, which is then used to construct a Markov process for the purpose of conditional sampling. We establish error bounds for learning the target conditional distribution via CSI in term of the KL divergence. Numerical experiments support our theoretical findings. We also illustrate the proposed method on image generation using benchmark data and the UK Biobank brain imaging data. This is joint work with Ding Huang, Ting Li and Guohao Shen.
主講人提出了一個(gè)新的框架,稱為條件隨機(jī)插值(CSI),它通過(guò)在兩個(gè)觀測(cè)到的經(jīng)驗(yàn)分布之間傳輸學(xué)習(xí)隨機(jī)微分方程。該框架為條件生成建模提供了一個(gè)有效的解決方案。其核心思想是利用深度神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)基于條件隨機(jī)插值的速度函數(shù)和條件得分函數(shù),然后利用該函數(shù)構(gòu)造馬爾可夫過(guò)程進(jìn)行條件采樣。主講人根據(jù)KL散度建立了通過(guò)CSI學(xué)習(xí)目標(biāo)條件分布的誤差界。數(shù)值實(shí)驗(yàn)支持主講人的理論發(fā)現(xiàn)。主講人還使用benchmark數(shù)據(jù)和英國(guó)生物銀行腦成像數(shù)據(jù)說(shuō)明了所提出的圖像生成方法。該工作是與Ding Huang, Ting Li and Guohao Shen合作的。