當前位置: 華文問答 > 科學

AI,ML 方向的博士新生如何針對性地復習(或重新學習)一遍數學?

2022-02-09科學

本人也是本科數學學的不好的(尤其微積分),在上研時期受導師鼓勵重新補習了一遍數學分析,受益匪淺。對畢業十多年來做機器學習的研究一直有幫助。

我的經驗是一定要做題。我在研究生期間花了2年時間每天一小時把北大的一套數學分析習題集做完了,感覺做完之後對數學證明的思路以及形式邏輯有很大的提升。目前基本上感覺分析這方面的知識是夠用了,而還覺得沒有學好的是統計這一塊,尤其是測度論中各種不同的收斂方式(as收斂,依測度收斂,依概率收斂之間的區別),感覺是因為這一塊做題不夠多。因此一直只能做偏套用的機器學習研究,不能做比較理論的機器學習研究,還是比較遺憾的。

打好分析和統計基礎之後,剩下的數學課就主要是開闊視野,改變思維方式了。我在博士研究生期間學的數學有以下科目,下面按照畢業後十多年來實踐中感覺到的有用程度做一小小總結,當然,這只代表個人經歷,不代表這些方向本身的有用程度:

矩陣論 -- 絕對有用,基本每個工作都要用
數值最佳化 -- 絕對有用,除了課程以外還看了好幾本書,都非常有用
泛函分析 -- 非常有用,寫過好幾篇相關的paper
微分流形 -- 非常有用,寫過好幾篇相關的paper
點集拓撲 -- 有用,主要是改變了思維方式
代數拓撲 -- 非常有用,寫過好幾篇相關的paper
抽象代數 -- 非常有用,改變了思維方式,也寫過一兩篇相關的paper
隨機過程 -- 有用,寫過一兩篇相關的paper
實變函數 -- 沒有學好,學好應該會有用
測度論 -- 沒有學好,學好應該會有用
代數幾何 -- 看了個開頭完全看不下去了,太難
復變函數 -- 沒有學好,但是也完全沒碰到過用它的地方
數理邏輯 -- 沒有做邏輯的東西所以從來沒有用到過

當然,本人進入學界是在deep learning之前,所以那時的數學還要用的多一點。然而deep learning之後真的就不需要數學了嗎?我的個人見解是deep learning給數學提出了一些新的挑戰(deep learning中,多層的函數巢狀結構屬於數學中很少研究的),因此數學體系還沒有完全建立清楚。然而,數學體系的建立,必然是基於數學,而不是基於煉金術,所以打好數學基礎還是很有意義的。而做好機器學習研究,所需要的數學遠遠比本科為多。