本人也是本科数学学的不好的（尤其微积分），在上研时期受导师鼓励重新补习了一遍数学分析，受益匪浅。对毕业十多年来做机器学习的研究一直有帮助。
我的经验是一定要做题。我在研究生期间花了2年时间每天一小时把北大的一套数学分析习题集做完了，感觉做完之后对数学证明的思路以及形式逻辑有很大的提升。目前基本上感觉分析这方面的知识是够用了，而还觉得没有学好的是统计这一块，尤其是测度论中各种不同的收敛方式（as收敛，依测度收敛，依概率收敛之间的区别），感觉是因为这一块做题不够多。因此一直只能做偏应用的机器学习研究，不能做比较理论的机器学习研究，还是比较遗憾的。
打好分析和统计基础之后，剩下的数学课就主要是开阔视野，改变思维方式了。我在博士研究生期间学的数学有以下科目，下面按照毕业后十多年来实践中感觉到的有用程度做一小小总结，当然，这只代表个人经历，不代表这些方向本身的有用程度：
矩阵论 -- 绝对有用，基本每个工作都要用
数值优化 -- 绝对有用，除了课程以外还看了好几本书，都非常有用
泛函分析 -- 非常有用，写过好几篇相关的paper
微分流形 -- 非常有用，写过好几篇相关的paper
点集拓扑 -- 有用，主要是改变了思维方式
代数拓扑 -- 非常有用，写过好几篇相关的paper
抽象代数 -- 非常有用，改变了思维方式，也写过一两篇相关的paper
随机过程 -- 有用，写过一两篇相关的paper
实变函数 -- 没有学好，学好应该会有用
测度论 -- 没有学好，学好应该会有用
代数几何 -- 看了个开头完全看不下去了，太难
复变函数 -- 没有学好，但是也完全没碰到过用它的地方
数理逻辑 -- 没有做逻辑的东西所以从来没有用到过
当然，本人进入学界是在deep learning之前，所以那时的数学还要用的多一点。然而deep learning之后真的就不需要数学了吗？我的个人见解是deep learning给数学提出了一些新的挑战（deep learning中，多层的函数嵌套结构属于数学中很少研究的），因此数学体系还没有完全建立清楚。然而，数学体系的建立，必然是基于数学，而不是基于炼金术，所以打好数学基础还是很有意义的。而做好机器学习研究，所需要的数学远远比本科为多。
