謝邀。只看過國外的教材。
半路出家不要緊，數學基礎好學control很容易，關鍵線性代數、微積分、機率論、凸最佳化要學明白。
首先非線性控制的共同基礎是Lyapunov穩定性理論，這個一定要搞熟。推薦經典教材：Khalil的non-linear system（
Nonlinear Systems/Hassan K. Khalil-圖書）。幾乎所有美國研究生控制課都會學這本書。把這本書前幾章學明白了再學其他非線性的東西就很快。
剛答了一個Adaptive control的問題，請參考
自適應控制改變控制參數的依據是什麽？滑膜控制老實說沒做過，但原理應該還是差不多的。
模糊控制（fuzzy control）實作起來比較簡單，更多的是強調工業套用，跟傳統偏重數學的控制理論不太一樣。一般控制論只考慮紙面上的解，比如設計一個反饋u=g(x) 使得系統穩定，但不考慮這個g(x) 能不能用實際硬體實作。電腦都是0，1這樣的離散數，不能完美實作連續的控制。而fuzzy control就設計了一種非常簡單的控制邏輯解決了這個問題。感覺這個的理論是最簡單的。沒有系統的學過，教材就不亂推薦了。
魯棒控制(robust control)是要在存在幹擾的情況下，保證系統的誤差盡可能小。
最終解決的其實是類似這樣的最佳化問題：\min_u \max_{||d||\leq 1} ||e(u,d)||^2 ，這裏e是誤差，d是擾動（假設擾動的大小<=1），u是控制量。控制的目標是使得誤差盡可能小。於是我們假設最壞的情況，擾動d會最大化誤差，然後找一個最佳的控制u來減少最壞情況下的誤差。
對於線性系統，這個最佳化能解，需要考慮系統的頻域特性（H_\infty norm）。
H_\infty norm 描述了線性系統在絕對可積的輸入下，最大可能的誤差。教材可以看Zhou & Doyle的Essentials of Robust Control.
非線性系統要解決robust control的問題一般得涉及賽局論。有些學過微觀經濟學和賽局論的朋友可能已經看出來上面的最佳化其實是u和d的賽局，最佳控制是奈許均衡點。教材可以讀這個領域大牛Tamer Basar的Dynamic Noncooperative Game Theory.
