bug是對應軟件的說法。
在AlphaGo這類演算法模型上，更準確的說法應該叫「過擬合（overfitting）」。
什麽是過擬合呢？
我們都知道現在的AI是基於深度學習構成的。
你可以將TA理解成儲存了很多歷史數據的決策機。每次決策的過程中，會從歷史數據中尋找最相似的對局內容，並比對選出勝率更高的選點。
而過擬合就是由於數據不均衡，造成的錯誤決策。
以圍棋AI為例，如果一種變化，對手的應對有A、B、C三種。
A選點，AI積累了兩萬盤的對局，勝率是90%。B、C選點，AI只積累了兩百盤，勝率分別為40%、30%。AI綜合統計勝率的時候，將被數據量較多的A選點帶偏。
認為這個變化下，自己是壓倒性優勢。
這就是過擬合。
所以，理論上，如果不停挑戰AI所不擅長的復雜選點棋局，是有可能發現AI的問題，引起過擬合現象的。
就像其他答主提到的，李世石對戰AI第四盤棋中的「神之一手」。不是因為這一手夠正確，而是因為這一手夠怪。
簡單來說，你只要不停走AI沒見過的棋局變化，是有可能引起AI出「bug」的。
哪怕是在現在很成熟的AI系統上，也有過擬合的風險。
以人臉辨識為例，只需要你在腦門上張貼類似於人臉其他器官紋理的貼紙，就能輕易讓AI錯亂。
參考閱讀：
AI確實征服了很多難題，但現在的AI也絕非完美。
需要我們去了解其原理，並將其優勢為我所用。
就像現在的圍棋棋手們，未選擇用「怪棋」挑戰AI的極限，而選擇了和AI共同進步學習那樣。
這才是我們和AI的相處之道。
關註智融合，了解更多前沿科技！
