bug是对应软件的说法。
在AlphaGo这类算法模型上，更准确的说法应该叫「过拟合（overfitting）」。
什么是过拟合呢？
我们都知道现在的AI是基于深度学习构成的。
你可以将TA理解成存储了很多历史数据的决策机。每次决策的过程中，会从历史数据中寻找最相似的对局内容，并比对选出胜率更高的选点。
而过拟合就是由于数据不均衡，造成的错误决策。
以围棋AI为例，如果一种变化，对手的应对有A、B、C三种。
A选点，AI积累了两万盘的对局，胜率是90%。B、C选点，AI只积累了两百盘，胜率分别为40%、30%。AI综合统计胜率的时候，将被数据量较多的A选点带偏。
认为这个变化下，自己是压倒性优势。
这就是过拟合。
所以，理论上，如果不停挑战AI所不擅长的复杂选点棋局，是有可能发现AI的问题，引起过拟合现象的。
就像其他答主提到的，李世石对战AI第四盘棋中的「神之一手」。不是因为这一手够正确，而是因为这一手够怪。
简单来说，你只要不停走AI没见过的棋局变化，是有可能引起AI出「bug」的。
哪怕是在现在很成熟的AI系统上，也有过拟合的风险。
以人脸识别为例，只需要你在脑门上张贴类似于人脸其他器官纹理的贴纸，就能轻易让AI错乱。
参考阅读：
AI确实征服了很多难题，但现在的AI也绝非完美。
需要我们去了解其原理，并将其优势为我所用。
就像现在的围棋棋手们，未选择用「怪棋」挑战AI的极限，而选择了和AI共同进步学习那样。
这才是我们和AI的相处之道。
关注智融合，了解更多前沿科技！
