AI也有缺陷？人类2016年来首次战胜了最聪明的围棋机器人
article.author.display_name
常嘉帅
打败AI，还得靠AI。
AI统治围棋棋盘的时代迎来了一丝变数。
据媒体报道，近日，美国围棋选手Kellin Pelrine击败了顶级AI围棋机器人。
Pelrine与这台AI对弈了15场，其中1局是在计算机辅助下进行的测试局，其余14局没有计算机辅助。最终，Pelrine取得14场全胜的辉煌战绩。
自2016年谷歌旗下的AI围棋机器人AlphaGo击败世界围棋冠军李世石以来，人类旗手一直在与AI的对决中处于下风。李世石在输给AlphaGo的三年后退役。他绝望地把AlphaGo称为“一个无法被打败的东西”，认为属于人类棋手的时代已经结束。
但据媒体报道，被Pelrine打败的AI围棋机器人，棋力与AlphaGo不相上下。围棋段位远低于李世石的Pelrine究竟找到了什么样的致胜法宝？
靠AI打败AI
实际上，Pelrine之所以能打败AI，靠的也是AI。
Pelrine背后是美国公司FAR AI。这家公司开发了一个发掘bug的围棋AI，然后让它和AI围棋机器人Kata Go下了一百多万盘棋，专门寻找可以让人类棋手利用的盲点。结果真的找到了AI的盲点：AI棋手分不清“声东击西”。
简单来说，FAR AI的策略就是不断利用角落的动作分散AI的注意力，同时，慢慢将中央棋子串成一个大圈来包围AI棋手。
Pelrine表示，对人类来说，FAR AI的策略很容易就会被发现；然而，哪怕是到包围圈即将完成的时候，AI棋手也没有注意到自己的弱点。
由于AI围棋机器人的底层架构均来自谷歌旗下的AI研究机构DeepMind，所以FAR AI的团队猜测，这处bug可能是通用的。
此前，Pelrine已经利用这个bug击败了顶级AI围棋机器人Leela Zero。
AI系统的缺陷
加州大学伯克利分校计算机科学教授Stuart Russell表示，这些最先进的AI围棋机器人被发现存在弱点，表明支撑当今最先进AI的深度学习系统存在根本缺陷。
这样的缺陷是当今大多数广泛使用的人工智能系统所共有的，包括OpenAI创建的ChatGPT聊天机器人。
Stuart Russell指出，AI只能“理解”它们过去遇到的特定情况，而无法像人类一样进行“概括”：
“这再次表明，我们过于草率地认为AI具有超人的智力水平。”
研究人员对媒体表示，AI围棋机器人之所以会输，可能因为“声东击西”这一策略很少被使用，意味着AI系统没有在足够多的类似棋局中训练过，无法做出防备。
FAR AI的CEO Adam Gleave表示，如果像AI棋手那样遭遇大量对抗性攻击，人工智能系统的缺陷很容易就会暴露，但即便如此，市场对AI应用的热情不减：
“我们看到非常大的AI系统几乎没有经过验证就被大规模部署。”
风险提示及免责条款
共有 0 条评论