菲尔兹奖得主、芝加哥大学教授邓煜,在《知识分子》《赛先生》举办的“AI对数学家到底意味着什么”论坛发表演讲。他提到,AI对数学有相当大的促进作用,与此同时,某些AI公司的行为有可以商榷之处。
AI证明了一个非常重大的问题,非常合理的要求是公布AI的思维链。如果是人得到这样的结果,大家一定会问,你怎么得到这个思路,你经历了哪些尝试。但AI公司拒绝公布。这很明显不符合学术界惯例。他们公开的所有证明中,只有极少数真正公布了思维链。
对AI公司来讲,你不能在蒸馏全人类网络文献、全人类知识的时候,大大方方地去蒸馏;大家只是想了解一下思维链,然后你觉得别人想蒸馏你,就说这个不行那个不行。在任何意义上,这都不能说是一个特别合理的理由。
如果是人类研究者,用到其他人的思路,当然自己有责任把这件事情指出来。同样,在这家AI公司公布的文章里,很多情况下没有看到这样的说明,甚至有的证明是直接沿用人类已有思路,也没有进行相应的说明。
如果从商业公司角度来看,那就更有意思了。
商业公司提供产品,数学家可以是用户,付钱给你的产品;你们用我们输入的思路去训练你们的新一代产品,然后用这些新一代产品去解决数学界的公开问题,得到所有的荣誉。我们作为用户,得到了什么?什么都没有得到。既然什么都没得到,我们为什么要向你付这么多钱?
用户应该能够选择,或者能够轻易地进行选择:输入给AI的数据是否允许AI进行训练。选择权是属于用户的。
以下是邓煜教授演讲全文。