10月26日那一天, 菲尔兹奖得主邓煜这个人公开地表示了质疑。他的质疑的对象是AI公司拒绝公布思维链这件事。再往前说一点的话, 在此前的时间里面, 有包括邓煜在内的总共有25位菲尔兹奖得主进行了联名声明。
他们的这一举动是在向外界发出警告。他们所警告的内容是关于AI与数学界存在的严重错位问题。因为上述这些事情的发生, 目前的争议现象正在持续地发酵之中。
01.邓煜谈AI两大优势
10月26日, 邓煜在"知识分子""赛先生"论坛上发表主旨演讲, 他说, 人工智能相对人类的优势就在于拥有无限宽广的知识面, 以及极低的试错成本, 这件事为数学研究带来了全新的工具。
他同时还特别强调了一件事情, 这个事儿就是不管是在数学研究这个领域内, 还是说在其他其他的各类领域里, 人类始终都是那个处于主体地位的人儿, 而人工智能呢, 它仅仅只是被人类拿来作为一种工具, 这种工具是被用来去推进各项研究工作开展的, 对于他那番这样的表态来说, 它是引发了整个学术界内部, 关于人工智能这个角色的一个定位的相关讨论的。
02.学术规范之争
邓煜提出，如果要把人工智能当作研究者来使用的话, 那么就一定得遵守学术方面的各种规范。要是人工智能证明了重大的学术问题, 要求把它的思维链给公开出来, 这一点对学界来说, 是合理的要求。
他批评某AI公司在公布的所有证明中, 只有很少的部分公开了思维链。大多数部分是以“防蒸馏”这样的借口来进行拒绝的。这种做法明显是不符合学术惯例的。
03.蒸馏逻辑矛盾
邓煜讲得明白, AI公司本来可以放心大胆地把全人类在网络上的文献和知识都拿来蒸馏, 可它们却拿防蒸馏当借口, 故意不让学者们看清楚推理的路径是怎样的, 这话说在逻辑上是自相矛盾的。
他说到, 事实上面没有人是想要去对那个模型进行蒸馏操作的, 那些学者只不过是想研究AI的思维链是什么东西, 但是公司那边却以安全作为一个理由把相关的信息全部都拒绝了, 一概不对外提供。
04.开源模型提议
邓煜提出了一个建议, 他的想法是通过使用那种可以公开获取源代码的数学模型, 让搞数学研究的人群能够自己掌控手里的工具, 这样一来, 就不需要再去依赖那些在外面的做人工智能的公司了, 从而保证了研究工作具有自主性。
他同时给出了建议, 表示模型的使用应当去遵循学术规范。这里面包含了那些基本要求。比如说在使用数据的时候要透明。再比如要把思维链给大家公布出来。还有结果要做到是可以去追溯的。
05.25人联名声明
时间到了当地的一月9日11点的时候, 由陶哲轩、邓煜、彼得·舒尔茨这25位菲尔兹奖获得者一起去联合发表了一份声明, 这个声明的名字叫人工智能在数学中的严重错位。
这份声明把AI公司和数学社区之间的不合, 说成是严重的脱节, 并且点明了这是一个更广泛的协调问题的组成部分, 该问题会波及其他的科学与创意型职业。
06.数学跃升与隐忧
声明指出, 在前面的那些月份里, 大语言模型在数学能力方面的提升是非常显著的。它现在已经能够解决多个还没有被解决的、属于重大的类别的数学问题。这一情况引发了学术界里面的广泛注意。
但是, AI公司将数学问题作为基准来解决的这种推动作用, 对数学科学这一领域本身产生了不利的影响, 同时对数学界这个群体也造成了损害, 所以, 这个矛盾情况目前正在日益加剧。
你觉得那些搞人工智能的公司, 是不是应该把他们在做数学题推理时候完整的那个思维过程, 全都公开给外面的人看? 欢迎大家到评论区的下面来写出你自己心里的看法, 也希望大家能点个赞, 再把这个消息分享给身边那些也同样会去关心人工智能还有数学这两个领域未来的朋友们。
