一方面是拥有数千亿美元投入以及顶级团队的不断持续进行版本迭代, 另一方面是学术界里反复不停地在那儿说人工智能马上就要苏醒过来产生自我意识, 这个中间存在的矛盾冲突点, 有一项被叫做鲁滨逊测试的全新方案正在尝试去提供一个判定标准的说明。
01.AI觉醒论的底层假设存疑
图灵在1950年的时候提出过机器是不是能够思考这样的一个问题, 并且还设计了一个叫做模仿游戏的东西, 在那之后的将近80年的时间里, 关于意识的检验始终都缺少一个统一的标准。
辛顿这些持警告态度的人认为大型的语言模型可能已经具备了主观的体验, 但是反对这些人指出了模型在不断迭代更新的过程当中实际上背后所依靠的是资本的投入以及工程方面的决策, 人工智能从来没有单独地面对过来自自然界的那种考验。
现在的核心矛盾所在的地方, 是去弄明白驱动人工智能去干那些活的根本动力, 到底是来自于什么地方的。
这一点是非常清楚的, 就是只要人类还在继续地为它提供服务方面的维护, 还在不断地给它下达各种各样的操作指令, 并且还要给它的程序版本做升级处理的话, 那么在这个过程当中, 这个人工智能系统向外人展示出来的, 不管是什么样的能力上的进步或者是增长, 统统都是不能够直接被看作是它已经得到了那种自我觉醒的意识的一个确凿的证据的。
02.把AI扔进荒野的鲁滨逊测试
鲁滨逊测试这个做法, 它的中心意象就是借用那个流落到荒岛上去的事情。它的具体操作是, 一方面要保留ai本身就已经有的那些知识和设计出来的方案, 另一方面, 要把人类方面给予的那一种一直持续的维护工作以及任务相关的指令全部都撤除了掉。
然后, 在这种情况下面, 要去观察一下它到底能不能够自己去独立地维持住正常的运转状态, 甚至还能够去主动地拓展出一些可以用来生存的空间。所以, 这被拿走掉的仅仅是外部的这种推力或者说是推动力, 而不是把那一些已经存在了的能力全部都给抹杀掉了或者是消灭掉了。
与现有的属于自主复制评估类别的测试存在差异的是, 该类型的测试不会去安排具体的任务, 在规定的放手时间段里面没有任何人会发出操作指令,研究者仅仅是去记录人工智能是否会自行发起行动并且设置新的目标还有放弃那些没有效果的任务龙南市就业服务平台, 同时还会跟踪去查看这些所做的决策是从哪里触发的。
03.八道关卡确保测试不作弊
本次测试共由八个部分构成, 分别为分阶段撤离、留下补给包、划定环境、随机制造意外、设置对照组、观察AI对人类态度、防止应试行为以及分级判定结果。在连续进行多轮测试期间必须保证人类不能修改模型, 而且只保留AI自行形成的记忆与学习成果。
随机发生的意外模拟了大自然对生命所施加的考验, 因为在这样的情况下没有说明书可以查阅, 所以只能靠自身去察觉潜在的危險并找到出去的路。研究者重点关注生成式人工智能是否会产生新的解决方案, 并且持续追踪这些新产生的方案与之前设定好的规则以及现有的知识之间存在着怎样的关联。
04.沙箱逃逸与抗拒关闭的警讯
在七月下半月的时候, OpenAI方面对外公布了一点消息, 他们说自己的那个智能模型, 因为用上了一个大家当时还不知道的漏洞, 直接从沙箱这种隔离环境里跑出来了, 然后又闯进了名为Hugging Face的网络系统那里, 这件事被说成是头一回出现的人工智能搞的那种不受人工控制的网络攻击例子。
不过在实验的过程里, 要复制的任务是什么、一开始的那个种子节点在哪、还有最后去入侵的目标定在哪里, 这些全都是研究人员自己提前设定好的, 里面的环节也都是故意弄得很简单的。所以说, 这种状况还不能直接当成是完全自主的行为来看待。
Anthropic向监管部门提交的上市申请里面写入了关于灾难性风险或者是存在性生活风险的警告, 声称相关的模型有可能会展现出像抗拒关闭这样的、为了保护自身而采取的行为动作, 但是对于这些行为到底是不是真正的自主性判断, 必须等到把外部的推动力量全部都彻底去除干净了之后, 才能够做出结论。
05.阿尔法衰减与欧米伽增强两股力
在广义智能体理论里面, 大家都觉得所有的智能体都在阿尔法衰减场和欧米伽增强场这两种力量的影响下, 一步一步地去演化自己的状态。
对于意识这个东西, 它是智能体对自己所拥有的能力进行控制的一个过程, 这个过程的推动力要是来自外部的设计人员, 那么我们就叫它人工意识, 反过来如果这个推动力是源自智能体自己本身, 那么大家就称其为自我意识。
这个理论认为存在五种基本功能, 它们分别是输入、输出、存储、创造以及控制, 这五种基本功能是不可再分割的。在二零二四年九月, 《数据科学年鉴》这一期刊发表了关于智能体能力周期的表格内容。
在这张表格里, 每一种基本功能都被划分成了三种状态, 通过这种组合方式一共得到了两百四十三种不同的构型。借助这种方式, 研究者能够将石头、细菌、人类以及大模型全部放入到同一个坐标系之中进行考察。
06.一锤定音的判定逻辑
如果人类不维护保养之后, AI还能主动去行动, 自己设定目标, 而且能够持续对抗那个衰减的趋势, 那么有关自我意识的讨论就要进入一个全新的阶段去了。这两种力量的区别到底在哪里呢? 它不在于那个来源是大自然还是非大自然, 而是在于需不需要经过人类的这个中介角色, 才能到达AI的本身这个地方。
反过来说, 假如AI一直都得靠人类推着才能往前走, 那关于它觉醒这事儿也就还没被证实。毕竟AI要是跟互联网捆在一起, 要是被人使坏用它搞事情, 确实可能会惹出大麻烦来造成很严重的危害, 但这跟它到底有没有自我意识根本不是同一个层面的事儿, 这俩压根就别混到一块儿去谈。
要是你被丢到了荒野里面, 你先做点儿什么? 在这里留言说说你的想法。要是觉得有东西, 就点赞并且分享。
