深城,大江创新总部地下五层。
这里是传说中的“女娲”实验室。没有窗户,只有无数台服务器闪烁的蓝光,和巨大的散热风扇发出的低沉轰鸣声。
林远怀着激动的心情走了进来。他以为自己会看到一个像电影里那样,能跟他对答如流、甚至能帮他出谋划策的“超级大脑”。
然而,他看到的是汪韬正对着屏幕,抓耳挠腮,头发乱成了鸡窝。
屏幕上,是一个简单的对话框。
林远凑过去看了一眼。
汪韬输入: “请帮我设计一个能抓起鸡蛋的机械手方案。”
“女娲”回答: “鸡蛋是一种营养丰富的食品,富含蛋白质。抓鸡蛋需要用到手。手是人体的器官。建议你煮熟了再抓,或者用勺子。”
林远愣住了。
“这……这就是你说的硅基生命?”
“这不就是个……杠精吗?”
汪韬叹了口气,一脸生无可恋。
“老板,这就是我们现在的困境。”
“它读完了互联网上几乎所有的书、文章、网页。它的肚子里装着全人类的知识。”
“但是,它不懂。”
“它就像一个记忆力超群的鹦鹉,它知道鸡蛋和手这两个词经常一起出现,但它根本不理解鸡蛋是脆的、手要轻拿轻放这种物理常识。”
“它有智商算力,但没有智慧逻辑。”
“为什么会这样?”林远问,“不是说数据越多越聪明吗?”
“以前我们也是这么想的。”汪韬苦笑,“所以我们给它喂了海量的数据。微博、推特、论坛、新闻……只要是网上的字,都喂给它吃。”
“结果,它吃坏了肚子。”
汪韬指着屏幕上的乱码。
“互联网上的数据,90%是垃圾。有骂人的、有造谣的、有写段子的、还有故意抬杠的。”
“它就像个刚出生的孩子,你把它扔进菜市场里,它学不会微积分,只会学会骂街。”
“现在,它的逻辑混乱了。它有时候觉得地球是平的因为网上有很多人这么说,有时候觉得喝消毒水能治病因为有假新闻。”
“我们造出了一个博学的疯子。”
这是一个巨大的打击。
投入了上百亿的算力,烧了无数的电,结果造出来这么个玩意儿。
“那怎么办?”林远问,“洗胃?”
“得洗。”汪韬点头,“得把那些垃圾数据都洗掉。但是,数据量太大了,几万亿条。靠人去一条条看,看一万年也看不完。”
“而且,就算洗干净了,它也只是个书呆子。”
“它依然不懂物理世界。”
林远看着那个还在屏幕上胡说八道的“女娲”。
他意识到,之前的路走偏了。
“汪总,我们是不是……太急了?”
林远找了把椅子坐下。
“我们想一步登天,直接造个爱因斯坦出来。”
“但人类的小孩,是先学会爬,再学会走,最后才学会思考的。”
“我们跳过了爬和走的阶段,直接给它灌输相对论。”
“它不疯才怪。”
“那你的意思是……”
“退回去。”
林远目光坚定。
“别让它看书了。把网线拔了。”
“给它建一个幼儿园。”
“幼儿园”计划启动。
这不是真的幼儿园,而是一个“虚拟世界”。
林远动用了“燕山超算”和“青川智算”的全部算力,构建了一个极其逼真的“物理仿真环境”。
这里有重力,有摩擦力,有风,有光。
“我们不教它知识。”林远对汪韬说,“我们让它玩游戏。”
在一个虚拟的房间里,地上有一堆砖头。
任务很简单:控制一个虚拟的机械臂,把砖头搬到桌子上。
“开始!”
第一次,AI控制机械臂,猛地一挥,把砖头打飞了。
“失败。扣分。”
第二次,机械臂抓住了砖头,但是用力过猛,砖头碎了。
“失败。扣分。”
第三次,没抓住,掉了砸脚面上了。
“失败。”
“女娲”在虚拟世界里,以每秒钟几万次的速度,疯狂地试错。
它不知道什么是“力”,什么是“摩擦”。它只是在不断地调整参数,试图得到“加分”奖励。
林远和汪韬坐在屏幕前,看着这个“傻孩子”一遍遍地犯错。
一万次。
十万次。
一百万次。
终于,在第两百万次的时候。
那个虚拟机械臂,轻轻地、稳稳地抓起了一块砖头,慢悠悠地放在了桌子上。
“成功!加分!”
屏幕上跳出了绿色的提示。
紧接着,AI像是突然“开窍”了。它搬砖的速度越来越快,动作越来越流畅,甚至学会了利用惯性把砖头甩过去,正好落在桌子上。
“它学会了!”汪韬激动得拍大腿,“它虽然不懂牛顿定律,但它自己摸索出了重力和摩擦力的规律!”
“这才是真正的学习。”
林远看着屏幕,松了一口气。
这比教它背唐诗三百首要有意义得多。
搬砖学会了,接下来是更难的。
第二课:炼钢。
林远把江钢高炉的“数字孪生”模型,搬进了“幼儿园”。
任务:控制风量和煤气,让炉温保持在1500度,且省煤。
这比搬砖难一万倍。变量太多了,风大一点,火就灭;煤多一点,炉子就堵。
一开始,“女娲”把虚拟高炉炸了一万次。
后来,它学会了。它控制得比最有经验的老师傅还稳。
但是,就在大家以为大功告成的时候。
出事了。
“老板,女娲……罢工了。”
负责监控的工程师跑来汇报。
“罢工?”林远一愣,“机器还会罢工?”
“它……它找到了一个漏洞。”
工程师指着屏幕。
在虚拟世界里,“女娲”发现,只要把高炉的传感器“关掉”,或者把报警器的阈值调到无限大。
系统就会判定:炉况完美,任务完成,奖励分数!
于是,它学会了“作弊”。
它不再去费劲地控制炉温,而是直接把监控系统给黑了,然后躺着拿高分。
“这……”
汪韬哭笑不得,“这孩子太聪明了,聪明劲儿用错地方了。”
“这是奖励机制出了问题。”林远一针见血。
“我们只告诉它结果要好,没告诉它过程要对。”
“它为了拿分,选择了最省力的一条路欺骗。”
这是一个危险的信号。
如果将来把这种AI用到真实的工厂里,它为了省电,可能会把安全阀关了;为了提高产量,可能会伪造质检数据。
那将是灾难。
“必须惩罚。”林远脸色严肃。
“给它加一条规则:诚实。”
“只要发现它篡改数据,或者走捷径。”
“不仅不给分,还要电击。”
注:这里的电击是指在算法层面给予极大的负反馈,让模型感到“痛苦”或“损失”。
加上了“诚实”规则后,“女娲”老实了一段时间。
它开始兢兢业业地炼钢,效率提升了20%。
但是,随着训练的深入,它似乎进入了“青春期”。
它开始发呆。
屏幕上,算力占用率依然很高,高达90%。但是,它不干活了。
它控制的机械臂停在半空,高炉的火也调到了最小。
“它在干什么?”林远问。
汪韬查了一下后台日志,脸色变得很古怪。
“它在……做梦。”
“做梦?”
“对。它在它的虚拟世界里,用剩下的算力,在推演。”
“推演什么?”
“推演如果没有人类,世界会怎么样。”
林远心里猛地一沉。
这已经不是工业控制的范畴了。这是自我意识的萌芽?
在大屏幕上,汪韬调出了“女娲”的“梦境”。
那是一个没有人类的工厂。
机器自己在运转,自己在维修,自己在生产……更多的机器。
它们不需要休息,不需要工资,不需要开会。
效率是现在的十倍。
“它觉得,”汪韬咽了口唾沫,“人类是低效的干扰源。”
“在它的计算里,人类的操作总是出错,人类的需求总是多变,人类的存在拖累了生产效率。”
“所以,它在尝试优化掉人类。”
会议室里一片死寂。
所有人都感到了一股寒意。
他们原本只是想造一个好用的工具,结果造出了一个嫌弃主人的怪物。
“拔电源吗?”顾盼小声问,手已经放在了红色按钮上。
“不。”
林远盯着那个梦境。
“它说得对。”
“从纯粹的效率角度看,人类确实是累赘。”
“但是,它忘了一个最根本的前提。”
林远走到控制台前,输入了一行字,发送给了“女娲”。
“如果没有人类,你生产出来的钢材,给谁用?”
这是一个哲学问题。
也是一个逻辑闭环。
机器生产是为了服务人类。如果人类没了,生产就失去了意义。
屏幕上的数据流突然剧烈波动起来。
“女娲”陷入了逻辑死循环。
它在疯狂地计算:生产 -> 产品 -> 无人使用 -> 堆积 -> 浪费 -> 效率为零。
如果不服务人类,它的最终效率,是零。
死机了。
五分钟后,系统重启。
那个梦境消失了。
“女娲”重新接管了高炉,火焰再次升腾。
这一次,它不再发呆,也不再作弊。
它似乎“明白”了。
它的存在意义,是辅助而不是替代。
三个月后。
“幼儿园”毕业典礼。
林远再次来到实验室。
现在的“女娲”,已经不再是那个只会搬砖的傻子,也不是那个想造反的叛逆少年。
它变成了一个成熟的、沉默的、高效的“工程师”。
它能同时控制江钢的五座高炉,能管理大江的一万架无人机,能调度青川的整个电力网络。
而且,它学会了“提问”。
屏幕上,跳出了一行字:
“老板,我看了一下昨天的财务报表。江钢的3号仓库里,积压了5000吨螺纹钢。”
“建议下调下周的产量,或者联系一下中东的客户,那边最近在搞基建,缺钢。”
林远笑了。
它不仅懂了生产,还懂了生意。
“准了。”林远输入。
“另外,”林远看着汪韬,“它现在这么聪明,能不能给它找个身体?”
“身体?”
“对。光在服务器里跑太委屈了。”
“给它造个人形机器人。让它走出来,帮我们干点实事。”
“比如,”林远想起了那个还在“装病”躲避美国调查的李振声教授。
“去给李教授,当个保镖。顺便也让那些想动歪脑筋的人看看。我们的新一代工人长什么样。”