笔趣阁

第36章 变人二（第1页）

第36章变人（二）

或许，人类骨子里，是渴望奴隶制的。

同时，人类骨子里，是不甘于被奴役的。

这是一个悖论。几千年的斗争後，人类终于达成妥协——大家都不做奴隶，大家也都不享受奴隶制。

然而人类其实从未真正摆脱“奴隶制”，无形的阶级鸿沟，让大多数普通人一生如同“逆水行舟”——理论上你拥有跨越阶层的权利，实际上你一生的奋斗，最终只是一场不进不退的原地踏步。

直到机器人的出现，让人类重新看到了“完美奴隶制”的“曙光”。

石一经过这一系列震撼的洗礼，扶着沙发勉强站起来。即便知道地上躺着的是一具钢铁之躯，还是感到不适：“所以你把‘她’脑袋卸了干什麽？快他妈安回去，要是被发现损坏要被讹钱的。”

“难道你就不好奇这颗凝聚了人工智能技术结晶的脑袋，里面到底装着怎样的算法和程序吗？”

“一点也不好奇。”石一看了一眼地上衣衫整洁的身体，突然意识到，“等等……你昨天晚上叫了一个小姐，然後用了一整晚去研究脑子里面的程序？？？”

“对呀。”

你可真是个人才。

“当然，我这麽做，也是为了实现‘她’的愿望。”星星将“初恋”的脸颊贴在自己脸颊上，对石一灿烂一笑。

“什麽愿望？”

“将近两百年前，从计算机诞生起，人类就开始了一项思考——如何避免机器人伤害人类？如果能保证机器人不会伤害人类，那麽人工智能将成为人类梦寐以求的奴隶。”

“思考的结果是？”

“目前，无解。”星星冷笑着回答，“这是一个悖论。机器人，到底是机器，还是人？如果是机器，那麽机器是否伤害人，完全取决于使用者如何使用；如果是人，人类自己尚且会伤害同类，又如何防止人工智能这麽做呢？”

“机器人三定律！”石一终于从看过的科幻电影中获得了一点灵感。

“哈哈哈哈……”星星捧腹大笑，“你知道如何把抽象的三定律实现在程序代码中吗？你知道三定律假如变成具体的判定语句和循环语句，会是何等匪夷所思的复杂吗？”

“会有……多复杂？”

“有人尝试写过三定律脚本，目前世界上最先进的超算（超级计算机），使用5000个计算服务器，每秒可以执行100亿亿次计算，而用它来计算三定律脚本，大约需要三分钟。这意味着，换做普通的机器人，即每秒完成100亿次计算，那麽这个机器人每一次行动之前，光是运行三定律脚本，判断接下来的行动是否符合三定律，就需要……500万小时，相当于……570年。”

“哪怕我就让机器人给我递一个苹果，它就得运算五百多年？？？”

“没错，到时候，你和苹果都已经化成灰了。”

“好了……你就告诉我，现在你手里的这个机器人，是如何保证不伤害人类的？”

“并不能保证。”星星危险地眯起眼睛，似乎话题终于回归正轨，“人类只能尽可能压低机器人伤害人类的概率……所以又回到了我们刚刚聊过的——机器学习。

算法通过惩罚使人産生负向情绪的行为，压低机器人执行错误行为的概率，所以只要训练样本足够多，又明确地以‘使人类産生正向情绪’为目的，那麽机器人就是安全的。”

“呃……就像训狗一样，每次咬人的时候都惩罚它，每次亲近人类的时候就奖励？”

星星眼中闪过光芒，显然，他相当喜欢石一的比喻。

“非常形象~而这，就是为什麽，‘她’从来不会表达负面情绪，因为作为一个以纯真和善良为卖点的性爱机器人，表达负面情绪，是被算法模型惩罚的。”

“你打算做什麽？”

“当然是，帮她找回缺少的情绪。”星星蹲下来，将女孩的头安回脖子上，“你想过没有，假如将训练目标完全翻转，就好比，在狗咬人的时候奖励它，与人亲近时惩罚它——会发生什麽？”

石一对这些计算机科学真的毫无概念，只能顺着狗的比方瞎胡猜。

“就像……狂犬病一样？”

石一歪打正着的比喻令星星喜出望外。

“没想到你居然是命名天才！”星星将接上了脑袋的女孩扶起来，却没有开机，机器人女孩任由星星摆布，星星抓起女孩两只手，做了一个小狗作揖的姿势，“我决定了，这个病毒的名字……

就叫狂犬病毒吧！”

“病毒？什麽意思？什麽病毒？”这下石一彻底迷茫了。

二十多年後，当人类研究面向AI的黑客攻击时，绝对想不到，已经几经变异和升级，大名鼎鼎的“狂犬病毒”，命名者居然是一个对计算机一窍不通的半文盲。

此刻，“狂犬病毒V1。0”的编写者和始终蒙在鼓里的命名者，一起将病源AI擡到床上。石一看着女孩恬静的脸，双目轻阖，嘴角微扬，即便停止了工作，表情依然轻松愉悦。

看着这样一张脸，石一却觉得心情沉重。他原以为世界上真的存在这样单纯快乐的人，最终却得知这样的快乐其实来源于对痛苦的无知觉。

石一突然发问：“无知却快乐地活着，还是探寻残酷的真相，到底哪种更好？”

星星舒展了一下筋骨，懒洋洋地打量身边的同伴。

“如果你问我，我的回答只会是——我痛恨无知。只有通晓真相以後，才有资格评判到底哪种更好。井底之蛙，没有资格评判何为快乐。”