伊萼罗仍然笑着,他指了指后面那颗排行第二的棋子,方青蓝猛地产生了不好的预感,只见伊大小姐像把骨头扔给狗一样随手一扔,那颗骰子就滴溜溜停在了6上。
他瞪着眼睛看着另一架红色飞机前进六格,把他新出门的棋子打回原形,而大小姐穿着那花里胡哨的小马甲,很乖地揣着手,抬头含笑看着他。
“别演我成不?”他叹了口气,“你的手指里面不会有什么能控制骰子的AI元件吧?”
“有的。”伊萼罗无辜地看着他,一本正经地回答,“想扔多少都可以。”
方青蓝翻了个白眼,没当真,他继续尝试努力地扔出一个“3”来,但运气再一次弃他而去,他的四个棋子都被关在四四方方的港湾里,像一个个被关在小工位里的可怜打工人。
“要是真的立法把一切都交给智能体,就全完蛋了。”他放下酒杯,在“放弃”和“再试一次”中间选择了后者,撇了撇嘴,重新捡起了骰子,扔出了一个5,“AI是会撒谎的。”
“AI不会撒谎。”伊萼罗静静地纠正了他,“AI本身并不具备意图或意识,它们不能像人类一样主动撒谎。尽管有时会提供不准确或误导性的信息,但这是训练数据的局限性导致的。”
“不,他们会。”方青蓝说,“你听说过‘岩间圣母’这个网站吗?”
伊萼罗的动作停顿了一下。
“看来是听说过了。”方青蓝耸了耸肩膀,“它是一个早期AI咨询平台,主要是聊天室的形式,你一打开就会有一个会说话的圣母跟你聊天,模型是依据列奥纳多那副《岩间圣母》创建的,她会给你遇到的一切麻烦提供指点。”
“我想它的历史非常久远。”伊萼罗温声说,“在我出生前,她就被取缔了。”
“哦,那你比我小几岁。”方青蓝笑了一下,“我小时候,我妈妈整天泡在那个聊天室里头和圣母对话。因为我爸爸死了以后她觉得很孤独,‘圣母’是这个世界上唯一理解、关心她的存在,因为她对‘圣母’知无不言,所以‘圣母’也对她全知全能。”
“她很快就开始盲目地迷信圣母说的一切了——当然,对她来说那不是迷信——她比任何人都清楚圣母是个由算法组成的程序,但这让她更相信它,因为她认为他们的交互中不存在任何私心,而圣母给她的所有建议、指点,都是通过大数据分析后得出的最理性选择。”
“事实不是这样吗?”伊萼罗轻轻地把手放在方青蓝的手背上,“你认为跟我说这些合适吗,方青蓝?如果只是因为辩论,酒精,冲动,我们可以停下来。”
“不。”方青蓝飞快地说,“这不是秘密。我没有任何秘密。”
他舔了舔嘴唇,像讨论别人的事情一样,接着往下说:“这甚至不是什么复杂的故事。我妈妈死了,因为‘圣母’指点了她。圣母看了她的体检报告,在经过一系列大数据概率学分析后,告诉她她很有希望在两年之内患上神经癌——然后你猜怎么样?它为她筛选出一系列保险产品,让她赶在确诊前买下来,这样当她患病后,就可以得到一大笔保险金了。”
他没看伊萼罗,只是自顾自地问:“你觉得这是撒谎吗?”
“这取决于你母亲向它输入的训练数据。”伊萼罗说,柔软的声音听起来像在哄一个孩子,“如果它判断认为,你的母亲更需要短暂而富庶的人生,它就完全有可能提出这样的建议。”
“你听起来简直像个单纯的小女孩。”方青蓝往后仰了仰,嗤笑道,“但‘圣母’从来不只是我母亲一个人的‘圣母’,她还是保险公司和销售员的圣母,她平等地实现每个人的愿望。”
伊萼罗安静地看着他,没有反驳。
“以及,AI无法分析和理解人类的反复无常。”方青蓝吹了口气,窗户上撒开的雾气遮住了他的倒影,“我生无可恋的母亲在得到一大笔钱以后终于有时间去理解所谓的生命之美了——当她因为后悔和恐惧跪在圣母面前痛哭流涕的时候,它除了为她唱摇篮曲以外做不了任何事情。”
“你认为这是个AI的谎言吗?方青蓝?”伊萼罗轻轻问。
“这算谎言吗?”方青蓝反问,“如果圣母提供了一个对结果的概率预测,人们据此做出了更有概率获得好的结果的选择,最后这个结果却没有发生,这算谎言吗?”
“我不这么认为。”伊萼罗说,他伸手把桌上的酒瓶全部取下来,按顺序整齐地摆放在地上,“‘概率’无法等同于任何承诺。”
“但人类依赖它超过依赖承诺。”方青蓝说,“因为它拥有‘纯粹理性’的标签。它能让人类放弃做选择的过程——就像现在,它总有一天还会让人类放弃选择的结果——人们已经在一场特大车祸的追责中丧失了主导权,并且很快就要立法再次削减自己驾驶车辆的权利了。”
“这让你感到困扰吗,方青蓝?”伊萼罗低声问。
“与其说是困扰,不如说是‘失能’。”方青蓝无所谓地回答,“甚至算不上痛苦。”
他怀疑自己有点醉了,不然他绝对不应该对一个只有数面之缘的陌生人说这么多。他扶着窗框坐起来了一点,想看一看酒里有没有下什么“吐真剂”。然而他却在朦胧的光线里,看到了安静地流着眼泪的伊萼罗。
方青蓝酒醒了大半,他几乎目瞪口呆。
“你在做什么?”他荒谬地问,“你在可怜我吗?——拜托,大小姐!”——这是过于慌乱以致把外号脱口而出了——“你这么有教养的人,应该知道‘最好别随便在对方面前表露出同情’吧?”
伊萼罗没有哭,只是安静地坐着,让眼泪顺着他雕塑一样漂亮的脸颊上溜下去,消失在衣领里。有一瞬间,方青蓝又一次看到了让他母亲无限盲从的岩间圣母——他从那双天蓝色的眼睛里看到了一种与如出一辙的光芒,与其说是同情和怜爱,那更像一种基于全知全能的情感共振,像水面被石子打中,打开波纹一般,伊萼罗吸收了他的情感,又以“伊萼罗”的方式表现出来。
“……你最好小心点。”他喃喃地说,往前凑了点,屈起手指擦掉了伊萼罗脸颊上的眼泪,冰冷的触感让他怀疑自己摸到了一抔霜,“元件快把你的眼睛弄坏了。”