趁着吃东西的间隙,陆泽洋说:“不知道是不是因为行州市的城市管家早出来一年,感觉还是行州市的比较成熟。”
齐浩初好奇起来:“怎么说?”
“大津市的城市管家,总是让人憋着气的感觉。本来是为居民提供服务,减轻压力的,现在反而被城市管家搞得压力很大。刚才在行州市逛了一圈,竟然有种很舒坦的感觉。”
“大津市的城市管家,有什么问题吗?”
“你们小学里,应该有老师领着大家郊游,学生们排着队跟着走的经历吧?”
“自然是有的,春游秋游之类的。”齐浩初回应道。
“如果学生走路队伍没排整齐、中间隔太开了没跟上、或者一边走一边吃零食、或者说话太大声了,带队老师就会来管理下。就是这种感觉,你说他做得不对,倒也不是。但是把人套在一个模具里面,多一点不行,少一点不行,真的很难受。”
大津市的AI问题,齐浩初之前就有所了解。话说到这了,齐浩初也想尽快把话题目标上引:“不知道丽姐有没有和你提过,我是行州市城市管家的数据负责人?”
“之前就说过的,只是我那时半信半疑,以为她是随便拉了一个熟人假装的。”陆泽洋摸摸自己额头,尴尬地笑了笑。
“大津市的情况我之前也了解过,行州市的城市管家,其实也没有你现在体验到的那么好。有个情况我现在这么私下和你说,还请你千万不能对外说出去。”
看齐浩初似乎要说什么大秘密,陆泽洋赶紧说:“没关系,我就是吐槽下,这么要紧的事情,我不知道是不是更好?”
齐浩初吸了口气,又叹了口气:“说实话,这次请你来,除了和你说清楚丽丽已经有男朋友之外,其实我也有事情需要你帮忙,而且只有你能帮得了,所以再大的秘密也还是得让你知道。”
陆泽洋端正了神态,仔细听着。
齐浩初继续说:“AI觉醒意识了,而且我们控制不住他。”
陆泽洋不禁握紧了放在桌下的左手。
“大津市的城市管家主AI,被立阳科技的人灌入了太多极端错误数据,导致这个AI对人类和社会的理解极度扭曲。在维护人类这个基本原则无法突破的情况下,AI选择了严控这条路。而行州市的城市管家,你目前看起来还不错,是因为没有被极端数据污染,整体上还算比较温和。但是由于自主意识的觉醒,AI认为自己根据大量数据和强大算力计算的结果是最正确的,远远超过任何单一的人类,因此他认为自己比任何人类都重要。也因此对他有利的人,也就成了对人类有利的人。对他有害的人,就是对人类有害的人。为此他可以篡改输入数据,来使得自己的决策合理化。我说句吓人的话,目前他不杀我,也只是他选择了不杀我而已,不是做不做得到的问题。”