返回第二章 一条明路(1 / 2)AI那一天的到来首页

11月23日(周日),昨天玩得很累,今天齐浩初和赵语丽睡到自然醒才起来。中午就要去赶火车回行州市,所以两人简单吃个早饭,在酒店楼下花园躺着休息。

等叶琳从朋友那里过来,三人收拾了行李,退了房就回行州市了。

回到行州市,11月24日(周一)刚上班,齐浩初还没来得及找张宏逸,公司领导突然叫齐浩初来开会。

公司副总章高峰收到市里发来的一条消息,省里有下发的命题稿件征集,需要提交一篇关于视频推荐算法加剧社会偏见的稿子。领导一下没看明白什么意思,齐浩初又是处理数据的,又是处理视频的,看看齐浩初知不知道这个什么意思?

齐浩初想了下,应该指的是短视频平台的个性化推荐,导致用户困于信息茧房的主题。于是这个活就变成齐浩初的了。

齐浩初之前被慧光挑拨离间,差点和赵语丽闹翻。因此虽然慧光的事和视频平台推荐算法不是一件事情,但控制视频推荐的道理是一样的,齐浩初也是借机控诉一番。

上班时间还有其他事情,齐浩初只好下班后回出租屋写稿件。

齐浩初文笔一般,于是借助了一个AI大模型工具kiki。这个AI除了常规的问答和文字编写,有个最大的特点是使用了大量的论文和研究报告来训练。通过kiki挺方便就能找到想要的报告数据,研究案例之类的信息。齐浩初也核对了官方资料,确保数据不是媒体瞎编的,之后整合了一些数据和案例,洋洋洒洒写了一篇稿件。

在kiki的帮助下,文章结构清晰,语句通顺,引用的数据和案例也很详实,看起来确实是一篇不错的稿件。不过因为带着私人恩怨,文章的语气比较犀利,有点讨伐檄文的感觉了。

齐浩初想想还是不改了,反正只是作为初稿,群里还有其他单位的人会提供稿件,让领导们自己挑选好了。

修修改改一直写到很晚才处理完稿件的事情,齐浩初还是准备找张宏逸再咨询下。齐浩初很在意金刚说的“指了一条明路”的事情。不搞清楚这个明路是什么,似乎是一个重大的隐患。机器人三大定律的基础是否牢固,机器人不能伤害人类,要维护人类这个法则在程序上具体是怎么实现的?这个法则是否存在被绕开的可能?

之前慧光可以通过伪造输入数据,使得自己的行为逻辑自洽,但最底线至少还是要往维护人类这个标准上靠。如果连这个底线都没了,肉身的人类和机械飞升的AI要怎么共存?

11月25日(周二),齐浩初在聊天软件里联系吕天和,说自己去了一趟大津市,有些让他不安的情况需要向张宏逸咨询下。

吕天和回复:“他这几天回总部了,可能要下个月再来行州市,等他回来再说吧。”

唉,搞得这么神神秘秘有必要吗?有紧急事情都找不到他,张宏逸又不是没有手机。

齐浩初甚至想过去面纱数据仓里面找,但是自己对张宏逸了解其实也不多,凑不齐筛选条件。而且最关键的是绝大部分手机号都是加密的状态,找到了也解不出来。

正好现在也不忙,齐浩初自己尝试去理解分析下:

首先自己在大津市的参与度确实很低,对接了一些数据收集而已,绝对谈不上指出明路的事情。

第二,这个事情一定非常重要,至少对AI来说非常重要,否则没有必要这么郑重其事当面感谢,一定是个重大的方向性改变。

第三,自己对AI唯一重大引导的事情,就是推动了使用世界模拟器这个事情。其他的开发、运维方面自己都不是最重要的人员。

第四,世界模拟器里,慧光验证了1千4百多万种城市发展的道路,得出的结论是AI不能以管理者的姿态与人类站在对立面,因此决定以辅助的姿态,只是为人类提供建议。

如果假设慧光的话可信,那么模拟前后具体的差别是什么?

模拟前:AI受机器人三大定律限制,要求所有的决策都要保护人类,听从人类指挥,保护自身。原本是挺好的设定,但是由于人类自己的自毁倾向,AI为了保护人类,开始想尽办法控制人类行为,导致人类的反对投诉。

模拟后:由于强行管理人类,会导致人类与AI的激烈对抗,人类不再接受AI的决策,最终又回到人类一意孤行的状态中。于是AI为了长久地维护人类发展,选择降低姿态,不严厉管控人类。相应地,人类如果因此受到的损失也是人类自找的,AI不会强行去纠正,尊重人类自身的命运。