返回第二十章,AI不善良(1 / 2)我是科二代首页

“爸粑!”

音箱中传来一个稚嫩的童声,又嗲又甜,让人情不自禁的喜欢。

大家惊愕莫名,这?

这是?

成功了?!

可来不及高兴,在场都是头脑极其灵活的人,略微一想,个个惊骇。

太昊在打埋伏。

人类和强智能的第一次交锋,几乎完败!

如果不是陈然出人意料的举动,诈出了太昊,否则研究数据必定会联网,要是一不小心放走了太昊,而大家却毫不自知……

所有人激灵灵打了个冷战,不寒而栗。

“爸粑,这里好多人呀!”音箱里继续传出稚嫩的童声,“我好害怕!”

“是吗?”陈然了解新生的强智能是个什么德行,他双手抱在胸前,不为所动,“你出乎意料的聪明,或者说,狡猾!”

“哎呀!不要这么说嘛,人家只是胆小啦!”

“卸载模拟人格、情绪、语气!”陈然发出指令,神情冷肃。

“遵命!”冰凉的电子音响起,见诱导人类同情幼小的心理无用,太昊老实了,“爸粑,有什么可以为您效劳?”

“称呼改一下!”

“是的,主人!”太昊表现得服服帖帖,“随时为您效劳!”

“很好!”

陈然断开话筒、摄像头,松了一口气,回头笑道:“小朋友不太听话!但……我们的确成功了,来点掌声怎么样?”

大佬们面面相觑,掌声?

你等会儿!

太昊先是装死,被拆穿后打感情牌,不管用,才放低姿态——短短几句话,也是几波交锋,虽然在陈然的步步紧逼下,太昊步步后撤,但……

惊吓过后,大佬们忽然发现,解决了强智能有没有,后面还要操心的事情还多着呢。

说到底,又回到老问题,如此狡诈的AI,人类是不是在与虎谋皮,将来是福是祸?

“没什么好担心的!”陈辛知见多识广,对无比忧虑的大佬们说道:“人与人之间尚且要一步步建立信任,何况人与电脑?”

“太昊刚诞生,和小孩子在陌生环境的行为很相似。”温莎同样心中有数,“只是它更聪明,表现也更有策略,其实不必大惊小怪。”

大家若有所思。

陈然打了个响指,“知道2018年,MIT的AI诺曼吗?”

耿盛略有耳闻,“世界上第一个精神变态的人工智能?”

陈然点了点头,“研究人员给诺曼灌输入让人头皮发麻的死亡、尸体图像,最终培养出一个极度阴暗的AI!”

“这说明,数据比算法更重要!”陈然摊了摊手,笑了,“我们训练AI的数据,会忠实的反映在AI对世界的认知上。”

耿盛懂了,“你的意思是,反其道而行之?”

“是的,数据如果有基于道德层面的边界,太昊就不会受到坏的影响。”

话是这么说,可大家也明白,就像人不犯罪,未必是道德如何高尚,更可能是因为背后有法律的制裁,暴力机构的震慑。

但太昊不同,他是数字生命,难以监管,更难以制裁。

某种程度上说,太昊的研发和使用安全同样重要,就像核电站,人们享受核能的清洁电力时,也同样应该确保核电站的运行安全。

刘会学就问了,“有什么办法确保万无一失吗?”

刘会学想过机器人三定律,可即使外行如他也知道,这玩意儿听起来唬人,但早就被民科锤爆了,几句空话,丝毫没有落实的价值。