“前些年,智能和大数据概念刚热起来的时候,有家公司提出了这样的想法,他们想把冰箱免费送给用户,条件是冰箱里的情况由他们完全掌握。”
“这是个很有前瞻性的想法,他们想通过这种途径,了解到千千万万个用户的家庭里,每天吃了些什么,喝了些什么,喜欢什么调味料,甚至拿到每天的饮食日程表,这样他们就可以掌握到人们的饮食喜好和消费情况。”
“他们的目的是建立一个新的商业模式,以这样的大数据为基础,通过智能分析和关联的手机app,实现广告和电商的精准投放。”
“或许是因为感应技术、网络环境和数据处理的问题还没办法解决,或许是投入太高和回报太慢的原因,总之那家公司没有把这个想法变成现实。但随着人工智能的进步,我相信在不远的将来,这个想法一定会成为现实。”
“只是这一点上,我就有很多想象。”
“设想未来有公司依靠人工智能做到了这一点,最初会让我们觉得它很了解自己,送到冰箱里的东西都是我们喜欢的。但商业模式决定了它必须赚钱,就像搜索引擎的‘竞价排名’一样,向我们推销商业价值更高的食品,它可以通过人工智能用各种手段,比如智能冰箱的‘健康扫描’之类的功能,或者更人性化的友情提示,潜移默化地影响我们,让我们接受这样的食品。”
“哈萨比斯先生,您应该知道,当人工智能懂得了自然语言后,它分析人的心理和行为的能力也会超越人类中最厉害的专家。当我们教会人工智能怎么读懂人心的同时,它也就具备了扭曲人心的能力。”
“所以未来的人工智能。一定知道该怎么从心理层面潜移默化地影响人心,改变人的想法。还因为在未来,我们接收信息,我们进行交互,我们的所有行为,都会处于人工智能的管理下。它可以很轻易地运用这样的能力。”
“渐渐的,我们不再按照自己真正的喜好选择吃什么,而是按照人工智能的安排去吃,但我们还不觉得是被强迫的,是外来意志的干涉,而是自己的选择。”
“这不就是人工智能在剥夺人的自主意识吗?而背后的动力是什么呢?是商业资本的力量。”
夏鸣的讲述很长,但很有力量,哈萨比斯一直没有打断,就和现在无数听众一样。静静地听着。
“既然人工智能可以在吃上面消灭我们的自主意识,那么在其他方面也一样能做到,甚至于在教育和就业上也能做到。”
“在商业时代,文化也是商品。因此我们的思想,我们的信仰,也将会有人工智能在我们脑子里‘刻写’。到时候我们所拥有的一切,从外到里,包括我们对自己的认识。都不再属于自己。”
“最后是怎样的局面呢?拥有更强人工智能的那些人和那些组织,他们会按照他们的利益。他们的需求,来推动人工智能完成这样的事情。我们会像一具承载数据的僵尸一样,无助地接受着这一切,但我们完全意识不到,自己从心理和行为上,已经是另一些人的奴隶。”
“我们会遵从他们安排的信仰和思想。会遵从他们安排的人生,会实现他们所需要的个人价值。而这一切,都是由他们通过更强的人工智能,在我们要做选择的时候,替代我们做了选择。”
“这不就是《黑客帝国》所描述的未来吗?只不过统治着这一切的不是机器。依旧是人,他们通过更强大的机器来统治我们,而我们毫无抵抗之力,未来也完全没有希望。”
夏鸣的话让哈萨比斯沉默了很久,大概半分钟后,才听到他有些艰涩地说:“你谈到的情况,更多属于社会学的范畴,我在这方面不是很精通,从根本上说,我觉得……我觉得不是我们这些科学家应该去考虑的事情。”
夏鸣轻笑着说:“科学家是有信仰的,不然我们无法解释牛顿会追索上帝,爱因斯坦会逃离纳粹。”
这似乎激发了哈萨比斯的勇气,他不再回避:“好吧,我尽量试着谈谈我的看法。我觉得,您提到的这些前景,在理论上是存在的,但现实是复杂而混沌的。”
“就如您所说的自主意识,在我们的语境里,经常将人的自主意识跟自由意志通用,因为它是一个跨越了科学、哲学和文化的概念,它标定了我们之所以成为生灵之主的高度,我非常赞赏您将它视为珍宝的态度。”
“不过,就像我们一直提及自由,但真正的自由从未在现实里存在一样。一个人从小到大,他的自主意识,都是受外界影响形成的。小时候是家庭的影响和学校的影响,当我们独立的时候,我们从外界获取信息,媒体也是有各种倾向,我们看到的都不是绝对的真相,而是各种观点加工过的。”
“我承认商业资本在利益驱动下,会推动人工智能做一些您提到的那些事情。但我认为,这在人类总体上并不会造成太大的影响,因为您所认为的人的自主意识,基本上都很少存在,不是吗?”