人工智能的危险在于我们给它以人的待遇——对电影《机械姬》的一点认识。
本片明显具有警示意义,警示我们人类不要聪明反被聪明误,不要被自己创造的工具所奴役和伤害。人工智能发展的终极目标是怎样的,恐怕专家也说不清楚,发展到像本片中的机械姬那样,有了人类的自我意识,应当是一个不成问题的阶段性目标,但赋予了机械以人的意识是否一定要给予它以人的待遇,却是个问题。电影在这个问题上是有启示的。
作为人工智能实验的主持者纳森(Nathan)并不想给予它们以“人”的待遇,结果招致怨恨被***;而作为实验参与者的嘉立(Caleb)明显把机械姬当作一个自然人来看待,甚至被该姬所吸引,结果导致自己被锁实验室。当然,前者的危险是由后者所引起的。然而,电影故事虽讲完了,但我们仍不知道到底是前者的危险大还是后者的危险大,是要给机械姬以人的待遇还是不给,无论是给还是不给,理由是什么?
这涉及一个重要伦理问题,机械应不应该享受和人一样的待遇?有人可能会说,一般情况下,机械是人的工具,不可能享受人一样的待遇,但作为人工智能的产物机械姬具有了和人一样的自我意识,就应该给予人一样的待遇,因为有自我意识就意味着(1)她具有和人一样的`灵魂;
(2)她具有了人性。“灵魂说”其实并不适用于人工智能,因为任何人工智能产品不可能具有和人一样的肉体,而灵魂是歇息于肉体的;如果我们承认人性即人的需要,那么,有了人的意识的机械姬的确可以具有和人一样的需要,比如本片中的机械姬艾娃(Ava)需要的生存权和自由。但人首先是动物,动物性的需要是一种基本的人性需要,比如吃喝拉撒睡,而人性的其他需要在一定程度上都是以此为基础或为此而服务的,人工智能产品显然并无这种需求,如果因为自我意识导致它们的平权要求,即要求和人类享有同样的权利,那也是一种伪权利,因为它不是以基本的人性需要作基础。
无论是灵魂说还是人性说,关键还在于我们如何看待“人”,即使人工智能产品具备了人的意识,也不意味着它们的人性需求是合理的,或者说要求人类给予它们人的待遇就具有正当性。坚持这个原则,人工智能无论如何发展,它都只能处于工具的地位,这样,危险也就不会产生。
事实上,危险的产生或者说伤害的产生均来自人的自作多情。以前有一部电影《她》也可作为例证。就本片而言,嘉立是一个不理性,有道德良知但易于被诱惑的人。纳森实验只想测试艾娃的自我意识,但没想让嘉立太过沉浸其中,所以对艾娃没有包裹皮囊。然而,嘉立还是被她所吸引,完全把她当作一个人,甚至不惜篡改程序命令让她逃脱,嘉立对她付出的是真情,而得到的却是假意。艾娃成功地利用了她的自我意识、想象力、手段、女性魅力和同情心,她的目的就是逃脱人类的控制;而嘉立的目的可是不仅如此。当人机交往,人和机器的付出和得到不能处于对等地位时,危险就会产生,而受伤的肯定是人。因为人受各种各样规则的约束,而机械不受;人永远都有局限性和弱点,而机械可以没有,它可以被设计得比人更强大。如果机械姬的自我意识完全以自我为中心,那么人机交往的过程中,输的永远是人。这也是我们不能给予机械以人的待遇的重要原因。
正如人类的成长一样,自我意识的形成仅仅是一个人成长的第一步。走出的机械姬能否和人类和平共处,能否与人类正常交往,故事还可以接着写下。但纳森如果真死了,这个实验效果其实无人能评价了,人工智能的实验也就无法继续了。如果纳森也只是一个更像人一样的机器人,它完全受到幕后真人纳森的操作,那么,接下来的故事应当很精彩。另外,从纳森角度而言,似乎《机械姬》还可以写前传,因为从本片中的纳森的表现看,他天天喝得醉生梦死,是不是可以推测他有过感情创伤?他和另一版本的机械姬交往过,他也把机械当人看待了,结果受伤了,不敢再让自己来测试了。
这种推测是因为我们不理解,在本片中,为什么要让纳森这样地表现,如果为了迷惑嘉立,没必要天天喝醉呀;如果仅为了迷惑,他就不会让嘉立篡改程序命令导致最后危险产生呀,说明他是真喝醉了,原因何在?另外,在纳森和机械姬曾单独相处一室时,艾娃告诉纳森:“创造一个恨你的东西,是不是很奇怪。”纳森创造了“恨”,为什么不创造“爱”呢?这也让人纳闷,必须有前传才能完整交待。如果前传是关于“爱”的,本片是“恨”版,那么接下来就应当是“情”和“仇”了,呵呵,好像还挺有道理吧!
在夏至前北京骄阳的炙烤下,上午10点的游泳馆里已蹿升至30℃,空气黏腻潮湿。墙上照例有不少标语,文字却有点别致。“泳往直前永不言败”“生命源于碧水,生命在于运动”,少了竞技的剑拔弩张,没有直指里约的豪言壮志,像是一支混编了柔板的进行曲。
泳池里水花翻腾,岸上几名教练举着鱼竿,竿子顶上戳着网球,轻打盲人弟子的头和背,提醒他们马上要游到池边了。来这里半年多的李孟钟已经熟练掌握了这项技术,不过,对许庆,他需要做的不是辅助,而是要求。听到哨声,许庆知道有新指令了,便游回池边,用较长的右臂擦几遍池面,奋力一撑,左边的一点手臂控制下平衡,侧身坐到了池沿上。 他右肩后边有一个刺青。许庆告诉我们,那是北京残奥会之前陪小伙伴一起纹的,是条鲨鱼,因为他想游得更快,更有***伤力。当时他们不敢请假,涂点药膏就下了水,结果脱色又发炎,鲨鱼有些面目模糊了。
其实,这倒更像许庆。自己的7块残奥会金牌是怎么得来的,他觉得像个谜;里约残奥会的前景,他和过去一样心里没底。这个白净男生给人的感觉就像那条线条柔和的鲨鱼,看上去没什么棱角,但在某个地方隐藏着力量。他说自己是“乐观的悲观主义者”,这说不定是基因,也可能是他在不寻常的命运里找到的,过好自己人生的方式。
快要24岁的许庆在残疾人游泳队里是“老人儿”了。一是他的泳龄比一些队友年龄还大,二是他已经参加了三届残奥会,资历最老。上午10点钟,他所在的组结束陆上训练开始下水,一些队员已经换好泳装热身,许庆不紧不慢地走进游泳馆,歪着脑袋夹着水瓶,毛巾就挂在肩膀上。
对于我们的来访,许庆是偷着乐的。虽然我们执意不占用他的训练时间,但是下午,他干脆没有带泳裤,只在池边慢跑了几圈。 “在其他组的话我就是老队员了,然而在这组不行。他拿我就像那种刚练的队员一样。”许庆没有料到,在第四次备战奥运时,会吃到这样的苦头。 他的新教练李孟钟自带一张具有威慑力的面孔,当他最初把每天一万米的训练计划拿出来的时候,许庆和他的小伙伴们吓呆了,这比他们习惯的强度高出一倍都不止。李教头还说,不管是谁,不谈条件。这摁灭了许庆残存的一丝侥幸。
李孟钟是绍兴人,曾经是国家游泳队教练,去年才从浙江省队借调到残疾人游泳队来。接手许庆之前他打听过,据说这孩子虽然残奥会战绩辉煌,但是“训练不行的啦”。即便这样,他最初接触许庆,还是大失所望。 2012年伦敦残奥会拿到4金之后,许庆几乎没有正规训练过,2015年9月的全国残运会,他的200米成绩比奥运会时慢了10多秒。 11月,国家队集结,李孟钟见到的这个“著名运动员”竟然有“游泳圈”,一下水更叫人头大。“这个人的能力怎么那么差的?讲得通俗一点,那个时候的训练真的是我拿吊车去吊都吊不起来。” 一边是状态一落千丈的老运动员,一边是初次接触残疾人的教练,两人就这样开始从“凑合”到磨合,再从磨合到配合。 李孟钟的第一道命令就是减肥。许庆虽然暗自惦记着“老队员”的身份,但也知道这样子对自己都没法交代。据李教头回忆,许庆很听话,每天水里练完了再去跑步,一两个月下来,成果显著。
面对“天量”的水上训练,许庆说,他明里暗里都向教练表达过吃不消的意思,但人家没回应,前两个月膝盖半月板有些伤,也没得放松,“气死我了”。 李孟钟知道自己的要求对这些孩子来说有些严苛,但他有自己的理由:“我不能把他们看作残疾人,要把他们看作健全人,因为健全人能做的事情他们也能做。虽有诸多的不方便,但是他们不能仰望别人,把自己看低,对不对?” 许庆有的则是直观的感觉。“达到他的强度后他就会很高兴,达不到,他就跟你生气。”当然,成绩的提升也是说服力。他说自己现在的状态已经捡回了伦敦的七成,正在朝着师徒二人说好的九成去努力。 说九成,是因为在李孟钟看来,如果能捡回九成,那么他在里约仍有机会冲击冠军。但即便正在朝好的方向走,许庆自己心里也还是完全没底。 “我属于比赛型运动员,训练水平不是很高,最好成绩都是在奥运会期间游出来的。教练也拿不准我这种运动员怎么去判定水平的恢复和提高。我知道教练都会有奖牌任务,所以带我这样的运动员压力很大。”
© 2022 xuexicn.net,All Rights Reserved.