人工智能的危险在于我们给它以人的待遇——对电影《机械姬》的一点认识。
本片明显具有警示意义,警示我们人类不要聪明反被聪明误,不要被自己创造的工具所奴役和伤害。人工智能发展的终极目标是怎样的,恐怕专家也说不清楚,发展到像本片中的机械姬那样,有了人类的自我意识,应当是一个不成问题的阶段性目标,但赋予了机械以人的意识是否一定要给予它以人的待遇,却是个问题。电影在这个问题上是有启示的。
作为人工智能实验的主持者纳森(Nathan)并不想给予它们以“人”的待遇,结果招致怨恨被***;而作为实验参与者的嘉立(Caleb)明显把机械姬当作一个自然人来看待,甚至被该姬所吸引,结果导致自己被锁实验室。当然,前者的危险是由后者所引起的。然而,电影故事虽讲完了,但我们仍不知道到底是前者的危险大还是后者的危险大,是要给机械姬以人的待遇还是不给,无论是给还是不给,理由是什么?
这涉及一个重要伦理问题,机械应不应该享受和人一样的待遇?有人可能会说,一般情况下,机械是人的工具,不可能享受人一样的待遇,但作为人工智能的产物机械姬具有了和人一样的自我意识,就应该给予人一样的待遇,因为有自我意识就意味着(1)她具有和人一样的`灵魂;
(2)她具有了人性。“灵魂说”其实并不适用于人工智能,因为任何人工智能产品不可能具有和人一样的肉体,而灵魂是歇息于肉体的;如果我们承认人性即人的需要,那么,有了人的意识的机械姬的确可以具有和人一样的需要,比如本片中的机械姬艾娃(Ava)需要的生存权和自由。但人首先是动物,动物性的需要是一种基本的人性需要,比如吃喝拉撒睡,而人性的其他需要在一定程度上都是以此为基础或为此而服务的,人工智能产品显然并无这种需求,如果因为自我意识导致它们的平权要求,即要求和人类享有同样的权利,那也是一种伪权利,因为它不是以基本的人性需要作基础。
无论是灵魂说还是人性说,关键还在于我们如何看待“人”,即使人工智能产品具备了人的意识,也不意味着它们的人性需求是合理的,或者说要求人类给予它们人的待遇就具有正当性。坚持这个原则,人工智能无论如何发展,它都只能处于工具的地位,这样,危险也就不会产生。
事实上,危险的产生或者说伤害的产生均来自人的自作多情。以前有一部电影《她》也可作为例证。就本片而言,嘉立是一个不理性,有道德良知但易于被诱惑的人。纳森实验只想测试艾娃的自我意识,但没想让嘉立太过沉浸其中,所以对艾娃没有包裹皮囊。然而,嘉立还是被她所吸引,完全把她当作一个人,甚至不惜篡改程序命令让她逃脱,嘉立对她付出的是真情,而得到的却是假意。艾娃成功地利用了她的自我意识、想象力、手段、女性魅力和同情心,她的目的就是逃脱人类的控制;而嘉立的目的可是不仅如此。当人机交往,人和机器的付出和得到不能处于对等地位时,危险就会产生,而受伤的肯定是人。因为人受各种各样规则的约束,而机械不受;人永远都有局限性和弱点,而机械可以没有,它可以被设计得比人更强大。如果机械姬的自我意识完全以自我为中心,那么人机交往的过程中,输的永远是人。这也是我们不能给予机械以人的待遇的重要原因。
正如人类的成长一样,自我意识的形成仅仅是一个人成长的第一步。走出的机械姬能否和人类和平共处,能否与人类正常交往,故事还可以接着写下。但纳森如果真死了,这个实验效果其实无人能评价了,人工智能的实验也就无法继续了。如果纳森也只是一个更像人一样的机器人,它完全受到幕后真人纳森的操作,那么,接下来的故事应当很精彩。另外,从纳森角度而言,似乎《机械姬》还可以写前传,因为从本片中的纳森的表现看,他天天喝得醉生梦死,是不是可以推测他有过感情创伤?他和另一版本的机械姬交往过,他也把机械当人看待了,结果受伤了,不敢再让自己来测试了。
这种推测是因为我们不理解,在本片中,为什么要让纳森这样地表现,如果为了迷惑嘉立,没必要天天喝醉呀;如果仅为了迷惑,他就不会让嘉立篡改程序命令导致最后危险产生呀,说明他是真喝醉了,原因何在?另外,在纳森和机械姬曾单独相处一室时,艾娃告诉纳森:“创造一个恨你的东西,是不是很奇怪。”纳森创造了“恨”,为什么不创造“爱”呢?这也让人纳闷,必须有前传才能完整交待。如果前传是关于“爱”的,本片是“恨”版,那么接下来就应当是“情”和“仇”了,呵呵,好像还挺有道理吧!
He is a cleaner,quiet and ordinary looking.People don't pay attention to the figures in the public when the cleaners at work.He is one of them.He has to get up very early in the morning to sweep the streets.He enjoyed this time of the day for there is sunshine,birds sing and less traffic and people's noise.He finishes the street sweeping by 8 o'clock and he can take some time to the breakfast stand to have his favorite breakfast.After that,he has to work in a shopping center .The public toilets,dining halls and the elevators are the area he is responsible to keep clean.At lunch time,he has an hour to eat at the corner food store.In the afternoon,he continues to carry on the same duty until 6 o'clock when the shopping center closes.
He comes home to his wife and daughter at dinner time.This is the happiest time of his day.He loves his family and they love him.He is a very happy man.
To be a sanitation worker can never be considered as a decent job in people's eyes, especially in China. A story of Sanmao, a Taiwanese author, described that she wanted to be a garbabge collector and she wrote this in her homework in her elementary school but teasing and objection came from her teacher and classmates. There is nothing wrong about a childish girl's idea, and she thought that job could provide the most freedom. But this reflect the obvious discrimination. However, there is a dustman in my department. Everyone says hello, chats, jokes, and respects him as respect any other professors and students because people don't see differences between jobs.
影片最惊悚的片段,我觉得是男主在看到一堆以假乱真的机器人尸体和高度智能的Ava后怀疑自己是不是人,而在镜子前用刀片割破自己的胳膊。
影片中对图灵测试的标准的谈论闪烁其辞,男主因为对机器人动情就认为ava通过了图灵测试。
那么高度智能的ava到底能不能算人?或者说区别具有自由意志的个体,与机器人的标准,到底是什么?是人工智能,感情,或者伦理,自由意志?
首先ava肯定具有智能,而且是比人类高的多的智能,能够完成复杂的任务。但这不能说明她是一个生命体。
——人工智能不是判断是否为自由个体的标准。
ava为了逃出而欺骗和***人,也不能说明她自由意识,她只是没有人类伦理道德那一套。人类伦理的那一套,是人类社会为了集体生活而设立的,人类通过社会生活习得伦理道德。对机器人而言,伦理可以被当成指令编进程序,然后在进行选择时依据这一套伦理做出行动,但这不是真正的伦理。
如果让机器人自己在和人类互动的过程中习得伦理,形成了应该是一套人与机器人相处的伦理、或者机器人与机器人之间的伦理。当然,形成自己的一套伦理需要“自由意识”,自主形成伦理已经是“自我意志”高度发展的结果了。
——伦理道德不能作为判断是否为自由个体的标准,除非它是基于自由意志形成的。
ava欺骗男主感情,最后抛弃了男主。说明ava不具备人类一样的感情?所以ava不是自由个体?不能这样说。因为ava如果是一个自由个体,一个生命种族,她可能具有自己的情感方式,不一定非和人类一样。
——所以感情方式并不是判断是否为自由个体的标准。
ava具有逃出的愿望,影片没有交代逃出是一个编好的指令,还是ava自带的愿望。有可能富豪科学家给了所有机器人一个逃出的指令,智能不够的机器人只能敲打玻璃等,ava具有高智能所以会通过欺骗寻求帮助。
如果说ava逃出的愿望是自带的,能做具有自由意志吗?
我们来对比一下动物,一个生命体在何种情况下会天生具有逃出的愿望?一个犯人可能为了逃脱耻辱,追求更好的人生享受而越狱;一只吃饱喝足的猩猩可能因为笼子里很无聊而想逃出;一只草履虫,可能因为没有充足的食物而四处挪动;一个神经细胞就像接到一个要不停接受刺激的指令,而动个不停。
意志由最基本的指令构建而成,就像一群同一方向飞翔的蜂群,接受的指令只是跟着旁边的蜜蜂一样。而自由意志,是基于社会生活的更复杂的叠加。初生的婴儿只是想要吃和舒适,慢慢长大被糖果诱惑着学会评判好坏,因互助的需要习得道德。根据自己个体经验的积累,理解并追求某种价值。每个生命体在最初被注入最简单原始的使命,也许只是动啊动,吃呀吃,性快感呀性快感。
一些生物学的观点认为生命具有繁殖的原始***。我个人觉得,这也很难确定。想要繁殖后代的人,有一种后代可以代替自己的意识而存在的幻想,这是一种很多动物都有的低层次的意识。
自由意识是意识和刺激叠加的产物,如此说来,绝对的自由意志,并不存在。——所以自由意志并不能作为区分自由个体和机器人的标准。所以如果给机器人几个与生命体相似的初始***,足够的智能,机器人是能够成长为一个自由个体的,一个不同于人类的种群。只不过这个种群的个体不会繁殖。
生命体通过繁殖来达到自我意志一直存在的幻觉,不会繁殖但拥有高智能的机器人种群有可能通过什么手段来一直存在呢?我觉得直接上传自我意识到很多具机器人身体里。世界可能会变成几个机器人的意志所统治的世界。
而今天我要把我改装成一个机械人。我要让那些以前***过我们中国人的都得双倍偿还。开始吧,一把锋利的刀向我冲了过来。一瞬间我的头脑迷糊了。然后一个机器人在我的身上安装了电线,再用铁把我的身子连上,然后他们把我的.胳膊砍掉,安装上机械手臂。不用想都知道,下来该是腿和脚了。他们无情的躲掉了他。在安装上机械的腿。
已我经改造好了,但能不能活下来就很难说了。我在拼命的逃亡不让死神把我给带走。哈哈哈哈!经过了3个月的努力,我终于从死神的手上逃了出来。接下来,该是带着弟兄们冲锋***阵的时候了。啊啊啊啊,仇也报了,把我发明的东西都给国家吧。因为我也到报效他的时候了。哈哈,我刚***了美国的一个大人物,他们一定会说是中国***,所以这份痛苦就让我一人承担吧。哈哈,再见了兄弟们。
In cold winter, people are warming up near the fireplace at home, while sanitation workers are cleaning the broken branches and falling leaves. Usually sanitation workers have always been very hard, plus cruel and merciless wind and snow will be cut off branches and leaves on the roadside, the road, the sidewalk ... everywhere, sanitation can be miserable. They took the knife to cut off the branches, took the shovel to shovel branches and leaves, and take the broom sweeping, tired in the cold weather sweating profusely, the cold wind did not feel cold, they forget the tiredness and cold. In such a cold weather, sanitation workers have cleaned up our Fuzhou streets and won people's respect. We should learn from sanitation workers and learn from their hard-working and optimistic spirit. In extraordinary positions, to make extraordinary things, although their own dirty, but Fuzhou city has become more beautiful. When people see such a clean street, they think of sanitation workers as the hardest people and the loveliest people.
影片中对图灵测试的标准的谈论闪烁其辞,男主因为对机器人动情就认为ava通过了图灵测试。
那么高度智能的ava到底能不能算人?或者说区别具有自由意志的个体,与机器人的标准,到底是什么?是人工智能,感情,或者伦理,自由意志?
首先ava肯定具有智能,而且是比人类高的多的智能,能够完成复杂的任务。但这不能说明她是一个生命体。
——人工智能不是判断是否为自由个体的标准。
ava为了逃出而欺骗和***人,也不能说明她自由意识,她只是没有人类伦理道德那一套。人类伦理的那一套,是人类社会为了集体生活而设立的,人类通过社会生活习得伦理道德。对机器人而言,伦理可以被当成指令编进程序,然后在进行选择时依据这一套伦理做出行动,但这不是真正的伦理。
如果让机器人自己在和人类互动的过程中习得伦理,形成了应该是一套人与机器人相处的伦理、或者机器人与机器人之间的伦理。当然,形成自己的一套伦理需要“自由意识”,自主形成伦理已经是“自我意志”高度发展的结果了。
——伦理道德不能作为判断是否为自由个体的标准,除非它是基于自由意志形成的。
ava欺骗男主感情,最后抛弃了男主。说明ava不具备人类一样的感情?所以ava不是自由个体?不能这样说。因为ava如果是一个自由个体,一个生命种族,她可能具有自己的情感方式,不一定非和人类一样。
——所以感情方式并不是判断是否为自由个体的标准。
ava具有逃出的愿望,影片没有交代逃出是一个编好的指令,还是ava自带的愿望。有可能富豪科学家给了所有机器人一个逃出的指令,智能不够的机器人只能敲打玻璃等等,ava具有高智能所以会通过欺骗寻求帮助。
如果说ava逃出的愿望是自带的,能做具有自由意志吗?
我们来对比一下动物,一个生命体在何种情况下会天生具有逃出的愿望?一个犯人可能为了逃脱耻辱,追求更好的人生享受而越狱;一只吃饱喝足的猩猩可能因为笼子里很无聊而想逃出;一只草履虫,可能因为没有充足的食物而四处挪动;一个神经细胞就像接到一个要不停接受刺激的指令,而动个不停。
意志由最基本的指令构建而成,就像一群同一方向飞翔的蜂群,接受的指令只是跟着旁边的蜜蜂一样。而自由意志,是基于社会生活的更复杂的叠加。初生的.婴儿只是想要吃和舒适,慢慢长大被糖果诱惑着学会评判好坏,因互助的需要习得道德。根据自己个体的积累,理解并追求某种价值。每个生命体在最初被注入最简单原始的使命,也许只是动啊动,吃呀吃,性快感呀性快感。
一些生物学的观点认为生命具有繁殖的原始***。我个人觉得,这也很难确定。想要繁殖后代的人,有一种后代可以代替自己的意识而存在的幻想,这是一种很多动物都有的低层次的意识。
自由意识是意识和刺激叠加的产物,如此说来,绝对的自由意志,并不存在。——所以自由意志并不能作为区分自由个体和机器人的标准。
所以如果给机器人几个与生命体相似的初始***,足够的智能,机器人是能够成长为一个自由个体的,一个不同于人类的种群。只不过这个种群的个体不会繁殖。
生命体通过繁殖来达到自我意志一直存在的幻觉,不会繁殖但拥有高智能的机器人种群有可能通过什么手段来一直存在呢?我觉得直接上传自我意识到很多具机器人身体里。世界可能会变成几个机器人的意志所统治的世界(笔者脑洞惹)。
© 2022 xuexicn.net,All Rights Reserved.