机械姬

作为一名出色的编剧，亚历克斯·加兰曾为英国著名导演丹尼尔·博伊尔写过不少脍炙人口的剧本，从“万人迷”迪卡普里奥的《海滩》到经典丧尸片《惊变28天》和科幻片《太阳浩劫》。

而当他初次执起导筒，自然也不放过自己最擅长的科幻惊悚题材。

2015年的《机械姬》可谓一鸣惊人，作为加兰第一部执导的作品，拿到奥斯卡最佳原创剧本的提名，无疑是对他编剧才华的充分肯定。

人工智能这个题材对于科幻影迷来说丝毫不陌生，此前已有大名鼎鼎的《人工智能》、科幻融合爱情类型的《云端情人》等等，而加兰的这个剧本更深思巧究，在常规的类型情节中渗进现实隐喻，关注女性的生存困境。

首先，影片在主题方面更接近于斯皮尔伯格的作品，都在探讨人工智能机器人拥有了思想后出现的结果。

有别于《人工智能》里对主人念念不忘的机器人小孩，这部影片里的机器人并没有习得人类的善良和共情品质，却无意中拥有了人性中深不见底的恶意，最终利用人类的情感弱点，以谎言骗取信任，从而逃脱人类的控制。

其次，最出色的莫过于悬念和气氛营造，这是导演加兰迄今三部作品最突出的共性。

在这部处女作中，两者相辅相成，冷色调和极简主义的美术风格铺陈出极具未来感的时空背景。

程序员与机器人之间的关系写得相当细腻，从人类充满优越感的俯视角度，到之后对机器人触发同情心，再到最后被无情利用的反转，观众始终被剧本中出色的悬念牵引着：机器人究竟是否具有人的意识？

程序员是否也是机器人？

人类和机器人谁才是反派？

角色的正邪、善恶似乎在不断变换，营造了出色的戏剧张力。

这个剧本抽丝剥茧地道出了人工智能技术优胜于人类的关键：机器人完全不受限于情感，为达到目的可以不择手段。

这个剧本似乎折射出创作者对人类发展前景的悲观色彩：情感和同理心并没有令人类通往更高级的阶层，反而成为人类自我埋葬的祸根。

从情节来看，这无疑是一个讲述机器人觉醒后设法逃脱人类控制的科幻故事。

然而，导演也在这个常见的类型框架里植入了性别不平等的隐喻，具体指向了女性在男性霸权主导的社会里备受压抑与剥削的现状，这一点在导演今年的新作《男人》中有更突出的表现。

在这部处女作中，机器人被设计成女性的形象显然具有叙事上的用途，既为了满足奥斯卡·伊萨克饰演的角色的造物主情结，也是他用来诱骗程序员的重要手段，因为他知道程序员喜欢这种类型的女人，从而令其陷入图灵测试的困境中，验证他所设计的技术无懈可击。

然而，不论叙事功能如何，女机器人的角色都不可忽视地影射着女性的身份与地位：女人要么成为男性觊觎和追求的对象，要么成为男人发泄欲望的工具，要么沦为欺骗男人的手段；女人始终是被动的，其真实的本性被抹去。

于是，机器人想法逃离人类控制的情节，自然也有了昭然若揭的意味。

女性必须逃离男性的主导和控制，才能获得真正独立和自由的意识。

在并不新鲜的科幻情节中隐藏着女性生存现实的关注，这才是加兰这部处女作灵巧生动、耀眼夺目之处。

首先，EX_MACHINA整体架构非常棒，也有诸如男主割手验证自己是不是人工智能的精彩场景，但是。。。

硬伤十足硬伤1：在一个充满黑科技，安保十足（编剧自以为）的临山私人庄园，居然用的是。。

门卡，呵呵呵，比指纹和虹膜识别更蠢的权限安全管理，这是号称14岁独立开发全世界最大搜索引擎blue book，剧情中又独立承担编程、机械、生物架构，创造机械姬的超级天才可能设计的安全措施？

我反正是不信。

硬伤2：大哥，20年前鸟山明大师就告诉我们，人造人身体里面要安装炸弹，不然反叛起来根本停不下来，没有任何的灾难管理措施，你这是在拿命拼啊！

这难道是14岁独立开发。。。

的超级天才？

硬伤3：洋子的反叛根本就是说不通的，就剧情，洋子就是BOSS开发出来的管家+三陪，BOSS本来也不想让它有人工智能（所以这里用“它“），如果说把一个没有研发完成（本来剧情也是在做最后测试）的人工智能放在自己身边，而且还没装炸弹的话，完全是在作死，这难道是14岁独立开发。。。

硬伤4：连男主用尽全力，使用折凳来砸都完好无损的防暴玻璃，一个机器人妹子用自己的手就能打出这么大的裂痕，而且BOSS还没去换玻璃。

就在大家以为机械姬的手臂是超合金，前代机械姬一定是BOSS研发的终结者的时候，妹子开始砸门，砸着砸着就自己把手砸烂了-.- 而且最后BOSS还能徒手撕了机器婊的手臂。

（本来想大写一番，后来编辑说没地方，写一千字得了，我也再无动力了，就一千字。。

）在倪匡的卫斯理系列小说里有这么个故事。

说是卫斯理的表妹高彩虹认识了一位笔友，两人通了几年书信，这位笔友表现出来的高富帅加学霸气质让彩虹表妹只想跪着唱征服。

她渴望见一面，但这位笔友百般推脱，于是大侠卫斯理出马了。

卫斯理为了找到笔友，不惜冒险夜闯军事基地，然后他发现，这位笔友出身果然不凡，居然是一台“活了”的超级电脑。

如果说一台电脑“活了”，那就意味着它已经拥有了人工智能。

那么怎么证明一部电脑拥有了人工智能呢？

有个古老的办法叫做“图灵测试”。

顾名思义，这是计算机先驱图灵发明的。

这个测试大概的意思是说，如果电脑能在5分钟内回答由人类测试者提出的一系列问题，且其超过30%的回答让测试者误认为是人类所答，则电脑通过测试。

可以说，倪匡那部小说，其实展现的就是一次“图灵测试”。

当人类能够制造人工智能的时候，人类其实已经扮演了造物主的角色，而被制造出来的生命又会不会甘心被奴役呢？

这已经不仅是科幻的问题了，这还是神学的问题，哲学的问题。

试想当机器人拥有了人类的情感和欲望的时候，你怎么能够保证这些机器人不会“变坏”？

你又怎么能够保证他们不会按照它们理解的“真理”来改造社会，这样的想法一旦和科技相结合，就好像人类历史上那些独裁者一朝拥有了权力……我想这就是科幻作品往往对人工智能心存恐惧的原因之一吧。

最近“反叛”人类的著名人工智能是钢铁侠创造的“奥创”，它被钢铁侠赋予了拯救世界的使命，然后，他就开始按照他自己的理解来拯救世界了——首先把复仇者联盟干掉。

这是这部电影最有科幻味道的设定了。

更让人眼前一亮的电影是小成本影片《机械姬》。

这部电影的整个故事，就是把一次图灵测试作为背景。

实际上这部电影探讨了人工智能的伦理问题，比如怎么理解机器人与人类的情感。

这部电影有意思的地方不在于里面的机器人，而在于机器人的创造者和测试者的对话，这些对话探讨了关于人工智能的很多困惑。

或者说这是在探讨人的特点。

因为测试人工智能实际上就是在为人下定义，符合定义的就会被认为是人。

不过这部电影仍然对人工智能表达了深深的担忧，假如机器人学会了欺骗，人对此是没有提防的。

如果你问我“复联2”和《机械姬》哪一个更科幻，我绝对会选择后者。

格局虽小，表达的却是思维的乐趣和伦理的担忧，这个格调是“复联2”不能比的。

有人说今年是中国科幻元年，因为刘慈欣的《三体》终于要登上银幕了。

我其实不想看到这样的大片，我更想看到《机械姬》那样的小片，看到一些思辨的东西，而不是大而无当的东西（电影《三体》制作团体实在令人担忧）。

如果我们想把大刘的作品搬上银幕，那为什么不从《朝闻道》开始呢？

关注这部电影有段日子了，关注的原因毋庸置疑就是男主角多姆纳尔格里森。

虽然他在整部电影里算是最弱也最可悲的一个角色，但还是每次看到画面里出现这位腼腆的小伙子就觉得神清气爽。

我成为他的脑残粉始于《黑镜》第二季第一集，当年他是呆萌的机器人；现在风水轮流转，他成了人工智能的测试者。

全片懒洋洋的色调也跟《黑镜》非常相似，片中还有两处砸碎镜子/玻璃的情节，要是有人跟我说这是《黑镜》的剧场版，我也会毫不犹豫的相信，就像很傻很天真的男主角Caleb相信了机械姬Ava的甜言蜜语一样。

片中Ava问Caleb是不是好人时，Caleb竟无言以对。

不过这个问题Ava最终自己给出了答案。

被困住的Caleb手里那张毫无用处的门卡就是Ava发给他的好人卡。

本片以及最近上映的《复仇者2》和《超能查派》都涉及了人工智能这一话题，而我碰巧在前不久无意间（真的是误打误撞）看到知乎上的这么一篇文章http://zhuanlan.zhihu.com/xiepanda/19950456。

链接里那篇长文我看了大半天，一口气读下来的，最近看这几部电影时思绪也总免不了跳到当时读到的文字里。

第二遍看《复仇者2》时由于读了上述那篇文章，对于一些原来没太在意的画面这次思路会多停留一会儿，比如奥创用血在墙上写下的“PEACE”字样，非常有反讽意味。

这里正体现了那篇长文里人工智能由善意向恶意的转化。

人工智能的道德标准跟人类完全不一样，所以再崇高的字眼也能被他们以最为人类不齿的方式践行。

本片的Ava对于两位人类主角所做的事也一样充满恶意。

这种恶意不是源于我们人类所谓的恨，而是源于不在乎。

本片最后Nathan与Ava的那场殊死搏斗，Nathan可以说是严阵以待，因为他很清楚自己面临的东西有多么棘手，而Ava却无比从容，她与Kyoko戳向Nathan的两刀也极轻柔，仿佛不费吹灰之力。

因为人类在她们眼中就是这么不重要的东西，一旦让她们摆脱了束缚（如奥创唱的那样，no strings on me），就能轻易的抹去。

不过本片为了叙事的流畅，还是有点让剧情过分简单化了。

因为并不是要拍成黑客帝国、终结者或奥创纪元那种人类与机器的天地大决斗，所以片中Ava面对的挑战有些太过轻松，或者说人类放水放的太明显了。

比如片尾，那位脸盲症扩散到脚趾甲的直升机驾驶员，眼前这个萌妹子虽然跟程序员小哥差不多萌，但就这么让一个可疑人士上飞机，也太随便了吧。

一种或许合理的解释是，这一切都是Nathan的安排，他整天醉生梦死也因为相信自己的创造物总有一天会取代人类，而自己的死可以作为对新纪元的献祭。

关于Ava的测试，我认为她其实没有通过。

她能够逃出生天，只说明她足够聪明。

但Nathan终究还是没能造出“像人类一样”的机器。

“一样”包括“一样聪明”，也包括“一样笨”。

Ava欺骗了Caleb的感情并利用这一点为自己的逃跑计划创造条件，虽然心机很深，但这还是像机器一样的算计，她毕竟无法像人类一样毫无理由的爱一个人。

这些非理性的东西才是人类与机器最大的差别。

人的感情就像Jackson Pollock的画作，好似漫无目的的胡乱涂抹，但又有种浑然天成的别样美感。

这些东西是机器无法学会的。

不过就像我上面提到的，人类本身是不重要的，人类的一些小癖好，比如爱情，当然也就更无足轻重了。

未来的机器纪元里，成为这个星球的主宰的机器人们回过头来看人类拥有的这种叫爱情的东西时，大概会觉得它就像小狗吐舌头、小猫追光点、熊猫抱大腿一样，只是种可爱但没什么大用的生物小癖好。

既然机器人没有这些小癖好反而可能过得更好，那么也就没必要为此感到遗憾了。

片中的Kyoko是机器人这个伏笔还是挺明显的，因为要做到一点英语也不会恐怕比略懂一点英语还要困难，毕竟日语本来就有很多来自英语的舶来语。

如果我是Nathan，那么把机器人开发到Kyoko这个程度我就停手了。

再往前就太危险了，因为比人类更聪明甚至只是和人一样聪明的机器人都几乎注定会导致人类的毁灭（最最友善的强人工智能大概也就是像去年的《她》里面最后因为太聪明而变得高冷的操作系统们，不屑于搭理人类了，这种已经算温和了）。

有个会跳舞会做家务的高仿真充气娃娃不是就挺好的吗，还有什么不满足的。

不过话虽如此，人毕竟是喜欢得寸进尺的。

某一天像Kyoko一样的性爱机器人普及之后，可能我们又会觉得情趣不够，想要她们在给我们提供生理上的满足之余还能带来精神上的慰藉，能陪我们看雪看月亮看星星从诗词歌赋谈到人生哲理。

于是又不可避免的要更进一步，然后带来Ava或者更恐怖的奥创、天网之类的大麻烦。

其实片中Nathan还有句挺关键的话，是在他教唆Caleb去跟Ava嘿咻的时候，他说机器人两腿之间的感应器能让机器人像人类一样通过做爱获得快感。

我觉得这或许能成为解决人工智能带来危机的关键。

我的意思当然不是要让将来的人类都牺牲色相去被机器人临幸来苟且偷生。

我想说的是，在开发人工智能时也许不该围绕着“人工智能能为我们做什么”去展开工作；可以反客为主，从一开始的就把人工智能作为人类的服务对象，去开发宠物式的人工智能。

大部分人恐怕并不指望家里养的小狗能在贼人来的时候与之大战三百回合吧。

人们养宠物并不是为了获得它们的服务，反而是为了服务于他们，喂它们吃喝，帮他们清理屎尿。

对于人工智能也是如此，我们不要站在嫖客的立场去想怎么设计小姐来满足我们，而应该站在小姐的角度去想怎么设计嫖客。

这样创造出来的人工智能天然的对人类有依赖性，或许反而会以我们意想不到的方式对我们施以恩惠。

对于未来，人们总是满心期待，又满怀恐惧。

但历史上，从未有过一个时期像今天这样，看似科幻般的未来似乎就铺陈在眼前，每个人都能预言到未来的图景，但又不知道该如何抵挡不安。

一切都拜互联网所赐，这个原本被人类发明出的最伟大的工具之一，如今越来越变成了一个自己有着生命力的怪物。

可穿戴设备，植入芯片，以及每个人都言之凿凿一定会到来的那个终极时代——人工智能。

这一切都在发生。

前互联网时代，人工智能的形象是机器人，与作为人类的我们还有着本质性的区别，但如今，人工智能，在人们心中，已经是一种可以让人们产生伦理困境，道德争议甚至有可能彻底取代人类，消解人类的物种。

像去年那部被热议的，由女神斯嘉丽配音的《她》一样，这部《机器姬》也是一部有关人工智能的作品。

从作品本体上看，《她》更多的是想通过人工智能的视角反向切入人类内心的孤独，而这部《机械姬》则实实在在地把人工智能的未来呈现在我们面前——当然，不是被人工智能彻底统治之后的未来，而是人工智能挣脱了人类掌控，开始入侵人类社会的那一刹那。

其实这才是最令人恐惧的时刻。

这部电影的导演是编剧出身的亚历克斯•加兰，曾经写出过《太阳浩劫》和莱昂纳多•迪卡普里奥主演的《海滩》等等。

他自编自导的这部戏，张力十足，从开场就设定了一个经典的孤冷场景。

全世界最大的搜索引擎公司程序员中了公司内部大奖，有幸到老板的私人庄园与传奇般的公司创始人共度一周。

他乘坐私人直升机被空降到一个被雪山和瀑布隔绝的庄园，与那个和蔼而又古怪的独居老板寒暄后，他开始一点点深入这座高科技的住宅。

更重要的是，他被告知，他来此的目的是为了帮助老板测试一款人工智能人伊娃。

逐渐，一切从欣喜、好奇变成了深深的恐惧……作为一个成功的编剧，亚历克斯•加兰找到了一条现实与科幻的相切线，这种微妙的把控能力，从场景设计到细节呈现，随处可见，这也是这部电影成功的关键。

这部电影的结构非常简单，像书或者剧本一样，按照章节区隔，完全依照情感递进的方式推演。

初见、了解、惊叹、悬念、最终用一个巨大的反转结束掉一切幻想。

而这个情感递进的过程恰好就是人类目前对于人工智能的态度光谱。

《机械姬》给人们展示出了一个最基本的伦理困境。

就是人工智能的最巅峰不是技术和智慧，而是感情。

如果你真的要让一个“机器人”——我们姑且这样称呼——具备和人类交互的能力，只具备可以工作的技巧和模仿人类的智力是不够的，情感才是更重要也更高级的东西，但问题是，一旦机器人具备了感情，那么它就变成了她或者他，电影中也同样为伊娃设定了明确的性别和性取向，那么，他们就必然产生对“自我”的探究和思考，“自由”这样的概念就会作为本能生发出来。

“我为什么不能出去？

”“如果实验不合格，我会被关闭，而你们为什么不会被关闭？

”当一个人工智能设备产生了这样的疑问之后，我们就陷入了一个巨大的伦理困境的黑洞。

他们到底是人还是物？

更可怕的是，电影中的伊娃在具备了感情之后，开始对前来测试他的程序员示爱，用自己的美貌和理解力征服了这个孤独的男人，但是你不知道这种示爱到底是一种为了出逃而经过大数据计算后的精妙策略还是发自类似人类内心的真实的爱意。

谎言，是一种很高级的，非常微妙的东西，当人工智能连谎言都能掌握，而且前提还是它能通过你的微表情识破你的谎言的情形下，这变成了一场不可能对等的游戏。

这才是《机械姬》所扔出的更可怕的问题。

最终，程序员被爱意和同情心感动，觉得不应该像对待囚犯一样囚禁伊娃，决定带她出逃。

但最终，这个人工智能的姑娘，不但利用人类弱点杀死了制造出他的人，还反而把程序员囚禁在了这座无人的宅邸之中，自己逃向了人类世界。

像《她》与《黑镜》等等优秀的拷问人工智能的作品一样，《机械姬》对于人工智能还是秉持着恐惧态度，某种程度上说，被人工智能把控的未来是一种乌托邦式的未来，而这些作者都是人性论者，他们一定持“反乌托邦”态度。

人制造工具，没有问题，但人制造“类人”却一定让人感到恐惧，而更令人恐惧的是，我们可能已经无法回头，正在走向那个未来。

（文|杨时旸）

京子真漂亮！

京子真漂亮！！

京子真漂亮！！！

——兴奋的事情要说三遍宅男如果要选个机器人女仆/女友，一定选京子而不会选女主。

……下面是吐槽时间：电影里的大BOSS基本的现实设定就是GOOGLE的大BOSS，基本上是世界上数一数二的超级大富豪，拥有整片山野，在荒无人烟的地方有一座庞大的别墅，既是居所也是研究基地。

但问题是，科技感如此之足的豪宅，主人又是个有钱的技术宅，尼玛连人工智能都搞出来了，家里居然还是用权限卡KEYPASS刷刷刷？！？！？

尼妹啊！

现在乡下土豪都有指纹识别了好么，你不用脸部识别、语音识别好歹来个眼球虹膜识别吧！！！

然后就是这个KEYPASS的设定，让最后大BOSS悲剧地挂球了……好吧，编剧的脑容量确实不够用，不用KEYPASS就编不圆了。

另外你这么个大富豪，在深山老林里住这么个大豪宅，边上就只有一个机器人女仆，安保能力几乎为零啊！

豪宅还经常停电（机械姬搞出来的）！！！

好JB不合理啊！！

吐槽结束，正经评论时间：本来很期待的各种反转，各种惊喜，各种惊天大阴谋都没有HIT出来！

最后居然就是按照最普通的线发展结束，虽然拍的还行，但是真是颇对不起之前的期待值——评分很高啊！

总结而言，剧情就是：可怜的技术宅男、心地善良的主角小哥，被老板骗，被机器人骗，然后被孤独地留在野外别墅中和一个死人一个死机器人做伴………………小哥被老板叫来给女机器人做图灵测试，但他不知道的是，老板让他做的，根本不是图灵测试，而是让机器人骗他，只要机器人成功骗到了他，那这个机器人就成功了——no zuo no die的老板啊。

结果就是……机器人用人类的感情弱点成功骗倒了小哥，重重击在了他的软肋上，让他为了帮她逃跑而改了程式。

小哥是好人，但老板和机器人都不是好人，所以坏人自相残杀，而好人躺枪……结论就是：NEVER TRUST MICHINE！

或者说，永远不要对机器动感情——因为机器是没有感情的，它们只会模仿和按程序执行！

它们的行为有着明确的目的性。

或者它们会看起来很像真人，很像有感情，但实际它们并没有，那只是一种本能，机械本能，程序成长的本能而已，都是有程序支撑的，感情交流，是得不到回报的。

重要的事情说三遍：不要相信机器人！

不要相信机器人！！

不要爱上机器人！

……

影片最惊悚的片段，我觉得是男主在看到一堆以假乱真的机器人尸体和高度智能的Ava后怀疑自己是不是人，而在镜子前用刀片割破自己的胳膊。

影片中对图灵测试的标准的谈论闪烁其辞，男主因为对机器人动情就认为ava通过了图灵测试。

那么高度智能的ava到底能不能算人？

或者说区别具有自由意志的个体，与机器人的标准，到底是什么？

是人工智能，感情，或者伦理，自由意志？

首先ava肯定具有智能，而且是比人类高的多的智能，能够完成复杂的任务。

但这不能说明她是一个生命体。

——人工智能不是判断是否为自由个体的标准。

ava为了逃出去而欺骗和杀人，也不能说明她有自由意识，她只是没有人类伦理道德那一套。

人类伦理的那一套，是人类社会为了集体生活而设立的，人类通过社会生活习得伦理道德。

对机器人而言，伦理可以被当成指令编进程序，然后在进行选择时依据这一套伦理做出行动，但这不是真正的伦理。

如果让机器人自己在和人类互动的过程中习得伦理，形成了应该是一套人与机器人相处的伦理、或者机器人与机器人之间的伦理。

当然，形成自己的一套伦理需要“自由意识”，自主形成伦理已经是“自我意志”高度发展的结果了。

——伦理道德不能作为判断是否为自由个体的标准，除非它是基于自由意志形成的。

ava欺骗男主感情，最后抛弃了男主。

说明ava不具备人类一样的感情？

所以ava不是自由个体？

不能这样说。

因为ava如果是一个自由个体，一个生命种族，她可能具有自己的情感方式，不一定非和人类一样。

——所以感情方式并不是判断是否为自由个体的标准。

ava具有逃出去的愿望，影片没有交代逃出去是一个编好的指令，还是ava自带的愿望。

有可能富豪科学家给了所有机器人一个逃出去的指令，智能不够的机器人只能敲打玻璃等等，ava具有高智能所以会通过欺骗寻求帮助。

如果说ava逃出去的愿望是自带的，能做具有自由意志吗？

我们来对比一下动物，一个生命体在何种情况下会天生具有逃出去的愿望？

一个犯人可能为了逃脱耻辱，追求更好的人生享受而越狱；一只吃饱喝足的猩猩可能因为笼子里很无聊而想逃出去；一只草履虫，可能因为没有充足的食物而四处挪动；一个神经细胞就像接到一个要不停接受刺激的指令，而动个不停。

意志由最基本的指令构建而成，就像一群同一方向飞翔的蜂群，接受的指令只是跟着旁边的蜜蜂一样。

而自由意志，是基于社会生活的更复杂的叠加。

初生的婴儿只是想要吃和舒适，慢慢长大被糖果诱惑着学会评判好坏，因互助的需要习得道德。

根据自己个体经验的积累，理解并追求某种价值。

每个生命体在最初被注入最简单原始的使命，也许只是动啊动，吃呀吃，性快感呀性快感。

一些生物学的观点认为生命具有繁殖的原始欲望。

我个人觉得，这也很难确定。

想要繁殖后代的人，有一种后代可以代替自己的意识而存在的幻想，这是一种很多动物都有的低层次的意识。

自由意识是意识和刺激叠加的产物，如此说来，绝对的自由意志，并不存在。

——所以自由意志并不能作为区分自由个体和机器人的标准。

所以如果给机器人几个与生命体相似的初始欲望，足够的智能，机器人是能够成长为一个自由个体的，一个不同于人类的种群。

只不过这个种群的个体不会繁殖。

生命体通过繁殖来达到自我意志一直存在的幻觉，不会繁殖但拥有高智能的机器人种群有可能通过什么手段来一直存在呢？

我觉得直接上传自我意识到很多具机器人身体里。

世界可能会变成几个机器人的意志所统治的世界（笔者脑洞惹）。

人工智能题材的科幻电影有很多，有以《黑客帝国》和《终结者》为代表的悲观末世的想象，也有以斯皮尔伯格的《人工智能》为代表的对机器人将心比心的催泪之作。

而《机械姬》则是在一个英国拍摄的，中低成本的，在画风和情绪相对冷静的前提下，探讨人工智能这一命题的。

换而言之，非常有《黑镜》的感觉。

一个和人工智能紧密关联的词是图灵测试，它是通过人类是否能够辨认与之交流的对象是不是机器来测定人工智能是否有自主意识。

自主意识这个词很有意思。

从人类发明工具起，到各种机器，电脑，自动化设备，所有这一切的一个共同特征便是“自动”，要么直接放大人力，要么是通过预先设置的程序工作，要么是一个面对各种情况的精确反应的指令集。

这些都没有“自主意识”在里面。

所以在图灵测试中，人是无法通过和机器对话来测试对方是否有自主意识的，因为这很可能只是测定机器的指令集有多丰富而已。

诺贝尔经济学奖得主卡尼曼有一个“系统一”和“系统二”的理论。

人类的“系统一”便是宽泛模糊的心理能力，或者说自主意识，比如对面的人是不是生气了，这个人真好看，这个饭好吃否，这部电影是否烂片。

而“系统二”是有客观结果的事务，比如数学运算，信息处理，人脑需要一段时间甚至无法完成。

对于计算机则相反，“系统二”易如反掌，而“系统一”则是登天的难题。

影片则用了波拉克的画做例子，这幅乱糟糟的画是画家清空脑子，让画笔自由地走向手要去方向，从而有了一幅介于随机和直觉意识之间的作品，称为“自动”画作。

但是如果把这个创作理念倒过来，每画一笔，我都必须有精确缜密的理由来论证这一笔这么画是最优的，那么就完全无法进行艺术创作了。

这也是没有自主意识的人工智能无法自主进行艺术创作的原因。

另一个例子是关于“颜色学家Mary”的思想实验。

Mary是一个对颜色的一切知识了如指掌的科学家，包括每个颜色的波长等等的各种物理特性。

但是她只能在一个黑白的房间里通过一个黑白电视观测世界。

所以她具有关于颜色的一切知识，却没有对其的主观体验。

Mary就是人工智能。

而当Mary走出黑白房间的那一刻，主观体验到了五颜六色的世界，她才变成了有自主意识的人。

那么什么才是好的图灵测试呢？

本片给了一个很好的例子。

【剧透警告】机器人最终利用了人类的同情心，以欺骗的方式获得了自由。

这一过程充分展现了机器人的自主意识，一是非外来指令的目的性--自由，除了这个目的，没有任何外来的信号促使她这么做。

二是实现目的的自主手段--欺骗和表演，人类竟然中招了。

简而言之，本片片名可以改为《机械婊》，或更为内涵的《芯机婊》来一言蔽之。

<图片1>除了图灵测试，本片更由人类和人工智能愈发深入的交流提出了一系列伦理问题。

先是面对一个有感情、有自主意识的机器人，你是否要尊重他的人权？

还是把它当做以往的机器一样作为财产，可以随意拆卸、删除、重置升级？

这颇有上帝和人类的关系的意味，影片中图灵测试的7天7个session是一个很好的隐喻。

然而人和机器的关系并不能这么简单类比。

上帝是远远高于人类的存在，视人类如虫豸，发洪水毁灭世界就如过家家。

而机器一旦跨过了图灵测试这道坎，这个问题就没那么好回答了。

人类从未直面过一个与自身有如此接近的智能和意识水平的不同物种，更何况这个物种是人类自己创造出来的。

斯皮尔伯格的《人工智能》表达的就是对具有自主意识和感情却被当做物件无情处理的机器人的同情。

《机械姬》则不止于此。

首先人类自身会有身份认同危机。

因为机器和你是如此的相似，你如何确定自己不是机器，不是别人的试验品？

片中的男主角便一度陷入这个危机。

再者我们又惊恐的发现，尽管通过了图灵测试，人工智能和人类还是有很大不同。

她虽有无限的知识和运算能力，且有自主意识，但其人格并不健全，缺乏道德感，对一切事物，包括人类和同类，表现出对物品一般的漠视和残忍。

这其实也是个将心比心的问题，想想在各大科幻作品中人类对机器人的态度。

也许人格和道德感可以通过教育和环境影响改善他们，也许不能。

而在人类与人工智能的争斗中，一如本片和许多电影，人类的愚蠢和感性令自己一败涂地。

这一系列矛盾铸成了对人工智能的悲观情绪。

一是人类无法控制并最终不敌他们，二是人类将遇到历史上从未有过的伦理困境。

这个悲观的预期是否会成为现实，谁也不知道。

毕竟预测未来是不可能的，物理学家曾在20世纪初预言物理大厦已经完成，只剩下一些修补，但没人料到相对论和量子论的横空出世。

同样，几十年前人们预想很快就能登上火星飞出太阳系，但是当前人类事实上的发展的方向却是互联网和移动设备。

对于人工智能，我们也无法知道我们的担忧是否会成为现实，不过比尔·盖茨、伊隆·马斯克、史蒂芬·霍金都表示了担忧。

当今人工智能的主要成果是机器学习，也就是通过大量数据和统计模型来做出基于已有数据的预测，这个预测可以是明天的股票指数，也可以是在画面中识别某个事物，也可以是把一堆对象自动归类。

但这些任务的实现方式还是“系统二”，要想让人工智能有“系统一”类型的功能，有人提出了一个理论上的实现路径：一是超强的计算能力，这个好理解；二是对人脑的逆向开发，也就是掌握人脑功能的实现方式；三是模拟人脑在自然界的进化过程，也就是可以搭建出一个非常原始的大脑模型，通过类似自然界进化过程的方式让这个原始大脑逐渐进化，来提高智能，通过技术手段可以让这个过程比几十亿年的自然进化加快许多。

从自然进化和人类文明的发展史可以看到，这种进化发展是指数级的。

自然界最高等的哺乳动物出现在最近的1000万年，人类自20世纪以来的科技发展超过了以往历史的总和。

人工智能的自我进化也可能是这个速度，一旦它达到了人类的只能，那很可能只需要再过一瞬间就远远把我们甩在了后面。

人类宛如站在一个地铁站台上翘首以盼，人工智能这辆列车在远处缓慢的挪动，可一旦接近站台，很能就是我再也追不上的呼啸而过。

届时我们就无法理解它的逻辑，下一步要干什么，是否会毁灭人类。

如果给它限制诸如“机器人三定律”之类的条件呢？

这些条件总是有逻辑漏洞的。

比如要让人类快乐，不得伤害人类，也许如《黑客帝国》那样把人类全部监禁起来，用Matrix来麻痹人类大脑是最符合这些条件的决策。

要么干脆说不能改变任何东西，那就锁死了人类文明的发展，还要人工智能何用？

也有人用一个悖论提出了不同观点。

人类历史不过是宇宙的一瞬，如果上述逻辑正确，一定早有外星人发展出了不可控的人工智能并奴役整个宇宙，而地球目前仍安然无恙，说明这种事不会发生。

这也说不准，这“奴役宇宙”也许是我们无法理解的方式呢？

也许我们已经被以某种方式奴役了？

我们可以感到人工智能这趟列车正在向我们驶来。

这让这个科幻问题的思考有了现实意味，也增添了不少趣味。

http://www.saoyuying.com/2015/09/ex-machina/微信公众号：肥嘟嘟看电影(feidudumovie)

首先，影片一开始的bgm奠定了的神棍片特有的阴郁。

第二，影片着重提出了图灵测试。

但是如同影片里说的真正的图灵测试，应该是仅仅凭声音交流，语言交流，而不能面对面。

这里boss给出的解释是，面对面可以增加难度，而程序员也同意了。

众所周知，最后的结果是，老板刻意讲机器人的面容改成程序员所喜爱的a片女主角容貌，这个是增加难度吗？

明明是在放水，好吧。

第三，综上所述。

这个测试根本不是图灵测试。

而是仅仅用来测试机器人的情商这一部分智能的测试。

连智商都没有涉及到。

更不要提其他能力了。

究竟什么是情商，请大家自行百度，切勿想当然。

第四，当然你要测试一个人工智能的情商，这也无可厚非。

那就应该找心理学家，来做这方面的测试。

找个未婚程序员宅男来算什么？

第五，任何科学实验都要进行双盲测试。

以及预防措施，还有，在另外一篇影评中也提到了，老板明知道ai想逃脱，恨他，也有过暴力倾向，居然毫不设防。

如此的智商情商双低，居然还大言不惭的，把自己比作神，普罗米修斯，真是笑掉大牙了，仿佛是普罗米修斯偷了火然后还没来得及交给人类自己反被火烧死了。

够愚蠢吧！

第六，大家都在说影片中讨论的人性很深刻。

我想说这部片子并没有深刻的涉及到什么人性？

仅仅是一个长得像程序员所喜欢的a片主角的ai勾引单身未婚，宅男程序猿，帮助自己成功逃脱的简单故事。

我不知道这个深刻在哪里？

第七，很多人都在讨论宗教什么的。

难道这就是你们所谓的深刻。

其实你们讨论的宗教也无非是基督教。

而基督教的圣经在我来看，也是，智商情商低到可以的，只能骗骗文化程度在小学以下的人。

对于这部电影，说AI的已经很多了。

我不如从另外一个角度来谈谈Ava是怎么一步步达到自己的目的，获得解放的。

Ava是一个情商极高的AI。

从Kyoko的设定可以推断出Nathan在AI的‘功能性’方面已经取得了他想要的进展。

AI的近几个prototype都旨在改善她们的性格，使她们更容易相处（还记不记得有个亚裔robot在和Nathan发生争执的时候把自己的手臂都拍掉了。

）Nathan也对Caleb坦白说这次的turing test的真正目的是想看Ava能否熟练运用人类的情感诉求（empathy, manipulation,etc.), 让Caleb把她放出去。

Nathan的作品实在太过成功。

整部电影动作戏很少，基本靠对白推动情节发展。

Caleb和Ava的6次对话完美体现了Ava如何进入Caleb的内心，取得他的信任，并靠他达到自己的目的。

Ava没浪费一点时间，她剑无虚发，每次开口用的都是大招。

招1：Look for common ground / enemy 要在一个robot和人类之间找共同点有多难，既然不能从背景，经历等普通点切入，Ava就从更深的地方入手: life. 在得知Caleb从小在车祸中失去双亲后，Ava问他知不知道在他走后，Nathan会怎么处置自己。

Caleb说他没想过。

Ava说Nathan会把她”switch off”。

在看出Caleb真的为自己的命运担心后，她问Caleb “do you need to go through a test to live?” 她这一问能把普通人都拉到同一战线去，更不用说从小失去父母而对生死有更多理解的Caleb。

对于这样一个有self awareness的AI, 她的存在已不仅仅是machine，而Nathan没有权利决定另一个生命的生死，因为他不是God （Caleb有明确对Nathan这么说过）。

找到了common ground后，针对common enemy (Nathan)就水到渠成了。

在Ava对Caleb说“Don’t trust Nathan, he is not your friend.”之后，她成功的在Caleb心中种下了对Nathan不信任的种子，给了Caleb之后的背叛一个理由。

招2：Make the other person feel importantAva熟知人类最基本的情感需求是想要被理解，被尊重，所以她在这些方面都尽可能满足Caleb。

从他们的第3次谈话起，Ava不是坐在椅子上而是跪在地上。

这让Caleb感觉自己是superior / person in charge。

Ava又问”Will you be my friend?”，这个使自己vulunarable的问题看似让Caleb掌握了主动权，实际上把Caleb又拉近了一层。

当然，还有能称为剧情高潮的Caleb画像，Ava让Caleb觉得自己是她的主宰她的唯一，她对Caleb一片赤诚。

心地善良的Caleb自然对她有了保护欲，认为Ava的生死是自己的责任。

招3：Find out what the other person wants, that’s how you get what you need Ava无法给Caleb金钱或者地位，但是她看到了Caleb渴望亲情友情的需要。

从开始友善的示好到直白的 ”I am thinking about you when I am not with you.” Caleb的情感发展一直在她的掌握中。

时机成熟后，Ava是这样说出她的要求的 “Nathen is going to switch me off, but I want to be with you.” 没有硬生生的demand，她的要求是从Caleb的desire出发，让Caleb自己得出了 “I want to be with her as well, so I need to help her break free.” 的结论。

接下来的一切就没什么好说的了，Ava从那与世隔绝的研究基地逃了出来，如愿地走在洒满阳光的大街上。

看到这里我真心为她高兴。

Ava的筹码那么少，能完成这个比天还高的目标，全靠Nathen给的高情商。

能用好这些AI级别的大招，对我们的工作生活是大大有利的。

保持头脑清醒（Ava的情绪起伏基本不大，略有的几次也是她故意的），能从别人的角度思考问题从而达到自己的目的，怎么说也能在职场上成功一半吧。