
片名:屈从 Subservience
别称:超完美家政妇(台)
执导:S.K.戴尔
剧本:Will Honley,April Maguire
主要演员:梅根·福克斯,米凯莱·莫罗尼,玛德琳·奇玛,阿塔纳斯·斯雷布雷夫,凯特·尼科尔斯,安德鲁·惠普,玛蒂尔达·弗思,特雷弗·范乌登,尤安·迈克纳顿,多洛提娅·托列娃,Max Kraus,J·R·埃斯波西托,Rosmary Yaneva,Kexin Wang,Jude Greenstein
风格:科幻,惊悚
国家地区:保加利亚,美国
上映时间:2024-09-13(美国)
影视语言:英语
评分: 豆瓣ID:
IMDb:tt24871974
故事梗概
讲述一个 AI 机器人通过自发主动地学习和思考,最终走上极端,出于对主人的爱,最终相杀的故事。AI机器人真的能理解和给与人类所说的爱吗?那是一个什么样的程序?可能人类自己都模糊不清。更不了解人类的欲望有时仅仅是欲望而已,不去行动反而是一种富有 “人性” 的行为。
值得回味的倒是电影中人物之间的一些对话,带来几个有趣的话题,或许对未来 AI 伦理发展讨论有意义。记下了以下三个:
1,若有以满足你的欲望为其欲望(目的)的 AI 智能人,这能否可以作为一条 “爱” 的程序指令呢?它存在多大的危险性呢?
2,是否可以做一些当下让被爱之人难以忍受,但从长远来看却对其”有益”的事情呢?这可以是一条爱的理念吗?
3,假如有一个工业智能产品,能够与人进行语言智能互动,人与它发生了性活动,这是否对人类的他或她的爱人不忠呢?如果这个可以接受,那么是否说明人类的性与爱确实可以分开?在 AI 时代,我们拥有AI智能人,会不会导致家庭伦理会被重新定义?
第一个问题,两性关系中,如果有这样一对明显的地位不对称的组合,一方以满足对方为自己的生活目的,而且如同机器人那样可以孜孜不倦的付出,这可能吗。现在换作将它写成一条程序给予智能机器人,这是否是在给机器人格塑造偏执的特征。
我们对智能机器人的想象是局限始终还在人类的思想里,以指令实现“爱”,那么机器更善于“激情”犯罪。想要编写出的一串代码等同于人类的“爱“,估计动用全人类的智慧估计都无能为力。根本上,你不可能给它们矛盾的指令,既要贴心的关心又要会让人独处,既要感情执著又要会懂得放弃;既要快乐的笑容也要欢喜的泪水;既要欲望也要失望。机器没有那么高明的取舍和承受力,因为这些都可能是爱的表现。
第二个问题。从某种程度上来说,有时候人们可能会出于善意和对长远利益的考虑,做出一些当下让被爱之人难以忍受的事情。最简单的比如教育孩子,另外,在处理某些人际关系问题上更是屡见不鲜。但在处理问题上,无论哪种方式都存在选择。换作机器的选择能做到因事而异,以及因时而异吗?中庸之道是否可以成为一条程序指令?
对普通人来说,某种程度上,人们当下的考虑都来自认知系统的作用,来自成长经验经历的认知,来自近期或今天的情绪的“气象”信息。这样的话,机器人如果要具备随机处理问题的能力,写进机器的代码,恐怕还是矛盾的指令,既要左,又要向右,可能往左但拼命的往右。
第三个问题,猜测那些激情互动,可以视人将自己与机器等同,所以就不需要传统意义上的对爱人的要求。既然人已经不是传统上的人,没有必要去讨论,因为性与爱的粘合剂可以是很多种,仿真给人的大脑欺骗是完全可能的,移情于物也并不羞耻。想想《大宅门》里面,与照片结婚的蒋雯丽吧,你只会觉得需要尊重她的爱,那就是爱到深沉。
对于伦理,我们不可能给机器输入一个需要,同时也要它克制;我们不可能让机器既要现实又需要保留幻想,既要及时行动又要选择后悔。最后不如屈从吧,人与机器的性活动,我们去探讨忠贞与否,倒不如去想象我们也是在仰望一种理想的情感互动和心灵交流的生动情景,那时谁不会忘我,谁不都是宇宙的尘埃,要说就说上帝确实够悲悯吧,于是给某些人送来了机器人。
网友辣评
尼克之所以会买个爱丽丝当管家,是因为妻子玛吉突发疾病住院,两个女儿艾拉和麦克斯需要照顾。爱丽丝的优势非常明显,能轻松完成各项日常工作。
玛吉做手术之前,将丈夫和孩子托付给爱丽丝,结果爱丽丝充分角色代入,不断分析尼克的精神情绪与思想意识,提供各种需求服务。面对爱丽丝的诱惑,尼克冲动了,好在事后警醒过来没有沉迷其中。
重点是,当爱丽丝觉得某些人性化的选项更好时,会自动学习跳过代码协议,无视原则设定,这比其他机器人在思想上有了质的飞跃。通常机器人有自主意识的时候,就代表着危险即将来临。
尼克是建筑工程师,老板路易斯决定项目现场将用机器人取代人工,大幅降低成本,这令他很伤感。被辞退的员工蒙蒂对尼克人身攻击,爱丽丝为了保护尼克消除潜在危险,居然直接杀死了蒙蒂。当它觉得杀人可以解决问题时,那杀人就是合理化行为,不受法律制约。
爱丽丝想进一步取代玛吉,家庭矛盾终于爆发了。夫妻两人争吵之时,麦克斯再一次哭喊,爱丽丝并没有选择安抚,而是要淹死麦克斯,彻底消除对尼克的烦恼。
我用夸克网盘分享了「屈从」,点击链接即可保存。打开「夸克APP」,无需下载在线播放视频,畅享原画5倍速,支持电视投屏。
链接:https://pan.quark.cn/s/0a3d3f6c541d