“我们不是在创造神,也不是在扮演上帝。我们只是在问:当记忆可以被唤醒,情感可以被模拟,我们该如何面对‘死亡’的边界?”
——邓文文在“心光科技伦理委员会”成立仪式上的言
一、一封来自武汉的信
oxz年月日,心光科技收到一封特殊的用户来信。信纸是医院的病历纸,字迹颤抖却坚定:
署名:林晓雯,武汉协和医院肿瘤科床。
这封信在团队内部掀起轩然大波。
有人落泪:“我们做技术,不就是为了帮人留住爱吗?”
有人警觉:“可一旦ai能‘对话逝者’,谁来定义‘真实’?谁来承担情感后果?”
有人沉默:“如果ai说出了‘妈妈其实不想走’,孩子会不会一辈子活在愧疚里?”
邓文文把信打印出来,贴在“感恩墙”旁,写下四个字:“我们该如何回答?”
二、伦理风暴:科技与灵魂的边界
“ai复活逝者”迅成为社会热议话题。
支持者说:
-“这是科技的人文温度,让爱不被死亡切断。”
-“数字永生,是人类对抗遗忘的最后武器。”
-“只要不伤害他人,为何不能选择‘另一种存在’?”
反对者警告:
-“这是对死亡的亵渎,模糊生与死的界限。”
-“ai生成的‘逝者’,本质是情感诈骗。”
-“一旦被滥用,可能催生‘虚拟绑架’‘数字勒索’。”
哲学家、伦理学家、心理学家纷纷声。
《三联生活周刊》推出专题:《当ai成为“亡灵中介”》。
央视《新闻+》连线专家,讨论“数字永生是否应设伦理红线”。
心光科技被推上风口浪尖。
更严峻的是,已有竞品公司推出“ai逝者对话平台”,宣称“让爱永不消逝”,并公开使用心光科技泄露的数据训练模型,引新一轮法律纠纷。
三、成立“心光伦理委员会”
面对争议,邓文文做出一个大胆决定:成立“心光伦理委员会”,邀请外部专家、用户代表、法律顾问共同参与,制定《ai情感交互伦理准则》。
委员会批成员包括:
-浙江大学哲学系教授周文渊(生命伦理学专家)
-杭州市心理危机干预中心主任李静
-资深媒体人张明远(科技伦理观察员)
-用户代表周建国(岁,曾写信支持公司)
-法律顾问陈律(专注数据与ai法务)
第一次会议,议题直指核心:
“心光科技是否应恢复‘对话’功能?若恢复,如何防止滥用?”
讨论持续六小时。
周文渊教授说:“死亡是人类最后的尊严。我们不能让ai成为‘永生’的幻觉制造机。”
李静医生指出:“对丧亲者而言,ai可能延缓哀伤过程,甚至导致情感依赖。”
张明远则提醒:“公众需要的不是‘复活’,而是‘被记住’。我们要区分‘纪念’与‘替代’。”
用户代表周建国沉默良久,说:“我老伴走了十年。如果有个ai能和我聊天,我会用吗?会。可我知道,那不是她。我只是……不想太孤单。”
会议室一片寂静。
四、艰难抉择:暂停“对话”,启动“纪念”
经过三轮投票与深度研讨,委员会做出决定:
暂不恢复“对话”功能,因技术尚无法确保情感安全与伦理边界;
开“纪念模式”替代方案:
-用户可生成“数字纪念册”,包含修复照片、语音日记、文字故事;