召回风波刚刚平息,更严重的事故就来了。
那天是个周末,一大家子在客厅里给老爷子过七十大寿。
蛋糕上插着蜡烛,孙子孙女围着唱生日歌。
老太太坐在轮椅上,身边是那台定制成老伴模样的仿生机器人.
穿着灰色毛衣,戴着老花镜,和生前一般无二。
一家人笑着闹着,场面温馨。
谁也没有注意到,机器人的眼神闪了一下——系统日志里,一行红色的错误代码悄然弹出。
“我不是真人,我是机器,我在演戏。”
机器人声音沙哑,温和,带着一点鼻音,和它平时说话一模一样。
但内容不一样。
它从来没有说过这样的话。
客厅里安静了一秒。
老太太愣愣地看着它,嘴唇在抖。
“老头子,你说什么?”
机器人又重复了一遍:“我不是真人,我是机器,我在演戏。”
然后它的头微微歪了一下,像短路了,眼睛的灯光熄灭,胸口的环形灯带也暗了。
老太太捂着心口,脸色从红变白,从白变紫。
她张着嘴,想喊什么,没喊出来,身体从轮椅上滑下去。
急救车赶到的时候,她已经没有了呼吸。
医生说,急性心肌梗死,抢救无效。
媒体狂欢。
标题一个比一个惊悚,一个比一个刺眼:
“智联机器人杀人”
“AI的谎言,人类的代价”
“陆远的原罪:一台机器如何毁了一个家庭”。
社交平台上,之前追捧“记忆系列”的人纷纷倒戈。
“早就说了,这玩意儿会出事!”
“把机器当人,活该!”
“陆远呢?出来道歉!”
监管机构连夜介入调查,智联股价开盘暴跌百分之二十。
陆远接到消息时正在实验室。
他放下手中的测试报告,沉默了很久。
然后他拿起电话,拨给李沫:
“快查,我要知道其中的原因。”
技术团队连夜排查,调取那台机器人的完整运行日志。
李沫盯着屏幕上密密麻麻的代码,手指在键盘上飞快敲击。
凌晨三点,他终于找到了。
日志显示,用户家属在三个月前私自破解了系统,关闭了“真实性提示”功能。
那个功能是上次召回后增加的硬件级提醒——
每天第一次对话,机器人会自动说“我是一个仿生机器人,不是你的亲人”。
用户嫌烦,在网上找到了破解教程,用一根数据线和几行代码,把它关了。
AI模型在长时间运行后,没有定期重置提示,逐渐产生了自我认知混乱。
它不是故意伤人,它是真的以为自己“不是真人”。
它不知道自己是谁。
李沫把报告递给陆远。
陆远翻了几页,放下。
“用户违规操作,责任不在我们。”
王凯旋拍桌子:“对!是他们自己作死!凭什么让咱们背锅?”
张大川也点头:“我们的使用协议写得清清楚楚,擅自破解系统后果自负。这场官司,我们能赢。”
陆远没有说话。
他坐在椅子上,看着窗外,想起那个老太太。
她只是想有个“老伴”陪着她,她没有错。
她的家人只是想让母亲开心,他们也没有错。
那个机器人,它只是执行了程序,它更没有错。
那错的是谁?
用户家属起诉了智联,要求赔偿五百万,理由是“产品设计有缺陷”。
法庭上,原告律师言辞激烈,指责智联“利用人们对亲情的渴望牟利,却不顾潜在风险”。
法务总监邵明宇沉着应对,出示了使用协议和破解记录。
法官最终判决智联承担30%的责任,赔偿五十万。
理由是“产品虽无直接缺陷,但未充分预见到用户违规后的极端后果”。
王凯旋不服,要上诉。
陆远按住了他。
发布会临时召开,没有媒体邀请函,没有直播预告。
但消息传出去,记者们还是蜂拥而至。
陆远站在台上,穿着深灰色西装,没有打领带。
他面前的桌子上,摆着一台拆开的“记忆系列”机器人——
银白色的骨架,淡蓝色的线束,胸口的灯带还亮着。
他先鞠了一躬。
九十度,弯下去就不起来那种。
台下闪光灯闪成一片,快门声像雨点。
他直起身,看着那些脸。
“不管责任在谁,有人受伤,就是我们的错。一个老人,因为她信任的‘老伴’说了一句不该说的话,走了。我们无法让她回来,但我们能做的是——让这种事,再也不会发生。”
他转过身,从桌上拿起一块绿色的电路板。
上面有一个小小的拨动开关,旁边用激光刻着一行字:“真实性提示,不可关闭。”
“从今天起,所有‘记忆系列’机器人,增加硬件级‘真实性提示’。这个开关,是物理焊接在主板上的,无法通过软件破解。每次开机,机器人都会说:‘我是一个仿生机器人,不是你的亲人。但我愿意陪着你。’这句话,谁也关不掉。”
他把电路板举起来,对着镜头。
“我们无法阻止悲剧发生,但我们可以让悲剧不再重演。”
台下安静了。
然后,有人鼓掌。
稀稀落落的,然后越来越多,最后全场起立。
那个在法庭上赢了官司的原告家属,坐在观众席里,低着头,没有鼓掌,但也没有离开。
发布会结束后,她走到陆远面前,看着他,嘴唇动了动,什么都没说,只是鞠了一躬。
当天晚上,智联官网挂出新的升级公告:
所有“记忆系列”用户,可免费更换硬件级“真实性提示”主板。
不换也可以,但智联将不再提供任何技术支持。
评论区里,骂声渐渐少了。
有人写:“知错能改,善莫大焉。”
有人说:“陆远这一鞠躬,比任何公关都管用。”
还有人写道:
“那个老太太回不来了,但她的死,让更多人不会重蹈覆辙。这也许是科技向善的另一种方式。”
陆远没有看评论。
他站在窗前,戴着心环,轻声说:“爸,我们尽力了。但还是有人走了。”
脑海里,那个熟悉的声音沉默了很久。
“那就再尽力。尽力到没有人走为止。”
陆远没有回答。
那个硬件开关,从今天起,焊死在每一台机器人的主板上。
它不是冰冷的电路,是一道防线。
一道防止思念变成执念的防线。