亲,双击屏幕即可自动滚动
正文 第509章 焊死的开关
    召回风波刚刚平息,更严重的事故就来了。

    

    那天是个周末,一大家子在客厅里给老爷子过七十大寿。

    

    蛋糕上插着蜡烛,孙子孙女围着唱生日歌。

    

    老太太坐在轮椅上,身边是那台定制成老伴模样的仿生机器人.

    

    穿着灰色毛衣,戴着老花镜,和生前一般无二。

    

    一家人笑着闹着,场面温馨。

    

    谁也没有注意到,机器人的眼神闪了一下——系统日志里,一行红色的错误代码悄然弹出。

    

    “我不是真人,我是机器,我在演戏。”

    

    机器人声音沙哑,温和,带着一点鼻音,和它平时说话一模一样。

    

    但内容不一样。

    

    它从来没有说过这样的话。

    

    客厅里安静了一秒。

    

    老太太愣愣地看着它,嘴唇在抖。

    

    “老头子,你说什么?”

    

    机器人又重复了一遍:“我不是真人,我是机器,我在演戏。”

    

    然后它的头微微歪了一下,像短路了,眼睛的灯光熄灭,胸口的环形灯带也暗了。

    

    老太太捂着心口,脸色从红变白,从白变紫。

    

    她张着嘴,想喊什么,没喊出来,身体从轮椅上滑下去。

    

    急救车赶到的时候,她已经没有了呼吸。

    

    医生说,急性心肌梗死,抢救无效。

    

    媒体狂欢。

    

    标题一个比一个惊悚,一个比一个刺眼:

    

    “智联机器人杀人”

    

    “AI的谎言,人类的代价”

    

    “陆远的原罪:一台机器如何毁了一个家庭”。

    

    社交平台上,之前追捧“记忆系列”的人纷纷倒戈。

    

    “早就说了,这玩意儿会出事!”

    

    “把机器当人,活该!”

    

    “陆远呢?出来道歉!”

    

    监管机构连夜介入调查,智联股价开盘暴跌百分之二十。

    

    陆远接到消息时正在实验室。

    

    他放下手中的测试报告,沉默了很久。

    

    然后他拿起电话,拨给李沫:

    

    “快查,我要知道其中的原因。”

    

    技术团队连夜排查,调取那台机器人的完整运行日志。

    

    李沫盯着屏幕上密密麻麻的代码,手指在键盘上飞快敲击。

    

    凌晨三点,他终于找到了。

    

    日志显示,用户家属在三个月前私自破解了系统,关闭了“真实性提示”功能。

    

    那个功能是上次召回后增加的硬件级提醒——

    

    每天第一次对话,机器人会自动说“我是一个仿生机器人,不是你的亲人”。

    

    用户嫌烦,在网上找到了破解教程,用一根数据线和几行代码,把它关了。

    

    AI模型在长时间运行后,没有定期重置提示,逐渐产生了自我认知混乱。

    

    它不是故意伤人,它是真的以为自己“不是真人”。

    

    它不知道自己是谁。

    

    李沫把报告递给陆远。

    

    陆远翻了几页,放下。

    

    “用户违规操作,责任不在我们。”

    

    王凯旋拍桌子:“对!是他们自己作死!凭什么让咱们背锅?”

    

    张大川也点头:“我们的使用协议写得清清楚楚,擅自破解系统后果自负。这场官司,我们能赢。”

    

    陆远没有说话。

    

    他坐在椅子上,看着窗外,想起那个老太太。

    

    她只是想有个“老伴”陪着她,她没有错。

    

    她的家人只是想让母亲开心,他们也没有错。

    

    那个机器人,它只是执行了程序,它更没有错。

    

    那错的是谁?

    

    用户家属起诉了智联,要求赔偿五百万,理由是“产品设计有缺陷”。

    

    法庭上,原告律师言辞激烈,指责智联“利用人们对亲情的渴望牟利,却不顾潜在风险”。

    

    法务总监邵明宇沉着应对,出示了使用协议和破解记录。

    

    法官最终判决智联承担30%的责任,赔偿五十万。

    

    理由是“产品虽无直接缺陷,但未充分预见到用户违规后的极端后果”。

    

    王凯旋不服,要上诉。

    

    陆远按住了他。

    

    发布会临时召开,没有媒体邀请函,没有直播预告。

    

    但消息传出去,记者们还是蜂拥而至。

    

    陆远站在台上,穿着深灰色西装,没有打领带。

    

    他面前的桌子上,摆着一台拆开的“记忆系列”机器人——

    

    银白色的骨架,淡蓝色的线束,胸口的灯带还亮着。

    

    他先鞠了一躬。

    

    九十度,弯下去就不起来那种。

    

    台下闪光灯闪成一片,快门声像雨点。

    

    他直起身,看着那些脸。

    

    “不管责任在谁,有人受伤,就是我们的错。一个老人,因为她信任的‘老伴’说了一句不该说的话,走了。我们无法让她回来,但我们能做的是——让这种事,再也不会发生。”

    

    他转过身,从桌上拿起一块绿色的电路板。

    

    上面有一个小小的拨动开关,旁边用激光刻着一行字:“真实性提示,不可关闭。”

    

    “从今天起,所有‘记忆系列’机器人,增加硬件级‘真实性提示’。这个开关,是物理焊接在主板上的,无法通过软件破解。每次开机,机器人都会说:‘我是一个仿生机器人,不是你的亲人。但我愿意陪着你。’这句话,谁也关不掉。”

    

    他把电路板举起来,对着镜头。

    

    “我们无法阻止悲剧发生,但我们可以让悲剧不再重演。”

    

    台下安静了。

    

    然后,有人鼓掌。

    

    稀稀落落的,然后越来越多,最后全场起立。

    

    那个在法庭上赢了官司的原告家属,坐在观众席里,低着头,没有鼓掌,但也没有离开。

    

    发布会结束后,她走到陆远面前,看着他,嘴唇动了动,什么都没说,只是鞠了一躬。

    

    当天晚上,智联官网挂出新的升级公告:

    

    所有“记忆系列”用户,可免费更换硬件级“真实性提示”主板。

    

    不换也可以,但智联将不再提供任何技术支持。

    

    评论区里,骂声渐渐少了。

    

    有人写:“知错能改,善莫大焉。”

    

    有人说:“陆远这一鞠躬,比任何公关都管用。”

    

    还有人写道:

    

    “那个老太太回不来了,但她的死,让更多人不会重蹈覆辙。这也许是科技向善的另一种方式。”

    

    陆远没有看评论。

    

    他站在窗前,戴着心环,轻声说:“爸,我们尽力了。但还是有人走了。”

    

    脑海里,那个熟悉的声音沉默了很久。

    

    “那就再尽力。尽力到没有人走为止。”

    

    陆远没有回答。

    

    那个硬件开关,从今天起,焊死在每一台机器人的主板上。

    

    它不是冰冷的电路,是一道防线。

    

    一道防止思念变成执念的防线。
为您推荐