11 月 18 日,蔚来 ES9 灯光秀误判事件登上热搜,一段车主实拍视频,在网上引发巨大讨论。 事情的起因很简单,一位 ES9 车主,打算给过生日的女儿准备一个浪漫惊喜,用车载灯光投影,展示手写祝福语。 女儿写下 “爸爸我爱你”,提交之后系统直接提示内容违规,没办法投影出来。 车主一开始以为是孩子字迹潦草,自己反复手写测试,结果依旧被拦截。 抱着试一试的心态,换成 “妈妈我爱你”,系统顺利通过,灯光秀正常生成。这一鲜明对比,瞬间让网友炸开了锅,各种猜测和调侃接踵而至。 不少网友看到这个反差,第一反应就是质疑平台规则,觉得是不是对不同称呼区别对待,甚至衍生出很多解读。话题热度快速走高,很多大 V 转发讨论,热度越滚越大。 这件事发酵之后,蔚来副总裁马麟正式出面回应,解开了大家的疑惑。 他解释,问题根源是 OCR 手写识别出错,系统把祝福语里的 “爱” 字认错,识别成别的字形,刚好触发了风控关键词,才判定违规。 同时他也承认,这套风控策略本身并不合理,就算识别出错,直接拦截温馨祝福的处理方式不妥,后台已经紧急完成修复。 很多人不了解这个灯光秀的底层逻辑,蔚来 ES9 这个自定义投影功能,支持用户自由手写文字,为了规避违规内容,搭载了 OCR 文字识别 + 敏感词校验机制。 手写字体本身形态多变,每个人写字风格不一样,识别模型很容易看错字形,就会出现这种误伤,属于算法风控里很典型的乌龙。 事件曝出当天下午,蔚来的专属顾问就联系上车主,确认是识别 bug,并且完成修复。后续不少博主实测,现在手写 “爸爸我爱你” 已经可以正常投影了。 当事人车主也出来补充说明,自己家里两台蔚来,整体对车子很满意,只是这次的风控问题让人哭笑不得。 车主还澄清,蔚来并没有要求他删除视频,只是希望把事情的真实原因跟大家讲清楚,避免大家产生不必要的误解。 这件事之所以能快速出圈,核心就是场景太有反差感。本来是父女之间很温暖的生日祝福,却被 AI 风控拦下来,温情瞬间变成一场啼笑皆非的误会。 大家吐槽的,其实不是车型本身,而是 AI 风控一刀切、容错率低的问题。算法的本意是守住内容底线,但是手写识别的不确定性,很容易误伤这些正常、温情的表达。 当然,这件事也给所有带自定义文字、投影、弹幕功能的车企提了醒。 风控不只是简单的关键词拦截,还要考虑手写识别的误差,增加人工复核、二次校验的缓冲机制,减少这种让人尴尬的误判。 如果遇到识别存疑的内容,不一定直接一票否决,可以给出提示,而不是直接拦截一句简单的告白。 网上的声音也分成两种,一部分网友觉得只是一个技术 bug,车企响应速度快,及时修复就可以理解; 也有不少网友认为,风控算法的逻辑还需要打磨,这类充满爱意的家常话,本就不该被系统拦截。 说到底,这只是一次 AI 识别的意外翻车,并不是刻意设置差异化规则。 现在 bug 已经修复,大家也不用过度解读。智能化功能给我们带来很多浪漫玩法,但算法还需要不断打磨,变得更聪明、更有温度。 在享受灯光秀、自定义文字这些新鲜好玩的功能的时候,怎么让风控兼顾安全和人情味,是接下来车企需要持续优化的课题。图片来源于网络 (文/Myevcar 文风)