返回第34章 老周的黑箱警告(1 / 2)人工不智能:AI狂飙三十年首页

第二天,林凡把“小区语音诈骗复盘”做成了内部分享。

他本来只想写三页:事情经过、风险提示、预防方法。钱总看完初稿,觉得“有社会价值”,让市场部帮忙润色。市场部润完,标题变成《AI 语音安全时代:青橙数科用温度守护银发群体》。林凡看到“温度”两个字,脑子里立刻浮现林桂兰拿保温杯砸智能音箱的画面。

老周路过他工位,看了一眼 PPT。

“删。”

林凡很配合:“删哪个?”

“温度。”

“只删温度?”

“还有守护。”

“那标题剩什么?”

老周说:“小区语音诈骗复盘。”

林凡点头:“朴素得像派出所公告。”

“派出所公告能救人。”老周端着茶杯走了,“有些标题只能救 KPI。”

林凡把标题改回去。市场部同事隔空发来一个哭泣表情,说这么直白没有传播力。林凡回他:有些事传播力太强,容易先把责任传播没。

分享安排在下午两点,地点是青橙数科最大的会议室。说是最大,其实也就能挤三十来人。椅子不够,刘洋从茶水间搬来两个塑料凳,一个给王启,一个给自己。王启坐下后发现凳子矮半截,整个人像来旁听家长会的小学生。

钱总坐在前排,市场部、产品部、技术部都来了。公司最近接了几个 AI 语音和客服相关咨询,大家本来以为一场分享是顺便蹭热点,听完可以写公众号。没想到老周也来了,还坐在最后一排,手里拿着笔。

刘洋在小群里发:老周拿笔了,今天可能有人要被做题。

王启:我坐这么矮,能不能视为未成年免考?

林凡:不能。

分享开始后,林凡没有讲模型参数,也没有讲声纹合成原理。他先放了那段骗子语音,当然做了变声处理,又把王阿姨填写的假登记表结构画出来:小区群链接、亲属信息、陌生账号、紧急语音、收款账户。

他讲到“骗子真正利用的不是技术多强,而是亲人之间来不及确认的那几秒”时,会议室安静了一下。

钱总点头。

“这一点很好,可以放到对外材料里。”

老周在后排咳了一声。

钱总立刻补充:“当然,先内部消化。”

林凡继续讲。他把防范建议放出来:涉及转账必须回拨原号码,家庭暗号不能公开,社区登记要核实来源,平台应对新号批量加老人和异常收款做风险提示。

讲完后,市场部同事举手:“我们是不是可以做一个社区反诈 AI 助手?老人收到语音后转给助手,助手判断真假。”

产品经理许丹眼睛亮了:“这个有产品化空间。”

刘洋也跟着兴奋:“可以做多模态识别,语音、文本、账号行为一起分析。”

王启坐在矮凳上,小声说:“还能起名叫‘反诈小橙’。”

钱总显然已经看见新项目的影子。

“这个方向可以研究。我们不一定做得很复杂,先做 MVP。”

林凡刚想说话,老周把茶杯放到了桌上。

茶杯不响,但会议室瞬间像被按了暂停。

“你们准备怎么判断真假?”老周问。

产品经理许丹说:“可以调用声纹比对模型,结合语义风险判断。如果出现借钱、转账、别告诉别人等关键词,就给出风险提示。”

“提示什么?”

“比如:该语音疑似诈骗,请谨慎处理。”

“疑似的标准是什么?”

许丹停了一下:“模型评分超过阈值。”

“阈值怎么定?”

“根据测试集。”

“测试集从哪来?”

会议室开始降温。不是空调降温,是所有人发现老周不是提问,是在拆椅子。

刘洋试图救场:“可以先用公开数据,再做一批模拟诈骗语音。”

老周看向他:“公开数据代表谁?”

刘洋愣住。

“代表……常见样本?”

“常见到什么程度?普通话多,方言少;年轻人语音多,老人少;清晰录音多,菜市场背景音少。你拿一样的数据训练出来,遇到林桂兰和王阿姨一种场景,凭什么准?”

林凡坐在电脑旁边,忽然觉得老周这几句话像一把钝刀,不锋利,但每一下都切在筋上。

许丹皱眉:“那我们可以标注更多场景。”

“谁标?”

“外包标注团队。”

“标注标准谁写?”

“我们产品和技术一起写。”

“写错了谁负责?”

会议室又安静。

老周不是反对做产品。他的语气没有火药味,甚至有点平。但越平,越让人没法用热情糊弄过去。

钱总说:“老周,你的意思是,这个方向不能做?”

“能做。”老周说,“但不能拿‘黑箱’当免责牌。”

王启小声问刘洋:“黑箱不是技术词吗?”

刘洋更小声:“现在听起来像锅的别名。”

老周看见他们嘴动,但没点名。他站起来,走到白板前,拿起马克笔画了一个大方框,里面写“模型”。然后在方框左边写“数据”,右边写“结果”,上面写“业务规则”,下面写“人工复核”。

“很多人说 AI 是黑箱,好像只要把问题塞进去,结果出来不好,就能摊手说看不懂。”老周敲了敲白板,“看不懂模型内部每个参数,不等于看不懂整个系统。数据谁选的,规则谁写的,阈值谁定的,提示语谁审核的,出错后谁复核,这些都不是黑箱。”

林凡看着白板,心里冒出一句话:黑箱外面全是人。

老周继续说:“如果你们做反诈助手,它提示这条真诈骗为安全,老人被骗了,你们不能说模型判断失误就完了。如果它把孩子真实求助判成诈骗,耽误了事,你们也不能说宁可错杀。每一个错误都有代价,代价落在用户身上,不落在 PPT 上。”

市场部同事弱弱说:“那宣传上要怎么写?”

老周看他:“写它能提醒,不写它能判案。”

“可客户喜欢确定性。”

“客户喜欢的东西很多。”老周说,“还喜欢便宜、快、零风险、明天上线、后天出报表。你都给吗?”

会议室里有人笑了一下,又很快收住。

钱总摸摸鼻子。他最近确实在几个客户面前说过“我们的 AI 能实现风险闭环”,听起来高端,细想像一根绳子把责任绕没了。

“老周,你具体建议呢?”钱总问。

老周把白板分成三栏。

第一栏:能做。

第二栏:不能说。

第三栏:必须留人。

“能做的是风险提示、关键词提醒、陌生账号预警、转账前冷静倒计时、原号码回拨提示。不能说的是百分百识别、自动判断真假、替用户决定要不要转钱。必须留人的是社区、家属、平台客服和警方通道。”

林凡赶紧记。

老周又补了一句:“尤其给老人用的东西,不要搞一堆花哨按钮。按钮越多,骗子越开心。”

张磊听说这场分享后,远程发来消息: