隐藏在订单背后的“求救”，阿里工程师用算法阻止2528例自杀发生

隐藏在订单背后的“求救”，阿里工程师用算法阻止2528例自杀发生

观察者网2020-08-14 15:26:07

魔鬼往前走一步，这世上就会多一个悲剧。从2000年开始，每2分钟就有一人尝试自杀。然而，中国科学院心理研究所一项调查称，在有自杀意念或自杀计划，以及曾尝试自杀的人群中，51.67%的人从未主动寻求过任何帮助。

事实上，在互联网和社交媒体大火的时代，许多有自杀倾向的人会选择向叫不出名字的陌生人倾诉。而如今，在网络上，就有一支正能量的"自杀干预"团队，正在用技术与情感，打捞无助的人心。

荻月是阿里的算法工程师，而眼下，她做的却是一套精确率最低的算法模型。用人工智能技术识别自杀风险，找到"隐藏"在订单背后的呼救信号，通过线上线下各方配合，挽救轻生人群。就是这样的方式，阻止了2528例自杀事件的发生。

当用户在购买商品以及在跟客服咨询对话中，出现有可能的"自杀"关键词时，算法便会根据消费者此前的浏览购买记录，判定是否"高危用户"。在通过客服和商家一起对用户提供情绪安抚，遇到紧急情况会第一时间联动警方阻止。



荻月和同事们要在各种案例中收集整理关于自杀的词句，已经收集超过一万句。但现实却不容乐观，每个用户对于自杀所会表达的关键词不一样，他们的对话中也许会出现"明天的太阳几点升起"、"这个世界"、"要走了"等看似毫不起眼的话，可一旦串联起来涵义则全然不同。对于荻月而言，哪怕有那么一点丝轻生的苗头，他都不能放过！



因此，荻月和团队选择使用准确率最低的算法模型来甄别自杀倾向者。这样的筛选方式存在一定的误差，经人工核实后偶尔会发现有个别情况搞错了。但在荻月看来，错几个无非是多费一些精力，但漏了就是一个生命。在自杀干预这件事上，算法工程师的指标不是"精确率"，而是"覆盖率"！

如今，这套体系在阿里运行已有一年。一旦在手机淘宝搜索自杀相关词汇，就会看到一个咨询页面，每天由此拨通热线的咨询已经超过300通。



在这里，孤岛连成大陆。阿里巴巴正在用科技和商业的力量，去帮助更多有需要的人，也去试图挽救更多鲜活的生命。因为全球每40秒钟就有1人自杀身亡，但很多人都是一时冲动，最后时刻，只要有人拽住他们，那明天的太阳依然会和他们在一起。

收藏
举报