2019-05-14
最近听说了一则很好笑的新闻：中科院开发了一个Zero Trust零信任AI反腐系统，该系统可以检测到公务员银行存款异常、购买新车以及以朋友名义参与的政府招标合同等，一旦超出阈值，系统会自动给出“提示”。这一系统近些年来已经抓住了8721名涉嫌贪污、滥权、滥用政府资金和搞裙带关系的政府工作人员。结果该系统因为效率太高而被关闭。
这则新闻让我想到了前苏联讽刺作家左琴科的短篇小说《狗鼻子》。这个故事讲的是一个商人丢了件貂皮大衣，警察牵了条警犬来抓小偷。这条狗见谁咬谁，结果被狗盯上的人纷纷招供自己做过的各种见不得人的事：有人偷了五桶酒曲和酿酒用的全套家什，有人贪污公款，有人逃兵役，有人拿熨斗砸了自己的太太……
这个故事告诉我们：如果违法乱纪的人足够多，那么不用什么智能，只要有一条狗就够用了。或者就像一个笑话里说的：全国官员一字排开，全枪毙肯定有冤枉的，但是隔一个枪毙一个肯定有很多漏网的。或者像另一个笑话所说的：怎样判断一个政客是否在说谎？看他的嘴，如果嘴在动，他就是在说谎。
除了抓贪官之外，抓间谍的事也很吸引眼球。前年北京市国家安全局公布了一个间谍举报电话，不过据说接到的电话大多是脑控患者打来的，举报美国中央情报局对他实施脑控……那么现在问题来了：为什么抓间谍不能像抓贪官一样容易？这主要是因为间谍的人数要比贪官少得多。一个国家里可能有百万千万的贪官，但是不可能有百万千万的间谍。如果间谍在人口中的比例很低的话，哪怕检测间谍的手段十分高明（而不是像间谍举报电话这种纯粹胡闹的做法），误报率也会非常高。像俗话说的那样“宁可错抓三千，绝不放过一个”，也要付出高昂的代价，因为误报率太高会让有关部门疲于奔命，把时间和精力都浪费在不存在的威胁上面，能够用于对付真正的威胁的资源就减少了。
用统计学的语言来说，能不能抓到贪官或间谍，不仅跟检测方法有关，也跟贪官或间谍在人群中的基础率有关。如果要检测或者预测的是大概率事件，那么检测方法不用有多高明，也能得出正确的结论。一个傻子也能预测出明天太阳会从东方升起。相反，如果要检测或者预测的是小概率事件，哪怕检测方法再高明，也很难准确检测。所以再高明的地震专家也无法预测汶川地震。腐败官员好抓，因为官员腐败是大概率事件；间谍难抓，因为公民当间谍是极小概率的事件。
还有人说AI反腐系统的问题是阈值太低，为了一群贪污受贿几千块钱的“苍蝇”让纪委疲于奔命，应该把阈值提高一点。这倒让我想起左琴科的另一篇小说：家里安了电灯之后，发现屋里到处是垃圾和破烂，看了闹心，索性把电线掐断了。
不过，像抓间谍这种事，倒是阈值越高工作越有效。
RFA