读帖笔记：美国有15个州用AI预测假释嫌犯的犯罪率了_风闻

刚看了个36氪的译文：上帝就在机器里，复杂算法背后隐藏的可怕现实，

https://36kr.com/p/5170867.html

里面说有专家接受媒体采访时，承认现在的法官任务很重，每个嫌犯是否假释只有很少的时间去做判定，最短时可能就1分钟？而且缺乏足够的反馈信息，知道历史上自己假释的同种情况的嫌犯的犯罪率是多少，其他法官针对此类嫌犯的假释批准率是多少，所以很可能做出错误决策，因此会依赖AI。按数据统计，AI的判断率比人类平均水平准确30%。

————

但另一些专家说，其实神经网络算法已经进化得越来越复杂了，他们自己要看懂算法作出决策的理由也越来越困难了。而机器在自动学习时，可能会继承一些人类的偏见，譬如自动认为低收入者，黑人的犯罪率高，所以会给其更高的再犯罪几率，如此就等于把偏见自动化了。此外算法还是保密的各公司私有财产，所以动员社会上尽可能多的专家分析其合理性是不可能的……

————

个人看法（在原帖后面也留言了，非抄袭，哈哈）：

1、其实我们也不理解人脑作出决策的原理~~

2、人脑决策并不保证足够简单，也不保证不犯错，电脑自然也不用不犯错，只要犯错率比人类低就可以了；

3、人的歧视是根据自己的有限经历培养出来的，很可能是错误的（受到个人视角盲目的影响），而计算机的歧视是根据大量统计数据得出的，恐怕这种歧视反而是正确的（或者说相对正确的）~~

4、技术性失业足够厉害以后自然会重新复兴生产资料公有制，用于公共治安之类的公共领域的算法应该是开源的，有助于社会各界的专家一起寻找其漏洞——不过真要是专家也没办法看不懂了，那也没招，也许人类本来就是要被AI淘汰的~~

5、不过光分析个人的复犯率我感觉也不对，也应该分析一下社会进步的可能性，譬如6小时工作制替代8小时工作制，然后企业都平权股份制化或工分化，尽量集体所有制后降低失业，并且让工人可以分享剩余价值或者说生产力发展红利，那自然就可以预防犯罪了。