|
现如今，AI（人工智能）已经成为了一个逃不掉的话题.. 不管是横扫围棋界各大高手的阿尔法狗…. 还是用不同化名在网上发表诗歌，都没有被人察觉的微软小冰… 最复杂的游戏，最微妙的情感，
AI似乎够能和人一样做出来，甚至，比人做得更好..... 但它们不止于此，更是早已来到了司法界。
最近美国有一起充满争议的案子， 一个因为偷窃罪被判刑的男人把威斯康星法院告了， 因为... 他被判整整8年有期徒刑，不是因为他的罪行，也不是因为法官的判断， 而是因为，一个AI认为，他对社会具有‘高危险性’！
事情要从2013年说起... 那年的2月11日，威斯康星州的拉克罗斯市出现了**击案。 有目击者们看到一辆车行驶过Kane大街2200号房子的时候，车里的人突然掏出**向屋子开了两**。 目击者马上报警，并且告诉警察关于车子的信息。
之后，警方在别的地方找到这辆车，马上展开激烈追捕，最后好不容易把车子逼停了，看到了31岁的Eric Loomis和他的小伙伴.... 警方在车子里发现一些**， 本以为是人赃俱获，但仔细彻查后发现..... 这两人，根本不是**击案的罪犯，而是在错误的时间错误的地点出现的窃车的小偷。 警方调查发现，**击案罪犯弃车逃跑后，这个小偷顺手把这辆车给偷了..... 案情确凿，于是法院判两人有盗窃罪和拒捕罪。
原本，这案子并不算大，但是在Eric Loomis接受了一个叫做COMPAS的软件系统的提问后，法官宣布，判处Eric Loomis长达8年6个月的有期徒刑。
这么长的刑期，Eric Loomis简直懵逼了..... 法官Scott Horene给出的理由是这样的： ‘根据COMPAS的测试，被告被认定为对社会具有高危险性的人。’ COMPAS...... 这到底是个啥？？
COMPAS是一个由私营企业编写出的、能够帮助司法人员做出判断的智能AI。 它通过向被告询问137个问题（比如‘你在学校多久打一次架’；‘你有多少朋友非法使用药物’；‘你受过的最高教育是什么’），还有搜索他曾经的犯罪记录，得到一堆数字， 然后经过公司设定的复杂算法，最终得出一长串数据。 里面包括他的孤僻程度、犯罪型人格的得分、性格稳定度....以及最重要的，他的‘危险指数’，也就是‘未来再次犯罪的可能性’。 COMPAS在美国很多个州中都被使用，其中使用最广泛的是威斯康星州。
从2012年起，威斯康星州就鼓励在全州所有法庭上都用COMPAS，在监狱系统中的每一部分也使用它，给犯人做出评估，协助司法人员进行判刑到假释的判断.... 因为....COMPAS实在太好用了， 它告诉人们的答案太清晰了！ 这个AI能清楚地说出每个被告的‘危险指数’是多少，从1到10，10为最危险，说明被告再次犯罪的可能性极高。 根据这个数据，能够帮助法官判断， 是判他早早出狱，还是在监狱里多待两年，免得出去祸害社会.....
除此外，COMPAS还能告诉司法人员， 最适合被告的监禁类型是什么， 被告什么时候才能被假释， 监狱里这么多人，谁最适合提前释放， 保释金需要多少钱， ...... 只要有人问， COMPAS几乎能回答关于罪犯和监禁的所有问题！ 威斯康星州惩教部的部长Jared Hoy曾经说，这个AI简直太好用。 它给人的惊喜不断，建议每个工作人员做决定的时候都可以用一用。
对工作人员可能是好事.... 但对被告来说，这简直就是莫名其妙.... Eric Loomis听到结果后，马上表示不服， ‘为什么我会被评为是对社会有高危险度？理由呢？ 而且还是用一个软件来评判我，这不合理！’ 按照美国第六修正案，被告有权知道被控告的理由， 那么他被控‘有高危险度’的理由是什么呢？ COMPAS：抱歉，我不能说。
是的，因为COMPAS是一个商业产品，有知识产权，所有除了公司的核心成员，它的具体算法不能被外界知道， 就算是用它用了很多年的法院，他们也不知道算法长什么样，只能看到结果....
所以，COMPAS就像是一个黑匣子。 Eric Loomis被判为‘高危险’，也许是由于他在‘受教育程度’那里分数很低，也许是由于在‘是否住在危险街区’中回答了‘是’，也许是COMPAS认为他在回答中撒谎..... 总之，没人知道。 于是，不满的Eric Loomis决定上诉，一路闹到威斯康星州最高法院， 但最终，法院仍然认为COMPAS的判断没有问题，它‘科学又有效’。 在扯了几年的皮后，Eric Loomis的刑罚最后被降到6年，但他觉得还是很长..... 为什么威斯康辛星就是对COMPAS如此痴迷呢？ 法院方面表示，因为COMPAS的优点很大啊！ 它就是一堆冷冰冰的算法，很客观，完全不受个人情感因素的影响。 使用COMPAS，法官能够更公正无私地看待案子，最大化地消除偏见。 这就是法院大力使用的原因.....
但根据非盈利新闻社ProPublica的研究， COMPAS似乎并没有那么完美.....
在COMPAS的137个问题中，没有询问被告关于‘种族’的问题，这也是人们说它客观的原因。 但在2016年，ProPublica却发现了很多‘AI种族歧视’的情况。 比如， 黑人女孩Brisha Borden和白人大叔Vernon Parter因为盗窃罪被捕，两人都被控窃取价值80美元的东西。 女孩之前有过4次行为不当，没有入狱经历；而大叔有过两次持**抢劫，还曾经坐过5年牢。 结果女孩被COMPAS判断的危险指数是8，属于‘高危’，而大叔的指数却是3，属于‘一般危险’..... 明明是个死物的COMPAS， 为什么会像种族歧视者呢？ 人们不知道，但考虑到COMPAS在问题中问的各种因素， 比如家庭、街区、是否有工作、最高学历、父母是否吸毒等等，看上去和个人有关，但实际上是受社会大环境影响，黑人处于的弱势环境，让他们在AI的评测中更加吃亏....
因为算法本身不客观， 那么COMPAS的正确率也不会有多高.... 在2016年，ProPublica通过COMPAS计算了7000多名罪犯在刑满后再次犯罪的可能性。 这些罪犯来自加利福尼亚州的Broward市，被COMPAS测评‘危险指数’的时间是2013年到2014年。 结果...只有20%的人会按照COMPAS预测的那样再次犯罪， 如果把所有的犯罪类型都算上，比如用一个过期的驾照开车这种小罪，那么COMPAS的正确率为61%。 而Eric Loomis的这个案例.... 因为所谓的‘危险指数’偏高，而不得不被听信AI的法官判更长时间的牢。 他自己觉得，确实感觉挺冤...
现在，犹他州、弗吉尼亚州，很多地方都在使用类似的AI来帮助审判，预测犯罪， 这是美国司法界的趋势， 也许，这也将是是全球的趋势....
但犯罪是一个极其复杂的社会问题， AI能干得好吗，它真的能像公正无私的审判者一样，做出完美的判决吗？ 法官判案，有人说法官受人性影响，会有偏差... 让AI来评估，实际证明也不完美.... 那，什么又才是正确的路呢？
| 
发新帖
窥视卡
雷达卡
发表于 2017-6-27 14:59:10
收藏
转播
淘帖
赞一个
踩一下
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
照妖镜
