跳至正文
AI 观察 · 2 分钟

AI越铁面无私,我越害怕它当上法官

自古以来,老百姓打官司最盼着遇上什么样的官?

自古以来,老百姓打官司最盼着遇上什么样的官?

铁面无私,不收红包,不攀权附贵,谁犯法就治谁的罪。

可如果有一天,打官司的审判锤真的交到了一个绝对不贪污、绝对不徇私,甚至连觉都不用睡的“AI青天”手里,你真的敢让他来给你定罪吗?

这事听起来还早的很,但在很多地方的法院里,它正一步步变成现实。从一开始的帮忙归纳案卷、抓取法律条文,到现在一些轻微的民事纠纷、交通事故责任认定,屏幕上都会由一个法律大模型,率先弹出一份“判决建议”。就拿深圳法院上线的“人工智能辅助审判系统”来说,法官只要确定事实要点和初步结论,大模型转眼就能辅助生成一份裁判理由初稿,连很多民商事案子的判决文书,底层都有AI深度参与。

事情到这,你第一反应是不是:这是好事啊,减轻法官的工作,而且还更加客观公正了。

但你有没有想过,一个完全没有私心的机器,真的等于绝对的公正吗?你可能会说不对啊,判最后不还是法官判吗,有什么区别。

名义上,法官确实是最后判决人。可是呢,当法官看到的材料是AI筛出来的、参考的判例是AI挑出来的、连论证逻辑都是AI填补好的,最后法官的签的字,到底是一次深思熟虑的独立审判,还是一次顺水推舟的“点击确认”?

机器确实没有私心,但它脑子里的所有规矩,全是从过去几十年人类案例那统计出来的。

如果历史数据里,某些特定收入群体、特定片区的人,过去被盘查得更多、被起诉得更频繁,AI就会把这种情况,当成理所当然的客观规律。到了最后,它在算法里给你算出来的再犯可能性,看似科学客观,背后却不过是把过去的社会偏见,重新包装成了一串代码。

还有更重要的问题是。以前一个法官判案,他在写判决的时候,往往是一边写一边反思:“我这么判真的可以吗?逻辑是否对呢?”很多时候,真正的公平,恰恰是在法官咬文嚼字、痛苦纠结的那几个小时里被逼出来的。

但现在呢?看到案件后,法官脑子里刚冒出了一个反应,同一时间AI马上就送上了一份引经据典、滴水不漏的完美辩词。

人的本性都是趋利避害的。面对一份结构严谨、挑不出大错的现成文案,就算两者的观点冲突了,法官要有多大的定力,才能推翻它重来?

你看看,不知不觉中,那个设计出来辅助人类的工具,反过来成了真正发号施令的主宰。

这怎么可以呢?

AI青天确实铁面无私了,但是法律需要人性的温度、良知与同理心。而AI却不能以一个人的视角,设身处地的为原告和被告掂量现实的苦难,去体察那些冤屈。要是这些东西都被AI当成噪声过滤掉了,那么它越准确、越高效,造成的伤害反而可能越稳定、越难纠正。

怕就怕,AI带着绝对的无私与冷血,一丝不苟地,把我们推进了深渊。

继续阅读GPT-6 Astra正式发布:OpenAI的新一代旗舰模型有多强?