法律与科技:代码与法典的赛跑

一张1200页的光盘

2011年,奥地利法律系学生马克斯·施雷姆斯(Max Schrems,1987—)向Facebook索要自己的全部个人数据。几周后他收到一张光盘:1200多页,包括他早已删除的私信、点过"赞"又被遗忘的页面、每一次登录的地点。他突然明白,硅谷知道他的生活,比他自己记得的还清楚。他两次把欧美数据跨境协议告上欧洲法院——2015年"安全港"协议被宣告无效,2020年"隐私盾"协议步其后尘。一个学生扳倒了两个跨大西洋协议。

2018年5月25日,欧盟《通用数据保护条例》(GDPR)生效:数据主体享有知情、访问、删除、可携带的权利,违规罚款可达全球营业额的4%。2023年,爱尔兰数据保护委员会对Meta开出12亿欧元罚单——GDPR时代最大罚单。数据隐私从此不再只是用户协议第47页的小字,而是董事会必须计算的风险。

算法的歧视

2016年,威斯康星州,埃里克·卢米斯因驾车逃逸受审,法官量刑时参考了COMPAS系统给出的再犯风险评分——高风险。卢米斯的律师抗议:被告连算法的计算过程都看不到,如何质证?威斯康星州最高法院维持原判,理由是算法属于开发商的商业秘密。同年,ProPublica的调查用数据证明:COMPAS把黑人被告误判为高风险的比例,几乎是白人的两倍。

这就是算法歧视的吊诡之处:历史数据里的偏见,被机器学得一丝不苟,再披着"客观中立"的外衣回到法庭。人犯罪有上诉的机会,模型的偏见却藏在商业秘密里。欧盟后来的立法给出一个原则:个人有权不受纯自动化重大决定的约束——人不能被一个无法解释的分数审判。

谁为机器的错误负责

2018年3月18日夜,亚利桑那州坦佩,一辆Uber自动驾驶测试车撞上推自行车过马路的伊莱恩·赫茨伯格,49岁的她当场死亡——全球首例自动驾驶汽车致死行人案。事后调查:系统提前六秒已检测到障碍物,却把它从"未知物体"到"车辆"再到"自行车"反复改判;车内安全员正在看手机上的综艺节目。最终,安全员被控过失杀人,2023年认罪获缓刑,Uber未被刑事起诉。

案件暴露的是法律框架的裂缝:产品责任预设产品缺陷,过错责任预设人的行为,而当决策者是机器,责任链条就断了——写代码的工程师、训练模型的公司、坐在方向盘后的安全员,究竟谁的手在方向盘上?各国现在的通行做法是强制保险加数据黑匣子,先把赔付接住,再慢慢讨论哲学。

智能合约:代码即法律,然后呢

1994年,密码学家尼克·萨博(Nick Szabo,1964—)提出智能合约:把合同条款写成代码,条件满足就自动执行,谁也赖不了账。2016年,以太坊上的众筹项目"The DAO"募集了约1.5亿美元,黑客利用代码漏洞转走约6000万美元的以太币。社区炸了锅:按"代码即法律"的信条,黑客不过是执行了代码允许的事;按法律直觉,这就是盗窃。最终社区投票硬分叉回滚——链上的代码,败给了链下的共识。

法律人对此并不意外:合同从来不是一堆条件语句,天灾、欺诈、显失公平都需要解释的余地。完全的自动执行不是合同的终极形态,而是合同想象力的贫困。

AI走进法庭

2017年,杭州互联网法院成立,网上案件网上审,电子证据可以区块链存证。法律科技公司在另一条路上狂奔:ROSS基于IBM Watson检索判例,DoNotPay的"机器人律师"帮用户申诉掉了超过16万张停车罚单。AI查阅卷宗、起草文书、预测判决的能力一年一个台阶。

但幻觉也随之而来。2023年,纽约两名律师用ChatGPT起草诉状,引用了六个判例——全是AI编造的,案号、法官、判决书内容一应俱全,只是不存在。法官罚款五千美元,评语大意是:技术可以辅助研究,但律师对真实性的核实义务,一个字也不能外包。

落后半步是法律的宿命

科技每跑一步,法律落后半步——这半步不是耻辱,而是文明留给自己的喘息。真正的问题是方向:当代码可以自动执行惩罚,当分数可以影响量刑,解释法律的权力在谁手里?法典追不上代码的迭代速度,但正义的原则必须比版本号活得更久。