先把结论撂这：那篇八月中旬挂上 arXiv 的论文，标题看着是道德哲学，其实是在算一笔账——一笔“AI 道德决策权”的账。它真正想说的不是“该不该让公众投票决定 AI 怎么做道德选择”，而是：这事哪怕真心想做，流程里至少有六七个出入口，每个口都能被劫持。谁劫的？开发者，还有给开发者发工资的那帮人。谁买单？投了票还觉得自己参与了民主公正的人。你以为你在参与对齐，其实你是在一把已经调过刻度的尺子上指位置，指到哪儿，尺子都替你划好了。
说句扫兴的，“让公众参与 AI 道德决策”这套叙事这两年特别讨喜。为什么？因为模型做医疗分诊、做招聘初筛、甚至做“模拟逝者”这种生成恋爱角色的活儿时，总得有人拍板什么算公平、什么算冒犯。跟 Kickstarter 让支持者投票挑新配色一样，听起来总比“算法黑箱自行决定”进步得多。但这篇论文跑完两个阶段、809 个参与者的实验，结论相当不客气：聚合投票最多给你一张“看起来民主”的表单，表单背后每个字段的入选资格、每种问法的取舍、每个样本的偏斜，都在投票开始前就把结果的可信度吃掉了。它测的三类场景——肾脏分配、模拟缺席工人的 AI 代理、用生成式 AI 描绘逝者——全没跑脱。区别只是漏水的点不一样。
插一句不相干的，回正题。说到“模拟缺席工人的 AI 代理”，我第一反应是今年各种远程办公里的虚拟分身：人不在工位上，AI 替你回消息、替你开早会、替你点头。这东西的道德定制空间暧昧得可怕。文章里讲，这种场景里有些特征跟肾分配场景里完全对不上号，特征模式在领域间根本不能迁移。这意味着什么？意味着你在一个场景里用心设计的那套“道德偏好问卷”，换一个部署环境，很可能就是一堆废问。那你见过哪家公司会为一个场景单独设计一套投票、再去审计一次采样、再去公开一次措辞影响？没见过。因为这账不划算，所以大家都会用同一套模板跨领域硬套。拿一套不迁移的特征去收偏好，收上来的东西不是废纸，是看上去像民意、实则是采样偏差加措辞诱导的混合物。这种东西最适合拿去给合规部门看，不适合拿去给真正要被 AI 决定肾源的那个人看。
论文里有个数字我可以拿来算笔账。它说问题措辞能把意识形态差距缩小或放大整整一个量表分点，框架条件还会改变道德基础与参与者判断的关联方式。一个量表分点是什么概念？如果满分五分的同意度，那就是 20% 的位移。放在“AI 肾分配”这种场景里，一轮措辞调整就能把“吸烟史该不该排除”的共识从五五开，推到六四开甚至七三开。你以为是大家在认真权衡“个人自由”和“资源效率”，其实是提问人用词改了改，某一端的道德基础就被激活得更强。这笔账谁在算？设计问卷的人算过了——只不过他们算的不是怎么更中立，是怎么让聚合结果在统计上更好看、或者更符合某个 stakeholder 的预期。
再说选民抽样。文章明确说了，约三分之一的特征上，左右两边的偏好方向是反的，不是幅度差异，是方向相反。很多人不意外，但你想想一个具体画面：一家模型公司要做“AI 代理人”的道德投票，为了省事从某个众包平台拉了一千个样本，结果样本地域全是美国中西部、年纪偏大、教育背景单一。这些人的“缺席工人 AI 该怎么回复老板深夜消息”的答案，能代表东京、新加坡、圣保罗那些用同样产品的用户吗？不能。但众包平台不告诉你样本偏了，它只告诉你样本量充足、置信区间漂亮。于是模型拿着这批偏好上架了。这批偏好成了“公众意见”，以后任何不满都成了“少数人没投到票”的问题。不是模型不够好，是你连投票的门槛都没让人摸到。
那怎么办？很多人读完论文会觉得这又是一篇“提出更多研究需求”的学术套路。我不这么看。这里有一条特别适合正在做合规、或者想蹭“道德 AI”概念卖产品的人去捡的路：把 elicitation 流程本身当产品卖，而不是把聚合结果当产品卖。谁先能把“你的问卷哪一步有偏差、你采的样本对哪个地区失真、你的措辞把哪个道德基础按下去又抬起来”这套审计能力工具化，谁就握着下一轮的认知差。说具体点，就是把论文里那类两阶段 809 人的实验逻辑，做成一条“道德偏好问卷的 CI 流水线”——跑一次问卷之前先跑一遍偏差扫描。这个能力现在没人收钱，因为大家都还在抢着收那些“民主投票”的公关溢价。等监管一紧（比如有人拿 AI 分配肾源捅了篓子），这套审计流水线会从“可选”变成“必选”。到那时候，谁手里有现成的偏差检测加措辞敏感性分析工具，谁就能吃一波合规红利。窗口期多长？我估计最多两三年，等几家大的合规平台把这套吃进去变成 API，长尾就没你什么事了。
最后说回“仅靠聚合无法使基于投票的对齐产生公平或透明的 AI”这句结论。这话在论文里是收尾，在行业里其实是开场。聚合投票这概念本身不是坏东西，就像众包数据标注也不是坏东西——问题在于，投票入口、特征池边界、措辞温度这三件事，现在全是开发者的“看不见的手”。手看不见，不代表手不存在；只是没人把它放到台面上收审计费而已。等有人开始这么收了，这波“道德 AI 民主化”的红利才真正开始。现在这个阶段，大部分人做的还是拿“我们让用户参与了”当卖点的认知税生意。这笔账，你自己算。咱下篇见。