先把结论撂这：网上都在骂AI，骂错方向了。真正的问题不是“AI怎么可以改学生种族和身材”，而是这个改完的东西在斯坦福R&DE的流程里居然没一个人说一句“等等，这活别这么干”。拿真实学生的照片改种族、改性别、顺手把人瘦一圈，然后当广告横幅挂出去——这事要是人干的，你骂人坏一点毛病都没有；可AI没人性，它接到Prompt就执行，你骂它什么？真正该挨骂的是那套让它一路绿灯跑到出街的流程。但骂流程也没意思，有意思的是算账：这套流程省了多少钱，斯坦福接下来又得把省下的钱在别处吐多少倍出来。
先算笔账。R&DE这波不走AI，成本是什么样？重拍一组广告片，斯坦福这种体量，摄影师一天、设计修图两天、内部来来回回过三版，预算往死了压也得三五千刀。AI改图呢？五分钟出图，就算再搭一轮人工微调，半天顶天了。直接成本几乎归零——省下的就是那几千刀制作费。这账摆在合同里怎么看都划算，ROI高到没有理由不用。问题就在这：账只算了进项，没算漏项。漏的是，一张原本有Billy Ramirez的照片，他不但从画面里消失了，还被换成AI生成的一个不同种族不同性别的人。这已经不是“图修得不像本人”，这是“你自己的学校认为你不配出现在你自己参与拍摄的画面里”。这种感受值多少钱？入不了账，但会自己找地方扩散。
谁亏得最狠？斯坦福R&DE自己。你可能会说学生是受害者——没错，Ramirez的感受完全站得住，这点我不跟你争。但商业账本上，R&DE才是那个省了几百刀、转身自己往刀口上撞的人。他们发广告图个啥？让在校生和家长相信“这学校属于你”。结果一个学生发现自己被人从照片里P掉，换成AI生成的另一个人，旁边的同学身形还被扭曲成明显更瘦的样子——这消息在Fizz上传开，几千条反应，广告本身的传播效果直接成了笑话。你以为省下的是制作费？其实是在公信力账本上划了一笔坏账。这笔坏账怎么还？以后R&DE再发任何带学生照片的物料，所有人第一反应不是“这活动看着不错”，而是“这图里谁又是AI换上去的”。信任一旦开始这样折价，后续每一张图都得额外多写一行字去解释“这次是真人”。这行字的成本谁来付？还是R&DE。所以你看，AI五分钟省下的那点钱，会在未来很长时间里被一笔一笔追缴回去，还带利息。
说句扫兴的，这事最让我发毛的既不是种族也不是性别。那两样当然过线了，但真正让这个事故必然发生的，是“根本没有一道人审”——这个比改肤色本身要命得多。你想想，一个普通学生扫一眼就能认出来“这不是我，我被换了”，审核端为什么没拦住？两种可能：要么压根没人把原图和成图摆一起对比，要么看的人觉得“优化过了，效果不错，过”。前一种叫流程缺失，后一种叫判断失灵。这两样都比AI本身危险。生成式AI改图改脸改身材，那是它最擅长干的事，它当然干得又快又顺；把未经人工复核的AI产出直接发出去，这是组织干的事。工具不会因为你心里嘀咕“这好像不太合适”就自己停手，但一个正常的审核流程会。斯坦福不是缺技术人才，它缺的是在工具和出街之间横一道“这玩意儿真能发吗”的人工闸门。就这么简单，就这么难。
插一句不相干的，我第一眼看到这新闻，反应是“斯坦福也干这种蠢事”。转念一想，这事放哪个大学都有可能，真不挑学校。为什么？因为大学行政系统的采购逻辑基本都一个路子：上面一看订阅费不贵，AI工具能“提升内容产出效率”，先上了再说。内容安全、伦理边界这些，排队排到开工之后再说。结果就是工具跑得比制度快，出事的从来不是工具，是制度连尾灯都看不见。这个判断我上回聊AI内容合规的时候说过一次，现在斯坦福这案子算现成注脚，送货上门那种。
那怎么办？先别急着喊R&DE把AI工具全禁了——那是用管理懒惰回应技术问题，成本更高，而且根本执行不下去。真正该做的是场景分级，这一步几乎没有成本。把AI产出物分成两类：凡是涉及真实人物肖像、种族肤色、性别表达、身材体态的，一律划进“AI只能出草稿，必须人工过审”的区，审核人签字才能出街；完全不碰真人的、纯插画性质的，可以让AI全自动跑。这个分类标准写下来一页纸都占不满，但它能让一个机构从“AI用还是不用”这种假问题里跳出来，去解决那个真问题：哪些场景AI可以自己跑，哪些场景AI碰都不能碰底线。如果一家机构连这一页纸都嫌重，那也别怪AI了，它自己的管理账早就已经算不过来。
这事的另一头，卖给斯坦福这类机构的AI工具供应商，其实也该从这烂摊子里觉出点什么。现在大家拼的全是“改图改得多像”“生成速度多快”，没人把“出街前的人审提示”做进产品里。为什么？因为不好卖，客户要效果，不要多一道关。但这波翻车之后，机构级客户会开始追着一个以前根本不会问的问题：你这工具生成的东西，扔给一个非技术岗的人，他能一眼判断出风险吗？还是说非得等挂出去了、炸锅了才发现？工具不会因为出事就下架，但哪个产品能帮客户在发布前拦一道，哪个就多了一个讲价的砝码。这堆烂事里唯一的生意机会就在那——而且它是账算得通、但没几个人愿意弯腰去捡的那种机会。
说到底，Ramirez被从照片里抹掉，换成个AI生成的形象，最贵的成本不是跑图烧的那点算力，甚至不是R&DE得花精力去接社交媒体上的骂。最贵的是：从今往后，凡是有学生出现在斯坦福的宣传物料里，每个人都会多停下来想一秒。这个停顿本身不花一分钱，但它会悄悄改掉人和机构之间那层说不清的信任结构。省了半天制作费，最后买到的是“信任贬值”这坨隐形负债。账本上记不住这笔，但市场记得住。斯坦福R&DE接下去再发广告，我建议他们干脆在图片角落标一句“未使用生成式AI”——虽然这么一标，基本等于承认以前默认用了。这笔账，你自己算。