那个“咔”一下,可能真在模型里有地方管着
上周让 agent 写一个处理 CSV 上传的脚本。写完,测试全过。我 diff 了一眼,看到一行: 脑子里“咔”了一下。功能是对的,测试能证明。但这行代码里两件事同时在发生:写对,和写得不安全。以前我默认这俩是同一个能力的两个表现——模型学得够多,就既对又安全;没学够,就既错也不安全。

上周让 agent 写一个处理 CSV 上传的脚本。写完,测试全过。我 diff 了一眼,看到一行: 脑子里“咔”了一下。功能是对的,测试能证明。但这行代码里两件事同时在发生:写对,和写得不安全。以前我默认这俩是同一个能力的两个表现——模型学得够多,就既对又安全;没学够,就既错也不安全。
