LoopLM 这篇论文，「不需要外部教师」是水分最大的一句
先说结论：LoopOPD 这个思路我认，但摘要里那句「不需要外部教师，也不用特权信息」，是整篇里最经不起验证的一句。 教师没消失。换了个位置坐着。 他们把 LoopLM 自己跑满终端循环的那一版输出固定成一个模型，再拿它当中间循环学生的教师。同一套参数，同一个模型，多的只是几步额外前向。这也叫没有外部教师？
LoopLM1 篇实战文章
先说结论：LoopOPD 这个思路我认，但摘要里那句「不需要外部教师，也不用特权信息」，是整篇里最经不起验证的一句。 教师没消失。换了个位置坐着。 他们把 LoopLM 自己跑满终端循环的那一版输出固定成一个模型，再拿它当中间循环学生的教师。同一套参数，同一个模型，多的只是几步额外前向。这也叫没有外部教师？