直接改 Tesseract 权重:Rivok 称优于输出层重训,仍不及全量微调

Rivok 自报直接编辑权重的效果介于输出层重训和全量微调之间。dbabel 追问字体与错误分布,作者补查后称微调优势仍在,同时承认缺少受控字体划分。

Share

社区观察 · Hugging Face · 原文日期 2026-11-20

现代文本比较:全量微调领先

Rivok 自报,智能体对 Tesseract 希伯来文模型做了三次无梯度权重编辑。现代文本错误率从4.18%降至平均2.64%,优于仅重训输出层的3.31%,但不及使用同样2,000行数据全量微调的1.77%。原帖未说明错误率按字符还是按词计算;这些数字未经独立核验。

dbabel 追问字体与错误分布

dbabel 认为,微调可能部分学到了字体特征,而针对 LSTM 启动故障的编辑可能更容易迁移到未见字体,因此建议做字体留出测试。这是他的假设,并非已证实结果。他还建议按数字或拉丁字母开头、带元音符号及纯希伯来文的行拆分错误,检查改善集中在哪里。

字体补查:优势未缩小,划分未受控

Rivok 补查后承认,多数现代文本行接近训练字体,但称在看似未见字体的行上,微调优势没有缩小。在4,013行十九世纪金属活字报纸上,他报告微调错误率为12.8%,智能体为15.5%—16.3%,原模型为17.4%。错误率计量单位仍未说明,且他明确承认这不是受控的字体划分。

数字行修复集中,元音符号未覆盖

对于错误分布,Rivok 认可 dbabel 的判断:数字开头的行占现代文本测试的15%,却包含原模型41%的错误,贡献了智能体改善量的53%—58%。他同时称,微调也修复了行首数字被截断的故障,并在其他部分表现更好。测试集没有元音符号;他仍看好权重编辑,但承认单个小模型不足以广泛推论。

原始标题:We let an AI agent edit a Tesseract model's weights directly; it beat a last-layer refit, not fine-tuning
来源:Hugging Face