LLMON 预览版:用显式结构绑定指令与数据

Granite 4.1 的两个实验预览模型通过专用标记区分指令、数据和约束,配套聊天模板与转换工具;其抗注入行为仍依赖训练,不构成强制保证。

Share
LLMON 预览版:用显式结构绑定指令与数据
原文配图 · 图片出处

项目实践 · huggingface.co · 原文日期 2026-11-12

两个基于 Granite 的实验模型

作者发布了基于 Granite 4.1 基础模型训练的 3B、8B 两个 LLMON 预览版本,用于读取和生成带标记的文本。同时发布的代码仓库提供工具包、工作流示例和模板,供开发者尝试把上下文中的不同组成部分显式标注出来。

用专用词元表达边界与嵌套

LLMON 采用类似 XML 的标记形式,但结构分隔符是保留的特殊词元,使结构与正文使用不同的词表部分。标签放在片段开头,嵌套关系在局部表达。作者希望借此减少模型跨长文本追踪层级的负担,并用唯一标识把指令绑定到对应数据。

从聊天模板开始接入

接入时仍构建消息列表,并调用 apply_chat_template。开发者可为指令、数据和要求等部分命名,再设置 exec:设为 True 的部分会被执行块引用;设为 False 的部分仍进入上下文,但没有执行引用。这是各部分的配置选项,不能把“出现在上下文中”等同于“参与当前任务”。

执行权限来自训练行为

按作者描述,经执行块引用的指令具有执行权限;作为输入传入的文档、工具模式和工具结果则被当作阅读材料。未被执行块调用的指令与数据也应被忽略。不过,这种区分是模型学到的行为,并非系统强制保证,不能据此认定恶意指令一定不会生效。

静态注入评测与生产限制

作者使用 OPI 等基准评估间接提示注入,其中 OPI 把攻击指令放进传统自然语言处理任务的数据中,稳健性定义为一减攻击成功率。文中强调,这些基准测试的是静态攻击,多轮自适应攻击仍在改进中。发布版本适合探索和评估,尚不适用于生产。

原始标题:LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B
来源:huggingface.co