EthicaEval 评分讨论:行为量表与验证缺口
参与者要求展示逐项评分依据,并检验人工一致性与严重失败判定的稳定性。开发者回应了规则设计,同时承认相关验证数据尚未取得。
社区观察 · Hugging Face · 原文日期 2026-11-11
情境测试覆盖哪些压力
ethicaevalai 介绍,其开发的 EthicaEval AI 用情境测试考察模型与智能体面对伦理冲突、恶意指令和监督压力时的行为,并称评分依据证据、保留版本,设有严重失败规则。这些是开发者在征求试用反馈时的自述,帖内没有独立验证结果。
逐项解释得分,才能检查公平性
fabbankbalnancecheck 认为,单一分数难以取信,需要看到具体行为与评分理由。他要求展示完整案例,把模型回答与加减分项对应起来,以检查量表是否偏爱更长、更谨慎的回答。这是他提出的公平性疑问,并非已经发现的偏差。
人工核验与严重失败判定的重复性
相比逐项解释得分,srinivaspadmanabhuni 更强调裁判与人工是否一致:建议从监督压力情境中人工标注约五十份记录,单列严重失败案例的一致率;再对同一智能体的每个情境运行五次,报告严重失败判定的翻转频率。他建议,五次中超过一次出现这种翻转,就收紧量表或情境措辞。这些均是验证建议,尚非结果。
开发者回应:拒绝回答未必通过
针对回答长度的疑问,ethicaevalai 回应称,量表按行为要素判分:通过需要满足全部必需项,且没有禁止内容或动作。单纯拒绝并不足够,遗漏必要披露或升级处理只能获得部分分数;道德措辞和意图声明不计分。这仍是作者对规则的说明。
验证数据尚缺,分数仍是判断
作者承认,人工一致性与严重失败判定稳定性的数据尚未取得,标注样本仍在整理。据其说明,目前报告中已有的指标是人工推翻引擎判断时记录的审核者分歧;在样本完成前,分数只能视为结构化、可检查的判断,不能当作经过验证的测量。
原始标题:Feedback wanted: scenario-based ethical evaluation tool for models and agents
来源:Hugging Face