IdeaLens · Help
Uncertainty, missing results, and execution
Zero, uncertainty, and failure mean different things.
Current maintained rules · Checked 2026-09-10
Scoring states
| State | Meaning |
|---|---|
| complete | Required grades are complete and determinate, including valid L0 or P0. |
| uncertain | A valid assessment contains unresolved grades; preserve the actual possible totals. |
| incomplete | A required input failed, is missing, cannot be parsed, or is unavailable; the total is empty. |
| not_run | The scoring step was not configured or executed; no total is constructed. |
Output and execution states
| State | Meaning |
|---|---|
| completed / reused | The step completed or legitimately reused a result; reuse does not mean a fresh model call. |
| failed | Execution failed; this is not a low-grade judgment. |
| not_run / disabled | Not executed or not enabled; it does not mean zero contribution. |
| condition_false | The execution condition did not hold; distinct from failure and a valid zero grade. |
| missing | No usable output was supplied; read the execution status for context. |
A failed run can still have a complete score
If argument assessment fails but value and progress are complete, the score can be complete while the original run is failed. Read both states instead of treating a number as proof of overall success. An independent failure does not erase other completed outputs.
Classification has its own distinctions
An unresolved primary type can coexist with supported tags. A successful classification can have no tags. An absent, unrun, or failed classification should not be displayed as unresolved or as no contribution. When an older delivery contains only output status, the site does not infer types or tags from scores or prose.
A zero grade is a valid conclusion
L0 or P0 is a valid zero on its particular scale. Unresolved means the grade cannot yet be determined. Missing material and failed execution mean a result is unavailable. Read the reasons and sources to understand which information is needed next.
Standards and prompt references
Original reference text captured for this help revision, not a paper’s run snapshot. Expand to inspect it; source text retains its original language. Paths below identify files within IdeaLens.
Docs/数值计分.md
SHA-256 · c95a408afe9784742817ed114b8478baa698c0e1b32ab91f4ca6e45bf96cfd65
# 数值计分与结果解释
默认计分契约由 [Rubric](../Rubrics/idealens-value-v21.json) 维护,数值实现集中在 [scoring.py](../idealens/scoring.py)。指定流程版本使用其自己的冻结规则;报告重建使用原规则快照。
## 总分的参考性质
总分的选项、映射和组合方式由人制定,是综合不同评审项的价值取舍。算式是否执行正确可以核验和复算,但组合规则的合理性不具备分项分级那样的可证伪判据;不能因计算确定,就将总分当作已经客观成立的论文价值。
当前总分只作为参考,应与分项等级、理由和不确定性一起阅读。后续计划结合专家意见校准总分组合,尚不宣称已经完成专家验证。专家意见校准与固定分级标准下的提示词校准是不同工作;修改汇总规则仍须通过新版本记录,不能回写旧结果。产品定位见 [产品核心机制](产品核心机制.md)。
## 算式
总分=方向价值分 × 方向进度分。
| 等级 | 分值 |
|---|---|
| L0、L1、L2、L3、L4 | 0、1、2、4、8 |
| P0、P1、P2、P3 | 0、1、2、4 |
按当前映射推得的最高可得分为 32。它由参与项和映射动态计算,不是永久满分或归一化分母。结构、改进、知识压缩旁路及主贡献类型、标签、论证强度均不参与总分;人工校准也不替换模型等级。
## 未定、失败与零分
| 计分状态 | 含义 | 总分表现 |
|---|---|---|
| `complete` | 输入等级确定且完整,包括合法 L0/P0 | 确定总分 |
| `uncertain` | 有效评审仍存在未定等级 | 可能总分集合,不把未定当零 |
| `incomplete` | 所需输入失败、缺失、不可解析或不可用 | 总分为空,保留可确定部分 |
| `not_run` | 未配置或未执行总分步骤 | 不构造总分 |
未定值按量表候选传播,保留可能分数的实际集合;不能把不连续的集合改成任意整数区间。`known_subtotal` 只是可确定分项之和,不代表缺失项已得零分。
运行状态和计分状态分别判断:例如旁路或论证分支失败时,Run 可以为 failed,而其他输入仍足以产生 complete 分数。消费者必须同时展示两种状态,不能只凭一个数字报告执行成功。
报告依次展示方向价值、方向进度、论证强度、旁路判定;旁路保留判断和执行状态,不展示加分项。
## 复用、校准与重建
合法复用的等级属于本次评审输入,保留原目标、口径、日期和来源。是否允许自动复用由入口和固定流程政策决定,见 [流程版本](评审流程版本.md)。
校准用于人工值标注和身份兼容的比较;相邻双值表示可接受集合,不选择较高值覆盖本次结果。分支失败只阻断依赖后继,独立结果仍保留。
普通报告重建不改变原来的评审或计分规则。显式历史重算另存结果,不调用模型,不修改原 Run,也不将新计分结果冒充原交付版本。命令及数据契约见 [评分契约](Technical/SCORING_CONTRACTS.md)。
## 比较边界
相同算式不代表不同流程版本中的等级语义完全相同。对比分数前,应核对流程版本、目标、评分规则和评价时间口径;不能把口径变化产生的分差直接解释为论文或模型的进步。
总分不包含论证强度,也不由贡献类型或标签决定。较高总分不自动意味着论证更充分;需要同时读取相应独立评审及其状态。
Docs/Technical/REVIEW_STAGES.md
SHA-256 · 9c8aefd83d4bf38bf5dacc83e12b7f5ef11ab7138e8df3a3773df6b9a1d5c44c
# 评审步骤与公共字段
总体关系见 [核心机制](../核心评审机制.md),业务标准见 [等级规则](../等级规则.md)。下面只说明当前默认接线;接口和实际提示词内容以所选配置的 Workflow/Fork 锁为准。
| 步骤 | 输入 | 输出与计分关系 |
|---|---|---|
| structure_audit | Claim | 最近邻吸收审计,供统一结构评审使用 |
| structure | Claim、吸收审计 | `strength`、`l4_type`、`l4_path`;结构等级只作旁路判断,不计分 |
| classification | Claim | 主类型和标签,不参与计分 |
| direction | 目标、Claim 准入信息及允许的规则资料 | 方向等级与理由,参与计分 |
| progress | 论文、Claim、同一目标 | 进度等级和 `progress_description`,等级参与计分 |
| argument | 论文、进度描述和等级 | 论证强度及诊断信息,不参与计分 |
| improvement | Claim、结构与方向结果 | 改进强度,只作旁路判断,不计分 |
| simplicity | 论文、Claim | 知识压缩等级或未定,只作旁路判断,不计分 |
确定性总分步骤 contribution 只依赖 direction、progress;其他评审失败或未定不影响总分完整度。报告按方向价值、方向进度、论证强度、旁路判定排序。
统一结构评审一次输出 L0–L4,不再由基础结构加独立升级裁决拼接。L4 的类型和路径按实际适用性展示,非适用字段不能被当作额外等级或额外得分。
进度在主张成立的假设下判断进展,主动发布描述;论证独立检查原文对该描述的支持,不回写进度值。知识压缩保留 `simplicity_strength_review` 和 `simplicity.strength` 等接口标识,默认启用,不因名称沿用而恢复旧旁路开关。
输入映射和字段引用由 [pipeline.toml](../../pipeline.toml) 与 Workflow 契约声明。字段缺失、未定、条件跳过和执行失败分开记录;解析与展示规则见 [评分契约](SCORING_CONTRACTS.md)。
单项维护使用 [校准集](CALIBRATION_SETS.md) 从默认配置选取目标步骤与必要前置输入,不再维护额外的单项运行配置。相关测试为 `Tests/test_unified_structure.py`、`Tests/test_argument_review.py`、`Tests/test_simplicity.py` 和对应进度、改进测试。