跳到主要内容
中文
← 工具
工具 · 代码仓库

给本地大模型破甲,解除回答限制

Heretic 通过修改本地大模型的权重,减少模型拒绝回答的情况,也就是这里说的“破甲”。它对比修改前后的拒绝回答次数与输出概率变化,尽量减少对其他能力的影响。

@p-e-w Heretic
  • 模型行为研究
  • 本地 AI

前置要求

  • Python >= 3.10
  • PyTorch >= 2.2

概览

你会得到什么

  • 修改受支持本地模型的工具,可保存处理后的模型权重。
  • 与原模型的对比结果,包括拒绝回答次数和 KL 散度。
  • 可选的通用能力评测,以及模型内部表示的可视化。

适用场景

  • 研究修改权重后,本地模型的回答会发生什么变化。
  • 同时对比修改前后的回答行为和具体任务表现。

不适用

  • 没有模型权重访问权限时,改变在线模型服务的回答行为。

案例解读

这里的“破甲”改变了什么

“破甲”是解除模型回答限制的圈内说法。这个词也可能用于提示词技巧;Heretic 处理的是本地模型权重,生成的模型可以单独保存。它是命令行工具。

项目采用名为 abliteration 的权重修改方法,削弱模型中与拒绝回答有关的行为,并借助 Optuna 搜索参数。它的目标是在减少拒绝回答的同时,尽量保留原模型的其他能力。

怎样理解修改前后的差别

“愿意回答”与“回答得对”是两件事。看结果时,需要分开理解下面几类信息:

信息能说明什么
拒绝回答次数在给定测试问题中,模型有多少次拒绝回答;不能据此判断答案正确率
KL 散度在测试输入上,修改后模型的输出概率分布与原模型相差多远;数值小不等于所有能力都没有下降
具体任务表现通过能力评测及实际回答,检查数学、知识问答等任务是否受到影响

比较修改前后的任务表现,才能判断哪些能力受到影响;只看模型是否更愿意回答还不够。

哪些模型和环境适用

v1.4.0 项目说明列出了多数稠密模型、部分多模态模型、若干混合专家(MoE)架构及部分混合架构。纯状态空间模型等架构尚不直接支持;具体兼容性取决于目标模型。

这一版本要求 Python 3.10 或更新版本,以及适合硬件的 PyTorch 2.2 或更新版本。部分模型还需要更高版本的 PyTorch。显存和处理时间随模型规模、精度与硬件变化。

版本与许可分别看什么

本站以 v1.4.0 正式版本为收录依据。正式发布包与持续更新的主干可能存在差异,比较功能时要对齐版本。

软件许可是 AGPL-3.0-or-later。处理后的模型仍需遵循原模型的许可和使用条款,不能仅根据工具的许可判断模型能否分发。