Heretic

Heretic はトランスフォーマー系の言語モデルから安全アライメントを、事後学習なしで取り除きます。一般に abliteration と呼ばれる方向的アブレーションに Optuna ベースの TPE パラメータ最適化を組み合わせ、拒否応答の数と元の重みからの KL ダイバージェンスを同時に最小化する設定を探します。二つの目的を一緒に下げるため、能力を大きく損なわないまま検閲だけが外れ、探索に人手が要りません。Python 製、AGPL-3.0 です。