PEFT

🤗 PEFT（Parameter-Efficient Fine-Tuning）は、モデルの全パラメータのファインチューニングは計算コストが高すぎるため、大規模な事前学習済みモデルをさまざまな下流タスクに効率的に適応させるためのライブラリです。PEFT手法では、モデルの（追加の）パラメータのほんの一部のみをファインチューニングします。これにより、計算コストとストレージコストを大幅に削減しながら、完全なファインチューニングと同等の性能を実現できます。これにより、大規模言語モデル（LLM）やその他の大規模モデルを、コンシューマー向けハードウェア上で学習・保存することがより容易になります。

PEFTは、Transformers、Diffusers、Accelerateライブラリと統合されており、大規模モデルの読み込み、学習、推論での利用をより迅速かつ容易に行う方法を提供します。

既存のモデルを「適応」させる方法は数多く存在し、多くの場合、モデルに深く統合されます。PEFTは、モデル適応の任意の方法（重みの修正、レイヤーのラップ、KVキャッシュの操作など）のためのフレームワークとして捉えることができると同時に、多くのファインチューニング手法の参照実装としても機能します。