PEFT documentation

Konfigurasi

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.21.0).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Konfigurasi

PeftConfigMixin adalah kelas konfigurasi dasar untuk menyimpan konfigurasi adapter dari PeftModel, dan PromptLearningConfig adalah kelas konfigurasi dasar untuk metode soft prompt (p-tuning, prefix tuning, dan prompt tuning). Kelas-kelas dasar ini berisi metode untuk menyimpan dan memuat konfigurasi model dari Hub, menentukan metode PEFT yang akan digunakan, jenis tugas yang akan dilakukan, serta konfigurasi model seperti jumlah lapisan dan jumlah kepala perhatian.

PeftConfigMixin

kelas peft.config.PeftConfigMixin

< >

( task_type: Optional[TaskType] = Nonepeft_type: Optional[PeftType] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = None )

Parameter

  • peft_type (Union[~peft.utils.config.PeftType, str]) β€” Jenis metode Peft yang akan digunakan.

Ini adalah kelas konfigurasi dasar untuk model adapter PEFT. Kelas ini berisi semua metode yang umum untuk semua model adapter PEFT. Kelas ini mewarisi dari PushToHubMixin yang berisi metode untuk mendorong model Anda ke Hub. Metode save_pretrained akan menyimpan konfigurasi model adapter Anda dalam sebuah direktori. Metode from_pretrained akan memuat konfigurasi model adapter Anda dari sebuah direktori.

check_kwargs

< >

( **kwargs )

Periksa kwargs sebelum menginisialisasi instance config.

Subkelas dapat menimpa metode ini untuk menambahkan pemeriksaan spesifik.

from_json_file

< >

( path_json_file: str**kwargs )

Parameter

  • path_json_file (str) β€” Path ke file json.

Memuat file konfigurasi dari file json.

from_peft_type

< >

( **kwargs )

Parameter

  • kwargs (argument kata kunci konfigurasi) β€” Argument kata kunci yang diteruskan ke inisialisasi konfigurasi.

Metode ini memuat konfigurasi model adapter Anda dari serangkaian kwargs.

Jenis konfigurasi yang tepat ditentukan oleh argumen peft_type. Jika peft_type tidak disediakan, kelas pemanggil yang diinstansiasi.

from_pretrained

< >

( pretrained_model_name_or_path: strsubfolder: Optional[str] = None**kwargs )

Parameter

  • pretrained_model_name_or_path (str) β€” Direktori atau id repositori Hub tempat konfigurasi disimpan.
  • subfolder (str, opsional) β€” Subfolder opsional di bawah pretrained_model_name_or_path.
  • kwargs (argumen kata kunci tambahan, opsional) β€” Argumen kata kunci diteruskan ke huggingface_hub.hf_hub_download (misalnya token, revision, cache_dir). Argumen yang spesifik untuk konfigurasi PEFT, seperti task_type atau r, tidak dapat dilewatkan sebagai penggantian. Untuk mengubah atribut, tetapkan pada konfigurasi yang dikembalikan setelah dimuat.

Metode ini memuat konfigurasi model adapter Anda dari sebuah direktori.

save_pretrained

< >

( save_directory: str**kwargs )

Parameter

  • save_directory (str) β€” Direktori tempat konfigurasi akan disimpan.
  • kwargs (argumen kata kunci tambahan, opsional) β€” Argumen kata kunci tambahan yang diteruskan ke metode push_to_hub.

Metode ini menyimpan konfigurasi model adapter Anda dalam sebuah direktori.

to_dict

< >

( )

Mengembalikan konfigurasi untuk model adapter Anda sebagai kamus.

PeftConfig

kelas peft.PeftConfig

< >

( task_type: Optional[Union[str, TaskType]] = Nonepeft_type: Optional[Union[str, PeftType]] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = Nonebase_model_name_or_path: Optional[str] = Nonerevision: Optional[str] = Noneinference_mode: bool = False )

Parameter

  • peft_type (Union[~peft.utils.config.PeftType, str]) β€” Jenis metode Peft yang akan digunakan.
  • task_type (Union[~peft.utils.config.TaskType, str]) β€” Jenis tugas yang akan dilakukan.
  • inference_mode (bool, defaultnya False) β€” Apakah akan menggunakan model Peft dalam mode inferensi.

Ini adalah kelas konfigurasi dasar untuk menyimpan konfigurasi dari PeftModel.

PromptLearningConfig

kelas peft.PromptLearningConfig

< >

( task_type: Optional[Union[str, TaskType]] = Nonepeft_type: Optional[Union[str, PeftType]] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = Nonebase_model_name_or_path: Optional[str] = Nonerevision: Optional[str] = Noneinference_mode: bool = Falsenum_virtual_tokens: int = Nonetoken_dim: int = Nonenum_transformer_submodules: Optional[int] = Nonenum_attention_heads: Optional[int] = Nonenum_layers: Optional[int] = Nonemodules_to_save: Optional[list[str]] = None )

Parameter

  • num_virtual_tokens (int) β€” Jumlah virtual token yang akan digunakan.
  • token_dim (int) β€” Dimensi embedding tersembunyi dari model transformer dasar.
  • num_transformer_submodules (int) β€” Jumlah submodul transformer dalam model transformer dasar.
  • num_attention_heads (int) β€” Jumlah kepala perhatian dalam model transformer dasar.
  • num_layers (int) β€” Jumlah lapisan pada model transformer dasar.

Ini adalah kelas konfigurasi dasar untuk menyimpan konfigurasi PrefixTuning, PromptEncoder, atau PromptTuning.

get_peft_config

peft.get_peft_config

< >

( config_dict: dict[str, Any] )

Parameter

  • config_dict (Dict[str, Any]) β€” Dictionary yang berisi parameter konfigurasi.

Mengembalikan objek konfigurasi Peft dari kamus.

Update on GitHub