Safetensors documentation

Safetensors

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.5.0-rc.0).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Safetensors

Safetensors هو تنسيق جديد وبسيط لتخزين المتجهات (tensors) بأمان (على عكس pickle) مع الحفاظ على السرعة (نسخة صفرية). إن Safetensors سريع حقًا 🚀.

التثبيت

باستخدام pip:

pip install safetensors

مع conda:

conda install -c conda-forge safetensors

الاستخدام

تحميل المتجهات

from safetensors import safe_open

tensors = {}
with safe_open("model.safetensors", framework="pt", device=0) as f:
    for k in f.keys():
        tensors[k] = f.get_tensor(k)

تحميل جزء فقط من المتجهات (مثير للاهتمام عند التشغيل على وحدات معالجة رسومية متعددة)

from safetensors import safe_open

tensors = {}
with safe_open("model.safetensors", framework="pt", device=0) as f:
    tensor_slice = f.get_slice("embedding")
    vocab_size, hidden_dim = tensor_slice.get_shape()
    tensor = tensor_slice[:, :hidden_dim]

حفظ المتجهات

import torch
from safetensors.torch import save_file

tensors = {
    "embedding": torch.zeros((2, 2)),
    "attention": torch.zeros((2, 3))
}
save_file(tensors, "model.safetensors")

الصيغة

لنفترض أن لديك ملف safetensors باسم model.safetensors، فإن model.safetensors سيحتوي على التنسيق الداخلي التالي:

المشاريع المميزة

يُستخدم Safetensors على نطاق واسع في شركات الذكاء الاصطناعي الرائدة، مثل Hugging Face وEleutherAI وStabilityAI. فيما يلي قائمة غير شاملة بالمشاريع التي تستخدم safetensors:

Update on GitHub