Hugging Face's logo

cisimcik
/
tau-4b

Zero-Shot Classification
Transformers
Safetensors
PyTorch
Turkish
English
tau
feature-extraction
turkish
decision-model
system-one
text-classification
natural-language-inference
calibrated-probabilities
long-context
qwen3.5
gated-deltanet
hybrid-attention
custom_code
Eval Results (legacy)
Model card Files
xet
 Community
tau-4b / README.md
ckproduces's picture
ckproduces
tau-4b
daa4640
preview code
|
Raw History Blame Contribute Delete
9.49 kB
metadata 
license: apache-2.0
language:
  - tr
  - en
pipeline_tag: zero-shot-classification
library_name: transformers
base_model: cisimcik/cisimcik-base
base_model_relation: finetune
datasets:
  - cisimcik/turkish-decisions-max-19k
tags:
  - turkish
  - decision-model
  - system-one
  - zero-shot-classification
  - text-classification
  - natural-language-inference
  - calibrated-probabilities
  - long-context
  - qwen3.5
  - gated-deltanet
  - hybrid-attention
  - custom_code
  - safetensors
  - pytorch
metrics:
  - accuracy
model-index:
  - name: tau-4b
    results:
      - task:
          type: zero-shot-classification
        dataset:
          name: tau-4b evaluation suite (zero-shot, 44 tasks)
          type: tau-4b-evaluation-suite
        metrics:
          - type: accuracy
            value: 72
            name: Turkish (mean of 6 task families)
          - type: accuracy
            value: 76
            name: General / English
          - type: accuracy
            value: 80.5
            name: TR Reasoning and knowledge (MCQ)
          - type: accuracy
            value: 80.2
            name: TR Classification
          - type: accuracy
            value: 63.2
            name: TR Claims and routing
          - type: accuracy
            value: 39.2
            name: TR Ordinal (score)
          - type: accuracy
            value: 89.4
            name: TR Grammaticality
        source:
          url: https://huggingface.co/cisimcik/tau-4b
          name: Self-reported
      - task:
          type: zero-shot-classification
        dataset:
          name: CETVEL accuracy tasks (zero-shot, decision format)
          type: cetvel-accuracy-tasks
        metrics:
          - type: accuracy
            value: 77.6
            name: All 21 accuracy tasks
          - type: accuracy
            value: 76.5
            name: MCQA
          - type: accuracy
            value: 79.7
            name: Text classification
          - type: accuracy
            value: 79.8
            name: NLI
        source:
          url: https://huggingface.co/cisimcik/tau-4b
          name: Self-reported
      - task:
          type: zero-shot-classification
        dataset:
          name: Long-context tasks (zero-shot)
          type: long-context-tasks
        metrics:
          - type: accuracy
            value: 89.4
            name: 8k-24k tokens, mean of 4 tasks
          - type: accuracy
            value: 80.2
            name: 32k tokens
          - type: accuracy
            value: 79.2
            name: 64k tokens
        source:
          url: https://huggingface.co/cisimcik/tau-4b
          name: Self-reported

tau

English Türkçe

tau-4b

tau-4b, Türkçe öncelikli bir karar modelidir ("System One" modeli). Ona bir durum (herhangi bir metin ya da JSON: bir mesaj, bir belge, bir destek talebi, bir kayıt) ve bu durumla ilgili tipli sorular verirsiniz: evet/hayır (Noul), en fazla 255 seçenekten birini seçme (Choice) ya da en fazla 255 sıralı düzeyde puanlama (Score). Model her soruyu tek bir forward pass'te, kalibre edilmiş olasılıklarla yanıtlar.

  • 4,4 milyar parametre. Qwen3.5 Base, üzerine bir okuma bloğu ve üç head.
  • 32 bin token context (durum + soru) cevabın, durumun herhangi bir yerinde olduğu örneklerle eğitildi. 64 bine kadar test edildi.
  • Türkçe öncelikli, İngilizce + Türkçe training
  • TypeSafe'in POST /v1/systemone endpoint'i ile (Jev) aynı istek/yanıt biçimi
  • Apache 2.0 lisansıyla açık kaynak olarak yayınlandı.

Hızlı başlangıç 

pip install "transformers>=5.17" torch
# isteğe bağlı, NVIDIA GPU'larda daha hızlı Gated DeltaNet kernel'leri:
pip install flash-linear-attention

import torch
from transformers import AutoModel

tau = AutoModel.from_pretrained("cisimcik/tau-4b", trust_remote_code=True, dtype=torch.bfloat16)
tau = tau.to("cuda" if torch.cuda.is_available() else "cpu").eval()

result = tau.decide(
    state="Siparişim 10 gündür kargoda görünüyor, kimse dönüş yapmıyor. Paramı geri istiyorum!",
    questions={
        "intent": {
            "type": "choice",
            "instructions": "Müşteri ne istiyor?",
            "criteria": {
                "iade": "Para iadesi istiyor",
                "takip": "Kargonun nerede olduğunu soruyor",
                "teşekkür": "Teşekkür ediyor",
            },
        },
        "angry": {"type": "noul", "instructions": "Müşteri öfkeli mi?"},
        "urgency": {
            "type": "score",
            "instructions": "Bu talep ne kadar acil?",
            "criteria": ["Acil değil", "Biraz acil", "Acil", "Çok acil"],
        },
    },
)
print(result)

Sonuç, System One yanıt biçimindedir:

{
  "model": "tau-4b",
  "answers": {
    "intent":  {"type": "choice", "choice": "iade", "probabilities": {"iade": 0.9801, "takip": 0.0191, "teşekkür": 0.0008}, "confidence": 0.9701},
    "angry":   {"type": "noul", "noul": 0.9969},
    "urgency": {"type": "score", "score": 2.6797,
                "legend": {"0": "Acil değil", "1": "Biraz acil", "2": "Acil", "3": "Çok acil"},
                "probabilities": {"0": 0.0068, "1": 0.0281, "2": 0.2436, "3": 0.7215}, "confidence": 0.6797}
  },
  "usage": {"input_tokens": 110, "output_tokens": 0}
}

Donanım. Ağırlıklar bf16'da yaklaşık 9 GB: 12 GB veya üzeri belleğe sahip herhangi bir GPU (A10G'de kısa bir soru başına yaklaşık 0,13 sn) ya da 16 GB RAM'li bir CPU (4 çekirdekte kısa bir soru başına yaklaşık 10 sn) yeterlidir. flash-linear-attention kurulu değilse Gated DeltaNet katmanları transformers'ın PyTorch uygulamasını kullanır. Bu doğru sonuç verir ama uzun context'te daha yavaştır.

Request formatı

  • state: bir metin ya da herhangi bir JSON değeri.
  • questions: {kimlik: soru}. Her soru bağımsız yanıtlanır: başka sorular eklemek ya da çıkarmak bir yanıtı değiştirmez.
    • {"type": "noul", "instructions": "...", "criteria": {"true": "...", "false": "..."}}. criteria isteğe bağlıdır ama faydalıdır: evet ve hayırın ne anlama geldiğini yazın.
    • {"type": "choice", "instructions": "...", "criteria": {"<anahtar>": "<açıklama ya da null>", ...}}, 2–255 seçenek. Seçeneklerin sırası önemli değildir (model onları kanonik bir sırada görür).
    • {"type": "score", "instructions": "...", "criteria": ["<en düşük düzey>", ..., "<en yüksek düzey>"]}, 2–255 düzey, en düşükten en yükseğe doğru sıralanır.
  • Uzunluk: durum + soru en fazla 32.768 token (decide(..., max_tokens=...) bu sınırı değiştirir). Daha uzun state'lerde state'in sonu kesilir, soru kalır.

Kıyaslamalar

Sıfır atış (zero-shot): her model aynı tipli isteği alır (durum + tek soru). Görevlerde seçenek sırası her örnek için bir kez karıştırılır ve tüm modeller aynı sırayı görür. 44 görev ve 21.566 soruda test edilmiştir. Doğruluk = en yüksek olasılıklı yanıt ile doğru yanıtın eşleşmesi (Noul: p ≥ 0,5). Jev = TypeSafe jev-latest = jev-1.13.0, API üzerinden (Ekim 2026). Laya = convaiinnovations/laya 0.3.24.

Özet (doğruluk, %)

tau-4b kıyaslama tablosu

Training

tau-4b, Qwen/Qwen3.5-4B-Base modelinin çeşitli aşamalarla eğitilmiş halidir. İlk aşamanın çıktısı ayrıca cisimcik-base olarak yayınlandı.

  1. Türkçe post-training. Büyük, çoğunlukla Türkçe bir metin derlemi üzerinde ön eğitime devam edilir, modelin iki dilli kalması için bir miktar İngilizce (replay) korunur.
  2. Karar eğitimi ve kalibrasyon. Gövde, okuma bloğu ve başlıklar, etiketli Türkçe ve İngilizce sınıflandırma verilerinden (duygu, doğal dil çıkarımı, niyet, zararlı içerik, konu, çoktan seçmeli sorular ve daha fazlası) üretilen tipli Noul / Choice / Score soruları ve 32 bin token'a kadar uzun durumlar üzerinde birlikte eğitilir.

Dosyalar

Dosya İçerik
model-0000*-of-00003.safetensors ağırlıklar: trunk.* (bf16) + special, readout.*, *_head.* (fp32)
config.json, configuration_tau.py, modeling_tau.py transformers uzak kodu (AutoModel, trust_remote_code=True)
tau_serialize.py, tau_schema.py serileştirme ve System One istek / yanıt şeması
tokenizer*.json, vocab.json, merges.txt Qwen3.5 tokenizer'ı (düz modda kullanılır)

Lisans

Bu depodaki ağırlıklar ve kod Apache License 2.0 ile yayımlanmıştır (bkz. LICENSE ve NOTICE). Model, Qwen/Qwen3.5-4B-Base © 2026 Alibaba Cloud, Apache License 2.0 lisanslı modelin değiştirilmiş bir sürümüdür. Temel model cisimcik/cisimcik-base'dir. O da Qwen/Qwen3.5-4B-Base üzerinden eğitildi.

Atıf 

@misc{tau4b2026,
  title  = {tau-4b: a Turkish-first System One decision model},
  author = {cisimcik},
  year   = {2026},
  url    = {https://huggingface.co/cisimcik/tau-4b}
}