🧠 BitNet TinyDialogues CPU

Modelo experimental ternário treinado do zero com TinyDialogues.

Modelo: zerolimites/BitNet-TinyDialogues-1.58b

Download GGUF: TQ1_0 · TQ2_0

Rodar em CPU

llama-cli -m bitnet-tinydialogues-TQ1_0.gguf \
  -p "User: Hello Assistant:" -n 64 --temp 0.8 -t 2 -r "User:"

Use um build de llama.cpp com o patch ReLU² para BitNet incluído no repositório do modelo.

Space

Este Space é estático porque a conta não tem assinatura PRO para hospedar Spaces Docker/Gradio em CPU. O repositório inclui Dockerfile e app.py para implantar em uma conta/organização com PRO ou hardware pago.