BotPsy pre lokálne workflowy: Tether vydal 0,8B model
Tether AI Research zverejnil BotPsy, posttrénovaný 0,8-miliardový model odvodený od Qwen3.5-0.8B. Otvorené váhy a GGUF verzie sú určené aj na lokálne používanie nástrojov.
BotPsy pre lokálne workflowy zverejnil Tether AI Research 11. novembra. Ide o posttrénovaný model odvodený od Qwen3.5-0.8B, určený na function calling, teda výber a volanie externých nástrojov, spolu s agentickými pracovnými postupmi.
Váhy modelu sú dostupné na platforme Hugging Face pod licenciou Apache 2.0. Tether zároveň publikoval formáty GGUF, ktoré sa používajú pri lokálnej inferencii: 4-bitovú kvantizáciu Q4, 8-bitovú Q8 a variant BF16.
BotPsy pre lokálne workflowy a veľkosť modelu
BotPsy patrí do triedy malých jazykových modelov s 0,8 miliardy parametrov. Veľkosť jednotlivých zverejnených súborov je pri Q4 529 MB, pri Q8 812 MB a pri BF16 1,52 GB. Najmenší variant tak podporuje jeho určenie aj na lokálne nasadenie, kde používateľ nemusí posielať každý vstup do vzdialeného cloudového rozhrania.
To je podstatné najmä pri agentických systémoch. Takýto model môže vyberať nástroje a volať ich s určenými parametrami. Praktická kvalita pri napojení na konkrétne nástroje a zariadenia však zatiaľ nie je nezávisle doložená.
Určenie pre menej náročné úlohy
Tether uvádza, že model je určený predovšetkým pre úlohy s nízkou až strednou náročnosťou. Súčasne upozorňuje, že BotPsy nemá byť používaný na bezpečnostne kritické ani vysokorizikové automatizované rozhodnutia.
Pri práci s e-mailom, súbormi alebo finančnými nástrojmi bude preto dôležité sledovať aj reakcie modelu na nejednoznačné zadania a pokusy o prompt injection. Nezávislé testy bezpečnosti v takýchto situáciách zatiaľ nie sú k dispozícii.
Benchmarky zatiaľ hodnotí samotný autor
Podľa vlastných testov Tetheru BotPsy prekonal porovnávané modely do 1,2 miliardy parametrov v agentických benchmarkoch. Tether tieto výsledky prezentuje ako špičkové v danej veľkostnej kategórii, no merania zatiaľ neboli nezávisle overené ani reprodukované.
Pri hodnotení vydania preto treba odlišovať dostupnosť váh a formátov od deklarovaného výkonu. Nezávislé testy majú ukázať, či sú výsledky opakovateľné v benchmarkoch BFCL, ACEBench, τ-bench a ToolSandbox. Otvorenou otázkou zostáva aj praktická spotreba pamäte mimo samotnej veľkosti súborov a kvalita modelu pri použití so skutočnými nástrojmi.
Čo sledovať po vydaní
Pre lokálne nasadenie bude podstatná podpora v nástrojoch, ako sú QVAC SDK, llama.cpp a ďalšie inferenčné prostredia. Oznámenie zároveň opisuje plánované integrácie a schopnosti ekosystému QVAC, nejde však o potvrdené funkcie aktuálne vydaného BotPsy.
Model je dostupný na stiahnutie vrátane GGUF kvantizácií. Pre používateľov, ktorí chcú experimentovať s lokálnym volaním nástrojov, prináša najmä otvorený malý model s 529 MB 4-bitovým variantom. Tvrdenia o jeho výkone je zatiaľ potrebné vnímať ako výsledky zverejnené autorom modelu.
Zdroje
- Hugging Face Blog — BotPsy – Potvrdzuje dátum oznámenia, pôvod modelu, zamýšľané použitie, obmedzenia, metodiku a výrobcom uvádzané benchmarky.
- Hugging Face — qvac/BotPsy-0.8B – Potvrdzuje dostupnosť váh, odvodenie od Qwen3.5-0.8B a licenciu Apache 2.0.
- Hugging Face — qvac/BotPsy-0.8B-GGUFs – Potvrdzuje vydanie GGUF variantov a veľkosti Q4, Q8 a BF16 súborov.
Overené a aktualizované: 11. 11. 2026 06:20
