01 / заметки
Заметки
Короткие разборы того, что проверял руками: локальные модели, домашняя инфраструктура, ошибки и найденные решения.
Семейный AI-чат: как устроен и почему без TOTP
Open WebUI, DeepSeek и локальный Qwen, HTTPS, пять учёток, вход по паролю и кнопка «Выйти».
NIAH на 246K: Qwen3.8-27B не теряет цепочки
5-hop NIAH, почти одинаковые дистракторы, 14 из 14 успешных прогонов и замер prefill на длинном контексте.
Почему DeepSeek ломал Vane
Модель принимает json_object, но не json_schema. Из-за этого стрим не стартовал, а интерфейс «думал» бесконечно.