add podman

2026-05-03 10:14:10 +07:00
parent d70b7d5ad2
commit 5b112ba5ec
2 changed files with 69 additions and 0 deletions
@@ -6,6 +6,7 @@
 #
 # Модель: ./models/ + MODEL_FILE в .env.
 # Запуск: docker compose up -d или docker-compose up -d
+# Podman (одна команда, те же флаги): ./podman-llama.sh
 # Проверка: curl http://localhost:8080/health
 #
 # OOM: уменьшите CTX_SIZE (дефолт 50000), -ngl и/или cache types; при «каше» попробуйте bf16/f16 для KV (больше VRAM).