Files

T

whqreza cb621ca5d0 feat(monitoring): multi-model dashboard v2.1 — tabs, per-model records, voice playback + MinIO dual-write

Problem: the dashboard was Jev-centric; NLU/arbiter/fallback DeepSeek, STT
providers and the audio-enhancer were barely visible, and stored texts/voices
had no real access path.

Bot (additive; reply path untouched):
- nlu.result now records latency_ms + the DeepSeek usage tokens
- matching.arbitration/fallback.result fill the model + latency_ms columns
  (payload unchanged; SQL coalesces column/payload so old rows still count)
- storage.py: MinIO dual-write layer — every voice (raw + denoised) and user
  attachment is mirrored fire-and-forget into bucket bot-media; the blocking
  minio SDK runs via asyncio.to_thread (senior-engineer review) so the event
  loop is never stalled; empty MINIO_* env = layer off; bucket auto-created
- requirements: minio>=7.2

Backend (admin-gated, read-only):
- GET /bot-metrics/models — one record per model (jev, deepseek-nlu,
  deepseek-arbiter, deepseek-fallback, audio-enhancer + dynamic per-provider
  STT) with calls/ok-rate/p50/p95/tokens/last-seen + version-drift vs the pin
- GET /bot-metrics/models/{id}/daily — per-model daily calls/fails/tokens/p50
- GET /bot-metrics/stages — every stage tagged with its Persian pipeline
  section (صوت/درک پیام/تطبیق/ابهام و انتخاب/پیش‌نویس)
- /traces now carries input_kind + a 120-char text excerpt (consensus →
  input.text → first STT transcript)
- media serving: POST /media-url mints a short-lived HMAC URL (audio/a tags
  cannot send Authorization); GET /media streams from MinIO bot-media with
  the read-only ./bot/data mount as fallback for pre-MinIO files; hard ref
  validation (voices|attachments only, no .., extension whitelist)
- router exempted from the global Bearer dependency (files.py pattern) —
  every endpoint keeps its own require_role('admin')

Frontend /bot-monitor (RTL, recharts):
- four tabs: نمای کلی / مدل‌ها (records table + per-model expandable daily
  charts: calls/fails, tokens, p50) / بخش‌ها (sections grouped) / پیام‌ها
- message drawer rebuilt: inline <audio controls> for raw + denoised voice,
  download links, every STT transcript + consensus side-by-side, user
  attachments, then the event timeline
- terminology: «ترس» → «پرونده‌ی پیام» with tooltips + a one-line legend

Grafana: bot-observability gains a «کارکرد مدل‌ها» table (stage→model
mapping for legacy rows); the explorer gains a message text column.

Seed: real (tiny) ogg files written + mirrored to MinIO, NLU usage tokens,
column-level model/latency on matching events.

Verified locally: /models returns all 7 records incl. per-STT and NLU tokens;
media 200 via signed URL (MinIO) and 401 without; ../ and .py rejected (400);
disk fallback serves a legacy file; pm-role 403 on every new endpoint;
bucket auto-created with 14 mirrored objects; tsc + vite build clean;
Grafana re-provisions 24 panels.

2026-10-25 22:02:40 +03:30

7.6 KiB

Raw Blame History

استقرار و پایش — فاز ۷ (Jev + Observability)

وضعیت به‌روزشده: 2026-10-12 · برنچ: prod-v7 · هیچ پوشی انجام نمی‌شود تا مالک دستور بدهد.

الف) وضعیت فعلی

بات همین حالا روی استک لوکال اجرا می‌شود (long-polling بله؛ بدون پورت ورودی) و JEV_ENABLED + OBS_ENABLED روی آن فعال است.
استقرار بات روی سرور یک تصمیم جدا است (نه بخشی از مرج تیم). تا آن تصمیم، بات لوکال می‌ماند.
⚠️ قانون یک‌پولره: Bale فقط اجازه‌ی یک مصرف‌کننده‌ی getUpdates می‌دهد. اگر باتِ سرور و باتِ لوکال هم‌زمان روشن باشند، پیام‌ها بین آن‌ها گم/تکراری می‌شوند. قبل از روشن‌کردن بات سرور، بات لوکال باید خاموش شود.

ب) پیش‌نیازهای سرور (وقتی تصمیم گرفته شد)

کلیدها و تنظیم‌های بات (در گیت نیستند — از طریق Coolify env یا فایل bot/.env روی سرور):

متغیر	مقدار
`PROCUREMENT_BOT_BOT_TOKEN`	توکن بله (rotated — بخش امنیتی پایین را ببین)
`PROCUREMENT_BOT_AI_API_KEY`	کلید DeepSeek
`PROCUREMENT_BOT_TYPESAFE_API_KEY`	کلید Jev
`PROCUREMENT_BOT_API_BASE_URL`	`http://api:8000/api/v1`
`PROCUREMENT_BOT_DATABASE_URL`	`postgresql+asyncpg://postgres:***@postgres:5432/procurement`
`PROCUREMENT_BOT_JEV_CONF_EXACT` / `_FLOOR`	اختیاری — پیش‌فرض کالیبره: `0.85` / `0.65`
`PROCUREMENT_BOT_OBS_PROMPT_VERSION`	`nlu-v2-entity-mentions` (برای prompt_hash)

ولوم‌ها: bot/app (کد)، bot/tools (ابزارها/pایش)، bot/data (صدای خام — آرشیو، نه حذف)، bot/.env:ro.

نکته: mount جدید فقط با recreate اعمال می‌شود، نه restart → docker compose up -d --force-recreate bot.

بلوک آماده‌ی سرویس بات برای کامپوز دیپلوی Coolify (فقط «در صورت» تصمیم — عمداً به فایل کامپوز اضافه نشده چون سرویس‌شدن خودکار = خطر دو‌پولری و تغییر رفتار سرور):

  bot:
    image: v15-bot:latest
    build: { context: ./bot, dockerfile: Dockerfile }
    restart: unless-stopped
    mem_limit: 512m
    volumes:
      - ./bot/data:/srv/bot/data
      - ./bot/tools:/srv/bot/tools
    environment:
      PROCUREMENT_BOT_BOT_TOKEN: ${BALE_BOT_TOKEN}
      PROCUREMENT_BOT_AI_API_KEY: ${AI_API_KEY}
      PROCUREMENT_BOT_TYPESAFE_API_KEY: ${TYPESAFE_API_KEY}
      PROCUREMENT_BOT_API_BASE_URL: http://api:8000/api/v1
      PROCUREMENT_BOT_DATABASE_URL: postgresql+asyncpg://postgres:${POSTGRES_PASSWORD}@postgres:5432/procurement

ج) ترتیب استقرار (فقط وقتی مالک گفت «پوش کن»)

مهندس ارشد prod-v7 را با بقیه مرج و CI/Coolify دیپلوی ERP را انجام می‌دهد.
تصمیم بات سرور (بالا) → در صورت تأیید: خاموش‌کردن بات لوکال → روشن‌کردن بات سرور.
Smoke test (چک‌لیست پلن §۷ بند ۱۲): ۱۰ پیام نمونه شامل «منشیانه/دفتر/مصطفوی» + یک ویس؛ بررسی: اتصال دقیق‌ها، پیام ابهام با دکمه‌های کاندیدا، ساخت جدید، پیش‌نویس، ثبت نهایی.
راستی‌آزمایی پایش: docker compose exec bot python tools/monitor.py --days 1 → قیف باید پر شود و رخدادهای همان پیام‌ها در bot_trace_events باشد.
چک سهمیه: usage در jev.result (توکن ورودی/خروجی) + latency p95.
داشبوردها (به‌روز ۲۰۲۶-۱۰-۲۵، v2.1): PROCUREMENT_BOT_OBS_READER_PASSWORD را در .env ست کنید و یک بار بات را restart کنید تا نقش فقط‌خواندنی obs_reader ساخته شود؛ سپس گرفانا را (ری)استارت کنید — دیتاسورس BotPostgres و دو داشبورد «بات — Observability خط لوله» و «بات — اکسپلورر پیام‌ها» خودکار provision می‌شوند (جزئیات در monitoring/README.md). صفحه‌ی فارسی داخل ERP روی /bot-monitor (فقط ادمین) چهار تب دارد: نمای کلی، مدل‌ها (رکورد و روند زمانی هر مدل: Jev، DeepSeek-NLU، داور، فالبک، هر STT، بهبود صدا)، بخش‌ها (مراحل به تفکیک بخش خط‌لوله) و پیام‌ها (پرونده‌ی هر پیام با پخش/دانلود ویس و ترنسکریپت همه‌ی موتورها کنار هم). رسانه (v2.1): فایل‌های بات دو-نویسی می‌شوند — دیسک (آرشیو) + باکت MinIO bot-media (env: BOT_MINIO_ENDPOINT/BOT_MINIO_BUCKET؛ خالی = خاموش). سرو پخش/دانلود از MinIO با fallback به دیسک از /api/v1/bot-metrics/media با لینک امضاشده‌ی کوتاه‌مدت انجام می‌شود؛ سرویس api ولوم فقط‌خواندنی ./bot/data دارد (ولیم جدید = up -d --build api برای recreate). برای دیدن همه‌ی پنل‌ها روی نصب تازه: docker compose exec bot python tools/seed_observability_demo.py --days 7 (داده‌ها با source='demo' از آمار ترافیک واقعی جدا می‌مانند و در MinIO هم آینه می‌شوند).

د) Rollback (بدون دیپلوی — فقط env + restart)

سوئیچ	اثر
`JEV_ENABLED=false`	غیرفعال‌شدن Jev — mentionها مستقیم به فالبک DeepSeek می‌روند
`OBS_ENABLED=false`	خاموش‌شدن ثبت (داده‌های قبلی دست‌نخورده می‌مانند)

حذف کامل داشبوردها (در صورت نیاز): دو JSON در monitoring/grafana/dashboards/ + دیتاسورس در datasources.yml + backend/app/routers/bot_metrics.py + frontend/src/pages/BotMonitor/ + DROP ROLE obs_reader. هیچ داده‌ای حذف نمی‌شود.

ه) پایش هفتگی

docker compose exec bot python tools/monitor.py --days 7        # DIGEST
docker compose exec bot python tools/monitor.py --days 7 --check  # exit 1 اگر هشدار

خروجی: کنسول + فایل bot/data/reports/monitoring_<ts>.md
آمار فقط روی ترافیک واقعی است (calibration/test حذف می‌شوند؛ --include-calibration برای دیدن همه).
هشدارها (پلن §۴.۵): حجم Observability > ۵GB یا رخداد ماهانه > ۱۰۰هزار → جلسه‌ی «آرشیو، نه حذف»؛ انحراف نسخه‌ی مدل از پین jev-1.13.0؛ نسبت خطای Jev > ۲۰٪.
پروکسی کیفیت: انتخاب کاربر در ابهام‌ها (گزینه اول مدل / گزینه دیگر / «هیچ‌کدام») — این عددِ A/B واقعی است.

و) یادآوری امنیتی (از قبل علامت‌خورده — تصمیم مالک)

docker-compose.yml (نسخه لوکال) هنوز توکن بله و کلید DeepSeek را به‌صورت پیش‌فرض (:-...) داخل خود دارد. قبل از هر پوش/جابه‌جایی سرور، چرخش کلیدها توصیه می‌شود.

7.6 KiB Raw Blame History Unescape Escape