Hugging Face Pro

目標:做一個本機優先的開源 AI 模型管理與聊天工具，集中管理模型、資料集和推論紀錄。 技術棧建議:Python FastAPI + SQLite + React，模型推論優先整合 Ollama，另提供 llama.cpp 或 Transformers 的可選介面。 需求: - 掃描並登錄本機模型資料夾，記錄模型名稱、版本、大小、格式與檔案雜湊 - 支援從 Hugging Face 公開模型頁貼上網址或模型 ID，下載模型檔案與 README metadata - 顯示下載進度、剩餘容量、失敗重試與取消下載 - 支援 Ollama 模型清單、啟動、停止與刪除 - 提供聊天介面，支援串流輸出、停止生成、重新生成與對話歷史 - 可調整溫度、top_p、最大 token、上下文長度等推論參數 - 對話可加入本機文字、Markdown、PDF 檔案作為簡易上下文來源 - 建立模型比較頁，可用同一段提示依序呼叫兩個模型 - 儲存提示詞、模型設定與推論結果，支援標籤與搜尋 - 顯示模型的記憶體需求、目前載入狀態與最近使用時間 - 對話、提示詞、模型 metadata 與評測結果可匯出為 JSON、Markdown、CSV - 所有資料預設留在本機，提供資料庫與設定檔位置的檢視功能 明確不做(out of scope):模型訓練與微調、多人協作、私有雲端儲存、Spaces 託管、社群留言、付費推論 API、繞過模型授權限制。 README 要求:說明支援的模型格式與授權責任、安裝與啟動步驟、Ollama 設定、硬體需求、資料位置、模型匯入與完整匯出方式。