API脚本

• API管理分发

  • LLM API 管理 & 分发系统 (opens new window)

• 思考过程脚本：

  • 显示思考过程转换项目 (opens new window) 源自：chadyi 大佬的 显示思考+搜索项目 (opens new window)

UI

openwebui (opens new window)

// Before proceeding, ensure you're using Python 3.11 to avoid compatibility issues.
pip install open-webui
open-webui serve //Running on  http://0.0.0.0:8080

Setting:

1. Enable Web Search Engine
2. Connections
   • OpenAI API
     • https://groq.com/
     • https://build.nvidia.com/
     • 硅基流动API官网：https://cloud.siliconflow.cn/i/jPI17VGX
     • 火山方舟API官网：https://console.volcengine.com
     • 阿里百炼API官网：https://www.aliyun.com/product/bailian
     • 深度求索API官网：https://platform.deepseek.com
   • Ollama API
     • http://localhost:11434

desktop

• cherry-ai (opens new window) 没有联网搜索功能，不过其中小程序如秘塔搜索使用了满血的deepseek可以补足

brower Extension

• Page Assist

AI+RAG

AnythingLLM The all-in-one Desktop & Docker AI application with built-in RAG, AI agents (opens new window)