AI工具
聊天UILLM开源
⭐ 37 · Python
基于Model Context Protocol的开源MCP服务器，专为AI辅助API开发设计。提供智能反馈循环机制，帮助开发者通过LLM快速迭代API设计和测试。适合需要AI辅助开发流程的API开发者和LLM应用开发者。
MCPAPI开发LLM
⭐ 16 · Python
基于LangChain的开源LLM基准测试框架。支持对大语言模型进行对抗性测试和性能评估，提供完整的工作流编排能力。适合AI研究人员、开发者和教育工作者进行模型评测和优化。
LLM基准测试对抗测试工作流
⭐ 14 · Python
AI工具
LLM网关API代理密钥管理
⭐ 9 · Python
AI工具
AI代理工作流自动化
⭐ 8 · Shell
专为大语言模型设计的内存架构优化工具，将优化策略转化为可执行Python代码。支持自动内存管理和性能调优，适合LLM应用开发者和AI工程师提升模型运行效率。
LLM优化内存管理Python工具
⭐ 8 · Python
基于AI的研究行政文档智能处理平台。整合LLM和RAG技术，提供文档解析、智能检索和信息提取能力。采用FastAPI构建高效API，适合科研机构、高校和企业研究部门的文档管理与流程自动化。
文档智能RAGFastAPI
⭐ 7 · Python
基于LLM-WIKI开发的开源个人知识库AI管家。提供智能知识整理、检索和问答能力，帮助用户建立个人数字大脑。适合知识工作者、研究人员和学生管理和利用个人知识库。
知识库AI助手LLM应用
⭐ 6 · Python
AI工具
自主Agent工作流编排LLM工程
⭐ 6 · Jupyter Notebook
JAiRouter is a Spring Boot based model service routing and load balancing gatewa。⭐9 · Java
installableaijava
⭐ 9 · Java
Security-first proxy for Large Language Models。⭐7 · Python
installablellmprompt-injection
⭐ 7 · Python
Community-maintained registry of AI/LLM model configurations - pricing, features。⭐7
installableanthropicaws-bedrock
⭐ 7
Peer-to-peer generative-AI platform that matches LLM users with volunteers donat。⭐6 · Python
installablegenaillm
⭐ 6 · Python
专为Mac平台优化的LLM推理工具，采用连续批处理和SSD缓存管理技术加速模型推理。支持Apple Silicon芯片，提供高效的本地推理服务器能力，适合Mac用户部署私有AI模型和聊天应用。
LLM推理Mac优化Apple Silicon
⭐ 6 · Python
轻量级开源LLM编排框架，专注于简化AI工作流构建。提供模块化设计，适合开发者快速搭建智能应用、多步骤任务编排和LLM调用管理，降低AI应用开发门槛。
LLM编排工作流引擎Python框架
⭐ 6 · Python
vortex AI技能包是可安装AI技能包，知识检索、检索增强生成（RAG）。安装后AI可调用专属能力，适合开发者和运营人员。
installabledocument-chatembeddings
⭐ 17 · TypeScript
mt_llm AI技能包是可安装AI技能包。安装后AI可调用专属能力，适合开发者和运营人员。
installableinferencellama-cpp
⭐ 15 · C++
🛠
aisecuritygateway AI技能包
AI工具
6.3
aisecuritygateway AI技能包是可安装AI技能包，可自托管。安装后AI可调用专属能力，适合开发者和运营人员。
installableai-proxyai-proxy-service
⭐ 12 · Python
notor AI技能包是可安装AI技能包。安装后AI可调用专属能力，适合开发者和运营人员。
installableknowledge-graphknowledge-management
⭐ 11 · TypeScript
Open source macOS installer to run local AI on your Mac with LM Studio + OpenCla。⭐6 · Swift
installableinstallerllm
⭐ 6 · Swift