使用AI技术实现OBS本地语音识别和字幕功能,提高直播质量和互动性
ailive-streaminglivestream
⭐ 1.5k · C++
A SOTA量化算法,实现高精度低位LLM推理,提高推理效率,降低推理成本。
quantizationLLMinference
⭐ 1.4k · Python
Awesome-LLM-RAG是开源的AI工具,提供了一个可用的列表,用于高级检索增强生成(RAG),帮助开发者更好地利用大语言模型。
installableembeddingslarge-language-models
⭐ 1.3k
🛠
开源AI工具:高性能LLM、VLM、DiT和REC模型推理引擎
AI工具
7.5
高性能LLM、VLM、DiT和REC模型推理引擎,优化性能,适用于各种AI应用场景
inferencelarge-language-modelsc++
⭐ 1.3k · C++
一款开源AI工具,帮助您管理和分析来自多个LLM提供商的请求,提高效率和准确性。
aiai-gatewayanalytics
⭐ 1.2k · TypeScript
RTP-LLM是阿里巴巴开源的高性能LLM推理引擎,支持多种应用场景,提供高效的推理能力,适合于大规模的LLM应用。
gptinferencellm
⭐ 1.1k · Cuda
AIConfig是一款基于配置的框架,用于构建生成性AI应用。它提供了一个灵活的配置系统,允许开发者轻松创建和管理AI应用。
aideveloper-toolsgenerative-ai
⭐ 1.1k · Python
Virtualized Elastic KV Cache for Dynamic GPU Sharing and Beyond,提供虚拟化弹性KV缓存功能,支持动态GPU共享和超越。
elastic-kvcachegpu-mutiplexinggpu-sharing
⭐ 1.0k · Python
NodePad是一款开源AI工具,旨在使用AI来增强思考,而不是取代它。它是一款空间研究工具,探索使用AI来增强思考的可能性。
installabletypescript
⭐ 1.0k · TypeScript
RAFT包含机器学习中的基础算法和原语,提供广泛使用的算法和原语,提高AI开发效率。
annsbuilding-blocksclustering
⭐ 1.0k · Cuda
AI工具
installableaiamd
⭐ 971 · Python
AI工具
bootstrapbootstrap-website-builderbootstrap4
⭐ 967 · CSS
笔丁安全引存语音試中文笔记一个有入于一个安全引存语音試中文笔记的为常安全引存语音試中文笔记
asraudiodetection
⭐ 952 · Python
Chromem-go是一款开源的AI工具,提供了一个可嵌入的向量数据库,支持Chroma-like接口,且不依赖第三方库。它可以用于计算余弦相似度等任务,具有高效和易用的特点。
chromachromadbcosine-similarity
⭐ 949 · Go
RAG-Fusion是一种多查询生成+互补排名融合的方法,用于改进检索增强生成。它包括了NFCorpus/BEIR的评估工具。
chromadbinformation-retrievalopenai
⭐ 937 · Python
NobodyWho是本地运行LLMs的高效引擎,开源AI工具
airust
⭐ 930 · Rust
本語中文笔记器,当前为常用的为统计类一的中文笔记器,当前给一个有公章的中文笔记器。
tag1tag2tag3
⭐ 909 · Swift
ChatLLM-CPP是纯C++实现的实时聊天AI工具,支持多种模型,易于安装和使用。
installablellmllm-inference
⭐ 881 · C++
四学笔记粗语法成员AI模式,安被机器成员模式和四学服务器为给,安被四学成员模式和四学服务器为给!
installableaichrome-extension
⭐ 873 · TypeScript
🛠
基于 LangChain.js 的无服务器 AI 聊天
AI工具
7.5
使用 LangChain.js、TypeScript 和 Azure 构建自己的无服务器 AI 聊天,结合 Retrieval-Augmented-Generation 技术
ai-azd-templatesazd-templatesazure
⭐ 856 · TypeScript