Tech Explorer Logo

搜索内容

aigc

共 14 篇文章
大模型工具对比:SGLang, Ollama, VLLM, LLaMA.cpp如何选择?

大模型工具对比:SGLang, Ollama, VLLM, LLaMA.cpp如何选择?

本文深入对比分析了SGLang、Ollama、VLLM、LLaMA.cpp等主流大模型部署工具的技术特点、性能表现和最佳实践。从架构设计、推理性能、资源消耗、易用性、部署难度等多个维度进行全面评测,并结合具体应用场景提供详细的选型建议,帮助读者快速掌握这些强大的AI模型部署工具。

13 min read AIGC
AI Models SGLang Ollama VLLM LLaMA.cpp 人工智能 大模型
InternLM-XComposer-2.5-OmniLive(浦语·灵笔2.5)中文教程:多模态AI模型从入门到实践 | 图像/视频/音频处理

InternLM-XComposer-2.5-OmniLive(浦语·灵笔2.5)中文教程:多模态AI模型从入门到实践 | 图像/视频/音频处理

详细介绍InternLM-XComposer-2.5-OmniLive(浦语·灵笔2.5)多模态大模型的安装部署、实践教程和性能评测。支持图像、视频、音频等多模态输入,提供完整的中文API使用示例,包含环境配置、模型训练、推理部署等全流程指南。

6 min read AIGC
浦语·灵笔2.5 多模态大模型 视觉语言模型 InternLM-XComposer-2.5-OmniLive InternLM-XComposer
LightRAG、部署、使用指南:最简单的本地化RAG系统构建教程

LightRAG、部署、使用指南:最简单的本地化RAG系统构建教程

深入解析轻量级RAG系统LightRAG的完整教程,从基础概念、架构设计到实战部署。包含详细的代码示例、性能优化技巧、最佳实践案例,以及与主流LLM的集成方案。无论你是AI开发者还是技术爱好者,都能通过本教程快速掌握RAG技术,搭建高效的智能问答和知识库系统。本文重点介绍LightRAG的轻量级特性、双重检索机制、灵活的模型支持等创新设计。

11 min read AIGC
RAG系统 LightRAG LLM应用开发 知识图谱 智能问答 AI教程 大模型应用
第 1 页 / 共 2 页 共 14 篇文章