排序
RAGFlow 项目实战:做一个公司内部员工智能问答助手
一、项目目标 这个项目的目标是: * 把员工手册和培训手册导入 RAGFlow; * 做一个公司内部知识问答助手; * 再把它嵌入 OA 或企业内部页面。 二、准备知识文档 如果你没有现成资料,可以先用生...
AI克隆网站实战:从v0生成原型到二次开发
一、v0 是什么 v0.app 是 Vercel 推出的 AI 驱动建站工具,强调从自然语言描述快速生成 Web 应用原型或可部署前端。 类似工具还有: https://same.new/ 这类工具的共同优势是:能极快把“想法”...
RAG 入门:它是什么,解决了什么问题,核心原理是什么
一、什么是 RAG RAG 是 `Retrieval-Augmented Generation` 的缩写,中文通常翻译为“检索增强生成”。 它的核心思路非常直接: 1. 用户先提出问题; 2. 系统先去外部知识库里检索相关内容; 3. ...
大模型微调入门:为什么需要微调与常见技术路线
一、为什么需要微调 微调的核心价值,通常体现在下面几个方面: * 解决预训练模型“通用但不够专”的问题。 * 处理目标场景与预训练数据之间的数据分布差异。 * 在有限计算资源下,用更高效的方...
Dify+Ansible运维智能体:部署MCP并创建Agent
一、准备Ansible环境 如果你的电脑内存足够大(不少32G),可以开虚拟机做此部分使用,否则需要到阿里云购买按量付费的抢占式实例,实验完及时销毁,以免产生费用。 配置建议: CPU:2C 内存:4...
FastGPT 快速上手:配置模型、创建应用、工作流与知识库
一、先配置大模型 1.1 配置 DeepSeek 进入: `模型提供商 -> 模型配置` 搜索 `deepseek`,启用 `deepseek-chat`。 模型参数一般先保持默认即可: 然后到: `模型提供商 -> 模型渠道 ->...
Coze 快速上手:工作空间、工作流与基础体验
一、先认识 Coze 的基本入口 地址: `https://www.coze.cn/home` 进入之后,你通常会接触到几类核心入口: * 创建智能体; * 创建应用; * 工作空间; * 资源库; * 模板; * API。 工作空间主...
大模型运维监控入门:命令行工具、Prometheus 与 Grafana
一、先用命令行工具做最小监控 1.1 NVIDIA GPU:`nvidia-smi` 这是最基础也最常用的 NVIDIA GPU 监控工具,前提是已经安装好显卡驱动。 常见用法: 它最适合做: * 快速排查显存占用; * 看当前...
大模型推理优化总览:硬件、系统架构与服务部署
一、大模型优化的核心目标 优化通常围绕四个目标展开: * 降低延迟: * 尤其是首个 Token 时间和生成速度。 * 提高吞吐: * 在固定资源下服务更多请求。 * 降低成本: * 提升资源利用率,降低单...
商业大模型微调平台盘点:阿里云 PAI、硅基流动与讯飞星辰
一、阿里云 PAI 地址: `https://pai.console.aliyun.com/` 阿里云 PAI 提供了一站式的大模型训练与部署能力,比较适合已经在云上做 AI 研发,或者希望快速接入微调工作流的团队。 1.1 典型入口...











