- 一、开源模型一般去哪里找 * Hugging Face：`https://huggingface.co/models` * 魔塔社区：`https://modelscope.cn/models` 一、部署前先把思路定下来 1.1 先确定目标模型 例如以 `QWQ-32B` ...

一、什么是对话流 对话流本质上是一种专门面向对话场景的工作流，更适合： * 智能客服； * 个人助手； * 虚拟角色； * 需要多轮上下文的对话应用。 1.1 对话流和工作流的区别 最关键的差异在于...

一、整体流程是什么 这套工作流可以拆成 5 个核心节点： 1. 开始节点： * 接收用户输入。 2. 分镜节点： * 根据主题生成多张漫画画面的镜头描述。 3. 故事节点： * 根据分镜生成儿童绘本文案。 ...

一、为什么量化很重要 量化的本质是把模型从更高精度的数据格式压缩到更低精度，例如： * FP16 -> INT8 * FP16 -> INT4 这样做带来的主要收益有： * 模型体积更小； * 显存占用更低； * ...

一、这个智能体要完成什么 目标很明确： 1. 获取并读取一篇新闻或博客文章全文； 2. 生成一段简洁的中文摘要； 3. 分别为微博和 LinkedIn 生成一段文案。 这类工作流特别适合内容团队、运营团队...

一、Milvus 是什么 Milvus 是一个面向 AI 时代海量向量数据的高性能、可扩展、云原生开源向量数据库。 它的核心价值是： * 专为向量检索设计； * 支持大规模向量存储和相似搜索； * 适合推荐系...

一、DistillKit 是什么 DistillKit 是 Arcee.AI 开源的大模型蒸馏工具包，目标是让研究和工程团队更容易实践多种蒸馏方法。 它支持的主要方向包括： * 基于 logits 的蒸馏； * 基于隐藏状态的蒸...

一、超参数到底是什么 超参数（Hyperparameters）是在训练开始前就要设定好的参数，用来控制训练过程，而不是训练中自动学到的权重。 一个很直观的比喻是：超参数就像做菜前先决定盐、胡椒、火...

一、什么是智能体 AI Agent（智能体）是一种能够感知环境、做出决策并执行行动的软件系统。你可以把它理解成一个“能自己完成任务的 AI 助手”。 和传统聊天机器人相比，智能体不只是回答问题，...

一、先创建 HAI 实例 地址： `https://cloud.tencent.com/product/hai` 1.1 进入 HAI 控制台 打开官网后，点击“立即使用”。 1.2 新建算力实例 进入： `算力管理 -> 新建` 1.3 填写实例参数...