一、K8s管理GPU资源技术架构 k8s默认不支持管理GPU 安装完英伟达驱动后支持管理GPU 二、K8s管理大模型服务方案 针对vLLM serve、Ollama serve等各类大模型服务，可以使用资源类型为Deployment进...

一、先准备云主机 1.1 AutoDL AutoDL 官网： `https://autodl.com/home` 它的优势通常是便宜、按量付费、适合做实验，但因为是容器化虚拟机，性能体验可能略差一些。 1.2 阿里云 / 腾讯云 GPU ...

一、什么是大模型微调数据集 简单说，微调数据集就是一批专门为某个目标准备的数据，用来让一个已经很强的通用模型，进一步学会特定任务、特定风格或特定领域知识。 二、常见数据集分类 2.1 指...

一、配置 OpenClaw 大模型 本教程基于（codex）gpt大模型中转站 1、注册 注册地址：https://codexzh.com/ 2、购买套餐 如果是试用，可以购买日卡套餐，这里建议购买月卡（标准）套餐 大家不仅可...

一、规划 OpenClaw 多 Agent 组织架构 思路： 基于多个飞书机器人应用实现，OpenClaw一个主Agent，多个子Agent，每个Agent都有单独的一个workspace，每个飞书机器人对应一个Agent 1.1 设计组织...

一、在钉钉开发者平台创建应用 1、创建企业内部应用 访问钉钉开发者后台（https://opendev.dingtalk.com/），选择“钉钉应用”，点击“创建应用” 定义应用名称、应用描述 2、添加「机器人」能...

一、超参数到底是什么 超参数（Hyperparameters）是在训练开始前就要设定好的参数，用来控制训练过程，而不是训练中自动学到的权重。 一个很直观的比喻是：超参数就像做菜前先决定盐、胡椒、火...

一、Milvus 是什么 Milvus 是一个面向 AI 时代海量向量数据的高性能、可扩展、云原生开源向量数据库。 它的核心价值是： * 专为向量检索设计； * 支持大规模向量存储和相似搜索； * 适合推荐系...

- 一、开源模型一般去哪里找 * Hugging Face：`https://huggingface.co/models` * 魔塔社区：`https://modelscope.cn/models` 一、部署前先把思路定下来 1.1 先确定目标模型 例如以 `QWQ-32B` ...

一、什么是大模型参数 * 参数单位:B,billion(十亿) * 参数是什么? 大模型参数是通过海量数据训练得到的内部数值,用于存储知识关联并决定模型处理信息的方式。 * 举例1:参数就好比图书馆书架上的...