一、什么是大模型参数 * 参数单位:B,billion(十亿) * 参数是什么? 大模型参数是通过海量数据训练得到的内部数值,用于存储知识关联并决定模型处理信息的方式。 * 举例1:参数就好比图书馆书架上的...

一、FastGPT 是什么 FastGPT 是一个基于大语言模型的开源知识库问答系统，目标是帮助用户快速构建专属 AI 助手，尤其适合企业内部文档问答和复杂知识检索场景。 二、FastGPT 的核心能力 2.1 知...

一、什么是 n8n n8n 是一款开源、可自托管、可视化的工作流自动化平台。你可以把它理解成一个“节点式自动化引擎”，通过拖拽节点把不同服务串起来，完成定时任务、数据同步、消息通知和 AI 自...

一、环境准备 说明：安装Prometheus+alertmanager的机器配置如下 CPU：2C 内存：4G 磁盘：40G 系统：Rocky9 1.1 安装Prometheus 下载包 如果该链接无法下载，可以使用代理 解压 编辑systemd脚本...

一、创建 Dify 资产管理应用 目标：通过自然语言来添加资产（主机） 1、创建空白应用、工作流模式 2、开始节点，添加变量input 3、添加获取当前时间节点 因为后面添加主机时，需要当前时间戳 4...

一、先准备云主机 1.1 AutoDL AutoDL 官网： `https://autodl.com/home` 它的优势通常是便宜、按量付费、适合做实验，但因为是容器化虚拟机，性能体验可能略差一些。 1.2 阿里云 / 腾讯云 GPU ...

一、K8s管理GPU资源技术架构 k8s默认不支持管理GPU 安装完英伟达驱动后支持管理GPU 二、K8s管理大模型服务方案 针对vLLM serve、Ollama serve等各类大模型服务，可以使用资源类型为Deployment进...

一、从 Hugging Face 获取公共数据集 地址： `https://huggingface.co/datasets` 1.1 安装命令行工具 默认前提是机器已经装好 Python 和 pip。 1.2 获取 Token 注册、登录并验证邮箱后，可以在...

一、先安装 Python 客户端 这里最好让 `pymilvus` 版本和 Milvus 服务版本尽量对应。 二、连接到 Milvus 最基础的连接方式如下： 三、创建集合 示例里使用的是 8 维向量，便于演示。 核心步骤包...

一、先认识什么是大模型 1.1 常见的大模型 常见的大模型： * ChatGPT * DeepSeek * 豆包 * 腾讯元宝 1.2 大模型的定义 大模型定义： * 大语言模型(LLM) * 关键字:大 --> 参数规模比较大、训...