最新发布第32页
大模型推理优化总览:硬件、系统架构与服务部署-AI运维探索者

大模型推理优化总览:硬件、系统架构与服务部署

一、大模型优化的核心目标 优化通常围绕四个目标展开: * 降低延迟: * 尤其是首个 Token 时间和生成速度。 * 提高吞吐: * 在固定资源下服务更多请求。 * 降低成本: * 提升资源利用率,降低单...
大模型微调超参数详解:从 Model Size 到 Temperature-AI运维探索者

大模型微调超参数详解:从 Model Size 到 Temperature

一、超参数到底是什么 超参数(Hyperparameters)是在训练开始前就要设定好的参数,用来控制训练过程,而不是训练中自动学到的权重。 一个很直观的比喻是:超参数就像做菜前先决定盐、胡椒、火...
CSS 常用属性:字体、文本与背景样式-AI运维探索者

CSS 常用属性:字体、文本与背景样式

一、字体属性 1.1 字体大小 1.2 字体粗细 1.3 字体类型 1.4 示例说明 1、创建一个名为css-study的文件夹并使用VSCode打开,再创建一个名为8-1.CSS常用属性-字体属性.html 2、双击【8-1.CSS常用...
CSS 引用方式:内部样式表与外部样式表-AI运维探索者

CSS 引用方式:内部样式表与外部样式表

一、内部样式表(写在head的style标签中) 适合:小 demo、学习练习、单页面快速写 优点:简单直接 缺点:代码多了会乱,不利于复用与维护 示例说明: 1、创建一个名为css-study的文件夹并使用V...
CSS 快速上手:颜色、尺寸、位置与背景实践-AI运维探索者

CSS 快速上手:颜色、尺寸、位置与背景实践

一、设置CSS颜色和大小 1.1 文字颜色color 颜色写法常见有三种: - 英文单词:`red`、`blue` - 十六进制:`ff0000`(红) - rgb:`rgb(255, 0, 0)` 1.2 字体大小 font-size 初学阶段最常用单位...
CSS 盒模型实战:border、padding 与 margin-AI运维探索者

CSS 盒模型实战:border、padding 与 margin

一、边框border 1.1 基本写法 解释: - `1px`:边框宽度 - `solid`:实线(还有 `dashed` 虚线) - `333`:颜色 1.2 单边设置 1.3 圆角 border-radius 1.4 示例说明 1、创建一个名为css-study的...
CSS 选择器实战:标签、类、ID 与属性选择器-AI运维探索者

CSS 选择器实战:标签、类、ID 与属性选择器

一、标签选择器 直接写标签名,选中所有该标签: 特点:范围大,容易“全局影响” 示例说明: 1、创建一个名为css-study的文件夹并使用VSCode打开,再创建一个名为7-1.CSS引用方式-标签选择器.h...
大模型微调入门:为什么需要微调与常见技术路线-AI运维探索者

大模型微调入门:为什么需要微调与常见技术路线

一、为什么需要微调 微调的核心价值,通常体现在下面几个方面: * 解决预训练模型“通用但不够专”的问题。 * 处理目标场景与预训练数据之间的数据分布差异。 * 在有限计算资源下,用更高效的方...
大模型微调怎么选:技术选型与 SFT、DPO、PPO、RLHF-AI运维探索者

大模型微调怎么选:技术选型与 SFT、DPO、PPO、RLHF

- 一、技术选型时先看什么 - 1.1 按任务复杂度选 * 高复杂度任务: * 例如多轮对话、复杂推理、长文本生成。 * 更适合全参数微调或指令微调。 * 低复杂度任务: * 例如简单分类、关键词提取。 *...
大模型微调数据集入门:常见分类与数据格式-AI运维探索者

大模型微调数据集入门:常见分类与数据格式

一、什么是大模型微调数据集 简单说,微调数据集就是一批专门为某个目标准备的数据,用来让一个已经很强的通用模型,进一步学会特定任务、特定风格或特定领域知识。 二、常见数据集分类 2.1 指...