工程实践 第5页
排序
vLLM 私有化部署实战：模型下载、服务启动与接口测试-AI运维探索者

vLLM 私有化部署实战：模型下载、服务启动与接口测试

一、先准备云主机 示例里使用的是 AutoDL。 官网： `https://www.autodl.com/` 二、安装 vLLM 参考文档： `https://docs.vllm.ai/en/latest/getting_started/installation/gpu.html` 如果系统里...
大模型工程
头像7个月前
03812
Unsloth 微调 Qwen3-4B 实战：训练、推理与 vLLM 部署-AI运维探索者

Unsloth 微调 Qwen3-4B 实战：训练、推理与 vLLM 部署

一、先配置训练器 示例里使用的是 `SFTTrainer`： - 二、几个关键超参数怎么理解 * `gradient_accumulation_steps`： * 用梯度累积模拟更大的 batch。 * `warmup_steps`： * 训练初期逐步升高学...
大模型工程
头像7个月前
0247
Unsloth 微调 Qwen3-4B 实战：环境、模型加载与 LoRA 配置-AI运维探索者

Unsloth 微调 Qwen3-4B 实战：环境、模型加载与 LoRA 配置

- 一、先看硬件和软件要求 - 1.1 硬件要求 * GPU：至少 10GB 显存，例如 T4、V100 或更高。 * 内存：至少 16G。 * 存储：建议 50G 以上。 - 1.2 软件环境 * Linux（推荐 Ubuntu） * Python 3.8 ...
大模型工程
头像7个月前
04914
云原生开发入门：编程语言、变量、数据结构与逻辑控制-AI运维探索者

云原生开发入门：编程语言、变量、数据结构与逻辑控制

一、认识开发语言 点击[开发语言排行](https://www.tiobe.com/tiobe-index/)查看2023年开发语言排行 点击[开发语言从业者收入](https://codesubmit.io/blog/software-engineer-salary-by-countr...
Go
头像3年前
02710
Go 项目容器化部署：Docker 与 Kubernetes 上线实践-AI运维探索者

Go 项目容器化部署：Docker 与 Kubernetes 上线实践

一、使用Docker容器化部署Go语言微服务 1.1 安装Docker 1.1 Rocky9安装Docker 1、每台主机关闭防火墙、swap分区、dnsmasq、selinux (1)在每台机器上执行以下命令关闭防火墙 (2)在每台机器上执行...
Go
头像3年前
0425
Go 错误处理实战：error、panic、defer 与 recover-AI运维探索者

Go 错误处理实战：error、panic、defer 与 recover

一、前言 本文主要以下几方面介绍Go语言中错误处理Error: * 为什么需要异常处理 * 不同开发语言错误处理方式 * Error初体验 * 自定义Error * 异常终止收尾处理defer * 异常捕获recover 二、为什...
Go
头像3年前
0495
Go 结构体实战：定义、方法、接收者与嵌套-AI运维探索者

Go 结构体实战：定义、方法、接收者与嵌套

一、前言 本文主要以下几方面介绍Go语言中的结构体: * 初识结构体 * 结构体初体验 * 结构体操作和比较 * 结构体自定义方法 * 结构体方法接收者类型 * 结构体嵌套 二、初识结构体 2.1 基本含义 G...
Go
头像3年前
04912
Go 数据结构与数据处理：数组、切片、Map、字符串和指针-AI运维探索者

Go 数据结构与数据处理：数组、切片、Map、字符串和指针

一、Go数据结构-数组基本使用 1.1 什么是数组 在 Go 语言中，数组（Array）是一种用于存储一组相同类型元素的数据结构。数组的长度是固定的，一旦定义后，其大小不能改变。数组在 Go 中是值类型...
Go
头像3年前
0508
Go 接口实战：interface、空接口、类型断言与接口嵌套-AI运维探索者

Go 接口实战：interface、空接口、类型断言与接口嵌套

一、前言 本文主要以下几方面介绍Go语言中接口: * 初识接口 * 接口使用 * 空接口 * 类型断言 * 接口嵌套 二、初识接口 2.1 理解接口 对于Go语言中的接口，我们可以从现实生活出发，可以更好的理...
Go
头像3年前
0436
Go 开发环境搭建：VSCode 与基础工具链配置-AI运维探索者

Go 开发环境搭建：VSCode 与基础工具链配置

一、安装VSCode 1.点击[VSCode官网](https://code.visualstudio.com/download)，选择对应的版本进行下载，这里我是windows 2.双击安装包，点击【下一步】 3.选择安装目录，点击【下一步】 4.点...
Go
头像3年前
0248
1…3456