排序
vLLM 集群模式部署：Ray、多机多卡与远程访问
一、先准备机器 示例建议： * 优先使用阿里云。 * GPU 选 A10 或更高等级。 * 不建议选 T4，这类卡在大模型集群场景下通常偏弱。 二、部署前准备 2.1 安装驱动和 CUDA 所有机器都要完成这一步。...
7个月前
vLLM 私有化部署实战：模型下载、服务启动与接口测试
一、先准备云主机 示例里使用的是 AutoDL。 官网： `https://www.autodl.com/` 二、安装 vLLM 参考文档： `https://docs.vllm.ai/en/latest/getting_started/installation/gpu.html` 如果系统里...
7个月前
Unsloth 微调 Qwen3-4B 实战：训练、推理与 vLLM 部署
一、先配置训练器 示例里使用的是 `SFTTrainer`： - 二、几个关键超参数怎么理解 * `gradient_accumulation_steps`： * 用梯度累积模拟更大的 batch。 * `warmup_steps`： * 训练初期逐步升高学...
7个月前
Unsloth 微调 Qwen3-4B 实战：环境、模型加载与 LoRA 配置
- 一、先看硬件和软件要求 - 1.1 硬件要求 * GPU：至少 10GB 显存，例如 T4、V100 或更高。 * 内存：至少 16G。 * 存储：建议 50G 以上。 - 1.2 软件环境 * Linux（推荐 Ubuntu） * Python 3.8 ...
7个月前
智能体入门：什么是 AI Agent，核心要素和主流平台有哪些
一、什么是智能体 AI Agent（智能体）是一种能够感知环境、做出决策并执行行动的软件系统。你可以把它理解成一个“能自己完成任务的 AI 助手”。 和传统聊天机器人相比，智能体不只是回答问题，...
8个月前
开源版 Coze 私有部署实战：用 Docker 跑起 Coze Studio
一、先准备机器 一个入门级实验环境就够了： * CPU：2C * 内存：4G * 磁盘：40G * 系统：Ubuntu 22.04 如果你只是做实验，使用云上的抢占式实例会更省钱，用完及时销毁即可。 二、安装 Docker ...
8个月前
n8n 节点详解：触发器、控制流、循环、合并与等待
一、触发器节点 1.1 Manual Trigger 最简单的触发器，点击后立即运行，适合调试。 1.2 Schedule Trigger 定时触发，作用类似 Linux 的 Crontab。 1.3 Webhook Webhook 会给你一个 URL，只要访问...
8个月前
n8n 节点详解：Code、数据处理、数据库与飞书集成
一、Code 节点 Code 节点是 n8n 里最灵活的节点之一，适合做： * 高级数据转换； * 自定义逻辑； * 聚合与计算； * 循环处理； * 复杂格式整理。 1.1 两种常见模式 Run Once for All Items 只执...
8个月前
n8n 快速实战：DeepSeek 凭证与天气邮件工作流
一、先配置大模型凭证 进入 n8n 后，先创建 DeepSeek 的 credential。 这里同样建议只记录占位变量： * `DEEPSEEK_API_KEY=` 二、基于模板体验 n8n n8n 官方有很多现成模板，适合快速理解工作流...
8个月前
n8n 入门与部署：什么是 n8n，如何用 Docker 跑起来
一、什么是 n8n n8n 是一款开源、可自托管、可视化的工作流自动化平台。你可以把它理解成一个“节点式自动化引擎”，通过拖拽节点把不同服务串起来，完成定时任务、数据同步、消息通知和 AI 自...
8个月前