排序
大模型推理优化总览:硬件、系统架构与服务部署
一、大模型优化的核心目标 优化通常围绕四个目标展开: * 降低延迟: * 尤其是首个 Token 时间和生成速度。 * 提高吞吐: * 在固定资源下服务更多请求。 * 降低成本: * 提升资源利用率,降低单...
Coze自定义插件入门:基于API和IDE创建插件
一、基于 API 创建 Coze 自定义插件 1、先搞定API资源网站 测试站点:https://www.tianapi.com 注册账户 点击首页https://www.tianapi.com/ 找到“渣男语录” 点击进去,然后点“申请接口” 点...
Dify RAG 实战:知识库应用与智能客服落地
一、在 Dify 中创建知识库 入口: `知识库 -> 创建知识库` 上传文件后,一般可以先保持默认分段配置,然后点击保存并处理。 二、把知识库绑定到应用 创建一个新应用时,可以直接把知识库挂进...
OpenClaw部署实战:云主机、本地虚拟机与基础安装
一、OpenClaw 部署方式概览 1.1 云主机部署 由于OpenClaw非常火爆,越来越多的云平台(腾讯云、阿里云、百度云、火山引擎)支持一键部署 1.2 腾讯云一键部署 OpenClaw 官方教程:https://cloud.tenc...
常见主流闭源大模型盘点
一、主流闭源大模型概览 | 模型 | 代表模型 | 公司 | 特点 | | -------- | ---------------------- | ------------ | ------------------------------------------------------------ | | GPT ...
Dify+Jenkins实战:搭建Jenkins并手动部署前端项目
一、部署Jenkins环境 操作系统:Rocky9 1、使用dnf安装Jenkins 2、初始化Jenkins http://ip:8080 查看密码 输入密码,安装插件 3、安装nodejs 右上角点击设置按钮 点插件管理 下载nodejs 再点击...
大模型行业选型建议:金融、医疗、制造与教育
一、金融行业 | 细分领域 | 核心要求 | 推荐模型 | 关键能力 | | ---------- | ------------------------ | --------------- | ------------------------------ | | 投研、分析 | 招股书解析、...
n8n 快速实战:DeepSeek 凭证与天气邮件工作流
一、先配置大模型凭证 进入 n8n 后,先创建 DeepSeek 的 credential。 这里同样建议只记录占位变量: * `DEEPSEEK_API_KEY=` 二、基于模板体验 n8n n8n 官方有很多现成模板,适合快速理解工作流...
大模型参数入门:从规模到主流模型量级
一、什么是大模型参数 * 参数单位:B,billion(十亿) * 参数是什么? 大模型参数是通过海量数据训练得到的内部数值,用于存储知识关联并决定模型处理信息的方式。 * 举例1:参数就好比图书馆书架上的...
OpenClaw配置大模型与Gateway:接入模型、理解控制中枢
一、配置 OpenClaw 大模型 本教程基于(codex)gpt大模型中转站 1、注册 注册地址:https://codexzh.com/ 2、购买套餐 如果是试用,可以购买日卡套餐,这里建议购买月卡(标准)套餐 大家不仅可...









