排序
Kubernetes特殊资源保留实战:把GPU节点留给真正需要的工作负载
一、K8s节点特殊资源保留 当 Kubernetes 中存储特殊节点时,应该尽量保持不要特殊资源的 Pod 不要调度到这些节点上,此时可以通过污点进行控制。 假如包含了GPU的节点不能被任意调度 具有其它特...
Helm实战:手动编写第一个Chart
一、手动编写 Chart 的整体流程 - 1、创建目录; - 2、创建helm所需的文件; - 3、写入数据; - 4、--dry-run检查验证; - 5、部署; **安装chart:** 创建目录 创建helm所需的文件 通过如下命...
Kubernetes管理GPU和大模型技术体系
一、K8s管理GPU资源技术架构 k8s默认不支持管理GPU 安装完英伟达驱动后支持管理GPU 二、K8s管理大模型服务方案 针对vLLM serve、Ollama serve等各类大模型服务,可以使用资源类型为Deployment进...
Ingress-Nginx 入门:诞生背景、概念与工作原理
一、Ingress诞生背景 1、K8S集群内SVC不支持外部访问; 2、通过NodePort方式不易于后续管理; 3、应用层面需要更高级别的路由功能和负载平衡; 二、Ingress基本概念 在Kubernetes集群中,Ingres...
去 Eureka 化改造:修改 receive 与 handler 的配置文件
一、重新修改代码配置文件 1、修改demo-receive的代码配置文件 原本demo-receive的代码配置文件 新增demo-receive的代码配置文件 2、修改demo-handler的代码配置文件 原本demo-handler的代码配...
Jenkins 接入 Kubernetes:添加集群与设计 Slave 容器
一、在 Jenkins 上添加 K8s 1.依次点击【Manage Jenkins】-【Manage Nodes and Clouds】 2.点击【Configure Clouds】 3.点击 【Add a new cloud】,选择 kubernetes 4.在名称字段,输入集群的名...
什么是 Ingress:核心能力、发布架构、组件组成与高可用设计
一、什么是 Ingress Ingress为Kubernetes集群中的服务提供了入口,Ingress 可为 Service 提供外部可访问的 URL、负载均衡流量、终止 SSL/TLS,以及基于名称的虚拟托管。在生产环境中常用的Ingre...
Kubernetes 大规模集群:apiserver 性能优化与分析
一、参数调整 kube-apiserver 以下两个参数可以控制连接数: 节点数量在 1000 - 3000 之间时,推荐: 节点数量大于 3000 时,推荐 当集群中 node 以及 pod 数量非常多时可以稍微调大: - 二、api...
Service进阶用法与服务发现
一、使用Service代理外部服务 如果我们使用Service代理k8s外部服务,可能适应于以下场景: * 希望在生产环境中使用某个固定的名称而非 IP 地址访问外部的中间件服务 * 希望 Service 指向另一个 N...
EFK 部署实战:Fluentd 原理与在 K8S 中采集容器日志
一、Fluentd采集组件 1.1 前言 Fluentd 是一个高效的日志聚合器,是用 Ruby 编写的,并且可以很好地扩展。对于大 部分企业来说,Fluentd 足够高效并且消耗的资源相对较少。 另外一个工具 Fluent...









