跳至主要内容

在 LSF 中使用 docker 运行任务

LSF + Docker

1 环境信息

docker 18.09.5
Kernel Version: 3.10.0-862.11.6.el7.x86_64
lsf 10.1.0.6
OS CentOs 7.6.1810

2 修改配置文件在 lsf 上启用 docker

1.conf/lsf.conf
  • 添加/修改
LSF_PROCESS_TRACKING=Y

LSF_LINUX_CGROUP_ACCT=Y

LSB_RESOURCE_ENFORCE="cpu memory"
2.conf/lsf.shared
  • 添加
docker     Boolean ()       ()          (Docker container)
3.conf/lsf.cluster
  • 添加
$your-host-name   !   !   1  3.5 () () (docker) 
4./conf/lsbatch/$clustername/configdir/lsb.applications
  • 添加
Begin Application

NAME = app1

CONTAINER = docker[image(ubuntu:latest) options(--rm --network=host --ipc=host -v /etc/passwd:/etc/passwd  -v /etc/group:/etc/group) starter(root)]

DESCRIPTION = Test Docker Application Profile 1

End Application
5.badmin reconfig 验证是否可用

3 验证

在非 root 用户下, bsub -app app1 -I cat /etc/lsb-release
DISTRIB_ID=Ubuntu
DISTRIB_RELEASE=18.04
DISTRIB_CODENAME=bionic
DISTRIB_DESCRIPTION="Ubuntu 18.04.2 LTS"

4 部署常见问题

1.badmin reconfig 出现 bad keyword CONTAINER:
  • lsf 版本过低,升级 lsf 版本
2.修改之后未发现 docker 容器
  • 首先确保 docker run 可用
  • 确定 application 中的 EXEC_DRIVER 路径正确
  • 确定 lsf.shared 中配置没有填错
Author: Byron.wang
Created: 2019-05-16 Thu 11:48

评论

此博客中的热门博文

k8s 源码阅读 -- eviction

Table of Contents 1. 前言 2. 资料 3. 代码详解 3.1. 代码参考 3.2. 详细 1  前言 在某些情况下 k8s 会出现 evicted 的 pod, 然而这并不在  pod 的生命周期 中.这就是 k8s 的驱逐机制。 当机器的一些资源(内存、磁盘)过小时,为了保证 node 不会受到影响,会将 pod 驱逐至其他的机器上 2  资料 可以在  这里看到相关资料 来看一下代码中,驱逐策略是怎样实现的 3  代码详解 3.1  代码参考 kubernetes release-1.10 3.2  详细 pkg/kubelet/apis/kubeletconfig/v1beta/default.go 定义了这几个默认值作为阈值 pkg/kubelet/kubelet.go kubelte 初始化了 eviction manager 在 runtime 相关模块被加载时,eviction manager 被加载进来 开始了 evict 相关的控制循环 接下来是 evict 真正工作的代码 代码目录是 pkg/kubelet/eviction/ 主要看该目录下的两个文件 eviction manager.go  helpers.go pkg/kubelet/eviction/eviction manager.go Start 是 evict manager 的入口 这里是一个死循环 循环中的主要函数是 synchronize 用来清理 pod、同步信息。这个就是今天的主角 先看一下 synchronize 的参数 diskInfoProvider podFunc diskInfoProvider 是一个接口,用来提供磁盘的信息,作为是否发生驱逐的依据。实际函数在  pkg/kubelet/stats/  下 synchronize 中仅用到了 HasDedicatedImageFs podFunc 用来获取一个待检查的 pod 列表,实际函数在 pkg/kubelet/kubelet pods.go 首先检查 imagesfs, 数据从 cadvisor 中获取 获得容器

kubernetes cloud controller manager

kubernetes cloud controller manager Table of Contents 1. 什么是 cloud controller manager(ccm) 2. 能用 ccm 干什么 2.1. 现有的 ccm 2.1.1. In Tree 2.1.2. Out of Tree 3. 如何实现一个 ccm 4. ccm 背后的秘密 4.1. Out of Tree ccm 如何工作 5. 参考链接 本文所有代码基于 1.16.0-alpha.2 commit: bdde11a664 所以引用文档版本为 1.15.0 1  什么是 cloud controller manager(ccm) 在说 ccm 之前要了解一个 ccm 的前身 – cloud provider cloud provider 是为了 k8s 更加容易在公有云环境下而提出的一个方案 比如在 aws azure 等环境下可以让 k8s 的资源与云厂商的资源进行匹配 具体的演进路线等可以阅读  这篇文章 2  能用 ccm 干什么 在思索 ccm 可以做什么时,要思考一个问题:kubernetes 的核心价值在于哪里? 云主机厂商的本质上是在售卖计算资源与服务,而 k8s 的价值是在于管理与调度容器 正如 k8s 描述的一样: Production-Grade Container Scheduling and Management k8s 更加关心容器的调度与管理,其他的资源也都是为了容器而服务的 那么有什么资源对于 k8s 来说是可以被替代的? 负载均衡、路由、主机 k8s 不关心主机是实际在东京还是西雅图,也不关心负载均衡具体是如何实现的 它只需要主机上的 kubelet 在正常运行,可以通过负载均衡访问到暴露的服务 而这些恰恰是云厂商最为关心的事情,主机的配置、主机的位置、负载均衡的实现、路由如何到达 这时候再来看 ccm 的接口 LoadBalancer() (LoadBalancer, bool) Instances() (Instances, bool) Zones() (Zones, bool) Clusters() (Clusters, bool) Routes(