Registr容器镜像服务端怎么实现

69次阅读
没有评论

共计 5839 个字符,预计需要花费 15 分钟才能阅读完成。

今天丸趣 TV 小编给大家分享一下 Registr 容器镜像服务端怎么实现的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我们一起来了解一下吧。

相关开源项目

目前容器镜像服务相关的开源项目主要有以下两个。

Registry 

Harbor 

Registry 具有基本的镜像上传、下载以及对接第三方鉴权的能力。Harbor 则基于 Registry 做了相应的企业级扩展的项目。提供了更多权限、审计、镜像等功能,目前是 CNCF 孵化项目之一。其他详情参考相关文章。这篇文章主要讲解 Registry 项目的存储细节。

镜像细节

在了解服务端之前,我们来了解一下客户端的镜像容器的存储环境。

联合文件系统 UnionFS(Union File System)

Docker 的存储驱动的实现是基于 UnionFS。简单列举一下 UnionFS 下存储镜像的一些特点。

首先,UnionFS 是一个分层的文件系统。一个 Docker 镜像可能有多个层组成(注意他们是有顺序的)。

其次,只有顶层是可写的,其它层都是只读的。这样的机制带来的好处是镜像层可以被多个镜像共享。对于 Docker 镜像来说,所有层都是只读的。当一个镜像运行时,会在该镜像上增加一个容器层。十个相同的镜像启动,仅仅是增加十个容器层。销毁容器时也仅仅是销毁一个容器层而已。

UnionFS 是一个分层的文件系统。一个 Docker 镜像可能有多个层组成(注意他们是有顺序的)。

只有顶层是可写的,其它层都是只读的。这样的机制带来的好处是镜像层可以被多个镜像共享。对于 Docker 镜像来说,所有层都是只读的。当一个镜像运行时,会在该镜像上增加一个容器层。十个相同的镜像启动,仅仅是增加十个容器层。销毁容器时也仅仅是销毁一个容器层而已。

当容器需要读取文件的时候:从最上层镜像开始查找,往下找,找到文件后读取并放入内存,若已经在内存中了,直接使用。(即,同一台机器上运行的 docker 容器共享运行时相同的文件)。

当容器需要添加文件的时候:直接在最上面的容器层可写层添加文件,不会影响镜像层。

当容器需要修改文件的时候:从上往下层寻找文件,找到后,复制到容器可写层,然后,对容器来说,可以看到的是容器层的这个文件,看不到镜像层里的文件。容器在容器层修改这个文件。

当容器需要删除文件的时候:从上往下层寻找文件,找到后在容器中记录删除。即,并不会真正的删除文件,而是软删除。这将导致镜像体积只会增加,不会减少。

由此可以思考很多安全和镜像优化上的问题。

在镜像构建中记录敏感信息然后再下一个构建指令中删除安全吗?(不安全)

在镜像构建中安装软件包然后再下一个构建指令中清理软件包能减小镜像体积吗?(并不能)

UnionFS 一般有两种实现方案:1. 基于文件实现。文件整体的覆盖重写。2. 基于块实现,对文件的修改只修改少量块。

镜像的服务端存储细节

提供一个镜像元信息 (manifest) 用于参考:

➜ ~ docker pull ccr.ccs.tencentyun.com/paas/service-controller:7b1c981c7b1c981c: Pulling from paas/service-controllerDigest: sha256:e8b84ce6c245f04e6e453532d676f7c7f0a94b3122f93a89a58f9ae49939e419Status: Image is up to date for ccr.ccs.tencentyun.com/paas/service-controller:7b1c981cccr.ccs.tencentyun.com/paas/service-controller:7b1c981c
{  schemaVersion : 2,  mediaType :  application/vnd.docker.distribution.manifest.v2+json ,  config : {  mediaType :  application/vnd.docker.container.image.v1+json ,  size : 4671,  digest :  sha256:785f4150a5d9f62562f462fa2d8b8764df4215f0f2e3a3716c867aa31887f827  },  layers : [ {  mediaType :  application/vnd.docker.image.rootfs.diff.tar.gzip ,  size : 44144090,  digest :  sha256:e80174c8b43b97abb6bf8901cc5dade4897f16eb53b12674bef1eae6ae847451  }, {  mediaType :  application/vnd.docker.image.rootfs.diff.tar.gzip ,  size : 529,  digest :  sha256:d1072db285cc5eb2f3415891381631501b3ad9b1a10da20ca2e932d7d8799988  }, {  mediaType :  application/vnd.docker.image.rootfs.diff.tar.gzip ,  size : 849,  digest :  sha256:858453671e6769806e0374869acce1d9e5d97f5020f86139e0862c7ada6da621  }, {  mediaType :  application/vnd.docker.image.rootfs.diff.tar.gzip ,  size : 170,  digest :  sha256:3d07b1124f982f6c5da7f1b85a0a12f9574d6ce7e8a84160cda939e5b3a1faad  }, {  mediaType :  application/vnd.docker.image.rootfs.diff.tar.gzip ,  size : 8461461,  digest :  sha256:994dade28a14b2eac1450db7fa2ba53998164ed271b1e4b0503b1f89de44380c  }, {  mediaType :  application/vnd.docker.image.rootfs.diff.tar.gzip ,  size : 22178452,  digest :  sha256:60a5bd5c14d0f37da92d2a5e94d6bbfc1e2a942d675aee24f055ced76e8a208f  }, {  mediaType :  application/vnd.docker.image.rootfs.diff.tar.gzip ,  size : 22178452,  digest :  sha256:60a5bd5c14d0f37da92d2a5e94d6bbfc1e2a942d675aee24f055ced76e8a208f  } ]}

* 接下来是本文最为重要的内容,通过对上面这张图的理解,我们就可以了解到 Registry 服务端存储的细节。*

图中蓝色的是服务端存储的目录。文字是目录名称,这个名称是固定的。

图中紫色的是服务端存储的文件。文字是文件名称,link 文件的内容都是一个 sha256 的哈希值。data 文件存储了真正的元文件和镜像层。

图中橙色的是服务端的动态目录。目录的名称和仓库名、镜像标签或者 sha256 有关的。

整个图是从上往下的。举个例子,我们上面描述的 manifest 如果是存储在服务端的话(文件哈希:sha256:e8b84ce6c245f04e6e453532d676f7c7f0a94b3122f93a89a58f9ae49939e419)。它存储的路径应该是:/docker/registry/v2/blobs/sha256/e8/e8b84ce6c245f04e6e453532d676f7c7f0a94b3122f93a89a58f9ae49939e419/data。对应图上应该是沿着左侧一直向下。

我们开始拆解分析其结构细节。

左侧是镜像所有内容的实际存储,其几乎占据的绝大部分储存的空间,包括了镜像层和镜像元信息 Manifest。

例如镜像层 sha256:e80174c8b43b97abb6bf8901cc5dade4897f16eb53b12674bef1eae6ae847451 的存储位置,应该在 /docker/registry/v2/blobs/sha256/e8/e80174c8b43b97abb6bf8901cc5dade4897f16eb53b12674bef1eae6ae847451/data

右侧是镜像元信息存储的地方。镜像元信息是按照命名空间和仓库名称分两级目录存储的。

revisions 包含了仓库下曾经上传过的所有版本的镜像元信息

tags 包含了仓库中的所有标签

current 记录了当前标签指向的镜像

index 目录则记录了标签指向的历史镜像。

每一个仓库下面又分为_layers、_manifests 两个部分

_layers 负责记录该仓库引用了哪些镜像层文件。

_manifests 负责记录镜像的元信息

对上述提供的 manifest 计算 sha256,会得到元信息文件的哈希值 sha256:e8b84ce6c245f04e6e453532d676f7c7f0a94b3122f93a89a58f9ae49939e419,这个元信息的存储位置应该在 /docker/registry/v2/blobs/sha256/e8/e8b84ce6c245f04e6e453532d676f7c7f0a94b3122f93a89a58f9ae49939e419/data

举个镜像下载的例子:

我们想要知道 ccr.ccs.tencentyun.com/paas/service-controller:7b1c981c 这个镜像现在的元信息,如何在服务端存储中找到。

找到 /docker/registry/v2/paas/service-controller/_manifests/tags/7b1c981c/current/link 文件。里面有元信息的 sha256 信息。内容应该是 sha256:e8b84ce6c245f04e6e453532d676f7c7f0a94b3122f93a89a58f9ae49939e419

找到实际存储文件(/docker/registry/v2/blobs/sha256/e8/e8b84ce6c245f04e6e453532d676f7c7f0a94b3122f93a89a58f9ae49939e419/data)。前文中给出了该文件的 json 内容。

根据源文件信息,客户端依次下载对应文件就可以了。(鉴权过程参考参考文档)

ImageConfig

sha256:785f4150a5d9f62562f462fa2d8b8764df4215f0f2e3a3716c867aa31887f827

ImageLayer

sha256:e80174c8b43b97abb6bf8901cc5dade4897f16eb53b12674bef1eae6ae847451 sha256:d1072db285cc5eb2f3415891381631501b3ad9b1a10da20ca2e932d7d8799988 sha256:858453671e6769806e0374869acce1d9e5d97f5020f86139e0862c7ada6da621 sha256:3d07b1124f982f6c5da7f1b85a0a12f9574d6ce7e8a84160cda939e5b3a1faad sha256:994dade28a14b2eac1450db7fa2ba53998164ed271b1e4b0503b1f89de44380c sha256:60a5bd5c14d0f37da92d2a5e94d6bbfc1e2a942d675aee24f055ced76e8a208f

Tips:

很明显同样的镜像层文件在存储中只会有一个副本。使用相同基础镜像将节省大量的存储成本。

如果想要算上述元信息文件的哈希值,请保证你复制的文件内容尾部没有 EOL。[noeol]基于存储的几个问题镜像构建如何优化?

根据 UnionFS 的特性,针对性的进行优化:

构建时,一个构建指令会生成一个镜像层,尽量避免在镜像层中出现垃圾文件,例如在安装软件之后删除软件包。

删除敏感资源并不能使得该内容真正消失,避免敏感内容造成的安全问题。例如编译镜像最后删除代码是无效的欺骗自己的行为。

通过多阶段构建,减少中间产物以及编译环境中的依赖内容。

上传到服务端镜像,再上传到其他仓库需要重新上传吗?

** 需要,在 Registry 的设计中仓库是权限的最小单位,用户是根据仓库进行权限管理与隔离的。** 考虑如果这里忽略了这一块的设计,镜像层存在就避免重复上传的话,客户端可以通过构造虚假镜像元信息的方式,越权获取到其他用户的镜像。_layers 中记录了仓库有权限获取的所有镜像层的目的就在于此。

镜像复制场景下如何优化?

复制镜像的场景和上传场景的区别在于,源镜像是用户确实已经拥有的。这里可以通过上述问题的思考进行复制的优化,当镜像层在目的地址已经存在时,直接标记仓库拥有该层避免不必要的上传。

镜像历史版本

根据存储结构的特点,可以较为轻松的回答这个问题。理论上只要不做 Registry GC,不删除仓库元信息,仓库历史版本的镜像都会在仓库中一直保存的。

云服务的存储对接

Registry 作为一个开源软件,适配各种云存储产品属于标配功能了。Registry 提供了标准的存储驱动接口,只要实现了这一套接口就能适配运行起来了。

以上就是“Registr 容器镜像服务端怎么实现”这篇文章的所有内容,感谢各位的阅读!相信大家阅读完这篇文章都有很大的收获,丸趣 TV 小编每天都会为大家更新不同的知识,如果还想学习更多的知识,请关注丸趣 TV 行业资讯频道。

正文完
 
丸趣
版权声明:本站原创文章,由 丸趣 2023-08-04发表,共计5839字。
转载说明:除特殊说明外本站除技术相关以外文章皆由网络搜集发布,转载请注明出处。
评论(没有评论)