共计 6909 个字符，预计需要花费 18 分钟才能阅读完成。
这篇文章将为大家详细讲解有关 ceph 与 openstack 结合提供存储后端的示例分析，丸趣 TV 小编觉得挺实用的，因此分享给大家做个参考，希望大家阅读完这篇文章后可以有所收获。
CEPH BLOCK DEVICES AND OPENSTACK
官方文档：http://ceph.com/docs/master/rbd/rbd-openstack/
环境：ubuntu14.04 server,openstack icehouse 版本，ceph version 0.94.2
libvirt 配置了 librbd 的 QEMU 接口，通过它可以在 OpenStack 中使用 Ceph 块设备镜像。Ceph 块设备镜像被当作集群对象，这意味着它比独立的服务器有更好的性能。
在 OpenStack 中使用 Ceph 块设备，必须首先安装 QEMU，libvirt 和 OpenStack。建议 OpenStack 安装的时候使用独立的物理节点。OpenStack 节点建议最小 8G RAM 和四核处理器。下图描述了 OpenStack 和 Ceph 技术层次。
Important：要在 OpenStack 中使用 Ceph，必须首先运行 Ceph 存储集群
OpenStack 与 Ceph 的三个结合点：
镜像：OpenStack Glance 管理虚拟机镜像。镜像是不变的。OpenStack 把镜像当作二进制对象并以此格式下载。
卷：卷是块设备。OpenStack 使用卷来启动虚拟机，或者绑定卷到运行中的虚拟机。OpenStack 使用 Cinder 服务管理卷。
客户磁盘：客户磁盘是客户操作系统磁盘。默认情况下，当启动一台虚拟机时，它的系统盘以文件的形式出现在 hypervisor 系统上（通常 /var/lib/nova/instances/ uuid）。在 OpenStack Havana 以前的版本，在 Ceph 中启动虚拟机的唯一方式是使用 Cinder 的 boot-from-volume 功能，现在能够在 Ceph 中直接启动虚拟机而不用依赖于 Cinder，这是非常有利的因为它能够让你很容易的进行虚拟机的热迁移。除此之外，如果 hypervisor 挂掉还能够方便地触发 nova evacute 然后无缝得在其他的地方继续运行虚拟机。
可以使用 OpenStack Glance 来存储镜像在 Ceph 块设备中，也可以使用 Cinder 通过镜像的写时复制来启动虚拟机。
下面详细介绍 Glance，Cinder 和 Nova 的配置过程，尽管它们没有必要一起使用。当虚拟机运行使用本地磁盘运行的时候，可以把镜像存储在 Ceph 块设备中，或者正相反。
Important：Ceph 不支持 QCOW2 格式的虚拟机磁盘。所以，如果想要在 Ceph 中启动虚拟机（后端文件或者从卷启动），Glance 镜像必须是 RAW 格式
创建一个池
默认情况下，Ceph 块设备使用 rbd 池。可以使用任何能够使用的池。建议为 Cinder 和 Glance 单独创建池。确保 Ceph 集群正常运行，然后创建池。
ceph osd pool create volumes 128
ceph osd pool create images 128
ceph osd pool create backups 128(注：未安装 cinder-backup 可不创建)
ceph osd pool create vms 128看 Create a Pool 和 Placement Groups 来了解指定池的 pg 数量的详细信息和应该为你的池指定多少 pg。
配置 OpenStack Ceph 客户端
运行 glance-api，cinder-volume，nova-compute 和 cinder-backup（注：未安装）的节点是 Ceph 客户端。每一个节点都需要 ceph.conf 文件：
ssh {your-openstack-server} sudo tee /etc/ceph/ceph.conf /etc/ceph/ceph.conf安装 Ceph 客户端包
在 glance-api 节点，需要为 librbd 绑定 Python
sudo apt-get install python-ceph在 nova-compute，cinder-backup 和 cinder-volume 节点要用到 Python 和 Ceph 客户端命令行工具：
sudo apt-get install ceph-common设置 Ceph 客户端认证
如果使用了 cephx authentication，创建一个新用户为 Nova/Cinder 和 Glance。执行下面的命令：
ceph auth get-or-create client.cinder mon allow r osd allow class-read object_prefix rbd_children, allow rwx pool=volumes, allow rwx pool=vms, allow rx pool=images
ceph auth get-or-create client.glance mon allow r osd allow class-read object_prefix rbd_children, allow rwx pool=images为 client.cinder，client.glance 添加密钥来访问节点并改变所有者：
ceph auth get-or-create client.glance | ssh {your-glance-api-server} sudo tee /etc/ceph/ceph.client.glance.keyring
ssh {your-glance-api-server} sudo chown glance:glance /etc/ceph/ceph.client.glance.keyring
ceph auth get-or-create client.cinder | ssh {your-volume-server} sudo tee /etc/ceph/ceph.client.cinder.keyring
ssh {your-cinder-volume-server} sudo chown cinder:cinder /etc/ceph/ceph.client.cinder.keyring运行 nova-compute 的节点 nova-compute 进程需要密钥文件。它们也存储 client.cinder 用户的密钥在 libvirt。libvirt 进程在 Cinder 中绑定块设备时需要用到它来访问集群。
创建一个临时的密钥文件副本在运行 nova-compute 的节点：
ceph auth get-key client.cinder | ssh {your-compute-node} tee client.cinder.key然后在计算节点，为 libvirt 添加密钥文件并且移除临时的副本密钥：
$~:uuidgen
457eb676-33da-42ec-9a8c-9293d545c337
$~:cat secret.xml EOF
secret ephemeral= no private= no
uuid 457eb676-33da-42ec-9a8c-9293d545c337 /uuid
usage type= ceph
name client.cinder secret /name
/usage
/secret
$~:sudo virsh secret-define --file secret.xml
Secret 457eb676-33da-42ec-9a8c-9293d545c337 created
$~:sudo virsh secret-set-value --secret 457eb676-33da-42ec-9a8c-9293d545c337 --base64 $(cat client.cinder.key) rm client.cinder.key secret.xml配置 OpenStack 使用 Ceph
配置 Glance
Glance 能够使用多种后端来存储镜像。默认使用 Ceph 块设备，配置 Glance 如下：
Juno 之前的版本编辑 /etc/glance/glance-api.conf 并且添加下面的 [DEFAULT] 部分：
default_store = rbd
rbd_store_user = glance
rbd_store_pool = images
rbd_store_chunk_size = 8Juno
编辑 /etc/glance/glance-api.conf 并且添加 [glance_store] 部分：
[DEFAULT]
default_store = rbd
[glance_store]
stores = rbd
rbd_store_pool = images
rbd_store_user = glance
rbd_store_ceph_conf = /etc/ceph/ceph.conf
rbd_store_chunk_size = 8更多关于 Glance 的配置信息请看：http://docs.openstack.org/trunk/config-reference/content/section_glance-api.conf.html。
Important：Glance 还没有完全移到 store。所以仍然需要在 DEFAULT 部分配置 store。
所有 OpenStack 版本
如果要启用镜像的写时复制功能，添加下面的 [DEFAULT] 部分：
show_image_direct_url = True注意这会在 Glance API 中暴露后端存储位置，所以 endpoint 不应该被公开访问
禁用 Glance 缓存管理来避免镜像被缓存到 /var/lib/glance/image-cache/，确保配置文件中有 flavor = keystone+cachemanagement：
[paste_deploy] flavor = keystone配置 Cinder
OpenStack 需要驱动来与 Ceph 块设备交互。必须为块设备指定池，在 OpenStack 节点编辑 /etc/cinder/cinder.conf 并添加：
volume_driver = cinder.volume.drivers.rbd.RBDDriver
rbd_pool = volumes
rbd_ceph_conf = /etc/ceph/ceph.conf
rbd_flatten_volume_from_snapshot = false
rbd_max_clone_depth = 5
rbd_store_chunk_size = 4
rados_connect_timeout = -1
glance_api_version = 2配置 Nova 绑定 Ceph rbd 块设备
为了绑定 Cinder 设备（块设备或者启动卷），必须告诉 Nova（和 libvirt）用户和 UUID。libvirt 在与 Ceph 集群进行连接和认证的时候提供这个用户。
rbd_user = cinder
rbd_secret_uuid = 457eb676-33da-42ec-9a8c-9293d545c337这两个配置项同样用于 Nova 的后端。
配置 Nova
为了直接从 Ceph 启动所有虚拟机，你必须配置 Nova 的临时后端。
建议在 Ceph 配置文件中启用 RBD 缓存（从 Giant 版本默认启用）。还有，启用 admin socket 对于故障排除的时候很有帮助。每台使用 Ceph 块设备的虚拟机都有一个 socket 有助于性能分析和错误判断。
socket 可以通过这种方式访问：
ceph daemon /var/run/ceph/ceph-client.cinder.19195.32310016.asok help现在，在每个计算节点编辑 Ceph 配置文件：
[client]
rbd cache = true
rbd cache writethrough until flush = true
admin socket = /var/run/ceph/$cluster-$type.$id.$pid.$cctid.asokTip：如果虚拟机正在运行，可以直接重启来获得 socket。
HAVANA 和 ICEHOUSE
HAVANA 和 ICEHOUSE 需要补丁来实现写时复制并且修复 rbd 临时磁盘的镜像大小和热迁移 Bug。
这些可用的分支基于主干 Nova stable/havana 和 stable/icehouse。使用它们不是强制性的但是是非常建议的，为了利用写时复制的功能。
在每个计算节点，编辑 /etc/nova/nova.conf 并且添加：
libvirt_images_type = rbd
libvirt_images_rbd_pool = vms
libvirt_images_rbd_ceph_conf = /etc/ceph/ceph.conf
rbd_user = cinder
rbd_secret_uuid = 457eb676-33da-42ec-9a8c-9293d545c337
禁用文件注入也是一个好的习惯。启动一个实例的时候，Nova 通常试图去打开虚拟机的根文件系统。然后 Nova 注入值比如密码，ssh 密钥等，直接进入文件系统。然而，最好依赖元数据服务和 cloud-init。
在每个计算节点，编辑 /etc/nova/nova.conf 并且添加：
libvirt_inject_password = false
libvirt_inject_key = false
libvirt_inject_partition = -2Juno
在 Juno 版本，Ceph 块设备被移到 [libvirt] 部分。在每个计算节点，编辑 /etc/nova/nova.conf 在 [libvirt] 部分添加：
[libvirt]
images_type = rbd
images_rbd_pool = vms
images_rbd_ceph_conf = /etc/ceph/ceph.conf
rbd_user = cinder
rbd_secret_uuid = 457eb676-33da-42ec-9a8c-9293d545c337
禁用文件注入也是一个好的习惯。启动一个实例的时候，Nova 通常试图去打开虚拟机的根文件系统。然后 Nova 注入值比如密码，ssh 密钥等，直接进入文件系统。然而，最好依赖元数据服务和 cloud-init。
在每个计算节点，编辑 /etc/nova/nova.conf 并且添加：
libvirt_inject_password = false
libvirt_inject_key = false
libvirt_inject_partition = -2确保热迁移，使用下面的标志：
live_migration_flag= VIR_MIGRATE_UNDEFINE_SOURCE,VIR_MIGRATE_PEER2PEER,VIR_MIGRATE_LIVE,VIR_MIGRATE_PERSIST_DEST重启 OpenStack
激活 Ceph 块设备驱动并且载入块设备池的名称到配置中，必须重启 OpenStack。
sudo glance-control api restart
sudo service nova-compute restart
sudo service cinder-volume restartOpenStack 启动并运行起来之后，就能够创建一个卷并从它启动。
从块设备启动
使用下面的 Cinder 命令创建一个启动卷：
cinder create --image-id {id of image} --display-name {name of volume} {size of volume}注意镜像必须是 RAW 格式。可以使用 qemu-img 转换镜像格式。例如：
qemu-img convert -f {source-format} -O {output-format} {source-filename} {output-filename}
qemu-img convert -f qcow2 -O raw precise-cloudimg.img precise-cloudimg.raw
glance image-create --name cirros --file cirros-0.3.2-x86_64-disk.raw --disk-format raw --container-format bare --is-public True或者：
在 Dashboard 中创建一个启动卷：
关于“ceph 与 openstack 结合提供存储后端的示例分析”这篇文章就分享到这里了，希望以上内容可以对大家有一定的帮助，使各位可以学到更多知识，如果觉得文章不错，请把它分享出去让更多的人看到。
