目 录CONTENT

文章目录

目前常见对象存储产品介绍

Administrator
2023-12-18 / 0 评论 / 1 点赞 / 45505 阅读 / 5696 字 / 正在检测是否收录...

开源对象存储产品介绍

微信截图_20231218103554.png

在开源领域,也有一些优秀的对象存储产品可供选择。以下是一些常见的开源对象存储产品:

1. Ceph:Ceph是一个开源的分布式对象存储、块存储和文件系统,适用于构建大规模存储系统。它具有高性能、可扩展性和高可用性,并且提供了强大的数据一致性和容错能力。Ceph在许多企业级应用中得到了广泛的应用,并得到了社区的持续支持和更新。Ceph在一个统一的系统中独特地提供对象、块和文件存储。Ceph 高度可靠、易于管理且免费。Ceph 的强大功能可以改变您公司的 IT 基础架构和管理大量数据的能力。提供了非凡的可扩展性——数以千计的客户端访问 PB 到 EB 的数据。ceph存储集群相互通信以动态复制和重新分配数据。

Ceph官网:https://www.ceph.com/en/

CEPH.png

Ceph 存储集群至少需要一个 Ceph Monitor(监视器)、Ceph Manager(管理) 和 Ceph OSD(对象存储守护进程)。

ceph01.png

1-1、Monitors:Ceph Monitor ( ceph-mon) 维护集群状态的映射,包括监视器映射、管理器映射、OSD 映射、MDS 映射和 CRUSH 映射。这些映射是 Ceph 守护进程相互协调所需的关键集群状态。监视器还负责管理守护进程和客户端之间的身份验证。冗余和高可用性通常需要至少三个监视器;

1-2、Managers:Ceph Manager守护进程 ( ceph-mgr) 负责跟踪运行时指标和 Ceph 集群的当前状态,包括存储利用率、当前性能指标和系统负载。高可用性通常需要至少两个管理器;

1-3、Ceph OSD:Ceph OSD(ceph-osd)存储数据、处理数据复制、恢复、重新平衡,并通过检查其他 Ceph OSD 守护进程的心跳来向 Ceph 监视器和管理器提供一些监视信息。冗余和高可用性通常需要至少三个 Ceph OSD;

1-4、MDS:Ceph 元数据服务器(MDS ceph-mds) 代表Ceph 文件系统存储元数据(即 Ceph 块设备和 Ceph 对象存储不使用 MDS)。Ceph 元数据服务器允许 POSIX 文件系统用户执行基本命令(如 ls、find等),而不会给 Ceph 存储集群带来巨大负担;

2. MinIO:MinIO是一个高性能的开源对象存储服务器,根据 Apache License 2.0 许可证发布,这意味着您可以免费使用、修改和分发它。

MinIO官网跳转:https://min.io/

Minio.png

Minio s3.png

2-1、它使用存储桶(buckets)来组织数据,每个存储桶包含多个对象。对象可以是各种文件、文档、媒体和其他非结构化数据;

2-2、能够以高速处理大规模数据。它采用了分布式、并行和多线程处理技术,以支持高吞吐量和低延迟;

2-3、具有内置的冗余和故障转移功能,支持数据备份和多副本存储,以确保数据的持久性和高可用性。它还支持数据版本控制;

2-4、可以轻松部署在容器化环境中,如Docker和Kubernetes。这使得它适用于云原生应用和容器化工作负载;

2-5、支持分布式架构,可以轻松扩展以适应不断增长的数据需求。您可以添加更多的MinIO实例以构建多节点集群;

2-6、MinIO提供了S3(Simple Storage Service) API 兼容性,这意味着它可以与现有的S3客户端和应用程序集成,无需进行大规模修改;

2-7、提供数据加密、身份验证和访问控制功能,以确保数据的保密性和完整性。它还支持SSL/TLS加密;

2-8、配置和管理非常简单,具有用户友好的命令行界面和Web管理控制台。它还有丰富的文档和活跃的社区支持。

3. OpenStack Swift:Swift是OpenStack项目中的一部分,是一个开源的分布式对象存储系统。它适用于构建大规模、高可用的存储解决方案,并且提供了RESTful API接口,方便与其他系统进行集成。Swift具有可扩展性、高可用性和容错能力等特点,并且支持多种存储后端,如XFS、EXT4和ZFS等。

官网跳转:https://www.openstack.org/

openstack.png

OpenStack Swift是一个分布式对象存储系统,Swift的设计目标是为了处理海量数据和大规模数据的高并发访问,它采用了一些独特的技术和架构,如分布式存储、数据冗余、负载均衡、数据分片、对象容器等。它可以为大规模的数据存储提供高可用性、可扩展性和数据安全性。Swift是OpenStack的一个核心组件,它允许用户将大量的数据存储在云上,并且可以随时访问、检索和管理这些数据。

openstack01.png

Swift的架构由多个组件和模块组成,主要包括以下几个方面:

3-1、Proxy Server:负责接收客户端的请求,并将请求分发到后端的存储节点上,同时也负责处理授权、认证和负载均衡等;

3-2、Object Server:存储对象数据,如图片、视频、文档等;

3-3、Container Server:存储对象容器数据,如文件夹、目录等;

3-4、Account Server:存储账户和认证信息,如用户、密码、角色等;

3-5、Replicator:负责对象和容器的数据复制和同步,以保证数据的冗余和高可用性;

3-6、Auditor:负责对对象和容器的数据进行检查和验证,以确保数据的完整性和可用性;

3-7、Updater:负责对对象和容器的元数据进行更新和同步,以支持Swift的高效管理和查询。

4. GlusterFS:GlusterFS是一个基于Linux的文件存储系统,主要由 Z RESEARCH 公司负责开发。GlusterFS 是 Scale-Out 存储解决方案 Gluster 的核心,具有强大的横向扩展能力,通过扩展能够支持数PB存储容量和处理数千客户端。GlusterFS 借助 TCP/IP 或 InfiniBand RDMA 网络将物理分布的存储资源聚集在一起,使用单一全局命名空间来管理数据。GlusterFS 基于可堆叠的用户空间设计,可为各种不同的数据负载提供优异的性能。它可以扩展到数百个节点和数PB的存储容量。它支持可伸缩、分布式的文件存储和文件管理功能,并具有易于管理的界面和工具。

官网跳转:https://www.gluster.org/

GFS01.png

4-1、GlusterFS 总体架构与组成部分如图下图所示,它主要由存储服务器(Brick Server)、客户端以及 NFS/Samba 存储网关组成。不难发现,GlusterFS 架构中没有元数据服务器组件,这是其最大的设计这点,对于提升整个系统的性能、可靠性和稳定性都有着决定性的意义;

GFS.png

4-2、Brick:最基本的存储单元,(块存储服务器)实际存储用户数据的服务器;

4-3、Volume:逻辑卷。本地文件系统的"分区";

4-4、Glusterd:(服务)是运行在存储节点的管理进程,(客户端运行的是gluster client)GFS使用过程中整个GFS之间的交换由Gluster client 和glusterd完成;

4-5、FUSE:用户空间的文件系统(类别EXT4),”一个伪文件系统“。一个可加载的内核模块,和内核VFS交互进行文件系统的操作;

4-6、VFS:(虚拟端口)内核态的虚拟文件系统,用户是提交请求给VFS 然后VFS交给FUSH,再交给GFS客户端,最后由客户端交给远端的存储.

以上是一些常见的开源对象存储产品,它们各有优缺点,可以根据实际需求进行选择。在选择时,需要考虑数据的安全性、可靠性、可扩展性和性能等因素。同时,还需要关注产品的社区支持和活跃度,以确保在使用过程中能够得到及时的技术支持和解决方案。

1

评论区