基于java平台的分布式文件系统设计

随着计算机网络技术的发展以及Internet技术的广泛应用,分布式技术以及分布式系统应运而生.分布式技术旨在解决含量并发处理,高容错性,以及海量存贮等技术难题.本文目的就是考虑分布式环境、多种平台下的文件存储系统,分析当前文件服务领域的现状和不足,设计一个高适应性的分布式文件系统.该系统有部署方便,扩展性强,适应能力强等优点.

S C IE Ne E& T EC HNOLOGY} ORMA T} NF ON

!丁技术

基于 j a v a平台的分布式文件系统设计 王家华康国庆 (西安石油大学计算机学院软件研究所西安 710065 )摘要:随着计算机网络技术的发展以及 I n t e r n e t技术的广泛应用,分布式技术以及分布式系统应运而生。分布式技术旨在解决含量并发处理,高容错性,以及海量存贮等技术难题。本文目的就是考虑分布式环境、多种平台下的文件存储系统,分析当前文件服务领域的现状和不足,设计一个高适应性的分布式文件系统。该系统有部署方便,扩展性强,适应能力强等优点。

关键词:分布式文件系统 j va a中图分类号: TP31文献标识码: A 1引言 随着科技的发展,计算机在从大型化走向小型化的同时,处理性能则按照摩尔定律飞速发展。另一方面随着计算机网络的发展及 Int e n e技术的广泛应用,使得 r t分布式系统应运而生。然而计算机系统的计算一 0能力的差距一直在不断拉大。集/ 1成电路技术的快速发展使得 CPU速度有了显著的提高,而磁盘等 1/ 0设备由于受限于其机械部件的速度,相对而言其性能的改进要慢得多。最近几年,越来越多的手持设备和移动终端的引入,使得计算和内容存储的模式越来越趋向于服务端。另外,计算能力的提高又产生了一批新型的计算机应用领域,如多媒体、可视化、具有重大挑战性的科学和工程计算问题、 b服务器、 0密集型的数据库、 We/ 1弱连接环境下的计算、网络教学等,这些应用对1 0性能提出了更高的要求,/同时也表明应用呈现出对1 0需求永远增长的趋势。/分布式文件系统的出现在一定的程度上缓解了二者之间越来越大的矛盾。然而不管是传统分布式文件系统还是面向Inte ne的分布式文件系统,它们在可 r t靠性、扩展性、易用性及性能等诸多方面都很难做到兼得。一些成功的分布式文件系统往往只能侧重于某些指标,而忽略其它的需求。如著名的NFS文件系统虽然在不牺牲太多性能的基础上,在跨平台能力及可靠性、易用性等方面获得成功,但它的应用方式过于单一,只能挂载到文件系统的树状结构中当作本地文件使用,无法胜任对日益复杂的网络应用环境以及海量数据的存储的需求。

文章编号: 1672一 3791(2007)12(c卜0097一 01 了以下的设计思路。主控命名服务器。

(1)针对可扩展性和P以及详存储器件的 c廉价性,这里通过使用廉价的 p c来做服务端,这样就可以在比较低的成本下完成海量的存储。机之间使用千兆以太网 Pc连接或者使用类似In i eband这类的超高速的传输技 f n术来拓宽网络中P机

间的流量,这样使用P c c机群做成的se ve端数据传输就不会产生瓶 r r颈。而且这样在服务端扩容时也很容易做到 易扩展性。 ( 2 )针对容错性,这里有两点考虑:对

) 3客户端和服务端都是使用高速的网络进行连接的,整个系统通过客户端对外进行服 务。

下图是分布式文件系统的总体设计:该设计使得文件系统的访问是透明的,子卷互不影响,但又在同一个命名空间下如“”/。所以使用上是十分方便的。

3性能优化以及备份上的考虑

Java是一个通用的跨平台语言,本文使用iava语言来设计一个分布式文件系统,具有 可扩展性,容错性,强适应性的特点。

2分布式文件系统的设计思路 接下来通过分析前面所发现的问题,有

由于本系统的物理存储地是在网络中每个p c是用容错设备,比如使用R a d技的其他主机,加之网络延时等关系,性能 i术,这个是在硬件上做到了可以容错,另上是不如本地直接存储 (D A S )的,此处外设计该系统时,还可以使用软件的冗余考虑了几种优化的策略。 ( 1使用更快的磁盘,以及更快的连接, )策略,使同等数据热备到另一个 p c上面,也就是“ R a d”软 i。这样的系统就需要 p c从物理上提高了系统的带宽。 (2)使用cache技术。Cache技术是提高与p c之间的连接的弱祸合性以及系统级的系统吞吐量的有效手段,在多个服务端使错误监控功能。 ( 3针对强适应性特点;这里使用i a v a )用主存做为c a c h e来缓存一些文件,当客平台的解决方案来解决多平台的问题。使户提出访问时,不必使用物理磁盘就可以用iava平台即iava的虚拟机来设计这个系得到相关的数据。这样系统的性能会比统,可以使服务端的平台可以不同,也就 D A S要好的多,当然也要依赖其业务,如是异构的,只要p c上运行的系统可以使用果是 P ZP这类应用效果就好的多。 i v m来执行 i a v a程序,那么该系统就可以本系统设计时服务器之间并无实际的部署,而且很容易部署到该 p c上面,而做联系,所以可以单独执行备份和恢复策到为整个系统服务。事实上很少有系统上略,这样就便于管理员进行部署和维护面没有相对应的」v a虚拟机了。 a了。该系统具有弱连接的特点,也就具有于是,设计方案如下:弱连接了应有的优点。 1 )系统有若干个服务端组成,每个服务端都是由pc来构建,每个p c上都跑有操 4结语作系统和 j a v a虚拟机,他们之间可以没有本文目标是以面向分布式计算环境的任何关系。每个服务端都是分布式文件系文件系统为对象,设计了一个易扩展,适

统磁盘空间的提供者,把整个空间称为系应性强,高容错的分布式文件系统。该系统的命名空间。统不仅可以利用充裕的廉价 p c资源而且做 2 )系统有若干个客户端组成,命名空到了操作系统的无关性。最后还讨论了,文间比较大的情况下,有一个主控命名服务件系统中的性能调优和备份的一些设计。器来解决命名查询的问题。如果只有一个客户端,那么可以由这个客户端上在运行参考文献

客户机

【王伟,] 1范径武.高性能高适应性分布式文件服务器研究与实现, .计算机工程与设 IJ]计. 2007(28)13.

多个服

科技资讯 SCIENC任& TECHNOL0 0 Y IN卜 MA一0 N Q日 1

97

基于java平台的分布式文件系统设计

你可能喜欢

  • 网格计算
  • 分布式技术
  • java23种设计模式
  • java缓存
  • 淘宝平台
  • 淘宝技术
  • 精美PPT素材
  • 源码分析

基于java平台的分布式文件系统设计相关文档

最新文档

返回顶部