案例分析:银行存储升级 容量、安全一项也不能少

    常州市商业银行(以下简称常州商行)是由常州市财政、企业、居民共同投资入股组建的股份制地方商业银行。从1998年成立至今,常州商行的业务有了较大幅度增长,但是IT系统却依然沿用着6年前的那套设备,特别是存储空间的严重不足,制约了银行的发展。


    因此,常州商行需要建立新平台全面整合管理业务和交易系统历史数据,便于决策层和职能部门在统一的平台上处理业务,有效地组织和利用共享数据,同时实现基于真实、完整、统一的信息提供决策支持服务。


    用户连线


    常州商业银行此次升级,综合考虑了系统的容量、性能、安全等多方内容,记者电话采访到了升级的主要负责人?D?D常州商业银行科技处处长姚双宏先生,他向记者讲述了升级中的一些细节问题。


    用20GB跑业务?


    姚先生表示,扩充容量是此次升级的核心目的之一。在升级之前,原有系统的存储容量在做RAID之后只有20GB。出于不得已,银行只得间隔一段时间就对系统中的数据进行一次清理。如此的做法不但无法实现数据分析、挖掘等高级应用,而且还存在着巨大的安全隐患。 
  
    此次升级后,系统容量达到了2TB,预计能够满足5年左右的使用要求。各种操作系统的服务器不但能够同时共享整个存储池,而且在未来可以实现业务不间断的容量扩充。 



图1 常州市商业银行数据中心系统配置逻辑图


    每天不再提心吊胆


    安全问题也是这次升级关注的重点,升级前系统的备份操作基本上依靠人工完成,为系统管理员增添了许多的工作量。


    由于受到系统的限制,银行只能每天在业务开始前进行一次数据库备份,操作系统和应用的备份则无法实现。因此一旦在白天业务运行中出现系统故障,银行将丢失一天所有数据,损失不言而喻。


    系统升级后,借助光纤磁带库和备份软件,业务数据能够进行基于策略的时时热备份。这样,即使系统出现故障,备份数据也能保持较新的状态,尽可能地降低了宕机带来的损失。谈到这儿,从姚先生的话音里面能够听出,自动化的连续备份让他放心了许多。


    另外,在这次升级之后,常州商行还计划基于此次部署的SAN存储区域网对系统实现远程容灾功能,进一步提升整个系统的可用性。目前这一容灾中心的位置已经选定,相关的软件硬件选型也正在进行当中。(详见图1)


    “分三为二”变为“合三为一”


    升级之后,常州商业银行还实现了银行业务的整合工作。常州商行主要业务可以分为三大块:对公业务、储蓄业务和卡业务,原来由于受到性能的限制,姚先生只能将对公业务和储蓄业务放置到HP小型机组成的双机上运行,而卡业务不得不单独运行在其它的IA服务器上。


    此次升级之后,三大业务全部被整合到一台服务器上运行,通过ESS800进行统一的数据存储管理,并且利用SAN实现高性能的时时备份。


    从数据中挖金子


    对于数据的价值,姚先生作了一个十分恰当的比喻?D如果要预知未来一天的天气情况,必须要拥有过去几十年的气象资料作为支持。


    银行也是如此,无论是开设新的业务还是进行数据筛选分析等操作,都需要有大量的交易数据进行支撑。但是以往受到容量的限制,很多数据都只能眼看着白白浪费掉了。


    姚先生表示,升级后的系统有了更大的容量和性能用来实现数据仓库,能为新业务的开展和领导决策够提供有价值的数据支持。


    十二小时完成系统上线 
  
    当记者问到此次升级耗时多久、对银行的业务造成了怎样的影响时,姚先生非常高兴地告诉记者,这次系统切换只用了12个小时的时间,对银行业务基本没有造成影响。 
  
    姚先生谈到,一般银行进行类似的升级,基本上需要停业2、3天的时间,而常州商行只用了12个小时。主要的原因是常州商行的数据量较少,系统进行备份的时间相对短一些。而且常州商行并没有采用新旧系统并行的方式来进行升级,业务系统直接由新系统接管,这也缩短了系统切换的时间。 
  
    不过在采访中,姚先生也强调系统切换不能盲目图快,还是要根据应用环境的不同选择相应的方法。特别是针对银行用户而言,许多业务都存在着不可逆的特性,实施的过程要非常谨慎,前期的备份工作一定要做好。 
  
    选型与实施 
  
    升级前常州商行系统平台中存在的不足主要有两方面: 
  
    存储系统方面:原有存储系统采用了和主机服务器一同配置的磁盘阵列,存储容量和读写性能在扩展性、可靠性和可用性上,都无法满足数据中心存储的要求。在银行数据集中、整合的要求下,需要一个高性能、高扩展的存储系统,满足不同平台、不同应用集中存储的需要。 
  
    备份系统方面:现有系统没有配置数据备份软件和设备,通过管理员手工对系统进行备份和管理。对银行而言,靠简单的备份手段进行人工备份是不可靠的。 
  
    一旦发生意外事件或误操作,出现不可恢复的数据破坏,将对整个常州商行信息系统造成灾难性后果。 
  
    方案设计要点


    此次常州商行的系统升级由南京金中天计算机网络有限公司负责实施,记者也电话联系了该公司的总经理岳忠明先生。岳先生提到,常州商行作为全市系统的数据中心,要满足对整个系统用户的服务要求,必须保证整个系统平台的效率、可靠性和可用性、安全性以及可扩展性。


    在数据存储方面,首先要保证数据的物理安全。通过建立基于SAN体系结构的光纤磁盘阵列系统,除了能保护存储数据的安全外,还可以提高数据的吞吐率,便于数据集中存储,满足用户对7×24的可用性和数据保护能力的需求。这一系统还可以提供高效的灾难恢复解决方案,进一步保护数据资产。


    数据备份方面,核心是要保证系统数据的逻辑安全。数据备份能够实现对系统的逻辑错误和系统数据的人为误操作、应用的逻辑错误等方面的保护。


    在备份方式的选择上,需要选择能够自动进行备份作业的专业设备,通过专用备份软件实施无人值守的自动化备份。这样,常州商行可以根据需要,制定和调整备份策略,由备份系统自动完成全系统范围内重要数据的备份。


    存储系统选型


    对于需要联机访问的大数据量存储,其存储设备首选磁盘阵列。这种设备具有RAID功能,支持硬件部件在线更换和扩充,存储容量大且读写速度快。


    常州商行的应用是典型的基于数据库的应用系统,对磁盘I/O的要求要大。因此,在选择磁盘阵列产品时,除了一般意义上的数据保护功能外,还需考虑到磁盘阵列自身的冗余保护能力、存储容量的可扩展性、数据处理性能以及用户的投资保护。


    基于以上分析,常州商行的存储系统采用了一台SAN架构的IBM ESS 800(“银鲨”)磁盘阵列作为系统核心数据存储设备。


    在系统中,ESS 800与两台p670服务器通过双路冗余光纤通道进行连接。每台p670服务器安装两块光纤通道卡,连接两个SAN交换机,ESS 800也通过两根光纤分别与两台SAN交换机连接,保证主机到存储系统间无单点故障。(见图2)


    此套ESS 800配置了32块10000rpm 72.8GB硬盘,组成4个RAID5磁盘组:其中2组每组由8块硬盘组成,另2组每组由7块硬盘组成,剩余2块硬盘设为Spareset disk。


    任何RAID组中硬盘出现故障,Sparesets组中的硬盘都能够自动替换故障盘并恢复盘中数据。


    其中一组RAID供ORACLE数据库使用(约500GB),用于存放ORACLE数据库文件。另外一组RAID中划出约200GB的空间作为一个LUN,构成NFS文件系统供2台P670服务器使用,用于存放ORACLE数据库的归档日志文件。


    在第三组RAID中,划出2个各为200GB的空间作为LUN,分别用于Linux系统和Windows系统使用,剩余空间作为各文件系统的备用空间。


    备份系统选型



图2 存储系统与主机之间全部采用双路连接


    为数据作备份就如同购买保险,而能在多大程度上挽回损失,取决于备份策略和备份工作的执行情况。


    SAN备份是一种彻底解决需要占用LAN网络带宽问题的解决方案,也称为LAN-Free备份。它将磁带库和磁盘阵列作为独立的光纤节点,备份时,数据流直接从磁盘阵列传到磁带库内,无需占用网络带宽。


    常州商行的备份系统由磁带库和备份软件所构成。由于备份作业中数据传输量较大,为了不影响网络传输性能,常州商行采用了支持LAN-Free的IBM 3583磁带库,通过光纤通道直接连接到SAN存储网络上。


    常州商行的备份软件采用VERITAS NetBackup DataCenter数据备份软件,利用一台系统负荷较小的Windows服务器作为备份管理服务器,担当SAN Master Server。通过它可以对整个数据库和应用系统的备份工作进行集中管理、监控。


    在备份方式上,由于IBM服务器中运行的数据库和Linux、Windows服务器上的数据量较大,采用LAN-Free方式进行备份,所有的数据通过光纤备份到磁带库系统中。其它服务器上的文件可采用网络备份方式进行数据备份。


    考虑到常州商行对备份系统容量的需求,在IBM 3583 LTO光纤磁带库中配置有80盘数据带、3盘清洗带。


    系统实施


    选型规划完毕后,常州商行的存储及备份系统进入到实施阶段,存储系统的实施工作分为以下几步:首先,在完成ESS800硬件连接和与SAN交换机的连接后,将其进行加电自检,通过控制台进行必要的设置。通过ESS Specialist提供的WEB管理环境,实现对ESS系统的状态检查、逻辑构造设置。


    第二步,进行ESS逻辑磁盘组的定义、RAID类型定义、ESS主机的定义操作。


    第三步,配置HOST ADAPTER(主机适配器)、系统的初始化和卷配置,并将卷分配到各逻辑主机。


    备份系统采用一台PC服务器为备份服务器,通过SAN环境连接和管理磁带库,数据通过该服务器直接备份到磁带库中。同时,它负责整个备份系统的管理,包括备份策略的制订、备份数据库的保存等。(见图3)


    两台IBM UNIX小型机作为SAN Media Server安装Oracle Agent,以实现在线备份数据库。另外两台PC服务器作为SAN Media Server,实现LAN-Free备份,其它服务器安装NetBackup Client。


    实施时首先进行IBM 3583磁带库的安装与自检:在PC服务器上安装Windows NT/2000操作系统,配置好光纤通道卡后,连接外置磁带库IBM 3581。将此PC服务器作为备份的主服务器,安装NetBackup DataCenter Master Server,存储和管理备份配置信息。


    备份服务器上需安装ORACLE数据库软件,作为Catalog数据库,记录相应的备份信息。


    在两台p670服务器端安装VERITAS NBU SAN Media Server软件,用于访问SAN架构的3583磁盘阵列。还要安装VERITAS NBU UNIX客户端软件用于备份系统文件以及VERITAS NBU UNIX Oracle Agent软件备份数据库数据。


    在Windows、Linux服务器平台上安装VERITAS NBU Media Server客户端软件。


    随后从备份服务器中进入VERITAS NBU管理界面,识别备份设备,制定备份策略,监控备份任务执行情况。最后,进行备份系统的备份和恢复测试。



图3 由PC服务器、磁盘系统与磁带系统组成的备份系统


    制定备份策略


    若要详细、历史地记录数据,并在特定情况下能够恢复特定时期的数据,还要保证数据备份的频率、以及备份介质上数据的保存时间,需要制定合理的备份策略。    为了尽可能减少备份操作对业务的影响,常州商行将主要的备份操作安排在业务较少的夜间进行。


    对数据库内的数据,常州商行采取3日差分备份的方式。由于系统中的服务器数据交换和信息更新都不频繁,每天只有少量的更新数据,做3日增量备份记录每日系统的最新信息能够满足要求。


    这种方式也十分有利于系统恢复,系统管理员结合最近一次的全备份,只用两盘磁带就可以恢复整个系统。


    升级前常州商行系统平台中存在的不足主要有两方面:



  • 存储系统方面:原有存储系统采用了和主机服务器一同配置的磁盘阵列,存储容量和读写性能在扩展性、可靠性和可用性上,都无法满足数据中心存储的要求。在银行数据集中、整合的要求下,需要一个高性能、高扩展的存储系统,满足不同平台、不同应用集中存储的需要。

  • 备份系统方面:现有系统没有配置数据备份软件和设备,通过管理员手工对系统进行备份和管理。对银行而言,靠简单的备份手段进行人工备份是不可靠的。

    一旦发生意外事件或误操作,出现不可恢复的数据破坏,将对整个常州商行信息系统造成灾难性后果。


    方案设计要点


    此次常州商行的系统升级由南京金中天计算机网络有限公司负责实施,记者也电话联系了该公司的总经理岳忠明先生。岳先生提到,常州商行作为全市系统的数据中心,要满足对整个系统用户的服务要求,必须保证整个系统平台的效率、可靠性和可用性、安全性以及可扩展性。


    在数据存储方面,首先要保证数据的物理安全。通过建立基于SAN体系结构的光纤磁盘阵列系统,除了能保护存储数据的安全外,还可以提高数据的吞吐率,便于数据集中存储,满足用户对7×24的可用性和数据保护能力的需求。这一系统还可以提供高效的灾难恢复解决方案,进一步保护数据资产。


    数据备份方面,核心是要保证系统数据的逻辑安全。数据备份能够实现对系统的逻辑错误和系统数据的人为误操作、应用的逻辑错误等方面的保护。


    在备份方式的选择上,需要选择能够自动进行备份作业的专业设备,通过专用备份软件实施无人值守的自动化备份。这样,常州商行可以根据需要,制定和调整备份策略,由备份系统自动完成全系统范围内重要数据的备份。


    存储系统选型


    对于需要联机访问的大数据量存储,其存储设备首选磁盘阵列。这种设备具有RAID功能,支持硬件部件在线更换和扩充,存储容量大且读写速度快。


    常州商行的应用是典型的基于数据库的应用系统,对磁盘I/O的要求要大。因此,在选择磁盘阵列产品时,除了一般意义上的数据保护功能外,还需考虑到磁盘阵列自身的冗余保护能力、存储容量的可扩展性、数据处理性能以及用户的投资保护。


    基于以上分析,常州商行的存储系统采用了一台SAN架构的IBM ESS 800(“银鲨”)磁盘阵列作为系统核心数据存储设备。


    在系统中,ESS 800与两台p670服务器通过双路冗余光纤通道进行连接。每台p670服务器安装两块光纤通道卡,连接两个SAN交换机,ESS 800也通过两根光纤分别与两台SAN交换机连接,保证主机到存储系统间无单点故障。(见图2)


    此套ESS 800配置了32块10000rpm 72.8GB硬盘,组成4个RAID5磁盘组:其中2组每组由8块硬盘组成,另2组每组由7块硬盘组成,剩余2块硬盘设为Spareset disk。


    任何RAID组中硬盘出现故障,Sparesets组中的硬盘都能够自动替换故障盘并恢复盘中数据。


    其中一组RAID供ORACLE数据库使用(约500GB),用于存放ORACLE数据库文件。另外一组RAID中划出约200GB的空间作为一个LUN,构成NFS文件系统供2台P670服务器使用,用于存放ORACLE数据库的归档日志文件。


    在第三组RAID中,划出2个各为200GB的空间作为LUN,分别用于Linux系统和Windows系统使用,剩余空间作为各文件系统的备用空间。


    备份系统选型


    为数据作备份就如同购买保险,而能在多大程度上挽回损失,取决于备份策略和备份工作的执行情况。


    SAN备份是一种彻底解决需要占用LAN网络带宽问题的解决方案,也称为LAN-Free备份。它将磁带库和磁盘阵列作为独立的光纤节点,备份时,数据流直接从磁盘阵列传到磁带库内,无需占用网络带宽。 


    常州商行的备份系统由磁带库和备份软件所构成。由于备份作业中数据传输量较大,为了不影响网络传输性能,常州商行采用了支持LAN-Free的IBM 3583磁带库,通过光纤通道直接连接到SAN存储网络上。


    常州商行的备份软件采用VERITAS NetBackup DataCenter数据备份软件,利用一台系统负荷较小的Windows服务器作为备份管理服务器,担当SAN Master Server。通过它可以对整个数据库和应用系统的备份工作进行集中管理、监控。


    在备份方式上,由于IBM服务器中运行的数据库和Linux、Windows服务器上的数据量较大,采用LAN-Free方式进行备份,所有的数据通过光纤备份到磁带库系统中。其它服务器上的文件可采用网络备份方式进行数据备份。


    考虑到常州商行对备份系统容量的需求,在IBM 3583 LTO光纤磁带库中配置有80盘数据带、3盘清洗带。


    系统实施


    选型规划完毕后,常州商行的存储及备份系统进入到实施阶段,存储系统的实施工作分为以下几步:首先,在完成ESS800硬件连接和与SAN交换机的连接后,将其进行加电自检,通过控制台进行必要的设置。通过ESS Specialist提供的WEB管理环境,实现对ESS系统的状态检查、逻辑构造设置。 
  
    第二步,进行ESS逻辑磁盘组的定义、RAID类型定义、ESS主机的定义操作。 
  
    第三步,配置HOST ADAPTER(主机适配器)、系统的初始化和卷配置,并将卷分配到各逻辑主机。 
  
    备份系统采用一台PC服务器为备份服务器,通过SAN环境连接和管理磁带库,数据通过该服务器直接备份到磁带库中。同时,它负责整个备份系统的管理,包括备份策略的制订、备份数据库的保存等。(见图3) 
  
    两台IBM UNIX小型机作为SAN Media Server安装Oracle Agent,以实现在线备份数据库。另外两台PC服务器作为SAN Media Server,实现LAN-Free备份,其它服务器安装NetBackup Client。 
  
    实施时首先进行IBM 3583磁带库的安装与自检:在PC服务器上安装Windows NT/2000操作系统,配置好光纤通道卡后,连接外置磁带库IBM 3581。将此PC服务器作为备份的主服务器,安装NetBackup DataCenter Master Server,存储和管理备份配置信息。 
  
    备份服务器上需安装ORACLE数据库软件,作为Catalog数据库,记录相应的备份信息。 
  
    在两台p670服务器端安装VERITAS NBU SAN Media Server软件,用于访问SAN架构的3583磁盘阵列。还要安装VERITAS NBU UNIX客户端软件用于备份系统文件以及VERITAS NBU UNIX Oracle Agent软件备份数据库数据。 
  
    在Windows、Linux服务器平台上安装VERITAS NBU Media Server客户端软件。 
  
    随后从备份服务器中进入VERITAS NBU管理界面,识别备份设备,制定备份策略,监控备份任务执行情况。最后,进行备份系统的备份和恢复测试。 
  
    制定备份策略 
  
    若要详细、历史地记录数据,并在特定情况下能够恢复特定时期的数据,还要保证数据备份的频率、以及备份介质上数据的保存时间,需要制定合理的备份策略。 
  
    为了尽可能减少备份操作对业务的影响,常州商行将主要的备份操作安排在业务较少的夜间进行。 
  
    对数据库内的数据,常州商行采取3日差分备份的方式。由于系统中的服务器数据交换和信息更新都不频繁,每天只有少量的更新数据,做3日增量备份记录每日系统的最新信息能够满足要求。 
  
    这种方式也十分有利于系统恢复,系统管理员结合最近一次的全备份,只用两盘磁带就可以恢复整个系统。 
  
    链 接 
  
    常州市商业银行 
  
    常州市商业银行(以下简称常州商行),是经中国人民银行批准,以城市信用合作社联社及市区20家城市信用合作社为基础,由常州市财政、企业、居民投资入股组建的股份制地方商业银行,拥有注册资本2.1亿元。1998年3月18日正式对外营业,现有营业部、支行25家,员工700多名。2001年末资产规模36.4亿元。 
  
    从98年营业以后,常州商行陆续开发了综合业务系统和银行卡(IC卡)业务系统、客户关系和信贷管理信息系统、电话银行查询系统、中间业务系统等多套信息系统。其中银行卡业务有突破性进展,配合全市行政事业单位统发工资,共发行月季卡万余张,并安装了38台ATM机和13台POS机。(本文作者为《中国计算机用户》/海洋)