CN1184977A - 高效计算机服务器系统 - Google Patents

Abstract

一种高可用性计算机服务器系统能够服务大量接收来自通过网络连接到这服务器系统上的多个客户机的请求,所述请求特别指定此服务器系统,所述服务器系统包括:报文传送和排队单元,它具有一个连接到所述网络的输入端,通过此输入端接收指定所述服务器系统的请求,及一个输出端;以及多个并行连接到所述报文传送和排队单元的所述输出上的服务器单元。

Description

高效计算机服务器系统

本发明涉及计算机网络领域。更确切的说，本发明涉及具有能向大量客户计算机设备提供相同信息能力的高可用性计算机服务器设备的领域。

正如计算机在日常生活中日益可见，链接计算机的网络在各计算机用户之间分配信息方面变的日益重要。通过这些网络，计算机用户能够共享信息以创造一个已成为可行的替代打印媒介的虚拟出版媒介。

计算机“网络”可由任意多个彼此间可交换信息的计算机组成。只要用各种方法把它们连接在一起(例如，通过电话线或者其他的通讯系统)使得它们彼此间可以交换信息，则这些计算机可以按任意结构配置，并且它们可以位于同一房间或不同的国家。正如计算机可以相连以构成网络，网络也可以通过被称之为网桥和网关的工具连接起来。这些工具容许在一个网络中的计算机同在另一个网络中的计算机彼此间交换信息。Internet是一种由无单一拥有者或管理员的网络组成的网络，它包括大型的和小型的，公共的或专用的网络，并且在Internet中任何运行Internet网络协议软件的入网计算机经受安全性检查都可同其它任一入网的计算机间交换信息。这种赞同彼此互连的网络复合选择机制将不仅仅依赖于单一的传送媒介(例如，可经由卫星链路，光纤中继线路，电话线，有线电视线和局域广播线路进行双向通信)。

全球信息网(www)的Internet服务是一种大范围的信息检索设施，它可提供对众多网络可访问信息的手段并且可提供联入Internet网的各计算机间的低费用的通信。有关全球信息网的信息可从Andrew Ford所编著的“运行全球信息网”(“Spinning the web”)(International Thomson Publishing，London 1995)和由John December和Neil Randall所编著的“不受约束的全球信息网”(SAMS Publishing，Indianapolis 1994)中查到。对于WWW的使用因其灵活性，可移植性和容易使用性，并结合交互式多媒体技术所呈现的综合性能正以一种爆炸式的速度增长。WWW容许任一联入Internet网并拥有适当软硬件配置的计算机检索在Internet网上任一位置可提供的文件。WWW上的可检索文件包括“超媒体”文件，即，可能是文本或其它媒体形式如声音和图像形式且同其它文件链接(超链接)的文件。WWW上的文本文件的格式是一种HTML(超文本标注语言)中的标准格式，使得在一种操作系统和硬件平台上创建的文件能够被在另一种工作平台上拥有浏览器的用户读出(见下文)。图像可存储在单独的图形文件中，例如以标准GIF或JPEG格式存放，且在HTML正文中注明以使用户如同检索HTML正文一样检索这一指定图像文件。

用户通过一个“Web浏览器”或“Web客户机”来访问信息，它是安装在用户计算机上且能经由Internet网从一个Web服务器上服务或检索文件的能力的一种软件。目前可用的Web浏览器包括IBM公司的WebExplorer和NCSA的Mosaic。WebExplorer和Mosaic都是相应公司的注册商标。这些浏览器包括目录，搜索工具，理解HTML和其它的WWW标准格式并可以以这些格式正确的显示或输出文件。Web浏览器的用户界面是一种图形“点击式”界面(即可通过在图形显示上移动光标并按一鼠标键来选择选项)。WWW由各有一特定的通用资源定位器(或URL)的网页或文件构成。URL指明该服务器和在该服务器上的特定文件或网页。用户可通过超链接的方法来指定一特定的URL或从一URL跳转到一与之相关的URL，即，网页上的单词或符号能同另一可选的URL相关，如可通过在相关位置上击鼠标键，使得浏览器检索并显示此相关网页。单一的服务器上可能驻留有许多网页，且与之相关的超链接网页可能位于不同的服务器上。如果一URL以”http：”开始，则表示这一文件包括超链接。  “http：”代表“超文本传输协议”并且它是一种基本通信协议，通过此协议信息可经WWW发送且被“超链接”在一起。

当用户利用他的Web浏览器为在Web服务器系统上的网页选择一URL时，则一个一次性请求就被送到对该网页执行具体操作的相关服务器。在许多情况下，服务器可通过从存有网页的数据库中检索所请求的网页并通过Internet把此HTML网页传送回WWW客户机以显示来响应这一请求。这一操作由单独的端到端同步通信对话完成。即，浏览器送出它的请求之后就将在它进行进一步处理或开始其它请求之前等待一个回答。当浏览器等待一请求响应时就被称为”阻塞”或“挂起”。在一些情况下浏览器的请求将会使服务器发送一申请以生成HTML，但是由于浏览器不提供同时通信对话并且不保存两次请求期间的申请状态信息，因此浏览器的一次性请求将再次要求在当前同步通信对话内得到响应。浏览器所请求的访问网页所造成的失败将以一种显示于用户终端上的错误信息方式通知用户，但是如果只是因为服务器响应慢则浏览器将挂起一段不确定的时间。事实上，如果这一延迟时间对于用户来说是不可接受的，则用户可能会放弃这一通信要求。在Web浏览器中没有自动再请求的设施。

现代企业要求具有同企业内其它各部门和相关企业，诸如在不同国家的客户和供应商，  相互通信的能力。WWW Internet业务对于这种请求可提供一个部分解决办法，为企业间通信提供一费用合理的通信媒介，但是WWWInternet网络服务的一次性请求-响应通信模式和它缺乏对来自浏览器的并行请求的支持，在当所请求的信息在一可接受的时间内得不到响应时就表现出严重的局陷性。对于一发送系统来说，无限期的挂起是难以接受的，而且使紧急商业应用程序的成功与否依赖于一服务器能否及时对请求作出响应也是难以接受的。WWW Internet服务不提供确保许多商业关键性应用程序所要求的信息传送的能力。(即，此应用程序需确知它所发出的信息不会在到达目的地期间丢失且它只被发送一次)。而且，商业应用程序可能会涉及包括多个请求-回答的对话并且缺乏任何在Web浏览器请求间的被传送的上下文信息，这意味着没有可把属于同一商业应用程序的请求联系起来的能力。

通常，需要提供一种几乎可同时给大量WWW浏览器提供同一信息的WWW服务器。例如，IBM最近为美国佐治亚洲的亚特兰大奥运会提供了网络设施。作为这一研究计划的一部分，需要一台高可用性的服务器，这是由于世界上的许多人都想同时获得对于Web服务器的访问，以获得诸如每一奥林匹克竞技项目结果的信息。每一Web浏览器来自世界各地，发出一列入IBM奥林匹克Web服务器URL表的请求。该服务器必须具有依据Web浏览器请求提供大量需求的服务能力。

在这些情况下，已知一种可能的高可用性服务器结构(参看IBM的日本专利NO.2505116)为，在多个计算机服务器设备安装之前，先安装了一个负载的衡器。每一计算机服务器设备可提供同其它多个计算机设备相同的信息。许多计算机服务器设备都以这种方式使用，以提供服务于大量客户浏览器请求的能力。这一负载均衡器定期检查每一服务器设备的状态以确定服务器设备的忙闲情况，并相应的修改数据记录。然后此负载均衡器依据每一服务器设备记录在数据记录上的状态来决定应由哪一服务器设备来服务于下一个的浏览器请求。每一浏览器发送一类请求给在URL中指定的“服务器”，但并不知道“服务器”如何处理这一请求。许多浏览器都只是以一种快速有效的形式被供以所请求的信息。

然而，这类已知的高可用性服务器存在着弊端，这是由于负载均衡器只是定期检查每一服务器设备的状态，因此经常是既使某一特定服务器在负载均衡器检查的时间内被确知不忙，但它有可能在两次状态检查之间的稍后一段时间内很忙。在这种情况下，某一特定服务器设备可能会被分配以过多的任务使得相应的浏览器不得不在收到所要求的信息前等待一段长的时间。

而且，基于上述已知结构，浏览器请求由负载均衡器一次接收一个，并且依照它们被接收的次序分配以服务器设备。然而，这是不合适的，如果先前所接收的图形请求正被服务时，则请求纯文本的浏览器必须等待一长的时间(由于图像比文本包括更多的信息，因此图像请求比文本请求涉及多的多的需传输的数据信息)。而且，如果对于一浏览器用户能在其它用户之前获得访问是特别重要的情况下，前一结构里并未提供这种机制。每一请求必须依次等待。

而且，如果存在一段极高需求的特别时期，即所有可用的服务器都很忙，则浏览器在得到它们的请求服务前必须等待一段长的时间。

由于在为另一浏览器请求建立初始连接之前，必须先处理每一接收到的浏览器请求并返回浏览器一响应回答，这就大大的削弱了这一结构的性能。

本发明就是为了解决在前一机制智能上的限制。

根据本发明一个方面，提供了一种具有可处理多个来自通过网络连接到所述服务器系统大量的计算机客户机请求的能力的高可用性计算机服务器系统，所述请求特别指定所述服务器系统。所述服务器系统包括：报文传送和排队(messaging and queuing)单元，它具有连接到所述网络的输入端，通过此输入端指定所述服务器系统的所述请求被接收，及一个输出端；和多个并行连接到所述报文传送和排队单元的所述输出端上的服务器单元。

通过使用报文传送和排队单元，本发明防止了从此单元中接收请求的服务器过载，因为与在服务器没有要求而负载均衡器却把请求“推”到服务器上的情况相反，服务器从(此单元)排队中“拉”出请求。使服务器系统和整个客户/服务器系统能更有效的处理客户请求，尤其是在服务器系统几乎同时接收到大量请求的高容量情况下更是如此。

根据最佳的实施方式，所述报文传送和排队单元包括用于给所收到的请求分配优先权的装置。而且，其中所述分配优先权的装置，文本请求同图像请求相比，分配给文本请求以更高优先权。

而且，更可取地是，所述报文传送和排队单元包括用于当由上述报文传送和排队单元所接收的未经服务的请求数超过一阈值时，能启动一附加的服务器单元的装置。

另外，所述报文传送和排队单元包括用于把请求送至所述多个Web服务器单元之一以对告知报文传送和排队单元所述Web服务器已准备好处理请求的所述web服务器系统作出响应的装置。

而且，本发明更可取地提供了这样一种系统，这里所述的网络为全球信息网，所述的服务器系统为Web服务器系统且所述的客户器为Web浏览器。

就另一方面来讲，本发明提供了一种用于处理通过计算机网络接收来自多个客户机装置的请求的方法，每一所述的请求都特别指定一特定的服务器系统，上述方法包括如下步骤：在所述特定的服务器系统上，把所述接收到的请求存入报文传送和排队单元；并且从所述报文传送和排队单元把请求发送到多个并行连接的服务器单元。

更可取地是，此方法还包括用于给所接收到的请求分配优先权的所述报文传送和排队单元，而且，文本请求同图形请求相比，所述报文传送和排队单元给文本文件分配以更高的优先权。

更可取地是，这种方法还包括用于当所述报文传送和排队单元所接收的未经处理的请求数目高于一个阈值时将触发一个附加的服务器的报文传送和排队单元。

此方法还包括用于把信息送至所述多个服务器之一以对告知所述通信请求队列自己已准备好处理请求的所述服务器作出响应的所述报文传送和排队单元。

而且，此发明优先提供了这样一种方法，其中，所述网络为全球信息网，所述服务器系统为Web服务器系统且所述客户机为Web浏览器。

根据本发明另一方面，提供了一种客户/服务器计算机系统，此系统拥有一种能处理多个来自通过网络连接到所述服务器系统的多个客户机的请求的高可用性计算机服务器系统，所述这些请求特别指定所述服务器系统，所述服务器系统包括：报文传送和排队单元，它具有连接到所述网络的输入端，通过此输入指定所述服务器系统的所述请求被接收，及一个输出端；以及多个并行连接到所述报文传送和排队单元的所述输出端的服务器单元。

图1框图显示了根据本发明最佳实施方式的一种包括一个服务器系统的网络系统结构。

如图1所示，适用于本发明最佳实施方式的系统结构包括多个连接到Internet2的客户Web浏览器1a-1n。多个Web服务器3a，3b，3c也连接到Internet2上。如上所述，每一客户Web浏览器1a-1n可通过Internet2发送一特别指定所需Web服务器的请求来访问存储在Web服务器3a-3c中的信息。

在图1中以更详细的方式显示了Web服务器3b，因为此服务器表示了一种根据本发明最佳实施方式的服务器结构。服务器3b是一种可以比其它两个正常利用率服务器3a和3c提供更多服务的高可用性服务器。服务器3b，例如，正为一风行的国际性体育比赛提供比分并且几乎同时被世界各地的浏览器所访问。因此要求服务器3b必须能够处理大量几乎同时发出的请求。

如图所示，服务器3b可分为一个报文传送和排队单元31和多个正常利用率Web服务器32a-32n。服务器32a-32n可以，例如，同别的服务器3a和3c相同。报文传送和排队单元31为一种可运行在32a-32n之中的任一服务器上或可运行在一包含于服务器结构3b内的单个的服务器上的软件产品。此报文传送和排队单元软件的细节在技术上是众所周知的，但是，现在要给出此单元的一简要背景介绍以解释在本发明所公开的实施方式中它的功能。

一种可选择的同步通信模式，即时间依赖的“请求及等待响应”通信模式(经常在WWW环境中)，是一种在技术上称为“报文传送和排队”的异步报文传送。发送消息给一接收器程序的程序不需挂起自己以等待来自接收者的回答这样它可继续运行下去，且发送者与接收者彼此间并不同步(串行的)。异步程序间报文传送主要利用消息队列作为暂时存储设施，当消息从一初始程序送出时可放在此队列中，当一接收器程序就绪时也可从此队列中检索消息。在程序间无专用的逻辑链接，把消息放入队列后，发送器程序可继续执行其它的任务，这些任务可能包括向网络中的其它程序发送消息。在技术上称之为提供异步报文传送系统，此系统可支持通过异构网络的程序间通信，并且此系统把应用程序(每一程序专为一特定的操作系统所写)同网络的复杂性和维护并定位消息队列的工作分离开来。这种通信系统对于需要获得它们各商业应用程序间高可用性的互操作的信息的商业企业来说是很重要的，这些程序的数据处理资源包括一系列互异的操作系统和硬件环境。

消息队列和商业可用消息队列产品在B.Blakeley，H.Harris和R.Lewis、McGraw-Hill在1994年所著的“使用MQI的报文传送及排队”中描述，并且，在下列由IBM公司提供的刊物“对于报文传送和排队的介绍”(IBM.文件号GC33-0805-00)和“MQSeries消息队列界面技术手册”(IBM文件号GC33-0805-01)中也有所描述。IBM和MQSeries都是IBM公司的注册商标。IBM的MQSeries通信软件产品提供了一种事务报文传送支持，在逻辑工作单元中的同步信息符合即使在系统或通信失败的情况下也确保一次或一次性消息传送的协议。MQSeries产品通过提供一种直到确知接收器系统已安全存储信息才最终将存储在发送器系统中信息删除的方法来确保传输，以及采用复杂的恢复设施。这种方法依靠成功存储确认信息进行消息传送之前，不仅在发送器系统从存储器中删除信息而且在接收器系统把信息插入存储器的操作都保持“不确定”(in doubt)，并且在失败的情况下可自动返回。这一消息传送协议和相关的事务观点及恢复设施在国际专利申请WO95/10805和US专利5465328中有所描述，此处综合上述内容作为参考。

当拥有URL所指定的3b服务器的请求经由Internet从客户浏览器上被接收到时，服务器3b的报文传送和排队单元31接收此请求并把它存入一队列。当Web服务器32a-32n已准备好接收一个队列中的请求时将通知此报文传送和排队单元。即，当服务器32已完成了先前的请求服务且目前空闲时，它将发送一消息给此报文传送和排队单元31要求服务另一请求。这一机制对于其它服务器32a-32n同样适用。这一过程被称之为”拉”模式，因为当服务器32a-32n准备好时将把请求从队列中“拉”出。此方法有避免服务器过载的优点，因为只有服务器请求这么做时才会被给以工作。因而服务器32a-32n可高可用性而强有力地工作。

当一请求由报文传送和排队单元31接收到时，一个唯一的相关标识符就分配给每个HTTP请求。接收到的请求被放入单元31的请求队列中。然后单元31将一直等待(通过挂起一阻塞MQGET请求)，直到32a-32n的一个表示已准备好接收一请求的服务器返回拥有所分配的相关标识符的回答给单元31。此回答信息被存入单元31的HTTP回答队列中并被送回初始化此请求的浏览器1a-1n。

采用Web浏览器32a-32n以便不需监测HTTP请求(如若在3a和3c的操作)的常规端口(对于多数服务器来说为端口80)只需监测单元31的请求队列。另一个办法是，可同相应的服务器32a-32n一起运行一桥式程序来监测单元31的请求队列并为服务器端口80提供请求。在后一中结构中，服务器的回答可被此桥式程序所接收并把它转换成一种加入到单元31的HTTP回答队列中的消息。

通过使用在Internet和多个并行连接的服务器间的报文传送和排队单元，存储在此报文传送和排队单元31中的信息可使用众所周知的报文传送和排队单元技术而被分配以优先权。例如，如果一客户浏览器1a请求一文本信息(如体育赛比分)而另一客户浏览器1b请求图像数据时(运动场的彩色图片)，通常优先服务此文本信息请求，因为图形信息数据量非常大因而需花费较长的时间服务。浏览器1a被快速服务以该简单文本请求。浏览器1b因是图形请求而需较长等待，因此优先服务文本请求是很适用的。这两个存储在单元31队列中的HTTP请求可通过查看它们各自的URL扩展名而得以检查。如果此扩展名为文本(HTML)则此HTTP请求就被移至一扩展名为GIF(特指图形图像数据)的请求之前。

而且，当排队信息超过一阈值时，报文传送和排队单元31的众所周知的触发特性就可发生作用以唤醒附加的服务器32a-32n。即，当不需要所有的服务器32a-32n运行时，可能存在一段低使用频度的时间。当需使用更多的此系列服务器32a-32n时，则存在一段高使用频度的时间。因此，报文传送和排队单元单元31定期检查排队的请求数目并且当此数目大于一阈值时，在此高使用频度期间触发启动附加的服务器。

而且，由于报文传送和排队单元单元31接收每一Internet连请求并把所接收到的HTTP请求放入一队列中，则它可通过立即接受另一连接的方式来快速服务下一个请求。在现有结构中，在接收另一连接以接收来自Internet的下一请求时需等待，直到一服务器服务了所接收到的请求并且通过所打开的连接返回一个回答。

相应地，Web服务器的性能和利用率可根据本发明最佳实施方式得以大大加强。而该最佳实施方式已在把WWW作为网络的正文中描述过了，另外许多联机的网络也在本发明的范围内。

Claims (13)

1.一种高可用性计算机服务器系统(3b)，该系统能够处理大量从通过网络(2)连接至所述的服务器系统的多个计算机客户机(1a，1b，1n)所接收的请求，所述请求特别指定此服务器系统，所述服务器系统包括：

报文传送和排队单元31，它具有连接到所述网络(2)的输入端，通过此输入端指定所述服务器系统的所述请求被接收，及一个输出端；以及

多个并行连接到所述报文传送和排队单元31的输出端上的服务器单元(32a，32b，32n)。

2.如权利要求1所述的系统，其特征在于所述报文传送和排队单元包括用于给所接收到的请求分配优先权的装置。

3.如权利要求2所述的系统，其特征在于所述用于分配优先权的装置，文本请求同图形请求相比，分配给文本请求以更高的优先权。

4.如上述任一权利要求所述的系统，其特征在于所述报文传送和排队单元包括用于当此单元所接收的未经服务的请求数超过一阈值时触发一附加的服务器单元的装置。

5.如上述任一权利要求所述的系统，其特征在于上述报文传送和排队单元包括用于给所述多个服务器单元之一发送一条请求以对通知报文传送和排队单元自己已准备好接收请求的所述服务器单元作出响应的装置。

6.如上述任一权利要求所述的系统，其特征在于所述网络为全球信息网，所述服务器系统为Web服务器系统且所述客户器为Web浏览器。

7.一种用于服务经一计算机网络(2)从多个客户机上(1a，1b，1n)接收到的请求的方法，每一所述请求特别指定一特定的服务器系统(3b)，所述方法包括以下步骤：

在所述特定的服务器系统中把接收到的请求存入一报文传送和排队单元(31)；以及

从所述报文传送和排队单元中发送请求给多个并行连接的服务器单元(32a，32b，32n)。

8.如权利要求7所述的方法，其特征在于所述报文传送和排队单元给所收到的请求分配优先权。

9.如权利要求8所述的方法，其特征在于所述报文传送和排队单元，文本请求同图形请求相比，给文本请求分配以更高的优先权。

10.如上述任一权利要求所述的方法，其特征在于当由所述报文传送和排队单元接收的未经服务的请求数超过一阈值时，所述报文传送和排队单元将触发附加的服务器。

11.如上述任一权利要求所述的方法，其特征在于所述报文传送和排队单元给诸多服务器之一发送一请求以对通知所述报文传送和排队单元自己已准备好接收请求的所述服务器作出响应。

12.如上述任一权利要求所述的方法，其特征在于所述网络为全球信息网，所述服务器系统为Web服务器系统且所述客户机为Web浏览器。

13.具有一高可用性的计算机服务器系统(3b)的客户/服务器计算机系统，能够服务大量来自多个经网络(2)连接到所述服务器系统的客户机(1a，1b，1n)的请求，所述请求特别的指定所述服务器系统，所述服务器系统包括：

报文传送和排队单元(31)，它具有一连接到所述网络(2)的输入端，通过此输入端接收指定所述服务器系统的所述请求以及一个输出端；以及

多个并行连接到所述报文传送和排队单元(31)的所述输出端的服务器单元(32a，32b，32n)。

Images