瞬態(tài)響應(yīng)的高性能體系結(jié)構(gòu)：網(wǎng)站

　　什么是高性能網(wǎng)站

　　深國商網(wǎng)站構(gòu)建了兩個網(wǎng)站性能架構(gòu)設(shè)計方案：方案a和方案B。在方案a中，當(dāng)并發(fā)用戶少于100個時，每個請求的響應(yīng)時間為1秒。當(dāng)并發(fā)請求達(dá)到200個時，請求的響應(yīng)時間將急劇增加到10秒。無論是100個并發(fā)用戶還是200個并發(fā)用戶，方案B中每個請求的響應(yīng)時間幾乎都是1.5秒。哪種方案性能更好 如果老板說ldquo；我們需要改進(jìn)網(wǎng)站；，他什么意思

　　同一類型的兩個網(wǎng)站，X網(wǎng)站服務(wù)器請求的平均處理時間是500毫秒，Y網(wǎng)站服務(wù)器的平均處理時間是1000毫秒，為什么用戶反映Y網(wǎng)站很快

　　網(wǎng)站性能是一個客觀指標(biāo)，可以體現(xiàn)在響應(yīng)時間吞吐量等技術(shù)指標(biāo)上。同時，它也是一種主觀感受，是一種與特定參與者相關(guān)的微妙事物。用戶的感受與工程師不同，不同的用戶感受也不同。

　　4.1網(wǎng)站性能試驗

　　性能測試不僅是性能優(yōu)化的前提和基礎(chǔ)，也是性能優(yōu)化結(jié)果的檢驗和測量標(biāo)準(zhǔn)。從不同的角度來看，網(wǎng)站的性能有不同的標(biāo)準(zhǔn)和優(yōu)化方法。

　　4.1.1網(wǎng)站不同角度的績效

　　當(dāng)軟件工程師談?wù)摼W(wǎng)站性能時，通常與用戶所說的不同。

　　1用戶視角網(wǎng)站性能

　　從用戶的角度來看，網(wǎng)站的性能是用戶對網(wǎng)站響應(yīng)速度或慢的直觀感知。用戶感知的時間包括用戶計算機(jī)與網(wǎng)站服務(wù)器的通信時間、網(wǎng)站服務(wù)器的處理時間，以及用戶計算機(jī)瀏覽器構(gòu)造請求解析響應(yīng)數(shù)據(jù)的時間，如圖4.1所示。

　　不同計算機(jī)的性能差異，不同瀏覽器之間HTML解析的速度差異，不同網(wǎng)絡(luò)運(yùn)營商提供的互聯(lián)網(wǎng)寬帶服務(wù)的差異，這些差異**終會導(dǎo)致響應(yīng)延遲，用戶認(rèn)為響應(yīng)延遲可能比服務(wù)器處理請求所需的時間網(wǎng)站長得多。

　　它還可以從用戶的角度大大提高網(wǎng)站的性能。

　　2從開發(fā)者角度網(wǎng)站性能開發(fā)者主要關(guān)注應(yīng)用本身及其相關(guān)子系統(tǒng)的性能，包括響應(yīng)延遲、系統(tǒng)吞吐量、并發(fā)處理能力、系統(tǒng)穩(wěn)定性等技術(shù)指標(biāo)。主要的優(yōu)化方法包括使用cache加速數(shù)據(jù)讀取、使用集群提高吞吐量、使用異步消息加速請求響應(yīng)和調(diào)峰、使用代碼優(yōu)化提高程序性能。

　　3運(yùn)維人員績效網(wǎng)站運(yùn)維人員更關(guān)注基礎(chǔ)設(shè)施性能和資源利用率，如網(wǎng)絡(luò)運(yùn)營商帶寬能力、服務(wù)器硬件配置、數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)等，服務(wù)器資源利用率和網(wǎng)絡(luò)帶寬等主要優(yōu)化方法包括構(gòu)建優(yōu)化的骨干網(wǎng)、采用經(jīng)濟(jì)**的定制服務(wù)器、利用虛擬化技術(shù)優(yōu)化資源利用率等。

　　4.1.2性能試驗指標(biāo)

　　從開發(fā)人員和測試人員的角度來看，網(wǎng)站性能測試的主要指標(biāo)是響應(yīng)時間、并發(fā)性吞吐量、性能計數(shù)器等。

　　1響應(yīng)時間是指應(yīng)用程序執(zhí)行操作所需的時間，包括從發(fā)送請求到接收**終響應(yīng)數(shù)據(jù)的時間。響應(yīng)時間是系統(tǒng)**重要的性能指標(biāo)，它直接反映了系統(tǒng)的ldquo性能；快或慢；。表4.1列出了一些常見系統(tǒng)操作所需的響應(yīng)時間。

　　通過模擬應(yīng)用程序，測試程序記錄接收響應(yīng)和發(fā)送請求之間的時間差來計算系統(tǒng)響應(yīng)時間。然而，記錄和獲取系統(tǒng)時間的操作也需要一定的時間。如果測試目標(biāo)操作本身花費(fèi)很少的時間，比如幾微秒，那么測試程序就不能測試系統(tǒng)的響應(yīng)時間。

　　實際上，通常的方法是重復(fù)請求。例如，一個請求操作重復(fù)10000次，測試10000次所需的總響應(yīng)時間，然后除以10000得到單個請求的響應(yīng)時間。

　　2并發(fā)數(shù)是指系統(tǒng)可以同時處理的請求數(shù)，它也反映了系統(tǒng)的負(fù)載特性。對于網(wǎng)站，并發(fā)用戶數(shù)網(wǎng)站是指同時提交請求的用戶數(shù)0。與網(wǎng)站并發(fā)用戶數(shù)相對應(yīng)的是網(wǎng)站在線用戶數(shù)（當(dāng)前登錄的用戶總數(shù)網(wǎng)站）和網(wǎng)站系統(tǒng)用戶數(shù)（可以訪問系統(tǒng)的用戶總數(shù)，即大多數(shù)用戶的注冊用戶數(shù)網(wǎng)站）。數(shù)字比較關(guān)系為：網(wǎng)站系統(tǒng)用戶數(shù)網(wǎng)站在線用戶數(shù)網(wǎng)站并發(fā)用戶數(shù)。在網(wǎng)站產(chǎn)品設(shè)計的早期階段，產(chǎn)品經(jīng)理和運(yùn)營商需要規(guī)劃不同開發(fā)階段的網(wǎng)站系統(tǒng)用戶數(shù)，并在此基礎(chǔ)上根據(jù)產(chǎn)品特點(diǎn)和運(yùn)營手段計算在線用戶數(shù)和并發(fā)用戶數(shù)。這些指標(biāo)將成為系統(tǒng)不起作用的重要依據(jù)設(shè)計。

　　現(xiàn)實中，我們經(jīng)常會看到一些網(wǎng)站，尤其是電子商務(wù)網(wǎng)站，營銷人員熱情地打廣告打折，用戶爭相購買。結(jié)果，在活動開始時，由于并發(fā)用戶數(shù)超過**大負(fù)載網(wǎng)站，響應(yīng)緩慢，不耐煩的用戶不斷刷新瀏覽器，導(dǎo)致系統(tǒng)并發(fā)用戶數(shù)增加，**后服務(wù)器系統(tǒng)崩潰，用戶瀏覽器顯示ldquo；服務(wù)太忙；就這樣結(jié)束了。造成這種情況的原因可能是網(wǎng)站技術(shù)準(zhǔn)備不足，或者運(yùn)營商對并發(fā)用戶數(shù)量的錯誤評估。

　　測試程序通過多線程模擬并發(fā)用戶來測試系統(tǒng)的并發(fā)處理能力。為了真實地模擬用戶行為，測試程序不啟動多線程并連續(xù)發(fā)送請求，而是在兩個請求之間添加一個隨機(jī)的等待時間，稱為思考時間。

　　3.吞吐量

　　它是指單位時間內(nèi)系統(tǒng)處理的請求數(shù)，反映了系統(tǒng)的整體處理能力。對于網(wǎng)站，可以使用ldquo；請求/秒?！?；或ldquo；頁數(shù)/秒。“；為了達(dá)到**大的平衡，還可以使用ldquo；參觀人數(shù)/天；或ldquo；處理的服務(wù)數(shù)量/hourrdquo；以此類推（TPS（每秒事務(wù)數(shù)）是吞吐量的常用量化指標(biāo)，此外還有HPS（每秒事務(wù)數(shù)）HTTP請求數(shù)）、QPS（每秒查詢數(shù)）等。

　　在系統(tǒng)并發(fā)從小到大的過程中（這個過程也伴隨著服務(wù)器系統(tǒng)資源消耗的增加）

　　系統(tǒng)吞吐量開始逐漸增加，當(dāng)達(dá)到極限時，隨著并發(fā)度的增加而減少。當(dāng)它到達(dá)系統(tǒng)崩潰點(diǎn)時，系統(tǒng)資源耗盡，吞吐量為零。

　　在這個過程中，響應(yīng)時間先保持一個小的上升，達(dá)到吞吐量極限，然后迅速上升。到達(dá)系統(tǒng)崩潰點(diǎn)后，系統(tǒng)失去響應(yīng)。系統(tǒng)吞吐量、系統(tǒng)并發(fā)性和響應(yīng)時間之間的關(guān)系將在本章后面介紹。

　　系統(tǒng)吞吐量與系統(tǒng)并發(fā)數(shù)的關(guān)系，以及響應(yīng)時間，可以直觀地理解為高速公路的交通狀況：吞吐量是每天通過收費(fèi)站的車輛數(shù)（可以換算成收費(fèi)站收取的高速費(fèi)），并發(fā)數(shù)是高速公路上行駛的車輛數(shù)，響應(yīng)時間是速度。車輛少的時候，速度很快，但是高速費(fèi)也比較少；隨著高速公路上車輛數(shù)量的增加，車速受影響不大，但收取的高速費(fèi)卻迅速增加；隨著車輛的不斷增加，車速越來越慢，高速公路越來越堵，通行費(fèi)不增反減；如果交通量持續(xù)增加，超過一定限度，任何意外因素都會導(dǎo)致高速癱瘓，車走不動了，收費(fèi)當(dāng)然收不到了，高速公路成了停車場（資源枯竭）。

　　網(wǎng)站性能優(yōu)化的目的不僅是為了提高用戶體驗的響應(yīng)時間，而且也是為了盡可能地改進(jìn)系統(tǒng)吞吐量，**大限度地利用服務(wù)器資源。

　　4性能計數(shù)器是描述服務(wù)器或操作系統(tǒng)性能的數(shù)據(jù)索引。包括System Load、對象和線程數(shù)、內(nèi)存使用率、CPU使用率、磁盤和網(wǎng)絡(luò)I/O等指標(biāo)。這些指標(biāo)也是系統(tǒng)監(jiān)控的重要參數(shù)。為這些指標(biāo)設(shè)置表揚(yáng)門檻。當(dāng)監(jiān)控系統(tǒng)發(fā)現(xiàn)性能計數(shù)器超過閾值時，會向運(yùn)維人員報告冗余情況，及時發(fā)現(xiàn)并處理系統(tǒng)異常。

　　System Load是系統(tǒng)負(fù)載，它是指當(dāng)前由CPU執(zhí)行并且等待由CPU執(zhí)行的進(jìn)程的數(shù)目的總和。它是系統(tǒng)繁忙和空閑程度的一個重要指標(biāo)（在多核CPU的情況下，**理想的情況是所有CPU都在使用中，沒有進(jìn)程等待處理，因此Load的理想值是CPU的數(shù)目。當(dāng)Load的值小于CPU的值時，表示CPU空閑，資源浪費(fèi)；當(dāng)Load的值大于CPU的數(shù)字時，表示進(jìn)程正在隊列中等待CPU調(diào)度，表示系統(tǒng)資源不足，影響應(yīng)用程序的執(zhí)行性能。在Linux系統(tǒng)中，使用top命令查看。該值是三個浮點(diǎn)數(shù)，表示**近1分鐘、10分鐘和15分鐘內(nèi)正在運(yùn)行的隊列中的平均進(jìn)程數(shù)。

http://ezekroy.com/jianzhanzhishi/772.html 什么是高性能網(wǎng)站