譯者 | 李睿
審校 | 重樓
緩存是將頻繁訪問的數(shù)據(jù)或資源存儲在臨時存儲位置(例如內(nèi)存或磁盤)的過程，以提高檢索速度并減少重復處理的需要。
緩存的好處
- 提高性能：緩存消除了每次從原始源檢索數(shù)據(jù)的需要，從而提高了響應(yīng)時間并減少了延遲。
- 減少服務(wù)器負載：通過提供緩存的內(nèi)容，減少了服務(wù)器上的負載，使其能夠處理更多請求，并提高了整體可擴展性。
- 帶寬優(yōu)化：緩存減少了通過網(wǎng)絡(luò)傳輸?shù)臄?shù)據(jù)量，最大限度地減少了帶寬的使用，并提高了效率。
- 增強用戶體驗：更快的加載時間和響應(yīng)速度可以帶來更好的用戶體驗，減少用戶挫折感，提高用戶參與度。
- 節(jié)省成本：緩存可以減少數(shù)據(jù)處理所需的計算資源，并通過最大限度地減少對昂貴服務(wù)器資源的需求來降低基礎(chǔ)設(shè)施成本。
- 提高可用性：緩存可以在高流量期間或在服務(wù)器臨時故障的情況下，通過緩存提供內(nèi)容來幫助維持服務(wù)的可用性。
緩存的類型
（1）客戶端緩存
客戶端緩存指的是將Web資源(例如html頁面、css文件、JAVAScript腳本和圖像)存儲在用戶設(shè)備上的過程，通常是在他們的Web瀏覽器中。客戶端緩存的目的是通過減少每次用戶訪問網(wǎng)頁時從Web服務(wù)器獲取資源的需要來加快網(wǎng)頁加載速度。
當用戶訪問一個網(wǎng)站時，他們的瀏覽器向Web服務(wù)器請求所需的資源。服務(wù)器用HTTP標頭進行響應(yīng)，這些標頭指導瀏覽器如何處理緩存。這些標頭包括緩存控制（Cache Control）、過期（Expires）、實體標簽（ETag）和最后修改時間（Last-Modified）。
瀏覽器根據(jù)服務(wù)器提供的緩存規(guī)則將資源存儲在其緩存中。在對同一頁面或資源的后續(xù)請求中，瀏覽器首先檢查其緩存。如果基于緩存標頭的資源仍然有效，則瀏覽器會從本地緩存中檢索資源，從而節(jié)省時間并減少對其他服務(wù)器請求的需要。
客戶端緩存可以顯著提高網(wǎng)站性能，特別是對于返回用戶，因為資源可以直接從緩存加載。但是，開發(fā)人員需要仔細管理緩存控制標頭，以確保用戶在需要時接收到更新的內(nèi)容，并避免過時或過時的緩存資源的潛在問題。
（2）客戶端緩存的好處
客戶端緩存提供了多種優(yōu)勢，可以增強Web性能和用戶體驗。首先，它為返回的用戶者提供了更快的加載時間，因為資源存儲在本地瀏覽器緩存中，消除了重復服務(wù)器請求的需要。這將導致更快的頁面加載和更流暢的瀏覽體驗。其次，客戶端緩存通過最小化發(fā)送到服務(wù)器的未更改資源的請求數(shù)量來減少服務(wù)器負載和帶寬消耗。這種優(yōu)化對高流量網(wǎng)站特別有價值。最后，提高性能可以帶來更好的用戶體驗，減少跳出率，提高用戶留存率。通過有效地利用客戶端緩存，網(wǎng)站所有者可以提供無縫的瀏覽體驗，優(yōu)化服務(wù)器資源的使用，并實現(xiàn)更好的網(wǎng)站性能。
（3）客戶端緩存的工作原理
客戶端緩存依賴于HTTP緩存標頭，例如Cache-Control、Expires、ETag和Last-Modified，以方便Web瀏覽器中的資源存儲。當用戶訪問網(wǎng)站時，這些標頭決定資源是否可以緩存以及緩存多長時間。瀏覽器將這些資源存儲在本地，并在后續(xù)訪問時檢查緩存的有效性。如果資源仍然有效，瀏覽器將從緩存中檢索它們，從而加快加載時間并減少服務(wù)器請求。
如果資源的緩存過期或更改(基于ETag)，瀏覽器將向服務(wù)器發(fā)送請求。然后，服務(wù)器使用帶有“If-Modified-Since” 或“If-None-Match”標頭的緩存驗證來確定資源是否被更新。如果未更改，服務(wù)器響應(yīng)“304未修改”狀態(tài)，瀏覽器繼續(xù)使用緩存版本；否則，它將接收更新的資源以進行緩存。這一過程確保向用戶有效地交付內(nèi)容，同時在需要時維護最新的資源。
客戶端緩存的最佳實踐
- 設(shè)置適當?shù)木彺婵刂疲–ache-Control）標頭：配置其標頭來指定資源的緩存規(guī)則。使用“public”這樣的值來允許瀏覽器和CDN緩存，“private”這樣的值只允許瀏覽器緩存，或者“no-cache”這樣的值來確保資源在每次使用之前都經(jīng)過服務(wù)器的重新驗證。
- 處理動態(tài)內(nèi)容和用戶特定數(shù)據(jù)：在緩存動態(tài)內(nèi)容和用戶特定數(shù)據(jù)時要謹慎。避免緩存顯示個性化信息的頁面或資源，因為這可能導致向用戶提供過時的內(nèi)容。實現(xiàn)考慮動態(tài)內(nèi)容獨特性的緩存策略。
- 處理資源更新的緩存破壞：在更新資源(如CSS或JavaScript文件)時，實現(xiàn)緩存破壞技術(shù)，以確保用戶收到最新版本。向資源URL添加版本號或唯一哈希等方法迫使瀏覽器獲取更新的內(nèi)容，而不是依賴于緩存的版本。
通過遵循這些最佳實踐，可以優(yōu)化客戶端緩存，以增強網(wǎng)站性能，減少服務(wù)器負載，并提供改進的用戶體驗。
常見的陷阱和挑戰(zhàn)
- 確保緩存一致性：客戶端緩存的挑戰(zhàn)之一是維護緩存一致性。當多個用戶同時訪問相同的資源時，如果緩存版本與最新內(nèi)容不同，可能會出現(xiàn)差異。必須實現(xiàn)緩存驗證機制并設(shè)置適當?shù)倪^期時間，以便在性能和新鮮度之間取得平衡。
- 處理過期的緩存資源：緩存的資源可能會過期，尤其是在服務(wù)器端發(fā)生更新時。這可能會導致用戶體驗到陳舊的內(nèi)容。實現(xiàn)緩存重新驗證方法，例如使用ETag或Last-Modified頭的條件請求，在將緩存的資源提供給用戶之前檢查它們是否仍然有效。
- 平衡緩存與安全注意事項：在客戶端緩存敏感或私有數(shù)據(jù)可能會帶來安全風險。避免緩存敏感信息或在必要時使用適當?shù)募用芎蜕矸蒡炞C措施。考慮結(jié)合使用客戶端和服務(wù)器端緩存技術(shù)，在性能和安全性之間取得平衡。
克服這些缺陷和挑戰(zhàn)需要仔細規(guī)劃和全面的緩存策略。通過處理緩存一致性、處理過時資源和考慮安全影響，用戶可以優(yōu)化客戶端緩存，以獲得高效和安全的用戶體驗。
服務(wù)器端緩存
服務(wù)器端緩存指的是將頻繁請求的數(shù)據(jù)或計算臨時存儲在服務(wù)器內(nèi)存或存儲上的做法。服務(wù)器端緩存的主要目標是優(yōu)化服務(wù)器響應(yīng)時間，減少對冗余處理的需求，從而提高整體系統(tǒng)性能并減少延遲。
（1）緩存機制概述
服務(wù)器端緩存使用各種緩存機制來有效地存儲和檢索數(shù)據(jù)。一種常見的方法是使用內(nèi)存緩存，例如redis和Memcached。這些緩存系統(tǒng)直接將數(shù)據(jù)存儲在內(nèi)存中，從而實現(xiàn)閃電般的訪問時間。它們非常適合存儲頻繁訪問的數(shù)據(jù)，例如數(shù)據(jù)庫查詢結(jié)果或API響應(yīng)。通過將數(shù)據(jù)保存在內(nèi)存中，服務(wù)器端應(yīng)用程序可以快速檢索和提供緩存的內(nèi)容，從而減少對重復的、昂貴的數(shù)據(jù)庫查詢或計算的需求。
另一種緩存機制，特別是針對基于php的Web應(yīng)用程序，是使用OPcache之類的操作碼緩存。操作碼緩存將預編譯的PHP代碼存儲在內(nèi)存中，從而消除了在每次請求時重新處理PHP腳本的需要。這顯著地提高了PHP應(yīng)用程序的性能，因為它繞過了重復的解析和編譯步驟，減少了服務(wù)器負載和響應(yīng)時間。
通過利用服務(wù)器端緩存機制，例如內(nèi)存緩存(Redis，Memcached)和操作碼緩存(OPcache)，應(yīng)用程序可以優(yōu)化服務(wù)器性能，最小化冗余計算，并為客戶端請求提供更快，更有效的響應(yīng)。這反過來又會帶來更好的整體用戶體驗和響應(yīng)更快的Web應(yīng)用程序。
（2）服務(wù)器端緩存的好處
服務(wù)器端緩存提供了幾個關(guān)鍵的好處，可以顯著提高Web應(yīng)用程序的性能和可擴展性：
- 減少數(shù)據(jù)庫和后端處理負載：通過在內(nèi)存中緩存頻繁請求的數(shù)據(jù)，服務(wù)器端緩存減少了對重復數(shù)據(jù)庫查詢和后端處理的需求。減少數(shù)據(jù)檢索和計算量減輕了數(shù)據(jù)庫和服務(wù)器負載，從而允許有效地分配資源并提高應(yīng)用程序的總體響應(yīng)性。
- 對于頻繁請求的數(shù)據(jù)，獲得更快的響應(yīng)時間：使用存儲在內(nèi)存緩存中的數(shù)據(jù)，例如Redis或Memcached，服務(wù)器可以在幾毫秒內(nèi)快速檢索和提供緩存的內(nèi)容。因此，對于經(jīng)常訪問的數(shù)據(jù)，用戶可以體驗到更快的響應(yīng)時間，從而增強用戶體驗并減少等待時間。
- 可擴展性和負載平衡優(yōu)勢：服務(wù)器端緩存在提高Web應(yīng)用程序的可擴展性和負載平衡能力方面起著至關(guān)重要的作用。通過減少后端處理負載，可以快速提供緩存數(shù)據(jù)，從而允許服務(wù)器在不犧牲性能的情況下處理更多數(shù)量的并發(fā)請求。這使應(yīng)用程序能夠輕松擴展以滿足不斷增長的需求，確保在流量高峰或高容量使用期間為用戶提供無縫體驗。
總的來說，服務(wù)器端緩存提供了一個健壯的解決方案來增強應(yīng)用程序性能、優(yōu)化資源利用和維護響應(yīng)性，使其成為構(gòu)建高性能和可擴展Web應(yīng)用程序的重要組件。
（3）實現(xiàn)服務(wù)器端緩存
實現(xiàn)服務(wù)器端緩存涉及到各種有效存儲和管理緩存數(shù)據(jù)的策略。一種方法是在應(yīng)用程序級別緩存數(shù)據(jù)，使用字典或數(shù)組等數(shù)據(jù)結(jié)構(gòu)將頻繁訪問的數(shù)據(jù)直接存儲在內(nèi)存中。這一方法適用于較小規(guī)模的緩存或數(shù)據(jù)不經(jīng)常更改的情況。然而，在使用這種方法時，考慮內(nèi)存限制和數(shù)據(jù)一致性是至關(guān)重要的。
另一種有效的技術(shù)是緩存數(shù)據(jù)庫查詢結(jié)果。當執(zhí)行查詢時，其結(jié)果存儲在緩存中。對同一查詢的后續(xù)請求可以從緩存中處理，從而減少了數(shù)據(jù)庫的負載并縮短了響應(yīng)時間。為了使緩存的數(shù)據(jù)與數(shù)據(jù)庫中的更改保持同步，開發(fā)人員需要定義緩存失效策略。
緩存過期和退出策略對于確保緩存數(shù)據(jù)保持相關(guān)性和不消耗過多內(nèi)存也是必不可少的。緩存過期為緩存的數(shù)據(jù)設(shè)置了一個時間限制，超過該時間限制的數(shù)據(jù)將被視為過期并在下一次請求時丟棄。另一方面，當緩存達到容量限制時，清除策略決定刪除哪些數(shù)據(jù)。常見的驅(qū)逐算法包括最近最少使用（LRU）和最不頻繁使用（LFU）。
在實現(xiàn)服務(wù)器端緩存時，開發(fā)人員需要考慮數(shù)據(jù)的性質(zhì)、應(yīng)用程序的特定需求以及可用的緩存機制，以有效地優(yōu)化緩存性能。通過組合適當?shù)木彺娌呗院凸ぞ撸瑧?yīng)用程序可以利用服務(wù)器端緩存的優(yōu)勢來提供更快的響應(yīng)時間、減少數(shù)據(jù)庫負載并實現(xiàn)更有效的數(shù)據(jù)管理。
（4）優(yōu)化緩存失效
緩存失效是服務(wù)器端緩存的一個關(guān)鍵方面，它可以確保過時的數(shù)據(jù)不會在緩存中持久存在。實現(xiàn)有效的緩存失效技術(shù)對于維護數(shù)據(jù)準確性和一致性至關(guān)重要。刪除過時緩存項的一種常用方法是使用過期時間。通過為緩存數(shù)據(jù)設(shè)置適當?shù)倪^期時間，緩存將自動刪除過時的條目，迫使應(yīng)用程序為下一個請求獲取新數(shù)據(jù)。
另一種強大的緩存失效技術(shù)是利用緩存標記和粒度失效。緩存標記允許將多個緩存項與特定標記或標簽相關(guān)聯(lián)。當相關(guān)數(shù)據(jù)更新或無效時，緩存可以選擇性地刪除與該標記關(guān)聯(lián)的所有條目，確保所有受影響的數(shù)據(jù)都從緩存中刪除。
粒度失效允許開發(fā)人員針對特定的緩存條目進行刪除，而不是清除整個緩存。這種細粒度的方法將不必要地從緩存中刪除頻繁訪問且仍然有效的數(shù)據(jù)的風險降到最低。通過使用緩存標記和粒度失效，開發(fā)人員可以實現(xiàn)對緩存失效更精確的控制，從而實現(xiàn)更有效的緩存管理和改進的數(shù)據(jù)一致性。
（5）服務(wù)器端緩存工具
有幾個功能強大的緩存工具和庫可用于有效地實現(xiàn)服務(wù)器端緩存。Cache類包含在Toro Cloud的Martini中使用緩存的功能。
- Guava Cache：谷歌公司的Guava Cache是一個緩存工具，它使用僅在內(nèi)存中的緩存機制。這個提供程序創(chuàng)建的緩存僅對應(yīng)用程序的單次運行(或者在本例中，對Martini包的單次運行)是本地的。
- Ehcach：Ehcache是一個全功能的基于Java的緩存提供商。它支持在磁盤或內(nèi)存中存儲數(shù)據(jù)的緩存。它也是可擴展的，可以針對需要高并發(fā)性的負載進行調(diào)優(yōu)。
- Redis：Redis是一個內(nèi)存數(shù)據(jù)結(jié)構(gòu)項目，實現(xiàn)了一個分布式的內(nèi)存鍵值數(shù)據(jù)庫，具有可選的持久性。Redis具有內(nèi)置復制、Lua腳本、LRU驅(qū)逐、事務(wù)和不同級別的磁盤持久性，并通過Redis Sentinel和Redis Cluster提供高可用性和自動分區(qū)。
通過利用這些緩存工具并將其與Web框架和CMS平臺集成，開發(fā)人員可以優(yōu)化服務(wù)器響應(yīng)時間，減少后端處理，并增強其應(yīng)用程序的整體性能和可擴展性。
（6）緩存功能
企業(yè)級集成平臺通常配備了緩存功能，以支持動態(tài)或靜態(tài)數(shù)據(jù)的存儲，以便更快地檢索。下面是一個示例代碼片段，演示了在Martini集成平臺中使用緩存功能。
Martini緩存功能的截圖
緩存策略和注意事項
在實現(xiàn)緩存策略時，緩存連貫性和一致性是關(guān)鍵的考慮因素。保持緩存連貫性確保緩存的數(shù)據(jù)與真實源(例如，數(shù)據(jù)庫或后端服務(wù)器)中的數(shù)據(jù)保持連貫。當對源數(shù)據(jù)進行更新時，緩存的副本應(yīng)該無效或相應(yīng)地更新，以防止提供過時的內(nèi)容。
處理跨不同緩存層的緩存無效可能具有挑戰(zhàn)性。這涉及到管理客戶端和服務(wù)器端的緩存。協(xié)調(diào)緩存失效以確保跨所有緩存層的一致性需要仔細規(guī)劃和實現(xiàn)。
通過有效地處理緩存連貫性和處理緩存無效，可以在整個緩存基礎(chǔ)設(shè)施中維護數(shù)據(jù)一致性，在優(yōu)化性能的同時為用戶提供最新和準確的內(nèi)容。
組合緩存方法
實現(xiàn)混合緩存策略涉及利用客戶端和服務(wù)器端緩存的優(yōu)勢，以最大限度地提高性能和用戶體驗。
對可以本地存儲在用戶瀏覽器中的靜態(tài)資源利用客戶端緩存。設(shè)置適當?shù)木彺婵刂茦祟^來指定緩存持續(xù)時間，并優(yōu)化瀏覽器緩存的使用，以便在后續(xù)訪問時更快地加載時間。
為每個請求生成的動態(tài)內(nèi)容使用服務(wù)器端緩存。使用內(nèi)存緩存（例如Redis或Memcached）來存儲頻繁訪問的數(shù)據(jù)。實現(xiàn)緩存過期和退出策略以保持數(shù)據(jù)最新。
通過有效地組合這些緩存方法，可以減少服務(wù)器負載，最大限度地減少數(shù)據(jù)傳輸，并增強應(yīng)用程序的整體性能和可擴展性，從而在全球范圍內(nèi)提供最佳的用戶體驗。
原文標題：The Power of Caching: Boosting API Performance and Scalability，作者：Yvonne Parks
