序言
隨著移動互聯(lián)網(wǎng)的快速發(fā)展，我們進入了信息爆炸時代。在信息過載時代，信息及其傳播形式多樣化，用戶對信息的需求成多元化和個性化發(fā)展趨勢。搜索引擎已不能滿足不同背景、不同目的、不同時期的個性化信息需求，于是個性化推薦應運而生。
構建一個推薦系統(tǒng)有以下兩種方式：
- Saas方式：通過調用第三方接口來獲取個性化推薦結果；
- 通過私有化部署方案：將推薦系統(tǒng)部署至本地環(huán)境，與本地的服務很好的有機結合到一起。
對于很多大型的銀行、政企等對數(shù)據(jù)安全要求比較高企業(yè)私有化部署是企業(yè)比較信賴的解決方案。然而推薦系統(tǒng)由于自身的復雜性和特點，與部署其他軟件系統(tǒng)有很多不同。
常見的服務器環(huán)境
一般常見的服務器環(huán)境有：企業(yè)局域網(wǎng)、云服務器、局域網(wǎng)+VPN等幾種情況。
企業(yè)局域網(wǎng)常見于大型的銀行、政企等，通常企業(yè)對服務器安全做過多層的安全隔離，安全性非常高，但由于大多數(shù)企業(yè)服務器的軟件版本較低且相應設施相對落后，在該環(huán)境部署系統(tǒng)通常比較吃力，常常遇到軟件版本兼容性、服務器異常等問題；
云服務器常見于大多數(shù)中小型互聯(lián)網(wǎng)企業(yè)，由于可以直接訪問外網(wǎng)，更新和安裝軟件非常方便，在該環(huán)境部署系統(tǒng)非常方便。但云服務器環(huán)境安全性相對較低，即便加防火墻做安全隔離也常常遇到病毒以及挖礦軟件的入侵。
局域網(wǎng)+VPN相對以上兩種是比較這種的方式，通過VPN來訪問局域網(wǎng)內部，雖然安全性不如純粹的局域網(wǎng)做到完全隔離，但能在保持較高的安全性下，提高部署的靈活性及更新安裝軟件簡易性。達觀智能推薦系統(tǒng)在多種復雜的服務器環(huán)境下均有成熟的私有化部署方案以及成功的部署案例。
推薦系統(tǒng)部署的兩種方式
推薦系統(tǒng)部署一般有兩種方式：傳統(tǒng)的應用部署方式（通過插件或腳本來安裝應用）、通過部署容器方式。
應用部署方式：將應用手動逐個部署至服務器上，這種方式比較繁瑣，應用的運行、配置、管理、所有生存周期將與當前操作系統(tǒng)綁定，需要解決大量的程序依賴問題，以及各個應用之間的耦合關系，可維護性較低，并且不利于應用的升級更新/回滾等操作。總體上缺少統(tǒng)一管理的方案。
通過部署容器方式：每個容器之間互相隔離，每個容器有自己的文件系統(tǒng) ，容器之間進程不會相互影響，能區(qū)分計算資源。隨著云計算以及容器化技術的發(fā)展，docker已經成為了事實上的容器化標準，基于docker容器技術衍生出了眾多管理云平臺中多個主機上的容器編排的應用，目前較常見的容器編排應用有docker公司出品的Docker Swarm、Google的kubernetes(k8s)、Apache的Mesos和Marathon，以及rancher等。
與傳統(tǒng)方式部署相比較，容器部署有以下優(yōu)勢：
1.快速的應用創(chuàng)建與部署：相比虛擬機鏡像，容器鏡像的創(chuàng)建更簡便、更高效。
2.持續(xù)的開發(fā)、集成，以及部署：在快速回滾下提供可靠、高頻的容器鏡像編譯和部署（基于鏡像的不可變性）。
3.開發(fā)與運營的關注點分離：由于容器鏡像是在編譯/發(fā)布期創(chuàng)建的，因此整個過程與基礎架構解耦。
4.?跨開發(fā)、測試、產品階段的環(huán)境穩(wěn)定性：在筆記本電腦上的運行結果和在云上完全一致。
5.在云平臺與 OS 上分發(fā)的可轉移性：可以在 Ubuntu、RHEL、CoreOS、預置系統(tǒng)、Google 容器引擎，乃至其它各類平臺上運行。
6.以應用為核心的管理：從在虛擬硬件上運行系統(tǒng)，到在利用邏輯資源的系統(tǒng)上運行程序，從而提升了系統(tǒng)的抽象層級。
7.松散耦聯(lián)、分布式、彈性、無拘束的微服務：整個應用被分散為更小、更獨立的模塊，并且這些模塊可以被動態(tài)地部署和管理，而不再是存儲在大型的單用途機器上的臃腫的單一應用棧。
8.資源隔離：各容器之間資源相互隔離，增加程序表現(xiàn)的可預見性。
9.資源利用率：高效且密集。
容器編排技術大大降低了私有化部署的難度，支持跨平臺、平滑更新、彈性伸縮、自動部署和回滾等功能，原來需要一個團隊是幾個技術達人一起分工協(xié)作才能設計實現(xiàn)的分布式系統(tǒng)，現(xiàn)在只需要一個精悍的小團隊就能搞定。
達觀智能推薦系統(tǒng)目前采用輕量級的docker swarm和被寄予為下一代的操作系統(tǒng)kubernetes，并且擁有多個大型項目的部署案例，具有豐富的部署經驗以及完善的部署方案。
推薦系統(tǒng)部署與一般網(wǎng)絡系統(tǒng)部署的區(qū)別
推薦系統(tǒng)由于自身的復雜性，與一般的網(wǎng)絡系統(tǒng)部署有諸多區(qū)別。在部署前需針對要求滿足的接口性能要求，以及用戶量、行為數(shù)據(jù)量、物品數(shù)據(jù)量等數(shù)據(jù)規(guī)模的情況，對各個模塊進行合理的資源分配。
這二十幾個模塊從功能、運行方式以及架構上又可分為外設模塊、數(shù)據(jù)上報模塊、離線算法模塊、近線算法模塊、在線算法模塊。
- 一般優(yōu)先部署外設模塊，包括mysql、redis、zookeeper、kafka、es等，且需要執(zhí)行數(shù)據(jù)初始化步驟的任務(Job)或者腳本，并測試是否所有外設都是正?？捎玫摹?/li>
- 其次，再部署數(shù)據(jù)上報模塊，通過上報部分測試數(shù)據(jù)確認相應模塊以及整個數(shù)據(jù)上報是否正常。
- 接著，再部署離線算法模塊，手動啟動離線模塊來測試是否有正常生成離線模塊的推薦候選集。再部署近線模塊，通過查看日志確認是否都在正常工作。
- 最后，部署在線算法模塊，通過調用推薦接口來確認推薦接口是否正常。
部署推薦系統(tǒng)與一般的網(wǎng)絡系統(tǒng)最大的區(qū)別在于，需要根據(jù)推薦系統(tǒng)的計算邏輯，來分清部署和測試的前后依賴關系，達觀智能推薦系統(tǒng)有比較完善且層次分明的系統(tǒng)架構，只需要按照部署文檔逐步部署，快速構建一個私有化的推薦系統(tǒng)是一件非常容易的事情。
推薦系統(tǒng)的監(jiān)控和報警
對服務器、操作系統(tǒng)、中間件、業(yè)務應用進行全面的監(jiān)控和報警，對推薦系統(tǒng)的正常運行起著至關重要的作用。當系統(tǒng)出現(xiàn)異常時能否及時監(jiān)控到并告警到工作人員，決定了是否能夠及時避免更加嚴重的系統(tǒng)問題。
通常監(jiān)控分為系統(tǒng)監(jiān)控和業(yè)務監(jiān)控。
- 系統(tǒng)監(jiān)控主要包括服務器的cpu、內存、硬盤等資源的監(jiān)控，集群主從機狀態(tài)以及容器運行狀態(tài)的監(jiān)控。
- 由于推薦系統(tǒng)自身的特點，業(yè)務監(jiān)控主要包括離線任務監(jiān)控、日志監(jiān)控、消息隊列監(jiān)控、接口異常監(jiān)控。
如何提高推薦系統(tǒng)的穩(wěn)定性
對于推薦系統(tǒng)的應用方來說，通常是從推薦系統(tǒng)獲取推薦結果后，直接將結果展示到前端。一旦推薦系統(tǒng)沒有返回結果，前端會直接顯示為空，所以推薦系統(tǒng)的穩(wěn)定性對于使用推薦系統(tǒng)的應用方來說非常重要。
推薦系統(tǒng)的穩(wěn)定性可以分為兩個方面：
- 推薦系統(tǒng)的基礎環(huán)境的穩(wěn)定性，也就是kubernetes或swarm集群的穩(wěn)定性
- 推薦系統(tǒng)本身的算法穩(wěn)定性
從基礎環(huán)境的穩(wěn)定性來看，提高基礎環(huán)境的穩(wěn)定性有以下措施：
- 首先，集群可以部署多個主機節(jié)點，通過負載均衡來負載各個主機請求，一旦某臺主機掛了，負載均衡會自動剔除主機，同時做好監(jiān)控報警，及時處理該異常主機節(jié)點。
- 其次，可以將集群從(工作)節(jié)點隔離，根據(jù)推薦系統(tǒng)具體的業(yè)務性質，將從節(jié)點劃分為不同功能的節(jié)點，如達觀推薦算法采用的在線-近線-離線三級架構，可以將從節(jié)點分為在線節(jié)點、近線節(jié)點、離線節(jié)點，避免不同層次的容器異常相互影響。
- 最后，用于搭建整個推薦系統(tǒng)的服務器應做好安全隔離，避免病毒入侵。
對于推薦系統(tǒng)本身的穩(wěn)定性，可以從以下幾個方面入手。
- 首先，在部署推薦系統(tǒng)的時候，盡可能每個應用模塊都配置健康檢查，當容器出現(xiàn)異常時，健康檢查會自動重啟容器，避免容器卡住的情況影響推薦服務。
- 其次，對于推薦系統(tǒng)依賴的一些外設應用，可以部署多節(jié)點集群版，避免單一節(jié)點異常，影響推薦服務。
- 最后，推薦接口應做好容災措施，當接口出現(xiàn)異常時，推薦系統(tǒng)可以切換至災備狀態(tài)。
達觀智能推薦系統(tǒng)介紹
達觀數(shù)據(jù)作為國內頂尖的文本挖掘企業(yè)，在推薦領域有多年的積累。其獨創(chuàng)的ME算法曾多次在國際算法競賽中獲得冠軍。無論是系統(tǒng)的穩(wěn)定性、算法的效果，還是在資訊、短視頻、直播等各種推薦場景的算法運用都積累了豐富的經驗。
達觀智能推薦系統(tǒng)支持開發(fā)、運維、產品、算法等多種不同的人員參與到推薦系統(tǒng)的日常工作。支持各種豐富的配置、數(shù)據(jù)查看、分流分析、用戶畫像、人群精細化運營等，不僅幫助客戶從0-1搭建推薦系統(tǒng)，更支持1-N進行升級優(yōu)化.
目前達觀智能推薦系統(tǒng)已經成功服務了招商銀行、浦發(fā)銀行、中國移動、中國聯(lián)通、人民網(wǎng)、四川日報、虎撲、澎湃、樂友等多個行業(yè)龍頭企業(yè)。
