?
Socket服務(wù)器主要用于提供高效、穩(wěn)定的數(shù)據(jù)處理、消息轉(zhuǎn)發(fā)等服務(wù),它直接決定了前臺(tái)應(yīng)用程序的性能。
Socket通信從技術(shù)上分為客戶端和服務(wù)端,目前客戶端主要為無(wú)線遠(yuǎn)傳集中器、有線遠(yuǎn)傳集中器、單個(gè)物聯(lián)網(wǎng)終端水表,實(shí)際上客戶端在單微機(jī)上都只有一個(gè)Tcp客戶端在連接。服務(wù)端Tcp連接包含長(zhǎng)連接和短連接共存,隨著用戶量以及設(shè)備量的增加,一個(gè)高可用的Socket服務(wù)端技術(shù)的實(shí)現(xiàn)是非常重要的。
直入主題,介紹我們的Socket通信服務(wù)框架,從架構(gòu)上分為:網(wǎng)絡(luò)層、業(yè)務(wù)層、數(shù)據(jù)層,其中在網(wǎng)絡(luò)層增加了消息隊(duì)列,在業(yè)務(wù)層加入業(yè)務(wù)抽象類處理不同的業(yè)務(wù)類型,在數(shù)據(jù)層引入SQL消息隊(duì)列以及緩存數(shù)據(jù)庫(kù)。具體如圖:
(一)網(wǎng)絡(luò)層
網(wǎng)絡(luò)層主要實(shí)現(xiàn)Socket連接的創(chuàng)建、消息接收、消息發(fā)送、關(guān)閉連接功能。作為Socket通信服務(wù)端,網(wǎng)絡(luò)層的性能非常重要,所以我們?cè)谠O(shè)計(jì)網(wǎng)絡(luò)層的時(shí)候,著重的突破以下幾方面:最大連接數(shù)、最大并發(fā)數(shù)、消息處理秒級(jí)別。主要通過(guò)如下幾種技術(shù)和技巧解決:
1)使用基于IOCP模型的SAEA方式
在Windows環(huán)境下利用Windows內(nèi)核來(lái)進(jìn)行I/O的調(diào)度,是用于Socket通信模式中性能最好的網(wǎng)絡(luò)通信模型。Windows I/O Completion Ports完成端口技術(shù)的提出解決了“one-thread-per-client”即一個(gè)客戶端連接就啟動(dòng)一個(gè)新的線程和客戶端進(jìn)行通信導(dǎo)致CPU在線程之間進(jìn)行上下文切換所帶來(lái)了負(fù)擔(dān)的缺點(diǎn),它充分利用內(nèi)核對(duì)象的調(diào)度,僅僅只需要少量的幾個(gè)線程來(lái)處理和客戶端的所有通信,消除了無(wú)畏的上下文切換,從而最大限度的提升了網(wǎng)絡(luò)通信的性能。
而在.NET環(huán)境下使用SAEA(SocketAsyncEventArgs)方式,重點(diǎn)在于池化,主要目的是避免在異步套接字I/O量非常大的情況下發(fā)生重復(fù)的對(duì)象分配和同步,提升性能和減少GC回收壓力。
2)使用雙工通信
雙工通信是提升Socket服務(wù)通信效率的一種有效技術(shù)方法。我們采用啟動(dòng)一個(gè)TcpSend線程調(diào)度器,在SAEA異步接收消息進(jìn)行業(yè)務(wù)處理后,如果需要進(jìn)行發(fā)送消息到客戶端,采用向發(fā)送消息隊(duì)列中Push一條消息,包含SAEA連接對(duì)象,通過(guò)TcpSend調(diào)度器輪詢進(jìn)行消息發(fā)送,以實(shí)現(xiàn)全雙工通信。
3)消息隊(duì)列及調(diào)度任務(wù)
網(wǎng)絡(luò)層消息隊(duì)列主要為接收消息隊(duì)列以及發(fā)送消息隊(duì)列,主要目的在于提高Socket服務(wù)器的吞吐量。我們定義一個(gè)接收消息隊(duì)列RecQueue和一個(gè)發(fā)送消息隊(duì)列SendQueue,然后啟動(dòng)多個(gè)調(diào)度任務(wù),不斷的從消息隊(duì)列中拿取消息,接收消息隊(duì)列調(diào)度任務(wù)將消息拿取拋至業(yè)務(wù)層進(jìn)行業(yè)務(wù)邏輯處理,發(fā)送消息隊(duì)列調(diào)度任務(wù)拿取消息調(diào)用網(wǎng)絡(luò)層發(fā)送消息接口,向指定客戶端發(fā)送消息。
4)心跳掃描
心跳分兩種,一種為長(zhǎng)連接客戶端模式時(shí)由客戶端定時(shí)發(fā)送心跳過(guò)來(lái),服務(wù)端接收心跳消息,一旦超時(shí)沒(méi)有心跳消息則判斷客戶端斷開(kāi),服務(wù)端主動(dòng)關(guān)閉該連接。另一種為服務(wù)端啟動(dòng)的定時(shí)心跳掃描,定時(shí)掃描每條連接,不論長(zhǎng)連接還是短連接如果超過(guò)超時(shí)時(shí)間沒(méi)有I/O響應(yīng),則關(guān)閉它,杜絕了掛掉的客戶端成為落地生根的釘子戶,占用系統(tǒng)資源。
5)粘包處理
針對(duì)短連接不存在粘包情況,因?yàn)槊看谓邮障⒍家?jīng)過(guò)握手連接,接收消息,關(guān)閉連接。但是針對(duì)長(zhǎng)連接,服務(wù)端在接收消息包時(shí),就可能出現(xiàn)兩條或多條消息一起接收了,而出現(xiàn)粘包情況。在這里我們采取了封裝報(bào)文頭和報(bào)文尾,并且加入報(bào)文長(zhǎng)度位進(jìn)行處理,來(lái)解決粘包的問(wèn)題。
(二)業(yè)務(wù)層
業(yè)務(wù)層接收到網(wǎng)絡(luò)層調(diào)度任務(wù)拋過(guò)來(lái)的消息后,解決消息包,根據(jù)獲取到的消息類型TYPE,通過(guò)抽象類轉(zhuǎn)到相對(duì)對(duì)象的業(yè)務(wù)處理流程進(jìn)行處理。
業(yè)務(wù)處理流程通過(guò)單機(jī)或集群進(jìn)行業(yè)務(wù)處理后,生成數(shù)據(jù)緩存實(shí)體,存入到Redis緩存數(shù)據(jù)庫(kù),以供Redis調(diào)度任務(wù)進(jìn)行數(shù)據(jù)處理。
同時(shí)業(yè)務(wù)層有發(fā)送消息時(shí),根據(jù)具體的業(yè)務(wù)應(yīng)用,封裝不同功能的消息包,調(diào)用網(wǎng)絡(luò)層消息發(fā)送接口,往網(wǎng)絡(luò)層消息發(fā)送隊(duì)列插入消息,以供網(wǎng)絡(luò)層發(fā)送消息隊(duì)列調(diào)度任務(wù)進(jìn)行發(fā)送處理。
(三)數(shù)據(jù)層
數(shù)據(jù)層的設(shè)計(jì)是整個(gè)Socket通信服務(wù)架構(gòu)的關(guān)鍵。舉個(gè)例子說(shuō)明:假設(shè)我們的Socket服務(wù)器每秒均值處理2000條消息,每處理一條消息都會(huì)將數(shù)據(jù)作為歷史記錄存儲(chǔ)到數(shù)據(jù)庫(kù),同時(shí)還要關(guān)聯(lián)其他相關(guān)業(yè)務(wù)數(shù)據(jù)和表。那么數(shù)據(jù)層要想跟上網(wǎng)絡(luò)層的處理性能,其執(zhí)行SQL語(yǔ)句的效率也就必須達(dá)到每秒2000*n次,通常情況下我們的SQL語(yǔ)句的執(zhí)行效率要達(dá)到那么高是很困難的。所以在整個(gè)Socket通信服務(wù)端,數(shù)據(jù)庫(kù)的執(zhí)行效率是瓶頸!
那么如何提高數(shù)據(jù)庫(kù)的執(zhí)行效率,讓數(shù)據(jù)層的處理速度和網(wǎng)絡(luò)層的處理速度達(dá)到一個(gè)平衡?我們的設(shè)計(jì)是分兩步走:首先采用高效內(nèi)存數(shù)據(jù)庫(kù)Redis+異步數(shù)據(jù)存儲(chǔ)處理方式,確保通過(guò)高效的內(nèi)存數(shù)據(jù)庫(kù)R