IT系統運維-最大TCP連接數

2020-05-01 17:41 作者：艾銻無限 瀏覽量：

對于業務服務器來說，IT系統運維會經常被問到服務器的最大并發連接數，最大吞吐量等負載數據信息。以此來確認業務情況。下面就這個問題跟大家討論。供廣大IT系統運維參考。

啟動線程數：

啟動線程數=【任務執行時間/（任務執行時間-IO等待時間）】*CPU內核數

最佳啟動線程數和CPU內核數量成正比，和IO阻塞時間成反比。如果任務都是CPU計算型任務，那么線程數最多不超過CPU內核數，因為啟動再多線程，CPU也來不及調度；相反如果是任務需要等待磁盤操作，網絡響應，那么

多啟動線程有助于提高任務并發度，提高系統吞吐能力，改善系統性能。

單機最大tcp連接數

在tcp應用中，server事先在某個固定端口監聽，client主動發起連接，經過三路握手后建立tcp連接。那么對單機，其最大并發tcp連接數是多少？如何標識一個TCP連接

在確定最大連接數之前，先來看看系統如何標識一個tcp連接。系統用一個4四元組來唯一標識一個TCP連接：{local ip, local port,remote ip,remote port}。

client最大tcp連接數

client每次發起tcp連接請求時，除非綁定端口，通常會讓系統選取一個空閑的本地端口（local port），該端口是獨占的，不能和其他tcp連接共享。tcp端口的數據類型是unsigned short，因此本地端口個數最大只有65536，端口0
有特殊含義，不能使用，這樣可用端口最多只有65535，所以在全部作為client端的情況下，最大tcp連接數為65535，這些連接可以連到不同的server ip。

server最大tcp連接數

server通常固定在某個本地端口上監聽，等待client的連接請求。不考慮地址重用（unix的SO_REUSEADDR選項）的情況下，即使server端有多個ip，本地監聽端口也是獨占的，因此server端tcp連接4元組中只有remote ip（也就
是client ip）和remote port（客戶端port）是可變的，因此最大tcp連接為客戶端ip數×客戶端port數，對IPV4，不考慮ip地址分類等因素，最大tcp連接數約為2的32次方（ip數）×2的16次方（port數），也就是server端單機最大tcp
連接數約為2的48次方。

實際的tcp連接數

上面給出的是理論上的單機最大連接數，在實際環境中，受到機器資源、操作系統等的限制，特別是sever端，其最大并發tcp連接數遠不能達到理論上限。在unix/linux下限制連接數的主要因素是內存和允許的文件描述符個數
（每個tcp連接都要占用一定內存，每個socket就是一個文件描述符），另外1024以下的端口通常為保留端口。在默認2.6內核配置下，經過試驗，每個socket占用內存在15~20k之間。

影響一個socket占用內存的參數包括：

rmem_max

wmem_max

tcp_rmem

tcp_wmem

tcp_mem

grep skbuff /proc/slabinfo

對server端，通過增加內存、修改最大文件描述符個數等參數，單機最大并發TCP連接數超過10萬 是沒問題的，國外 Urban Airship 公司在產品環境中已做到 50 萬并發 。在實際應用中，對大規模網絡應用，還需要考慮C10K 問
題。曾幾何時我們還在尋求網絡編程中C10K問題的解決方案，但是現在從硬件和操作系統支持來看單臺服務器支持上萬并發連接已經沒有多少挑戰性了。


我們先假設單臺服務器最多只能支持萬級并發連接，其實對絕大多數應用來說已經遠遠足夠了，但是對于一些擁有很大用戶基數的互聯網公司，往往面臨的并發連接數是百萬，千萬，甚至騰訊的上億（注：QQ默認用的UDP協議）。雖然現在的集群，分布式技術可以為我們將并發負載分擔在多臺服務器上，那我們只需要擴展出數十臺電腦就可以解決問題，但是我們更希望能更大的挖掘單臺服務器的資源，先努力垂直擴展，再進行水平擴展，這樣可以有效的節省服務器相關的開支（硬件資源，機房，運維，電力其實也是一筆不小的開支）。
 
艾銻無限科技專業：IT外包、企業外包、北京IT外包、桌面運維、弱電工程、網站開發、wifi覆蓋方案,網絡外包,網絡管理服務,網管外包,綜合布線,服務器運維服務,中小企業it外包服務,服務器維保公司,硬件運維,網站運維服務
 
以上文章由北京艾銻無限科技發展有限公司整理