經驗總結:SQL Server數據庫對上億表的操作

對上億的表進行排序或者上億的表之間進行join,會導致系統失去響應。

◆1.我確實做了一個很大的查詢,涉及的數據表有兩億條記錄,而且有一個group by操作,造成CPU、內存和磁盤開銷均很大。後來和微軟的人重新實驗了一下,我的查詢確實會造成系統反應變慢。後來我們也實驗了一下,在這個2億的表上統計一下行數,即select count(*) from table1,用了1分鍾,內存漲了5G左右,磁盤子系統負荷很大,CPU也突然提高。這說明這種上億的表的操作會非常嚴重的降低效率。

◆2.整個服務器的磁盤分配是這樣的,網站訪問的數據庫庫位于磁盤陣列中,而我們的統計臨時庫位于D盤中,C和D好像是一個磁盤組,也就相當于是在C盤。我們的數據庫的大量磁盤I/O會導致系統的反應變慢。因此當我的查詢很大的時候,就會使服務器整個系統變慢。

◆3.數據庫的數據文件的自增長方式爲每次1024k,數據文件的空間已經接近用光,而要發生增長,而增長空間要求應該比較大,所以就會不停的申請增長,造成磁盤開銷較大。

◆4.操作中涉及到delete操作,會形成大量的日志,而上周擴容後,發現日志文件比以前縮小了,估計是重建了,昨天的操作會導致日志文件也要不斷增長,也會造成磁盤的負荷加大。

解決辦法:

針對一:

避免大表操作,所有的操作均可以按省或者時間分開,這樣無論從時間或者地域維度,基本上可以將大表拆成30張以上的小表操作,甚至更多。然後再對結果進行合並,應該可以避免上述問題。

針對二:

無解決方案,只是建議將我們的數據庫也單獨分到一組磁盤上去,不要跟系統競爭。

針對三:

及時刪除無用的臨時數據,保障數據庫空間,同時也可以做上空間監控,一旦數據文件空間發生增長時,給DBA一個預警郵件,我們收到郵件後可以立即做相應處理。

針對四:

日志文件目前已經漲得較大,我們執行一下截斷日志的動作,將日志文件的空間使用保持在一個較低水平。

簡單的SQL Server數據庫數據讀取與數據操作
簡單實用的數據讀取,數據操作方法,貼到程序裏面直接調用讀取方法:public DataSet Query(string SQLText) { SqlConnection myConnection=new SqlConnection(ConfigurationSettings.AppSettings['conn']); Da...查看完整版>>簡單的SQL Server數據庫數據讀取與數據操作
 
VB.NET操作 SQL SERVER的 二進制數據
在VB時期, 向SQL SERVER 中插入二進制數據, 是通過 ADODB.STREAM 實現, 在.NET中, 對 “流”格式的操作更加強大而簡單,本篇演示向SQL SERVER 中插入數據並讀出的功能.在窗體上添加一個 OPENFILEDIALOG 控件...查看完整版>>VB.NET操作 SQL SERVER的 二進制數據
 
簡單的SQL Server數據庫數據讀取與數據操作
  簡單實用的數據讀取,數據操作方法,貼到程序裏面直接調用  讀取方法:public DataSet Query(string SQLText) { SqlConnection myConnection=new SqlConnection(ConfigurationSettings.AppSettings["conn"]...查看完整版>>簡單的SQL Server數據庫數據讀取與數據操作
 
簡單的SQL Server數據庫數據讀取與數據操作
簡單實用的數據讀取,數據操作方法,貼到程序裏面直接調用讀取方法:public DataSet Query(string SQLText) { SqlConnection myConnection=new SqlConnection(ConfigurationSettings.AppSettings["conn"...查看完整版>>簡單的SQL Server數據庫數據讀取與數據操作
 
VB.NET操作 SQL SERVER的 二進制數據
在VB時期, 向SQL SERVER 中插入二進制數據, 是通過 ADODB.STREAM 實現, 在.NET中, 對 “流”格式的操作更加強大而簡單,本篇演示向SQL SERVER 中插入數據並讀出的功能.在窗體上添加一個 OPENFILEDIALOG 控件...查看完整版>>VB.NET操作 SQL SERVER的 二進制數據
 
輕松掌握SQL Server中各個系統表的作用
SQL Server中各個系統表的作用: 具體示例如下: sysaltfiles 主數據庫 保存數據庫的文件 syscharsets 主數據庫 字符集與排序順序 sysconfigures 主數據...查看完整版>>輕松掌握SQL Server中各個系統表的作用
 
SQL SERVER本地臨時表的可見範圍小探
  SQL SERVER的臨時表有本地臨時表和全局臨時表之分,在聯機叢書中這樣描述:  有本地和全局兩種類型的臨時表,二者在名稱、可見性和可用性上均不相同。本地臨時表的名稱以單個數字符號 (#) 打頭;它們僅對當前的...查看完整版>>SQL SERVER本地臨時表的可見範圍小探
 
SQL Server災難恢複:重創曆史性數據
  這是我希望你永遠不要面對的一個任務:永遠都不需要重新創建不同時間點上的數據,以此來澄清一個可疑的動作或則和揭示損失或者被偷的數據。大多數的數據庫都在核心數據層上存儲數據,上面只爲終端用戶和數據庫管...查看完整版>>SQL Server災難恢複:重創曆史性數據
 
SQL Server中保護數據的安全選項
  不同于以往所有過分宣傳的數據庫漏洞,以及幾十個隱私和安全規範,新出現了一個讓SQL Server開發人員和數據庫管理員們陷入了不得不面對強勢用戶的尴尬境地。他們問:  •你如何保護數據庫中的敏感數據...查看完整版>>SQL Server中保護數據的安全選項
 
 
回到王朝網路首頁