IT技術互動交流平臺

對Linux虛擬內存和物理內存的理解以及Linux下怎樣增加虛擬內存

來源:IT165收集  發布日期:2016-06-06 21:53:37

首先,讓我們看下linux虛擬內存:

 

第一層理解

1. 每個進程都有自己獨立的4G內存空間,各個進程的內存空間具有類似的結構

 

2. 一個新進程建立的時候,將會建立起自己的內存空間,此進程的數據,代碼等從磁盤拷貝到自己的進程空間,哪些數據在哪里,都由進程控制表中的task_struct記錄,task_struct中記錄中一條鏈表,記錄中內存空間的分配情況,哪些地址有數據,哪些地址無數據,哪些可讀,哪些可寫,都可以通過這個鏈表記錄

 

3. 每個進程已經分配的內存空間,都與對應的磁盤空間映射

 

問題:

計算機明明沒有那么多內存(n個進程的話就需要n*4G)內存

建立一個進程,就要把磁盤上的程序文件拷貝到進程對應的內存中去,對于一個程序對應的多個進程這種情況,浪費內存!

第二層理解

1. 每個進程的4G內存空間只是虛擬內存空間,每次訪問內存空間的某個地址,都需要把地址翻譯為實際物理內存地址

2. 所有進程共享同一物理內存,每個進程只把自己目前需要的虛擬內存空間映射并存儲到物理內存上。

3. 進程要知道哪些內存地址上的數據在物理內存上,哪些不在,還有在物理內存上的哪里,需要用頁表來記錄

4. 頁表的每一個表項分兩部分,第一部分記錄此頁是否在物理內存上,第二部分記錄物理內存頁的地址(如果在的話)

5. 當進程訪問某個虛擬地址,去看頁表,如果發現對應的數據不在物理內存中,則缺頁異常

6. 缺頁異常的處理過程,就是把進程需要的數據從磁盤上拷貝到物理內存中,如果內存已經滿了,沒有空地方了,那就找一個頁覆蓋,當然如果被覆蓋的頁曾經被修改過,需要將此頁寫回磁盤

總結:

優點:

1.既然每個進程的內存空間都是一致而且固定的,所以鏈接器在鏈接可執行文件時,可以設定內存地址,而不用去管這些數據最終實際的內存地址,這是有獨立內存空間的好處

2.當不同的進程使用同樣的代碼時,比如庫文件中的代碼,物理內存中可以只存儲一份這樣的代碼,不同的進程只需要把自己的虛擬內存映射過去就可以了,節省內存

3.在程序需要分配連續的內存空間的時候,只需要在虛擬內存空間分配連續空間,而不需要實際物理內存的連續空間,可以利用碎片。

 

另外,事實上,在每個進程創建加載時,內核只是為進程“創建”了虛擬內存的布局,具體就是初始化進程控制表中內存相關的鏈表,實際上并不立即就把虛擬內存對應位置的程序數據和代碼(比如.text .data段)拷貝到物理內存中,只是建立好虛擬內存和磁盤文件之間的映射就好(叫做存儲器映射),等到運行到對應的程序時,才會通過缺頁異常,來拷貝數據。還有進程運行過程中,要動態分配內存,比如malloc時,也只是分配了虛擬內存,即為這塊虛擬內存對應的頁表項做相應設置,當進程真正訪問到此數據時,才引發缺頁異常。

 

補充理解:

虛擬存儲器涉及三個概念: 虛擬存儲空間,磁盤空間,內存空間

可以認為虛擬空間都被映射到了磁盤空間中,(事實上也是按需要映射到磁盤空間上,通過mmap),并且由頁表記錄映射位置,當訪問到某個地址的時候,通過頁表中的有效位,可以得知此數據是否在內存中,如果不是,則通過缺頁異常,將磁盤對應的數據拷貝到內存中,如果沒有空閑內存,則選擇犧牲頁面,替換其他頁面。

 

mmap是用來建立從虛擬空間到磁盤空間的映射的,可以將一個虛擬空間地址映射到一個磁盤文件上,當不設置這個地址時,則由系統自動設置,函數返回對應的內存地址(虛擬地址),當訪問這個地址的時候,就需要把磁盤上的內容拷貝到內存了,然后就可以讀或者寫,最后通過manmap可以將內存上的數據換回到磁盤,也就是解除虛擬空間和內存空間的映射,這也是一種讀寫磁盤文件的方法,也是一種進程共享數據的方法 共享內存

微笑接下來我們來討論下物理內存:

 

 

在內核態申請內存比在用戶態申請內存要更為直接,它沒有采用用戶態那種延遲分配內存技術。內核認為一旦有內核函數申請內存,那么就必須立刻滿足該申請內存的請求,并且這個請求一定是正確合理的。相反,對于用戶態申請內存的請求,內核總是盡量延后分配物理內存,用戶進程總是先獲得一個虛擬內存區的使用權,最終通過缺頁異常獲得一塊真正的物理內存。

1.物理內存的內核映射


IA32架構中內核虛擬地址空間只有1GB大小(從3GB到4GB),因此可以直接將1GB大小的物理內存(即常規內存)映射到內核地址空間,但超出1GB大小的物理內存(即高端內存)就不能映射到內核空間。為此,內核采取了下面的方法使得內核可以使用所有的物理內存。


1).高端內存不能全部映射到內核空間,也就是說這些物理內存沒有對應的線性地址。不過,內核為每個物理頁框都分配了對應的頁框描述符,所有的頁框描述符都保存在mem_map數組中,因此每個頁框描述符的線性地址都是固定存在的。內核此時可以使用alloc_pages()和alloc_page()來分配高端內存,因為這些函數返回頁框描述符的線性地址。


2).內核地址空間的后128MB專門用于映射高端內存,否則,沒有線性地址的高端內存不能被內核所訪問。這些高端內存的內核映射顯然是暫時映射的,否則也只能映射128MB的高端內存。當內核需要訪問高端內存時就臨時在這個區域進行地址映射,使用完畢之后再用來進行其他高端內存的映射。
由于要進行高端內存的內核映射,因此直接能夠映射的物理內存大小只有896MB,該值保存在high_memory中。內核地址空間的線性地址區間如下圖所示:

 


從圖中可以看出,內核采用了三種機制將高端內存映射到內核空間:永久內核映射,固定映射和vmalloc機制。

2.物理內存管理機制
基于物理內存在內核空間中的映射原理,物理內存的管理方式也有所不同。內核中物理內存的管理機制主要有伙伴算法,slab高速緩存和vmalloc機制。其中伙伴算法和slab高速緩存都在物理內存映射區分配物理內存,而vmalloc機制則在高端內存映射區分配物理內存。
伙伴算法
伙伴算法負責大塊連續物理內存的分配和釋放,以頁框為基本單位。該機制可以避免外部碎片。
per-CPU頁框高速緩存
內核經常請求和釋放單個頁框,該緩存包含預先分配的頁框,用于滿足本地CPU發出的單一頁框請求。
slab緩存
slab緩存負責小塊物理內存的分配,并且它也作為高速緩存,主要針對內核中經常分配并釋放的對象。
vmalloc機制
vmalloc機制使得內核通過連續的線性地址來訪問非連續的物理頁框,這樣可以最大限度的使用高端物理內存。

3.物理內存的分配
內核發出內存申請的請求時,根據內核函數調用接口將啟用不同的內存分配器。
3.1 分區頁框分配器
分區頁框分配器 (zoned page frame allocator) ,處理對連續頁框的內存分配請求。分區頁框管理器分為兩大部分:前端的管理區分配器和伙伴系統,如下圖:


管理區分配器負責搜索一個能滿足請求頁框塊大小的管理區。在每個管理區中,具體的頁框分配工作由伙伴系統負責。為了達到更好的系統性能,單個頁框的申請工作直接通過per-CPU頁框高速緩存完成。
該分配器通過幾個函數和宏來請求頁框,它們之間的封裝關系如下圖所示。


這些函數和宏將核心的分配函數__alloc_pages_nodemask()封裝,形成滿足不同分配需求的分配函數。其中,alloc_pages()系列函數返回物理內存首頁框描述符,__get_free_pages()系列函數返回內存的線性地址。
3.2 slab分配器
slab 分配器最初是為了解決物理內存的內部碎片而提出的,它將內核中常用的數據結構看做對象。slab分配器為每一種對象建立高速緩存。內核對該對象的分配和釋放均是在這塊高速緩存中操作。一種對象的slab分配器結構圖如下:


可以看到每種對象的高速緩存是由若干個slab組成,每個slab是由若干個頁框組成的。雖然slab分配器可以分配比單個頁框更小的內存塊,但它所需的所有內存都是通過伙伴算法分配的。
slab高速緩存分專用緩存和通用緩存。專用緩存是對特定的對象,比如為內存描述符創建高速緩存。通用緩存則是針對一般情況,適合分配任意大小的物理內存,其接口即為kmalloc()。
3.3 非連續內存區內存的分配
內核通過vmalloc()來申請非連續的物理內存,若申請成功,該函數返回連續內存區的起始地址,否則,返回NULL。vmalloc()和kmalloc()申請的內存有所不同,kmalloc()所申請內存的線性地址與物理地址都是連續的,而vmalloc()所申請的內存線性地址連續而物理地址則是離散的,兩個地址之間通過內核頁表進行映射。
vmalloc()的工作方式理解起來很簡單:
1).尋找一個新的連續線性地址空間;
2).依次分配一組非連續的頁框;
3).為線性地址空間和非連續頁框建立映射關系,即修改內核頁表;
vmalloc()的內存分配原理與用戶態的內存分配相似,都是通過連續的虛擬內存來訪問離散的物理內存,并且虛擬地址和物理地址之間是通過頁表進行連接的,通過這種方式可以有效的使用物理內存。但是應該注意的是,vmalloc()申請物理內存時是立即分配的,因為內核認為這種內存分配請求是正當而且緊急的;相反,用戶態有內存請求時,內核總是盡可能的延后,畢竟用戶態跟內核態不在一個特權級。

【簡單命令演示】Linux下怎樣增加虛擬內存?

1、打開終端,切換到root用戶,輸入:free -m查看內存狀態
[root@lxt lxt]# free -m
total used free shared buffers cached
Mem: 498 357 141 0 27 162
-/+ buffers/cache: 167 331
Swap: 1023 0 1023


2、輸入df -B M(或df -m)查看各分區當前使用情況
[root@lxt lxt]# df -B M
文件系統 1M-塊 已用 可用 已用% 掛載點
/dev/mapper/vg_lxt-lv_root
12875M 4059M 8162M 34% /
/dev/sda7 194M 14M 170M 8% /boot
tmpfs 250M 1M 249M 1% /dev/shm
(fdisk -l可查看磁盤分區情況)

3、選擇一個較大的分區,建立分區文件:
[root@lxt lxt]# dd if=/dev/zero of=/swapadd bs=1024 count=524288
524288+0 records in
524288+0 records out
536870912 bytes (537 MB) copied,13.0709 秒,41.1 MB/秒
以上命令在根目錄新建一個名為swapadd,大小為512M的虛擬內存文件

4、移動該文件到空間較大的其他分區:
[root@lxt lxt]# mkdir /mnt/swap
[root@lxt /]# mv swapadd /mnt/swap

5、執行以下命令啟用虛擬內存并重啟電腦
[root@lxt /]# mkswap /mnt/swap/swapadd
Setting up swapspace version 1, size = 524284 KiB
no label, UUID=a5c8b651-6f64-4414-bb5f-580b742acfce
[root@lxt /]# swapon /mnt/swap/swapadd
查看內存:
[root@lxt /]# free -m
total used free shared buffers cached
Mem: 498 492 6 0 15 302
-/+ buffers/cache: 174 323
Swap: 1535 0 1535

6、如果不需要使用新增的虛擬內存,則輸入:
swapoff -v /mnt/swap/swapadd

 

【作者推薦】野狗 - 國內領先的實時后端云 : https://www.wilddog.com/

Tag標簽: 內存   物理  
  • 專題推薦

About IT165 - 廣告服務 - 隱私聲明 - 版權申明 - 免責條款 - 網站地圖 - 網友投稿 - 聯系方式
本站內容來自于互聯網,僅供用于網絡技術學習,學習中請遵循相關法律法規
香港最快开奖现场直播结果