EDA365电子论坛网

标题: Linux高端内存的由来 [打印本页]
作者: uqHZau    时间: 2020-4-17 09:25
标题: Linux高端内存的由来
Linux内核地址空间划分
$ {' P  h, x' {5 W& z5 F
/ D6 \5 `) n; e) A/ B" l. L/ D' m通常32位Linux内核地址空间划分0~3G为用户空间，3~4G为内核空间。注意这里是32位内核地址空间划分，64位内核地址空间划分是不同的。1 ?- c& Y/ O! g3 ^$ S& B, z
& `  |- ?" l7 ?/ b) o
8 v" h' }; U5 n9 {; x
5 q. c0 I" h) E# R2 w7 P" D
1 I; G. K$ F" \7 o
Linux内核高端内存的由来! F5 a! L2 Z0 A
3 x1 k  _" U8 b, Q: G5 |: u
当内核模块代码或线程访问内存时，代码中的内存地址都为逻辑地址，而对应到真正的物理内存地址，需要地址一对一的映射，如逻辑地址0xc0000003对应的物理地址为0×3，0xc0000004对应的物理地址为0×4，… …，逻辑地址与物理地址对应的关系为, T1 n; b) G& D

) A& G) _1 G: e/ s1 M3 m物理地址 = 逻辑地址 – 0xC00000004 h( w3 ?1 W2 U+ H! [9 H# _1 ~
: a8 }& K% W+ W. a6 y) V  @0 z
逻辑地址
物理内存地址
0xc0000000
0×0
0xc0000001
0×1
0xc0000002
0×2
0xc0000003
0×3
…
…
0xe0000000
0×20000000
…
…
0xffffffff
0×40000000 ??

$ g0 c  g3 p3 C" X5 p! a8 N5 L5 n! Z/ J: t$ x, x5 {  F. E

0 x- u% R) ^& ^) ^
( s, `$ L( e" V- f- [* s假设按照上述简单的地址映射关系，那么内核逻辑地址空间访问为0xc0000000 ~ 0xffffffff，那么对应的物理内存范围就为0×0 ~ 0×40000000，即只能访问1G物理内存。若机器中安装8G物理内存，那么内核就只能访问前1G物理内存，后面7G物理内存将会无法访问，因为内核 的地址空间已经全部映射到物理内存地址范围0×0 ~ 0×40000000。即使安装了8G物理内存，那么物理地址为0×40000001的内存，内核该怎么去访问呢？代码中必须要有内存逻辑地址 的，0xc0000000 ~ 0xffffffff的地址空间已经被用完了，所以无法访问物理地址0×40000000以后的内存。
; g5 }7 [) t9 ]2 L: H
( g, U6 D& [, J/ o$ ?5 u8 o显然不能将内核地址空间0xc0000000 ~ 0xfffffff全部用来简单的地址映射。因此x86架构中将内核地址空间划分三部分：ZONE_DMA、ZONE_NORMAL和 ZONE_HIGHMEM。ZONE_HIGHMEM即为高端内存，这就是内存高端内存概念的由来。9 y( v$ O& Q8 F8 i' t0 P

& \$ x6 r( I0 v0 r* ~
- w7 v8 Q; p1 {4 B: a/ O* s在x86结构中，三种类型的区域如下：
- N7 c6 [. k' w0 a1 Q: U) C
# B* x8 G. Y1 T6 E. SZONE_DMA        内存开始的16MB
. O* s, A3 Y. d7 g6 Y+ G4 `6 U! Q6 X5 w( M1 t6 R
ZONE_NORMAL       16MB~896MB
6 _& }3 z# ^4 Z: Q) {. s! }! s4 L# A; w* F" q  K) Q  {
ZONE_HIGHMEM       896MB ~ 结束% f6 B+ d  H" i0 a6 h9 z

7 Q6 \- ~( [' h- s0 \4 v. _8 ~
* ^# R6 T! s# B& h
  s! `$ X) n5 s) P8 ~$ |( U  n& r. ~1 s) m1 E4 J
Linux内核高端内存的理解# v) {: F! x3 l5 b! R8 z% b0 b
) G, v. J1 r! |. c- r+ [
前面我们解释了高端内存的由来。 Linux将内核地址空间划分为三部分ZONE_DMA、ZONE_NORMAL和ZONE_HIGHMEM，高端内存HIGH_MEM地址空间范围为 0xF8000000 ~ 0xFFFFFFFF（896MB～1024MB）。那么如内核是如何借助128MB高端内存地址空间是如何实现访问可以所有物理内存？4 R( H0 C4 @2 d1 c6 h& {9 U

6 l3 D# I6 B" z# }当内核想访问高于896MB物理地址内存时，从0xF8000000 ~ 0xFFFFFFFF地址空间范围内找一段相应大小空闲的逻辑地址空间，借用一会。借用这段逻辑地址空间，建立映射到想访问的那段物理内存（即填充内核PTE页面表），临时用一会，用完后归还。这样别人也可以借用这段地址空间访问其他物理内存，实现了使用有限的地址空间，访问所有所有物理内存。如下图。
& y; e% x  j) m* G$ e- X! m6 z* L: o" A9 y/ Q2 b6 p0 [
4 v! j+ Z7 L( w0 @  r
# u: ~9 }0 p0 w6 y8 v0 R( Y7 Q
: S5 r8 ~: L7 P( f. S  Y
例如内核想访问2G开始的一段大小为1MB的物理内存，即物理地址范围为0×80000000 ~ 0x800FFFFF。访问之前先找到一段1MB大小的空闲地址空间，假设找到的空闲地址空间为0xF8700000 ~ 0xF87FFFFF，用这1MB的逻辑地址空间映射到物理地址空间0×80000000 ~ 0x800FFFFF的内存。映射关系如下：
; ?4 F# R9 E" p1 M" s& s) q0 I6 U* _
逻辑地址
物理内存地址
0xF8700000
0×80000000
0xF8700001
0×80000001
0xF8700002
0×80000002
…
…
0xF87FFFFF
0x800FFFFF
* |2 f2 k- t5 }# }! M
" ]5 @+ v- O5 z+ i3 u+ Y. q

* R) W9 c" d- E  o当内核访问完0×80000000 ~ 0x800FFFFF物理内存后，就将0xF8700000 ~ 0xF87FFFFF内核线性空间释放。这样其他进程或代码也可以使用0xF8700000 ~ 0xF87FFFFF这段地址访问其他物理内存。
6 g/ w# j! y/ E0 O$ @1 g4 S5 L4 l. A! n  o, H) t' K
从上面的描述，我们可以知道高端内存的最基本思想：借一段地址空间，建立临时地址映射，用完后释放，达到这段地址空间可以循环使用，访问所有物理内存。. P0 y6 k+ h8 G* p" J0 p. l
6 L5 I$ J& S2 {' q8 y. t$ l
看到这里，不禁有人会问：万一有内核进程或模块一直占用某段逻辑地址空间不释放，怎么办？若真的出现的这种情况，则内核的高端内存地址空间越来越紧张，若都被占用不释放，则没有建立映射到物理内存都无法访问了。
; k6 U: X- v, B, m
, Q- T$ ^) X: d( i8 r* {- D# RLinux内核高端内存的划分
; M# o6 C! d. N) ?内核将高端内存划分为3部分：VMALLOC_START~VMALLOC_END、KMAP_BASE~FIXADDR_START和FIXADDR_START~4G。( h7 ^1 X& U3 G" K) I" W/ @. j

  ]" H* M3 a4 i, ?, n! |9 B 5 Q  j* v$ R( r  |" w  G; Z
. H1 x# i. z* X

. N* N; z3 E7 E  L5 f8 V对 于高端内存，可以通过 alloc_page() 或者其它函数获得对应的 page，但是要想访问实际物理内存，还得把 page 转为线性地址才行（为什么？想想 MMU 是如何访问物理内存的），也就是说，我们需要为高端内存对应的 page 找一个线性空间，这个过程称为高端内存映射。
% a# I7 G0 `# V* z  Q! e% T) n
6 h3 m# u" Q% H; c% M1 N对应高端内存的3部分，高端内存映射有三种方式：
/ P/ y* P7 b. Z5 W6 L% ?7 s" y映射到”内核动态映射空间”（noncontiguous memory allocation）
5 U  p2 ^2 C/ t+ r% g; h, i- C- e这种方式很简单，因为通过 vmalloc() ，在”内核动态映射空间”申请内存的时候，就可能从高端内存获得页面（参看 vmalloc 的实现），因此说高端内存有可能映射到”内核动态映射空间”中。
2 m# w  S9 n$ _; b
5 Z& \: u) S- s+ c( Z持久内核映射（permanent kernel mapping）  K! B" Y+ _. C& ^
如果是通过 alloc_page() 获得了高端内存对应的 page，如何给它找个线性空间？# M9 f6 d. e4 y" y' [
内核专门为此留出一块线性空间，从 PKMAP_BASE 到 FIXADDR_START ，用于映射高端内存。在 2.6内核上，这个地址范围是 4G-8M 到 4G-4M 之间。这个空间起叫”内核永久映射空间”或者”永久内核映射空间”。这个空间和其它空间使用同样的页目录表，对于内核来说，就是 swapper_pg_dir，对普通进程来说，通过 CR3 寄存器指向。通常情况下，这个空间是 4M 大小，因此仅仅需要一个页表即可，内核通过来 pkmap_page_table 寻找这个页表。通过 kmap()，可以把一个 page 映射到这个空间来。由于这个空间是 4M 大小，最多能同时映射 1024 个 page。因此，对于不使用的的 page，及应该时从这个空间释放掉（也就是解除映射关系），通过 kunmap() ，可以把一个 page 对应的线性地址从这个空间释放出来。
3 ]$ ?: ?$ u7 k! `8 B
1 E9 H6 [7 c  ~0 e: u# M7 m* t临时映射（temporary kernel mapping）
, h  [) x* H3 q) M8 |  H' C内核在 FIXADDR_START 到 FIXADDR_TOP 之间保留了一些线性空间用于特殊需求。这个空间称为”固定映射空间”在这个空间中，有一部分用于高端内存的临时映射。
" a3 f9 K7 W  I
2 E+ r. K& N$ V6 r* z这块空间具有如下特点：+ V2 y) N/ n. ~: |
（1）每个 CPU 占用一块空间/ W* [6 y% D# ~$ K- T. r
（2）在每个 CPU 占用的那块空间中，又分为多个小空间，每个小空间大小是 1 个 page，每个小空间用于一个目的，这些目的定义在 kmap_types.h 中的 km_type 中。
6 C8 o3 i# [4 x9 ?& V+ v& e( N
: o4 H* o7 A% M$ @- I! c* ^当要进行一次临时映射的时候，需要指定映射的目的，根据映射目的，可以找到对应的小空间，然后把这个空间的地址作为映射地址。这意味着一次临时映射会导致以前的映射被覆盖。通过 kmap_atomic() 可实现临时映射8 M) b7 p( O. M0 S; C/ V
5 N9 S9 c1 k" n2 b
$ X9 l4 }- J  \3 ^

( F/ l% u4 z* D. s3 c
作者: ExxNEN    时间: 2020-4-17 18:39
Linux高端内存的由来



欢迎光临 EDA365电子论坛网 (https://bbs.eda365.com/) Powered by Discuz! X3.2