Linux環境進程間通信（五）: 共用記憶體（上）

採用共用記憶體通信的一個顯而易見的好處是效率高，因為進程可以直接讀寫記憶體，而不需要任何資料的拷貝。對於像管道和訊息佇列等通信方式，則需要在內核和使用者空間進行四次的資料拷貝，而共用記憶體則只拷貝兩次數據[1]：一次從輸入檔到共用記憶體區，另一次從共用記憶體區到輸出檔。實際上，進程之間在共用記憶體時，並不總是讀寫少量資料後就解除映射，有新的通信時，再重新建立共用記憶體區域。而是保持共用區域，直到通信完畢為止，這樣，資料內容一直保存在共用記憶體中，並沒有寫回檔。共用記憶體中的內容往往是在解除映射時才寫回檔的。因此，採用共用記憶體的通信方式效率是非常高的。

Linux的2.2.x內核支援多種共用記憶體方式，如mmap()系統調用，Posix共用記憶體，以及系統V共用記憶體。linux發行版本本如Redhat 8.0支援mmap()系統調用及系統V共用記憶體，但還沒實現Posix共用記憶體，本文將主要介紹mmap()系統調用及系統V共用記憶體API的原理及應用。

一、內核怎樣保證各個進程定址到同一個共用記憶體區域的記憶體頁面

1、page cache及swap cache中頁面的區分：一個被訪問檔的物理頁面都駐留在page cache或swap cache中，一個頁面的所有資訊由struct page來描述。struct page中有一個域為指標mapping ，它指向一個struct address_space類型結構。page cache或swap cache中的所有頁面就是根據address_space結構以及一個偏移量來區分的。

2、檔與address_space結構的對應：一個具體的檔在打開後，內核會在記憶體中為之建立一個struct inode結構，其中的i_mapping域指向一個address_space結構。這樣，一個檔就對應一個address_space結構，一個address_space與一個偏移量能夠確定一個page cache 或swap cache中的一個頁面。因此，當要定址某個資料時，很容易根據給定的檔及資料在檔內的偏移量而找到相應的頁面。

3、進程調用mmap()時，只是在進程空間內新增了一塊相應大小的緩衝區，並設置了相應的訪問標識，但並沒有建立進程空間到物理頁面的映射。因此，第一次訪問該空間時，會引發一個缺頁異常。

4、對於共用記憶體映射情況，缺頁例外處理常式首先在swap cache中尋找目標頁（符合address_space以及偏移量的物理頁），如果找到，則直接返回位址；如果沒有找到，則判斷該頁是否在交換區(swap area)，如果在，則執行一個換入操作；如果上述兩種情況都不滿足，處理常式將分配新的物理頁面，並把它插入到page cache中。進程最終將更新進程頁表。
注：對於映射普通檔情況（非共用映射），缺頁例外處理常式首先會在page cache中根據address_space以及資料偏移量尋找相應的頁面。如果沒有找到，則說明文件資料還沒有讀入記憶體，處理常式會從磁片讀入相應的頁面，並返回相應位址，同時，進程頁表也會更新。

5、所有進程在映射同一個共用記憶體區域時，情況都一樣，在建立線性位址與物理位址之間的映射之後，不論進程各自的返回位址如何，實際訪問的必然是同一個共用記憶體區域對應的物理頁面。
注：一個共用記憶體區域可以看作是特殊檔案系統shm中的一個檔，shm的安裝點在交換區上。

上面涉及到了一些資料結構，圍繞資料結構理解問題會容易一些。

二、mmap()及其相關系統調用

mmap()系統調用使得進程之間通過映射同一個普通檔實現共用記憶體。普通檔被映射到進程位址空間後，進程可以向訪問普通記憶體一樣對檔進行訪問，不必再調用read()，write（）等操作。

注：實際上，mmap()系統調用並不是完全為了用於共用記憶體而設計的。它本身提供了不同于一般對普通檔的訪問方式，進程可以像讀寫記憶體一樣對普通檔的操作。而Posix或系統V的共用記憶體IPC則純粹用於共用目的，當然mmap()實現共用記憶體也是其主要應用之一。

1、mmap()系統調用形式如下：

void* mmap ( void * addr , size_t len , int prot , int flags , int fd , off_t offset )
參數fd為即將映射到進程空間的檔描述字，一般由open()返回，同時，fd可以指定為-1，此時須指定flags參數中的MAP_ANON，表明進行的是匿名映射（不涉及具體的檔案名，避免了檔的創建及打開，很顯然只能用於具有親緣關係的進程間通信）。len是映射到調用進程位址空間的位元組數，它從被映射檔開頭offset個位元組開始算起。prot 參數指定共用記憶體的存取權限。可取如下幾個值的或：PROT_READ（可讀） , PROT_WRITE （可寫）, PROT_EXEC （可執行）, PROT_NONE（不可訪問）。flags由以下幾個常值指定：MAP_SHARED , MAP_PRIVATE , MAP_FIXED，其中，MAP_SHARED , MAP_PRIVATE必選其一，而MAP_FIXED則不推薦使用。offset參數一般設為0，表示從檔頭開始映射。參數addr指定檔應被映射到進程空間的起始位址，一般被指定一個空指標，此時選擇起始位址的任務留給內核來完成。函數的返回值為最後檔映射到進程空間的位址，進程可直接操作起始位址為該值的有效位址。這裡不再詳細介紹mmap()的參數，讀者可參考mmap()手冊頁獲得進一步的資訊。

2、系統調用mmap()用於共用記憶體的兩種方式：

（1）使用普通檔提供的記憶體映射：適用於任何進程之間；此時，需要打開或創建一個檔，然後再調用mmap()；典型調用代碼如下：

fd=open(name, flag, mode); if(fd<0)         ...

ptr=mmap(NULL, len , PROT_READ|PROT_WRITE, MAP_SHARED , fd , 0); 通過mmap()實現共用記憶體的通信方式有許多特點和要注意的地方，我們將在範例中進行具體說明。

（2）使用特殊檔提供匿名記憶體映射：適用於具有親緣關係的進程之間；由於父子進程特殊的親緣關係，在父進程中先調用mmap()，然後調用fork()。那麼在調用fork()之後，子進程繼承父進程匿名映射後的位址空間，同樣也繼承mmap()返回的位址，這樣，父子進程就可以通過映射區域進行通信了。注意，這裡不是一般的繼承關係。一般來說，子進程單獨維護從父進程繼承下來的一些變數。而mmap()返回的位址，卻由父子進程共同維護。
對於具有親緣關係的進程實現共用記憶體最好的方式應該是採用匿名記憶體映射的方式。此時，不必指定具體的檔，只要設置相應的標誌即可，參見範例2。

3、系統調用munmap()

int munmap( void * addr, size_t len )
該調用在進程位址空間中解除一個映射關係，addr是調用mmap()時返回的位址，len是映射區的大小。當映射關係解除後，對原來映射位址的訪問將導致段錯誤發生。

4、系統調用msync()

int msync ( void * addr , size_t len, int flags)
一般說來，進程在映射空間的對共用內容的改變並不直接寫回到磁片檔中，往往在調用munmap（）後才執行該操作。可以通過調用msync()實現磁片上檔內容與共用記憶體區的內容一致。

三、mmap()範例

下面將給出使用mmap()的兩個範例：範例1給出兩個進程通過映射普通檔實現共用記憶體通信；範例2給出父子進程通過匿名映射實現共用記憶體。系統調用mmap()有許多有趣的地方，下面是通過mmap（）映射普通檔實現進程間的通信的範例，我們通過該範例來說明mmap()實現共用記憶體的特點及注意事項。

範例1：兩個進程通過映射普通檔實現共用記憶體通信

範例1包含兩個副程式：map_normalfile1.c及map_normalfile2.c。編譯兩個程式，可執行檔分別為map_normalfile1及map_normalfile2。兩個程式通過命令列參數指定同一個檔來實現共用記憶體方式的進程間通信。map_normalfile2試圖打開命令列參數指定的一個普通檔，把該檔映射到進程的位址空間，並對映射後的位址空間進行寫操作。map_normalfile1把命令列參數指定的檔映射到進程位址空間，然後對映射後的位址空間執行讀操作。這樣，兩個進程通過命令列參數指定同一個檔來實現共用記憶體方式的進程間通信。

下麵是兩個程式碼：

/*-------------map_normalfile1.c-----------*/ #include <sys/mman.h> #include <sys/types.h> #include <fcntl.h> #include <unistd.h> typedef struct{   char name[4];   int  age; }people; main(int argc, char** argv) // map a normal file as shared mem: {   int fd,i;   people *p_map;   char temp;     fd=open(argv[1],O_CREAT|O_RDWR|O_TRUNC,00777);   lseek(fd,sizeof(people)*5-1,SEEK_SET);   write(fd,"",1);     p_map = (people*) mmap( NULL,sizeof(people)*10,PROT_READ|PROT_WRITE,         MAP_SHARED,fd,0 );   close( fd );   temp = 'a';   for(i=0; i<10; i++)   {     temp += 1;     memcpy( ( *(p_map+i) ).name, &temp,2 );     ( *(p_map+i) ).age = 20+i;   }   printf(" initialize over \n ")；   sleep(10);   munmap( p_map, sizeof(people)*10 );   printf( "umap ok \n" ); } /*-------------map_normalfile2.c-----------*/ #include <sys/mman.h> #include <sys/types.h> #include <fcntl.h> #include <unistd.h> typedef struct{   char name[4];   int  age; }people; main(int argc, char** argv)  // map a normal file as shared mem: {   int fd,i;   people *p_map;   fd=open( argv[1],O_CREAT|O_RDWR,00777 );   p_map = (people*)mmap(NULL,sizeof(people)*10,PROT_READ|PROT_WRITE,        MAP_SHARED,fd,0);   for(i = 0;i<10;i++)   {   printf( "name: %s age %d;\n",(*(p_map+i)).name, (*(p_map+i)).age );   }   munmap( p_map,sizeof(people)*10 ); }

map_normalfile1.c首先定義了一個people資料結構，（在這裡採用資料結構的方式是因為，共用記憶體區的資料往往是有固定格式的，這由通信的各個進程決定，採用結構的方式有普遍代表性）。map_normfile1首先打開或創建一個檔，並把檔的長度設置為5個people結構大小。然後從mmap()的返回位址開始，設置了10個people結構。然後，進程睡眠10秒鐘，等待其他進程映射同一個檔，最後解除映射。

map_normfile2.c只是簡單的映射一個檔，並以people資料結構的格式從mmap()返回的位址處讀取10個people結構，並輸出讀取的值，然後解除映射。

分別把兩個程式編譯成可執行檔map_normalfile1和map_normalfile2後，在一個終端上先運行./map_normalfile2 /tmp/test_shm，程式輸出結果如下：

initialize over umap ok

在map_normalfile1輸出initialize over 之後，輸出umap ok之前，在另一個終端上運行map_normalfile2 /tmp/test_shm，將會產生如下輸出(為了節省空間，輸出結果為稍作整理後的結果)：

name: b age 20; name: c age 21; name: d age 22; name: e age 23; name: f age 24; name: g age 25; name: h age 26; name: I age 27; name: j age 28; name: k age 29;

在map_normalfile1 輸出umap ok後，運行map_normalfile2則輸出如下結果：

name: b age 20; name: c age 21; name: d age 22; name: e age 23; name: f age 24; name:   age 0;  name:   age 0;  name:   age 0;  name:   age 0;  name:   age 0;

從程式的運行結果中可以得出的結論

1、 最終被映射檔的內容的長度不會超過檔本身的初始大小，即映射不能改變檔的大小；

2、 可以用於進程通信的有效位址空間大小大體上受限於被映射檔的大小，但不完全受限於文件大小。打開檔被截短為5個people結構大小，而在map_normalfile1中初始化了10個people資料結構，在恰當時候（map_normalfile1輸出initialize over 之後，輸出umap ok之前）調用map_normalfile2會發現map_normalfile2將輸出全部10個people結構的值，後面將給出詳細討論。
注：在linux中，記憶體的保護是以頁為基本單位的，即使被映射檔只有一個位元組大小，內核也會為映射分配一個頁面大小的記憶體。當被映射檔小於一個頁面大小時，進程可以對從mmap()返回位址開始的一個頁面大小進行訪問，而不會出錯；但是，如果對一個頁面以外的位址空間進行訪問，則導致錯誤發生，後面將進一步描述。因此，可用於進程間通信的有效位址空間大小不會超過檔大小及一個頁面大小的和。

3、 檔一旦被映射後，調用mmap()的進程對返回位址的訪問是對某一記憶體區域的訪問，暫時脫離了磁片上檔的影響。所有對mmap()返回位址空間的操作只在記憶體中有意義，只有在調用了munmap()後或者msync()時，才把記憶體中的相應內容寫回磁片檔，所寫內容仍然不能超過檔的大小。

範例2：父子進程通過匿名映射實現共用記憶體

#include <sys/mman.h> #include <sys/types.h> #include <fcntl.h> #include <unistd.h> typedef struct{   char name[4];   int  age; }people; main(int argc, char** argv) {   int i;   people *p_map;   char temp;   p_map=(people*)mmap(NULL,sizeof(people)*10,PROT_READ|PROT_WRITE,        MAP_SHARED|MAP_ANONYMOUS,-1,0);   if(fork() == 0)   {     sleep(2);     for(i = 0;i<5;i++)       printf("child read: the %d people's age is %d\n",i+1,(*(p_map+i)).age);     (*p_map).age = 100;     munmap(p_map,sizeof(people)*10); //實際上，進程終止時，會自動解除映射。     exit();   }   temp = 'a';   for(i = 0;i<5;i++)   {     temp += 1;     memcpy((*(p_map+i)).name, &temp,2);     (*(p_map+i)).age=20+i;   }   sleep(5);   printf( "parent read: the first people,s age is %d\n",(*p_map).age );   printf("umap\n");   munmap( p_map,sizeof(people)*10 );   printf( "umap ok\n" ); }

考察程式的輸出結果，體會父子進程匿名共用記憶體：

child read: the 1 people's age is 20 child read: the 2 people's age is 21 child read: the 3 people's age is 22 child read: the 4 people's age is 23 child read: the 5 people's age is 24 parent read: the first people,s age is 100 umap umap ok

四、對mmap()返回位址的訪問

前面對範例運行結構的討論中已經提到，linux採用的是頁式管理機制。對於用mmap()映射普通檔來說，進程會在自己的位址空間新增一塊空間，空間大小由mmap()的len參數指定，注意，進程並不一定能夠對全部新增空間都能進行有效訪問。進程能夠訪問的有效位址大小取決於檔被映射部分的大小。簡單的說，能夠容納檔被映射部分大小的最少頁面個數決定了進程從mmap()返回的位址開始，能夠有效訪問的位址空間大小。超過這個空間大小，內核會根據超過的嚴重程度返回發送不同的信號給進程。可用如下圖示說明：

注意：檔被映射部分而不是整個檔決定了進程能夠訪問的空間大小，另外，如果指定檔的偏移部分，一定要注意為頁面大小的整數倍。下麵是對進程映射位址空間的訪問範例：

#include <sys/mman.h> #include <sys/types.h> #include <fcntl.h> #include <unistd.h> typedef struct{         char name[4];         int  age; }people; main(int argc, char** argv) {         int fd,i;         int pagesize,offset;         people *p_map;                 pagesize = sysconf(_SC_PAGESIZE);         printf("pagesize is %d\n",pagesize);         fd = open(argv[1],O_CREAT|O_RDWR|O_TRUNC,00777);         lseek(fd,pagesize*2-100,SEEK_SET);         write(fd,"",1);         offset = 0;    //此處offset = 0編譯成版本1；offset = pagesize編譯成版本2         p_map = (people*)mmap(NULL,pagesize*3,PROT_READ|PROT_WRITE,MAP_SHARED,fd,offset);         close(fd);                 for(i = 1; i<10; i++)         {                (*(p_map+pagesize/sizeof(people)*i-2)).age = 100;                printf("access page %d over\n",i);                (*(p_map+pagesize/sizeof(people)*i-1)).age = 100;                printf("access page %d edge over, now begin to access page %d\n",i, i+1);                (*(p_map+pagesize/sizeof(people)*i)).age = 100;                printf("access page %d over\n",i+1);         }         munmap(p_map,sizeof(people)*10); }

如程式中所注釋的那樣，把程式編譯成兩個版本，兩個版本主要體現在檔被映射部分的大小不同。檔的大小介於一個頁面與兩個頁面之間（大小為：pagesize*2-99），版本1的被映射部分是整個檔，版本2的檔被映射部分是檔大小減去一個頁面後的剩餘部分，不到一個頁面大小(大小為：pagesize-99)。程式中試圖訪問每一個頁面邊界，兩個版本都試圖在進程空間中映射pagesize*3的位元組數。

版本1的輸出結果如下：

pagesize is 4096 access page 1 over access page 1 edge over, now begin to access page 2 access page 2 over access page 2 over access page 2 edge over, now begin to access page 3 Bus error              //被映射檔在進程空間中覆蓋了兩個頁面，此時，進程試圖訪問第三個頁面

版本2的輸出結果如下：

pagesize is 4096 access page 1 over access page 1 edge over, now begin to access page 2 Bus error              //被映射檔在進程空間中覆蓋了一個頁面，此時，進程試圖訪問第二個頁面

結論：採用系統調用mmap()實現進程間通信是很方便的，在應用層上介面非常簡潔。內部實現機制區涉及到了linux存儲管理以及檔案系統等方面的內容，可以參考一下相關重要資料結構來加深理解。在本專題的後面部分，將介紹系統v共用記憶體的實現。