docs/zh_CN: add page_migration and vmalloced-kernel-stacks translation
Subsystems (2)
v2 cover docs/zh_CN: add page_migration and vmalloced-kernel-stacks translation
v2:
Resolving conflicts on next-20220513.
v1:
Translate .../vm/page_migration.rst and .../vm/vmalloced-kernel-stacks.rst into Chinese.
Yanteng Si (2):
docs/zh_CN: add vm page_migration translation docs/zh_CN: add vm vmalloced-kernel-stacks translation
Documentation/translations/zh_CN/vm/index.rst | 4 +- .../translations/zh_CN/vm/page_migration.rst | 229 ++++++++++++++++++ .../zh_CN/vm/vmalloced-kernel-stacks.rst | 133 ++++++++++ 3 files changed, 364 insertions(+), 2 deletions(-) create mode 100644 Documentation/translations/zh_CN/vm/page_migration.rst create mode 100644 Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst
Signature · 1 line
2.27.0
PATCH v2 1/2 docs/zh_CN: add vm page_migration translation
Translate .../vm/page_migration.rst into Chinese.
--- Documentation/translations/zh_CN/vm/index.rst | 2 +- .../translations/zh_CN/vm/page_migration.rst | 229 ++++++++++++++++++ 2 files changed, 230 insertions(+), 1 deletion(-) create mode 100644 Documentation/translations/zh_CN/vm/page_migration.rst
Documentation/translations/zh_CN/vm/index.rst +1 -1
@@ -36,6 +36,7 @@ TODO:待引用文档集被翻译完毕后请及时修改此处) numa overcommit-accounting page_frags + page_migration page_owner page_table_check remap_file_pages
@@ -47,7 +48,6 @@ TODOLIST: * arch_pgtable_helpers * free_page_reporting * hugetlbfs_reserv -* page_migration * slub * transhuge * unevictable-lru
Documentation/translations/zh_CN/vm/page_migration.rst new file +229 -0
229 lines not on this page · raw message
Signature · 1 line
2.27.0
Re: [PATCH v2 1/2] docs/zh_CN: add vm page_migration translation
Hi Yanteng, long time no see.
Quoted 43 lines
Translate
.../vm/page_migration.rstinto Chinese.Signed-off-by Yanteng Si <[email protected]>--- Documentation/translations/zh_CN/vm/index.rst | 2 +- .../translations/zh_CN/vm/page_migration.rst | 229 ++++++++++++++++++ 2 files changed, 230 insertions(+), 1 deletion(-) create mode 100644 Documentation/translations/zh_CN/vm/page_migration.rstDocumentation/translations/zh_CN/vm/index.rst +1
-1@@ -36,6 +36,7 @@ TODO:待引用文档集被翻译完毕后请及时修改此处) numa overcommit-accounting page_frags + page_migration page_owner page_table_check remap_file_pages@@ -47,7 +48,6 @@ TODOLIST: * arch_pgtable_helpers * free_page_reporting * hugetlbfs_reserv -* page_migration * slub * transhuge * unevictable-lruDocumentation/translations/zh_CN/vm/page_migration.rst new file +8
-0@@ -0,0 +1,229 @@ +.. include:: ../disclaimer-zh_CN.rst + +:Original: Documentation/vm/index.rst + +:翻译: + + 司延腾 Yanteng Si <[email protected]> +
Documentation/translations/zh_CN/vm/page_migration.rst line 18
Quoted 10 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +10
-0+:校译: + +======== +页面迁移 +======== + +页面迁移允许在进程运行时在NUMA系统的节点之间移动页面的物理位置。这意味着进程所看到的虚拟地 +址并没有改变。然而,系统会重新安排这些页面的物理位置。 + +也可以参见 :ref: `<异构内存管理 (HMM)>`用于将页面迁移到设备私有内存或从设备私有内存中迁移` 。
用于 -> 以了解
Documentation/translations/zh_CN/vm/page_migration.rst line 24
Quoted 6 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +6
-0+ +页面迁移的主要目的是通过将页面移到访问该内存的进程所运行的处理器附近来减少内存访问的延迟。 + +页面迁移允许进程通过MF_MOVE和MF_MOVE_ALL选项手动重新定位其页面所在的节点,同时通过 +mbind()设置一个新的内存策略。一个进程的页面也可以通过sys_migrate_pages()函数调用从另 +一个进程重新定位。migrate_pages()函数调用接收两组节点,并将一个进程位于从节点上的页面移
"from nodes"
从节点 -> 旧节点/起始节点
Documentation/translations/zh_CN/vm/page_migration.rst line 27
Quoted 3 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +3
-0+动到目标节点上。页面迁移功能由Andi Kleen的numactl包提供(需要0.9.3以上的版本,其仓库 +地址https://github.com/numactl/numactl.git)。numactl提供了libnuma,它为页面迁移 +提供了与其他NUMA功能类似的接口。 ``/proc/<pid>/numa_maps`` 允许轻松查看进程的页面位
How about keep the "cat" ?
It's a command.
Quoted 4 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +4
-0+置。参见proc(5)手册中的numa_maps文档。 + +如果调度程序将一个进程重新安置到一个遥远的节点上的处理器,手动迁移是很有用的。批量调度程序 +或管理员可以检测到这种情况,并将进程的页面移到新处理器附近。内核本身只提供手动的页迁移支持。
Documentation/translations/zh_CN/vm/page_migration.rst line 41
Quoted 10 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +10
-0+自动的页面迁移可以通过用户空间的进程移动页面来实现。一个特殊的函数调用 "move_pages" 允许 +在一个进程中移动单个页面。例如,NUMA分析器可以获得一个显示频繁的节点外访问的日志,并可以使 +用这个结果将页面移动到更有利的位置。 + +较大型的设备通常使用cpusets将系统分割成若干个节点。Paul Jackson为cpusets配备了当任务被 +转移到另一个cpuset时移动页面的能力(见:ref:`CPUSETS <cpusets>`)。Cpusets允许进程定 +位的自动化。如果一个任务被移到一个新的cpuset上,那么它的所有页面也会随之移动,这样进程的 +性能就不会急剧下降。如果cpuset允许的内存节点发生变化,cpuset中的进程页也会被移动。 + +页面迁移允许为所有迁移技术保留一组节点中页面的相对位置,这将保留迁移一个进程后生成的特定
这将保留生成的特定内存分配模式即使进程已被迁移。
Documentation/translations/zh_CN/vm/page_migration.rst line 44
Quoted 3 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +3
-0+内存分配模式。为了保留内存延迟,这一点是必要的。迁移后的进程将以类似的性能运行。 + +页面迁移分几个步骤进行。首先为那些试图从内核中使用migrate_pages()的进程做一个高水平的
maybe 高层次?
高水平 also means "good performance"
Quoted 30 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +30
-0+描述(对于用户空间的使用,可以参考上面提到的Andi Kleen的numactl包),然后对低水平的细 +节工作做一个低水平描述。 + +在内核中使用 migrate_pages() +============================ + +1. 从LRU中移除页面。 + + 要迁移的页面列表是通过扫描页面并把它们移到列表中来生成的。这是通过调用 isolate_lru_page() + 来完成的。调用isolate_lru_page()增加了对该页的引用,这样在页面迁移发生时它就不会 + 消失。它还可以防止交换器或其他扫描器遇到该页。 + + +2. 我们需要有一个new_page_t类型的函数,可以传递给migrate_pages()。这个函数应该计算 + 出如何在给定的旧页面中分配正确的新页面。 + +3. migrate_pages()函数被调用,它试图进行迁移。它将调用该函数为每个被考虑迁移的页面分 + 配新的页面。 + +migrate_pages()如何工作 +======================= + +migrate_pages()对它的页面列表进行了多次处理。如果当时对一个页面的所有引用都可以被移除, +那么这个页面就会被移动。该页已经通过isolate_lru_page()从LRU中移除,并且refcount被 +增加,以便在页面迁移发生时不释放该页。 + +步骤: + +1. 锁定要迁移的页面。 +
Documentation/translations/zh_CN/vm/page_migration.rst line 84
Quoted 10 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +10
-0+2. 确保回写已经完成。 + +3. 锁定我们要迁移到的新页面。锁定它是为了在迁移过程中立即阻止对这个(尚未更新的)页面的 + 访问。 + +4. 所有对该页的页表引用都被转换为迁移条目。这就减少了一个页面的mapcount。如果产生的 + mapcount不是零,那么我们就不迁移该页。所有试图访问该页的用户空间进程现在将等待页 + 面锁或者等待迁移页表项被移除。 + +5. i_pages的锁被拿走了。这将导致所有试图通过映射访问该页的进程在自旋锁上阻塞。
被持有
Quoted 5 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +5
-0+ +6. 检查该页的Refcount,如果还有引用,我们就退出。否则,我们知道我们是唯一引用这个页 + 面的人。 + +7. 检查基数树,如果它不包含指向这个页面的指针,那么我们就退出,因为其他人修改了基数树。
Documentation/translations/zh_CN/vm/page_migration.rst line 99
Quoted 10 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +10
-0+ +8. 新的页面要用旧的页面的一些设置进行预处理,这样访问新的页面就会发现一个具有正确设置 + 的页面。 + +9. 基数树被改变以指向新的页面。 + +10. 旧页的引用计数被删除,因为地址空间的引用已经消失。对新页的引用被建立,因为新页被 + 地址空间引用。 + +11. i_pages锁被放弃。这样一来,在映射中的查找又变得可能了。进程将从在锁上旋转转到在
在锁上自旋
Quoted 21 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +21
-0+ 被锁的新页上睡眠。 + +12. 页面内容被复制到新的页面上。 + +13. 剩余的页面标志被复制到新的页面上。 + +14. 旧的页面标志被清除,以表明该页面不再提供任何信息。 + +15. 新页面上的回写队列被触发了。 + +16. 如果迁移条目被插入到页表中,那么就用真正的ptes替换它们。这样做将使那些尚未等待页 + 锁的用户空间进程能够访问。 + +17. 页面锁从新旧页面上被撤销。等待页锁的进程将重做他们的缺页异常,并将到达新的页面。 + +18. 新的页面被移到LRU中,可以被交换器等再次扫描。 + +非LRU页面迁移 +============= + +尽管迁移最初的目的是为了减少NUMA的内存访问延迟,但压缩也使用迁移来创建高阶页面。
Documentation/translations/zh_CN/vm/page_migration.rst line 130
Quoted 10 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +10
-0+ +目前实现的问题是,它被设计为只迁移*LRU*页。然而,有一些潜在的非LRU页面可以在驱动中 +被迁移,例如,zsmalloc,virtio-balloon页面。 + +对于virtio-balloon页面,迁移代码路径的某些部分已经被钩住,并添加了virtio-balloon +的特定函数来拦截迁移逻辑。这对一个驱动来说太特殊了,所以其他想让自己的页面可移动的驱 +动就必须在迁移路径中添加自己的特定钩子。 + +为了克服这个问题,VM支持非LRU页面迁移,它为非LRU可移动页面提供了通用函数,而在迁移 +路径中没有特定的驱动程序挂钩。
钩子 or 挂钩
统一一下
Documentation/translations/zh_CN/vm/page_migration.rst line 137
Quoted 7 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +7
-0+ +如果一个驱动程序想让它的页面可移动,它应该定义三个函数,这些函数是 +struct address_space_operations的函数指针。 + +1. ``bool (*isolate_page) (struct page *page, isolate_mode_t mode);`` + + VM对驱动的isolate_page()函数的期望是,如果驱动成功隔离了该页,则返回true。
*true*
Quoted 25 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +25
-0+ 返回true后,VM会将该页标记为PG_isolated,这样多个CPU的并发隔离就会跳过该 + 页进行隔离。如果驱动程序不能隔离该页,它应该返回*false*。 + + 一旦页面被成功隔离,VM就会使用page.lru字段,因此驱动程序不应期望保留这些字段的值。 + +2. ``int (*migratepage) (struct address_space *mapping,`` +| ``struct page *newpage, struct page *oldpage, enum migrate_mode);`` + + 隔离后,虚拟机用隔离的页面调用驱动的migratepage()。migratepage()的功能是将旧页 + 的内容移动到新页,并设置struct page newpage的字段。请记住,如果你成功迁移了旧页 + 并返回MIGRATEPAGE_SUCCESS,你应该通过page_lock下的__ClearPageMovable()向虚 + 拟机表明旧页不再可移动。如果驱动暂时不能迁移该页,驱动可以返回-EAGAIN。在-EAGAIN + 时,VM会在短时间内重试页面迁移,因为VM将-EAGAIN理解为 "临时迁移失败"。在返回除 + -EAGAIN以外的任何错误时,VM将放弃页面迁移而不重试。 + + 在migratepage()函数中,驱动程序不应该接触page.lru字段。 + +3. ``void (*putback_page)(struct page *);`` + + 如果在隔离页上迁移失败,VM应该将隔离页返回给驱动,因此VM用隔离页调用驱动的 + putback_page()。在这个函数中,驱动应该把隔离页放回自己的数据结构中。 + +非LRU可移动页标志 + + 有两个页面标志用于支持非LRU可移动页面。
Documentation/translations/zh_CN/vm/page_migration.rst line 172
Quoted 10 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +10
-0+ + * PG_movable + + 驱动应该使用下面的函数来使页面在page_lock下可移动。:: + + void __SetPageMovable(struct page *page, struct address_space *mapping) + + 它需要address_space的参数来注册将被VM调用的migration family函数。确切地说, + PG_movable不是struct page的一个真正的标志。相反,VM复用了page->mapping的低 + 位来表示i::
i -> 它
Quoted 4 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +4
-0+ + #define PAGE_MAPPING_MOVABLE 0x2 + page->mapping = page->mapping | PAGE_MAPPING_MOVABLE; +
Documentation/translations/zh_CN/vm/page_migration.rst line 186
Quoted 10 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +10
-0+ 所以驱动不应该直接访问page->mapping。相反,驱动应该使用page_mapping(),它可 + 以在页面锁下屏蔽掉page->mapping的低2位,从而获得正确的struct address_space。 + + 对于非LRU可移动页面的测试,VM支持__PageMovable()函数。然而,它并不能保证识别 + 非LRU可移动页面,因为page->mapping字段与struct page中的其他变量是统一的。如 + 果驱动程序在被虚拟机隔离后释放了页面,尽管page->mapping设置了PAGE_MAPPING_MOVABLE, + 但它并没有一个稳定的值(看看__ClearPageMovable)。但是__PageMovable()在页 + 面被隔离后,无论页面是LRU还是非LRU可移动的,调用它开销都很低,因为LRU页面在 + page->mapping中不可能有PAGE_MAPPING_MOVABLE设置。在用pfn扫描中的lock_page() + 进行更大开销的检查来选择受害者之前,它也很适合只是偷看来测试非LRU可移动的页面。
偷看 -> 瞥一眼
Documentation/translations/zh_CN/vm/page_migration.rst line 197
Quoted 11 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +11
-0+ + 为了保证非LRU的可移动页面,VM提供了PageMovable()函数。与__PageMovable()不 + 同,PageMovable()在lock_page()下验证page->mapping和 + mapping->a_ops->isolate_page。lock_page()可以防止突然破坏page->mapping。 + + 使用__SetPageMovable()的驱动应该在释放页面之前通过page_lock()下的 + __ClearMovablePage()清除该标志。 + + * PG_isolated + + 为了防止几个CPU之间同时进行隔离,VM在lock_page()下将隔离的页面标记为PG_isolated。
reomve 之间
Documentation/translations/zh_CN/vm/page_migration.rst line 200
Quoted 3 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +3
-0+ 因此,如果一个CPU遇到PG_isolated非LRU可移动页面,它可以跳过它。驱动程序不需要 + 操作这个标志,因为VM会自动设置/清除它。请记住,如果驱动程序看到PG_isolated页, + 这意味着该页已经被虚拟机隔离,所以它不应该碰page.lru字段。PG_isolated标志与
^^^^^^
VM
Documentation/translations/zh_CN/vm/page_migration.rst line 208
Quoted 8 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +8
-0+ PG_reclaim标志是同义的,所以驱动程序不应该为自己的目的使用PG_isolated。 + +监测迁移 +======== + +以下事件(计数器)可用于监控页面迁移。 + +1. pgmigrate_success: 正常的页面迁移成功。每个计数器意味着一个页面被迁移了。如果该
PGMIGRATE_SUCCESS
Quoted 5 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +5
-0+ 页是一个非THP和非hugetlb页,那么这个计数器会增加1。如果该页面是一个THP或hugetlb + 页面,那么这个计数器会随着THP或hugetlb子页面的数量而增加。例如,迁移一个有4KB大小 + 的基础页(子页)的2MB THP,将导致这个计数器增加512。 + +2. PGMIGRATE_FAIL: 正常的页面迁移失败。与上面PGMIGRATE_SUCCESS的计数规则相同:如
Documentation/translations/zh_CN/vm/page_migration.rst line 223
Quoted 10 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +10
-0+ 果是THP或hugetlb,这个计数将被子页的数量增加。 + +3. THP_MIGRATION_SUCCESS: 一个THP被迁移而没有被分割。 + +4. THP_MIGRATION_FAIL: 一个THP不能被迁移,也不能被分割。 + +5. THP_MIGRATION_SPLIT: 一个THP被迁移了,但不是这样的:首先,这个THP必须被分割。 + 在拆分之后,对它的子页面进行了迁移重试。 + +THP_MIGRATION_* THP_MIGRATION_*事件也会更新相应的PGMIGRATE_SUCCESS或
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
duplication
Quoted 8 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +6
-0+PGMIGRATE_FAIL事件。例如,一个THP迁移失败将导致THP_MIGRATION_FAIL和PGMIGRATE_FAIL +增加。 + +Christoph Lameter,2006年5月8日。 + +Minchan Kim,2016年3月28日。Signature · 1 line
2.27.0
Thanks,
Wu
Re: [PATCH v2 1/2] docs/zh_CN: add vm page_migration translation
Quoted 2 lines · Wu X.C. <[email protected]> 于2022年5月16日周一 11:47写道:
Hi Yanteng, long time no see.
Yeah,nice to see you again! >_<
Quoted 48 lines
Quoted 48 lines
Translate
.../vm/page_migration.rstinto Chinese.Signed-off-by Yanteng Si <[email protected]>--- Documentation/translations/zh_CN/vm/index.rst | 2 +- .../translations/zh_CN/vm/page_migration.rst | 229 ++++++++++++++++++ 2 files changed, 230 insertions(+), 1 deletion(-) create mode 100644 Documentation/translations/zh_CN/vm/page_migration.rstDocumentation/translations/zh_CN/vm/index.rst +1
-1@@ -36,6 +36,7 @@ TODO:待引用文档集被翻译完毕后请及时修改此处) numa overcommit-accounting page_frags + page_migration page_owner page_table_check remap_file_pages@@ -47,7 +48,6 @@ TODOLIST: * arch_pgtable_helpers * free_page_reporting * hugetlbfs_reserv -* page_migration * slub * transhuge * unevictable-lruDocumentation/translations/zh_CN/vm/page_migration.rst new file +12
-0@@ -0,0 +1,229 @@ +.. include:: ../disclaimer-zh_CN.rst + +:Original: Documentation/vm/index.rst + +:翻译: + + 司延腾 Yanteng Si <[email protected]> + +:校译: + +======== +页面迁移
Quoted 8 lines
Documentation/translations/zh_CN/vm/page_migration.rst line 18
Quoted 6 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +6
-0+======== + +页面迁移允许在进程运行时在NUMA系统的节点之间移动页面的物理位置。这意味着进程所看到的虚拟地 +址并没有改变。然而,系统会重新安排这些页面的物理位置。 + +也可以参见 :ref: `<异构内存管理 (HMM)>`用于将页面迁移到设备私有内存或从设备私有内存中迁移` 。用于 -> 以了解
OK!
Quoted 10 lines
Documentation/translations/zh_CN/vm/page_migration.rst line 24
Quoted 7 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +6
-0+ +页面迁移的主要目的是通过将页面移到访问该内存的进程所运行的处理器附近来减少内存访问的延迟。 + +页面迁移允许进程通过MF_MOVE和MF_MOVE_ALL选项手动重新定位其页面所在的节点,同时通过 +mbind()设置一个新的内存策略。一个进程的页面也可以通过sys_migrate_pages()函数调用从另 +一个进程重新定位。migrate_pages()函数调用接收两组节点,并将一个进程位于从节点上的页面移"from nodes"
从节点 -> 旧节点/起始节点
OK! use 旧节点.
Quoted 7 lines
Documentation/translations/zh_CN/vm/page_migration.rst line 27
Quoted 4 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +3
-0+动到目标节点上。页面迁移功能由Andi Kleen的numactl包提供(需要0.9.3以上的版本,其仓库 +地址https://github.com/numactl/numactl.git)。numactl提供了libnuma,它为页面迁移 +提供了与其他NUMA功能类似的接口。 ``/proc/<pid>/numa_maps`` 允许轻松查看进程的页面位How about keep the "cat" ?
It's a command.
OK!
执行 cat ``/proc/<pid>/numa_maps`` 允许轻松查看进.....
Quoted 17 lines
Quoted 5 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +4
-0+置。参见proc(5)手册中的numa_maps文档。 + +如果调度程序将一个进程重新安置到一个遥远的节点上的处理器,手动迁移是很有用的。批量调度程序 +或管理员可以检测到这种情况,并将进程的页面移到新处理器附近。内核本身只提供手动的页迁移支持。Documentation/translations/zh_CN/vm/page_migration.rst line 41
Quoted 10 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +10
-0+自动的页面迁移可以通过用户空间的进程移动页面来实现。一个特殊的函数调用 "move_pages" 允许 +在一个进程中移动单个页面。例如,NUMA分析器可以获得一个显示频繁的节点外访问的日志,并可以使 +用这个结果将页面移动到更有利的位置。 + +较大型的设备通常使用cpusets将系统分割成若干个节点。Paul Jackson为cpusets配备了当任务被 +转移到另一个cpuset时移动页面的能力(见:ref:`CPUSETS <cpusets>`)。Cpusets允许进程定 +位的自动化。如果一个任务被移到一个新的cpuset上,那么它的所有页面也会随之移动,这样进程的 +性能就不会急剧下降。如果cpuset允许的内存节点发生变化,cpuset中的进程页也会被移动。 + +页面迁移允许为所有迁移技术保留一组节点中页面的相对位置,这将保留迁移一个进程后生成的特定这将保留生成的特定内存分配模式即使进程已被迁移。
OK!
Quoted 7 lines
Documentation/translations/zh_CN/vm/page_migration.rst line 44
Quoted 4 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +3
-0+内存分配模式。为了保留内存延迟,这一点是必要的。迁移后的进程将以类似的性能运行。 + +页面迁移分几个步骤进行。首先为那些试图从内核中使用migrate_pages()的进程做一个高水平的maybe 高层次?
高水平 also means "good performance"
OK!
Quoted 35 lines
Quoted 35 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +34
-0+描述(对于用户空间的使用,可以参考上面提到的Andi Kleen的numactl包),然后对低水平的细 +节工作做一个低水平描述。 + +在内核中使用 migrate_pages() +============================ + +1. 从LRU中移除页面。 + + 要迁移的页面列表是通过扫描页面并把它们移到列表中来生成的。这是通过调用 isolate_lru_page() + 来完成的。调用isolate_lru_page()增加了对该页的引用,这样在页面迁移发生时它就不会 + 消失。它还可以防止交换器或其他扫描器遇到该页。 + + +2. 我们需要有一个new_page_t类型的函数,可以传递给migrate_pages()。这个函数应该计算 + 出如何在给定的旧页面中分配正确的新页面。 + +3. migrate_pages()函数被调用,它试图进行迁移。它将调用该函数为每个被考虑迁移的页面分 + 配新的页面。 + +migrate_pages()如何工作 +======================= + +migrate_pages()对它的页面列表进行了多次处理。如果当时对一个页面的所有引用都可以被移除, +那么这个页面就会被移动。该页已经通过isolate_lru_page()从LRU中移除,并且refcount被 +增加,以便在页面迁移发生时不释放该页。 + +步骤: + +1. 锁定要迁移的页面。 + +2. 确保回写已经完成。 + +3. 锁定我们要迁移到的新页面。锁定它是为了在迁移过程中立即阻止对这个(尚未更新的)页面的 + 访问。
Quoted 8 lines
Documentation/translations/zh_CN/vm/page_migration.rst line 84
Quoted 6 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +6
-0+ +4. 所有对该页的页表引用都被转换为迁移条目。这就减少了一个页面的mapcount。如果产生的 + mapcount不是零,那么我们就不迁移该页。所有试图访问该页的用户空间进程现在将等待页 + 面锁或者等待迁移页表项被移除。 + +5. i_pages的锁被拿走了。这将导致所有试图通过映射访问该页的进程在自旋锁上阻塞。被持有
OK!
Quoted 10 lines
Quoted 10 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +9
-0+ +6. 检查该页的Refcount,如果还有引用,我们就退出。否则,我们知道我们是唯一引用这个页 + 面的人。 + +7. 检查基数树,如果它不包含指向这个页面的指针,那么我们就退出,因为其他人修改了基数树。 + +8. 新的页面要用旧的页面的一些设置进行预处理,这样访问新的页面就会发现一个具有正确设置 + 的页面。 +
Quoted 8 lines
Documentation/translations/zh_CN/vm/page_migration.rst line 99
Quoted 6 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +6
-0+9. 基数树被改变以指向新的页面。 + +10. 旧页的引用计数被删除,因为地址空间的引用已经消失。对新页的引用被建立,因为新页被 + 地址空间引用。 + +11. i_pages锁被放弃。这样一来,在映射中的查找又变得可能了。进程将从在锁上旋转转到在在锁上自旋
OK!
Quoted 27 lines
Quoted 27 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +26
-0+ 被锁的新页上睡眠。 + +12. 页面内容被复制到新的页面上。 + +13. 剩余的页面标志被复制到新的页面上。 + +14. 旧的页面标志被清除,以表明该页面不再提供任何信息。 + +15. 新页面上的回写队列被触发了。 + +16. 如果迁移条目被插入到页表中,那么就用真正的ptes替换它们。这样做将使那些尚未等待页 + 锁的用户空间进程能够访问。 + +17. 页面锁从新旧页面上被撤销。等待页锁的进程将重做他们的缺页异常,并将到达新的页面。 + +18. 新的页面被移到LRU中,可以被交换器等再次扫描。 + +非LRU页面迁移 +============= + +尽管迁移最初的目的是为了减少NUMA的内存访问延迟,但压缩也使用迁移来创建高阶页面。 + +目前实现的问题是,它被设计为只迁移*LRU*页。然而,有一些潜在的非LRU页面可以在驱动中 +被迁移,例如,zsmalloc,virtio-balloon页面。 + +对于virtio-balloon页面,迁移代码路径的某些部分已经被钩住,并添加了virtio-balloon
Quoted 8 lines
Documentation/translations/zh_CN/vm/page_migration.rst line 130
Quoted 5 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +5
-0+的特定函数来拦截迁移逻辑。这对一个驱动来说太特殊了,所以其他想让自己的页面可移动的驱 +动就必须在迁移路径中添加自己的特定钩子。 + +为了克服这个问题,VM支持非LRU页面迁移,它为非LRU可移动页面提供了通用函数,而在迁移 +路径中没有特定的驱动程序挂钩。钩子 or 挂钩
统一一下
OK! 钩子
Quoted 10 lines
Documentation/translations/zh_CN/vm/page_migration.rst line 137
Quoted 8 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +7
-0+ +如果一个驱动程序想让它的页面可移动,它应该定义三个函数,这些函数是 +struct address_space_operations的函数指针。 + +1. ``bool (*isolate_page) (struct page *page, isolate_mode_t mode);`` + + VM对驱动的isolate_page()函数的期望是,如果驱动成功隔离了该页,则返回true。*true*
OK!
Quoted 30 lines
Quoted 30 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +29
-0+ 返回true后,VM会将该页标记为PG_isolated,这样多个CPU的并发隔离就会跳过该 + 页进行隔离。如果驱动程序不能隔离该页,它应该返回*false*。 + + 一旦页面被成功隔离,VM就会使用page.lru字段,因此驱动程序不应期望保留这些字段的值。 + +2. ``int (*migratepage) (struct address_space *mapping,`` +| ``struct page *newpage, struct page *oldpage, enum migrate_mode);`` + + 隔离后,虚拟机用隔离的页面调用驱动的migratepage()。migratepage()的功能是将旧页 + 的内容移动到新页,并设置struct page newpage的字段。请记住,如果你成功迁移了旧页 + 并返回MIGRATEPAGE_SUCCESS,你应该通过page_lock下的__ClearPageMovable()向虚 + 拟机表明旧页不再可移动。如果驱动暂时不能迁移该页,驱动可以返回-EAGAIN。在-EAGAIN + 时,VM会在短时间内重试页面迁移,因为VM将-EAGAIN理解为 "临时迁移失败"。在返回除 + -EAGAIN以外的任何错误时,VM将放弃页面迁移而不重试。 + + 在migratepage()函数中,驱动程序不应该接触page.lru字段。 + +3. ``void (*putback_page)(struct page *);`` + + 如果在隔离页上迁移失败,VM应该将隔离页返回给驱动,因此VM用隔离页调用驱动的 + putback_page()。在这个函数中,驱动应该把隔离页放回自己的数据结构中。 + +非LRU可移动页标志 + + 有两个页面标志用于支持非LRU可移动页面。 + + * PG_movable + + 驱动应该使用下面的函数来使页面在page_lock下可移动。::
Quoted 8 lines
Documentation/translations/zh_CN/vm/page_migration.rst line 172
Quoted 6 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +6
-0+ + void __SetPageMovable(struct page *page, struct address_space *mapping) + + 它需要address_space的参数来注册将被VM调用的migration family函数。确切地说, + PG_movable不是struct page的一个真正的标志。相反,VM复用了page->mapping的低 + 位来表示i::i -> 它
OK!
Quoted 17 lines
Quoted 5 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +4
-0+ + #define PAGE_MAPPING_MOVABLE 0x2 + page->mapping = page->mapping | PAGE_MAPPING_MOVABLE; +Documentation/translations/zh_CN/vm/page_migration.rst line 186
Quoted 10 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +10
-0+ 所以驱动不应该直接访问page->mapping。相反,驱动应该使用page_mapping(),它可 + 以在页面锁下屏蔽掉page->mapping的低2位,从而获得正确的struct address_space。 + + 对于非LRU可移动页面的测试,VM支持__PageMovable()函数。然而,它并不能保证识别 + 非LRU可移动页面,因为page->mapping字段与struct page中的其他变量是统一的。如 + 果驱动程序在被虚拟机隔离后释放了页面,尽管page->mapping设置了PAGE_MAPPING_MOVABLE, + 但它并没有一个稳定的值(看看__ClearPageMovable)。但是__PageMovable()在页 + 面被隔离后,无论页面是LRU还是非LRU可移动的,调用它开销都很低,因为LRU页面在 + page->mapping中不可能有PAGE_MAPPING_MOVABLE设置。在用pfn扫描中的lock_page() + 进行更大开销的检查来选择受害者之前,它也很适合只是偷看来测试非LRU可移动的页面。偷看 -> 瞥一眼
OK!
Quoted 14 lines
Documentation/translations/zh_CN/vm/page_migration.rst line 197
Quoted 12 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +11
-0+ + 为了保证非LRU的可移动页面,VM提供了PageMovable()函数。与__PageMovable()不 + 同,PageMovable()在lock_page()下验证page->mapping和 + mapping->a_ops->isolate_page。lock_page()可以防止突然破坏page->mapping。 + + 使用__SetPageMovable()的驱动应该在释放页面之前通过page_lock()下的 + __ClearMovablePage()清除该标志。 + + * PG_isolated + + 为了防止几个CPU之间同时进行隔离,VM在lock_page()下将隔离的页面标记为PG_isolated。reomve 之间
OK!
Quoted 7 lines
Documentation/translations/zh_CN/vm/page_migration.rst line 200
Quoted 4 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +3
-0+ 因此,如果一个CPU遇到PG_isolated非LRU可移动页面,它可以跳过它。驱动程序不需要 + 操作这个标志,因为VM会自动设置/清除它。请记住,如果驱动程序看到PG_isolated页, + 这意味着该页已经被虚拟机隔离,所以它不应该碰page.lru字段。PG_isolated标志与^^^^^^VM
OK!
Quoted 11 lines
Documentation/translations/zh_CN/vm/page_migration.rst line 208
Quoted 9 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +8
-0+ PG_reclaim标志是同义的,所以驱动程序不应该为自己的目的使用PG_isolated。 + +监测迁移 +======== + +以下事件(计数器)可用于监控页面迁移。 + +1. pgmigrate_success: 正常的页面迁移成功。每个计数器意味着一个页面被迁移了。如果该
PGMIGRATE_SUCCESS
OK!
Quoted 18 lines
Quoted 6 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +5
-0+ 页是一个非THP和非hugetlb页,那么这个计数器会增加1。如果该页面是一个THP或hugetlb + 页面,那么这个计数器会随着THP或hugetlb子页面的数量而增加。例如,迁移一个有4KB大小 + 的基础页(子页)的2MB THP,将导致这个计数器增加512。 + +2. PGMIGRATE_FAIL: 正常的页面迁移失败。与上面PGMIGRATE_SUCCESS的计数规则相同:如Documentation/translations/zh_CN/vm/page_migration.rst line 223
Quoted 10 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +10
-0+ 果是THP或hugetlb,这个计数将被子页的数量增加。 + +3. THP_MIGRATION_SUCCESS: 一个THP被迁移而没有被分割。 + +4. THP_MIGRATION_FAIL: 一个THP不能被迁移,也不能被分割。 + +5. THP_MIGRATION_SPLIT: 一个THP被迁移了,但不是这样的:首先,这个THP必须被分割。 + 在拆分之后,对它的子页面进行了迁移重试。 + +THP_MIGRATION_* THP_MIGRATION_*事件也会更新相应的PGMIGRATE_SUCCESS或^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
Quoted 1 line
duplication
Sorry, remove one.
Thanks,
Yanteng
Quoted 13 lines
Quoted 9 lines
Documentation/translations/zh_CN/vm/page_migration.rst new file +6
-1+PGMIGRATE_FAIL事件。例如,一个THP迁移失败将导致THP_MIGRATION_FAIL和PGMIGRATE_FAIL +增加。 + +Christoph Lameter,2006年5月8日。 + +Minchan Kim,2016年3月28日。 --2.27.0
Thanks,
Wu
PATCH v2 2/2 docs/zh_CN: add vm vmalloced-kernel-stacks translation
In reply to Yanteng SiTranslate .../vm/vmalloced-kernel-stacks.rst into Chinese.
--- Documentation/translations/zh_CN/vm/index.rst | 2 +- .../zh_CN/vm/vmalloced-kernel-stacks.rst | 133 ++++++++++++++++++ 2 files changed, 134 insertions(+), 1 deletion(-) create mode 100644 Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst
Documentation/translations/zh_CN/vm/index.rst +1 -1
@@ -41,6 +41,7 @@ TODO:待引用文档集被翻译完毕后请及时修改此处) page_table_check remap_file_pages split_page_table_lock + vmalloced-kernel-stacks z3fold zsmalloc
@@ -51,4 +52,3 @@ TODOLIST: * slub * transhuge * unevictable-lru -* vmalloced-kernel-stacks
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +133 -0
133 lines not on this page · raw message
Signature · 1 line
2.27.0
Re: [PATCH v2 2/2] docs/zh_CN: add vm vmalloced-kernel-stacks translation
Quoted 51 lines · Yanteng Si
Translate
.../vm/vmalloced-kernel-stacks.rstinto Chinese.Signed-off-by Yanteng Si <[email protected]>--- Documentation/translations/zh_CN/vm/index.rst | 2 +- .../zh_CN/vm/vmalloced-kernel-stacks.rst | 133 ++++++++++++++++++ 2 files changed, 134 insertions(+), 1 deletion(-) create mode 100644 Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rstDocumentation/translations/zh_CN/vm/index.rst +1
-1@@ -41,6 +41,7 @@ TODO:待引用文档集被翻译完毕后请及时修改此处) page_table_check remap_file_pages split_page_table_lock + vmalloced-kernel-stacks z3fold zsmalloc@@ -51,4 +52,3 @@ TODOLIST: * slub * transhuge * unevictable-lru -* vmalloced-kernel-stacksDocumentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +19
-0@@ -0,0 +1,133 @@ +.. SPDX-License-Identifier: GPL-2.0 +.. include:: ../disclaimer-zh_CN.rst + +:Original: Documentation/vm/vmalloced-kernel-stacks.rst + +:翻译: + + 司延腾 Yanteng Si <[email protected]> + +:校译: + +==================== +支持虚拟映射的内核栈 +==================== + +:作者: Shuah Khan <[email protected]> + +.. contents:: :local: +
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst line 29
Quoted 10 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +10
-0+概览 +---- + +这是介绍 `虚拟映射内核栈功能 <https://lwn.net/Articles/694348/>` 的代码 +和原始补丁系列的信息汇总。 + +简介 +---- + +内核堆栈溢出通常难以调试,并使内核容易被利用。问题可能在稍后的时间出现,使其难以
How about 被(恶意)利用? "exploits" is a pejorative term.
问题可能在之后才出现
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst line 40
Quoted 11 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +11
-0+隔离和究其根本原因。 + +带有保护页的虚拟映射内核堆栈如果溢出,会被立即捕获,而不会放任其导致难以诊断的损 +坏。 + +HAVE_ARCH_VMAP_STACK和VMAP_STACK配置选项能够支持带有保护页的虚拟映射堆栈。 +当堆栈溢出时,这个特性会引发可靠的异常。溢出后堆栈跟踪的可用性以及对溢出本身的 +响应取决于架构。 + +.. note:: + 截至本文撰写时, arm64, powerpc, riscv, s390, um, and x86 支持VMAP_STACK。
, and -> 和
Quoted 12 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +12
-0+ +HAVE_ARCH_VMAP_STACK +-------------------- + +能够支持虚拟映射内核栈的架构应该启用这个bool配置选项。要求是: + +- vmalloc空间必须大到足以容纳许多内核堆栈。这可能排除了许多32位架构。 +- vmalloc空间的堆栈需要可靠地工作。例如,如果vmap页表是按需创建的,当堆栈指向 + 具有未填充页表的虚拟地址时,这种机制需要工作,或者架构代码(switch_to()和 + switch_mm(),很可能)需要确保堆栈的页表项在可能未填充的堆栈上运行之前已经填 + 充。 +- 如果堆栈溢出到一个保护页,就应该发生一些合理的事情。“合理”的定义是灵活的,但
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst line 62
Quoted 10 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +10
-0+ 在没有记录任何东西的情况下立即重启是不友好的。 + +VMAP_STACK +---------- + +VMAP_STACK bool配置选项在启用时分配虚拟映射的任务栈。这个选项依赖于 +HAVE_ARCH_VMAP_STACK。 + +- 如果你想使用带有保护页的虚拟映射的内核堆栈,请启用该选项。这将导致内核栈溢出 + 被立即捕获,而不是导致难以诊断的损坏。
remove the second 导致
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst line 71
Quoted 9 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +9
-0+ +.. note:: + + 使用KASAN的这个功能需要架构支持用真实的影子内存来支持虚拟映射,并且 + 必须启用KASAN_VMALLOC。 + +.. note:: + + 启用VMAP_STACK时,不可能在堆栈分配的数据上运行DMA。
不可能 -> 无法
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst line 80
Quoted 9 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +9
-0+ +内核配置选项和依赖性不断变化。请参考最新的代码库: + +`Kconfig <https://git.kernel.org/pub/scm/linux/kernel/git/torvalds/linux.git/tree/arch/Kconfig>` + +分配方法 +-------- + +当一个新的内核线程被创建时,线程堆栈是由页级分配器分配的实际连续的内存页组成。这
virtually
实际连续?
虚拟连续?
Quoted 5 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +5
-0+些页面被映射到有PAGE_KERNEL保护的连续的内核虚拟空间。 + +alloc_thread_stack_node()调用__vmalloc_node_range()来分配带有PAGE_KERNEL +保护的栈。 +
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst line 95
Quoted 10 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +10
-0+- 分配的堆栈被缓存起来,以后会被新的线程重用,所以在分配/释放堆栈给任务时,要手动 + 进行memcg核算。因此,__vmalloc_node_range被调用时没有__GFP_ACCOUNT。 +- vm_struct被缓存起来,以便能够找到在中断上下文中启动的空闲线程。 free_thread_stack() + 可以在中断上下文中调用。 +- 在arm64上,所有VMAP的堆栈都需要有相同的对齐方式,以确保VMAP的堆栈溢出检测正常 + 工作。架构特定的vmap堆栈分配器照顾到了这个细节。 +- 这并不涉及中断堆栈--参考原始补丁 + +线程栈分配是由clone()、fork()、vfork()、kernel_thread()通过kernel_clone() +启动的。留下一些提示,以便搜索代码库,了解线程栈何时以及如何分配。
留点提示在这
Quoted 14 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +14
-0+ +大量的代码是在: +`kernel/fork.c <https://git.kernel.org/pub/scm/linux/kernel/git/torvalds/linux.git/tree/kernel/fork.c>`. + +task_struct中的stack_vm_area指针可以跟踪虚拟分配的堆栈,一个非空的stack_vm_area +指针可以表明虚拟映射的内核堆栈已经启用。 + +:: + + struct vm_struct *stack_vm_area; + +堆栈溢出处理 +------------ +
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst line 119
Quoted 10 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +10
-0+前守护页和后守护页有助于检测堆栈溢出。当堆栈溢出到守护页时,处理程序必须小心不要再 +次溢出堆栈。当处理程序被调用时,很可能只留下很少的堆栈空间。 + +在x86上,这是通过处理表明内核堆栈溢出的双异常堆栈的缺页异常来实现的。 + +用守护页测试VMAP分配 +-------------------- + +我们如何确保VMAP_STACK在分配时确实有前守护页和后守护页的保护?下面的 lkdtm 测试 +可以帮助检测任何退步。
退步 -> 回归/回归缺陷
Quoted 16 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +14
-0+ +:: + + void lkdtm_STACK_GUARD_PAGE_LEADING() + void lkdtm_STACK_GUARD_PAGE_TRAILING() + +结论 +---- + +- vmalloced堆栈的percpu缓存似乎比高阶堆栈分配要快一些,至少在缓存命中时是这样。 +- THREAD_INFO_IN_TASK完全摆脱了arch-specific thread_info,并简单地将 + thread_info(仅包含标志)和'int cpu'嵌入task_struct中。 +- 一旦任务死亡,线程栈就可以被释放(无需等待RCU),然后,如果使用vmapped栈,就 + 可以将整个栈缓存起来,以便在同一cpu上重复使用。Signature · 1 line
2.27.0
Thanks!
Wu
Re: [PATCH v2 2/2] docs/zh_CN: add vm vmalloced-kernel-stacks translation
Quoted 57 lines · Wu X.C. <[email protected]> 于2022年5月16日周一 12:24写道:
Quoted 55 lines · Yanteng Si
Translate
.../vm/vmalloced-kernel-stacks.rstinto Chinese.Signed-off-by Yanteng Si <[email protected]>--- Documentation/translations/zh_CN/vm/index.rst | 2 +- .../zh_CN/vm/vmalloced-kernel-stacks.rst | 133 ++++++++++++++++++ 2 files changed, 134 insertions(+), 1 deletion(-) create mode 100644 Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rstDocumentation/translations/zh_CN/vm/index.rst +1
-1@@ -41,6 +41,7 @@ TODO:待引用文档集被翻译完毕后请及时修改此处) page_table_check remap_file_pages split_page_table_lock + vmalloced-kernel-stacks z3fold zsmalloc@@ -51,4 +52,3 @@ TODOLIST: * slub * transhuge * unevictable-lru -* vmalloced-kernel-stacksDocumentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +23
-0@@ -0,0 +1,133 @@ +.. SPDX-License-Identifier: GPL-2.0 +.. include:: ../disclaimer-zh_CN.rst + +:Original: Documentation/vm/vmalloced-kernel-stacks.rst + +:翻译: + + 司延腾 Yanteng Si <[email protected]> + +:校译: + +==================== +支持虚拟映射的内核栈 +==================== + +:作者: Shuah Khan <[email protected]> + +.. contents:: :local: + +概览 +---- + +这是介绍 `虚拟映射内核栈功能 <https://lwn.net/Articles/694348/>` 的代码
Quoted 8 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst line 29
Quoted 6 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +6
-0+和原始补丁系列的信息汇总。 + +简介 +---- + +内核堆栈溢出通常难以调试,并使内核容易被利用。问题可能在稍后的时间出现,使其难以How about 被(恶意)利用? "exploits" is a pejorative term.
OK!
Quoted 2 lines
问题可能在之后才出现
我认为这里主要强调问题在稍后的时间出现,问题很难被追踪(调试),着重强调其后不挨着的某个时刻。
Quoted 14 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst line 40
Quoted 12 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +11
-0+隔离和究其根本原因。 + +带有保护页的虚拟映射内核堆栈如果溢出,会被立即捕获,而不会放任其导致难以诊断的损 +坏。 + +HAVE_ARCH_VMAP_STACK和VMAP_STACK配置选项能够支持带有保护页的虚拟映射堆栈。 +当堆栈溢出时,这个特性会引发可靠的异常。溢出后堆栈跟踪的可用性以及对溢出本身的 +响应取决于架构。 + +.. note:: + 截至本文撰写时, arm64, powerpc, riscv, s390, um, and x86 支持VMAP_STACK。, and -> 和
OK!
Quoted 17 lines
Quoted 17 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +16
-0+ +HAVE_ARCH_VMAP_STACK +-------------------- + +能够支持虚拟映射内核栈的架构应该启用这个bool配置选项。要求是: + +- vmalloc空间必须大到足以容纳许多内核堆栈。这可能排除了许多32位架构。 +- vmalloc空间的堆栈需要可靠地工作。例如,如果vmap页表是按需创建的,当堆栈指向 + 具有未填充页表的虚拟地址时,这种机制需要工作,或者架构代码(switch_to()和 + switch_mm(),很可能)需要确保堆栈的页表项在可能未填充的堆栈上运行之前已经填 + 充。 +- 如果堆栈溢出到一个保护页,就应该发生一些合理的事情。“合理”的定义是灵活的,但 + 在没有记录任何东西的情况下立即重启是不友好的。 + +VMAP_STACK +----------
Quoted 8 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst line 62
Quoted 6 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +6
-0+ +VMAP_STACK bool配置选项在启用时分配虚拟映射的任务栈。这个选项依赖于 +HAVE_ARCH_VMAP_STACK。 + +- 如果你想使用带有保护页的虚拟映射的内核堆栈,请启用该选项。这将导致内核栈溢出 + 被立即捕获,而不是导致难以诊断的损坏。remove the second 导致
OK!
Quoted 12 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst line 71
Quoted 10 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +9
-0+ +.. note:: + + 使用KASAN的这个功能需要架构支持用真实的影子内存来支持虚拟映射,并且 + 必须启用KASAN_VMALLOC。 + +.. note:: + + 启用VMAP_STACK时,不可能在堆栈分配的数据上运行DMA。不可能 -> 无法
OK!
Quoted 14 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst line 80
Quoted 10 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +9
-0+ +内核配置选项和依赖性不断变化。请参考最新的代码库: + +`Kconfig <https://git.kernel.org/pub/scm/linux/kernel/git/torvalds/linux.git/tree/arch/Kconfig>` + +分配方法 +-------- + +当一个新的内核线程被创建时,线程堆栈是由页级分配器分配的实际连续的内存页组成。这virtually
实际连续?
虚拟连续?
OK!
Quoted 10 lines
Quoted 10 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +9
-0+些页面被映射到有PAGE_KERNEL保护的连续的内核虚拟空间。 + +alloc_thread_stack_node()调用__vmalloc_node_range()来分配带有PAGE_KERNEL +保护的栈。 + +- 分配的堆栈被缓存起来,以后会被新的线程重用,所以在分配/释放堆栈给任务时,要手动 + 进行memcg核算。因此,__vmalloc_node_range被调用时没有__GFP_ACCOUNT。 +- vm_struct被缓存起来,以便能够找到在中断上下文中启动的空闲线程。 free_thread_stack() + 可以在中断上下文中调用。
Quoted 8 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst line 95
Quoted 6 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +6
-0+- 在arm64上,所有VMAP的堆栈都需要有相同的对齐方式,以确保VMAP的堆栈溢出检测正常 + 工作。架构特定的vmap堆栈分配器照顾到了这个细节。 +- 这并不涉及中断堆栈--参考原始补丁 + +线程栈分配是由clone()、fork()、vfork()、kernel_thread()通过kernel_clone() +启动的。留下一些提示,以便搜索代码库,了解线程栈何时以及如何分配。留点提示在这
OK!
Quoted 19 lines
Quoted 19 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +18
-0+ +大量的代码是在: +`kernel/fork.c <https://git.kernel.org/pub/scm/linux/kernel/git/torvalds/linux.git/tree/kernel/fork.c>`. + +task_struct中的stack_vm_area指针可以跟踪虚拟分配的堆栈,一个非空的stack_vm_area +指针可以表明虚拟映射的内核堆栈已经启用。 + +:: + + struct vm_struct *stack_vm_area; + +堆栈溢出处理 +------------ + +前守护页和后守护页有助于检测堆栈溢出。当堆栈溢出到守护页时,处理程序必须小心不要再 +次溢出堆栈。当处理程序被调用时,很可能只留下很少的堆栈空间。 + +在x86上,这是通过处理表明内核堆栈溢出的双异常堆栈的缺页异常来实现的。
Quoted 8 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst line 119
Quoted 6 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +6
-0+ +用守护页测试VMAP分配 +-------------------- + +我们如何确保VMAP_STACK在分配时确实有前守护页和后守护页的保护?下面的 lkdtm 测试 +可以帮助检测任何退步。退步 -> 回归/回归缺陷
OK!
Thank you for your review!
Thanks,
Yanteng
Quoted 22 lines
Quoted 16 lines
Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst new file +14
-1+ +:: + + void lkdtm_STACK_GUARD_PAGE_LEADING() + void lkdtm_STACK_GUARD_PAGE_TRAILING() + +结论 +---- + +- vmalloced堆栈的percpu缓存似乎比高阶堆栈分配要快一些,至少在缓存命中时是这样。 +- THREAD_INFO_IN_TASK完全摆脱了arch-specific thread_info,并简单地将 + thread_info(仅包含标志)和'int cpu'嵌入task_struct中。 +- 一旦任务死亡,线程栈就可以被释放(无需等待RCU),然后,如果使用vmapped栈,就 + 可以将整个栈缓存起来,以便在同一cpu上重复使用。 --Quoted 1 line
2.27.0
Thanks!
Wu