Spinel 无 GVL 真并行线程模型M:N 调度、工作窃取与停止世界 GC 如何协同【免费下载链接】spinelRuby AOT compiler项目地址: https://gitcode.com/gh_mirrors/spin/spinelSpinel 是一款 Ruby AOT 编译器能把 Ruby 源码编译为独立原生可执行文件。它的最大亮点之一是不依赖 GVL全局虚拟机锁的真并行线程模型Ruby 线程被调度到 N 个 OS 工作线程上同时运行配合 M:N 调度器、工作窃取与停止世界STW垃圾回收CPU 密集型线程可以在多个核心上真正并行推进。这篇指南带你读懂这套模型的三大支柱是如何协同工作的。 为什么 Spinel 的线程是真并行CRuby 的线程受 GVL 约束同一时刻只有一个线程执行 Ruby 代码而 Spinel 采用的是JRuby / TruffleRuby 式的并行模型两个线程可以同时跑在两个核心上互不阻塞没有隐式的每对象锁共享数据不加同步就是数据竞争用户可见的线程契约写在 docs/thread.md实现细节M:N 调度器、运行队列、抢占监控则在 docs/internals/thread-mn-design.md。⚠️ 重要心智转换看起来不并发不是 Spinel 的特性而是需要你用Mutex主动保证的正确性。️ M:N 调度绿色线程跑在 N 个 OS 工作线程上Spinel 中每个 RubyThread是一个绿色线程green thread底层复用与Fiber完全相同的协程机制——代码生成阶段线程块就是按Fiber.new的方式构建的线程 协程 一条调度记录。调度体系的关键设计权威实现见 lib/sp_sched.h、lib/sp_sched.c组件作用N 个 OS workers数量 min(在线核心数, SPINEL_WORKERS)worker 0 即主线程全局运行队列g_grq新创建、被唤醒的线程先落到这里每 worker 本地队列g_lrq保持就地重跑的局部性工作窃取worker 取任务的顺序本地 → 全局 → 从更忙的 worker 偷一个单把互斥锁保护所有队列、存活线程注册表与等待列表避免锁风暴off-cpu 握手off_cpu/wake_pending标志防止唤醒者在线程还没切完栈时就把它投到第二个 worker工作窃取的价值在于没有单一热点队列负载天然被摊平每个 worker 都能持续吃到可运行线程。另外还有一个容易忽略的细节线程被钉在首次运行的 worker 上home_wid字段见 lib/sp_sched.h。因为线程存活的 C 栈帧里缓存了该 worker 的 TLS 地址GC 影子栈、异常栈等换 worker 恢复会污染两边的线程局部数据。⏱️ 监控线程与抢占忙线程不会被饿死一个专职的监控线程sysmon负责三件事计时器sleep、带超时的 I/O 与同步等待统一汇入一个CLOCK_MONOTONIC最小堆到期唤醒时间片抢占监控线程每 5 ms 复查各 worker 当前线程的运片时长超过约 10 ms 时间片就发出抢占请求默认SIGURG可用SPINEL_PREEMPT_SIGNAL覆盖。抢占在安全点轮询处生效——即循环回边处生成if (safepoint_flag) safepoint()——所以这是一个线程死循环也不会饿死兄弟线程调度器感知的 I/O等待 socket、管道、终端读就绪的线程会整体让出 worker由监控线程重建poll()集合fd 就绪或超时先到者唤醒。第 3 点不只是公平性问题GC 要在安全点停止所有 worker而陷在内核系统调用里的 worker 永远到不了安全点——阻塞 I/O 如果不让位会拖住每个线程的下次内存分配。 停止世界 GC并行堆上不加写屏障的正确性保障多个 worker 同时改写堆Spinel 的解法是在安全点上的 stop-the-world收集器请求 STW 后设置标志位worker 在循环回边轮询到即停车停在屏障上的 worker 会先把正在途的根未决异常对象、proc 返回的 home 值发布到影子栈收集器再标记所有 worker 的根纤维与全部存活绿色线程空闲等待的 worker 属于世界之外它的根在变闲时已发布收集按驻车计数、不去唤醒它单线程程序完全不受影响——标志位永不为真轮询只是一次预测不取的加载且调度器代码根本不会被链接进归档。真正的暂停只发生在mark标记阶段而且 mark 的排空由收集器加最多 4 个驻车 worker 分担SPINEL_GC_PAR_MARK。sweep清扫不停世界标记完成后关闭分配纪元即恢复程序各 worker 在跑用户代码前清扫自己的 chunk大对象列表交给旁路的清扫线程池。官方实测在 32 核上跑 Rails 形态的服务去掉 STW 清扫后吞吐提升 20%、p99 延迟降低 20–50%暂停压到 1 ms 以内。还有一个针对多 worker 的巧妙补偿收集预算随 worker 数缩放。八个 worker 在八倍堆大小时才收集用几 MB 滞留垃圾换掉了多 worker 罚税——某分配密集型基准上8 worker 从比 1 worker 慢 1.7 倍回到大致持平。 同步原语真正的阻塞不是忙等Mutex/Queue/SizedQueue/ConditionVariable都是真正阻塞原语调用者绿色线程被挂起、把 worker 让给别的线程等待者挂在侵入式等待列表上。Mutex不可重入#unlock直接交接给下一个等待者Queue是生产者/消费者交接的核心空队列上pop挂起、满SizedQueue上push(timeout:)挂起且Queue本身线程安全可替代共享容器 锁ConditionVariable#wait按放锁 → 挂起 → 唤醒后重新拿锁路径工作支持超时。⚖️ 用户须知数据竞争是可观察的这是真并行模型的直接后果也是与 CRuby 最大的行为差异场景在 Spinel 中的表现两线程无锁写同一Array/Hash数据竞争可被观察容器扩容重分配与元素写入竞争结果可能是丢元素、堆损坏中止甚至 SIGSEGV两线程写不同的实例变量安全——ivar 集合在编译期固定互不丢失竞争读写一个 Integer/String 等字宽 ivar读到的必是某次写入的完整值不会撕裂但可能读到旧值竞争读写Range/Time等多字 ivar可能撕裂first来自一次赋值、last来自另一次一句话原则跨线程的正确性是程序的责任用Mutex、Queue或ConditionVariable显式同步。相关约束汇总见 docs/limitations.md。️ 关键环境变量速查变量作用SPINEL_WORKERS控制 OS worker 数默认自动探测在线核心设为1回到单 worker 协作模式SPINEL_PREEMPT_SIGNAL抢占信号默认SIGURGSPINEL_SCHED_STATS1/2退出时打印调度器统计2额外每 5 秒输出等待直方图与线程在 worker 间的分布SPINEL_GC_THRESHOLD_KB每 worker 的收集预算调大可减少 STW 次数、以内存换停顿默认 256SPINEL_GC_MINOR0关闭分代对象标记每次收集标记整个存活堆线程相关的行为测试位于 test/threads/ 目录如原子打印、Fiber 栈溢出、FFI 阻塞下的 GC 交互等可配合阅读。 小结Spinel 的线程模型是一套三件套的精密配合M:N 调度器把海量绿色线程摊到少数 OS worker 上并用工作窃取保持喂饱监控线程用时间片抢占和调度感知 I/O 保证公平与及时STW GC则用安全点停车 并行标记 旁路清扫在不引入每对象写屏障的前提下保证并行堆的正确性。结果就是官方给出的两个数字CPU 密集型工作 8 worker 实测8.25 倍近线性扩展分配密集型工作通过预算缩放基本追平单 worker。对于追求高并发、想摆脱 GVL 束缚的 Ruby 服务来说这正是 Spinel 值得关注的核心竞争力。【免费下载链接】spinelRuby AOT compiler项目地址: https://gitcode.com/gh_mirrors/spin/spinel创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 Spinel 无 GVL 真并行线程模型M:N 调度、工作窃取与停止世界 GC 如何协同【免费下载链接】spinelRuby AOT compiler项目地址: https://gitcode.com/gh_mirrors/spin/spinelSpinel 是一款 Ruby AOT 编译器能把 Ruby 源码编译为独立原生可执行文件。它的最大亮点之一是不依赖 GVL全局虚拟机锁的真并行线程模型Ruby 线程被调度到 N 个 OS 工作线程上同时运行配合 M:N 调度器、工作窃取与停止世界STW垃圾回收CPU 密集型线程可以在多个核心上真正并行推进。这篇指南带你读懂这套模型的三大支柱是如何协同工作的。 为什么 Spinel 的线程是真并行CRuby 的线程受 GVL 约束同一时刻只有一个线程执行 Ruby 代码而 Spinel 采用的是JRuby / TruffleRuby 式的并行模型两个线程可以同时跑在两个核心上互不阻塞没有隐式的每对象锁共享数据不加同步就是数据竞争用户可见的线程契约写在 docs/thread.md实现细节M:N 调度器、运行队列、抢占监控则在 docs/internals/thread-mn-design.md。⚠️ 重要心智转换看起来不并发不是 Spinel 的特性而是需要你用Mutex主动保证的正确性。️ M:N 调度绿色线程跑在 N 个 OS 工作线程上Spinel 中每个 RubyThread是一个绿色线程green thread底层复用与Fiber完全相同的协程机制——代码生成阶段线程块就是按Fiber.new的方式构建的线程 协程 一条调度记录。调度体系的关键设计权威实现见 lib/sp_sched.h、lib/sp_sched.c组件作用N 个 OS workers数量 min(在线核心数, SPINEL_WORKERS)worker 0 即主线程全局运行队列g_grq新创建、被唤醒的线程先落到这里每 worker 本地队列g_lrq保持就地重跑的局部性工作窃取worker 取任务的顺序本地 → 全局 → 从更忙的 worker 偷一个单把互斥锁保护所有队列、存活线程注册表与等待列表避免锁风暴off-cpu 握手off_cpu/wake_pending标志防止唤醒者在线程还没切完栈时就把它投到第二个 worker工作窃取的价值在于没有单一热点队列负载天然被摊平每个 worker 都能持续吃到可运行线程。另外还有一个容易忽略的细节线程被钉在首次运行的 worker 上home_wid字段见 lib/sp_sched.h。因为线程存活的 C 栈帧里缓存了该 worker 的 TLS 地址GC 影子栈、异常栈等换 worker 恢复会污染两边的线程局部数据。⏱️ 监控线程与抢占忙线程不会被饿死一个专职的监控线程sysmon负责三件事计时器sleep、带超时的 I/O 与同步等待统一汇入一个CLOCK_MONOTONIC最小堆到期唤醒时间片抢占监控线程每 5 ms 复查各 worker 当前线程的运片时长超过约 10 ms 时间片就发出抢占请求默认SIGURG可用SPINEL_PREEMPT_SIGNAL覆盖。抢占在安全点轮询处生效——即循环回边处生成if (safepoint_flag) safepoint()——所以这是一个线程死循环也不会饿死兄弟线程调度器感知的 I/O等待 socket、管道、终端读就绪的线程会整体让出 worker由监控线程重建poll()集合fd 就绪或超时先到者唤醒。第 3 点不只是公平性问题GC 要在安全点停止所有 worker而陷在内核系统调用里的 worker 永远到不了安全点——阻塞 I/O 如果不让位会拖住每个线程的下次内存分配。 停止世界 GC并行堆上不加写屏障的正确性保障多个 worker 同时改写堆Spinel 的解法是在安全点上的 stop-the-world收集器请求 STW 后设置标志位worker 在循环回边轮询到即停车停在屏障上的 worker 会先把正在途的根未决异常对象、proc 返回的 home 值发布到影子栈收集器再标记所有 worker 的根纤维与全部存活绿色线程空闲等待的 worker 属于世界之外它的根在变闲时已发布收集按驻车计数、不去唤醒它单线程程序完全不受影响——标志位永不为真轮询只是一次预测不取的加载且调度器代码根本不会被链接进归档。真正的暂停只发生在mark标记阶段而且 mark 的排空由收集器加最多 4 个驻车 worker 分担SPINEL_GC_PAR_MARK。sweep清扫不停世界标记完成后关闭分配纪元即恢复程序各 worker 在跑用户代码前清扫自己的 chunk大对象列表交给旁路的清扫线程池。官方实测在 32 核上跑 Rails 形态的服务去掉 STW 清扫后吞吐提升 20%、p99 延迟降低 20–50%暂停压到 1 ms 以内。还有一个针对多 worker 的巧妙补偿收集预算随 worker 数缩放。八个 worker 在八倍堆大小时才收集用几 MB 滞留垃圾换掉了多 worker 罚税——某分配密集型基准上8 worker 从比 1 worker 慢 1.7 倍回到大致持平。 同步原语真正的阻塞不是忙等Mutex/Queue/SizedQueue/ConditionVariable都是真正阻塞原语调用者绿色线程被挂起、把 worker 让给别的线程等待者挂在侵入式等待列表上。Mutex不可重入#unlock直接交接给下一个等待者Queue是生产者/消费者交接的核心空队列上pop挂起、满SizedQueue上push(timeout:)挂起且Queue本身线程安全可替代共享容器 锁ConditionVariable#wait按放锁 → 挂起 → 唤醒后重新拿锁路径工作支持超时。⚖️ 用户须知数据竞争是可观察的这是真并行模型的直接后果也是与 CRuby 最大的行为差异场景在 Spinel 中的表现两线程无锁写同一Array/Hash数据竞争可被观察容器扩容重分配与元素写入竞争结果可能是丢元素、堆损坏中止甚至 SIGSEGV两线程写不同的实例变量安全——ivar 集合在编译期固定互不丢失竞争读写一个 Integer/String 等字宽 ivar读到的必是某次写入的完整值不会撕裂但可能读到旧值竞争读写Range/Time等多字 ivar可能撕裂first来自一次赋值、last来自另一次一句话原则跨线程的正确性是程序的责任用Mutex、Queue或ConditionVariable显式同步。相关约束汇总见 docs/limitations.md。️ 关键环境变量速查变量作用SPINEL_WORKERS控制 OS worker 数默认自动探测在线核心设为1回到单 worker 协作模式SPINEL_PREEMPT_SIGNAL抢占信号默认SIGURGSPINEL_SCHED_STATS1/2退出时打印调度器统计2额外每 5 秒输出等待直方图与线程在 worker 间的分布SPINEL_GC_THRESHOLD_KB每 worker 的收集预算调大可减少 STW 次数、以内存换停顿默认 256SPINEL_GC_MINOR0关闭分代对象标记每次收集标记整个存活堆线程相关的行为测试位于 test/threads/ 目录如原子打印、Fiber 栈溢出、FFI 阻塞下的 GC 交互等可配合阅读。 小结Spinel 的线程模型是一套三件套的精密配合M:N 调度器把海量绿色线程摊到少数 OS worker 上并用工作窃取保持喂饱监控线程用时间片抢占和调度感知 I/O 保证公平与及时STW GC则用安全点停车 并行标记 旁路清扫在不引入每对象写屏障的前提下保证并行堆的正确性。结果就是官方给出的两个数字CPU 密集型工作 8 worker 实测8.25 倍近线性扩展分配密集型工作通过预算缩放基本追平单 worker。对于追求高并发、想摆脱 GVL 束缚的 Ruby 服务来说这正是 Spinel 值得关注的核心竞争力。【免费下载链接】spinelRuby AOT compiler项目地址: https://gitcode.com/gh_mirrors/spin/spinel创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考