且构网

分享程序员开发的那些事...
且构网 - 分享程序员编程开发的那些事

CUDA是否允许在同一GPU上同时使用多个应用程序?

更新时间:2023-10-16 16:36:04

取决于您的意思是在同一时间时间'。如果您的意思是两个应用程序同时在同一张卡上具有CUDA上下文,那么可以。

Depends what do you mean by 'at the same time'. If you mean 'two applications have CUDA contexts on same card at the same time' then yes.

尽管您可能想使用 MPS 以获得全部好处并减少上下文切换。另请参见这个问题

Though you may want to use MPS to get full benefits and reduce context switching. See also this question.