runtimeapi专题

tensorRT---认识cuda RuntimeAPI(memory、Pinned Memory)

1. 对于 runtimeAPI ,与 driver 最大区别是 懒加载 2. 即,第一个 runtime API 调用时,会进行 cuInit 初始化 ,避免驱动 api 的初始化窘境 3. 即,第一个需要 context 的 API 调用时,会进行 context 关联并创建 context 和设置当前 context , 调用 cuDevicePrimaryCtxReta