Reference counting

PyTorch Developer Podcast

Вміст надано PyTorch, Edward Yang, and Team PyTorch. Весь вміст подкастів, включаючи епізоди, графіку та описи подкастів, завантажується та надається безпосередньо компанією PyTorch, Edward Yang, and Team PyTorch або його партнером по платформі подкастів. Якщо ви вважаєте, що хтось використовує ваш захищений авторським правом твір без вашого дозволу, ви можете виконати процедуру, описану тут https://uk.player.fm/legal.

3y ago 15:14

MP3•Головна епізоду

Reference counting is a common memory management technique in C++ but PyTorch does its reference counting in a slightly idiosyncratic way using intrusive_ptr. We'll talk about why intrusive_ptr exists, the reason why refcount bumps are slow in C++ (but not in Python), what's up with const Tensor& everywhere, why the const is a lie and how TensorRef lets you create a const Tensor& from a TensorImpl* without needing to bump your reference count.

Further reading.

Why you shouldn't feel bad about passing tensor by reference https://dev-discuss.pytorch.org/t/we-shouldnt-feel-bad-about-passing-tensor-by-reference/85
Const correctness in PyTorch https://github.com/zdevito/ATen/issues/27
TensorRef RFC https://github.com/pytorch/rfcs/pull/16

82 епізодів

#Tech #PyTorch #Edward Yang #Team PyTorch #Deep Learning #Machine Learning