autograd
1、torch.autograd.backward
torch.autograd.backward(tensors,grad_tensors=None,retain_graph=None,create_graph=False)作用:自动求取梯度tensors: 用于求导的张量,如loss, torch.autograd.backward(aa) == a.backward()retain_graph: 保存计算图create_graph: 创建导数计算图,用于高阶求导grad_tensors: 多梯度权重2、torch.autograd.grad
torch.autograd.grad(outputs,inputs,grad_outputs=None,retain_graph=None,create_graph=False)功能: 求取梯度outputs: 用于求导的张量,如lossinputs: 需要梯度的张量create_graph: 创建导数计算图,用于高阶求导retain_graph: 保存计算图grad_outputs: 多梯度权重
总结
- 上一篇: 计算图与动态图
- 下一篇: Graph Attention Netw