소스 검색

undo scaler changes

justheuristic 3 년 전
부모
커밋
df9d80dcf5
1개의 변경된 파일1개의 추가작업 그리고 1개의 파일을 삭제
  1. 1 1
      hivemind/optim/grad_scaler.py

+ 1 - 1
hivemind/optim/grad_scaler.py

@@ -80,7 +80,7 @@ class GradScaler(TorchGradScaler):
 
     def are_grads_finite(self, optimizer: TorchOptimizer) -> bool:
         assert isinstance(optimizer, (hivemind.Optimizer, hivemind.DecentralizedOptimizerBase))
-        return not sum(v.item() for v in self._check_inf_per_device(optimizer.opt).values())
+        return not sum(v.item() for v in self._check_inf_per_device(optimizer).values())
 
 
 class HivemindGradScaler(GradScaler):