소스 검색

Call block.load_state_dict only once (#124)

Max Ryabinin 2 년 전
부모
커밋
055f85b83e
1개의 변경된 파일0개의 추가작업 그리고 1개의 파일을 삭제
  1. 0 1
      src/petals/bloom/from_pretrained.py

+ 0 - 1
src/petals/bloom/from_pretrained.py

@@ -43,7 +43,6 @@ def load_pretrained_block(
     state_dict = _load_state_dict(
         converted_model_name_or_path, block_index, use_auth_token=use_auth_token, cache_dir=cache_dir
     )
-    block.load_state_dict(state_dict)
 
     if torch_dtype == "auto":
         with torch.no_grad():