소스 검색

black-isort

justheuristic 3 년 전
부모
커밋
0cfda12935
1개의 변경된 파일1개의 추가작업 그리고 1개의 파일을 삭제
  1. 1 1
      src/server/handler.py

+ 1 - 1
src/server/handler.py

@@ -268,7 +268,7 @@ async def _rpc_backward(
             inputs[:, :pre_seq_len] += prompt
         (inputs,) = await backend.forward_pool.submit_task(inputs)
         assert isinstance(inputs, torch.Tensor)
-        inter_inputs.append(inputs.clone())  #TODO optimize: reduce the number of copies
+        inter_inputs.append(inputs.clone())  # TODO optimize: reduce the number of copies
 
     grad_prompts = []
     # Run a chain of requested backends