瀏覽代碼

black-isort

justheuristic 3 年之前
父節點
當前提交
0cfda12935
共有 1 個文件被更改,包括 1 次插入1 次删除
  1. 1 1
      src/server/handler.py

+ 1 - 1
src/server/handler.py

@@ -268,7 +268,7 @@ async def _rpc_backward(
             inputs[:, :pre_seq_len] += prompt
         (inputs,) = await backend.forward_pool.submit_task(inputs)
         assert isinstance(inputs, torch.Tensor)
-        inter_inputs.append(inputs.clone())  #TODO optimize: reduce the number of copies
+        inter_inputs.append(inputs.clone())  # TODO optimize: reduce the number of copies
 
     grad_prompts = []
     # Run a chain of requested backends