vahe1994 преди 1 година
родител
ревизия
154476c100
променени са 1 файла, в които са добавени 1 реда и са изтрити 0 реда
  1. 1 0
      src/petals/server/from_pretrained.py

+ 1 - 0
src/petals/server/from_pretrained.py

@@ -98,6 +98,7 @@ def load_pretrained_block(
             set_module_tensor_to_device(block, param_name, "cpu", value=param, dtype=param.dtype)
 
     logger.info(f"Loaded {model_name} block {block_index}")
+    print(block.self_attn.q_proj.weight)
     return block