Halaman utama Jelajahi Bantuan
Daftar Masuk
AIForce
/
petals
cermin dari https://github.com/bigscience-workshop/petals.git
5
0
Fork 0
Berkas Masalah 0 Wiki
Cabang: 8bit_model_inference
Ranting Tag
petals
/
cli
dbaranchuk cf86dcc457 update scripts 3 tahun lalu
..
__init__.py 05faa0b3c8 add quantization script for cpu 3 tahun lalu
config.json a798ea04a6 add minimalistic benchmarks 3 tahun lalu
convert_model.py e2711a033b Add automated tests (#23) 3 tahun lalu
demo_deploy_server.sh 564f6edb07 set throughput=1.0 to fix zero throughput problem 3 tahun lalu
deploy_server.sh cf86dcc457 update scripts 3 tahun lalu
inference_one_block.py 4695071ad2 WIP: make DistributedBloom compliant with HF interface 3 tahun lalu
local_server_config_example.cfg f60a7dd183 deploy swarm on local & remote machines 3 tahun lalu
remote_server_config_example.cfg f60a7dd183 deploy swarm on local & remote machines 3 tahun lalu
run_local_servers.sh cf86dcc457 update scripts 3 tahun lalu
run_remote_servers.sh 6573076883 Sequential and parallel forward / backward (#36) 3 tahun lalu
run_server.py cf86dcc457 update scripts 3 tahun lalu
speed_test.py e2711a033b Add automated tests (#23) 3 tahun lalu