AIForce/petals @ multiple-experts

Mirror von https://github.com/bigscience-workshop/petals.git

justheuristic 83cd4412a1 black-isort		vor 3 Jahren
..
__init__.py	05faa0b3c8 add quantization script for cpu	vor 3 Jahren
config.json	a798ea04a6 add minimalistic benchmarks	vor 3 Jahren
convert_model.py	83cd4412a1 black-isort	vor 3 Jahren
inference_one_block.py	e8241d2915 black everything	vor 3 Jahren
run_server.py	1ab5fb1630 fetch a specific bloom block without downloading the entire model	vor 3 Jahren