AIForce/petals @ prompt-inference

justheuristic d271b75dd4 Let users specify sequence length instead of assuming 2048 (#52)		3 年之前
..
__init__.py	1c49bcb741 basic backend	3 年之前
backend.py	d271b75dd4 Let users specify sequence length instead of assuming 2048 (#52)	3 年之前
block_selection.py	e2711a033b Add automated tests (#23)	3 年之前
cache.py	6e3db6bed6 black-isort	3 年之前
handler.py	d271b75dd4 Let users specify sequence length instead of assuming 2048 (#52)	3 年之前
server.py	d271b75dd4 Let users specify sequence length instead of assuming 2048 (#52)	3 年之前
throughput.py	e2711a033b Add automated tests (#23)	3 年之前