 Dmitry Baranchuk
|
f60a7dd183
deploy swarm on local & remote machines
|
vor 3 Jahren |
 Dmitry Baranchuk
|
775f5b25cb
fix use_auth_token
|
vor 3 Jahren |
 justheuristic
|
6e3db6bed6
black-isort
|
vor 3 Jahren |
|
justheuristic
|
894cd5d586
Merge branch 'fix-auth-token' into main
|
vor 3 Jahren |
 Dmitry Baranchuk
|
4d27080ccc
add scripts to deploy a swarm
|
vor 3 Jahren |
|
justheuristic
|
f9b6b67b09
[typo] fix typo where run_server with blocks with index 0 would cause server.create to NOT start (start=0)
|
vor 3 Jahren |
|
justheuristic
|
d5c410bb1f
fix auth token
|
vor 3 Jahren |
|
justheuristic
|
ca3c08acc1
Update README.md
|
vor 3 Jahren |
|
justheuristic
|
34b8b86673
disclaimer: this part is a work-in-progress
|
vor 3 Jahren |
|
justheuristic
|
1cdf8a77fb
basic chained inference (multiple blocks per one RPC call)
|
vor 3 Jahren |
|
justheuristic
|
ce9556dcb0
deprecation warning
|
vor 3 Jahren |
|
justheuristic
|
d03b38b9eb
black-isort
|
vor 3 Jahren |
|
justheuristic
|
01b9bced78
black-isort
|
vor 3 Jahren |
|
justheuristic
|
0e7afea026
Merge remote-tracking branch 'origin/main' into main
|
vor 3 Jahren |
|
justheuristic
|
2eb47cbedd
support hosting multiple instances of the same block
|
vor 3 Jahren |
|
justheuristic
|
14b6d04b0f
install hivemind from pip
|
vor 3 Jahren |
|
justheuristic
|
f3722d52cf
Update README.md
|
vor 3 Jahren |
|
justheuristic
|
aaaf0c2dad
better testing readme
|
vor 3 Jahren |
|
justheuristic
|
83cd4412a1
black-isort
|
vor 3 Jahren |
|
justheuristic
|
2bf83b42e5
add testing guide
|
vor 3 Jahren |
|
justheuristic
|
b843328b65
mask
|
vor 3 Jahren |
|
justheuristic
|
5d8f7be546
causal mask by default
|
vor 3 Jahren |
|
justheuristic
|
1ab5fb1630
fetch a specific bloom block without downloading the entire model
|
vor 3 Jahren |
|
justheuristic
|
a6fca51212
fetch a specific bloom block without downloading the entire model
|
vor 3 Jahren |
|
justheuristic
|
6047a2ffe0
push config and tokenizer separately
|
vor 3 Jahren |
|
justheuristic
|
2d55e6e4fe
instructions to test distributed inference
|
vor 3 Jahren |
|
justheuristic
|
9be7c81b78
instructions to test distributed inference
|
vor 3 Jahren |
|
justheuristic
|
cc9a76625d
warn about long runtime
|
vor 3 Jahren |
|
justheuristic
|
82214699f2
notes on hosting servers
|
vor 3 Jahren |
|
justheuristic
|
b6f3bbfd97
black
|
vor 3 Jahren |
