 Max Ryabinin
|
b48220577e
Add server-side gradient accumulation
|
vor 4 Jahren |
|
Max Ryabinin
|
b26d61b1c4
Add optional offload
|
vor 4 Jahren |
|
Max Ryabinin
|
9b5ee08bd6
Support FP16
|
vor 4 Jahren |
|
Max Ryabinin
|
a3918cd063
Reduce DHTHandler metadata storage time
|
vor 4 Jahren |
|
Max Ryabinin
|
6ca02e21cf
Increase DHTExpiration
|
vor 4 Jahren |
|
Max Ryabinin
|
40662e3800
Increase timeout
|
vor 4 Jahren |
|
Max Ryabinin
|
66e387d23c
Increase timeout
|
vor 4 Jahren |
|
Max Ryabinin
|
d800ff438e
Increase compression
|
vor 4 Jahren |
|
Max Ryabinin
|
7ffab7740c
Initialize scheduler correctly
|
vor 4 Jahren |
|
Max Ryabinin
|
61f20884b9
Attempt training without offload
|
vor 4 Jahren |
|
Max Ryabinin
|
cf108bad0d
Extra debug prints
|
vor 4 Jahren |
|
Max Ryabinin
|
01273b8241
Extra debug prints
|
vor 4 Jahren |
|
Max Ryabinin
|
0ff0c689e8
Remove AMP, update lr
|
vor 4 Jahren |
|
Max Ryabinin
|
04173527c3
hidden_act_gated = True
|
vor 4 Jahren |
|
Max Ryabinin
|
ff826d7667
Extra collaboration prefix logging
|
vor 4 Jahren |
|
Max Ryabinin
|
836192eadc
WIP
|
vor 4 Jahren |
|
Max Ryabinin
|
553ace9353
WIP
|
vor 4 Jahren |
|
Max Ryabinin
|
ede2be17ca
Fix bugs/circular imports, raise timeouts
|
vor 4 Jahren |
|
Max Ryabinin
|
5ae492f076
Post-merge fixes
|
vor 4 Jahren |
 justheuristic
|
032e8d49fa
port to newer version of hivemind
|
vor 4 Jahren |
|
Max Ryabinin
|
05c4355f8a
Add DHT listening options to server
|
vor 4 Jahren |
|
Max Ryabinin
|
5ff2963a75
WIP
|
vor 4 Jahren |
|
Max Ryabinin
|
ed501dd35a
WIP (arguments, LeanAlbert)
|
vor 4 Jahren |
|
Max Ryabinin
|
ff610c9222
Change order of Sphinx extensions
|
vor 4 Jahren |
|
Max Ryabinin
|
5a982ab0c5
Implement server-side averaging
|
vor 4 Jahren |
 Alexander Borzunov
|
fcad8d0d63
Enable log handler in benchmarks and run_server (#380)
|
vor 4 Jahren |
|
Alexander Borzunov
|
b84f62bc08
Make log handlers configurable, shorten entries (#378)
|
vor 4 Jahren |
 Denis Mazur
|
fb3f57b03c
Parametrize max message size for persistent connections (#376)
|
vor 4 Jahren |
|
Alexander Borzunov
|
457e6bc2d3
Implement colored logs (#377)
|
vor 4 Jahren |
|
justheuristic
|
1f54faf82f
Split compression strategies into separate classes (#366)
|
vor 4 Jahren |
