Vsevolod-pl
fde83bba02
Implemented float16 compression (#106)
|
před 4 roky | |
|---|---|---|
| .circleci | před 4 roky | |
| .github | před 5 roky | |
| docs | před 4 roky | |
| hivemind | před 4 roky | |
| scripts | před 5 roky | |
| tests | před 4 roky | |
| .gitignore | před 5 roky | |
| .readthedocs.yml | před 5 roky | |
| LICENSE | před 5 roky | |
| README.md | před 5 roky | |
| requirements.txt | před 5 roky | |
| setup.py | před 5 roky |
README.md
Hivemind
A library to train large neural networks across the internet. Imagine training one huge transformer on thousands of computers from universities, companies, and volunteers.
Links:
- What is hivemind all about? Here's a 3-minute read or a full paper
- Quickstart tutorial - install hivemind,
set up a server and train experts
- Documentation & guides: learning-at-home.readthedocs.io
- Want to contribute? take a look at the issues or join our chat room
- Developer's guide: best practices, tests and performance benchmarks
- Related projects and acknowledgements