.. |
__init__.py
|
1c49bcb741
basic backend
|
há 3 anos atrás |
backend.py
|
65ad7a131e
refactor priority pool, copy-paste runtime from hivemind (but without bugs!)
|
há 3 anos atrás |
block_selection.py
|
e2711a033b
Add automated tests (#23)
|
há 3 anos atrás |
cache.py
|
f3984b192a
Make attention cache wait until memory is freed (#53)
|
há 3 anos atrás |
handler.py
|
f295ec9e84
WIP
|
há 3 anos atrás |
runtime.py
|
65ad7a131e
refactor priority pool, copy-paste runtime from hivemind (but without bugs!)
|
há 3 anos atrás |
server.py
|
d271b75dd4
Let users specify sequence length instead of assuming 2048 (#52)
|
há 3 anos atrás |
task_pool.py
|
65ad7a131e
refactor priority pool, copy-paste runtime from hivemind (but without bugs!)
|
há 3 anos atrás |
task_prioritizer.py
|
b7ed72c4d6
default to fifo
|
há 3 anos atrás |
throughput.py
|
e2711a033b
Add automated tests (#23)
|
há 3 anos atrás |