 justheuristic
|
f482a98e3a
fix imports
|
vor 3 Jahren |
|
justheuristic
|
3513d9ad23
renames
|
vor 3 Jahren |
 Aleksandr Borzunov
|
47ffdb3c9f
renames
|
vor 3 Jahren |
|
justheuristic
|
0dbc2ac838
Update tests/test_block_exact_match.py
|
vor 3 Jahren |
|
justheuristic
|
228eee6fcd
Update src/client/remote_sequential.py
|
vor 3 Jahren |
|
justheuristic
|
ae971adf14
Update src/client/remote_sequential.py
|
vor 3 Jahren |
|
justheuristic
|
052116adb6
Update src/client/remote_sequential.py
|
vor 3 Jahren |
 Pavel Samygin
|
81df31ef27
Merge branch 'main' into remove-remote-block
|
vor 3 Jahren |
 Pavel Samygin
|
a0e3c8943b
fix chained calls
|
vor 3 Jahren |
|
Pavel Samygin
|
02161c848f
fix missprint
|
vor 3 Jahren |
|
Pavel Samygin
|
0c0d9119f4
delete info lazy init in tests
|
vor 3 Jahren |
|
Pavel Samygin
|
c7e3566803
improve type traits
|
vor 3 Jahren |
|
Pavel Samygin
|
378dc79d9f
fix readme about tests
|
vor 3 Jahren |
|
Pavel Samygin
|
3cf325004d
reimplement get_remote_module
|
vor 3 Jahren |
 Artem Chumachenko
|
77220c718c
Add shallow prefix-tuned inference (#55)
|
vor 3 Jahren |
|
Pavel Samygin
|
5149f47ca7
remove transformer block, implement as sequence size 1
|
vor 3 Jahren |
|
justheuristic
|
d271b75dd4
Let users specify sequence length instead of assuming 2048 (#52)
|
vor 3 Jahren |
 Dmitry Baranchuk
|
948877149c
Fix recovering for sequential_backward (#50)
|
vor 3 Jahren |
|
Dmitry Baranchuk
|
24ba3433e4
[Fix] make distributed seq cls to not create the full bloom model (#49)
|
vor 3 Jahren |
|
justheuristic
|
f12d0deee9
[quickfix 1/n] remove expensive assertions in inference code (#48)
|
vor 3 Jahren |
|
Dmitry Baranchuk
|
0fd2caa4be
Convert actual model weights (#46)
|
vor 3 Jahren |
|
justheuristic
|
a2634001e9
Reduce vocabulary size in test model, fix bug in routing when overlapped (#45)
|
vor 3 Jahren |
|
Dmitry Baranchuk
|
5745882c67
fix rpc_forward_stream
|
vor 3 Jahren |
|
Dmitry Baranchuk
|
6095f58681
Deep distributed prompt tuning (#42)
|
vor 3 Jahren |
|
justheuristic
|
9460220a10
make pytest outputs more verbose (#44)
|
vor 3 Jahren |
|
Dmitry Baranchuk
|
c4aa1f49df
Rename 350m -> 560m (#43)
|
vor 3 Jahren |
|
Dmitry Baranchuk
|
11a424837f
integrate mixed-8bit model (#39)
|
vor 3 Jahren |
 Alexander Borzunov
|
7d39d46966
Use "PETALS" as the readme title (#40)
|
vor 3 Jahren |
|
Dmitry Baranchuk
|
04a2b6f5e3
Support various backend dtypes & async serialization (#38)
|
vor 3 Jahren |
|
Artem Chumachenko
|
d989b94614
Pack of Inference Changes (#37)
|
vor 3 Jahren |
