AIForce/petals

8bit-model Päivitetty 3 vuotta sitten dbaranchuk

8bit_backward Päivitetty 3 vuotta sitten dbaranchuk

8bit_blocks Päivitetty 3 vuotta sitten Tim Dettmers

8bit_model_inference Päivitetty 3 vuotta sitten dbaranchuk

CI Päivitetty 3 vuotta sitten justheuristic

add-sst2-example Päivitetty 2 vuotta sitten Artem Chumachenko

amd-gpus Päivitetty 2 vuotta sitten GitHub

beamsearch Päivitetty 2 vuotta sitten Artem Chumachenko

beat-docker-into-submission Päivitetty 2 vuotta sitten GitHub

bnb-0-41-1 Päivitetty 2 vuotta sitten GitHub

bootstrap-peers Päivitetty 2 vuotta sitten Aleksandr Borzunov

borzunov-patch-1 Päivitetty 2 vuotta sitten GitHub

borzunov-patch-2 Päivitetty 2 vuotta sitten GitHub

borzunov-patch-3 Päivitetty 1 vuosi sitten GitHub

bump Päivitetty 1 vuosi sitten GitHub

cache Päivitetty 2 vuotta sitten GitHub

client Päivitetty 3 vuotta sitten justheuristic

client-attempt2 Päivitetty 3 vuotta sitten justheuristic

client-convenience Päivitetty 2 vuotta sitten Aleksandr Borzunov

dbaranchuk-patch-1 Päivitetty 3 vuotta sitten GitHub

debug-leak Päivitetty 2 vuotta sitten Your Name

declare_adapters Päivitetty 2 vuotta sitten Your Name

deep-prompt-tuning Päivitetty 3 vuotta sitten dbaranchuk

deep_prompt_inference Päivitetty 2 vuotta sitten justheuristic

demo-1 Päivitetty 3 vuotta sitten justheuristic

diff Päivitetty 3 vuotta sitten justheuristic

diff-compression Päivitetty 2 vuotta sitten justheuristic

distributed-deep-ptune Päivitetty 3 vuotta sitten justheuristic

download_8bit_weights Päivitetty 2 vuotta sitten Max Ryabinin

efficient-forward-backward Päivitetty 3 vuotta sitten dbaranchuk

empty-weights Päivitetty 2 vuotta sitten Aleksandr Borzunov

enable-rebalancing Päivitetty 2 vuotta sitten Aleksandr Borzunov

examples_fix_hivemind Päivitetty 2 vuotta sitten GitHub

extract-module-container Päivitetty 2 vuotta sitten Aleksandr Borzunov

facelift Päivitetty 3 vuotta sitten justheuristic

fault-tolerant-inference Päivitetty 2 vuotta sitten Aleksandr Borzunov

fix-auth-token Päivitetty 3 vuotta sitten justheuristic

fix-branch-name Päivitetty 3 vuotta sitten GitHub

fix-cache Päivitetty 3 vuotta sitten justheuristic

fix-ci Päivitetty 3 vuotta sitten justheuristic

fix-convert-8bit Päivitetty 3 vuotta sitten dbaranchuk

fix-distr-seq-cls Päivitetty 3 vuotta sitten dbaranchuk

fix-docker Päivitetty 1 vuosi sitten GitHub

fix-inference-retry Päivitetty 1 vuosi sitten Aleksandr Borzunov

fix-joining-announce Päivitetty 2 vuotta sitten Aleksandr Borzunov

fix-master-ci Päivitetty 3 vuotta sitten GitHub

fix-nf4-and-dtypes Päivitetty 2 vuotta sitten Aleksandr Borzunov

fix-pb2 Päivitetty 2 vuotta sitten justheuristic

fix-protobuf Päivitetty 2 vuotta sitten Aleksandr Borzunov

fix-ptune Päivitetty 2 vuotta sitten Aleksandr Borzunov

fix-readme Päivitetty 2 vuotta sitten justheuristic

fix-rebalancing-issues Päivitetty 2 vuotta sitten Aleksandr Borzunov

fix-requirements Päivitetty 2 vuotta sitten Aleksandr Borzunov

fix-seq-backward-recovery Päivitetty 3 vuotta sitten GitHub

fix-too-many-open-files Päivitetty 2 vuotta sitten Aleksandr Borzunov

fix3 Päivitetty 2 vuotta sitten justheuristic

forward-backward-timeouts Päivitetty 2 vuotta sitten Aleksandr Borzunov

forward_backward Päivitetty 1 vuosi sitten Denis Mazur

forward_kwargs Päivitetty 1 vuosi sitten Your Name

friendly-timeout-errors Päivitetty 2 vuotta sitten Aleksandr Borzunov

generation Päivitetty 3 vuotta sitten Artem Chumachenko

generation-inference Päivitetty 2 vuotta sitten Artem Chumachenko

get_sequence Päivitetty 3 vuotta sitten justheuristic

hf_quantization_integration Päivitetty 1 vuosi sitten vahe1994

hivemind-1.1.4 Päivitetty 2 vuotta sitten Aleksandr Borzunov

hivemind-dht-fork-process Päivitetty 2 vuotta sitten GitHub

hotfix_bnb Päivitetty 2 vuotta sitten justheuristic

inference_chain Päivitetty 3 vuotta sitten justheuristic

instruction-readability-style Päivitetty 2 vuotta sitten GitHub

investigate-segfault Päivitetty 2 vuotta sitten justheuristic

justheuristic-patch-1 Päivitetty 3 vuotta sitten GitHub

justheuristic-patch-2 Päivitetty 3 vuotta sitten GitHub

justheuristic-patch-3 Päivitetty 2 vuotta sitten GitHub

justheuristic-patch-4 Päivitetty 2 vuotta sitten GitHub

justheuristic-patch-5 Päivitetty 2 vuotta sitten GitHub

lm_head Päivitetty 3 vuotta sitten GitHub

load-balancing Päivitetty 3 vuotta sitten Aleksandr Borzunov

lora_from_hub Päivitetty 1 vuosi sitten Artem Chumachenko

lru Päivitetty 2 vuotta sitten Your Name

main_fix Päivitetty 3 vuotta sitten justheuristic

measure-throughput Päivitetty 3 vuotta sitten Aleksandr Borzunov

measurements Päivitetty 2 vuotta sitten Your Name

memory_savings Päivitetty 3 vuotta sitten justheuristic

mockup Päivitetty 3 vuotta sitten justheuristic

multiple-experts Päivitetty 3 vuotta sitten justheuristic

no-cpufeature Päivitetty 2 vuotta sitten Aleksandr Borzunov

no_qkv_merge Päivitetty 1 vuosi sitten Max Ryabinin

optimize_seq Päivitetty 3 vuotta sitten justheuristic

partial_rollback Päivitetty 1 vuosi sitten Your Name

payload-size Päivitetty 1 vuosi sitten GitHub

petals-readme-title Päivitetty 3 vuotta sitten GitHub

pip-installable Päivitetty 2 vuotta sitten Aleksandr Borzunov

pip-installable-v2 Päivitetty 2 vuotta sitten Aleksandr Borzunov

priority-tasks Päivitetty 2 vuotta sitten justheuristic

processing_attention Päivitetty 2 vuotta sitten Artem Chumachenko

prompt-inference Päivitetty 3 vuotta sitten Artem Chumachenko

prompt-tuning Päivitetty 3 vuotta sitten GitHub

ptune-example-personachat Päivitetty 2 vuotta sitten artek0chumak

ptune-wip Päivitetty 3 vuotta sitten justheuristic

pytest-verbose Päivitetty 3 vuotta sitten GitHub

qkv_merge Päivitetty 1 vuosi sitten Max Ryabinin

readme-clarifications Päivitetty 2 vuotta sitten justheuristic

readme-release Päivitetty 3 vuotta sitten GitHub

remove-remote-block Päivitetty 3 vuotta sitten justheuristic

rename-test-model Päivitetty 3 vuotta sitten GitHub

repetition-penalty Päivitetty 2 vuotta sitten Aleksandr Borzunov

rpc Päivitetty 3 vuotta sitten Dmitry Baranchuk

rtfd Päivitetty 2 vuotta sitten GitHub

sequence Päivitetty 3 vuotta sitten justheuristic

server-dtypes Päivitetty 2 vuotta sitten justheuristic

server-increase-startup-timeout Päivitetty 2 vuotta sitten GitHub

server-logging Päivitetty 2 vuotta sitten Aleksandr Borzunov

server-timeouts Päivitetty 2 vuotta sitten Aleksandr Borzunov

speculative_inference Päivitetty 11 kuukautta sitten Your Name

speculative_test Päivitetty 1 vuosi sitten xtinkt

standardize Päivitetty 3 vuotta sitten justheuristic

step_metadata Päivitetty 1 vuosi sitten Your Name

support-backend-dtypes Päivitetty 3 vuotta sitten dbaranchuk

test-push Päivitetty 3 vuotta sitten justheuristic

test-with-jf160m Päivitetty 1 vuosi sitten Your Name

test_branch Päivitetty 1 vuosi sitten xtinkt

test_main Päivitetty 1 vuosi sitten Your Name

test_opt_serving Päivitetty 2 vuotta sitten Max Ryabinin

test_set_position Päivitetty 1 vuosi sitten GitHub

upd-deps Päivitetty 2 vuotta sitten justheuristic

update-bullet-points Päivitetty 3 vuotta sitten GitHub

update-hivemind Päivitetty 2 vuotta sitten Aleksandr Borzunov

update-model Päivitetty 3 vuotta sitten Dmitry Baranchuk

update-readme-disclaimers-faq Päivitetty 3 vuotta sitten GitHub

update-readme-pics Päivitetty 3 vuotta sitten GitHub

update_example_1 Päivitetty 2 vuotta sitten Artem Chumachenko

vectorized_beam_search Päivitetty 2 vuotta sitten Artem Chumachenko

versions Päivitetty 2 vuotta sitten GitHub

warn-about-6b-instructions Päivitetty 3 vuotta sitten GitHub

wip_triton Päivitetty 1 vuosi sitten Max Ryabinin

yozh-dev-branch Päivitetty 2 vuotta sitten Just Heuristic