 Alex Cheema
|
aa20562614
shield process_prompt so downloads dont get cancelled when chatgpt api request times out
|
6 luni în urmă |
 Alex Cheema
|
7b2a523fd1
Merge pull request #289 from GaetanLepage/pynvml
|
7 luni în urmă |
|
Alex Cheema
|
db123884e9
Merge pull request #291 from vanakema/main
|
7 luni în urmă |
|
Alex Cheema
|
33c0dd8583
Merge pull request #292 from exo-explore/remove_tailscale_package_dependency
|
7 luni în urmă |
|
Alex Cheema
|
e8a8702377
replace tailscale.devices with good old http, removing the need for tailscale dependency
|
7 luni în urmă |
 Mark Van Aken
|
82c7ce69f6
Point `llama-3.1-70b-bf16` model to the actually bf16 version
|
7 luni în urmă |
 Gaetan Lepage
|
9ffd8116f0
Use official nvidia-ml-py instead of pynvml
|
7 luni în urmă |
|
Alex Cheema
|
2b9dec20eb
Merge pull request #282 from exo-explore/unsilence_errors
|
7 luni în urmă |
|
Alex Cheema
|
9b9f40d470
only stream results for the same request id. this allows multiple concurrent requests on the same LLM without overlapping interference in the streamed outputs
|
7 luni în urmă |
|
Alex Cheema
|
9223993e29
await node process_prompt with timeoout
|
7 luni în urmă |
|
Alex Cheema
|
5e0db20426
Merge pull request #278 from exo-explore/peer_prio
|
7 luni în urmă |
|
Alex Cheema
|
b611d0a5e2
fix print
|
7 luni în urmă |
|
Alex Cheema
|
ac6f1bedac
add a priority to broadcast messages where the broadcaster can indicate how to prioritise that particular interface. for now all priorities are set to 1 but in the future this will be based on network latency, bandwidth, jitter, etc.. e.g. Thunderbolt prioritised over WiFi
|
7 luni în urmă |
|
Alex Cheema
|
2654f290c3
Merge pull request #272 from exo-explore/fix_download_progress
|
7 luni în urmă |
|
Alex Cheema
|
c3864f5e6f
more robust handling of timeouts
|
7 luni în urmă |
|
Alex Cheema
|
4746ffdd60
clean up download progress
|
7 luni în urmă |
|
Alex Cheema
|
6b38346974
Merge pull request #258 from DevEmilio96/main
|
7 luni în urmă |
 DevEmilio96
|
cd851cdd96
Merge remote-tracking branch 'upstream/main'
|
7 luni în urmă |
|
DevEmilio96
|
3ed8a52a4c
Fixed the retry
|
7 luni în urmă |
|
Alex Cheema
|
552c04fb49
add back Jinja2
|
7 luni în urmă |
|
DevEmilio96
|
425bd214eb
Merge remote-tracking branch 'upstream/main'
|
7 luni în urmă |
|
Alex Cheema
|
7b92fd6e52
Merge pull request #265 from prajeshElEvEn/main
|
7 luni în urmă |
 prajeshElEvEn
|
b655f355a0
resolved conflicts by git pull
|
7 luni în urmă |
|
Alex Cheema
|
9b7f5d4a2f
Merge pull request #264 from exo-explore/unused_deps
|
7 luni în urmă |
|
Alex Cheema
|
0079e735ff
remove unused imports
|
7 luni în urmă |
|
Alex Cheema
|
b331592647
remove blobfile, tiktoken, tokenizers
|
7 luni în urmă |
|
Alex Cheema
|
413ecb1b12
remove hf-transfer, huggingface-hub, Jinja2 unused dependencies
|
7 luni în urmă |
|
Alex Cheema
|
17736d7d9e
Merge pull request #261 from exo-explore/exo_run_cmd
|
7 luni în urmă |
|
Alex Cheema
|
4443d3ce9a
update README with docs on exo run command
|
7 luni în urmă |
|
Alex Cheema
|
8ae59b7019
add exo run command. usage: exo run <model-name> e.g. exo run llama-3.1-8b
|
7 luni în urmă |
