 Alex Cheema
|
2e27076665
simplify formatting with yapf
|
пре 11 месеци |
|
Alex Cheema
|
417114fae4
fix mistral nemo
|
пре 11 месеци |
|
Alex Cheema
|
5101f03369
keep 4 in RotatingKVCache
|
пре 11 месеци |
|
Alex Cheema
|
6db73fab1c
laptop gpu device capabilites
|
пре 11 месеци |
|
Alex Cheema
|
647ffb94eb
increase cli generation timeout
|
пре 11 месеци |
|
Alex Cheema
|
dd24e7db1e
only ignore CancelledError inside stop
|
пре 11 месеци |
|
Alex Cheema
|
2e1233357c
ignore CancelledError when stopping the server
|
пре 11 месеци |
 Alex Cheema
|
dfa3fdcf08
Merge pull request #161 from exo-explore/cli
|
пре 11 месеци |
|
Alex Cheema
|
ae35ada19b
fix headless mode with --disable-tui
|
пре 11 месеци |
|
Alex Cheema
|
b95916e0b5
show prompts and outputs in tui
|
пре 11 месеци |
|
Alex Cheema
|
e84304317c
add a cli that can be triggered with --run-model <model> --prompt <prompt>
|
пре 11 месеци |
|
Alex Cheema
|
65e0488ebe
logs for file filtering, grpc_discovery -> udp_discovery
|
пре 11 месеци |
|
Alex Cheema
|
cea9b48d24
update mlx-lm to 0.17.0, use lru caches for kv_cache with RotatingKVCache to optimise memory fixes #158
|
пре 11 месеци |
|
Alex Cheema
|
9c645b14f1
Merge pull request #157 from exo-explore/astra
|
пре 11 месеци |
|
Alex Cheema
|
430d4c0cf8
astra clarify readme, it's an example app
|
пре 11 месеци |
|
Alex Cheema
|
e87e7260f8
astra: live camera with overlay debug info / ui
|
пре 11 месеци |
|
Alex Cheema
|
1a419f1f00
astra better ui with camera vlm
|
пре 11 месеци |
|
Alex Cheema
|
8503543894
fix streaming, change default model to llava
|
пре 11 месеци |
|
Alex Cheema
|
c94ffa0e2b
fix audio buffering
|
пре 11 месеци |
|
Alex Cheema
|
23c713c012
better readme for astra
|
пре 11 месеци |
|
Alex Cheema
|
2fe3a52d60
readme for astra example
|
пре 11 месеци |
|
Alex Cheema
|
ff71ccc63d
send api request in astra example
|
пре 11 месеци |
|
Alex Cheema
|
b85d1956bc
open source astra example
|
пре 11 месеци |
|
Alex Cheema
|
e2e98c30a5
Update README.md
|
пре 11 месеци |
|
Alex Cheema
|
c4b261daf1
Update README.md
|
пре 11 месеци |
|
Alex Cheema
|
0e2ae28d36
trigger test
|
пре 11 месеци |
|
Alex Cheema
|
92dbb3204d
update mlx to 0.16.3
|
пре 11 месеци |
|
Alex Cheema
|
c4238e7d25
Merge pull request #151 from sammcj/patch-2
|
пре 1 година |
|
Alex Cheema
|
9b8e1bcddc
trigger test
|
пре 1 година |
 Sam
|
1819df36f5
Add common RTX A series cards to device_capabilities.py
|
пре 1 година |
