 josh
|
fea1c0fc29
clean branch
|
hai 1 ano |
 Alex Cheema
|
727d7fffaf
Merge pull request #364 from rahat2134/DummyInferenceEngine
|
hai 1 ano |
 Ian Paul
|
fa6d63ba77
update gitignore for aider
|
hai 1 ano |
 rahat2134
|
7d6104750a
DummyInferenceEngine commit 1
|
hai 1 ano |
 Alex Cheema
|
8a4928f80c
fix gitignore to not ignore tinychat static files
|
hai 1 ano |
|
Alex Cheema
|
b85d1956bc
open source astra example
|
hai 1 ano |
|
Alex Cheema
|
0bfb8e3b6d
sticky node ids #16
|
hai 1 ano |
 Varshith
|
9d2616b9cf
shareded inference
|
hai 1 ano |
|
Varshith
|
803a442141
init
|
hai 1 ano |
|
Alex Cheema
|
35177690bd
by default find an ephemeral node port fixes #35, more robust topology updates. both fix #15 and #14
|
hai 1 ano |
 Alex
|
4ea7db854a
more complete python gitignore template
|
hai 1 ano |
|
Alex Cheema
|
850b72d3ea
make StatefulShardedModel callable, add some tests for mlx sharded inference
|
hai 1 ano |
|
Alex Cheema
|
a21f59ff45
scaffolding for networking, inference and orchestration
|
hai 1 ano |
