在家中使用日常设备运行自己的 AI 集群。由 exo labs 维护。

Alex Cheema ca6095c04d a generic test for every inference engine před 1 rokem
inference ca6095c04d a generic test for every inference engine před 1 rokem
networking 445eda156c dynamically assign shards to nodes deterministically weighted by memory před 1 rokem
orchestration 445eda156c dynamically assign shards to nodes deterministically weighted by memory před 1 rokem
topology 36b8456798 collect global topology with local peer visibility, ring memory weighted partitioning strategy před 1 rokem
.gitignore 850b72d3ea make StatefulShardedModel callable, add some tests for mlx sharded inference před 1 rokem
example_user.py 36b8456798 collect global topology with local peer visibility, ring memory weighted partitioning strategy před 1 rokem
example_user_2.py 445eda156c dynamically assign shards to nodes deterministically weighted by memory před 1 rokem
main.py 36b8456798 collect global topology with local peer visibility, ring memory weighted partitioning strategy před 1 rokem
main_dynamic.py 445eda156c dynamically assign shards to nodes deterministically weighted by memory před 1 rokem
requirements.txt 3a66a0a4a8 add requirements.txt před 1 rokem