在家中使用日常设备运行自己的 AI 集群。由 exo labs 维护。

Alex Cheema ca6095c04d a generic test for every inference engine hace 1 año
inference ca6095c04d a generic test for every inference engine hace 1 año
networking 445eda156c dynamically assign shards to nodes deterministically weighted by memory hace 1 año
orchestration 445eda156c dynamically assign shards to nodes deterministically weighted by memory hace 1 año
topology 36b8456798 collect global topology with local peer visibility, ring memory weighted partitioning strategy hace 1 año
.gitignore 850b72d3ea make StatefulShardedModel callable, add some tests for mlx sharded inference hace 1 año
example_user.py 36b8456798 collect global topology with local peer visibility, ring memory weighted partitioning strategy hace 1 año
example_user_2.py 445eda156c dynamically assign shards to nodes deterministically weighted by memory hace 1 año
main.py 36b8456798 collect global topology with local peer visibility, ring memory weighted partitioning strategy hace 1 año
main_dynamic.py 445eda156c dynamically assign shards to nodes deterministically weighted by memory hace 1 año
requirements.txt 3a66a0a4a8 add requirements.txt hace 1 año