 Alex Cheema
|
c609f39996
disable the m3 max 128GB test
|
1 tahun lalu |
|
Alex Cheema
|
0278de7b7e
noop tracing
|
1 tahun lalu |
|
Alex Cheema
|
b02c0a5be0
new approach to mlx async operations and make tokenizer operations async too
|
1 tahun lalu |
|
Alex Cheema
|
165a9e1f53
more granular tracing
|
1 tahun lalu |
|
Alex Cheema
|
db010d51fb
distributed tracing
|
1 tahun lalu |
|
Alex Cheema
|
023ddc207e
support different network interface tests
|
1 tahun lalu |
|
Alex Cheema
|
2f0b543a1e
add peer connection info to tinychat
|
1 tahun lalu |
|
Alex Cheema
|
7ac4004392
change it back to collecting topology periodically even if peers dont change
|
1 tahun lalu |
|
Alex Cheema
|
198308b1eb
more robust udp broadcast
|
1 tahun lalu |
|
Alex Cheema
|
1f108a06ff
remove test sleep
|
1 tahun lalu |
|
Alex Cheema
|
3a58576f8c
make sure this is actually doing something
|
1 tahun lalu |
|
Alex Cheema
|
0a07223074
switch to uvloop (faster asyncio event loop) and optimise grpc settings
|
1 tahun lalu |
|
Alex Cheema
|
58f0a0f547
optimise grpc parameters
|
1 tahun lalu |
|
Alex Cheema
|
e2474c3f15
fail if we never get the desired node count
|
1 tahun lalu |
|
Alex Cheema
|
1b14be6013
make device_capabilities async running on a thread pool
|
1 tahun lalu |
|
Alex Cheema
|
036224f877
add topology to tinychat ui
|
1 tahun lalu |
|
Alex Cheema
|
b17faa8199
dont broadcast every single process_tensor
|
1 tahun lalu |
|
Alex Cheema
|
35d90d947c
Merge remote-tracking branch 'origin/main' into runners
|
1 tahun lalu |
|
Alex Cheema
|
8d94b8ae12
trigger test
|
1 tahun lalu |
|
Alex Cheema
|
99a70f1045
Merge commit: trigger test
|
1 tahun lalu |
|
Alex Cheema
|
bd0febe35f
Merge commit: trigger test
|
1 tahun lalu |
|
Alex Cheema
|
34ecbbe01c
Merge commit: trigger test
|
1 tahun lalu |
|
Alex Cheema
|
427d0718b3
Merge commit: trigger test
|
1 tahun lalu |
|
Alex Cheema
|
b49c4ca0e5
Merge commit: trigger test
|
1 tahun lalu |
|
Alex Cheema
|
41eaaec5a9
Merge commit: trigger test
|
1 tahun lalu |
|
Alex Cheema
|
bf1aafdea7
Merge commit: trigger test
|
1 tahun lalu |
|
Alex Cheema
|
bfa06ee9f3
Merge commit: trigger test
|
1 tahun lalu |
|
Alex Cheema
|
c0534b67c3
Merge commit: trigger test
|
1 tahun lalu |
|
Alex Cheema
|
063964aab3
remove redundant sample_logits, put back opaque status for process_prompt so we have a way of preemptively starting downloads
|
1 tahun lalu |
|
Alex Cheema
|
804ad4705a
upgrade mlx
|
1 tahun lalu |
