Selaa lähdekoodia

workaround amd device capabilities

Alex Cheema 1 vuosi sitten
vanhempi
commit
1e0a7bbb9e
1 muutettua tiedostoa jossa 7 lisäystä ja 0 poistoa
  1. 7 0
      exo/topology/device_capabilities.py

+ 7 - 0
exo/topology/device_capabilities.py

@@ -198,6 +198,13 @@ async def linux_device_capabilities() -> DeviceCapabilities:
       flops=CHIP_FLOPS.get(gpu_name, DeviceFlops(fp32=0, fp16=0, int8=0)),
     )
   elif Device.DEFAULT == "AMD":
+    # temp workaround for unified memory boxes
+    return DeviceCapabilities(
+      model=f"Linux Box (Device: {Device.DEFAULT})",
+      chip=f"Unknown Chip (Device: {Device.DEFAULT})",
+      memory=psutil.virtual_memory().total // 2**20,
+      flops=DeviceFlops(fp32=0, fp16=0, int8=0),
+    )
     # For AMD GPUs, pyrsmi is the way (Official python package for rocm-smi)
     from pyrsmi import rocml