Explorar o código

Okay let's turn no_grad back on. We'll worry about that when tinygrad training works

Nel Nibcord hai 8 meses
pai
achega
bcf87e79b7
Modificáronse 1 ficheiros con 1 adicións e 1 borrados
  1. 1 1
      exo/inference/tinygrad/inference.py

+ 1 - 1
exo/inference/tinygrad/inference.py

@@ -16,7 +16,7 @@ from .losses import length_masked_ce_loss
 from collections import OrderedDict
 import asyncio
 
-Tensor.no_grad = False
+Tensor.no_grad = True 
 # default settings
 TEMPERATURE = int(os.getenv("TEMPERATURE", 0.85))
 TOP_K = 25