Ver código fonte

Okay let's turn no_grad back on. We'll worry about that when tinygrad training works

Nel Nibcord 8 meses atrás
pai
commit
bcf87e79b7
1 arquivos alterados com 1 adições e 1 exclusões
  1. 1 1
      exo/inference/tinygrad/inference.py

+ 1 - 1
exo/inference/tinygrad/inference.py

@@ -16,7 +16,7 @@ from .losses import length_masked_ce_loss
 from collections import OrderedDict
 import asyncio
 
-Tensor.no_grad = False
+Tensor.no_grad = True 
 # default settings
 TEMPERATURE = int(os.getenv("TEMPERATURE", 0.85))
 TOP_K = 25