mirror
/
picoGPT
kopia lustrzana https://github.com/jaymody/picoGPT
1
0
Forkuj 0
Kod Zgłoszenia Packages Projekty Wydania Wiki Aktywność

Update gpt2.py

pull/20/head
M-Daniyal-123 2023-02-24 18:58:36 +05:00 zatwierdzone przez GitHub
rodzic 7e2e2e9cfd
commit a0a78ba4b9
Nie znaleziono w bazie danych klucza dla tego podpisu
ID klucza GPG: 4AEE18F83AFDEB23
1 zmienionych plików z 2 dodań i 0 usunięć
Pokaż statystyki Ściągnij plik aktualizacji Ściągnij plik porównania Expand all files Collapse all files

2
gpt2.py
Wyświetl plik

@ -3,6 +3,8 @@
import numpy as np
def gelu(x):
return 0.5 * x * (1 + np.tanh(np.sqrt(2 / np.pi) * (x + 0.044715 * x**3)))