→ AI → Sāciet mācīties / Lejupielādēt MP3 flashcards

jautājums		atbilde
Embedding to proces gdzie najpierw zamieniamy _ z _ a potem _, czyli _ sākt mācīties		tokeny na wektory liczb, macierzy embeddingów, positional encoding, nakładanie wektorów pozycji
Model pipes and filters oznacza że najpierw jest _ czyli _ a potem _ sākt mācīties		atencja czyli wyszukiwanie powiązań między wektorami, FFN czyli pogłębianie rozumienia
Transformery to _ czyli inaczej _ i _ które wykorzystują dwa ważne mechanizmy _ i _ sākt mācīties		serce modelu, enkodery i dekodery, atencji i FFN
Co się dzieje podczas inputu? sākt mācīties		Dla każdego neuronu najpierw mnożymy inputy * wagi a potem dodajemy biasy
Sieć neuronowa to inaczej _ gdzie krawędzie to _ a węzły to _ sākt mācīties		Graf skierowany, wagi, neurony
Im wyższa temperatura tym model _ sākt mācīties		bardziej zmyśla
Logit to _ modelu przed zastosowaniem _ _ sākt mācīties		końcowy wynik modelu, funkcji aktywacji (softmax)
Vocab size to rozmiar _ tokenów czyli liczba _. sākt mācīties		słownika, unikalnych słów które tokenizer zapamięta
Vocab size wpływa również na ilość _ macierzy embeddingów sākt mācīties		wierszy

AI