|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Nachrichtenvideo zur Kryptowährung
Aufmerksamkeit und Transformatoren erklärt und von Grund auf in PyTorch codiert (Multi-Head Attention) #ai #llm
Oct 02, 2026 at 05:40 pm Mehdi Hosseini Moghadam
Achtung, Multi-Head-Aufmerksamkeit und der vollständige Transformer, von Grund auf erklärt und von Grund auf in PyTorch codiert, wobei jeder Schritt von Hand an einem winzigen Beispiel und jede Tensorform auf dem Bildschirm ausgeführt wurde. Wir beginnen damit, warum wiederkehrende Netzwerke Probleme hatten, wandeln Wörter in Vektoren um und bauen die Aufmerksamkeit Schritt für Schritt auf: Skalarprodukte, Softmax, Abfragen, Schlüssel und Werte, warum wir durch die Quadratwurzel von d_k dividieren, Kausal- und Füllmasken. Dann Multi-Head-Aufmerksamkeit: Aufteilen von 512 Dimensionen in 8 Köpfe zu je 64, die Formen nach jeder Codezeile und eine Prüfung mit PyTorchs eigener nn.MultiheadAttention. Als nächstes der Rest des Transformers: sinusförmige Positionscodierungen, Restverbindungen und LayerNorm, der Feed-Forward-Block, Encoder- und Decoderschichten, Queraufmerksamkeit und die vollständige Architektur. Abschließend trainieren wir es live auf einer GPU, dekodieren Schritt für Schritt und schauen uns die gelernten Aufmerksamkeitskarten an. Das Wichtigste zum Mitnehmen: Aufmerksamkeit lässt jeden Token jeden anderen Token in einem Schritt betrachten, und das ist der gesamte Transformer. Zeitleiste 0:00 – 3:55 Warum Aufmerksamkeit 3:55 – 7:35 Wörter zu Vektoren werden 7:35 – 16:07 Aufmerksamkeit, Schritt für Schritt 16:07 – 19:12 Masken 19:12 – 26:50 Aufmerksamkeit mit mehreren Köpfen 26:50 – 32:48 Positionen, Normen und Feed-Forward 32:48 – 38:25 Der vollständige Transformer 38:25 – 44:30 Training und Inferenz 44:30 – 46:50 Zusammenfassung Abonnieren Sie für mehr: https://www.youtube.com/@mehdihosseinimoghadam GitHub: https://github.com/mehdihosseinimoghadam LinkedIn: https://linkedin.com/in/mehdi-hosseini-moghadam-384912198 #Transformer #Attention #SelfAttention #MultiHeadAttention #PyTorch #DeepLearning #MachineLearning #LLM #NLP #AI #Python #AttentionIsAllYouNeed #ArtificialIntelligence
Haftungsausschluss:info@kdj.com
Die bereitgestellten Informationen stellen keine Handelsberatung dar. kdj.com übernimmt keine Verantwortung für Investitionen, die auf der Grundlage der in diesem Artikel bereitgestellten Informationen getätigt werden. Kryptowährungen sind sehr volatil und es wird dringend empfohlen, nach gründlicher Recherche mit Vorsicht zu investieren!
Wenn Sie glauben, dass der auf dieser Website verwendete Inhalt Ihr Urheberrecht verletzt, kontaktieren Sie uns bitte umgehend (info@kdj.com) und wir werden ihn umgehend löschen.
-
-
-
-
-
-
- Er hatte nicht erwartet, dass seine Stiefmutter, kurz nachdem er durch die Zeit gereist war und ein nichtsnutziger Prinz geworden war, eine schöne Frau dazu bringen würde, wie eine Fee zu tanzen, und dass er aus dem Haus geworfen würde? ! #MiniDrama #Wunderbares Kurzdrama vom Festland
- Oct 02, 2026 at 05:40 pm 风云剧场
- 【Fengyun Theater】 Täglich aktualisierte Kurzstücke! Echt autorisiert! Nehmen Sie sich mit, um genug zu sehen! Willkommen zum Abonnieren und vielen Dan...
-
- [Multi SUB] (Ganze Folge) Lu Qingyuan kümmerte sich drei Jahre lang freundlicherweise um Lin Xiaofeng, doch er nutzte unerwartet seine Identität, um sich als reicher zweiter Generation auszugeben. Die Verlobungsfeier wurde öffentlich bloßgestellt und der Lügner war ruiniert! #Beliebteste Kurzdrama-Empfehlung#Komplette Kurzdrama-Sammlung#Wunderbares Festland-Kurzdrama
- Oct 02, 2026 at 05:40 pm 爽劇無界
- 🔥„Dem lustigen Drama sind keine Grenzen gesetzt, bitte klicken und ausfüllen!“ 🌟 Hallo Brüder ~ Das ist [Das lustige Drama kennt keine Grenzen] 🎬 Jede...
-
- Ich habe das gesamte Geld für den Kauf eines B&B für meinen Bruder bezahlt, aber als ich während des Nationalfeiertags nach Hause ging, um zu bleiben, verlangte meine Schwägerin den Zimmerpreis! Ich habe das B&B entschieden verkauft und die Familie meines Bruders ist verrückt geworden!
- Oct 02, 2026 at 05:40 pm 魔法剧场
- Willkommen bei „Magic Theater“ 💕 #aidrama #Drama #AI ✅ Alle Episoden dieses Kanals sind künstlerische Ausdrucksformen und der Inhalt entspricht den ED...
-
























