Haben Sie sich jemals gefragt, worum es bei Token, Tokenizern und semantischen Vektoren (Einbettungen) in #KI und #LLMs wirklich geht? In diesem #Tutorial erläutern wir die grundlegenden mathematischen und geometrischen Grundlagen dafür, wie große Sprachmodelle die menschliche Sprache darstellen – und gehen dabei bei jeder Vereinfachung völlig offen vor. Die menschliche Rechtschreibung ist für neuronale Netze überraschend chaotisch: Durch winzige Änderungen einzelner Buchstaben entstehen völlig unabhängige Wörter, während identische Konzepte in allen Synonymen und Sprachen völlig unterschiedlich aussehen. Lassen Sie uns verfolgen, wie moderne KI Rohtext in Geometrie umwandelt, und testen Sie ihn live im Browser und in Python. Wir behandeln Folgendes: – Warum rohe menschliche Wörter und Wörterbuch-IDs keine semantische Bedeutung für neuronale Netze haben – Wie Tokenisierer Text vor dem Training in Unterwort-Tokens und ganzzahlige Token-IDs komprimieren – Semantische Vektorräume – Etwas Mathematik – Praktische Demos Inhaltsverzeichnis (TOC): 00:00 – Einführung 00:22 – Warum menschliche Sprache für neuronale Netze schwierig ist 02:38 – Tokens und wie der Tokenizer funktioniert 05:17 – Einbettung von Vektoren und relationaler Geometrie 08:01 – Jenseits von 2D: Warum Hunderte oder Tausende von Dimensionen? 09:58 – Skalarprodukt, Projektionen und Kosinusähnlichkeit 12:55 – Fast orthogonale Vektoren in hohen Dimensionen 15:14 – Die Einbettungsmatrix-Suche 16:16 – Hands-on: OpenAI Tokenizer 17:09 – Hands-on: Semantische Vektoren von Word2Vec in Python 19:11 – Wörter mit mehreren Bedeutungen 21:03 – Vollständige Zusammenfassung der Reise 22:05 – Vier Vereinfachungen #Künstliche Intelligenz #LLM #Einbettungen #Vektoren #Tokenisierung #Maschinelles Lernen #DeepLearning #Python #Word2Vec #NLP #GenerativeAI
Die bereitgestellten Informationen stellen keine Handelsberatung dar. kdj.com übernimmt keine Verantwortung für Investitionen, die auf der Grundlage der in diesem Artikel bereitgestellten Informationen getätigt werden. Kryptowährungen sind sehr volatil und es wird dringend empfohlen, nach gründlicher Recherche mit Vorsicht zu investieren!
Wenn Sie glauben, dass der auf dieser Website verwendete Inhalt Ihr Urheberrecht verletzt, kontaktieren Sie uns bitte umgehend (info@kdj.com) und wir werden ihn umgehend löschen.