bitcoin
bitcoin

$64557.648852 USD

-0.24%

ethereum
ethereum

$1828.511433 USD

0.69%

tether
tether

$0.999046 USD

0.00%

bnb
bnb

$592.711732 USD

0.04%

usd-coin
usd-coin

$0.999776 USD

0.01%

xrp
xrp

$0.960408 USD

0.46%

solana
solana

$72.759121 USD

2.17%

tron
tron

$0.306146 USD

1.23%

hyperliquid
hyperliquid

$69.748274 USD

5.04%

zcash
zcash

$919.909518 USD

3.36%

monero
monero

$498.240193 USD

2.87%

dogecoin
dogecoin

$0.058956 USD

0.13%

unus-sed-leo
unus-sed-leo

$9.310237 USD

1.15%

chainlink
chainlink

$9.171915 USD

0.34%

cardano
cardano

$0.153379 USD

0.36%

Vidéo d’actualité sur les crypto-monnaies

Mathématiques pour l'IA 02 | Pourquoi les informations sont mesurées en bits

Nov 04, 2026 at 01:16 pm Curiosity, Clearly

Mathématiques pour l'IA 02 Pourquoi une pièce de monnaie juste donne-t-elle une information, alors qu'une des huit cartes également probables en donne trois ? Suivez les choix, l'arbre binaire et le logarithme pour voir comment la probabilité devient une mesure d'information. Dans l'épisode 2 de Mathematics for AI, Emma, ​​Aoi et Norm expliquent l'auto-information (surprise), pourquoi l'unité utilise la base deux et pourquoi les logarithmes permettent aux informations des étapes successives de s'additionner. Ensuite, nous utilisons un petit exemple de modèle de langage pour distinguer l'évaluation d'un jeton observé lors de la formation du choix du jeton suivant lors de la génération. 00:00 Une mesure pour la surprise 00:57 Un choix équilibré, un bit 01:59 Pourquoi un logarithme ? 05:28 Le modèle compte 06:21 Noter une prédiction de l'IA 09:21 Un résultat, puis une moyenne La définition centrale est I = −log₂(p), mesuré en bits. Ici, la surprise est une quantité mathématique selon un modèle de probabilité spécifié, et non une mesure de l'émotion, de l'importance ou de la vérité. Les probabilités du modèle de langage sont des exemples illustratifs et non des mesures d'un système d'IA particulier. Série : Mathématiques pour l'IA 01 — Règle de Bayes : mise à jour des croyances 02 — Information, surprise et bits (cet épisode) 03 — Entropie : mesure de l'incertitude (suivant) 04 — Entropie croisée et perte de prédiction 05 — Calibrage de probabilité 06 — Descente de gradient et apprentissage Les sujets et l'ordre futurs sont provisoires. Références et lectures complémentaires : Claude E. Shannon, A Mathematical Theory of Communication (1948) : https://onlinelibrary.wiley.com/doi/pdf/10.1002/j.1538-7305.1948.tb01338.x Stanford EE276, Notes de cours sur la théorie de l'information : https://web.stanford.edu/class/ee276/files/previous_notes/lecture_2.pdf Hugging Face Transformers, Perplexity : https://huggingface.co/docs/transformers/perplexity Hugging Face Transformers, Stratégies de génération : https://huggingface.co/docs/transformers/generation_strategies Diagrammes et animations originaux : Curiosity, Clearly. Présentateurs illustrés fictifs et voix de personnages synthétiques. Si l'explication vous a aidé, aimez la vidéo et abonnez-vous. Quelle prédiction quotidienne mesureriez-vous en bits ? Dites-le-nous dans les commentaires. #InformationTheory #MathematicsForAI #Bits Series playlist : https://www.youtube.com/playlist?list=PLGi5Uwmf0LpY Épisode précédent : https://youtu.be/kS9gsyHW0yk
Source vidéo:Youtube

Clause de non-responsabilité:info@kdj.com

Les informations fournies ne constituent pas des conseils commerciaux. kdj.com n’assume aucune responsabilité pour les investissements effectués sur la base des informations fournies dans cet article. Les crypto-monnaies sont très volatiles et il est fortement recommandé d’investir avec prudence après une recherche approfondie!

Si vous pensez que le contenu utilisé sur ce site Web porte atteinte à vos droits d’auteur, veuillez nous contacter immédiatement (info@kdj.com) et nous le supprimerons dans les plus brefs délais.

Autres vidéos publiées sur Nov 18, 2026