À la une
EmbeddingGemma 2 : chercher dans ses fichiers sans cloud
Du manuel PDF à l’extrait vidéo, suivez une recherche avec EmbeddingGemma 2 : fonctionnement, exemple Python et effets sur le calcul, la mémoire et le réseau.
À la une
Du manuel PDF à l’extrait vidéo, suivez une recherche avec EmbeddingGemma 2 : fonctionnement, exemple Python et effets sur le calcul, la mémoire et le réseau.
LeCompute décortique l'infrastructure de l'IA : GPU et silicium, mémoire HBM et interconnexions, runtimes d'inférence comme vLLM ou llama.cpp, quantification et edge AI. Des analyses techniques et des benchmarks reproductibles, du silicium au code, sans hype.
Read our articles in EnglishRuntimes
Suivez un token à travers les experts et leur apprentissage, puis sur quatre GPU : comment le routage, le réseau et la mémoire déterminent la vitesse d’un entraînement MoE.
Silicon
PsiQuantum présente un commutateur optique issu de sa plateforme quantique. Son intérêt dépendra du passage à l’échelle et du logiciel qui choisit les connexions utiles.
Coûts
Un satellite de Google a renvoyé une réponse de Gemma 4. Derrière le haïku, Suncatcher met à l’épreuve le refroidissement, l’énergie et les communications du calcul spatial.
Runtimes
DeepSeek publie son moteur d’inférence. Le code révèle comment accélérer les modèles, mais aussi ce qu’il reste à assembler pour reproduire un service et ses coûts.
Kernel & Perf
Un travail peut ralentir sans qu’un GPU tombe en panne. Minerva relie les signaux des machines, du réseau et des tâches pour aider à retrouver l’origine de ces pertes de performance.
Edge AI
LFM3 face aux petits Qwen sur téléphone : mesures iPhone, mémoire réelle, qualité des réponses et intégration dans une application iOS, Android ou embarquée.