Plongez dans l'univers captivant de la nouvelle puce Edge GenAI de Hailo, conçue pour accélérer les modèles d'IA générative sur le terrain. Découvrez comment cette startup a réussi à lever 120 millions de dollars pour propulser cette innovation.
Hailo, la startup spécialisée dans les puces Edge AI, a lancé une nouvelle puce conçue pour accélérer les modèles d'IA générative sur le terrain. Cette annonce s'accompagne d'une levée de fonds de 120 millions de dollars.
Le PDG de Hailo, Orr Danon, a déclaré à EE Times que la nouvelle puce Hailo-10 peut exécuter Llama2-7B avec jusqu'à 10 jetons par seconde avec moins de 5 W de puissance, ou StableDiffusion 2.1 en moins de 5 secondes par image dans la même enveloppe de puissance.
Les cas d'utilisation pour le Hailo-10 sont variés, mais incluront l'IA dans les PC et un autre marché clé pour Hailo : l'automobile. Danon a souligné que l'IA générative serait probablement la plus rapide à s'imposer dans le secteur automobile.
La plupart des clients de Hailo ne sont pas intéressés par l'exécution de très grands modèles sur le terrain. La société se concentre sur des modèles plus spécialisés adaptés au terrain.
La Hailo-10 prend en charge des précisions entières de 4, 8 et 16 bits et peut atteindre 40 TOPS en INT4. L'ajout d'une précision de 4 bits double le débit par rapport à la précision de 8 bits de la Hailo-8 précédente.
En plus du lancement de la puce, Hailo a également levé 120 millions de dollars supplémentaires pour investir dans les gammes de produits Hailo-10 et Hailo-15. Cette somme servira également à soutenir les clients existants.
Dans le secteur automobile chinois, Hailo a récemment été sélectionné pour un contrôleur de domaine iDC High par un OEM automobile chinois.
La Hailo-10 est actuellement en phase d'échantillonnage et devrait être disponible généralement le trimestre prochain.
#IA #PuceEdge #Hailo #Technologie #Financement
0 Comments