Asus dévoile le premier accélérateur d'IA USB au monde pour l'IA classique et l'IA générative

Les cartes d'extension pour systèmes PC ne sont pas une nouveauté, les cartes graphiques dédiées étant un must pour les joueurs exigeants. Nous avons déjà rapporté des cartes d'extension pour l'accélération des modèles d'IA, bien que celles-ci ne soient probablement plus strictement nécessaires pour de nombreux PC modernes grâce aux NPU intégrés dans les APU. Néanmoins, de telles cartes d'extension peuvent toujours être utiles pour augmenter les performances d'IA des systèmes existants. Asus vient d'annoncer une carte de ce type, la UGen300.

Il s'agit d'une carte d'extension USB qui communique via USB 3.1 Gen 2 et ne nécessite donc pas d'installation dans un emplacement PCI ni d'ouverture du boîtier du PC. L'appareil est équipé d'un NPU Hailo 10H, qui est censé atteindre une performance de 40 TOPS (INT4), et sa consommation d'énergie typique est spécifiée à 2,5 watts, ce qui la rend très faible, voire pratiquement négligeable. 8 Go de RAM LPDDR4 sont embarqués, ce qui ne sera probablement pas suffisant pour les amateurs d'intelligence artificielle purs et durs, puisque les systèmes dédiés à l'intelligence artificielle disposent généralement de plus de 100 Go de RAM.

Il serait compatible avec les plateformes x86 et ARM, les appareils Windows, Linux et Android, ainsi qu'avec divers frameworks tels que TensorFlow, PyTorch et ONNX. Selon Asus, plus de 100 modèles pré-entraînés sont disponibles. Une application typique pourrait être la reconnaissance et l'interprétation d'images ou de modèles avancés. Aucune information sur le prix ou la disponibilité n'est disponible pour le moment