Haute performance en matière d'intelligence artificielle : Le nouveau SBC RISC-V est une puissante alternative au Raspberry Pi 5

Le Banana Pi BPI-SM10 est un nouvel ordinateur monocarte, bien qu'il ne soit pas encore disponible. Il ne s'agit pas nécessairement d'un ordinateur monocarte au sens habituel du terme, mais plutôt d'une combinaison d'un module de calcul et d'une carte de support correspondante. Seule la carte porteuse présente des ports faciles à utiliser sous leur forme habituelle. Elle comprend, entre autres, quatre ports USB 3.0, ainsi que Gigabit Ethernet, DisplayPort et MIPI-DSI pour la sortie vidéo, et plusieurs emplacements M.2 pour l'installation de disques durs SSD, par exemple.

Le module de calcul lui-même utilise le SpacemiT K3 comme processeur. Il comporte un total de huit cœurs de calcul X100 avec une vitesse d'horloge allant jusqu'à 2,4 GHz. Ces huit cœurs sont répartis en deux grappes de quatre cœurs chacune, avec une mémoire cache L2 partagée. Il y a également huit cœurs A100. Ceux-ci sont spécifiquement conçus pour accélérer les modèles d'IA, avec des performances allant jusqu'à 60 TOPS. Orange Pi donne également un chiffre plus spécifique, ou plus pratique, pour les performances de l'IA. Il affirme que les LLM avec 30 milliards de paramètres peuvent être utilisés de manière significative à plus de 10 tokens par seconde.

En fonction de la version spécifique du modèle, la mémoire LPDDR5 d'une capacité de 8, 16 ou 32 Go est utilisée. La consommation d'énergie se situe entre 18 et 35 watts. La carte porteuse comprend un en-tête de broche GPIO, ce qui est typique des ordinateurs monocartes. Les produits basés sur l'architecture Jetson de Nvidia pourraient constituer une alternative.