Ce robot à monter soi-même « plane » en temps réel

Un amateur de la communauté LocalLLaMA de Reddit, sur https://old.reddit.com/r/LocalLLaMA/comments/1u9a17y/my_suitcase_robot_gets_high_now_off_a_real_gas/ a mis au point ce qui pourrait bien être l’intégration de LLM la plus inattendue que nous ayons vue cette année : un robot-valise baptisé Sparky qui devient de plus en plus… incohérent lorsqu’il est exposé à de la fumée. Ce phénomène ne résulte pas d’un comportement préprogrammé, mais de l’injection directe de données réelles provenant de capteurs dans les paramètres d’échantillonnage du modèle.

Le projet a été publié par l’utilisateur Reddit u/CreativelyBankrupt. Il utilise essentiellement un capteur de gaz MQ-2 (actuellement à 7,99 $ sur Amazon) monté à l’intérieur du boîtier du robot. Toutes les 500 millisecondes, le capteur analyse l’air ambiant par rapport à une référence adaptative d’air pur et convertit la présence de fumée en une valeur de phase comprise entre 0 et 10. Cette valeur de phase modifie alors en temps réel la manière dont le LLM génère du texte. Par exemple, lorsque le niveau de fumée augmente, la valeur de « temperature » passe de 1,0 à environ 1,6, « top_p » passe de 0,95 à 0,99 et « top_k » passe de 64 à 120.

Lorsque cela se produit, le choix lexical de Sparky se restreint, et le robot commence à privilégier des tokens moins probables, ce qui rend ses réponses plus aléatoires — car l’échantillonneur en temps réel produit exactement le même effet que des paramètres d’échantillonnage élevés sur n’importe quel modèle linguistique. Chaque réponse « haute » est générée à la volée, de sorte qu’aucune réponse ne se ressemble. Un ajustement de la personnalité par phase garantit que ce comportement transparaît (sans que le robot n’annonce réellement son état).

Il y a également un retour physique. Sparky affiche des yeux tombants, un léger accent traînant dans la sortie vocale, et un écran qui passe à un effet complet de fumée et de plasma à la phase 10. Il reste dans cet état pendant sept minutes avant de s’estomper.

Le créateur est franc quant aux limites du matériel : le MQ-2 est un capteur de COV, ce qui signifie que de l’encens ou une cigarette déclencheraient la même réponse que le cannabis, et qu’il ne peut pas distinguer les différentes sources de fumée.

Au moment de la rédaction de cet article, la vidéo compte plus de 1 100 votes positifs sur Reddit. Découvrez-la ci-dessous :

My suitcase robot gets high now off a real gas sensor wired straight into the LLM sampler. Smoke raises temperature/top_p/top_k live, so his speech genuinely gets loopier and never repeats.
by u/CreativelyBankrupt in LocalLLaMA