Les escrocs utilisent l'intelligence artificielle Grok de X pour diffuser des liens malveillants
Le chercheur en cybersécurité Nati Tal, directeur de Guardio Labs, a mis en évidence un nouvel exploit de Grok AI qui permet aux acteurs de la menace et aux escrocs de contourner les restrictions de liens sur les messages promus et de diffuser des liens malveillants sur X.
La méthode appelée "Grokking" consiste à dissimuler un lien dans le champ "From" d'un message promu, puis à demander à Grok de trouver la source de l'incitation payante. Grok trouve le lien dans le champ "From" et l'inclut dans sa réponse, augmentant ainsi involontairement sa découvrabilité.
Selon Tal, cela fonctionne parce que le compte X de Grok est "fiable" et n'est pas soumis à des vérifications ou à un examen approfondi. Pire encore, ces messages payants sont renforcés en termes d'engagement et reçoivent "entre 100 000 et 5 millions d'impressions" avec la réponse de Grok en dessous.
Le fait d'invoquer Grok pour répondre renforce également le référencement et la "réputation du domaine", puisqu'il a été "repris par Grok sur un message ayant des millions d'impressions !
Selon M. Tal, les liens "passent par des réseaux publicitaires douteux, monétisant les clics à l'aide de "liens directs" connus pour diffuser Fake captcha scam, Info stealer malware et d'autres contenus douteux de la zone grise" Selon Tal, cette méthode rend les liens "entièrement visibles, cliquables et impossibles à manquer"
Les messages eux-mêmes sont déguisés en "cartes vidéo" et contiennent des "appâts à contenu adulte" qui, d'une manière ou d'une autre, parviennent à passer l'examen de X. Tal affirme également : "Il n'y a aucune recherche de liens malveillants sur X ! Pourtant, c'est encore à peine perceptible à cet endroit"
Il est amusant de constater que Grok a répondu à un utilisateur juste en dessous du message et lui a fourni un lien brisé lorsqu'on lui a demandé le lien correct pour signaler le problème.
Source(s)
