Chatsight fait pivoter son IA de modération de contenu pour lutter contre les escrocs Discord

Alors que l’industrie de la cryptographie se concentre sur la construction de l’avenir Web3 décentralisé, les plates-formes Web2 centralisées telles que Discord, Twitter et Telegram sont l’endroit où la communauté vit aujourd’hui. Alors que les DAO et les collectifs NFT continuent d’utiliser ces plateformes, les fraudeurs affluent pour escroquer et voler. La Commission fédérale du commerce a récemment rapporté que plus d’un milliard de dollars en crypto avaient été perdus à cause d’escroqueries depuis 2021.

Pour aider à lutter contre ces attaques, une nouvelle startup basée à San Francisco appelée Chatsight fait de la sécurité des serveurs Discord son activité principale, rejoignant un liste de services visant à protéger les communautés Discord.

Fondée en 2021 par Marcus Naughton, Chatsight s’appelle une « société de sécurité en tant que service » conçue pour fournir une couche de sécurité supplémentaire aux plateformes de médias sociaux comme Discord et Telegram. Ces plateformes sont devenues centrales pour les projets Web3 cherchant à organiser et construire des communautés autour de leurs projets.

« Nous fournissons une technologie agnostique », déclare Naughton Décrypter. « Nous construisons la technologie anti-arnaque AI (intelligence artificielle) et la relions à des plates-formes telles que Discord, Telegram et d’autres au fur et à mesure qu’elles se présentent avec l’objectif final de fournir des outils de sécurité pour les réseaux en chaîne. »

Discord est un endroit populaire pour les DAO (organisations autonomes décentralisées) pour s’organiser et collaborer. Les DAO sont des communautés peu organisées qui se réunissent pour construire ou soutenir des projets de cryptographie et financent souvent leurs activités avec des jetons.

Déjà méfiants vis-à-vis des escrocs, les DAO utilisent des projets tiers comme Collab.Land pour agir en tant que gardiens de leurs serveurs Discord, en vérifiant que les membres détiennent le jeton DAO avant d’y accéder. Mais alors que les gardiens de jetons peuvent gérer les adhésions, la sécurité reste un problème.

En mai, la société de sécurité PeckShield a publié une alerte sur Twitter disant que les escrocs avaient exploité le serveur Discord du marché NFT OpenSea pour promouvoir une escroquerie NFT.

Plus tôt ce mois-ci, le serveur Discord du célèbre collectif NFT Bored Ape Yacht Club a été compromis, permettant aux escrocs de s’enfuir avec des NFT d’une valeur de 200 ETH (358 962 $ à l’époque).

Suite à l’exploit, un co-fondateur du Bored Ape Yacht Club s’en est pris à Discord le 4 juin, affirmant que l’application de communication populaire « ne fonctionne pas pour les communautés Web3 ».

Alors que Chatsight est destiné à être déployé sur les plateformes de médias sociaux, explique Naughton, l’accent est mis sur les escroqueries et les attaques de phishing, et non sur la modération du contenu, ajoutant : « la seule chose sur laquelle tout le monde peut s’entendre est [that] les arnaques c’est mal. »

Chatsight a commencé comme une plate-forme de modération de contenu IA pour les réseaux sociaux, explique Naughton, mais a pivoté après avoir parlé avec un propriétaire de groupe crypto Telegram qui payait environ 5 000 $ pour que des personnes physiques surveillent la chaîne.

« Si ces personnes paient des humains pour faire cela, cela montre qu’il y a un besoin auquel ces plateformes ne répondent pas », a déclaré Naughton. « Lorsque vous construisez vos communautés sur ces plates-formes, vous vous engagez expressément sur le fait que vous reprenez maintenant la sécurité entre vos mains. »

Naughton dit que Chatsight vise à agir en tant que partenaire de sécurité géré, « un quasi antivirus », offrant aux utilisateurs une suite d’outils pour surveiller leurs serveurs Discord.

Selon Naughton, Chatsight utilise un compte Discord « à vide », un inutilisé nulle part ailleurs. Une fois associé au serveur Discord, ce compte reçoit les droits d’administrateur. Il peut ensuite surveiller le serveur pour détecter les escroqueries et les attaques de phishing, en séparant le propriétaire du compte du serveur tout en permettant au propriétaire du serveur de contrôler le bot Chatsight.

Naughton dit que le produit freemium comprend des fonctionnalités qui offrent une sécurité supplémentaire, notamment Enterprise Cloudflare, la vérification du compte Discord, la vérification de la réputation du compte sur Discord et des sanctions allant d’un délai d’attente de 30 minutes à l’interdiction des comptes qui sont signalés à plusieurs reprises.

Pour Naughton, le défaut de la version actuelle d’Internet est que les utilisateurs cèdent les actifs qu’ils possèdent (plans, conceptions, missions, etc.) à des tiers comme Discord, Twitter et Telegram pour héberger et, espérons-le, assurer la sécurité. Pourtant, les utilisateurs n’ont pas leur mot à dire sur cette sécurité.

« Nous nous attendons à ce que vous soyez compromis en raison de la nature du produit de Discord – les exploits arrivent à tout le monde », déclare Naughton. « Nous supposons donc, à partir de la position par défaut, que vous allez être exploité, et comment pouvons-nous empêcher les dommages qui en résultent ? »