Bots του Telegram παρακάμπτουν τους περιορισμούς στο ChatGPT

Το τμήμα έρευνας της Check Point , Check Point Research (CPR) παρατηρεί πως οι εγκληματίες του κυβερνοχώρου τείνουν να χρησιμοποιούν bots του Telegram για να παρακάμψουν τους περιορισμούς ChatGPT σε υπόγεια φόρουμ. Τα bots χρησιμοποιούν το API της OpenAI για να επιτρέψουν τη δημιουργία κακόβουλων μηνυμάτων ηλεκτρονικού ταχυδρομείου ή κώδικα.

Οι κατασκευαστές bot καλύπτουν επί του παρόντος έως και 20 δωρεάν αιτήματα, αλλά στη συνέχεια χρεώνουν 5.50 $ για κάθε 100. Η CPR προειδοποιεί για συνεχείς προσπάθειες από εγκληματίες στον κυβερνοχώρο να παρακάμψουν τους περιορισμούς του ChatGPT προκειμένου να χρησιμοποιήσουν το OpenAI για να κλιμακώσουν κακόβουλους σκοπούς.

Ακολούθως:

• Η CPR μοιράζεται παραδείγματα διαφημίσεων των bots του Telegram
• Η CPR μοιράζεται παράδειγμα ηλεκτρονικού “ψαρέματος” που δημιουργήθηκε σε ένα bot Telegram με οποιονδήποτε περιορισμό
• Η CPR μοιράζεται παράδειγμα κώδικα κακόβουλου λογισμικού που δημιουργήθηκε σε ένα bot Telegram

Η Check Point Research (CPR) επισημαίνει ότι οι εγκληματίες του κυβερνοχώρου χρησιμοποιούν bots και scripts του Telegram για να παρακάμψουν τους περιορισμούς του ChatGPT.

Συνομιλία Telegram ChatGPT Bot-as-a-Service

Η CPR βρήκε bots Telegram σε υπόγεια φόρουμ. Τα bots χρησιμοποιούν το API του OpenAI για να επιτρέψουν σε έναν παράγοντα απειλής να δημιουργήσει κακόβουλα μηνύματα ηλεκτρονικού ταχυδρομείου ή κώδικα. Οι δημιουργοί του bot προσφέρουν έως και 20 δωρεάν αιτήματα, αλλά στη συνέχεια χρεώνουν 5.50 $ για κάθε 100.

ch 1

Εικόνα 1. Υπόγεια διαφήμιση του bot OpenAI στο Telegram σε φόρουμ

Εικόνα 2. Παράδειγμα ηλεκτρονικού “ψαρέματος” που δημιουργήθηκε σε ένα Telegram bot για να αποδείξει τη δυνατότητα χρήσης του API του OpenAI χωρίς περιορισμούς

cch 2

Εικόνα 3. Παράδειγμα της δυνατότητας δημιουργίας κώδικα κακόβουλου λογισμικού χωρίς περιορισμούς κατάχρησης σε ένα Telegram bot χρησιμοποιώντας το API OpenAI

chp 3

Εικόνα 4. Το μοντέλο επιχειρηματικής του καναλιού ChatGPT με βάση το API

chp 5

Σενάρια για παράκαμψη περιορισμών ChatGPT

Η CPR παρατηρεί επίσης τους εγκληματίες του κυβερνοχώρου να δημιουργούν βασικές δέσμες που χρησιμοποιούν το OpenAIs API για να παρακάμψουν τους περιορισμούς κατάχρησης.

chp 6

Εικόνα 5. Παράδειγμα δέσμης ενεργειών που υποβάλλει απευθείας ερώτημα στο API και παρακάμπτει τους περιορισμούς για την ανάπτυξη κακόβουλου λογισμικού

Σχόλιο: Sergey Shykevich, Threat Group Manager στην Check Point Software

“Ως μέρος της πολιτικής περιεχομένου του, το OpenAI δημιούργησε εμπόδια και περιορισμούς για να σταματήσει τη δημιουργία κακόβουλου περιεχομένου στην του. Ωστόσο, βλέπουμε τους εγκληματίες του κυβερνοχώρου να εργάζονται γύρω από τους περιορισμούς του και υπάρχει ενεργή συζήτηση στα υπόγεια φόρουμ που αποκαλύπτει πώς να χρησιμοποιήσετε το OpenAI API για να παρακάμψετε τα εμπόδια και τους περιορισμούς του ChatGPT. Αυτό γίνεται κυρίως με τη δημιουργία bots Telegram που χρησιμοποιούν το API και αυτά τα bots διαφημίζονται σε φόρουμ hacking για να αυξήσουν την έκθεσή τους. Η τρέχουσα έκδοση του API του OpenAI χρησιμοποιείται από εξωτερικές εφαρμογές και έχει πολύ λίγους περιορισμούς κατάχρησης.

Ως αποτέλεσμα, επιτρέπει τη δημιουργία κακόβουλου περιεχομένου, όπως μηνύματα ηλεκτρονικού “ψαρέματος” και κώδικα κακόβουλου λογισμικού χωρίς τους περιορισμούς ή τα εμπόδια που έχει θέσει το ChatGPT στο interface του χρήστη τους. Αυτή τη στιγμή, βλέπουμε συνεχείς προσπάθειες από εγκληματίες στον κυβερνοχώρο για να βρουν τρόπους γύρω από τους περιορισμούς του ChatGPT.”

iGuRu.gr The Best Technology Site in Greecefgns

κάθε δημοσίευση, άμεσα στο inbox σας

Προστεθείτε στους 2.081 εγγεγραμμένους.
ChatGPT,Check Point,OpenAI

Written by newsbot

Αν και τα δελτία τύπου θα είναι από πολύ επιλεγμένα έως και σπάνια, είπα να περάσω ... γιατί καμιά φορά κρύβονται οι συντάκτες.

Αφήστε μια απάντηση

Η ηλ. διεύθυνση σας δεν δημοσιεύεται. Τα υποχρεωτικά πεδία σημειώνονται με *

Το μήνυμα σας δεν θα δημοσιευτεί εάν:
1. Περιέχει υβριστικά, συκοφαντικά, ρατσιστικά, προσβλητικά ή ανάρμοστα σχόλια.
2. Προκαλεί βλάβη σε ανηλίκους.
3. Παρενοχλεί την ιδιωτική ζωή και τα ατομικά και κοινωνικά δικαιώματα άλλων χρηστών.
4. Διαφημίζει προϊόντα ή υπηρεσίες ή διαδικτυακούς τόπους .
5. Περιέχει προσωπικές πληροφορίες (διεύθυνση, τηλέφωνο κλπ).