H εταιρεία κυβερνοασφάλειας Check Point Software προειδοποιεί πως εγκληματίες του κυβερνοχώρου χρησιμοποιούν bots του Telegram για να παρακάμψουν τους περιορισμούς του ChatGPT σε υπόγεια φόρουμ.

Τα bots χρησιμοποιούν το API (application programming interface) της OpenAI για να επιτρέψουν τη δημιουργία κακόβουλων μηνυμάτων ηλεκτρονικού ταχυδρομείου ή κώδικα. Οι κατασκευαστές bot καλύπτουν επί του παρόντος έως και 20 δωρεάν αιτήματα, αλλά στη συνέχεια χρεώνουν 5,50 δολάρια για κάθε 100. Η CPR προειδοποιεί για συνεχείς προσπάθειες από εγκληματίες στον κυβερνοχώρο να παρακάμψουν τους περιορισμούς της OpenAI προκειμένου να χρησιμοποιήσουν το ChatGPT για να κλιμακώσουν κακόβουλους σκοπούς.

Συνομιλία Telegram ChatGPT Bot-as-a-Service

Η CPR βρήκε διαφημίσεις bots Telegram σε υπόγεια φόρουμ. Τα bots χρησιμοποιούν το API του OpenAI για να επιτρέψουν σε έναν παράγοντα απειλής να δημιουργήσει κακόβουλα μηνύματα ηλεκτρονικού ταχυδρομείου ή κώδικα. Οι δημιουργοί του bot προσφέρουν έως και 20 δωρεάν αιτήματα, αλλά στη συνέχεια χρεώνουν 5.50 $ για κάθε 100.

Εικόνα 1. Υπόγεια διαφήμιση του bot OpenAI στο Telegram σε φόρουμ

Εικόνα 2. Παράδειγμα ηλεκτρονικού “ψαρέματος” που δημιουργήθηκε σε ένα Telegram bot για να αποδείξει τη δυνατότητα χρήσης του API του OpenAI χωρίς περιορισμούς

Εικόνα 3. Παράδειγμα της δυνατότητας δημιουργίας κώδικα κακόβουλου λογισμικού χωρίς περιορισμούς κατάχρησης σε ένα Telegram bot χρησιμοποιώντας το API OpenAI

Εικόνα 4. Το μοντέλο επιχειρηματικής λειτουργίας του καναλιού ChatGPT με βάση το API

Google: Απαντά στη Microsoft με περισσότερη τεχνητή νοημοσύνη

Σενάρια για παράκαμψη περιορισμών ChatGPT

Η CPR παρατήρησε επίσης τους εγκληματίες του κυβερνοχώρου να δημιουργούν βασικές δέσμες ενεργειών που χρησιμοποιούν το OpenAIs API για να παρακάμψουν τους περιορισμούς κατάχρησης.

Εικόνα 5. Παράδειγμα δέσμης ενεργειών που υποβάλλει απευθείας ερώτημα στο API και παρακάμπτει τους περιορισμούς για την ανάπτυξη κακόβουλου λογισμικού

Πηγή: OT.gr

Headlines