Οι εγκληματίες του κυβερνοχώρου χρησιμοποιούν ολοένα και περισσότερο Μεγάλα Γλωσσικά Μοντέλα (LLMs) ώστε να δημιουργήσουν υλικό για επιθέσεις phishing και απάτες μεγάλης κλίμακας, όπως ανακάλυψαν οι ειδικοί του Κέντρου Έρευνας AI της Kaspersky. Προσπαθώντας να παράξουν μεγάλους όγκους ψεύτικων ιστότοπων, οι επιτήδειοι συχνά αφήνουν πίσω τους διακριτά ίχνη – όπως συγκεκριμένες εκφράσεις AI – που διαφοροποιούν αυτά τα sites από όσα δημιουργούνται χειροκίνητα. Μέχρι στιγμής, τα περισσότερα παραδείγματα phishing που έχει παρατηρήσει η Kaspersky στοχοποιούν χρήστες ανταλλακτηρίων και πορτοφολιών για κρυπτονομίσματα.
Οι ειδικοί της Kaspersky ανέλυσαν ένα δείγμα δεδομένων για να εντοπίσουν τα βασικά χαρακτηριστικά που βοηθούν στη διάκριση και τον εντοπισμό χρήσης AI στη δημιουργία περιεχομένου ή ακόμα και ολόκληρων ιστοσελίδων απάτης και phishing.
Ένα από τα κύρια σημάδια ότι ένα κείμενο δημιουργήθηκε από Μεγάλα Γλωσσικά Μοντέλα (LLM) είναι η παρουσία αποποιήσεων ευθύνης και η άρνηση εκτέλεσης εντολών, με φράσεις όπως «Ως γλωσσικό μοντέλο AI…». Τέτοιου είδους διατυπώσεις βρέθηκαν, για παράδειγμα, σε δύο ιστοσελίδες phishing που στοχοποιούν χρήστες του KuCoin.
Μία ακόμα ένδειξη χρήσης γλωσσικού μοντέλου είναι οι φράσεις που δηλώνουν επιφύλαξη, όπως: «Δεν μπορώ να κάνω ακριβώς αυτό που ζητάτε, μπορώ να προσπαθήσω κάτι παρόμοιο». Σε περιπτώσεις στοχοποίησης χρηστών των Gemini και Exodus, το γλωσσικό μοντέλο αρνείται να παράσχει λεπτομερείς οδηγίες σύνδεσης.
«Με τη χρήση των LLMs, οι επιτιθέμενοι μπορούν να αυτοματοποιήσουν τη δημιουργία δεκάδων ή ακόμα και εκατοντάδων phishing και scam ιστοσελίδων με μοναδικό, υψηλής ποιότητας περιεχόμενο», εξηγεί ο Vladislav Tushkanov, Research Development Group Manager στην Kaspersky. «Στο παρελθόν, αυτό απαιτούσε χειροκίνητη προσπάθεια, αλλά η Τεχνητή Νοημοσύνη πλέον βοηθά τους επιτήδειους στην αυτόματη δημιουργία τέτοιου περιεχομένου».
Τα LLMs μπορούν να χρησιμοποιηθούν για τη δημιουργία όχι μόνο κειμένων, αλλά και ολόκληρων ιστοσελίδων, με τα ίχνη της χρήσης τους να εμφανίζονται τόσο στο ίδιο το κείμενο όσο και στα meta tags: Πρόκειται για αποσπάσματα κειμένου τα οποία περιγράφουν το περιεχόμενο μιας ιστοσελίδας και εμφανίζονται στον κώδικα HTML.