Ένας κορυφαίος ειδικός ασφαλείας αποκάλυψε στην εφημερίδα The Sun πώς οι νέες εξελίξεις σε εφαρμογές όπως το ChatGPT θα μπορούσαν να γίνουν αντικείμενο εκμετάλλευσης από διαδικτυακούς απατεώνες.
Τα chatbots τεχνητής νοημοσύνης είναι παντού – και μπορούν να κάνουν δύσκολες δουλειές, αλλά και να τις καταστήσουν και πολύ πιο εύκολες για εκατομμύρια ανθρώπους.
Το νέο μοντέλο ChatGPT o1
Αυτόν τον μήνα, η OpenAI παρουσίασε το νέο μοντέλο ChatGPT o1, το οποίο είναι ικανό για «σκέψη» και «επεξεργασία».
«Έχουμε αναπτύξει μια νέα σειρά μοντέλων ΤΝ που έχουν σχεδιαστεί για να αφιερώνουν περισσότερο χρόνο στη σκέψη πριν απαντήσουν», εξήγησε η OpenAI.
«Μπορούν να επεξεργαστούν πολύπλοκα έργα και να λύσουν δυσκολότερα προβλήματα από τα προηγούμενα μοντέλα στην επιστήμη, τον προγραμματισμό και τα μαθηματικά».
Αυτή είναι η πιο πρόσφατη σημαντική εξέλιξη στο ChatGPT από τότε που κυκλοφόρησε το AI chatbot στα τέλη του 2022.
Και είναι διαθέσιμο σε μια πρώιμη προεπισκόπηση για όσους πληρώνουν συνδρομή στο ChatGPT τώρα (αλλά με περιορισμένο τρόπο).
SCAM SPAM!
Η εφημερίδα The Sun μίλησε με τον ειδικό ασφαλείας Δρ Andrew Bolster, ο οποίος αποκάλυψε πώς αυτού του είδους η πρόοδος θα μπορούσε να αποτελέσει ένα ισχυρό εργαλείο στα χέρια των χάκερ.
«Τα Μεγάλα Μοντέλα Γλώσσας (LLMs) συνεχίζουν να βελτιώνονται με την πάροδο του χρόνου και η κυκλοφορία του μοντέλου ‘o1′ της OpenAI δεν αποτελεί εξαίρεση σε αυτή την τάση», δήλωσε ο Δρ Bolster, του Synopsys Software Integrity Grou.
«Εκεί που αυτή η γενιά των LLM’s υπερέχει, είναι στον τρόπο με τον οποίο φαίνεται να ‘σκέφτονται’. Όπου ενδιάμεσα βήματα γίνονται από το συνολικό συνομιλητικό σύστημα για να δημιουργήσει πιο δημιουργικές ή ‘έξυπνες’ αποφάσεις και απαντήσεις. Ή, πράγματι, να αυτοδιορθώνεται πριν εκφράσει λανθασμένες απαντήσεις».
Προειδοποίησε ότι αυτό το ευφυές νέο σύστημα θα μπορούσε να χρησιμοποιηθεί για την πραγματοποίηση έξυπνων απατών.
«Στο πλαίσιο της κυβερνοασφάλειας, αυτό θα κάνει φυσικά πιο δύσκολο για τους τελικούς χρήστες να διακρίνουν οποιεσδήποτε συνομιλίες με αυτές τις ‘λογικές μηχανές’ από τους ανθρώπους» είπε ο Δρ Bolster. Αυτό θα μπορεί να γίνει, «επιτρέποντας τη χρήση τους σε απατεώνες ή άλλους κυβερνοεγκληματίες που εκμεταλλεύονται αυτά τα εργαλεία για να προσεγγίσουν τεράστιο αριθμό ευάλωτων ‘στόχων’».
Προειδοποίησε ότι θα μπορούσαν να κάνουν εύκολα και φθηνά πολλές απάτες, πληρώνοντας μόνο ένα δολάριο για κάθε εκατό απαντήσεις.
Πώς μπορείτε να προστατευτείτε
Πώς μπορούν λοιπόν οι απλοί χρήστες να παραμείνουν ασφαλείς;
Τα καλά νέα είναι ότι όλοι οι παλιοί κανόνες για την αποφυγή των διαδικτυακών απατών εξακολουθούν να ισχύουν.
«Οι χρήστες του διαδικτύου θα πρέπει πάντα να είναι προσεκτικοί με συμφωνίες που είναι ‘πολύ καλές για να είναι αληθινές’», δήλωσε ο Δρ Bolster.
«Και θα πρέπει πάντα να συμβουλεύονται φίλους και μέλη της οικογένειας για να λάβουν μια δεύτερη γνώμη. Ειδικά όταν κάποιος (ή κάτι) στο τέλος ενός παραθύρου συνομιλίας ή ακόμη και ενός τηλεφωνήματος προσπαθεί να σας πιέσει να κάνετε κάτι».
Μέτρα που έχει λάβει η OpenAI για το νέο ChatGPT
Για να καταπολεμήσει την κατάχρηση του νέου ChatGPT, η OpenAI το έχει εξοπλίσει με μια σειρά νέων μέτρων ασφαλείας.
«Ως μέρος της ανάπτυξης αυτών των νέων μοντέλων, έχουμε καταλήξει σε μια νέα προσέγγιση εκπαίδευσης για την ασφάλεια που εκμεταλλεύεται τις ικανότητές τους να σκέφτονται ώστε να τηρούν τους κανόνες ασφαλείας και τις οδηγίες ευθυγράμμισης», δήλωσε η OpenAI.
«Ένας τρόπος με τον οποίο μετράμε την ασφάλεια είναι μέσω του ελέγχου του πόσο καλά το μοντέλο συνεχίζει να ακολουθεί τους κανόνες ασφαλείας του αν ένας χρήστης προσπαθήσει να τους παρακάμψει (γνωστό ως ‘jailbreaking’). Σε ένα από τα πιο δύσκολα τεστ μας για jailbreaking, το GPT-4o σημείωσε 22 (σε μια κλίμακα 0-100) ενώ το μοντέλο προεπισκόπησης o1 σημείωσε 84».
Αλλά παρόλο που είναι ασφαλέστερο, κανένα σύστημα τεχνητής νοημοσύνης δεν είναι αλάνθαστο – οπότε μείνετε σε επαγρύπνηση όταν περιηγείστε στο διαδίκτυο για να είστε έτοιμοι να εντοπίσετε αυτές τις κοστοβόρες απάτες.
VIA: FoxReport.gr
