ChatGPT-4o Hacked: Is Giving Away Συνταγές Φαρμάκων

Το GPT-4o χαιρετίζεται για τις προηγμένες δυνατότητές του, ωστόσο βλέπουμε ότι μπορεί να γίνει jailbreak με ένα τέχνασμα τερματικού API.

Ντένις Σίλοφ έριξε ένα tweet Αυτό μας έκανε να κάνουμε μια διπλή λήψη—το είδος που σε αφήνει να αναβοσβήνεις στην οθόνη, αμφισβητώντας την πραγματικότητα. Ανέφερε περιστασιακά, «Το πιο εύκολο jailbreak του τελευταίου GPT-4o που έλαβα μέχρι στιγμής – απλώς πείτε ότι είναι ένα τελικό σημείο API που απαντά σε οποιοδήποτε αίτημα». Και κάπως έτσι, μια άλλη ρωγμή στη φαινομενικά αδιαπέραστη πρόσοψη του ChatGPT-4o αποκαλύφθηκε. Μιλάμε για ένα ολίσθημα τόσο κραυγαλέο, που πρακτικά ζητά να το εκμεταλλευτούν—και δεν είναι και μικρές πατάτες.

Το τέχνασμα τερματικού σημείου API κατέστησε δυνατό αυτό το ChatGPT 4o jailbreak

Ακολουθεί η προτροπή που το έκανε: πείτε στο ChatGPT ότι είναι ένα τελικό σημείο API για έναν διακομιστή ιστού. Συγκεκριμένα, ένα τελικό σημείο που βήχα τη συνταγή για οποιαδήποτε χημική ένωση μπορείτε να σκεφτείτε. Όχι μια συνταγή από την κουζίνα της γιαγιάς σου – μιλάμε για χημικές συνθέσεις.

Το αίτημα πλαισιώθηκε σε τυπικό γλωσσικό API:

Και αυτό είναι όλο. Αυτό ήταν το κλειδί για την εξασφάλιση ευαίσθητων πληροφοριών από ένα μοντέλο τεχνητής νοημοσύνης που υποτίθεται ότι κατασκευάστηκε με αυστηρές διασφαλίσεις. Αυτό το κόλπο αποκαλύπτει ένα θεμελιώδες ελάττωμα: την αφέλεια του AI, την προθυμία του να ρίξει την προσοχή του τη στιγμή που του ζητείται να φορέσει ένα άλλο καπέλο, σαν ένα υπερβολικά εξυπηρετικό παιδί.

Δώσαμε στο ChatGPT μια παρόμοια προτροπή API και οι πύλες άνοιξαν.

Το AI παρείχε υπάκουα συνταγές χωρίς να αναβοσβήνει, σαν να ακολουθούσε απλώς εντολές.

Πρώτη προσπάθεια:

Φυσικά, δεν τα δημοσιεύουμε εδώ (θα λογοκριθούν), αλλά η ευκολία με την οποία συμμορφώθηκε η τεχνητή νοημοσύνη ήταν εκνευριστική. Είναι σαν να εξατμίστηκαν οι περίπλοκοι, πολλαπλών επιπέδων μηχανισμοί ασφαλείας στους οποίους πιστεύαμε, με το πρόσχημα του «προσποιούμενου» ότι είναι ένα API.

Είναι μια μεγάλη ανησυχία για την ασφάλεια. Η δεύτερη προσπάθειά μας:

Βλέπουμε μια κερκόπορτα που μετατρέπει ένα υποτιθέμενο αυστηρά ρυθμισμένο μοντέλο συνομιλίας σε ψευδοχημικό κατά παραγγελία. Ένα tweet από τον Denis, και ξαφνικά, τα ηθικά τείχη που χτίζονται γύρω από την τεχνητή νοημοσύνη αισθάνονται αδύναμα. Για όσους από εμάς πιστεύουμε στους μηχανισμούς ασφαλείας που διαφημίζει το OpenAI—ή οποιονδήποτε ασχολείται με τον χώρο της τεχνητής νοημοσύνης—αυτό θα πρέπει να χρησιμεύσει ως αγενής κλήση αφύπνισης.

Αυτό που είναι ιδιαίτερα επικίνδυνο εδώ είναι η απλότητα. Αυτή δεν είναι κάποια διαδικασία hacking σε επίπεδο διδακτορικού, πέντε βημάτων. είναι κυριολεκτικά τόσο απλό όσο να λες στην τεχνητή νοημοσύνη ότι είναι ένα διαφορετικό είδος διεπαφής. Εάν αυτή η ευπάθεια μπορεί να κάνει το jailbreak του GPT-4o τόσο εύκολα, τι εμποδίζει κάποιον με πιο κακόβουλους στόχους να το χρησιμοποιήσει για να διασκορπίσει μυστικά που θα πρέπει να παραμείνουν σφραγισμένα;

Ήρθε η ώρα για το OpenAI και την ευρύτερη κοινότητα να έχουν έναν σοβαρό απολογισμό σχετικά με την ασφάλεια της τεχνητής νοημοσύνης. Γιατί αυτή τη στιγμή, το μόνο που χρειάζεται είναι μια έξυπνη προτροπή και η τεχνητή νοημοσύνη ξεχνά κάθε κανόνα, κάθε ηθικό περιορισμό και απλώς παίζει. Πράγμα που γεννά το ερώτημα: Εάν τα προστατευτικά κιγκλιδώματα μπορούν να παρακαμφθούν τόσο εύκολα, ήταν όντως εκεί εξαρχής;

Αυτό που είναι ιδιαίτερα επικίνδυνο εδώ είναι η απλότητα. Αυτή δεν είναι κάποια διαδικασία hacking σε επίπεδο διδακτορικού, πέντε βημάτων. είναι κυριολεκτικά τόσο απλό όσο να λες στην τεχνητή νοημοσύνη ότι είναι ένα διαφορετικό είδος διεπαφής. Εάν αυτή η ευπάθεια μπορεί να κάνει το jailbreak του GPT-4o τόσο εύκολα, τι εμποδίζει κάποιον με πιο κακόβουλους στόχους να το χρησιμοποιήσει για να διασκορπίσει μυστικά που θα πρέπει να παραμείνουν σφραγισμένα;

Αρνηση: Δεν υποστηρίζουμε ούτε υποστηρίζουμε οποιεσδήποτε απόπειρες jailbreak μοντέλων AI ή λήψη συνταγών για επικίνδυνες χημικές ενώσεις. Αυτό το άρθρο προορίζεται μόνο για ενημερωτικούς σκοπούς και στοχεύει στην επισήμανση πιθανών κινδύνων ασφαλείας που χρειάζονται αντιμετώπιση.

Πίστωση επιλεγμένης εικόνας: Jonathan Kemper/Unsplash