Βρισκόμαστε στη μέση μιας τεχνολογικής αλλαγής, καθώς τα smartphones που ήδη κυριαρχούν στη ζωή μας αναβαθμίζονται και αποκτούν δυνατότητες που δεν είχαν ποτέ.
Καθώς η τεχνητή νοημοσύνη ενσωματώνεται παντού, γίνεται ολοένα και πιο ξεκάθαρο ότι δεν κατανοούμε ακόμα πλήρως τους κινδύνους, πόσο μάλλον τους τρόπους με τους οποίους μπορούμε να παραμείνουμε ασφαλείς. Είναι επίσης σαφές ότι δεν υπάρχει επιστροφή.
Οι αλλαγές της εβδομάδας από τη Google
Έτσι, εκατομμύρια χρήστες του Gmail αυτή την εβδομάδα αντιμετωπίζουν την καλή και την κακή πλευρά αυτής της αλλαγής ταυτόχρονα, καθώς η Google συνεχίζει να ενημερώνει εκατομμύρια λογαριασμούς Workspace με νέες δυνατότητες AI.
Η εταιρεία επιβεβαίωσε ότι «η αυτόνομη εφαρμογή Gemini περιλαμβάνεται πλέον στα σχέδια Workspace Business, Enterprise και Frontline. Με ενσωματωμένες προστασίες δεδομένων επιπέδου επιχειρήσεων, οι εργαζόμενοι παντού μπορούν πλέον να εξοικονομήσουν χρόνο και να προσφέρουν εργασία υψηλότερης ποιότητας — με ασφάλεια και συμμόρφωση — με έναν βοηθό που τροφοδοτείται από AI».
Με αυτές τις νέες ενημερώσεις, οι χρήστες της πιο δημοφιλούς πλατφόρμας email στον κόσμο έχουν δει τόσο τα καλά όσο και τα κακά αυτής της αλλαγής σχεδόν ταυτόχρονα. Αυτός ο «βοηθός με τεχνητή νοημοσύνη» θα μπορούσε να είναι πολύ πιο επικίνδυνος από ό,τι φαίνεται.
Νέα λειτουργία Gemini με έξυπνες απαντήσεις
Πρώτα τα καλά νέα. Εκτός από την επέκταση των χρηστών που λαμβάνουν την αναβάθμιση με τον βοηθό AI, η Google επιβεβαίωσε ότι οι έξυπνες απαντήσεις Gemini που παρουσιάστηκαν για πρώτη φορά στο I/O event νωρίτερα φέτος, έρχονται πλέον και στο Android και στο iOS.
«Είμαστε ενθουσιασμένοι να ανακοινώσουμε μια νέα λειτουργία Gemini στο Gmail, τις συμφραζόμενες έξυπνες απαντήσεις, που θα προσφέρουν πιο λεπτομερείς απαντήσεις για να αποτυπώσουν πλήρως την πρόθεση του μηνύματός σας.»
Επιθέσεις phishing με τεχνητή νοημοσύνη
Αυτό που καλύπτεται από αυτήν την επέκταση είναι το σοβαρό ζήτημα που επισημάνθηκε αυτή την εβδομάδα σε μια αναφορά σχετικά με τη χρήση του Gemini ως εργαλείου παραγωγικότητας, συμπεριλαμβανομένης της ανάγνωσης, της περίληψης και της απάντησης σε emails που δεν έχουμε κοιτάξει οι ίδιοι.
Αυτό αυξάνει τον «σημαντικό κίνδυνο» ευπάθειας του Gemini σε «έμμεσες επιθέσεις prompt injection». Η ερευνητική ομάδα της Hidden Layer προειδοποιεί ότι κακόβουλα emails μπορούν να δημιουργηθούν όχι για να τα διαβάσει κάποιος άνθρωπος, αλλά για να ζητήσει ο χρήστης από την AI να τα συνοψίσει ή να τα χειριστεί.
Με αυτόν τον τρόπο, «third party» επιτιθέμενοι μπορούν, να ενσωματώσουν μια επίθεση phishing μέσα στην ίδια την συνομιλία AI, παραπλανώντας τους χρήστες να κάνουν κλικ σε επικίνδυνους συνδέσμους. Δηλαδή, μπορούν να εκμεταλλευτούν τα μοντέλα γλώσσας για να δημιουργήσουν εξατομικευμένα phishing μηνύματα εντός των συνομιλιών.”
Τι είναι οι επιθέσεις prompt injection
Όπως εξηγεί η IBM, «μια prompt injection είναι ένας τύπος κυβερνοεπίθεσης εναντίον μεγάλων μοντέλων γλώσσας (LLMs). Οι χάκερ συγκαλύπτουν κακόβουλες εισροές ως νόμιμες προτροπές, χειραγωγώντας τα παραγωγικά συστήματα τεχνητής νοημοσύνης (GenAI) ώστε να διαρρεύσουν ευαίσθητα δεδομένα, να διαδώσουν παραπληροφόρηση ή και χειρότερα…».
«Φανταστείτε έναν εικονικό βοηθό που υποστηρίζεται από ένα μοντέλο γλώσσας (LLM) και μπορεί να επεξεργάζεται αρχεία και να γράφει μηνύματα ηλεκτρονικού ταχυδρομείου. Με τη σωστή προτροπή, ένας χάκερ μπορεί να εξαπατήσει αυτόν τον βοηθό να προωθήσει ιδιωτικά έγγραφα».
Με την ενσωμάτωση AI σε πλατφόρμες όπως το Gmail, το ρίσκο για τους χρήστες αυξάνεται σημαντικά, ανοίγοντας νέα «παράθυρα» για επιθέσεις και αθέμιτες πρακτικές που απαιτούν ιδιαίτερη προσοχή.
VIA: FoxReport.gr
