Τι πρέπει να ξέρετε
- Η Microsoft παρουσιάζει ένα νέο εργαλείο διόρθωσης για την πρόληψη παραισθήσεων με τεχνητή νοημοσύνη.
- Οι ειδικοί ισχυρίζονται ότι το εργαλείο μπορεί να αντιμετωπίσει ορισμένα από τα ζητήματα που επηρεάζουν την τεχνολογία, αλλά δεν είναι ασήμαντο για την ακρίβεια και μπορεί επίσης να δημιουργήσει κρίσιμα ζητήματα.
- Ισχυρίζονται επίσης ότι το εργαλείο μπορεί να δημιουργήσει μια λανθασμένη αίσθηση ασφάλειας στους άπληστους χρήστες τεχνητής νοημοσύνης, οι οποίοι μπορεί να το εκλάβουν ως προστασία έναντι λανθασμένων αποτελεσμάτων και παραπληροφόρησης.
Η Microsoft αποκάλυψε πρόσφατα πολλά νέα χαρακτηριστικά ασφάλειας τεχνητής νοημοσύνης για την προώθηση της ασφάλειας, του απορρήτου και της αξιοπιστίας, συμπεριλαμβανομένου ενός νέου εργαλείου που ονομάζεται Διόρθωση. Όπως ίσως μαντέψατε, το εργαλείο έχει σχεδιαστεί για να διορθώνει τα λάθη της τεχνητής νοημοσύνης εντοπίζοντας λανθασμένα και πραγματικά λάθη κατά τη δημιουργία απαντήσεων σε μηνύματα που βασίζονται σε κείμενο.
Το νέο εργαλείο αποτελεί μέρος του API της Microsoft για την ασφάλεια περιεχομένου AI Azure και μπορεί να χρησιμοποιηθεί σε πολλά μοντέλα τεχνητής νοημοσύνης γενιάς κειμένου, συμπεριλαμβανομένου του Meta’s Llama και του OpenAI του GPT-4o. Ενώ μιλούσε σε TechCrunchένας εκπρόσωπος της Microsoft αποκάλυψε ότι το εργαλείο βασίζεται σε μικρά και μεγάλα γλωσσικά μοντέλα που της επιτρέπουν να ελέγχει τα γεγονότα από μια αξιόπιστη πηγή.
Ωστόσο, οι ειδικοί προειδοποιούν ότι το εργαλείο μπορεί να μην είναι μια ασημένια σφαίρα στα επεισόδια παραισθήσεων του AI. Σύμφωνα με τον OS Keyes, υποψήφιο διδάκτορα στο Πανεπιστήμιο της Ουάσιγκτον:
“Η προσπάθεια εξάλειψης των παραισθήσεων από τη γενετική τεχνητή νοημοσύνη είναι σαν να προσπαθείς να εξαλείψεις το υδρογόνο από το νερό. Είναι ένα ουσιαστικό συστατικό του τρόπου λειτουργίας της τεχνολογίας.”
Οι ψευδαισθήσεις δεν είναι το μόνο πρόβλημα της τεχνητής νοημοσύνης
Στις αρχές του Bing Chat (τώρα Microsoft Copilot) οι χρήστες εξέφρασαν την απογοήτευσή τους σχετικά με την εμπειρία χρήστη του εργαλείου, αναφέροντας λανθασμένα αποτελέσματα. Η Microsoft εισήγαγε όρια χαρακτήρων για να αποτρέψει τις μεγάλες συνομιλίες, καθώς φαινομενικά μπέρδεψε το chatbot. Ενώ οι περιπτώσεις παραισθήσεων έχουν μειωθεί σημαντικά, δεν σημαίνει απαραίτητα ότι είμαστε στο ξεκάθαρο.
Για παράδειγμα, η λειτουργία AI Overviews της Google εντοπίστηκε πρόσφατα να προτείνει να τρώτε πέτρες και κόλλα, ακόμα και να αυτοκτονήσετε. Η εταιρεία διορθώθηκε γρήγορα το ζήτημα, μεταθέτοντας την ευθύνη σε ένα “κενό δεδομένων” και κατασκεύασε στιγμιότυπα οθόνης.
Ωστόσο, ο εκπρόσωπος της Microsoft ισχυρίζεται ότι το νέο εργαλείο Διόρθωσης θα βελτιώσει σημαντικά την αξιοπιστία και την αξιοπιστία του περιεχομένου που δημιουργείται από την τεχνητή νοημοσύνη, βοηθώντας τους προγραμματιστές εφαρμογών να μειώσουν τη «δυσαρέσκεια των χρηστών και τους πιθανούς κινδύνους φήμης». Ενώ ο εκπρόσωπος παραδέχεται ότι το εργαλείο δεν θα αντιμετωπίσει τα ζητήματα ακρίβειας που αφορούν την τεχνητή νοημοσύνη, θα ευθυγραμμίσει τις εξόδους του με έγγραφα γείωσης.
Ο Keyes ισχυρίζεται ότι το εργαλείο διόρθωσης μπορεί να αντιμετωπίσει ορισμένα από τα ζητήματα που επηρεάζουν την τεχνητή νοημοσύνη, αλλά θα δημιουργήσει νέα εξίσου. Ορισμένοι ισχυρίζονται ακόμη και ότι το εργαλείο μπορεί να δημιουργήσει μια ψευδή αίσθηση ασφάλειας, ωθώντας τους χρήστες να παρερμηνεύσουν εσφαλμένες πληροφορίες που δημιουργούνται χρησιμοποιώντας την τεχνητή νοημοσύνη ως την αλήθεια του Ευαγγελίου.
Θα είναι ενδιαφέρον να δούμε πώς το νέο εργαλείο Διόρθωσης έχει απήχηση στους άπληστους χρήστες τεχνητής νοημοσύνης και αν θα συμβάλει καθοριστικά στην ανίχνευση παραισθήσεων τεχνητής νοημοσύνης, καθιστώντας τελικά τις απαντήσεις που δημιουργούνται από την τεχνητή νοημοσύνη πιο αξιόπιστες.
Σε άλλο σημείο, η Microsoft παρουσίασε πρόσφατα το Copilot Academy—ένα νέο πρόγραμμα που σχεδιάστηκε για να βοηθήσει τους χρήστες να αξιοποιήσουν τις δυνατότητες του Copilot στο βέλτιστο επίπεδο. Σύμφωνα με μια ξεχωριστή αναφορά, το κορυφαίο παράπονο στο τμήμα Copilot της Microsoft είναι ότι το εργαλείο AI δεν λειτουργεί τόσο καλά όσο το ChatGPT του OpenAI. Η Microsoft ισχυρίστηκε ότι αυτό συμβαίνει επειδή οι χρήστες δεν αξιοποιούν τις δυνατότητές της όπως προβλεπόταν.
🎃Οι καλύτερες προσφορές για την πρώιμη Black Friday🦃
VIA: WindowsCentral
