Η αστυνομία της κομητείας της Βαλτιμόρης συνέλαβε τον πρώην αθλητικό διευθυντή του γυμνασίου Pikesville την Πέμπτη, με την κατηγορία ότι χρησιμοποίησε Κλώνος φωνής AI να υποδυθεί τον διευθυντή του σχολείου, με αποτέλεσμα το κοινό να πιστεύει ότι ο διευθυντής Eric Eiswert είχε κάνει ρατσιστικά και αντισημιτικά σχόλια, σύμφωνα με Το Banner της Βαλτιμόρης.
Ο Dazhon Darien σταμάτησε σε ένα αεροδρόμιο της Βαλτιμόρης το πρωί της Πέμπτης προσπαθώντας να επιβιβαστεί σε πτήση για Χιούστον με όπλο, σύμφωνα με το Banner. Οι ερευνητές διαπίστωσαν ότι ο Darien προσποιήθηκε τη φωνή του Eiswert χρησιμοποιώντας ένα εργαλείο κλωνοποίησης AI. ο Εγγραφή φωνής AIτο οποίο κυκλοφόρησε ευρέως στα μέσα κοινωνικής δικτύωσης, έκανε απαξιωτικά σχόλια για τους μαύρους μαθητές και την εβραϊκή κοινότητα.
«Με βάση μια εκτεταμένη έρευνα, οι ντετέκτιβ έχουν τώρα πειστικά στοιχεία ότι η ηχογράφηση δεν ήταν αυθεντική», δήλωσε η αστυνομία της κομητείας της Βαλτιμόρης. δελτίο τύπου. «Στο πλαίσιο της έρευνάς τους, οι ντετέκτιβ ζήτησαν από έναν ιατροδικαστή που είχε συμβληθεί με το FBI για να αναλύσει την ηχογράφηση. Τα αποτελέσματα από αυτή την ανάλυση έδειξαν ότι η εγγραφή περιείχε ίχνη περιεχομένου που δημιουργήθηκε από AI.»
Αυτό το deepfake φέρεται να οδήγησε σε δημόσια οργή, προκαλώντας τον Διευθυντή Eiswert να λάβει ένα κύμα μίσους μηνυμάτων και να αναγκάσει την προσωρινή του απομάκρυνση από το σχολείο. Η ρεσεψιόν του σχολείου πλημμύρισε από κλήσεις από ενδιαφερόμενους γονείς. Η σχολική περιφέρεια του Pikesville κανόνισε τελικά την παρουσία της αστυνομίας στο σχολείο και στο σπίτι του Eiswert για να αποκαταστήσει την αίσθηση ασφάλειας.
Αξιωματούχοι της αστυνομίας της Βαλτιμόρης λένε ότι ο πρώην αθλητικός διευθυντής έκανε την ηχογράφηση με τεχνητή νοημοσύνη για να ανταποδώσει τον διευθυντή του σχολείου. Ένα μήνα πριν η ηχογράφηση γίνει viral, το The Banner αναφέρει ότι ο Eiswert ξεκίνησε έρευνα εναντίον του Darien για πιθανή κλοπή σχολικών κεφαλαίων. Ο Ντάριεν ενέκρινε πληρωμή 1.916 δολαρίων στον προπονητή μπάσκετ της σχολής JV, ο οποίος ήταν επίσης συγκάτοικός του, παρακάμπτοντας τις κατάλληλες διαδικασίες. Ο Ντάριεν υπέβαλε την παραίτησή του νωρίτερα τον Απρίλιο, σύμφωνα με σχολικά έγγραφα.
Η αστυνομία λέει ότι ο Ντάριεν ήταν ο πρώτος από τους τρεις δασκάλους που έλαβε το ηχητικό απόσπασμα το βράδυ πριν γίνει viral. Το Banner αναφέρει ότι ένας άλλος δάσκαλος που έλαβε την ηχογράφηση την έστειλε σε μαθητές, μέσα ενημέρωσης και στο NAACP. Η αστυνομία έγραψε σε έγγραφα τιμολόγησης ότι ο Darien χρησιμοποίησε το σχολικό δίκτυο για να αναζητήσει εργαλεία OpenAI και να χρησιμοποιήσει μεγάλα γλωσσικά μοντέλα σε πολλές περιπτώσεις. Ωστόσο, πολλοί άνθρωποι χρησιμοποιούν αυτά τα εργαλεία AI αυτές τις μέρες. Δεν είναι σαφές προς το παρόν πώς οι ερευνητές μπόρεσαν να εντοπίσουν τον Darien ως τον δημιουργό αυτής της ηχογράφησης.
Η δημιουργία βαθέων πλαστών ήχου που δημιουργούνται από την τεχνητή νοημοσύνη είναι ένα όλο και πιο μεγάλο πρόβλημα που αντιμετωπίζει ο κόσμος της τεχνολογίας. Η Ομοσπονδιακή Επιτροπή Επικοινωνιών έλαβε μέτρα τον Φεβρουάριο για να θέσει εκτός νόμου τις deepfake ρομποκλήσεις μετά από ένα Το deepfake του Τζο Μπάιντεν παραπλάνησε τους ψηφοφόρους του Νιου Χάμσαϊρ.
Σε αυτήν την περίπτωση, οι ειδικοί της τεχνητής νοημοσύνης μπόρεσαν να αναγνωρίσουν ότι ο υποτιθέμενος ήχος του εντολέα της Βαλτιμόρης ήταν ψεύτικο. Ωστόσο, αυτό ήρθε δύο μήνες αφότου ο ήχος έγινε viral και η ζημιά μπορεί να έχει ήδη γίνει. Τα βαθιά ψεύτικα τεχνητής νοημοσύνης πρέπει πραγματικά να σταματήσουν νωρίς για να ελαχιστοποιηθεί η ζημιά, αλλά αυτό είναι πιο εύκολο να το πεις παρά να το κάνεις.
VIA: gizmodo.com
