Καθώς ο Κυβερνήτης της Καλιφόρνια Γκάβιν Νιούσομ σκέφτεται να υπογράψει ή να ασκήσει βέτο στον σκληρά αμφισβητούμενο νομοσχέδιο για την ασφάλεια της τεχνητής νοημοσύνης SB 1047, η SAG-AFTRA και δύο ομάδες γυναικών τον πιέζουν να το εγκρίνει – προσθέτοντας ακόμη περισσότερες φωνές σε μια ήδη φρενήρη συζήτηση. Η ένωση καλλιτεχνών, η Εθνική Οργάνωση για τις Γυναίκες (NOW) και η Fund Her έχουν στείλει επιστολές στην Newsom, όλες τις οποίες έχουν λάβει από The Verge και δημοσιεύονται εδώ για πρώτη φορά.
Τα γράμματα από SAG-AFTRA, ΤΩΡΑκαι Χρηματοδοτήστε την επισημάνετε τις ανησυχίες σχετικά με τη δυνατότητα της τεχνητής νοημοσύνης να προκαλέσει καταστροφική βλάβη εάν η τεχνολογία αφεθεί ανεξέλεγκτη. Το SAG-AFTRA περιγράφει την εντολή του SB 1047 για τους προγραμματιστές να δοκιμάζουν και να προστατεύονται από καταστροφές με δυνατότητα τεχνητής νοημοσύνης, όπως οι επιθέσεις στον κυβερνοχώρο σε υποδομές ζωτικής σημασίας ή την ανάπτυξη βιολογικών όπλων. NOW and Fund Her αναφέρουν τάφο προειδοποιήσεις από άνθρωποι στην πρώτη γραμμή της τεχνητής νοημοσύνης και συζητήστε τις δυνητικά δυσανάλογες επιπτώσεις της τεχνολογίας σε ευάλωτες ομάδες.
SAG-AFTRA αναρτήθηκε μια κλήση για υποστήριξη χθες στο X από το 160.000 μέλητο οποίο συμπεριλαμβάνω αστέρια όπως η Scarlett Johansson και ο Tom Hanks. ΤΩΡΑ, το μεγαλύτερη φεμινιστική οργάνωση στις ΗΠΑ με περίπου 500.000 μέλη, δήλωσε ότι υποκινείται από ισχυρισμούς ειδικών «για το πόσο επικίνδυνη μπορεί να είναι αυτή η απίστευτη τεχνολογία εάν δεν αναπτυχθεί και δεν αναπτυχθεί υπεύθυνα». Χρηματοδοτήστε την, ένα PAC που έχει βοήθησε στην εκλογή 12 προοδευτικές γυναίκες σε εξέχουσες θέσεις στην Καλιφόρνια το 2022, γράφει για τον «αγώνα για την ανάπτυξη της πρώτης ανεξάρτητης τεχνητής νοημοσύνης», οπότε «θα είναι πολύ αργά για να επιβληθούν προστατευτικά κιγκλιδώματα».
Το SAG-AFTRA και το NOW αντιπροσωπεύουν τους πιο πρόσφατους ισχυρούς παίκτες που βαρύνουν το νομοσχέδιο της Καλιφόρνια, το οποίο έχει γίνει αντικείμενο εξαιρετικού εθνικού ενδιαφέροντος και ανακατώνει τα συμβατικά κομματικά όρια.
SB 1047που συντάχθηκε από τον πολιτειακό γερουσιαστή Scott Wiener, θα ήταν ο πιο σημαντικός νόμος για την ασφάλεια της τεχνητής νοημοσύνης στις ΗΠΑ. Θεσπίζει αστική ευθύνη για τους προγραμματιστές μοντέλων τεχνητής νοημοσύνης επόμενης γενιάς, όπως το ChatGPT, εάν προκαλούν καταστροφές χωρίς την εφαρμογή κατάλληλων διασφαλίσεων. Το νομοσχέδιο περιλαμβάνει επίσης προστασία από τους καταγγέλλοντες για υπαλλήλους εταιρειών τεχνητής νοημοσύνης υποστήριξη από τους πληροφοριοδότες του OpenAI, Daniel Kokotajlo και William Saunders.
«Τα πρότυπα ασφάλειας AI που ορίζει η Καλιφόρνια θα αλλάξουν τον κόσμο»
Το NOW γράφει στην επιστολή του ότι «τα πρότυπα ασφάλειας τεχνητής νοημοσύνης που ορίζονται από την Καλιφόρνια θα αλλάξουν τον κόσμο», μια άποψη που επαναλαμβάνεται από το νομοσχέδιο συνεργάτης Νταν Χέντρικςδιευθυντής του Κέντρο για την ασφάλεια της τεχνητής νοημοσύνης. Λέει ο Χέντρικς The Verge ότι το SB 1047 θα μπορούσε να είναι η «στιγμή του Πατ Μπράουν» του Newsom, αναφερόμενος στον τότε κυβερνήτη της Καλιφόρνια υπογραφή ένας πρωτοποριακός νόμος για τις εκπομπές καυσαερίων αυτοκινήτων το 1966. Παραθέτει αυτό που από τότε έγινε γνωστό ως Εφέ Καλιφόρνια: «όπου η Καλιφόρνια ηγείται σε σημαντικές ρυθμίσεις, ακολουθεί και η υπόλοιπη χώρα».
Έχοντας περάσει και τα δύο σώματα του νομοθετικού σώματος της πολιτείας με ισχυρές πλειοψηφίες στα τέλη Αυγούστου, το νομοσχέδιο αναμένει τώρα την απόφαση του Κυβερνήτη Νιούσομ, η οποία αναμένεται έως τις 30 Σεπτεμβρίου. Το γραφείο του κυβερνήτη είπε ότι «συνήθως δεν σχολιάζει την εκκρεμή νομοθεσία. Αυτό το μέτρο θα αξιολογηθεί με βάση την αξία του».
Παρά αυτό το σχόλιο, η μοίρα του SB 1047 μπορεί να καταλήξει σε έναν πολιτικό υπολογισμό – μια πραγματικότητα που κάθε πλευρά φαίνεται να αναγνωρίζει καθώς υποστηρίζει τις τελευταίες ώρες του νομοσχεδίου.
Οι περίεργοι πολιτικοί συνασπισμοί που έχουν προκύψει στον αγώνα για το SB 1047 προμηνύουν ένα θολό μέλλον για τις πολιτικές μάχες της τεχνητής νοημοσύνης. Ο δισεκατομμυριούχος Έλον Μασκ ευθυγραμμίζεται με ομάδες κοινωνικής δικαιοσύνης και τα εργατικά συνδικάτα υποστηρίζουν το νομοσχέδιο, ενώ η πρώην πρόεδρος της Βουλής Νάνσι Πελόζι, προοδευτικός Κογκρέσος της Βουλής Ρο Χάναεπιχειρηματίας που υποστηρίζει τον Τραμπ Marc Andreessenκαι AI «νονά» Φέι-Φέι Λι είναι όλοι αντίθετοι.
Το AI είναι το σπάνιο ζήτημα που δεν έχει ακόμη ταξινομημένο σε ξεκάθαρα κομματικά στρατόπεδα. Καθώς η τεχνολογία μεγαλώνει σε σημασία, η συζήτηση για το πώς θα τη διακυβέρνηση είναι πιθανό να ενταθεί και μπορεί να συνεχίσει να ανακατεύεται με τις συνήθεις δεσμεύσεις.
Αυτές οι πρόσφατες επιστολές ενώνουν την υποστήριξη για το νομοσχέδιο από οργανισμούς όπως ο σχεδόν 2 εκατομμυρίων ισχυρών SEIU και το Latino Community Foundation.
Το SAG-AFTRA έχει φιλοξενήσει μερικά από τα πιο οργανικά συναισθήματα κατά της AI. Πολλοί ηθοποιοί της οθόνης βλέπω η γενετική τεχνητή νοημοσύνη ως υπαρξιακή απειλή για τα μέσα διαβίωσής τους. Η χρήση της τεχνολογίας ήταν σημαντική σημείο κόλλησης στην απεργία των ηθοποιών του 2023, που είχε ως αποτέλεσμα α απαίτηση ότι τα στούντιο λαμβάνουν ενημερωμένη συγκατάθεση από τους καλλιτέχνες πριν δημιουργήσουν ψηφιακά αντίγραφά τους (οι ηθοποιοί πρέπει επίσης να αποζημιωθούν για τη χρήση τους).
“Η SAG-AFTRA γνωρίζει πολύ καλά τους πιθανούς κινδύνους που εγκυμονεί η τεχνητή νοημοσύνη”
Του σωματείου επιστολή γράφει ότι «η SAG-AFTRA γνωρίζει πολύ καλά τους πιθανούς κινδύνους που εγκυμονεί η τεχνητή νοημοσύνη», αναφέροντας προβλήματα που αντιμετωπίζουν τα μέλη της με τη μορφή μη συναινετικής ψεύτικης πορνογραφίας και κλοπής ομοιωμάτων των καλλιτεχνών. Καταλήγει στο συμπέρασμα ότι «οι φορείς χάραξης πολιτικής έχουν την ευθύνη να παρέμβουν και να προστατεύσουν τα μέλη μας και το κοινό. Το SB 1047 είναι ένα μετρημένο πρώτο βήμα για να φτάσουμε εκεί.”
Σε μια τηλεφωνική συνέντευξη, ο πρόεδρος της οργάνωσης Christian Nunes είπε ότι το NOW ενεπλάκη επειδή η ομάδα ανησυχεί για το πώς η ανεξέλεγκτη τεχνητή νοημοσύνη μπορεί να επηρεάσει τις γυναίκες. Αυτή και ΤΩΡΑ έχουν υποστηρίξει στο παρελθόν προσπάθειες για την απαγόρευση των μη συναινετικών deepfakes.
Στο ΤΩΡΑ επιστολήο Nunes γράφει ότι οι κίνδυνοι για τους οποίους προειδοποιήθηκαν από ειδικούς της τεχνητής νοημοσύνης «θα έπεφταν δυσανάλογα σε ευάλωτες ομάδες, συμπεριλαμβανομένων των γυναικών». Υπογραμμίζει τη «θαρραλέα υποστήριξη του Newsom προς εμάς ενόψει της έντονης πίεσης από λόμπι» για τα αναπαραγωγικά δικαιώματα, την ίση αμοιβή και την οικογενειακή άδεια μετ’ αποδοχών, και ότι αυτή η υποστήριξη «είναι ένας από τους λόγους για τους οποίους οι γυναίκες ψήφισαν [him] ξανά και ξανά.”
Ενώ το SB 1047 δεν έχει σχεδιαστεί ρητά για να αντιμετωπίσει τις πιο κεντρικές ανησυχίες αυτών των ομάδων, οι οργανισμοί φαίνεται να βλέπουν στρατηγική αξία στην ένταξη στον συνασπισμό πίσω από αυτό. είπε η Νούνες The Verge θεωρεί το νομοσχέδιο ως μέρος ενός ευρύτερου έργου για να λογοδοτήσει η Big Tech.
Αυτή η υποστήριξη για το SB 1047 συμπληρώνει άλλες εκκρεμείς νομοθεσίες για την τεχνητή νοημοσύνη που αντιμετωπίζει πιο άμεσα συγκεκριμένα ζητήματα αυτών των ομάδων. Για παράδειγμα, η ομοσπονδιακή Νόμος ΟΧΙ ΠΛΑΣΤΙΚΑ στοχεύει στην καταπολέμηση των deepfakes, ενώ ένα άλλο νομοσχέδιο AI στο γραφείο της Newsom, εγκρίθηκε από SAG-AFTRA, θα ρύθμιζε τη χρήση ψηφιακών αντιγράφων. Υποστηρίζοντας το SB 1047 παράλληλα με αυτές τις πιο στοχευμένες πρωτοβουλίες, αυτοί οι οργανισμοί φαίνεται να ακολουθούν μια ολοκληρωμένη προσέγγιση στη διακυβέρνηση της τεχνητής νοημοσύνης.
Οι επιστολές NOW και Fund Her παρουσιάζουν παραλληλισμούς μεταξύ της μη ρυθμισμένης τεχνητής νοημοσύνης και της ιστορίας των μέσων κοινωνικής δικτύωσης. Fund Η ιδρύτρια και πρόεδρος της Valerie McGinty γράφει στο Το χείλος, «Είδαμε την απίστευτη ζημιά που έχουν επιβάλει τα μέσα κοινωνικής δικτύωσης στα παιδιά μας και πόσο δύσκολο είναι να το αντιστρέψουμε. Δεν θα κολλήσουμε ξανά να παίζουμε catch up, αν ο κυβερνήτης Newsom υπογράψει το SB 1047 στη νομοθεσία.»
Δεν είναι σαφές εάν τα γράμματα θα είναι αρκετά για το νομοσχέδιο να ξεπεράσει τις ισχυρές δυνάμεις που έχουν συσσωρευτεί εναντίον του. Ενώ ο Wiener και άλλοι συνήγοροι περιγράφουν τον κανονισμό ως «ελαφριά αφή» και «κοινή λογική», ο κλάδος είναι, σε γενικές γραμμές, φρικάρει.
Οι ΗΠΑ στηρίζονται επί του παρόντος σχεδόν εξ ολοκλήρου αυτορρύθμιση και μη δεσμευτική εθελοντικές δεσμεύσεις να κυβερνήσει την τεχνητή νοημοσύνη και τη βιομηχανία θα ήθελε να το κρατήσει έτσι. Ως ο πρώτος κανονισμός ασφάλειας τεχνητής νοημοσύνης των ΗΠΑ με δόντια, το SB 1047 θα δημιουργούσε ένα ισχυρό προηγούμενο, το οποίο είναι ένα πιθανό κίνητρο πίσω από αυτές τις επιστολές και τη σθεναρή αντίθεση της βιομηχανίας.
Google, Μετακαι OpenAI πήρε το ασυνήθης βήμα να γράψουν τις δικές τους επιστολές κατά του νομοσχεδίου. Η αντίσταση από τους επενδυτές της τεχνητής νοημοσύνης ήταν ακόμη πιο σκληρή, με την περίφημη θερμοκοιτίδα εκκίνησης Y Combinator (YC) και το venture fund Andreessen Horowitz (a16z) οδηγώντας ένα πάτημα ολόκληρου του γηπέδου για να σκοτώσει το SB 1047. Αυτοί και άλλοι εξέχοντες αντίπαλοι προειδοποιούν ότι το νομοσχέδιο θα μπορούσε ταχύς μια φυγή από την Καλιφόρνια, εκχωρώ οι ΗΠΑ οδηγούν στην τεχνητή νοημοσύνη στην Κίνα και ερημώνω την κοινότητα ανοιχτού κώδικα.
Φυσικά, οι υποστηρικτές αμφισβητούν καθένα από αυτά τα επιχειρήματα. Σε έναν Ιούλιο επιστολή αντιμετωπίζοντας τους ισχυρισμούς της YC και της a16z σχετικά με το νομοσχέδιο, η Wiener επισημαίνει ότι το SB 1047 θα ισχύει για κάθε καλυμμένη εταιρεία τεχνητής νοημοσύνης που δραστηριοποιείται στην Καλιφόρνια, τον κόμβο τεχνητής νοημοσύνης στον κόσμο και την πέμπτη μεγαλύτερη οικονομία. Ο Dario Amodei, Διευθύνων Σύμβουλος της κορυφαίας εταιρείας AI και τελικά de facto υποστηρικτής του SB 1047 Anthropic, κάλεσε την απειλή να εγκαταλείψουμε το «απλώς θέατρο» (παρόλα αυτά έχει επίσης επικαλεστεί OpenAI, Μετακαι Google).
Η Νάνσι Πελόζι χαρακτήρισε το νομοσχέδιο «καλοπροαίρετο αλλά κακώς ενημερωμένο»
Σε αυτήν δήλωση Αντιτιθέμενος στο νομοσχέδιο, η Πελόζι το χαρακτήρισε «καλοπροαίρετο αλλά κακώς ενημερωμένο». Σε μια τηλεφωνική συνέντευξη, ο Wiener είπε: «Τρέφω τεράστιο σεβασμό για τον Επίτιμο Πρόεδρο. Είναι η GOAT», αλλά συνέχισε αποκαλώντας τη δήλωση της Πελόζι «ατυχή» και σημείωσε ότι «ορισμένοι από τους κορυφαίους πρωτοπόρους μηχανικής μάθησης στον πλανήτη υποστηρίζουν το νομοσχέδιο», επικαλούμενοι εγκρίσεις από «νονούς» βαθιάς μάθησης. Τζέφρι Χίντον και Yoshua Bengio. Η Wiener υπογραμμίζει επίσης μια υποστηρικτική ανοιχτή επιστολή δημοσιεύθηκε τη Δευτέρα από πάνω από 100 υπαλλήλους και αποφοίτους κορυφαίων εταιρειών τεχνητής νοημοσύνης.
Για την αξιολόγηση του SB 1047 ως προς τα πλεονεκτήματά του, η πιο πειστική επιστολή μπορεί να είναι ένα δημοσιευμένο από την Anthropic, η οποία έσπασε από τους ομολόγους της για να γράψει ότι τα οφέλη της αναθεωρημένης νομοθεσίας «πιθανότατα υπερτερούν του κόστους της». Αυτή η επιστολή ακολούθησε α γύρο τροπολογιών γίνεται απευθείας σε απάντηση της εταιρείας προηγούμενες καταγγελίες. Η οικογένεια των chatbots Claude της Anthropic οδηγεί τον κόσμο κάποιες μετρήσειςκαι η εταιρεία πιθανότατα θα είναι ένας από τους λίγους προγραμματιστές τεχνητής νοημοσύνης που καλύπτονται άμεσα από τη νομοθεσία στο εγγύς μέλλον.
Με βασικούς ηγέτες του Κογκρέσου υπόσχεται να εμποδίσει ουσιαστικούς ομοσπονδιακούς κανονισμούς τεχνητής νοημοσύνης και εναντίων SB 1047η Καλιφόρνια μπορεί να τα πάει μόνη της, όπως έχει ήδη κάνει ουδετερότητα του δικτύου και απόρρητο δεδομένων. Όπως γράφει το NOW’s Nunes, τα «πρότυπα ασφάλειας τεχνητής νοημοσύνης που θέτει η Καλιφόρνια θα αλλάξουν τον κόσμο», δίνοντας στον κυβερνήτη Newsom την ευκαιρία να γράψει ιστορία και να διαμορφώσει «ισορροπημένη ηγεσία της τεχνητής νοημοσύνης».
Χρηματοδοτήστε της ΜακΓκίντι συνόψισε τη στάση των υποστηρικτών σε ένα email προς The Verge: «Θα πρέπει να ακούσουμε αυτούς τους ειδικούς που ενδιαφέρονται περισσότερο για την ευημερία μας από τα στελέχη της Big Tech που τσιγκουνεύονται την ασφάλεια της τεχνητής νοημοσύνης».
Καθώς πλησιάζει η προθεσμία της 30ής Σεπτεμβρίου, όλα τα βλέμματα είναι στραμμένα στον κυβερνήτη Newsom για να δουν πώς θα διαμορφώσει το μέλλον της διακυβέρνησης της τεχνητής νοημοσύνης στην Καλιφόρνια και πέρα από αυτήν. «Η εμπειρία μου με τον Gavin Newsom είναι — συμφωνώ ή διαφωνώ — ότι παίρνει στοχαστικές αποφάσεις με βάση αυτό που πιστεύει ότι είναι καλύτερο για την πολιτεία», λέει ο Wiener. «Πάντα το εκτιμούσα αυτό σε αυτόν».
Διόρθωση: Το άρθρο ανέφερε αρχικά τον «νονό» της βαθιάς μάθησης Yann LeCun ως υποστηρικτή του SB 1047. Ο LeCun είναι αντίθετος με το νομοσχέδιο. Λυπούμαστε για το λάθος.
VIA: theverge.com
