Ο κυβερνήτης της Καλιφόρνια Γκάβιν Νιούσομ άσκησε βέτο στο νομοσχέδιο SB 1047, το οποίο στοχεύει να αποτρέψει κακούς ηθοποιούς από τη χρήση της τεχνητής νοημοσύνης για να προκαλέσουν «κρίσιμη βλάβη» στους ανθρώπους. Η συνέλευση της πολιτείας της Καλιφόρνια ενέκρινε τη νομοθεσία με διαφορά 41-9 στις 28 Αυγούστου, αλλά αρκετοί οργανισμοί, συμπεριλαμβανομένου του Εμπορικού Επιμελητηρίου, είχαν προέτρεψε τον Newsom να ασκήσει βέτο στο νομοσχέδιο. Στο δικό του μήνυμα βέτο Στις 29 Σεπτεμβρίου, ο Newsom είπε ότι το νομοσχέδιο είναι “καλοπροαίρετο”, αλλά “δεν λαμβάνει υπόψη εάν ένα σύστημα Al αναπτύσσεται σε περιβάλλοντα υψηλού κινδύνου, περιλαμβάνει λήψη κρίσιμων αποφάσεων ή χρήση ευαίσθητων δεδομένων. Αντίθετα, το νομοσχέδιο εφαρμόζει αυστηρά πρότυπα ακόμη και για τις πιο βασικές λειτουργίες – αρκεί να το αναπτύξει ένα μεγάλο σύστημα.”
Το SB 1047 θα είχε καταστήσει τους προγραμματιστές μοντέλων τεχνητής νοημοσύνης υπεύθυνους για την υιοθέτηση πρωτοκόλλων ασφαλείας που θα σταματούσαν τις καταστροφικές χρήσεις της τεχνολογίας τους. Αυτό περιλαμβάνει προληπτικά μέτρα, όπως δοκιμές και εξωτερική αξιολόγηση κινδύνου, καθώς και μια «διακοπή έκτακτης ανάγκης» που θα έκλεινε εντελώς το μοντέλο AI. Μια πρώτη παραβίαση θα κόστιζε τουλάχιστον 10 εκατομμύρια δολάρια και 30 εκατομμύρια δολάρια για επόμενες παραβάσεις. Ωστόσο, το νομοσχέδιο αναθεωρήθηκε για να εξαλειφθεί η δυνατότητα του γενικού εισαγγελέα της πολιτείας να μηνύσει εταιρείες τεχνητής νοημοσύνης με πρακτικές αμέλειας εάν δεν συμβεί ένα καταστροφικό γεγονός. Οι εταιρείες θα υπόκεινται μόνο σε ασφαλιστικά μέτρα και θα μπορούσαν να μηνυθούν εάν το μοντέλο τους προκαλούσε σοβαρή βλάβη.
Αυτός ο νόμος θα ισχύει για μοντέλα τεχνητής νοημοσύνης που κοστίζουν τουλάχιστον 100 εκατομμύρια δολάρια για χρήση και 10^26 FLOPS για εκπαίδευση. Θα κάλυπτε επίσης έργα παραγώγων σε περιπτώσεις όπου ένα τρίτο μέρος έχει επενδύσει 10 εκατομμύρια δολάρια ή περισσότερα για την ανάπτυξη ή την τροποποίηση του αρχικού μοντέλου. Κάθε εταιρεία που δραστηριοποιείται στην Καλιφόρνια θα υπόκειται στους κανόνες εάν πληροί τις άλλες απαιτήσεις. Αναφερόμενος στην εστίαση του νομοσχεδίου σε συστήματα μεγάλης κλίμακας, ο Newsom είπε: «Δεν πιστεύω ότι αυτή είναι η καλύτερη προσέγγιση για την προστασία του κοινού από πραγματικές απειλές που θέτει η τεχνολογία». Το μήνυμα βέτο προσθέτει:
Εστιάζοντας μόνο στα πιο ακριβά και μεγάλης κλίμακας μοντέλα, το SB 1047 δημιουργεί ένα ρυθμιστικό πλαίσιο που θα μπορούσε να δώσει στο κοινό μια ψευδή αίσθηση ασφάλειας σχετικά με τον έλεγχο αυτής της ταχέως εξελισσόμενης τεχνολογίας. Τα μικρότερα, εξειδικευμένα μοντέλα μπορεί να προκύψουν εξίσου ή και πιο επικίνδυνα από τα μοντέλα που στοχεύει το SB 1047 – εις βάρος του περιορισμού της ίδιας της καινοτομίας που τροφοδοτεί την πρόοδο υπέρ του δημόσιου συμφέροντος.
Η προηγούμενη έκδοση του SB 1047 θα είχε δημιουργήσει ένα νέο τμήμα που ονομάζεται Frontier Model Division για την επίβλεψη και την επιβολή των κανόνων. Αντίθετα, το νομοσχέδιο τροποποιήθηκε πριν από την ψηφοφορία της επιτροπής για την ανάθεση της διακυβέρνησης στα χέρια ενός Board of Frontier Models εντός του Οργανισμού Κυβερνητικών Επιχειρήσεων. Τα εννέα μέλη θα διορίζονταν από τον κυβερνήτη και το νομοθετικό σώμα της πολιτείας.
Το νομοσχέδιο αντιμετώπισε έναν περίπλοκο δρόμο για την τελική ψηφοφορία. Το SB 1047 συντάχθηκε από τον γερουσιαστή της πολιτείας Καλιφόρνια Scott Wiener, ο οποίος είπε TechCrunch: “Έχουμε μια ιστορία με την τεχνολογία να περιμένουμε να συμβούν ζημιές και μετά να σφίξουμε τα χέρια μας. Ας μην περιμένουμε να συμβεί κάτι κακό. Ας το προλάβουμε.” Οι αξιόλογοι ερευνητές της τεχνητής νοημοσύνης Geoffrey Hinton και Yoshua Bengio υποστήριξαν τη νομοθεσία, όπως και το Κέντρο για την Ασφάλεια της Τεχνητής Νοημοσύνης, το οποίο κρούει τον κώδωνα του κινδύνου για τους κινδύνους της τεχνητής νοημοσύνης τον περασμένο χρόνο.
«Επιτρέψτε μου να είμαι σαφής – συμφωνώ με τον συγγραφέα – δεν έχουμε την πολυτέλεια να περιμένουμε να συμβεί μια μεγάλη καταστροφή πριν αναλάβουμε δράση για την προστασία του κοινού», είπε ο Newsom στο μήνυμα βέτο. Η δήλωση συνεχίζει:
Η Καλιφόρνια δεν θα εγκαταλείψει την ευθύνη της. Πρέπει να υιοθετηθούν πρωτόκολλα ασφαλείας. Θα πρέπει να εφαρμοστούν προληπτικά προστατευτικά κιγκλιδώματα και οι σοβαρές συνέπειες για τους κακούς παράγοντες πρέπει να είναι σαφείς και εφαρμόσιμες. Δεν συμφωνώ, ωστόσο, ότι για να διατηρήσουμε το κοινό ασφαλές, πρέπει να αρκεστούμε σε μια λύση που δεν θα βασίζεται σε μια εμπειρική ανάλυση τροχιάς των συστημάτων και των δυνατοτήτων του Al. Τελικά, οποιοδήποτε πλαίσιο για την αποτελεσματική ρύθμιση του Al πρέπει να συμβαδίζει με την ίδια την τεχνολογία.
Το SB 1047 προκάλεσε έντονες αντιδράσεις από όλο τον τεχνολογικό χώρο. Η ερευνήτρια Fei-Fei Li ασκήθηκε κριτική ο λογαριασμός, όπως έκανε Meta Chief AI Scientist Yann LeCun, για τον περιορισμό των δυνατοτήτων εξερεύνησης νέων χρήσεων της τεχνητής νοημοσύνης. Ο εμπορικός όμιλος αντιπροσωπεύει τεχνολογικούς γίγαντες όπως η Amazon, η Apple και η Google είπε Το SB 1047 θα περιόριζε τις νέες εξελίξεις στον τομέα της τεχνολογίας του κράτους. Η εταιρεία επιχειρηματικών κεφαλαίων Andreeson Horowitz και αρκετές νεοφυείς επιχειρήσεις αμφισβήτησαν επίσης εάν το νομοσχέδιο έθεσε περιττές οικονομικές επιβαρύνσεις στους καινοτόμους τεχνητής νοημοσύνης. Οι Anthropic και άλλοι πολέμιοι του αρχικού νομοσχεδίου πίεσαν για τροπολογίες που ήταν θετός στην έκδοση του SB 1047 που πέρασε από την Επιτροπή Πιστώσεων της Καλιφόρνια στις 15 Αυγούστου.
VIA: engadget.com
