Το OpenAI μετατρέπει την Επιτροπή Ασφάλειας και Ασφάλειας σε μια ανεξάρτητη «επιτροπή εποπτείας του διοικητικού συμβουλίου» που έχει την εξουσία να καθυστερεί την κυκλοφορία μοντέλων λόγω ανησυχιών για την ασφάλεια. σύμφωνα με μια ανάρτηση στο blog του OpenAI. Η επιτροπή έκανε τη σύσταση να συγκροτηθεί το ανεξάρτητο συμβούλιο μετά από μια πρόσφατη αναθεώρηση 90 ημερών των «διαδικασιών και διασφαλίσεων που σχετίζονται με την ασφάλεια και την ασφάλεια του OpenAI».
Η επιτροπή, της οποίας προεδρεύει ο Zico Kolter και περιλαμβάνει τους Adam D’Angelo, Paul Nakasone και Nicole Seligman, «θα ενημερωθεί από την ηγεσία της εταιρείας σχετικά με τις αξιολογήσεις ασφάλειας για μεγάλες εκδόσεις μοντέλων και, μαζί με το πλήρες συμβούλιο, θα ασκεί επίβλεψη κυκλοφορεί μοντέλο, συμπεριλαμβανομένης της εξουσιοδότησης να καθυστερήσει την κυκλοφορία μέχρι να αντιμετωπιστούν οι ανησυχίες για την ασφάλεια», λέει η OpenAI. Το πλήρες διοικητικό συμβούλιο του OpenAI θα λαμβάνει επίσης «περιοδικές ενημερώσεις» για «θέματα ασφάλειας και ασφάλειας».
Τα μέλη της επιτροπής ασφάλειας του OpenAI είναι επίσης μέλη του ευρύτερου διοικητικού συμβουλίου της εταιρείας, επομένως δεν είναι σαφές πόσο ανεξάρτητη είναι στην πραγματικότητα η επιτροπή ή πώς είναι δομημένη αυτή η ανεξαρτησία. (Ο Διευθύνων Σύμβουλος Sam Altman ήταν προηγουμένως στην επιτροπή, αλλά δεν είναι πια.) Ζητήσαμε σχόλιο από το OpenAI.
Με τη δημιουργία ενός ανεξάρτητου συμβουλίου ασφάλειας, φαίνεται ότι το OpenAI ακολουθεί μια κάπως παρόμοια προσέγγιση με το Εποπτικό Συμβούλιο της Meta, το οποίο εξετάζει ορισμένες από τις αποφάσεις πολιτικής περιεχομένου της Meta και μπορεί να λάβει αποφάσεις που πρέπει να ακολουθήσει η Meta. Κανένα από τα Μέλη του Εποπτικού Συμβουλίου είναι ενεργοποιημένα το διοικητικό συμβούλιο της Meta.
Η αναθεώρηση από την Επιτροπή Ασφάλειας και Ασφάλειας του OpenAI βοήθησε επίσης «πρόσθετες ευκαιρίες για συνεργασία στον κλάδο και ανταλλαγή πληροφοριών για την προώθηση της ασφάλειας του κλάδου της τεχνητής νοημοσύνης». Η εταιρεία λέει επίσης ότι θα αναζητήσει «περισσότερους τρόπους για να μοιραστούμε και να εξηγήσουμε την εργασία μας για την ασφάλεια» και «περισσότερες ευκαιρίες για ανεξάρτητες δοκιμές των συστημάτων μας».
Ενημέρωση, 16 Σεπτεμβρίου: Προστέθηκε ότι ο Sam Altman δεν είναι πλέον στην επιτροπή.
VIA: theverge.com
