Ο Διευθύνων Σύμβουλος της OpenAI, Sam Altman, αποχωρεί από την εσωτερική επιτροπή OpenAI που δημιουργήθηκε τον Μάιο για να επιβλέπει τις «κρίσιμες» αποφάσεις ασφάλειας που σχετίζονται με τα έργα και τις λειτουργίες της εταιρείας.
Σε ένα ανάρτηση ιστολογίου Σήμερα, η OpenAI είπε ότι η επιτροπή, η Επιτροπή Ασφάλειας και Ασφάλειας, θα γίνει μια «ανεξάρτητη» ομάδα εποπτείας του διοικητικού συμβουλίου της οποίας θα προεδρεύει ο καθηγητής του Carnegie Mellon, Zico Kolter, και θα περιλαμβάνει τον διευθύνοντα σύμβουλο της Quora Adam D’Angelo, τον απόστρατο στρατηγό του αμερικανικού στρατού Paul Nakasone και την πρώην Sony. EVP Nicole Seligman. Όλα είναι μέλη του διοικητικού συμβουλίου του OpenAI.
Το OpenAI σημείωσε στην ανάρτησή του ότι η επιτροπή διεξήγαγε μια αναθεώρηση ασφάλειας του o1, του τελευταίου μοντέλου τεχνητής νοημοσύνης του OpenAI, μετά την παραίτηση του Altman. Η ομάδα θα συνεχίσει να λαμβάνει τακτικές ενημερώσεις από τις ομάδες ασφάλειας και ασφάλειας του OpenAI, είπε η εταιρεία, και θα διατηρήσει την εξουσία να καθυστερεί τις εκδόσεις μέχρι να αντιμετωπιστούν οι ανησυχίες για την ασφάλεια.
«Στο πλαίσιο του έργου της, η Επιτροπή Ασφάλειας και Ασφάλειας … θα συνεχίσει να λαμβάνει τακτικές εκθέσεις για τεχνικές αξιολογήσεις για τρέχοντα και μελλοντικά μοντέλα, καθώς και εκθέσεις συνεχούς παρακολούθησης μετά την κυκλοφορία», έγραψε η OpenAI στην ανάρτηση. “[W]βασίζονται στις διαδικασίες και τις πρακτικές μας για την κυκλοφορία μοντέλων για να δημιουργήσουμε ένα ολοκληρωμένο πλαίσιο ασφάλειας και ασφάλειας με σαφώς καθορισμένα κριτήρια επιτυχίας για την κυκλοφορία μοντέλων».
Η αποχώρηση του Άλτμαν από την Επιτροπή Ασφάλειας και Ασφάλειας έρχεται μετά από πέντε γερουσιαστές των ΗΠΑ έθεσε ερωτήματα σχετικά με τις πολιτικές του OpenAI σε επιστολή που απευθυνόταν στον Altman αυτό το καλοκαίρι. Σχεδόν το ήμισυ του προσωπικού του OpenAI που κάποτε εστίαζε στους μακροπρόθεσμους κινδύνους της τεχνητής νοημοσύνης αριστεράκαι πρώην ερευνητές του OpenAI κατηγορούμενος Ο Altman τάσσεται κατά της «πραγματικής» ρύθμισης της τεχνητής νοημοσύνης υπέρ των πολιτικών που προωθούν τους εταιρικούς στόχους του OpenAI.
Στο σημείο τους, το OpenAI αύξησε δραματικά τις δαπάνες του για ομοσπονδιακά λόμπι, με προϋπολογισμό 800.000 $ για τους πρώτους έξι μήνες του 2024 έναντι 260.000 $ για όλο το προηγούμενο έτος. Ο Altman επίσης νωρίτερα αυτή την άνοιξη προσχώρησε στο Συμβούλιο Ασφάλειας και Ασφάλειας Τεχνητής Νοημοσύνης του Υπουργείου Εσωτερικής Ασφάλειας των ΗΠΑ, το οποίο παρέχει συστάσεις για την ανάπτυξη και την ανάπτυξη της τεχνητής νοημοσύνης σε όλες τις κρίσιμες υποδομές των ΗΠΑ.
Ακόμη και με την απομάκρυνση του Altman, δεν υπάρχει λόγος να υποδηλωθεί ότι η Επιτροπή Ασφάλειας και Ασφάλειας θα λάβει δύσκολες αποφάσεις που επηρεάζουν σοβαρά τον εμπορικό οδικό χάρτη του OpenAI. Λογικά, OpenAI είπε τον Μάιο ότι θα επιδιώξει να αντιμετωπίσει «έγκυρες κριτικές» για το έργο της μέσω της επιτροπής — οι «έγκυρες κριτικές» είναι φυσικά στο μάτι του θεατή.
Σε μια op-ed για τον Economist τον Μάιοτα πρώην μέλη του διοικητικού συμβουλίου του OpenAI, Helen Toner και Tasha McCauley, δήλωσαν ότι δεν πιστεύουν ότι το OpenAI όπως υπάρχει σήμερα μπορεί να είναι αξιόπιστο για να λογοδοτήσει. “[B]βάσει της εμπειρίας μας, πιστεύουμε ότι η αυτοδιοίκηση δεν μπορεί να αντέξει αξιόπιστα την πίεση των κινήτρων κέρδους», έγραψαν.
Και τα κίνητρα κέρδους του OpenAI αυξάνονται.
Η εταιρεία φημολογείται ότι βρίσκεται στη μέση της συγκέντρωσης 6,5+ δισεκατομμυρίων δολαρίων σε έναν γύρο χρηματοδότησης που θα αποτιμούσε το OpenAI σε πάνω από 150 δισεκατομμύρια δολάρια. Για να συνάψει τη συμφωνία, το OpenAI θα μπορούσε να εγκαταλείψει την υβριδική μη κερδοσκοπική εταιρική του δομή, η οποία προσπάθησε να περιορίσει τις αποδόσεις των επενδυτών εν μέρει για να διασφαλίσει ότι το OpenAI θα παραμείνει ευθυγραμμισμένο με την ιδρυτική του αποστολή: την ανάπτυξη τεχνητής γενικής νοημοσύνης που «ωφελεί όλη την ανθρωπότητα».
VIA: techcrunch.com
