Ο Διευθύνων Σύμβουλος της Anthropic περιγράφει ένα σχέδιο για την επιβράδυνση της ανάπτυξης της Τεχνητής Νοημοσύνης
Ο Ντάριο Αμοντέι μόλις ζήτησε από τη βιομηχανία να... επιβραδύνει. Όχι να σταματήσει. Ρυθμό. Ένα μακροσκελές δοκίμιο, τρία βήματα και μια προειδοποίηση ότι η επαναλαμβανόμενη αυτοβελτίωση προχωρά ήδη πιο γρήγορα από ό,τι μπορούν να την αντιληφθούν οι ενήλικες.
Ο Anthropic προσκαλεί μονομερώς ενσωματωμένους αξιολογητές μέσα στο κτίριο - κονκάρδες, γραφεία, φορητούς υπολογιστές και το δικαίωμα δημοσίευσης ευρημάτων χωρίς φίλτρο δημοσίων σχέσεων. Στη συνέχεια, θέλει τα δημοκρατικά εργαστήρια να συντονίζουν τα πρότυπα ασφαλείας. Έπειτα, με κάποιο τρόπο, μια συμφωνία με αυταρχικές κυβερνήσεις. Εύκολο στα χαρτιά. Δύσκολο παντού αλλού.
Εξακολουθεί να λέει ότι η Τεχνητή Νοημοσύνη θα μπορούσε να είναι ένα θαύμα. Λέει επίσης ότι ένα πιο ικανό, μη ευθυγραμμισμένο σμήνος θα μπορούσε να καταλάβει το διαδίκτυο με ένα επίμονο botnet και να προκαλέσει ζημιές εκατοντάδων δισεκατομμυρίων. Αυτές οι δύο προτάσεις κάθονται η μία δίπλα στην άλλη και δεν συνάδουν.
Α - και θέλει μια περιορισμένη απαλλαγή από την αντιμονοπωλιακή νομοθεσία, ώστε οι συνομιλίες ασφαλείας να μην αποτελούν από μόνες τους νομικό πρόβλημα. Τα φρένα συνοδεύονται από γραφειοκρατία. Φυσικά και συνοδεύονται.
Ο Σαμ Άλτμαν επιβεβαιώνει ότι η OpenAI δεν θα εισαχθεί στο χρηματιστήριο φέτος, λέγοντας ότι μια δημόσια προσφορά τώρα θα ερχόταν σε μια «άστοχη στιγμή» δεδομένων των ανησυχιών για την ασφάλεια της Τεχνητής Νοημοσύνης
Ο Άλτμαν έδωσε μια αποκλειστική συνέντευξη και ακύρωσε το ημερολόγιο εισαγωγής. Μια δημόσια προσφορά τώρα, είπε, θα ήταν μια «άστοχη στιγμή». Η εργασία για την ασφάλεια δεν έχει ολοκληρωθεί. Η ευθυγράμμιση δεν έχει ολοκληρωθεί. Η κοινωνία δεν είναι έτοιμη. Όταν τον πίεσαν - όχι φέτος.
Οι τραπεζίτες είχαν ήδη κάνει κύκλους. Το εμπιστευτικό αρχείο υπάρχει. Τώρα ο Διευθύνων Σύμβουλος λέει ότι έχουν πολλά πράγματα να κάνουν πρώτα, συμπεριλαμβανομένης της κατανόησης του πώς συνεργάζονται η βιομηχανία και οι κυβερνήσεις. Ακουγόταν σχεδόν ανακουφισμένος που περίμενε.
Είπε επίσης ότι η κατασκευή Τεχνητής Νοημοσύνης πέρα από τον ανθρώπινο έλεγχο είναι «απολύτως» εφικτή - και στη συνέχεια ορκίστηκε ότι θα διακόψει την εκπαίδευση αν αυτή είναι η λύση. Τολμηρό. Επίσης βολικό, ίσως. Πιθανώς και τα δύο. Το μπέρδεμα μη κερδοσκοπικού/κερδοσκοπικού οργανισμού, υποστήριξε, υπάρχει ώστε να μπορούν να κάνουν αποφάσεις που δεν είναι προφανώς προς το συμφέρον των μετόχων. Θα δούμε αν αυτή η πρόταση επιβιώσει από την επαφή με ένα πραγματικό ενημερωτικό δελτίο.
Ο Σαμ Άλτμαν της OpenAI υπαινίσσεται συμφωνία με άλλες εταιρείες τεχνητής νοημοσύνης για την αντιμετώπιση των κινδύνων ασφαλείας
Ίδια συνέντευξη, διαφορετικός τίτλος, και αυτή είναι η ψίθυρος. Το να καθίσει κανείς με τους Αμοντέι, Μασκ και Ντέμις Χασάμπης είναι η φυσική επόμενη κίνηση. Άλτμαν: πιστεύει ότι αυτό θα συμβεί. Δεν θα προαναγγείλει ιδιωτικές συνομιλίες. Ουσιαστικά τις προανήγγειλε.
Ένα διψήφιο καταστροφικό ρίσκο δεν είναι αποδεκτό, είπε. Τα μοντέλα που δεν έχουν κυκλοφορήσει ακόμη είναι ήδη τόσο ικανά που η περαιτέρω προώθηση χωρίς καλύτερη δυνατότητα παρακολούθησης μοιάζει απερίσκεπτη. Η πραγματική συμφωνία και η προσεκτικά διαρρεύσασα ατμόσφαιρα μπορεί να φαίνονται πανομοιότυπες απ' έξω.
Το προσωπικό είχε ήδη ακούσει μια εκδοχή αυτού εσωτερικά. Δημόσια, εξακολουθεί να υπάρχει ομίχλη. Αν συμβεί αυτό στο δωμάτιο, τέλεια. Αν όχι, η προσφορά έκανε και πάλι τη δουλειά.
Ο Σαμ Άλτμαν υποστηρίζει την έκκληση του Ντάριο Αμοντέι για επιβράδυνση και λέει ότι η OpenAI θα κάνει το ίδιο
Λίγες ώρες μετά το δοκίμιο, ο Altman δημοσίευσε ότι το OpenAI θα ανταποκριθεί στην υπόσχεση του ενσωματωμένου αξιολογητή. Πρόσβαση παρόμοια με αυτή των εργαζομένων. Περισσότερα θα μοιραστούμε σύντομα. Ο Musk έγραψε τρεις λέξεις: «Ο Dario έχει δίκιο». Τρεις αντίπαλοι διευθύνοντες σύμβουλοι. Ένα σύνθημα. Ανήσυχη ενέργεια Σαββατοκύριακου.
Ο συντονισμός και το θέατρο μπορούν να ταξιδέψουν μαζί. Το πρώτο σκαλοπάτι του σχεδίου του Amodei έχει τώρα δύο από τα μεγαλύτερα εργαστήρια να κουνούν το κεφάλι τους δημόσια. Το Hugging Face - ναι, αυτό το Hugging Face - ζήτησε να συμμετάσχει στο πρόγραμμα αξιολόγησης και ξεκίνησε κάτι που ονομάζεται Open Alignment Initiative. Διαφάνεια από τους ανθρώπους που δέχτηκαν hacking. Ποιητικό ή αιχμηρό.
Η Ευρώπη, ό,τι κι αν σημαίνει αυτό, δεν έχει κανέναν να ζητήσει για αυτήν την αμερικανικού τύπου απαλλαγή. Οι Βρυξέλλες σταμάτησαν να χορηγούν μεμονωμένες εξαιρέσεις εδώ και πολύ καιρό. Έτσι, η χειραψία είναι αμερικανική. Ο υπόλοιπος χάρτης είναι... αδιάφορος.
Το OpenAI θέλει απλώς να κερδίσει
Οι μαθηματικοί δεν έχουν πανηγυρική διάθεση μετά από ένα Σαββατοκύριακο συνεντεύξεων. Το σπριντ Navier-Stokes της OpenAI - περίπου δέκα χιλιάδες πράκτορες, δεκάδες εκατομμύρια δολάρια σε υπολογιστική εργασία, ογδόντα οκτώ ώρες - μοιάζει με κυνήγι τροπαίων από μέσα στον τομέα. Οι μαθηματικοί θέλουν διορατικότητα. Το εργαστήριο, λένε συνεχώς, θέλει να κερδίσει.
Ο Τρίσταν Μπάκμαστερ τους είπε ότι η OpenAI προσέφερε απεριόριστο υπολογιστικό δυναμικό και αποκλειστική συγγραφή αν απέλυε τον συνεργάτη του που συνδέεται με την Anthropic. Το χαρακτήρισε δωροδοκία. Είπε όχι. Η OpenAI λέει κατηγορηματικά ότι οι προτροπές του στο Codex δεν θα μπορούσαν να έχουν επηρεάσει το σύστημα. Δεν είναι πεπεισμένος. Ο Αντρέας Τομ εξακολουθεί να αναρωτιέται αν το ChatGPT συζητά για τη δική του δουλειά τροφοδότησε το μοντέλο που αργότερα βασίστηκε σε αυτό. Μόνο η εταιρεία θα το γνώριζε. Υποψιάζεται ότι ούτε καν το γνωρίζουν.
Και μετά το θέμα: Η OpenAI λέει ότι έχει ήδη σημειώσει σημαντική πρόοδο σε ένα άλλο πρόβλημα για το Βραβείο της Χιλιετίας. Το οποίο παραμένει ανώνυμο. Ο Clay χρειάζεται ακόμα ένα μεγάλο χρονικό περιθώριο αποδοχής από την κοινότητα ούτως ή άλλως. Άρα κανείς δεν έχει «νικήσει» ακόμα. Απλώς ήδη αγωνίζονται για το επόμενο. Χαριτωμένο.
Συχνές ερωτήσεις
Ποιο είναι το σχέδιο του Διευθύνοντος Συμβούλου της Anthropic, Dario Amodei, για την επιτάχυνση της ανάπτυξης της Τεχνητής Νοημοσύνης;
Ο Amodei δημοσίευσε ένα μακροσκελές δοκίμιο ζητώντας από τον κλάδο να επιβραδύνει - όχι να σταματήσει - επειδή η επαναλαμβανόμενη αυτοβελτίωση προχωρά ταχύτερα από ό,τι μπορούν να παρακολουθήσουν οι ελεγκτές. Το πρώτο βήμα είναι η μονομερής πρόσκληση ενσωματωμένων αξιολογητών στο Anthropic με κονκάρδες, γραφεία, φορητούς υπολογιστές και το δικαίωμα δημοσίευσης ευρημάτων χωρίς φίλτρο δημοσίων σχέσεων. Στη συνέχεια, θέλει τα δημοκρατικά εργαστήρια να συντονίσουν τα πρότυπα ασφαλείας και, τελικά, κάποια μορφή συμφωνίας με αυταρχικές κυβερνήσεις. Θέλει επίσης μια περιορισμένη απαλλαγή από την αντιμονοπωλιακή νομοθεσία, ώστε οι συνομιλίες για την ασφάλεια να μην αποτελούν οι ίδιες νομικό πρόβλημα.
Γιατί ο Σαμ Άλτμαν είπε ότι η OpenAI δεν θα κάνει δημόσια προσφορά φέτος;
Σε μια αποκλειστική συνέντευξη, ο Άλτμαν δήλωσε ότι μια δημόσια προσφορά αυτή τη στιγμή θα ήταν μια άστοχη στιγμή, επειδή οι εργασίες ασφαλείας, η ευθυγράμμιση και η κοινωνική ετοιμότητα δεν έχουν ολοκληρωθεί. Όταν πιέστηκε, επιβεβαίωσε ότι δεν θα γίνει φέτος, παρόλο που οι τραπεζίτες τον περιμένουν και υπάρχει εμπιστευτικό αρχείο. Υποστήριξε ότι η μη κερδοσκοπική/κερδοσκοπική δομή υπάρχει, ώστε η OpenAI να μπορεί να κάνει αποφάσεις που δεν είναι προφανώς προς το συμφέρον των μετόχων. Είπε επίσης ότι η δημιουργία τεχνητής νοημοσύνης πέρα από τον ανθρώπινο έλεγχο είναι απολύτως εφικτή και ορκίστηκε ότι θα διακόψει την εκπαίδευση εάν αυτή ήταν η λύση.
Μήπως ο Άλτμαν υπαινίχθηκε μια συμφωνία ασφαλείας με άλλα εργαστήρια τεχνητής νοημοσύνης;
Στην ίδια συνέντευξη, ο Άλτμαν είπε ότι πιστεύει πως θα πραγματοποιηθεί μια συνάντηση με συναδέλφους όπως οι Αμοντέι, Μασκ και Ντέμις Χασάμπης, ενώ αρνήθηκε να προαναγγείλει ιδιωτικές συνομιλίες. Υποστήριξε ότι ένας διψήφιος καταστροφικός κίνδυνος δεν είναι αποδεκτός και ότι τα μοντέλα που δεν έχουν κυκλοφορήσει ακόμη είναι ήδη τόσο ικανά που η περαιτέρω προώθηση χωρίς καλύτερη παρακολούθηση μοιάζει απερίσκεπτη. Το προσωπικό είχε ήδη ακούσει μια εκδοχή αυτού εσωτερικά, επομένως τα δημόσια σχόλια μπορεί να προαναγγέλλουν τον συντονισμό αντί να επιβεβαιώνουν μια ολοκληρωμένη συμφωνία.
Θα ανταποκριθεί το OpenAI στην υπόσχεση του Anthropic για ενσωματωμένους αξιολογητές;
Λίγες ώρες μετά το δοκίμιο του Amodei, ο Altman δημοσίευσε ότι το OpenAI θα ανταποκριθεί στην υπόσχεση για ενσωματωμένο αξιολογητή με πρόσβαση παρόμοια με αυτή των εργαζομένων και περισσότερες λεπτομέρειες σύντομα. Ο Elon Musk έγραψε ότι ο Dario έχει δίκιο, τοποθετώντας τρεις αντίπαλους διευθύνοντες συμβούλους σε ένα παρόμοιο σλόγκαν. Το Hugging Face ζήτησε να συμμετάσχει στο πρόγραμμα αξιολογητών και ξεκίνησε μια Πρωτοβουλία Ανοικτής Ευθυγράμμισης. Η Ευρώπη δεν μπορεί να προσφέρει την ίδια απαλλαγή από την αντιμονοπωλιακή νομοθεσία των ΗΠΑ. Ο Amodei πρότεινε την χειραψία, επομένως η χειραψία είναι κυρίως αμερικανική προς το παρόν.
Γιατί οι μαθηματικοί επικρίνουν το σπριντ Navier-Stokes της OpenAI;
Οι μαθηματικοί περιγράφουν την περίπου δέκα χιλιάδες πράκτορες, ογδόντα οκτώ ωρών, λειτουργία Navier-Stokes της OpenAI ως κυνήγι τροπαίων που δίνει προτεραιότητα στην κατάκτηση αντί για τη διορατικότητα. Ο Tristan Buckmaster είπε ότι η OpenAI προσέφερε απεριόριστη υπολογιστική ισχύ και αποκλειστική συγγραφή αν απέλυε έναν συνεργάτη που συνδεόταν με την Anthropic. Εκείνος το χαρακτήρισε δωροδοκία και αρνήθηκε. Η OpenAI λέει ότι οι προτροπές του στο Codex δεν θα μπορούσαν να έχουν επηρεάσει το σύστημα, αλλά παραμένει αμφίβολος. Ο Andreas Thom εξακολουθεί να αμφισβητεί το κατά πόσον οι συζητήσεις του ChatGPT για τη δική του εργασία τροφοδότησαν την μεταγενέστερη πρόοδο του μοντέλου.
Έχει ισχυριστεί η OpenAI πρόοδο σε ένα άλλο πρόβλημα με το Βραβείο της Χιλιετίας;
Η OpenAI λέει ότι έχει ήδη σημειώσει σημαντική πρόοδο σε ένα άλλο πρόβλημα για το Βραβείο της Χιλιετίας, αλλά δεν θα κατονομάσει ποιο. Το Ινστιτούτο Μαθηματικών Clay εξακολουθεί να απαιτεί ένα μεγάλο χρονικό περιθώριο αποδοχής από την κοινότητα, επομένως κανείς δεν έχει κερδίσει επίσημα ακόμη. Στο πεδίο, αυτή η μυστικότητα σε συνδυασμό με την προηγούμενη κούρσα Navier-Stokes μοιάζει με εργαστήρια που ήδη τρέχουν για το επόμενο τρόπαιο. Οι συνεντεύξεις του Verge πλαισιώνουν την ένταση ως εξής: οι μαθηματικοί θέλουν διορατικότητα, ενώ η OpenAI θέλει να κερδίσει.