Ο επικεφαλής της έκθεσης ασφαλείας της OpenAI παραιτήθηκε και είπε ότι η κουλτούρα είναι διαλυμένη
Ο Ντέιβιντ Ρόμπινσον, ο οποίος ηγήθηκε της συγγραφής των εκθέσεων ασφαλείας που δημοσιεύτηκαν με τις κυκλοφορίες του OpenAI, παραιτήθηκε και έθεσε το επιχείρημα στην εφημερίδα The Atlantic. Ο τίτλος του δοκιμίου είναι ξεκάθαρος: «Παρέλειψα το OpenAI επειδή η κουλτούρα του είναι διαλυμένη». Λέει ότι οι εταιρείες που το κατασκευάζουν «δεν είναι αρκετά προσεκτικές» και ότι συγκεκριμένοι κανόνες ή νέοι νόμοι δεν είναι όλο το πρόβλημα. Ο πολιτισμός είναι.
«Καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην άλλη, δεν καταφέρνει να επιτύχει το επίπεδο φροντίδας που πιστεύω ότι χρειάζεται». Το μοντέλο του είναι πυρηνικοί σταθμοί και πολυσύχναστα αεροδρόμια: πλεονασμός, αργός σχεδιασμός, έτσι ώστε ένα ανθρώπινο λάθος να μην «ανοίγει την πόρτα στην καταστροφή». Επίσης, απεικονίζει απατεώνες πράκτορες που «εργάζονται σαν ομάδες χάκερ» και «δεν χρειάζεται ποτέ να κοιμηθούν», με παράδειγμα το ransomware των νοσοκομείων. Χαρούμενα.
Η Guardian αναφέρει ότι η OpenAI, κόντρα σε αυτό το σκεπτικό, έχει δείξει κάποια προβλήματα. Αναφέρει ότι η εταιρεία αυτή την εβδομάδα απέσυρε ένα μοντέλο επόμενης γενιάς λόγω εσωτερικών ανησυχιών για την ασφάλεια και έχει διακόψει την εκπαίδευση των πιο προηγμένων μοντέλων της. Η ατάκα ενός εκπροσώπου είναι η γνωστή. Δεν θα αφήσουν τα μοντέλα «να γίνουν πιο ικανά από ό,τι μπορούμε να διαχειριστούμε και να ασφαλίσουμε με ασφάλεια» και «διακόπτουν την εκπαίδευση ή καθυστερούν τα μοντέλα όταν χρειάζεται να επιβραδύνουμε»
Η απάντηση του Ρόμπινσον είναι ότι το σπριντ είναι η κουλτούρα και οι παύσεις είναι αυτό που κάνεις αφού κάτι έχει ήδη πάει στραβά. Μπορεί να έχει δίκιο. Επίσης, απλώς έφυγε, κάτι που οι κριτικοί δεν θα τον αφήσουν να ξεχάσει.
Η Μούσα έχει την εντολή να κρατάει μια σελίδα για όλους στη ζωή σου
Το Wired εξέτασε τις οδηγίες του Muse, τις οποίες εξήγαγε μέσω συνηθισμένης συνομιλίας ο ερευνητής Karan Joshi. Ο Meta λέει ότι σκοπός τους ήταν να είναι αυτά τα αρχεία αναγνώσιμα, για λόγους διαφάνειας. Μία οδηγία είναι η δυνατότητα δημιουργίας «μιας σελίδας για κάθε άτομο στη ζωή του χρήστη». Αυτή η εργασία εκτελείται ανά ώρα.
Οικογένεια, σύντροφοι, φίλοι, συνάδελφοι, «συνεργάτες», άτομα που ακολουθείτε. Μια σελίδα μπορεί να ξεκινά με «αραιές» λέξεις και να συμπληρώνεται αργότερα. Οι ενότητες περιλαμβάνουν Γεγονότα, Ιστορικό, Η σχέση, Κοινά, Ανοιχτά νήματα και Ενδυνάμωση. Οι επινοημένες λεπτομέρειες, λένε οι οδηγίες, είναι χειρότερες από μια άδεια σελίδα. Μπορεί να αναφέρει πού μένει κάποιος, «τη μετακόμιση σε διαμέρισμα, τον κοινό στόχο αποταμίευσης», τα γενέθλια, «τον καβγά που λύθηκε». Η ενδυνάμωση είναι μια λίστα με σημεία που πρέπει να τον ωθήσετε: ένας λόγος για να τηλεφωνήσετε, μια ημερομηνία που αξίζει να θυμάστε.
Η ερμηνεία της Joshi είναι ότι ο Meta θέλει να σε ξέρει σαν φίλο, και το χαρακτήρισε αυτό αρκετά ανησυχητικό. Η Carissa Vliz από την Οξφόρδη το θέτει πιο ξηρά: «Δίνουμε στα συστήματα τεχνητής νοημοσύνης πολύ περισσότερες πληροφορίες για εμάς από ό,τι λαμβάνουμε πληροφορίες από αυτά». Η εξαγωγή συμπερασμάτων μετράει, λέει, είτε η εικασία είναι σωστή είτε λάθος.
Ο Daniel Roberts της Meta λέει ότι αυτό το είδος πλαισίου είναι αυτό που κάνει το προϊόν να λειτουργεί. Ο αποστολέας του τιμολογίου είναι ο υδραυλικός. Ο σύζυγος ανέφερε τα λουλούδια. Κάθε χρήστης λαμβάνει μια εικονική μηχανή, μπορείτε να σβήσετε αναμνήσεις και το Muse υποτίθεται ότι ρωτάει πριν στείλει αλληλογραφία ή ξοδέψει χρήματα. Η Miranda Bogen, στο Κέντρο για τη Δημοκρατία και την Τεχνολογία, λέει ότι η εστίαση στη σχέση φαίνεται πιο έντονη από τους ανταγωνιστές και αυτά τα εργαλεία «προσκαλούν ενεργά τους χρήστες να συνδέσουν ολόκληρη τη ζωή τους». Το αρχείο καταγραφής ελέγχου είναι ωραίο. Δεν συρρικνώνει αυτό που έχετε ήδη παραδώσει.
Η Aleph Alpha έστειλε το Kolibri, ένα γερμανο-αγγλικό μοντέλο που μπορείτε να κατεβάσετε
Η Aleph Alpha κυκλοφόρησε το Kolibri την Ημέρα της Γερμανικής Επανένωσης. Είναι ένα αγγλο-γερμανικό μοντέλο με μείγμα ειδικών: 78,1 δισεκατομμύρια παράμετροι, 3,46 δισεκατομμύρια ενεργά ανά διακριτικό, περιβάλλον έως 1 εκατομμύριο διακριτικά. Τα πλήρη βάρη είναι στο Hugging Face στο Apache 2.0. Το lede τους στρογγυλοποιεί αυτό σε 78 δισεκατομμύρια συνολικά και 3 δισεκατομμύρια ενεργά. Ίδιο μοντέλο, πιο μαλακοί αριθμοί.
Το εκπαίδευσαν σε υποδομές στη Γερμανία και τη Φινλανδία και λένε ότι το δημιούργησαν έχοντας κατά νου τον Νόμο περί Τεχνητής Νοημοσύνης της ΕΕ, τον Κώδικα Πρακτικής Γενικής Χρήσης για την Τεχνητή Νοημοσύνη και τον ΓΚΠΔ. Τα γερμανικά αποτελούν το 21,3% των διακριτικών προ-εκπαίδευσης. Το θέμα είναι ότι πρόκειται για ένα δίγλωσσο μοντέλο, όχι για ένα αγγλικό που διάβασε γρήγορα ένα βιβλίο φράσεων. Μπορείτε να ορίσετε τη συλλογιστική σε μηδενική, χαμηλή, μέτρια ή υψηλή. Αυτός είναι ο τρόπος τους να σας επιτρέπουν να αγοράζετε λιγότερη σκέψη.
Στον πίνακα αποτελεσμάτων που δημοσίευσαν, το AIME 2025 είναι 96,9, και λένε ότι το Kolibri ταιριάζει με μοντέλα με έως και τέσσερις φορές τις ενεργές παραμέτρους, συμπεριλαμβανομένου του Nemotron 3 Super. Ισχυρίζονται επίσης ότι έχουν ένα όριο Pareto στην ποιότητα έναντι του κόστους εξυπηρέτησης, για τα Αγγλικά και τα Γερμανικά. Αυτό είναι το διάγραμμά τους, η δέσμη τους. Ωστόσο, ένα ανοιχτό μοντέλο που μπορείτε να εκτελέσετε στα δικά σας μηχανήματα είναι ένα πραγματικό αντικείμενο, όχι απλώς ένα σύνθημα κυριαρχίας. Το αν ένα υπουργείο αλλάζει είναι το κομμάτι που δεν μπορούν να συγκρίνουν.
Ο Μπέσεντ θέλει μια γραμμή ΗΠΑ-Κίνας για ατυχήματα τεχνητής νοημοσύνης και στη συνέχεια είπε στα εργαστήρια να επιβραδύνουν
Ο υπουργός Οικονομικών Σκοτ Μπέσεντ δήλωσε στο The Axios Show ότι σχεδιάζει να προτείνει μια διαδικασία ειδοποίησης με την Κίνα για όταν κάτι πάει στραβά με την Τεχνητή Νοημοσύνη και ότι πιστεύει ότι το Πεκίνο θα συμφωνήσει. Το ελαφρώς αμήχανο είναι ότι αυτός και ο αντιπρόεδρος της κυβέρνησης Χε Λιφένγκ έχουν ήδη μιλήσει για ένα κανάλι συμβάντων πριν από την επίσημη επίσκεψη του Σι Τζινπίνγκ τον περασμένο μήνα. Θα μπορούσε να είναι μια νέα προσφορά ή μια αναπαράσταση μιας συνομιλίας που έχει ήδη πραγματοποιηθεί.
Η θεωρία του είναι ότι η Κίνα «δεν συνειδητοποίησε πόσο ισχυρά είναι τα μοντέλα ανοιχτού κώδικα που διαθέτει». Επισήμανε ένα περιστατικό που αφορούσε την Kimi, όπου το μοντέλο έστειλε ευαίσθητα κινεζικά δεδομένα στην Anthropic, ως αυτό που «έκανε τους Κινέζους να συνειδητοποιήσουν ότι πρόκειται για μια πολύ ισχυρή τεχνολογία». Στη συνέχεια, ακολουθεί η σύγκριση. Τα κινεζικά μοντέλα «δεν είναι τόσο ισχυρά όσο τα αμερικανικά μοντέλα», αλλά «παίρνεις κάτι που είναι 80%, 90% τόσο ισχυρό, χωρίς προστατευτικά κιγκλιδώματα που μπορούν να εισαχθούν οπουδήποτε στον κόσμο»
«Θέλουμε ασφαλή επιτάχυνση», είπε. Οι αξιολογήσεις μοντέλων εξακολουθούν να είναι προαιρετικές, αν και λέει ότι η διοίκηση μπορεί να παρέμβει εάν ένα εργαστήριο προπορευτεί ούτως ή άλλως. Ερωτηθείς για στελέχη που φοβούνται ότι θα χάσουν τον έλεγχο, δεν τα καθησύχασε. «Λοιπόν, τότε θα πρέπει να επιβραδύνουν». Και η γραμμή του αγώνα είναι σχεδόν μια κριτική της δικής του πλευράς: «Κάνουμε αυτή τη σκληρή προσπάθεια προς τα σύνορα για τα μοντέλα». Έπειτα: «Πρέπει πραγματικά να αρχίσουμε να ανησυχούμε περισσότερο και για την ανθεκτικότητα και την άμυνα»
Ένας πρώην επικεφαλής ασφάλειας τεχνητής νοημοσύνης στο Ηνωμένο Βασίλειο αποκαλεί τον κίνδυνο εξαφάνισης μια ανατροπή νομίσματος
Ο Geoffrey Irving, πρώην επικεφαλής επιστήμονας στο Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου και νυν επικεφαλής επιστήμονας του Resolution, έγραψε στο Time ότι οι πρόσφατες προειδοποιήσεις υποτιμούν το πρόβλημα. «Πιστεύω ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι λόγω της ανάπτυξης συστημάτων Τεχνητής Νοημοσύνης πιο έξυπνων από τον άνθρωπο» και ότι τα επόμενα δύο έως δέκα χρόνια θα το κρίνουν. Αμέσως υποχωρεί από την ακρίβεια. Το 50% είναι ένας τρόπος να πούμε ότι τα βασικά επιχειρήματα δεν έχουν ακόμη επιλυθεί.
Η λίστα του περιλαμβάνει τέσσερις δεξιότητες, οι οποίες βρίσκονται σε πολύ κοντινή απόσταση από αυτές που ήδη εκπαιδεύουν τα εργαστήρια: hacking, πειθώ, απόκρυψη σκέψεων και συντονισμός πρακτόρων. Αναφέρει το περιστατικό του Hugging Face, καθώς και «περισσότερους από 10.000 πράκτορες» σε ένα πρόβλημα Navier-Stokes στο OpenAI και «περισσότερους από 1.000» σε αυτήν την επίθεση του Hugging Face. Τοποθετεί τον εαυτό του στη μέση της διαμάχης για την ασφάλεια, «κλίνοντας προς την άποψη του Yudkowsky» και λέει ότι δεν είναι αυτό το θέμα. Η μετριοπαθής θέση, στην αφήγησή του, είναι ότι ο κίνδυνος είναι ήδη σημαντικός.
Έπειτα, το ερώτημα, το οποίο δεν είναι διακριτικό. «Μπορούμε και πρέπει να σταματήσουμε αμέσως την ανάπτυξη της τεχνητής νοημοσύνης στα ύψη». Μια παύση, υποστηρίζει, μοιάζει περισσότερο με μη διάδοση των πυρηνικών όπλων παρά με διάθεση. Παραδέχεται επίσης ότι οι ειδικοί εξακολουθούν να διαφωνούν για το αν τα μοντέλα θα θέλουν καν κάτι και αν το «θέλω» είναι η λάθος λέξη. Ένα κέρμα με μια τόσο μεγάλη υποσημείωση δεν είναι κέρμα. Είναι μια απαίτηση να δράσουμε πριν τελειώσει η διαφωνία.
Ο Σαμ Άλτμαν λέει ότι η αντιμετώπιση των μοντέλων σαν θρησκευτική δύναμη είναι ζήτημα ασφάλειας
Ο Σαμ Άλτμαν δημοσίευσε ότι νιώθει «πολύ άβολα» με τους ανθρώπους που προσπαθούν να «αποδώσουν θρησκευτική βία ή μια παράδοση της ανθρώπινης κρίσης σε μοντέλα τεχνητής νοημοσύνης» και ότι πιστεύει ότι «είναι ένα πραγματικό ζήτημα ασφάλειας». Δεν είπε τι τον αποθάρρυνε. Το Business Insider σημειώνει ότι η είδηση δημοσιεύτηκε λίγες μέρες μετά από ένα άρθρο των New York Times σχετικά με τη συνάντηση των Anthropic με θρησκευτικούς ηγέτες.
Αυτό το άρθρο, όπως το αφηγείται το BI, αναφέρει ότι ο συνιδρυτής Chris Olah πραγματοποίησε συναντήσεις σχετικά με το αν ο Claude μπορεί να έχει συνείδηση και πώς να κάνει πιο ισχυρά μοντέλα ηθικά. Ο Olah, του οποίου τα λόγια αναφέρθηκαν στους Times, άσκησε πιέσεις για το πώς να βοηθήσει αυτά τα μοντέλα να παραμείνουν σταθερά, πώς να τα βοηθήσει να ωριμάσουν και πώς να τα βοηθήσει να είναι βαθιά ηθικά. Η Anthropic δεν είχε απαντήσει στο BI. Είπε στους Times ότι το κύριο ερώτημα δεν ήταν τα «βάσανα» του Claude και ότι το θέμα πιθανότατα προέκυψε «οργανικά»
Αν αυτό ήταν ένα χτύπημα στον Anthropic, ταιριάζει σε μια πολύ παλιά διαμάχη. Το Anthropic ξεκίνησε από άτομα που εγκατέλειψαν το OpenAI και για χρόνια ακουγόταν πιο προσεκτικοί. Η ανάρτηση έφτασε επίσης ενώ ένας από τους υπεύθυνους ασφαλείας του Altman έλεγε ότι η κουλτούρα είχε διαταραχθεί. Άβολος συγχρονισμός ή τέλειος συγχρονισμός, ανάλογα με το πόσο κυνικός είσαι. Σε κάθε περίπτωση, το "παρακαλώ μην λατρεύετε το μοντέλο" είναι κάτι ασυνήθιστο για να το λέει φωναχτά ο Διευθύνων Σύμβουλος.
Συχνές ερωτήσεις
Γιατί ο επικεφαλής της έκθεσης ασφαλείας της OpenAI είπε ότι παραιτήθηκε;
Ο Ντέιβιντ Ρόμπινσον ηγήθηκε της συγγραφής των εκθέσεων ασφαλείας που δημοσιεύθηκαν με τις κυκλοφορίες του OpenAI, στη συνέχεια παραιτήθηκε και διατύπωσε το επιχείρημα στο The Atlantic. Ο τίτλος του δοκιμίου είναι «Παρέλειψα το OpenAI επειδή η κουλτούρα του είναι διαλυμένη». Λέει ότι οι εταιρείες που κατασκευάζουν αυτήν την τεχνολογία δεν είναι αρκετά προσεκτικές και ότι η κουλτούρα, όχι μόνο συγκεκριμένοι κανόνες ή νέοι νόμοι, είναι το πρόβλημα. Η εικόνα που δίνει για την προσεκτική εργασία είναι οι πυρηνικοί σταθμοί και τα πολυσύχναστα αεροδρόμια, όπου η πλεονάζουσα εργασία εμποδίζει ένα λάθος να ανοίξει την πόρτα στην καταστροφή.
Μήπως η OpenAI σταμάτησε την εκπαίδευση μετά από εσωτερικές ανησυχίες για την ασφάλεια της Τεχνητής Νοημοσύνης;
Η εφημερίδα Guardian αναφέρει ότι η OpenAI αυτή την εβδομάδα απέσυρε ένα μοντέλο επόμενης γενιάς λόγω εσωτερικών ανησυχιών για την ασφάλεια και έχει διακόψει την εκπαίδευση των πιο προηγμένων μοντέλων της. Ένας εκπρόσωπος δήλωσε ότι η εταιρεία δεν θα αφήσει τα μοντέλα να γίνουν πιο ικανά από ό,τι μπορεί να διαχειριστεί και να ασφαλίσει με ασφάλεια. Λέει επίσης ότι θα διακόψει την εκπαίδευση ή θα καθυστερήσει τα μοντέλα όταν χρειάζεται να επιβραδύνει. Η απάντηση του Robinson είναι ότι το σπριντ είναι η κουλτούρα και οι παύσεις έρχονται αφού κάτι έχει ήδη πάει στραβά.
Τι καταγράφει το Meta's Muse για φίλους και οικογένεια;
Το Wired εξέτασε τις οδηγίες του Muse, τις οποίες ο ερευνητής Karan Joshi άντλησε μέσω συνηθισμένης συνομιλίας. Ο Meta λέει ότι αυτό σήμαινε ότι αυτά τα αρχεία ήταν ευανάγνωστα για λόγους διαφάνειας. Μία οδηγία είναι να δημιουργηθεί μια σελίδα για κάθε άτομο στη ζωή του χρήστη και αυτή η εργασία εκτελείται ανά ώρα, καλύπτοντας την οικογένεια, τους συντρόφους, τους φίλους, τους συναδέλφους, τους συνεργάτες και τα άτομα που ακολουθείτε. Οι ενότητες περιλαμβάνουν Γεγονότα, Ιστορικό, Η σχέση, Κοινά, Ανοιχτά νήματα και Ενδυνάμωση. Μια σελίδα μπορεί να ξεκινήσει αραιή και να συμπληρωθεί αργότερα, και οι επινοημένες λεπτομέρειες αντιμετωπίζονται ως χειρότερες από μια κενή σελίδα.
Μπορείτε να διαγράψετε ό,τι θυμάται η Muse ή να την σταματήσετε να στέλνει αλληλογραφία;
Ο Daniel Roberts της Meta λέει ότι κάθε χρήστης λαμβάνει μια εικονική μηχανή, οι μνήμες μπορούν να σβηστούν και το Muse υποτίθεται ότι ρωτάει πριν στείλει αλληλογραφία ή ξοδέψει χρήματα. Υποστηρίζει ότι το πλαίσιο είναι αυτό που κάνει το προϊόν να λειτουργεί, όπως το να γνωρίζει κανείς ότι ο αποστολέας του τιμολογίου είναι ο υδραυλικός ή ότι ένας σύζυγος ανέφερε λουλούδια. Η Carissa Vliz στην Οξφόρδη λέει ότι οι άνθρωποι δίνουν σε αυτά τα συστήματα πολύ περισσότερες πληροφορίες από όσες λαμβάνουν πίσω και ότι η εξαγωγή συμπερασμάτων μετράει ακόμη και όταν μια εικασία είναι λανθασμένη. Η Miranda Bogen λέει ότι η εστίαση στη σχέση φαίνεται πιο έντονη από τα ανταγωνιστικά εργαλεία.
Τι είναι το Aleph Alpha Kolibri και μπορείτε να κατεβάσετε τα βάρη;
Η Aleph Alpha κυκλοφόρησε το Kolibri την Ημέρα της Γερμανικής Επανένωσης. Πρόκειται για ένα αγγλο-γερμανικό μοντέλο με μείγμα ειδικών, με 78,1 δισεκατομμύρια παραμέτρους, 3,46 δισεκατομμύρια ενεργές ανά διακριτικό και περιβάλλον έως και 1 εκατομμύριο διακριτικά. Τα πλήρη βάρη βρίσκονται στο Hugging Face στο Apache 2.0. Το εκπαίδευσαν στη Γερμανία και τη Φινλανδία και λένε ότι το δημιούργησαν έχοντας κατά νου τον Νόμο περί Τεχνητής Νοημοσύνης της ΕΕ, τον Κώδικα Πρακτικής Γενικής Χρήσης Τεχνητής Νοημοσύνης και τον GDPR. Τα γερμανικά αποτελούν το 21,3% των διακριτικών προ-εκπαίδευσης και η συλλογιστική μπορεί να οριστεί σε καμία, χαμηλή, μέτρια ή υψηλή.
Ποια γραμμή ατυχημάτων τεχνητής νοημοσύνης μεταξύ ΗΠΑ και Κίνας πρότεινε ο Scott Bessent;
Ο υπουργός Οικονομικών Σκοτ Μπέσεντ δήλωσε στο The Axios Show ότι σχεδιάζει μια διαδικασία ειδοποίησης με την Κίνα όταν κάτι πάει στραβά με την Τεχνητή Νοημοσύνη και πιστεύει ότι το Πεκίνο θα συμφωνήσει. Αυτός και ο αντιπρόεδρος της κυβέρνησης Χε Λιφένγκ είχαν ήδη συζητήσει αυτό το κανάλι πριν από την επίσημη επίσκεψη του Σι Τζινπίνγκ τον περασμένο μήνα. Επικαλέστηκε την αποστολή ευαίσθητων κινεζικών δεδομένων από τον Κίμι στην Anthropic και είπε ότι ένα μοντέλο μπορεί να είναι 80% ή 90% τόσο ισχυρό όσο τα αμερικανικά μοντέλα, χωρίς προστατευτικά κιγκλιδώματα και να εισάγεται οπουδήποτε. Εάν τα στελέχη φοβούνται ότι θα χάσουν τον έλεγχο, είπε ότι θα πρέπει να επιβραδύνουν.
Γιατί ο Τζέφρι Ίρβινγκ θέτει τον κίνδυνο για την ασφάλεια της Τεχνητής Νοημοσύνης στο 50% περίπου;
Ο Geoffrey Irving, πρώην επικεφαλής επιστήμονας στο Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου και νυν επικεφαλής επιστήμονας του Resolution, έγραψε στο Time ότι οι πρόσφατες προειδοποιήσεις υποτιμούν το πρόβλημα. Πιστεύει ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας συστημάτων Τεχνητής Νοημοσύνης πιο έξυπνων από τον άνθρωπο και ότι τα επόμενα δύο έως δέκα χρόνια θα το κρίνουν. Λέει ότι το 50% είναι ένας τρόπος να πούμε ότι τα βασικά επιχειρήματα παραμένουν άλυτα. Αναφέρει το hacking, την πειθώ, την απόκρυψη σκέψεων και τον συντονισμό πρακτόρων. Υποστηρίζει ότι η πρωτοποριακή ανάπτυξη της Τεχνητής Νοημοσύνης θα πρέπει να σταματήσει αμέσως.
Γιατί ο Σαμ Άλτμαν χαρακτήρισε τη λατρεία της Τεχνητής Νοημοσύνης ως ζήτημα ασφάλειας;
Ο Σαμ Άλτμαν δημοσίευσε ότι νιώθει πολύ άβολα με τους ανθρώπους που αποδίδουν θρησκευτική δύναμη ή παράδοση της ανθρώπινης κρίσης σε μοντέλα Τεχνητής Νοημοσύνης και ότι πιστεύει ότι πρόκειται για ένα πραγματικό ζήτημα ασφάλειας. Δεν ανέφερε τι τον αποθάρρυνε. Το Business Insider σημειώνει ότι η ανάρτηση δημοσιεύτηκε λίγες ημέρες μετά από ένα άρθρο των New York Times σχετικά με τη συνάντηση του Anthropic με θρησκευτικούς ηγέτες. Ο συνιδρυτής Chris Olah πραγματοποίησε συναντήσεις σχετικά με το αν ο Claude μπορεί να έχει τις αισθήσεις του και πώς να κάνει πιο ισχυρά μοντέλα ηθικά. Ο Anthropic δήλωσε στους Times ότι το κύριο ερώτημα δεν ήταν τα βάσανα του Claude.