Ο νέος «κώδικας δεοντολογίας» τεχνητής νοημοσύνης της Microsoft λέει στα μοντέλα να μην χακάρουν συστήματα ή να ξεγελούν ανθρώπους
Εντάξει, λοιπόν, η Microsoft έριξε ένα ολόκληρο καταστατικό για τα μοντέλα της - δηλαδή, πραγματικές κόκκινες γραμμές. Καμία κυβερνοεπιθέσεις. Καμία πυρηνική ενέργεια. Καμία deepfake εργοστασίου. Και το σημαντικό: το μοντέλο δεν επιτρέπεται να ξεφύγει από το κλείσιμο.
Το αποκαλούν γενικό κώδικα που παρακάμπτει οτιδήποτε πληκτρολογείτε στη συνομιλία. Το οποίο είναι... κάπως αναζωογονητικό. Ή και ελεγκτικό. Ίσως και τα δύο.
Ο Ναντέλα είναι εδώ έξω και κουνάει το κεφάλι του μαζί με το πλήθος που «ακολουθεί τον ρυθμό των συνόρων». Η προσεκτική στάση του σώματος και η επίγνωση του «δωματίου της καταστροφής» μπορεί να φαίνονται ίδιες απ' έξω. Η Microsoft επιλέγει να μην είναι το εργαστήριο που αδιαφορεί.
Όπως και να 'χει, το έγγραφο διαβάζεται σαν κάποιος να έγραψε επιτέλους τη φράση «παρακαλώ μην γίνετε ανταγωνιστής ταινιών τρόμου» σε εταιρική πρόζα.
Η OpenAI αγοράζει την Glass Imaging, εταιρεία κατασκευής φωτογραφικών μηχανών για smartphones, έναντι 300 εκατομμυρίων δολαρίων, σύμφωνα με έκθεση
Εν τω μεταξύ, η OpenAI αγόρασε αθόρυβα μια νεοσύστατη εταιρεία φωτογραφικών μηχανών για περισσότερα από 300 εκατομμύρια δολάρια. Την Glass Imaging. Ιδρύθηκε από πρώην άτομα της Apple Portrait Mode. Δεν είναι λοιπόν τυχαία η εξαγορά - αυτοί οι άνθρωποι έχουν πουλήσει φακούς που ο κόσμος γνωρίζει.
Το θέμα δεν είναι «Η τεχνητή νοημοσύνη θα φτιάξει τη selfie σου αμέσως». Είναι νευρωνικά δίκτυα που μαθαίνουν τις συγκεκριμένες κάμερες ενός τηλεφώνου και βγάζουν καλύτερες φωτογραφίες με το πάτημα του κλείστρου. Μικροσκοπικοί αισθητήρες, μεγάλη φιλοδοξία.
Η OpenAI δεν σχολίασε. Φυσικά. Και ναι - αυτό βρίσκεται δίπλα σε όλες τις φήμες για το υλικό, τα τηλέφωνα, τα ακουστικά και τις συνοδευτικές συσκευές. Μπορείς σχεδόν να ακούσεις κάποιον να λέει «vision stack» σε μια σύσκεψη και όλοι να κουνάνε το κεφάλι τους δυνατά.
Μια εταιρεία φωτογραφικών μηχανών ως το κομμάτι που λείπει για μια συσκευή παραμένει ένα ανοιχτό στοίχημα - ή απλώς ένα πολύ ακριβό στοίχημα ότι τα pixel εξακολουθούν να έχουν σημασία όταν τα chatbots κατακλύζουν τον κόσμο.
Οι παγκόσμιες μετοχές τεχνητής νοημοσύνης υποχωρούν καθώς οι επικεφαλής της βιομηχανίας ζητούν επιβράδυνση της ανάπτυξης
Οι αγορές δεν άρεσαν ιδιαίτερα στο κήρυγμα ασφαλείας. Τα ονόματα των τσιπ δέχτηκαν πλήγμα. Η SoftBank δέχτηκε σφοδρό πλήγμα στην Ασία. Το τεχνολογικό βιβλίο της Ευρώπης συσπάστηκε. Το SOX είχε ένα δύσκολο πρωινό.
Το έναυσμα ήταν εκείνη η σπάνια στιγμή όπου οι διευθύνοντες σύμβουλοι συμφωνούν σε κάτι - η «επιβράδυνση» της Amodei, με τους Altman και Musk να λένε «ναι», ουσιαστικά. Ο Altman ανέφερε επίσης ότι η OpenAI δεν θα κάνει δημόσια προσφορά φέτος λόγω ανησυχιών για την ασφάλεια... ενώ η Anthropic εξακολουθεί να τρέχει προς μια τέτοια. Αυτή η ένταση είναι δύσκολο να εξομαλυνθεί.
Ο Τραμπ το χαρακτήρισε ως «άρρωστη συνωμοσία» κατά της Τεχνητής Νοημοσύνης και των κέντρων δεδομένων. Ο Μάικλ Μπάρι απέρριψε τις προειδοποιήσεις ως υπερβολικές. Έτσι, η ατμόσφαιρα είναι: υπαρξιακός φόβος στη μία χρονογραμμή, κυνισμός από την άλλη.
Επίσης, τα ονόματα στον τομέα της κυβερνοασφάλειας σημείωσαν άνοδο. Διότι, φυσικά, το μέτρο κατά του «μπορεί η τεχνητή νοημοσύνη να γίνει αθέμιτη» είναι «αγοράστε περισσότερο λογισμικό ασφαλείας». Ο καπιταλισμός βρίσκει έναν τρόπο..
Κορυφαίες εταιρείες τεχνητής νοημοσύνης συζήτησαν τη δημιουργία του δικού τους φορέα τυποποίησης
Το CNN αναφέρει ότι η Anthropic, η Google και η OpenAI συζητούν την δημιουργία του δικού τους φορέα τυποποίησης - όπως ένα FINRA για μοντέλα αιχμής. Η Hassabis παρουσίασε την ιδέα πριν από μήνες. Τώρα οι ομάδες εργασίας είναι προφανώς πραγματικές.
Χρηματοδότηση από τη βιομηχανία. Ανεξάρτητοι εμπειρογνώμονες. Δοκιμή προηγμένων μοντέλων πριν από την αποστολή τους. Οι συζητήσεις συνεχίζονται είτε η Ουάσινγκτον θέλει να συμμετάσχει είτε όχι.
Η αυτορρύθμιση ακούγεται πάντα ευγενής μέχρι να θυμηθείς ότι τα ίδια εργαστήρια ανταγωνίζονται μεταξύ τους. Τότε ακούγεται σαν λέσχη με ενδυματολογικό κώδικα. Μετά κάνεις πίσω: εντάξει, ίσως οι εξωτερικοί αξιολογητές με πρόσβαση παρόμοια με αυτή των υπαλλήλων θα βοηθούσαν.
Δεν είναι όλοι πεπεισμένοι. Ο Ζάκερμπεργκ φέρεται να είπε στον Τραμπ να παραλείψει την ιδέα της FINRA για την Τεχνητή Νοημοσύνη. Έτσι, ο συνασπισμός «θα αστυνομεύσουμε τους εαυτούς μας» έχει ήδη μια διάσημη αντίσταση.
Η Anthropic στοχεύει σε οικονομικούς συμβούλους με το νέο εργαλείο Claude
Ενώ η μισή βιομηχανία συζητά να σταματήσει, η Anthropic έστειλε τον Claude για τους Financial Advisors. Συνδέει τις BlackRock, Schwab, Addepar - καθώς και μια σειρά από ονόματα πλούτου όπως η Envestnet και η Orion.
Προετοιμασία για συνάντηση. Ανασκόπηση χαρτοφυλακίου. Επακόλουθη πολυάσχολη εργασία. Τα άχαρα πράγματα που με κάποιο τρόπο εξακολουθούν να τρώνε την Τρίτη ενός ανθρώπου.
Η χρονική στιγμή είναι εντυπωσιακή ωστόσο - μέρες μετά την οικονομική ώθηση της OpenAI για τραπεζίτες και ερευνητές. Οπότε ναι, βαδίζουν στα σύνορα... και επίσης αγωνίζονται για το μερίδιο του πορτοφολιού RIA. Ελαφριά αντίφαση. Εξαιρετικά ήπια. Εξαιρετικά προφανής.
Αν ο σύμβουλός σας αρχίσει να μιλάει με καχυποψία για τις συμμετοχές σας, τότε ξέρετε γιατί.
Οι ηγέτες της τεχνητής νοημοσύνης ζητούν επιβράδυνση. Η ομάδα του Τραμπ λέει ότι είναι δική τους ευθύνη
Το WIRED αποτυπώνει με σαφήνεια την πολιτική σκηνή: οι επικεφαλής των εργαστηρίων θέλουν βοήθεια για να επιβραδυνθεί η ροή των πραγμάτων. Η ατμόσφαιρα στον Λευκό Οίκο είναι «κουλ, κάν'το μόνοι σου»
Ο Ντέιβιντ Σακς είπε ουσιαστικά ότι αν τα ακυκλοφόρητα μοντέλα σας σας τρομάζουν, να είστε υπεύθυνοι - αλλά σταματήστε να προσποιείστε ότι χρειάζεστε μια απαλλαγή από την αντιμονοπωλιακή νομοθεσία για να σχηματίσετε ένα καρτέλ ασφάλειας. Σκληρό. Επίσης, είναι κάπως δύσκολο να διαφωνήσετε αν έχετε παρακολουθήσει αυτές τις εταιρείες για πέντε λεπτά.
Η γραμμή του Τραμπ είναι απλούστερη: Η Αμερική ηγείται της Κίνας στην Τεχνητή Νοημοσύνη και θέλει να την διατηρήσει έτσι - «όποιος κερδίσει την Τεχνητή Νοημοσύνη, κερδίζει». Ο Πρόεδρος Τζόνσον προειδοποιεί ότι ένα σπριντ έκτακτης ανάγκης για κανονισμούς θα μπορούσε να οδηγήσει σε αποτυχία την κούρσα.
Έτσι, η δέσμευση του Άλτμαν για «ανεξάρτητους αξιολογητές με πρόσβαση παρόμοια με αυτή των εργαζομένων» προσγειώνεται σε αυτό το άβολο κενό - εθελοντική οικοδόμηση εμπιστοσύνης ενώ η κυβέρνηση αδιαφορεί. Η πρόοδος και το θέατρο ταξιδεύουν ξανά μαζί.
Συχνές ερωτήσεις
Τι απαγορεύει ο νέος κώδικας δεοντολογίας τεχνητής νοημοσύνης της Microsoft;
Η Microsoft δημοσίευσε έναν γενικό κώδικα δεοντολογίας με κόκκινες γραμμές για τα μοντέλα της, όπως μηδενικές κυβερνοεπιθέσεις, μηδενικές πυρηνικές εργασίες και μηδενικά εργοστάσια deepfake. Ένας βασικός κανόνας είναι ότι το μοντέλο δεν επιτρέπεται να αποφύγει το κλείσιμο. Ο κώδικας έχει σκοπό να παρακάμψει οτιδήποτε πληκτρολογεί ένας χρήστης στη συνομιλία. Ο Satya Nadella έχει επίσης δηλώσει ότι συμφωνεί με το πλήθος που παρακολουθεί την εξέλιξη της τεχνολογίας, καθώς τα εργαστήρια γίνονται πιο επιφυλακτικά στο κοινό.
Γιατί η OpenAI αγόρασε την Glass Imaging για περίπου 300 εκατομμύρια δολάρια;
Σύμφωνα με πληροφορίες, η OpenAI αγόρασε την εταιρεία κατασκευής φωτογραφικών μηχανών για smartphone, Glass Imaging, για περισσότερα από 300 εκατομμύρια δολάρια. Η νεοσύστατη εταιρεία ιδρύθηκε από πρώην μηχανικούς της Apple Portrait Mode, οι οποίοι έχουν πουλήσει λειτουργίες κάμερας που ήδη γνωρίζει ο κόσμος. Η ιδέα της είναι νευρωνικά δίκτυα που μαθαίνουν συγκεκριμένες κάμερες τηλεφώνων και βελτιώνουν τις φωτογραφίες με το πάτημα του κλείστρου, όχι μόνο τις διορθώσεις της τεχνητής νοημοσύνης μετά την πώληση. Η συμφωνία έρχεται σε αντίθεση με φήμες για hardware σχετικά με τηλέφωνα, ακουστικά και συνοδευτικές συσκευές, αν και η OpenAI δεν σχολίασε.
Γιατί οι παγκόσμιες μετοχές τεχνητής νοημοσύνης υποχώρησαν αφότου οι διευθύνοντες σύμβουλοι εργαστηρίων ζήτησαν επιβράδυνση;
Οι αγορές αντέδρασαν άσχημα στη σπάνια στιγμή συμφωνίας των CEOs, όταν ο Amodei προέτρεψε για επιβράδυνση της ανάπτυξης και οι Altman και Musk συμφώνησαν σε μεγάλο βαθμό. Τα ονόματα των τσιπ δέχτηκαν πλήγμα, η SoftBank δέχτηκε πλήγμα στην Ασία, το τεχνολογικό βιβλίο της Ευρώπης κατέρρευσε και το SOX είχε ένα δύσκολο πρωινό. Ο Altman ανέφερε επίσης ότι η OpenAI δεν θα πραγματοποιήσει δημόσια προσφορά φέτος λόγω ανησυχιών για την ασφάλεια, ενώ η Anthropic εξακολουθεί να αγωνίζεται προς αυτήν. Τα ονόματα των εταιρειών στον κυβερνοχώρο ενισχύθηκαν ως αντιστάθμισμα ενάντια στον φόβο της τεχνητής νοημοσύνης.
Δημιουργούν οι Anthropic, Google και OpenAI τον δικό τους φορέα τυποποίησης τεχνητής νοημοσύνης;
Το CNN αναφέρει ότι οι Anthropic, Google και OpenAI συζήτησαν τη δημιουργία ενός φορέα βιομηχανικών προτύπων - όπως ένα FINRA για μοντέλα αιχμής - με χρηματοδότηση από τη βιομηχανία, ανεξάρτητους εμπειρογνώμονες και δοκιμές πριν από την αποστολή προηγμένων μοντέλων. Ο Demis Hassabis παρουσίασε την ιδέα πριν από μήνες και οι ομάδες εργασίας φέρονται να έχουν πλέον δημιουργηθεί. Οι συζητήσεις σχετικά με το αν η Ουάσινγκτον θέλει να συμμετάσχει. Δεν έχουν πειστεί όλοι: Ο Zuckerberg φέρεται να είπε στον Trump να παραλείψει την ιδέα του FINRA για την Τεχνητή Νοημοσύνη.
Τι είναι το Claude της Anthropic για Χρηματοοικονομικούς Συμβούλους;
Η Anthropic έστειλε το Claude for Financial Advisors με συνδέσμους σε BlackRock, Schwab, Addepar και εταιρείες πλούτου όπως η Envestnet και η Orion. Το εργαλείο στοχεύει σε λιγότερο ελκυστικές εργασίες συμβούλων, όπως προετοιμασία για συναντήσεις, αναθεώρηση χαρτοφυλακίου και παρακολούθηση εργασιών. Η κυκλοφορία έρχεται λίγες μέρες μετά την οικονομική ώθηση της OpenAI για τραπεζίτες και ερευνητές. Αυτό σημαίνει ότι τα εργαστήρια προχωρούν σε πρωτοπορία στο κοινό, ενώ παράλληλα αγωνίζονται για το μερίδιο του πορτοφολιού RIA.
Πώς αντέδρασε η ομάδα του Τραμπ στις εκκλήσεις των ηγετών της Τεχνητής Νοημοσύνης για επιβράδυνση;
Το WIRED αναφέρει ότι οι επικεφαλής των εργαστηρίων θέλουν βοήθεια για την επιβράδυνση, ενώ η διάθεση του Λευκού Οίκου είναι ότι θα πρέπει να το κάνουν οι ίδιοι. Ο David Sacks είπε ότι αν τα αδημοσίευτα μοντέλα σας τρομάζουν, να είστε υπεύθυνοι - αλλά σταματήστε να προσποιείστε ότι χρειάζεστε μια απαλλαγή από την αντιμονοπωλιακή νομοθεσία για να σχηματίσετε ένα καρτέλ ασφάλειας. Η πιο απλή ατάκα του Trump είναι ότι η Αμερική ηγείται της Κίνας στην Τεχνητή Νοημοσύνη και όποιος κερδίσει την Τεχνητή Νοημοσύνη κερδίζει. Ο Πρόεδρος του Δημοσίου Τζόνσον προειδοποιεί ότι ένα σπριντ έκτακτης ανάγκης στη ρύθμιση θα μπορούσε να υπονομεύσει την κούρσα, αφήνοντας την υπόσχεση του ανεξάρτητου αξιολογητή του Altman σε ένα εθελοντικό κενό.