Η OpenAI υποστηρίζει νομοσχέδια στο Κογκρέσο των ΗΠΑ για τις απειλές από την Τεχνητή Νοημοσύνη και τα βιολογικά όπλα
Το OpenAI υποστηρίζει μια σειρά από δικομματικά νομοσχέδια για τα βιογραφικά δεδομένα - τον Νόμο περί Ιστού Βιολογικών Δεδομένων, τον Νόμο περί Προτύπων Βιολογικών Δεδομένων με Ετοιμότητα για την Τεχνητή Νοημοσύνη, τον Νόμο περί Κλιμάκωσης της Βιολογίας. Η πρόταση: να σταματήσουν τα μοντέλα από την υπερτροφοδότηση βιολογικών όπλων και συνθετικών ιών. Δύσκολα θέματα για δελτίο τύπου την Τρίτη.
Και περιμένετε - υποστηρίζουν επίσης το κομμάτι του νόμου FRONTIER που αναγκάζει τα κορυφαία εργαστήρια να ενσωματώσουν ανεξάρτητους αξιολογητές ασφάλειας. Πρώτη φορά που υπογράφουν μια συγκεκριμένη ομοσπονδιακή εντολή όπως αυτή, σύμφωνα με το ρεπορτάζ του Hill.
Έτσι... η εταιρεία που επί χρόνια έλεγε «εμπιστευτείτε μας» ξαφνικά ζητά από το Κογκρέσο να κάνει τους ξένους να κοιτάζουν πίσω από τον ώμο της. Η πρόοδος και το θέατρο των λόμπινγκ μπορούν να ταξιδέψουν μαζί.
Όπως και να 'χει, το μήνυμα είναι ηχηρό: ο βιολογικός κίνδυνος δεν αποτελεί πλέον υποσημείωση σε λευκό χαρτί.
Το Ίδρυμα Gates αναφέρει ότι δαπανά 1 δισεκατομμύριο δολάρια για την επέκταση της πρόσβασης στην Τεχνητή Νοημοσύνη.
Ενώ τα εργαστήρια διαφωνούν για το αν πρέπει να πατήσουν φρένο, το Ίδρυμα Gates μόλις δεσμεύτηκε να διαθέσει τουλάχιστον ένα δισεκατομμύριο δολάρια σε διάστημα δύο ετών για να προωθήσει την Τεχνητή Νοημοσύνη σε άτομα που συνήθως τρώνε περισσεύματα.
Χονδρική κατανομή από την ανάπτυξη των Goalkeepers: περίπου 40% εκπαίδευση, 40% υγειονομική περίθαλψη, 10% γεωργία, 10% γλώσσες και ψηφιακές υδραυλικές εγκαταστάσεις. Σκεφτείτε καθηγητές μαθηματικών, εργαλεία αγροτικών κλινικών, βοηθούς εδάφους/καλλιεργειών - καθώς και σύνολα δεδομένων, ώστε τα μοντέλα να μην είναι για πάντα μόνο στα αγγλικά.
Η γραμμή του Γκέιτς είναι ξεκάθαρη - χωρίς παρέμβαση, η αγορά κατασκευάζει πρώτα την Τεχνητή Νοημοσύνη για τους πλουσιότερους. Η φιλανθρωπία μπορεί να μοιάζει με μια λύση ή έναν επίδεσμο σε ένα διαρθρωτικό πρόβλημα. Παρόλα αυτά, ένα δισεκατομμύριο δεν είναι αδιάφορο.
Επίσης - υπερηχογράφημα τεχνητής νοημοσύνης μέσω τηλεφώνου που στοχεύει σε μετρήσεις νοσοκομειακού επιπέδου. Εντυπωσιακό αν κυκλοφορήσει σε μεγάλη κλίμακα.
Το νέο μοντέλο συλλογισμού της Salesforce και της Nvidia είναι όλα όσα πρέπει να φοβούνται τα εργαστήρια τεχνητής νοημοσύνης
Dreamforce drop: Koa. Το πρώτο μοντέλο συλλογισμού CRM της Salesforce, μετεκπαιδευμένο στο ανοιχτού βάρους Nemotron της Nvidia - που στοχεύει στις πωλήσεις, την υποστήριξη και τα περίπλοκα πολυβηματικά επιχειρηματικά πράγματα στα οποία συνήθως καταφεύγουν ο Claude και το ChatGPT.
Δεν υπάρχουν πραγματικά δεδομένα πελατών στην εκπαίδευση - αντίθετα συνθετικά personas, συμπεριλαμβανομένων των "εξοργισμένων καλούντων", κάτι που είναι σχεδόν υπερβολικά προφανές. Το Salesforce διατηρεί τα βάρη εντός των ορίων εμπιστοσύνης του. Το CRM bench τους ισχυρίζεται λιγότερα σφάλματα με λιγότερα tokens. Tokenomics. Το αγαπημένο σλόγκαν του κλάδου όλων.
Εκτός του ότι δεν πρόκειται να εγκαταλείψουν το Anthropic. Το ClaudeForce εξακολουθεί να υπάρχει. Οπότε ναι - φτιάξτε τη δική σας μηχανή συλλογισμού και συνεχίστε να νοικιάζετε τα εργαστήρια frontier. Αντίφαση. Ήπια. Εξαιρετικά Salesforce.
Οι πιλότοι ήδη ξεκινούν - Φόρμουλα 1, νοσοκομεία, πιστωτικά ιδρύματα. Τα εργαστήρια αιχμής ίσως θα έπρεπε να ιδρώσουν λίγο.
Το Meta επιτρέπει πλέον στους πράκτορες τεχνητής νοημοσύνης να χειρίζονται τα βαρετά μέρη της εγκατάστασης του WhatsApp Business
Η κίνηση του Meta είναι λιγότερο υπαρξιακό δράμα, περισσότερο του τύπου «παρακαλώ σταματήστε να κάνετε τους προγραμματιστές να κάνουν κλικ σε δώδεκα κονσόλες». Τα νέα εργαλεία WhatsApp Business Tools MCP επιτρέπουν στους Claude, Cursor, Codex, ChatGPT - να επιλέγουν τον αντιπρόσωπό τους - να ρυθμίζουν την ανταλλαγή επιχειρηματικών μηνυμάτων συζητώντας γι' αυτό.
Δημιουργήστε τον λογαριασμό. Επαληθεύστε τον αριθμό. Εγγραφείτε στο Cloud API. Σχεδιάστε πρότυπα. Παρακολουθήστε webhooks. Ακόμα και σας ενοχλούν όταν οι Όροι Παροχής Υπηρεσιών ή η πληρωμή αποτυγχάνουν σιωπηλά. Η βαρετή κόλλα που κανείς δεν θέλει να έχει.
Η ενσωμάτωση επιχειρήσεων μέσω συνομιλίας και MCP παντού μέχρι να σπάσει κάτι με ξεκαρδιστικό τρόπο μπορεί και τα δύο να είναι αληθινά.
Τέλος πάντων - αν η εγκατάσταση του WhatsApp Business σας ξαφνικά σας φαίνεται σαν να μιλάτε με έναν ελαφρώς υπερβολικά πρόθυμο ασκούμενο, τώρα ξέρετε γιατί.
Ο Huang της Nvidia διαφωνεί με τους CEOs των Anthropic και OpenAI σχετικά με την ασφάλεια της Τεχνητής Νοημοσύνης στην Dreamforce
Ίδια σκηνή Moscone, αντίθετα registers. Ο Amodei λέει στον Benioff ότι ο ρυθμός είναι ο τρόπος που ηγείσαι - δώσε το παράδειγμα, γίνε καλύτερος. Ο Huang συνεχίζει και αποκαλεί την ταχύτητα έναντι της ασφάλειας «λανθασμένη επιλογή». Δυνάμεις της αγοράς. Δεν χρειάζονται νέοι νόμοι. Τρέξε γρήγορα... εκτός αν πρόκειται να μεταφέρεις κάτι μη ασφαλές, τότε σταμάτα.
Ο Άλτμαν αργότερα: ασφάλεια και παρακολούθηση πριν από τις δυνατότητες. «Δεν θα έπρεπε να υπάρχει κάποιος προσδιορισμός σε αυτό». Έτσι, οι τρεις διευθύνοντες σύμβουλοι δεν είναι ευθυγραμμισμένοι. Ίσως γειτονικοί.
Το πλήθος κάλυψε όλο το φάσμα σε μία μόνο ημέρα ομιλιών - κηρύγματα επιβράδυνσης, αισιοδοξία για τους chip kings και OpenAI που τονίζει την ευθύνη με μηδενική καταπακτή διαφυγής τύπου "εκτός αν οι ανταγωνιστές κάνουν απάτη".
Το ποιο επιχείρημα θα κερδίσει στην πράξη παραμένει άγνωστο. Προσέξτε τι θα κυκλοφορήσει το επόμενο τρίμηνο. Τα λόγια είναι φθηνά. Οι GPU όχι.
Η ισπανική εποπτική αρχή δεδομένων δημοσιεύει την πρώτη αναφορά παραβίασης δεδομένων που σχετίζεται με πράκτορες τεχνητής νοημοσύνης
Η ισπανική AEPD αναφέρει ότι έλαβε την πρώτη ειδοποίηση για παραβίαση προσωπικών δεδομένων που φέρεται να έγινε από έναν πράκτορα τεχνητής νοημοσύνης - χρησιμοποιώντας έναν ευρέως γνωστό LLM για να εντοπίσει τρύπες, να εισέλθει, να τροποποιήσει προσωπικά δεδομένα και να ρίξει μια ματιά σε τιμολόγια.
Περιορισμένη ανθρώπινη παρέμβαση σε πολλαπλά στάδια επίθεσης. Αυτό είναι το ανατριχιαστικό. Δεν είναι επιστημονικής φαντασίας. Ένα περιστατικό με γραφειοκρατία και αυτονομία.
Ο οργανισμός είναι προσεκτικός: δεν κατονομάζει το μοντέλο ή το θύμα· λέει ότι η υποδομή του παρόχου δεν παραβιάστηκε μόνο και μόνο επειδή κάποιος χρησιμοποίησε έναν πράκτορα. Ακόμα υπό εξέταση. Ακόμα ανησυχητικό.
Μία περίπτωση δεν αποτελεί πλέον τάση. Αλλά ούτε είναι πλέον θεωρητική. Ελεγκτές, ετοιμάστε τα χρονόμετρά σας - οι επιθέσεις μόλις έγιναν πιο γρήγορες.
Συχνές ερωτήσεις
Ποια νομοσχέδια για την τεχνητή νοημοσύνη και τα βιολογικά όπλα υποστηρίζει η OpenAI στο Κογκρέσο;
Η OpenAI ενέκρινε μια σειρά από διμερή νομοσχέδια για τα βιογραφικά δεδομένα, συμπεριλαμβανομένου του Νόμου για το Διαδίκτυο των Βιολογικών Δεδομένων, του Νόμου για τα Πρότυπα Βιολογικών Δεδομένων με Τεχνητή Νοημοσύνη (AI-Ready Bio-Data Standards Act) και του Νόμου για την Κλιμακωτή Βιολογία. Στόχος είναι να σταματήσουν τα μοντέλα από την υπερτροφοδότηση βιολογικών όπλων και συνθετικών ιών. Η OpenAI υποστηρίζει επίσης τη διάταξη του Νόμου FRONTIER που υποχρεώνει τα κορυφαία εργαστήρια να ενσωματώσουν ανεξάρτητους αξιολογητές ασφάλειας - σύμφωνα με πληροφορίες, είναι η πρώτη φορά που έχει υπογράψει μια συγκεκριμένη ομοσπονδιακή εντολή όπως αυτή. Ο βιολογικός κίνδυνος δεν αντιμετωπίζεται πλέον ως υποσημείωση λευκής βίβλου.
Πώς ξοδεύει το Ίδρυμα Gates 1 δισεκατομμύριο δολάρια για πρόσβαση στην Τεχνητή Νοημοσύνη;
Το Ίδρυμα Gates δεσμεύτηκε να διαθέσει τουλάχιστον ένα δισεκατομμύριο δολάρια σε διάστημα δύο ετών για να επεκτείνει την πρόσβαση στην τεχνητή νοημοσύνη για άτομα που συνήθως μένουν χωρίς φαγητό. Η ανάπτυξη του Goalkeepers χωρίζει περίπου το 40% στην εκπαίδευση, το 40% στην υγειονομική περίθαλψη, το 10% στη γεωργία και το 10% στις γλώσσες και την ψηφιακή υδραυλική, καλύπτοντας καθηγητές μαθηματικών, εργαλεία αγροτικών κλινικών, βοηθούς εδάφους και καλλιεργειών και σύνολα δεδομένων, ώστε τα μοντέλα να μην είναι μόνο αγγλικά για πάντα. Ο Gates υποστηρίζει ότι χωρίς παρέμβαση η αγορά κατασκευάζει πρώτα την τεχνητή νοημοσύνη για τους πλουσιότερους. Ο υπέρηχος τεχνητής νοημοσύνης μέσω τηλεφώνου που στοχεύει σε μετρήσεις νοσοκομειακού επιπέδου είναι ένα φιλόδοξο παράδειγμα, εάν κυκλοφορήσει σε μεγάλη κλίμακα.
Τι είναι το μοντέλο συλλογισμού Koa των Salesforce και Nvidia;
Το Koa είναι το πρώτο μοντέλο συλλογισμού CRM της Salesforce, το οποίο εκπαιδεύτηκε στο ανοιχτού βάρους Nemotron της Nvidia και στοχεύει σε πωλήσεις, υποστήριξη και περίπλοκες πολυβάθμιες επιχειρηματικές εργασίες. Η εκπαίδευση χρησιμοποίησε συνθετικά personas - συμπεριλαμβανομένων των θυμωμένων καλούντων - αντί για πραγματικά δεδομένα πελατών, και η Salesforce διατηρεί τα βάρη εντός των ορίων εμπιστοσύνης της. Οι πάγκοι CRM ισχυρίζονται λιγότερα σφάλματα με λιγότερα tokens. Η Salesforce δεν απορρίπτει το Anthropic: Η ClaudeForce παραμένει, επομένως κατασκευάζει τη δική της μηχανή συλλογισμού ενώ παράλληλα ενοικιάζει εργαστήρια αιχμής, με πιλότους ήδη στη Formula 1, σε νοσοκομεία και πιστωτικά ιδρύματα.
Πώς βοηθάει το WhatsApp Business MCP της Meta τους πράκτορες Τεχνητής Νοημοσύνης;
Το νέο WhatsApp Business Tools MCP της Meta επιτρέπει σε εκπροσώπους όπως οι Claude, Cursor, Codex και ChatGPT να ρυθμίζουν την ανταλλαγή επαγγελματικών μηνυμάτων συζητώντας σχετικά. Οι εκπρόσωποι μπορούν να δημιουργήσουν τον λογαριασμό, να επαληθεύσουν τον αριθμό, να εγγραφούν στο Cloud API, να συντάξουν πρότυπα, να παρακολουθήσουν webhooks και να γκρινιάζουν όταν οι Όροι Παροχής Υπηρεσιών ή η πληρωμή αποτυγχάνουν σιωπηλά. Στόχος είναι να αντικατασταθεί η βαρετή, κολλώδης εργασία πολλαπλών κονσολών που κανείς δεν θέλει να έχει. Η ενσωμάτωση σε επιχειρήσεις αρχίζει να μοιάζει περισσότερο με συνομιλία με έναν υπερβολικά πρόθυμο ασκούμενο παρά με κλικ σε δώδεκα οθόνες διαχειριστή.
Πώς διαφοροποιήθηκε ο Huang της Nvidia από την Anthropic και την OpenAI όσον αφορά την ασφάλεια της Τεχνητής Νοημοσύνης;
Στο Dreamforce, ο Amodei είπε στον Benioff ότι ο ρυθμός είναι ο τρόπος με τον οποίο ηγείσαι - δίνεις το παράδειγμα και γίνεσαι καλύτερος - ενώ ο Jensen Huang χαρακτήρισε την ταχύτητα έναντι της ασφάλειας μια λανθασμένη επιλογή που καθοδηγείται από τις δυνάμεις της αγοράς, χωρίς να απαιτούνται νέοι νόμοι εκτός αν πρόκειται να αποστείλετε κάτι μη ασφαλές. Ο Altman αργότερα τόνισε την ασφάλεια και την παρακολούθηση πριν από τις δυνατότητες χωρίς να θέσει κάποιο προκριματικό. Οι τρεις διευθύνοντες σύμβουλοι δεν ήταν σύμφωνοι: στην ίδια σκηνή έγιναν κηρύγματα επιβράδυνσης, αισιοδοξία για τον βασιλιά των τσιπ και η παρουσίαση της OpenAI για την ευθύνη. Το τι θα κυκλοφορήσει το επόμενο τρίμηνο θα έχει μεγαλύτερη σημασία από τις κεντρικές ομιλίες.
Τι ανέφερε η ισπανική εποπτική αρχή δεδομένων σχετικά με παραβίαση ενός παράγοντα τεχνητής νοημοσύνης;
Η AEPD της Ισπανίας δημοσίευσε την πρώτη της ειδοποίηση για παραβίαση προσωπικών δεδομένων που φέρεται να πραγματοποιήθηκε από έναν πράκτορα τεχνητής νοημοσύνης που χρησιμοποιεί ένα γνωστό LLM για να βρει τρύπες, να εισέλθει, να τροποποιήσει προσωπικά δεδομένα και να κρυφοκοίταξε τιμολόγια. Η περιορισμένη ανθρώπινη παρέμβαση σε πολλαπλά στάδια επίθεσης είναι το ανατριχιαστικό κομμάτι - ένα περιστατικό γραφειοκρατίας με αυτονομία. Η υπηρεσία δεν κατονόμασε το μοντέλο ή το θύμα και δήλωσε ότι η υποδομή του παρόχου δεν παραβιάστηκε μόνο και μόνο επειδή κάποιος οδήγησε έναν πράκτορα. Η υπόθεση βρίσκεται ακόμη υπό εξέταση, αλλά δεν είναι πλέον μόνο θεωρία.