Το OpenAI θα διακόψει προσωρινά κάποιες εργασίες στο μοντέλο τεχνητής νοημοσύνης Astra λόγω ανησυχιών για την ασφάλεια ↗
Η OpenAI διακόπτει την εσωτερική εργασία στο Astra, η οποία δεν πληροί αυστηρότερες απαιτήσεις ασφαλείας, μετά από αξιολογήσεις που υπέδειξαν ότι οι κυβερνοδυναμικές του ικανότητες ενδέχεται να έχουν ξεπεράσει ένα «κρίσιμο» όριο. Ο παράγοντας θα μπορούσε, σύμφωνα με πληροφορίες, να εντοπίσει και να εκμεταλλευτεί τρωτά σημεία χωρίς ανθρώπινη παρέμβαση ή να πραγματοποιήσει επιθέσεις από έναν στόχο υψηλού επιπέδου. Ναι... αυτό είναι ένα αρκετά σοβαρό όριο που πρέπει να ξεπεραστεί.
Η εταιρεία αυστηροποιεί τις μεμονωμένες δοκιμές, την πρόσβαση στο δίκτυο και τα εργαλεία, την προστασία βάρους μοντέλου, την κρυπτογράφηση και την παρακολούθηση. Η Astra δεν συμμετείχε στο προηγούμενο περιστατικό Hugging Face της OpenAI, αλλά το ευρύτερο μοτίβο των ολοένα και πιο αυτόνομων πρακτόρων καθιστά τον περιορισμό πολύ μεγαλύτερη ανησυχία. (Πηγή: The Guardian)
Η Apple λέει ότι οι χρήστες Mac στην Κίνα μπορούν να συνδεθούν στην υπηρεσία τεχνητής νοημοσύνης Qwen της Alibaba ↗
Οι χρήστες Mac στην ηπειρωτική Κίνα που πληρούν τις προϋποθέσεις μπορούν πλέον να συνδέσουν το Qwen της Alibaba με το Siri και τα Εργαλεία γραφής της Apple. Αυτό σημαίνει πιο λεπτομερείς απαντήσεις καθώς και ανάλυση εγγράφων και εικόνων, παράλληλα με τη δημιουργία κειμένου και εικόνων από περιγραφές.
Είναι ένας ενδιαφέρων συνδυασμός, ειλικρινά - η Apple επιτυγχάνει μια τοπικά συμβατή πορεία προς ισχυρότερες λειτουργίες τεχνητής νοημοσύνης σε μια έντονα ανταγωνιστική αγορά υπολογιστών, ενώ η Alibaba ενσωματώνει την Qwen πολύ πιο βαθιά στο οικοσύστημα κάποιου άλλου. Η Apple λέει ότι το υλικό που αποστέλλεται μέσω της επέκτασης δεν μπορεί να χρησιμοποιηθεί από την Alibaba για την εκπαίδευση των μοντέλων της. (Πηγή: Reuters)
Η Google DeepMind μπαίνει σε μια νέα εποχή, καθώς ο συνιδρυτής Demis Hassabis αλλάζει ρόλο στην Τεχνητή Νοημοσύνη ↗
Ο Ντέμης Χασάμπης παραιτείται από την καθημερινή ηγεσία της DeepMind, αναλαμβάνοντας παράλληλα τον ρόλο του επικεφαλής επιστημονικού συμβούλου στην Alphabet. Ο επί χρόνια συνάδελφός του, Κοράι Καβουκτσούογλου, αναλαμβάνει τον επιχειρησιακό έλεγχο ως ανώτερος αντιπρόεδρος και όχι ως διευθύνων σύμβουλος - μια διακριτική αλλαγή τίτλου που λέει πολλά.
Ο ανασχηματισμός έρχεται παράλληλα με άλλες σημαντικές αποχωρήσεις ερευνητών και ερωτήματα σχετικά με το εάν η DeepMind γίνεται λιγότερο ανεξάρτητη και απορροφάται περισσότερο από την εμπορική μηχανή τεχνητής νοημοσύνης της Google. Η Google αμφισβητεί ότι η αλλαγή συνδέεται με την ανταγωνιστική απόδοση της Gemini. (Πηγή: The Guardian)
Αυξανόμενος αριθμός παιδιών στο Ηνωμένο Βασίλειο αναφέρει ότι βλέπουν σαφείς deepfakes εικόνες του εαυτού τους ↗
Οι αναφορές από παιδιά στο Ηνωμένο Βασίλειο σχετικά με άσεμνες ψεύτικες ή χειραγωγημένες εικόνες του εαυτού τους έχουν αυξηθεί κατακόρυφα. Το Report Remove έλαβε 420 αναφορές σε μόλις έξι μήνες, ξεπερνώντας ήδη το προηγούμενο πλήρες ετήσιο σύνολο των 397. Τα εργαλεία «γυμνισμού» που υποστηρίζονται από τεχνητή νοημοσύνη καθιστούν το πρόβλημα εξαιρετικά ευκολότερο στην κλιμάκωση.
Το Ίδρυμα Παρακολούθησης Διαδικτύου αναφέρει ότι πολλές από τις αναφερόμενες παραποιημένες εικόνες ήταν αρκετά σοβαρές ώστε να υπερβούν το όριο για υλικό σεξουαλικής κακοποίησης παιδιών. Ορισμένα θύματα έγιναν επίσης στόχος σεξουαλικής κακοποίησης, μετατρέποντας μια εικόνα που δημιουργήθηκε από τεχνητή νοημοσύνη σε ένα πολύ απτό όπλο. (Πηγή: The Guardian)
Τα χαρακτηριστικά της τεχνητής νοημοσύνης υπερισχύουν της επιχειρηματικής αξίας, σύμφωνα με έρευνα ↗
Οι εταιρείες λογισμικού για επιχειρήσεις αναπτύσσουν λειτουργίες τεχνητής νοημοσύνης, αλλά οι πελάτες δεν τις χρησιμοποιούν απαραίτητα. Σε μια έρευνα σε περισσότερες από 260 κάθετες επιχειρήσεις λογισμικού, το 51% δήλωσε ότι λιγότεροι από το ένα τέταρτο των πελατών τους χρησιμοποιούσαν τις δυνατότητες τεχνητής νοημοσύνης που είχαν δημιουργήσει. Λίγο αμήχανο μετά από όλη αυτή την παράδοση...
Το σημείο συμφόρησης μοιάζει λιγότερο με δυνατότητες Τεχνητής Νοημοσύνης και περισσότερο με ενσωμάτωση, ασφάλεια, ιδιωτικότητα, αλλαγές στη ροή εργασίας και απόδειξη συγκεκριμένης επιχειρηματικής αξίας. Ένα ιδιαίτερα περίεργο φαινόμενο είναι το "tokenmaxxing" - η μεγάλη κατανάλωση Τεχνητής Νοημοσύνης που φαίνεται εντυπωσιακή σε έναν πίνακα ελέγχου χωρίς σαφή στοιχεία ότι παράγει καλύτερα αποτελέσματα. (Πηγή: Forbes)
Η Τεχνητή Νοημοσύνη αλλάζει την εργασία πιο γρήγορα από ό,τι μπορούν να παρακολουθήσουν τα δεδομένα ↗
Το επιχείρημα μεταξύ των θέσεων εργασίας και της τεχνητής νοημοσύνης γίνεται όλο και πιο περίπλοκο και όχι πιο ξεκάθαρο. Μια μελέτη που κάλυψε περισσότερες από 21.000 αμερικανικές εταιρείες διαπίστωσε ότι οι εταιρείες που υιοθέτησαν περισσότερο την τεχνητή νοημοσύνη αύξησαν το συνολικό προσωπικό κατά 10% και τις προσλήψεις εισαγωγικού επιπέδου κατά 12%, ενώ οι εταιρείες που υιοθέτησαν λιγότερο εντατικά την τεχνητή νοημοσύνη δεν παρουσίασαν αύξηση του προσωπικού.
Ωστόσο, άλλες έρευνες έχουν διαπιστώσει πίεση στην απασχόληση μεταξύ των νεότερων εργαζομένων σε ρόλους που εκτίθενται στην Τεχνητή Νοημοσύνη, και οι οικονομολόγοι προειδοποιούν ότι οι αναπτυσσόμενες εταιρείες μπορούν ακόμα να προσλαμβάνουν, ενώ η Τεχνητή Νοημοσύνη αλλάζει επαγγέλματα σε ολόκληρη την ευρύτερη οικονομία. Έτσι, η Τεχνητή Νοημοσύνη καταστρέφει θέσεις εργασίας και τις δημιουργεί... ή έτσι θα σας έκαναν να πιστέψετε τα αντικρουόμενα σύνολα δεδομένων. (Πηγή: Fortune)
Συχνές ερωτήσεις
Ποιες είναι οι μεγαλύτερες εξελίξεις στα νέα για την Τεχνητή Νοημοσύνη αυτή τη στιγμή;
Πρόσφατα νέα για την Τεχνητή Νοημοσύνη αναδεικνύουν διάφορα αλληλεπικαλυπτόμενα θέματα: ισχυρότερες αυτόνομες δυνατότητες, αυστηρότερους ελέγχους ασφαλείας, βαθύτερες ενσωματώσεις πλατφορμών, αλλαγές στην ηγεσία, κινδύνους για την ασφάλεια στο διαδίκτυο και αβέβαιη επιχειρηματική αξία. Η OpenAI αυστηροποιεί τα μέτρα ασφαλείας γύρω από την Astra, η Apple συνδέει την Qwen με Mac στην Κίνα και η DeepMind αλλάζει την ηγεσία. Ταυτόχρονα, αυξάνονται οι ανησυχίες σχετικά με τα deepfakes, την υιοθέτηση από τις επιχειρήσεις και την επίδραση της Τεχνητής Νοημοσύνης στην απασχόληση.
Γιατί η OpenAI σταμάτησε κάποιες εργασίες στο Astra;
Σύμφωνα με πληροφορίες, η OpenAI έθεσε σε παύση την εσωτερική εργασία της Astra, η οποία δεν πληρούσε αυστηρότερες απαιτήσεις ασφαλείας, αφού αξιολογήσεις υπέδειξαν ότι οι κυβερνοδυναμικές δυνατότητες του μοντέλου ενδέχεται να έχουν φτάσει σε κρίσιμο επίπεδο. Η ανησυχία είναι ότι ένας προηγμένος παράγοντας θα μπορούσε ενδεχομένως να ανακαλύψει και να εκμεταλλευτεί τρωτά σημεία με περιορισμένη ή καθόλου ανθρώπινη παρέμβαση. Σε απάντηση, η OpenAI ενισχύει τις μεμονωμένες δοκιμές, τους ελέγχους πρόσβασης, την κρυπτογράφηση, την παρακολούθηση και τις προστασίες σχετικά με τα βάρη των μοντέλων.
Πώς θα συνεργαστεί η Alibaba Qwen με τα Apple Mac στην Κίνα;
Οι επιλέξιμοι χρήστες Mac στην ηπειρωτική Κίνα μπορούν να συνδέσουν την υπηρεσία Qwen της Alibaba με τη Siri και τα Εργαλεία γραφής της Apple. Η ενσωμάτωση μπορεί να υποστηρίξει πιο λεπτομερείς απαντήσεις, ανάλυση εγγράφων και εικόνων και δημιουργία κειμένου ή εικόνων από περιγραφές. Για την Apple, η ρύθμιση παρέχει μια τοπικά συμβατή οδό για ισχυρότερη λειτουργικότητα Τεχνητής Νοημοσύνης, ενώ η Alibaba αποκτά βαθύτερη πρόσβαση στο οικοσύστημα της Apple. Η Apple αναφέρει ότι το υποβληθέν υλικό δεν μπορεί να χρησιμοποιηθεί για την εκπαίδευση μοντέλων της Alibaba.
Τι σημαίνει η αλλαγή ηγεσίας της DeepMind για την τεχνητή νοημοσύνη της Google;
Ο Ντέμις Χασάμπης αποχωρεί από την καθημερινή ηγεσία της DeepMind, ενώ παράλληλα γίνεται πρόεδρος και αναλαμβάνει τον ρόλο του επικεφαλής επιστημονικού επιστήμονα στην Alphabet. Ο Κοράι Καβουκτσούογλου θα αναλάβει τον επιχειρησιακό έλεγχο ως ανώτερος αντιπρόεδρος. Η αλλαγή έχει εγείρει ερωτήματα σχετικά με το εάν η DeepMind ενσωματώνεται πιο στενά με τις ευρύτερες εμπορικές δραστηριότητες τεχνητής νοημοσύνης της Google, αν και η Google αμφισβητεί τις υποψίες ότι ο ανασχηματισμός συνδέεται με την ανταγωνιστική απόδοση της Gemini.
Γιατί τα deepfakes μέσω τεχνητής νοημοσύνης γίνονται μεγαλύτερη ανησυχία για την ασφάλεια των παιδιών;
Τα εργαλεία χειρισμού εικόνων με τεχνητή νοημοσύνη μπορούν να διευκολύνουν τη δημιουργία ρεαλιστικών, ξεκάθαρων, ψεύτικων εικόνων σε μεγάλη κλίμακα. Τα παιδιά στο Ηνωμένο Βασίλειο αναφέρουν όλο και περισσότερο χειραγωγημένες ή κατασκευασμένες εικόνες του εαυτού τους και ορισμένες περιπτώσεις ήταν αρκετά σοβαρές ώστε να πληρούν το όριο για υλικό σεξουαλικής κακοποίησης παιδιών. Αυτές οι εικόνες μπορούν επίσης να χρησιμοποιηθούν για σεξουαλική κακοποίηση, που σημαίνει ότι μια κατασκευασμένη εικόνα μπορεί να προκαλέσει σημαντική ζημία στη φήμη, συναισθηματική και οικονομική ζημία.
Ωφελούνται οι επιχειρήσεις και οι εργαζόμενοι από την Τεχνητή Νοημοσύνη;
Τα τελευταία νέα για την Τεχνητή Νοημοσύνη υποδηλώνουν ότι η απάντηση είναι ανάμεικτη. Πολλές εταιρείες λογισμικού προσθέτουν λειτουργίες Τεχνητής Νοημοσύνης (ΤΝ) ταχύτερα από ό,τι τις υιοθετούν οι πελάτες, με την ενσωμάτωση, την ιδιωτικότητα, την ασφάλεια και την μετρήσιμη επιχειρηματική αξία να παραμένουν σημαντικά εμπόδια. Τα δεδομένα απασχόλησης είναι εξίσου περίπλοκα: ορισμένες εταιρείες με έντονη υιοθέτηση της ΤΝ επεκτείνουν τις προσλήψεις, ενώ άλλες έρευνες δείχνουν πίεση στους νεότερους εργαζόμενους σε ρόλους που εκτίθενται στην ΤΝ. Ο συνολικός αντίκτυπος εξαρτάται σε μεγάλο βαθμό από τον κλάδο, τη ροή εργασίας και τον τρόπο εφαρμογής της ΤΝ.