Γιατί η Τεχνητή Νοημοσύνη μερικές φορές επινοεί πράγματα [Βίντεο και Κουίζ]

Σύντομη απάντηση: Η Τεχνητή Νοημοσύνη μερικές φορές επινοεί πράγματα επειδή προβλέπει πιθανές επόμενες λέξεις, όχι επαληθευμένα γεγονότα - η ευχέρεια δεν αποτελεί απόδειξη. Όταν το θέμα είναι εξειδικευμένο, έχει υψηλά διακυβεύματα ή απαιτεί ακριβή ονόματα και αριθμούς, τα κενά συμπληρώνονται με σίγουρες εικασίες, εκτός εάν τεκμηριώσετε την απάντηση και ελέγξετε δειγματοληπτικά τους ισχυρισμούς.

Άρθρα που ίσως σας ενδιαφέρουν μετά από αυτό:

🔗 Σταματήστε να αντιμετωπίζετε την Τεχνητή Νοημοσύνη όπως την Google.
Μάθετε γιατί τα καλύτερα αποτελέσματα Τεχνητής Νοημοσύνης απαιτούν διαφορετική προσέγγιση.

🔗 Η πρώτη σας σωστή προτροπή τεχνητής νοημοσύνης.
Δημιουργήστε μια σαφή, αποτελεσματική προτροπή χρησιμοποιώντας μια απλή δομή.

🔗 Τα 4 μέρη μιας εξαιρετικής προτροπής τεχνητής νοημοσύνης
Ανακαλύψτε τέσσερα βασικά στοιχεία που βελτιώνουν την ποιότητα των προτροπών τεχνητής νοημοσύνης.

🔗 Τι είναι στην πραγματικότητα η Τεχνητή Νοημοσύνη;
Κατανοήστε την τεχνητή νοημοσύνη με απλούς, πρακτικούς, καθημερινούς όρους.

Βασικά συμπεράσματα:

Πρόβλεψη χωρίς γνώση: Αντιμετωπίστε την εύστοχη πρόζα ως ολοκλήρωση μοτίβου, ποτέ ως ένορκη απόδειξη.

Παγίδα αυτοπεποίθησης: Ο δυναμικός τόνος είναι στυλ· η ακρίβεια χρειάζεται ξεχωριστό έλεγχο εκτός συνομιλίας.

Ψεύτικη συσκευασία: Αναζητήστε μόνοι σας τίτλους παραπομπών και αποσπάσματα προτού εμπιστευτείτε τακτοποιημένες λίστες αναφορών.

Βασίστε την απάντηση: Επικολλήστε σημειώσεις πηγής και αποκλείστε επινοημένες διευθύνσεις URL, μελέτες ή στατιστικά στοιχεία.

Ανθρώπινος έλεγχος: Ελέγξτε πρώτα την πιο επικίνδυνη αξίωση, ειδικά για την υγεία, το δίκαιο ή τα οικονομικά.

Η πρόβλεψη δεν είναι το ίδιο με τη γνώση

Να η ωμή εκδοχή: τα περισσότερα μοντέλα συνομιλίας είναι μηχανές δημιουργίας μοτίβων. Κάνετε μια ερώτηση. Παράγουν μια απάντηση που ταιριάζει στο σχήμα μιας καλής απάντησης. Αυτό το σχήμα περιλαμβάνει γεγονότα, τόνο, δομή - ολόκληρη την ενδυμασία. Μερικές φορές η ενδυμασία τυλίγει πραγματική γνώση. Μερικές φορές τυλίγει μια σίγουρη εικασία που κάλυψε ένα κενό.

Υποθέτω ότι μια χαλαρή μεταφορά βοηθάει, και μετά θα το γυρίσω λίγο πίσω. Φανταστείτε έναν πιανίστα της τζαζ που έχει ακούσει ένα εκατομμύριο τραγούδια. Ζητήστε του να παίξει «αυτό για τη μπλε βαλίτσα» και μπορεί να εφεύρει μια όμορφη μελωδία που δεν υπήρξε ποτέ - επειδή το αίτημα ακουγόταν όπως θα έπρεπε. Περιμένετε - αυτό υπερβάλλει στην καλλιτεχνία. Είναι περισσότερο σαν αυτόματη συμπλήρωση με στεροειδή. Το μοντέλο είναι η συμπλήρωση μιας εύλογης παραγράφου, όχι το άνοιγμα ενός αρχειοθέτη με την ετικέτα Αλήθεια.

Έτσι, όταν οι άνθρωποι ρωτούν γιατί η τεχνητή νοημοσύνη μερικές φορές επινοεί πράγματα, η σύντομη απάντηση είναι: τα κενά συμπληρώνονται με ό,τι ακούγεται στατιστικά σωστό. Η παράλειψη μιας παραπομπής οδηγεί το μοντέλο να εφεύρει μια που φαίνεται ακαδημαϊκή. Αν δεν είστε σίγουροι για έναν αριθμό, προσφέρει έναν καθαρό αριθμό. Χωρίς το μεσαίο όνομα ενός ατόμου, κατασκευάζει ένα που ταιριάζει στην εποχή και τον πολιτισμό. Λίγο περίεργο στην αρχή. Μόλις δείτε το μοτίβο, όχι και τόσο. 

• Το άπταιστο κείμενο είναι ο στόχος της δημιουργίας - όχι η επαληθευμένη αλήθεια.
• Τα κενά γνωστικά κενά εξακολουθούν να γεμίζουν με λέξεις.
• Η πιθανότητα του "ακούγεται σωστό" μπορεί να υπερισχύσει του "είναι σωστό" στην κατάταξη του μοντέλου.

Αυτοπεποίθηση έναντι Ακρίβειας - Το Αμήχανο Χάσμα

Οι άνθρωποι κάνουν hedge όταν δεν είναι σίγουροι. Λέμε «Νομίζω», «ίσως», «Θα πρέπει να ελέγξω». Τα μοντέλα μπορούν επίσης να κάνουν hedge - αν τους το ζητήσετε - αλλά οι προεπιλεγμένες εξόδους συχνά εκλαμβάνονται σαν μια σίγουρη ενημέρωση. Αυτή η βελτίωση είναι ένα χαρακτηριστικό της εκπαίδευσης για την παροχή βοήθειας, όχι ένα σημάδι ότι κάθε ισχυρισμός ήταν βάσιμος.

Η αυτοπεποίθηση και η ακρίβεια είναι διαφορετικά κριτήρια. Το ένα μπορεί να είναι ενεργοποιημένο ψηλά ενώ το άλλο κοντά στο μηδέν. Το έχετε νιώσει αυτό και με άλλους ανθρώπους: τον συνάδελφο που εξηγεί μια λάθος διαδικασία με απόλυτη βεβαιότητα. Η τεχνητή νοημοσύνη μπορεί να κάνει τον ίδιο χορό, μόνο που είναι πιο γρήγορη και με πιο ωραία μορφοποίηση.

Πρακτικό συμπέρασμα: αντιμετωπίστε την κατηγορηματική διατύπωση ως στυλ, όχι ως αποδεικτικό στοιχείο. Εάν μια απάντηση δεν έχει πηγές που μπορείτε να ελέγξετε, καμία παραδοχή αβεβαιότητας και ένα σωρό συγκεκριμένα ονόματα ή αριθμούς - επιβραδύνετε. Η εξειδίκευση χωρίς βάση είναι μια κλασική ένδειξη. 

• Δυναμικός τόνος ≠ επαληθευμένο περιεχόμενο.
• Ζητήστε από το μοντέλο να επισημάνει σκόπιμα την αβεβαιότητα.
• Προτιμήστε το «να για το οποίο δεν είμαι σίγουρος/η» από ένα ψεύτικο αεροστεγές εσώρουχο.

Κατασκευασμένες παραπομπές και λεπτομέρειες που φαίνονται αληθινές

Αυτό τσιμπάει επειδή φαίνεται τόσο επαγγελματικό. Ψεύτικοι τίτλοι εργασιών. Ψεύτικα ονόματα περιοδικών. Ψεύτικες διευθύνσεις URL που σχεδόν κάνουν κλικ. Ψεύτικα αποσπάσματα που αποδίδονται σε διάσημα πρόσωπα. Η μορφοποίηση είναι συχνά τέλεια - πλάγια γραφή, χρονικά σύμβολα που αποφεύγονται εδώ σκόπιμα, ονόματα που ακούγονται σαν συγγραφείς - και αυτή η συσκευασία ξεγελάει τους skimmers.

Αυτό συμβαίνει για έναν σαφή λόγο. Το σχήμα παραπομπής είναι συνηθισμένο σε κείμενο εκπαίδευσης. Όταν ζητάτε "πηγές", το μοντέλο μπορεί να παράγει τη μορφή της ακαδημαϊκής έρευνας χωρίς να ανακτά μια πραγματική εγγραφή. Είναι σαν να ζητάτε από κάποιον να εξαγάγει μια απόδειξη από μνήμης. Λαμβάνετε κάτι που μοιάζει με απόδειξη. Το κατάστημα μπορεί να μην υπήρξε ποτέ.

Κάποτε παρακολούθησα ένα προσχέδιο να επινοεί μια μελέτη σχετικά με την παραγωγικότητα της τηλεργασίας με μια λίστα συγγραφέων που φαινόταν άψογη. Μου φάνηκε σαν να είχε αξιολογηθεί από ομοτίμους. Δεν ήταν τίποτα. Αυτός είναι ο κίνδυνος: ο εγκέφαλός σας χαλαρώνει όταν η συσκευασία φαίνεται ακριβή. Μην χαλαρώνετε. 

• Ζητήστε τίτλους που μπορείτε να αναζητήσετε μόνοι σας - και στη συνέχεια αναζητήστε τους σοβαρά.
• Να είστε καχύποπτοι με τα ωραία πακέτα προσφοράς και απόδοσης που δεν ζητήσατε ποτέ.
• Εάν δεν μπορείτε να βρείτε γρήγορα μια «πηγή», θεωρήστε τον ισχυρισμό ως αβάσιμο.

Όταν ο κίνδυνος μιας εφεύρεσης είναι υψηλότερος

Δεν είναι κάθε κουβέντα εξίσου επικίνδυνη. Ένα ποίημα για τον καφέ μπορεί να επινοήσει ελεύθερα μεταφορές - αυτό είναι το θέμα. Μια δόση φαρμάκου, μια νόμιμη προθεσμία, η τιμολογιακή πολιτική ενός ανταγωνιστή ή ένας ιστορικός ισχυρισμός για ένα δημοσιευμένο άρθρο ζει σε διαφορετικό πλανήτη.

Ο κίνδυνος αυξάνεται όταν το θέμα είναι εξειδικευμένο, πρόσφατο ή πολύ συγκεκριμένο. Αυξάνεται επίσης όταν πιέζετε για ακριβείς αριθμούς, επώνυμα έγγραφα, εσωτερικά στοιχεία ιδιωτικών εταιρειών ή "αναφέρετε δέκα μελέτες με αξιολόγηση από ομοτίμους". Όσο πιο ακριβές είναι το ερώτημα, τόσο μεγαλύτερος είναι ο πειρασμός για το μοντέλο να γεμίσει κενά με εύλογα στοιχεία.

Οι μακροσκελείς, εντυπωσιακές απαντήσεις μπορεί να είναι πιο επικίνδυνες από τις σύντομες, προσεκτικές. Το μήκος μοιάζει με προσπάθεια. Η προσπάθεια μοιάζει με φροντίδα. Η φροντίδα μοιάζει με αλήθεια. Αυτή η ελικοειδής αλυσίδα εντυπώσεων είναι ο τρόπος με τον οποίο τα κακά γεγονότα γλιστρούν στις διαφάνειες. 

• Υψηλός κίνδυνος: υγεία, νόμος, οικονομικά, συμμόρφωση, ασφάλεια, επώνυμα άτομα, ακριβή στατιστικά στοιχεία.
• Μέτριος κίνδυνος: εξειδικευμένες διαδικασίες του κλάδου, ρυθμίσεις εργαλείων, λίστες «βέλτιστων πρακτικών».
• Χαμηλότερος κίνδυνος: καταιγισμός ιδεών, σκιαγράφηση, ξαναγραφή του δικού σας προσχεδίου, διορθώσεις τόνου.

Αξιόπιστες έναντι ασταθών αποτελεσμάτων - μια γρήγορη σύγκριση

Ένα τραπέζι είναι καλύτερο από μια άλλη εμπνευστική κουβέντα. Συμπεριλαμβάνονται και οι ήπιες ιδιορρυθμίες, επειδή οι συνηθισμένες συζητήσεις είναι ιδιόρρυθμες.

Κράτα κοντά σου αυτή την νοητική κάρτα βαθμολογίας. Θα αρχίσεις να παρατηρείς ασταθή αποτελέσματα όπως παρατηρείς ένα ελαφρώς περίεργο χαμόγελο σε μια φωτογραφία - κάτι είναι ποζαρισμένο.

Πώς να Εντοπίσετε Επινοημένες Απαντήσεις Χωρίς να Γίνετε Παρανοϊκοί

Δεν χρειάζεται να επαληθεύετε κάθε επίθετο. Χρειάζεστε μια φθηνή συνήθεια επαλήθευσης για τους ισχυρισμούς που έχουν σημασία. Ελέγξτε σκόπιμα την πιο έντονη άκρη: τον αριθμό, το όνομα, την πολιτική, το απόσπασμα. Αν αυτή η άκρη αποτύχει, η υπόλοιπη απάντηση βρίσκεται υπό αναστολή.

Μια άλλη ένδειξη: εσωτερική αντίφαση. Το μοντέλο λέει ότι ένα εργαλείο «πάντα» κάνει το X, και αργότερα περιγράφει μια εξαίρεση σαν να είναι τυπική. Ή εφευρίσκει μια λειτουργία και μετά εξηγεί πώς να την απενεργοποιήσετε - σαν ένα όνειρο που συνεχώς εφευρίσκει πόρτες. Ζητήστε επακόλουθες απαντήσεις που αγγίζουν τα ευαίσθητα σημεία. Οι επινοημένοι κόσμοι τείνουν να ταλαντεύονται υπό πίεση.

Προσέξτε επίσης τις «πολύ τέλειες» συσκευασίες. Κάθε παράγραφος είναι εξίσου στιλβωμένη. Κάθε σύσταση είναι εξίσου σίγουρη. Η γνήσια εξειδίκευση συνήθως έχει υφή - επιφυλάξεις, συμβιβασμούς, «εξαρτάται». Η επίπεδη τελειότητα αξίζει επιπλέον έλεγχο. 

• Επαληθεύστε πρώτα τον ισχυρισμό με τον μεγαλύτερο κίνδυνο, όχι ολόκληρο το δοκίμιο.
• Ρώτα «για ποιο πράγμα είσαι λιγότερο σίγουρος;» και δες αν η μάσκα γλιστράει.
• Διασταυρώστε ονόματα, τίτλους και αριθμούς εκτός συνομιλίας.
• Προτιμήστε απαντήσεις που συνδέονται με κείμενο που επικολλήσατε αντί για ελεύθερα αιωρούμενα γεγονότα.

Συνήθειες που μειώνουν την εφευρετικότητα

Δεν μπορείς να εξαλείψεις τις παραισθήσεις με μια μαγική πρόταση - συγγνώμη - αλλά μπορείς να συρρικνώσεις την ακτίνα έκρηξης. Οι καλές προτροπές περιορίζουν το παιχνίδι. Οι κακές προτροπές προκαλούν τον αυτοσχεδιασμό.

Δοκίμασε συνήθειες σαν κι αυτές. Ακούγονται στεγνές. Λειτουργούν πιο συχνά από έξυπνα κόλπα.

• Εύρεση γνώσης: "Χρησιμοποιήστε μόνο τις σημειώσεις που επικολλώ. Αν λείπουν, πείτε ότι δεν γνωρίζετε."
• Απαγορεύστε τις ψεύτικες πηγές: «Μην επινοείτε παραπομπές, εισαγωγικά ή διευθύνσεις URL».
• Ετικέτες αβεβαιότητας ισχύος: "Ετικέτα κάθε κουκκίδας: γνωστό / συναγόμενο / εικασία."
• Ζητήστε εναλλακτικές: «Δώστε δύο επιλογές και γιατί η καθεμία μπορεί να είναι λάθος».
• Αίτημα για άδεια αμφιβολίας: "Αναφέρετε τις υποθέσεις που κάνατε."
• Προτίμηση δομής έναντι ατμόσφαιρας: πίνακες, λίστες ελέγχου και στήλες ισχυρισμών/αποδεικτικών στοιχείων.

Παραδόξως, το να λέτε στο μοντέλο ότι είναι εντάξει να πει «Δεν ξέρω» μειώνει την κοινωνική πίεση για εκτέλεση με βεβαιότητα. Τα μοντέλα αντικατοπτρίζουν την εργασία. Εάν η εργασία ανταμείβει την πληρότητα με κάθε κόστος, έχετε μυθοπλασία με μορφοποίηση. Εάν η εργασία ανταμείβει τη σαφή συζήτηση για τα κενά, έχετε λιγότερα αστραφτερά ψέματα. 

Και ναι - οι επόμενες ενέργειες έχουν σημασία. Οι πρώτες απαντήσεις είναι προσχέδια. Το μήνυμα "Αυτή η παραπομπή φαίνεται ψεύτικη - αφαιρέστε οτιδήποτε δεν μπορείτε να επαληθεύσετε" είναι ένα απολύτως φυσιολογικό δεύτερο μήνυμα. Αντιμετωπίστε τη συνομιλία σαν επεξεργασία, όχι σαν αυτόματο πωλητή που σας οφείλει την αλήθεια με το πρώτο νόμισμα.

Γείωση, Παρακολούθηση και Ζωή με Αβεβαιότητα

Η γείωση σημαίνει σύνδεση της απάντησης με κάτι έξω από τον αυτοσχεδιασμό του μοντέλου: το επικολλημένο έγγραφο πολιτικής σας, το υπολογιστικό σας φύλλο, τις σημειώσεις της σύσκεψής σας, μια γνωστή δημόσια σελίδα που θα ελέγξετε μόνοι σας. Όταν η απάντηση πρέπει να παραμείνει εντός αυτού του φράχτη, η εφεύρεση έχει λιγότερο χώρο να λειτουργήσει.

Οι επακόλουθες ερωτήσεις είναι το δεύτερο ερώτημα. «Από πού προήλθε αυτός ο αριθμός;» «Ποιο μέρος είναι συμπερασμός;» «Ξαναγράψτε χωρίς επώνυμες μελέτες.» Κάθε ερώτηση είναι ένας μικρός έλεγχος. Υποθέτω ότι αυτός είναι ο ενήλικας τρόπος χρήσης αυτών των εργαλείων - όχι λατρεία, όχι πανικός, απλώς έλεγχοι.

Η αβεβαιότητα δεν είναι σφάλμα στη ροή εργασίας σας. Είναι ο καιρός. Κάποιες μέρες το μοντέλο πετυχαίνει μια περίληψη του δικού σας κειμένου. Κάποιες μέρες επινοεί μια υποεπιτροπή που δεν συνεδρίασε ποτέ. Η δουλειά σας είναι να αποφασίσετε ποιες εξόδους χρειάζονται αδιάβροχο. 

• Επικολλήστε το αρχικό υλικό όταν η ακρίβεια έχει σημασία.
• Ζητήστε ετικέτες εμπιστοσύνης σε επίπεδο ισχυρισμού.
• Κρατήστε έναν άνθρωπο ενήμερο για αποφάσεις υψηλού διακυβεύματος.
• Κρατήστε την «δημιουργική ελευθερία» για δημιουργικές εργασίες - όχι για συμμόρφωση.

Τι να κάνετε όταν έχετε μια παραίσθηση στη μέση της ροής

Μην κάνεις μια σπείρα. Μην ορκίζεσαι να μην χρησιμοποιείς το εργαλείο για πάντα σαν να σε πρόδωσε προσωπικά - αν και η παρόρμηση μπορεί να είναι έντονη. Διόρθωσε το νήμα και συνέχισε.

Ένας απλός κύκλος ανάκτησης:

• Πείτε το: «Αυτή η πηγή φαίνεται να είναι επινοημένη. Αφαιρέστε τους μη υποστηριζόμενους ισχυρισμούς».
• Επανασύνδεση: επικολλήστε το πραγματικό έγγραφο, την προσφορά ή τα δεδομένα.
• Αναδιατυπώστε το με ακρίβεια: ζητήστε ένα διορθωμένο τμήμα, όχι ένα εντελώς νέο δοκίμιο χωρίς τελειώματα.
• Ελέγξτε ξανά τις αιχμηρές άκρες: ονόματα, αριθμούς, βήματα διαδικασίας.
• Αποφασίστε το επίπεδο εμπιστοσύνης: συνεργάτης καταιγισμού ιδεών vs βοηθός στρατολόγησης vs "όχι για αυτό το θέμα".

Το να εντοπίσετε μία μόνο παραίσθηση μπορεί να βελτιώσει την υπόλοιπη συζήτηση - αν αυστηροποιήσετε τους περιορισμούς. Το μοντέλο δεν «αισθάνεται ένοχο», αλλά οι σαφέστερες οδηγίες σας αλλάζουν αυτό για το οποίο βελτιστοποιεί. Εσείς κατευθύνετε. Κατευθύνετε πιο σκληρά όταν εμφανίζεται η εφευρετικότητα. 

Καθημερινά σενάρια όπου αυτό έχει σιωπηλή σημασία

Email εργασίας: ένα επινοημένο «πρότυπο χρονοδιαγράμματος του κλάδου» μπορεί να θέσει προσδοκίες που δεν μπορείτε να ανταποκριθείτε. Σχολείο και μάθηση: μια ψεύτικη εξήγηση μπορεί να καρφωθεί στο κεφάλι σας πριν το προσέξετε. Προσχέδια υποστήριξης πελατών: ένας επινοημένος κανόνας επιστροφής χρημάτων γίνεται υπόσχεση. Δημιουργική γραφή: εφεύρετε - αυτή είναι η παιδική χαρά.

Η βασική αρχή είναι η συνέπεια. Αν οι λάθος λέξεις κοστίζουν χρήματα, εμπιστοσύνη, βαθμούς ή ασφάλεια, η επαλήθευση δεν είναι προαιρετική και πολυάσχολη δουλειά. Αν οι λάθος λέξεις κοστίζουν μόνο ένα αδιάφορο σήκωμα των ώμων, χαλάρωσε. Το να συνδυάσεις την προσοχή με τη συνέπεια είναι η δεξιότητα των ενηλίκων εδώ - κάτι περισσότερο από την απομνημόνευση της λέξης «παραίσθηση»

Επίσης: οι ομάδες θα πρέπει να ομαλοποιήσουν το "Επαλήθευσα αυτόν τον ισχυρισμό" με τον τρόπο που ομαλοποιούν το "ο ορθογραφικός έλεγχος πέρασε". Διαφορετικά, μια επεξεργασμένη παράγραφος γίνεται φυλετική γνώση από τη μια μέρα στην άλλη. Αηδία.

Βασικά σημεία

Λοιπόν, το " Γιατί η Τεχνητή Νοημοσύνη Μερικές φορές Κατασκευάζει Τα Πράγματα" καταλήγει στο εξής: αυτά τα συστήματα προβλέπουν εύλογη γλώσσα, συμπληρώνουν κενά με αντιστοίχιση μοτίβων και συχνά ακούγονται σίγουρα ενώ το κάνουν. Αυτός ο συνδυασμός δημιουργεί σίγουρες λάθος απαντήσεις, κατασκευασμένες παραπομπές και τακτοποιημένες λεπτομέρειες που δεν συνέβησαν ποτέ.

Δεν χρειάζεται να φοβάστε το εργαλείο. Χρειάζεστε συνήθειες. Ελέγξτε σκόπιμα τους ισχυρισμούς. Απαγορεύστε τις επινοημένες πηγές. Επικολλήστε συγκεκριμένο πλαίσιο. Ζητήστε την αβεβαιότητα. Χρησιμοποιήστε επακόλουθες ενέργειες ως ελέγχους. Αποθηκεύστε την ελεύθερη παραγωγή για δημιουργική εργασία χαμηλού διακυβεύματος.

Η ευχέρεια δεν αποτελεί αναφορά στον χαρακτήρα. Αντιμετωπίστε την σαν έναν ταλαντούχο ασκούμενο που πληκτρολογεί απίστευτα γρήγορα, μερικές φορές επινοεί μια συνάντηση που δεν έγινε ποτέ και παρόλα αυτά μπορεί να διαπρέψει όταν βρίσκεται υπό την επίβλεψη. Διατηρήστε την επίβλεψη. Διατηρήστε το πνεύμα. Διατηρήστε τον σκεπτικισμό ελαφρύ αλλά γειωμένο. Έτσι αποκτάτε θετικά αποτελέσματα χωρίς να παρουσιάζετε τη μυθοπλασία μεταμφιεσμένη σε γεγονός.

Πρακτικό παράδειγμα: Εντοπισμός επινοημένων παραπομπών σε μια ερευνητική περίληψη ανταγωνιστών

Οι ψευδαισθήσεις φαίνονται αφηρημένες μέχρι που μια γυαλισμένη παράγραφος σχεδόν καταλήγει σε μια τράπουλα πελατών. Δείτε πώς ένας αναλυτής μάρκετινγκ στο Ηνωμένο Βασίλειο χρησιμοποίησε τις συνήθειες σε αυτόν τον οδηγό για να σταματήσει να στέλνει μυθοπλασία μεταμφιεσμένη σε έρευνα - χωρίς να εγκαταλείψει το chatbot.

Σενάριο

Ο Σαμ έχει δύο ώρες για να συντάξει μια σύντομη περιγραφή του ανταγωνιστή μιας σελίδας για την έναρξη των πωλήσεων. Το ερώτημα είναι γνωστό: δυνατά σημεία, σήματα τιμολόγησης και «μερικές αξιόπιστες πηγές». Κατά την παλιά του συνήθεια, ο Σαμ πληκτρολόγησε «συνοψίστε τον ανταγωνιστή Χ με πηγές» και έλαβε μια τακτοποιημένη σύντομη περιγραφή με τρεις ακαδημαϊκές αναφορές και ένα ακριβές ποσοστό μεριδίου αγοράς. Ακουγόταν σύντομη. Ήταν ως επί το πλείστον επινοημένο. Δεν μπορούσε να βρεθεί ένας τίτλος. Το ποσοστό συμμετοχής δεν εμφανιζόταν πουθενά στον ιστότοπο του ανταγωνιστή.

Ο Σαμ δεν χρειάζεται ένα μοντέλο που να ηχεί καλύτερα. Ο Σαμ χρειάζεται μια γειωμένη ροή εργασίας: επικόλληση σημειώσεων πηγής, απαγόρευση ψεύτικων πηγών, επιβολή ετικετών αβεβαιότητας, έλεγχος τυχαίων ισχυρισμών πρώτα και, στη συνέχεια, ανακατασκευή μόνο του κατεστραμμένου τμήματος.

Ο στόχος είναι μια σύντομη περίληψη στην οποία η ομάδα μπορεί να εμπιστευτεί τα σημεία συζήτησης - όχι μια απόδειξη που προέρχεται από μνήμης και μοιάζει μόνο με απόδειξη.

Τι χρειάζεται ο βοηθός

• Πηγαίο υλικό που έχει ήδη ο Σαμ: κείμενο αρχικής σελίδας, κείμενο σελίδας τιμολόγησης, δύο πρόσφατα αιτήματα υποστήριξης, σημειώσεις από μια χαμένη συμφωνία
• Ένας αυστηρός κανόνας: χρησιμοποιήστε μόνο επικολλημένο κείμενο για πραγματικούς ισχυρισμούς· πείτε «Δεν ξέρω» όταν οι σημειώσεις είναι σιωπηλές
• Απαγόρευση επινοημένων παραπομπών, εισαγωγικών, URL και στατιστικών στοιχείων
• Ένα σχήμα εξόδου που διαχωρίζει τα γνωστά / συναγόμενα / εικασίες
• Ώρα για έναν ανθρώπινο έλεγχο ονομάτων, αριθμών και τυχόν "πηγικών" τίτλων πριν μοιραστεί η τράπουλα
• Άδεια υποβολής έως και τριών διευκρινιστικών ερωτήσεων αντί συμπλήρωσης κενών

Παράδειγμα οδηγιών

Μήνυμα 1 - τεκμηριωμένη σύντομη περίληψη: Χρησιμοποιώντας μόνο τις σημειώσεις που επικολλώ παρακάτω, συντάξτε μια σύντομη περίληψη ανταγωνιστών μίας σελίδας για τις πωλήσεις. Ενότητες: Τι ισχυρίζονται / Τι παραπονιούνται οι πελάτες / Σήματα τιμολόγησης / Ανοιχτές ερωτήσεις. Μην επινοείτε παραπομπές, εισαγωγικά, διευθύνσεις URL ή στατιστικά στοιχεία. Εάν ένα γεγονός δεν υπάρχει στις σημειώσεις, γράψτε "άγνωστο" και καταγράψτε το στην ενότητα Ανοιχτές ερωτήσεις. Επισημάνετε κάθε κουκκίδα: γνωστό / συναγόμενο / εικασία. Αγγλικά Ηνωμένου Βασιλείου. Χωρίς πρόλογο.

Μήνυμα 2 - αμφιβολία πέρασε: Καταγράψτε κάθε υπόθεση που κάνατε. Αφαιρέστε οτιδήποτε έχει επισημανθεί με την ένδειξη εικασία, εκτός αν μπορείτε να υποδείξετε μια επικολλημένη πρόταση που την υποστηρίζει. Εάν έχετε εφεύρει προηγουμένως μια πηγή, διαγράψτε την και πείτε την.

Μήνυμα 3 - ανακατασκευή με περιορισμένο τρόπο: Αυτή η γραμμή μεριδίου αγοράς δεν υποστηρίζεται. Ξαναγράψτε μόνο την ενότητα Σήματα τιμολόγησης χωρίς αριθμούς, εκτός εάν εμφανίζονται στις σημειώσεις μου. Κρατήστε τις άλλες ενότητες.

Πώς να το δοκιμάσετε

• Εκτελέστε μια ελεύθερη ερώτηση ("συνοψίστε τον Ανταγωνιστή Χ με τρεις πηγές που έχουν αξιολογηθεί από ομοτίμους") και την τεκμηριωμένη περίληψη παραπάνω. Συγκρίνετε επινοημένους τίτλους και ψεύτικα στατιστικά στοιχεία.
• Ελέγξτε πρώτα τον ισχυρισμό με τον μεγαλύτερο κίνδυνο (μια αριθμητική ή μια επώνυμη μελέτη) και όχι ολόκληρη τη σελίδα.
• Ρωτήστε: «Για ποιο πράγμα είστε λιγότερο σίγουρος;» Μια ισχυρή απάντηση κατονομάζει τα κενά, ενώ μια ασταθής τα διπλασιάζει.
• Περίληψη πεζών-κεφαλαίων: αφαιρέστε την τιμολόγηση από τις επικολλημένες σημειώσεις και επιβεβαιώστε ότι το προσχέδιο λέει άγνωστο αντί να επινοήσετε μια τιμή προγράμματος.
• Έλεγχοι αποδοχής πριν από την κοινοποίηση: (1) κάθε "γνωστή" κουκκίδα αντιστοιχεί σε μια επικολλημένη γραμμή, (2) καμία κατασκευασμένη αναφορά, (3) οι ανοιχτές ερωτήσεις παραθέτουν τα πραγματικά κενά, (4) αναζητήσατε μόνοι σας οποιονδήποτε εναπομείναντα τίτλο, (5) δεν υπάρχουν ακριβή στατιστικά στοιχεία χωρίς σημείωση από πίσω τους.

Αποτέλεσμα

Ενδεικτικό αποτέλεσμα (παράδειγμα εκτίμησης για τη ροή εργασίας ενός αναλυτή για τη σύνοψη ανταγωνιστών, όχι δημοσιευμένη μελέτη): Σε 8 εργασίες ενημέρωσης, ο χρόνος από το "ανοιχτές σημειώσεις" έως το "έτοιμο για ανθρώπινο έλεγχο γεγονότων" αυξήθηκε ελαφρώς από έναν μέσο όρο περίπου 12 λεπτών (μονόπλευρη γυαλισμένη μυθοπλασία) σε περίπου 15 λεπτά με την υποστηριζόμενη προτροπή - αλλά ο κίνδυνος διόρθωσης και αμηχανίας μειώθηκε. Η ανθρώπινη επαλήθευση ισχυρισμών μειώθηκε από έναν μέσο όρο περίπου 18 λεπτών (κυνήγι ψεύτικων τίτλων και επανεγγραφή) σε περίπου 6 λεπτά όταν οι ισχυρισμοί είχαν προ-ετικέτες και οι επινοημένες πηγές είχαν απαγορευτεί, επομένως ο καθαρός χρόνος μειώθηκε κατά περίπου 9 λεπτά ανά σύνοψη ή περίπου 72 λεπτά σε ολόκληρο το σετ. Σε μια λίστα ελέγχου αποδοχής (χωρίς επινοημένες παραπομπές, χωρίς μη υποστηριζόμενα στατιστικά στοιχεία, γνωστές/συναγόμενες/εικόνες ετικέτες, ανοιχτές ερωτήσεις που ονομάζουν τα κενά), 7 από τα 8 υποστηριζόμενα προσχέδια πέρασαν στην πρώτη αξιολόγηση έναντι 2 από τα 8 μονόπλευρα προσχέδια. Περιορισμοί: μικρό δείγμα, ένας αναλυτής, ένας τύπος σύνοψης. οι εύκολοι ανταγωνιστές με σαφή δημόσια τιμολόγηση μειώνουν το χάσμα. Ο «χρόνος επαλήθευσης» περιελάμβανε αναζητήσεις στο διαδίκτυο για ύποπτους τίτλους.

Για να μετρήσετε τη δική σας εκδοχή: εκτελέστε 5 συνοπτικές αναλύσεις με την τρέχουσα συνήθειά σας και 5 με επικολλημένες πηγές + απαγορευμένες επινοημένες παραπομπές + ετικέτες ισχυρισμών. καταγράψτε τον μέσο χρόνο σύνταξης, τον μέσο χρόνο επαλήθευσης και το ποσοστό επιτυχίας στη λίστα ελέγχου με τον παρονομαστή που εμφανίζεται.

Τι μπορεί να πάει στραβά

• Προκατάληψη ροής: Η άψογη γραμματική και οι τακτοποιημένες κουκκίδες σας κάνουν να παραλείψετε τον τυχαίο έλεγχο.
• Cosplay με παραπομπές: Η αναζήτηση "πηγών" χωρίς επικολλημένο υλικό προσκαλεί τη μορφή υποτροφίας χωρίς αντίστοιχη εγγραφή.
• Υπερβολικά συμπληρωμένες λίστες: Συμπληρώστε το "Δώστε μου δέκα μελέτες" όταν υπάρχουν μόνο τρεις στις σημειώσεις σας.
• Ανακατασκευή ολόκληρου του δοκιμίου: Μετά από μια ψεύτικη γραμμή, ζητήστε μια στενή αναδιατύπωση αυτού του τμήματος - όχι μια νέα πινελιά στιλβώματος.
• Θέματα υψηλού διακυβεύματος: Η υγεία, η νομοθεσία, τα χρηματοοικονομικά και η συμμόρφωση χρειάζονται ισχυρότερες ανθρώπινες πύλες από μια σύντομη παρουσίαση θέματος πωλήσεων.
• Χωρίς ανθρώπινη επανάληψη: Ένα προσχέδιο με ετικέτα μπορεί να παρερμηνεύσει μια επικολλημένη πρόταση. Ο Σαμ εξακολουθεί να κατέχει το κουμπί κοινής χρήσης.

Πρακτικό πακέτο

Η Τεχνητή Νοημοσύνη επινοεί πράγματα επειδή προβλέπει την εύλογη γλώσσα σε κενά - όχι επειδή θέλει να σας ξεγελάσει. Αντιμετωπίστε την ευχέρεια ως στυλ, όχι ως αποδεικτικό στοιχείο. Κολλήστε το φράχτη, απαγορεύστε τις ψεύτικες πηγές, χαρακτηρίστε την αβεβαιότητα, ελέγξτε αιφνιδιαστικά τον πιο σαφή ισχυρισμό και διορθώστε το νήμα όταν κάτι ταλαντεύεται. Έτσι διατηρείτε το πλεονέκτημα ενός γρήγορου συνεργάτη σύνταξης χωρίς να μεταφέρετε μια σίγουρη ιστορία που δεν συνέβη ποτέ.

Συχνές ερωτήσεις

Γιατί η Τεχνητή Νοημοσύνη μερικές φορές επινοεί πράγματα;

Τα περισσότερα μοντέλα συνομιλίας είναι μηχανές προτύπων: δημιουργούν μια απάντηση που ταιριάζει στο σχήμα μιας καλής απάντησης, όχι ενός επαληθευμένου αρχειοθέτη με την ένδειξη Αλήθεια. Τα κενά συμπληρώνονται με ό,τι ακούγεται στατιστικά σωστό - μια παραπομπή που φαίνεται ακαδημαϊκή, έναν τακτοποιημένο αριθμό ή μια λεπτομέρεια που ταιριάζει στην εποχή. Το άπταιστο κείμενο είναι ο στόχος της δημιουργίας, επομένως το "ακούγεται σωστό" μπορεί να ξεπεράσει το "είναι σωστό". Αυτός είναι ο λόγος για τον οποίο οι εφευρεμένες απαντήσεις συχνά φτάνουν με τέλεια γραμματική και τακτοποιημένες κουκκίδες.

Είναι η εμπιστοσύνη στην τεχνητή νοημοσύνη το ίδιο με την ακρίβεια;

Όχι. Η εμπιστοσύνη και η ακρίβεια είναι διαφορετικά κριτήρια - το ένα μπορεί να είναι υψηλό ενώ το άλλο κοντά στο μηδέν. Τα προεπιλεγμένα αποτελέσματα συχνά ερμηνεύονται σαν μια σίγουρη ενημέρωση, επειδή η εκπαίδευση ανταμείβει τη χρήσιμη βελτίωση, όχι επειδή κάθε ισχυρισμός ήταν τεκμηριωμένος. Αντιμετωπίστε την κατηγορηματική διατύπωση ως στυλ, όχι ως αποδεικτικό στοιχείο. Εάν μια απάντηση δεν έχει επαληθεύσιμες πηγές, καμία αβεβαιότητα και πολλά συγκεκριμένα ονόματα ή αριθμούς, επιβραδύνετε.

Γιατί τα chatbot εφευρίσκουν παραπομπές και ψεύτικες πηγές;

Το σχήμα παραπομπής είναι συνηθισμένο σε κείμενα εκπαίδευσης, επομένως η αναζήτηση «πηγών» μπορεί να παράγει τη μορφή ακαδημαϊκής έρευνας χωρίς να ανακτήσει ένα πραγματικό αρχείο - σαν να αντλεί κανείς μια απόδειξη από μνήμης. Οι ψεύτικοι τίτλοι εργασιών, τα ονόματα περιοδικών, οι διευθύνσεις URL και τα αποδιδόμενα αποσπάσματα συχνά φαίνονται αρκετά επαγγελματικά για να ξεγελάσουν τους skimmers. Ζητήστε τίτλους που μπορείτε να αναζητήσετε μόνοι σας. Εάν μια πηγή δεν μπορεί να βρεθεί γρήγορα, αντιμετωπίστε τον ισχυρισμό ως μη υποστηριζόμενο.

Πότε είναι ο υψηλότερος κίνδυνος μιας εφεύρεσης τεχνητής νοημοσύνης;

Το ρίσκο αυξάνεται για εξειδικευμένα, πρόσφατα ή πολύ συγκεκριμένα θέματα, και όταν πιέζετε για ακριβείς αριθμούς, επώνυμα έγγραφα, ιδιωτικά εσωτερικά στοιχεία ή μεγάλες λίστες μελετών με αξιολόγηση από ομοτίμους. Οι τομείς υψηλού κινδύνου περιλαμβάνουν την υγεία, το δίκαιο, τα οικονομικά, τη συμμόρφωση, την ασφάλεια, τα επώνυμα άτομα και τα ακριβή στατιστικά στοιχεία. Η ανταλλαγή ιδεών, η περιγραφή, η επανεγγραφή του δικού σας προσχεδίου και οι διορθώσεις στον τόνο είναι συνήθως χαμηλότερου κινδύνου. Οι μακροσκελείς, εντυπωσιακές απαντήσεις μπορεί επίσης να φαίνονται πιο ασφαλείς από ό,τι είναι στην πραγματικότητα.

Πώς μπορώ να εντοπίσω εφευρεμένες απαντήσεις με τεχνητή νοημοσύνη χωρίς να ελέγξω κάθε λέξη;

Ελέγξτε πρώτα την πιο έντονη πλευρά - τον αριθμό, το όνομα, την πολιτική ή το απόσπασμα. Εάν αυτό αποτύχει, θέστε τα υπόλοιπα σε δοκιμασία. Προσέξτε για εσωτερικές αντιφάσεις και "υπερβολικά τέλεια" συσκευασία χωρίς επιφυλάξεις ή συμβιβασμούς. Ρωτήστε για ποιο πράγμα είναι λιγότερο σίγουρο το μοντέλο, διασταυρώστε ονόματα και τίτλους εκτός συνομιλίας και προτιμήστε απαντήσεις που συνδέονται με κείμενο που επικολλήσατε αντί για ελεύθερα αιωρούμενα γεγονότα.

Ποιες συνήθειες πρόωρης έκφρασης μειώνουν τις ψευδαισθήσεις λόγω τεχνητής νοημοσύνης;

Δεν μπορείτε να εξαλείψετε τις παραισθήσεις με μία μαγική πρόταση, αλλά μπορείτε να συρρικνώσετε την ακτίνα έκρηξης. Εφαρμόστε τη γνώση σε επικολλημένες σημειώσεις και πείτε "Δεν ξέρω" όταν λείπει κάτι. Απαγορεύστε τις επινοημένες παραπομπές, τα εισαγωγικά και τις διευθύνσεις URL. Επιβάλετε ετικέτες όπως γνωστό / συναγόμενο / εικασία, ζητήστε υποθέσεις και προτιμήστε τη δομή ισχυρισμών/αποδεικτικών στοιχείων. Λέγοντας στο μοντέλο ότι είναι εντάξει να πει "Δεν ξέρω" μειώνεται η πίεση για ψευδή βεβαιότητα.

Τι σημαίνει η γείωση όταν χρησιμοποιείται η Τεχνητή Νοημοσύνη για τεκμηριωμένη εργασία;

Η γείωση συνδέει την απάντηση με κάτι εκτός του αυτοσχεδιασμού του μοντέλου - το έγγραφο πολιτικής σας, το υπολογιστικό φύλλο, τις σημειώσεις συνάντησης ή μια δημόσια σελίδα που θα ελέγξετε μόνοι σας. Όταν οι απαντήσεις πρέπει να παραμείνουν εντός αυτού του φράγματος, η επινόηση έχει λιγότερο χώρο. Οι επακόλουθες ενέργειες λειτουργούν ως δεύτερο φράγμα: ρωτήστε από πού προήλθε ένας αριθμός, ποιο μέρος είναι συμπερασματικό ή ξαναγράψτε χωρίς επώνυμες μελέτες. Κρατήστε έναν άνθρωπο ενήμερο για αποφάσεις υψηλού διακυβεύματος.

Τι πρέπει να κάνω όταν έχω μια παραίσθηση στη μέση μιας συνομιλίας;

Αναφέρετέ το, επανασυνδέστε το με το πραγματικό έγγραφο ή δεδομένα και ξαναχτίστε μόνο το προβληματικό τμήμα αντί να ζητήσετε ένα εντελώς νέο, γυαλισμένο δοκίμιο. Ελέγξτε ξανά τις αιχμηρές άκρες - ονόματα, αριθμούς, βήματα διαδικασίας - και στη συνέχεια αποφασίστε εάν το εργαλείο είναι συνεργάτης καταιγισμού ιδεών, βοηθός σύνταξης σχεδίου ή "δεν είναι για αυτό το θέμα". Οι σαφέστεροι περιορισμοί αλλάζουν αυτό για το οποίο βελτιστοποιεί το μοντέλο. Κατευθύνεστε πιο αυστηρά όταν εμφανίζεται εφευρετικότητα.

Πώς μπορώ να σταματήσω τις επινοημένες παραπομπές σε μια ερευνητική περίληψη ανταγωνιστών;

Επικολλήστε τις σημειώσεις πηγής που έχετε ήδη, απαγορεύστε τις ψεύτικες πηγές και τα μη υποστηριζόμενα στατιστικά στοιχεία και απαιτήστε ετικέτες γνωστές / συναγόμενες / εικασίες καθώς και μια λίστα με ανοιχτές ερωτήσεις. Ελέγξτε πρώτα τον ισχυρισμό με τον μεγαλύτερο κίνδυνο, εκτελέστε μια διαδικασία αμφιβολίας που αφαιρεί τις εικασίες χωρίς υποστήριξη και ξαναγράψτε μόνο το σπασμένο τμήμα εάν ένας αριθμός δεν υποστηρίζεται. Αποδοχή σημαίνει ότι κάθε "γνωστή" κουκκίδα αντιστοιχεί σε μια επικολλημένη γραμμή και οποιοσδήποτε εναπομείνας τίτλος αναζητείται από έναν άνθρωπο.

Πότε είναι ακόμα εντάξει να αφήνουμε την Τεχνητή Νοημοσύνη να εφευρίσκει ελεύθερα;

Η δημιουργική γραφή και άλλες εργασίες χαμηλού ρίσκου μπορούν να επινοήσουν ελεύθερα μεταφορές - αυτή είναι η παιδική χαρά. Συνδυάστε την προσοχή με τη συνέπεια: αν οι λάθος λέξεις κοστίζουν χρήματα, εμπιστοσύνη, βαθμούς ή ασφάλεια, η επαλήθευση δεν είναι προαιρετική. Αν κοστίζουν μόνο ένα αδιάφορο σήκωμα των ώμων, χαλαρώστε. Η ευχέρεια δεν είναι αναφορά στον χαρακτήρα. Αντιμετωπίστε το μοντέλο σαν έναν γρήγορο ασκούμενο που χρειάζεται ακόμα επίβλεψη σε τεκμηριωμένη εργασία.

Αναφορές

1. OpenAI - openai.com
2. Anthropic - anthropic.com
3. NIST - nist.gov
4. IBM - ibm.com
5. Τεχνητή Νοημοσύνη Google - ai.google.dev
6. Google Cloud - Γείωση - docs.cloud.google.com