Τι δεν πρέπει ΠΟΤΕ να βάλετε στην Τεχνητή Νοημοσύνη

Τι δεν πρέπει ΠΟΤΕ να βάζετε στην Τεχνητή Νοημοσύνη [Βίντεο και Κουίζ]

Σύντομη απάντηση: Ποτέ μην εισάγετε κωδικούς πρόσβασης, κλειδιά API, αναγνωριστικά, αρχεία υγείας ή τραπεζικά αρχεία, αρχεία πελατών NDA ή δεδομένα άλλων ατόμων σε μια δημόσια συνομιλία με τεχνητή νοημοσύνη. Όταν χρειάζεστε βοήθεια, περιγράψτε το πρόβλημα με placeholders και αποσπάσματα που έχουν υποστεί επεξεργασία — το μοντέλο χρειάζεται τη μορφή του προβλήματος, όχι τα μυστικά που ξεκλειδώνουν πραγματικά συστήματα.

Βασικά συμπεράσματα:

Τα μυστικά παραμένουν εκτός σύνδεσης: Ποτέ μην επικολλάτε κωδικούς πρόσβασης, διακριτικά, cookies ή φράσεις εκκίνησης σε μια προτροπή.

Απογύμνωση ταυτότητας: Ανταλλάξτε πραγματικά ονόματα, διευθύνσεις και αριθμούς ταυτότητας με ρόλους και ψεύτικα.

Εμπιστευτικότητα εργασίας: Κρατήστε τα σχέδια NDA, τα αρχεία πελατών και τα ακυκλοφόρητα σχέδια μακριά από τη συνομιλία των καταναλωτών.

Όριο συναίνεσης: Μην επικολλάτε προσωπικά στοιχεία συναδέλφων, πελατών ή παιδιών χωρίς επανάληψη μόνο για ανθρώπους.

Πρώτα κάντε επεξεργασία: Χρησιμοποιήστε placeholders και απολυμασμένα αποσπάσματα. Εναλλάξτε οτιδήποτε έχετε ήδη διαρρεύσει.

Τι δεν πρέπει ΠΟΤΕ να βάλετε στην Τεχνητή Νοημοσύνη

Πρώτα κάνουμε επικόλληση και μετά σκεφτόμαστε. Ένα chatbot κάθεται εκεί σαν υπομονετικός ασκούμενος με άπειρο καφέ, οπότε μοιάζει σχεδόν ακίνδυνο να ρίξουμε όλο το μπερδεμένο πρόβλημα στο κουτί. Μια σύνδεση που δεν θα λειτουργήσει. Μια ρήτρα σύμβασης που σου κάνει το στομάχι να σφίγγεται. Ένα στιγμιότυπο οθόνης ενός πίνακα ελέγχου με κάθε όνομα ακόμα ορατό. Το εργαλείο είναι χρήσιμο, η ατμόσφαιρα μοιάζει ιδιωτική και ο εγκέφαλός σου το αρχειοθετεί ήσυχα δίπλα στις "σημειώσεις που έγραψα για τον εαυτό μου"

Αυτή είναι η παγίδα. 🧠 Η συνομιλία δεν είναι ένα κλειδωμένο συρτάρι. Είναι μια συνομιλία με ένα σύστημα που αποθηκεύει, επεξεργάζεται και μερικές φορές εκπαιδεύεται σε αυτά που στέλνετε, ανάλογα με το προϊόν, τις ρυθμίσεις και το αν έχετε καν παρατηρήσει τις ρυθμίσεις. Δεν είμαι εδώ για να σας πανικοβάλω και να σας βάλω σε ένα καταφύγιο. Είμαι εδώ με έναν πρακτικό χάρτη για το τι ΔΕΝ ΠΡΕΠΕΙ ΠΟΤΕ να βάλετε στην Τεχνητή Νοημοσύνη, καθώς και τις απλές αλλά πρακτικές συνήθειες που σας επιτρέπουν να λαμβάνετε ακριβείς απαντήσεις.

Σκεφτείτε το σαν να φωνάζετε ένα μυστικό σε μια γεμάτη κουζίνα. Δεν ακούνε όλοι οι ξένοι. Παρόλα αυτά, μερικοί από αυτούς μπορεί να ακούνε. Και η κουζίνα κρατάει μια ηχογράφηση για λόγους που δεν είναι ποτέ τόσο απλοί όσο τους παρουσιάζει το διαφημιστικό κείμενο.

Γιατί τα βάζουμε όλα στο κουτί συνομιλίας

Ταχύτητα. Αυτό είναι το μεγαλύτερο μέρος. Έχεις κολλήσει, το σφάλμα είναι άσχημο και η επικόλληση ολόκληρου του αρχείου καταγραφής φαίνεται πιο γρήγορη από την απογύμνωσή του. Το περιεχόμενο μοιάζει με καλοσύνη προς το μοντέλο. Περισσότερες λεπτομέρειες, καλύτερη βοήθεια. Αυτή είναι η λαϊκή παράδοση, και είναι η μισή αλήθεια.

Το άλλο μισό είναι συναισθηματικό. Ένα chatbot δεν σηκώνει ούτε φρύδι. Δεν θα το πει στον διευθυντή σας. Δεν θα κουτσομπολέψει στο μεσημεριανό γεύμα. Έτσι, το αντιμετωπίζουμε σαν ένα ημερολόγιο με υπερδυνάμεις. Το έχω κάνει εγώ αυτό. Πιθανότατα το έχετε κάνει κι εσείς αυτό. Τη στιγμή που κάτι είναι ταυτόχρονα βολικό και μη επικριτικό, τα ένστικτά μας για την ιδιωτικότητα πηγαίνουν σε ένα διάλειμμα για τσάι.

Ιδού η ελαφρώς ενοχλητική αλήθεια: το μοντέλο δεν χρειάζεται τα καθημερινά σας στοιχεία για να σας βοηθήσει. Χρειάζεται μια περιγραφή του προβλήματος. Τα ονόματα, τα tokens, οι αριθμοί λογαριασμών και τα πρόσωπα στα στιγμιότυπα οθόνης είναι γαρνιτούρα. Νόστιμη γαρνιτούρα. Ακόμα γαρνιτούρα.

  • Επικολλάς επειδή η επεξεργασία σου φαίνεται σαν επιπλέον δουλειά.
  • Επικολλάς επειδή το "μόνο αυτή τη φορά" είναι μια συνήθεια που μεταμφιέζεται.
  • Κάνετε επικόλληση επειδή η διεπαφή μοιάζει με ιδιωτικό DM και συμπεριφέρεται σαν αρχειοθήκη.

Τίποτα από αυτά δεν σε κάνει απερίσκεπτο. Σε κάνει άνθρωπο. Η λύση είναι μια παύση δύο δευτερολέπτων, όχι μεταμόσχευση προσωπικότητας.

Κωδικοί πρόσβασης, κλειδιά API και μυστικά που πρέπει να παραμείνουν εκτός σύνδεσης 🔐

Αν μπορεί να ξεκλειδώσει κάτι, δεν ανήκει σε μια προτροπή. Κωδικοί πρόσβασης. Κωδικοί μιας χρήσης. Cookies περιόδου σύνδεσης. Κλειδιά SSH. Συμβολοσειρές σύνδεσης βάσης δεδομένων. Το κλειδί API που υποσχεθήκατε στον εαυτό σας ότι θα εναλλάσσατε "σύντομα". Φράσεις εκκίνησης πορτοφολιού. Ιδιωτικά πιστοποιητικά. Η ερώτηση ανάκτησης που η τράπεζά σας εξακολουθεί να θεωρεί έξυπνη.

Συνήθιζα να σκέφτομαι τα κλειδιά σαν τα κλειδιά του σπιτιού σε ένα γάντζο δίπλα στην πόρτα. Χαριτωμένη μεταφορά. Καταρρέει αμέσως, επειδή ένα κλειδί σπιτιού ανοίγει μια πόρτα και ένα κλειδί API μπορεί να ανοίξει μια αποθήκη, έναν λογαριασμό χρέωσης και ένα σωρό από αρχεία πελατών που ξεχάσατε ότι έχετε αποθηκεύσει. Δημιουργία αντιγράφων ασφαλείας: αντιμετωπίζετε τα μυστικά ως ραδιενεργά. Δεν βάζετε ραδιενεργά πράγματα στην πρέσα τοστ, ακόμα κι αν η πρέσα τοστ είναι πολύ καλή στα σάντουιτς.

Ένα μοντέλο δεν μπορεί να «το κρατήσει αυτό μεταξύ μας» με τον τρόπο που μπορεί ένας φίλος. Ακόμα κι αν ένας προμηθευτής προσφέρει στοιχεία ελέγχου μνήμης, ακόμα κι αν απενεργοποιήσετε την εκπαίδευση, το κείμενο εξακολουθεί να ταξιδεύει, καταγράφεται με κάποια μορφή και μπορεί να παραμείνει στο ιστορικό συνομιλίας μέχρι να το αναζητήσετε. Ας υποθέσουμε ότι μια επικόλληση είναι ένα αντίγραφο που δεν ελέγχετε πλέον πλήρως.

Τι να κάνετε αντ' αυτού

  • Περιγράψτε το μυστικό κατά τύπο, όχι κατά τιμή. Η φράση "Μια διεύθυνση URL Postgres με κωδικό πρόσβασης" είναι αρκετή για συμβουλές εντοπισμού σφαλμάτων.
  • Επεξεργασία με προφανή placeholders: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
  • Εναλλάξτε οτιδήποτε έχετε ήδη διαρρεύσει. Κάντε το τώρα, όχι αφού «δείτε αν συμβεί κάτι»
  • Φυλάξτε τα πραγματικά διαπιστευτήρια σε έναν διαχειριστή κωδικών πρόσβασης ή σε ένα θησαυροφυλάκιο μυστικών. Ποτέ σε ένα νήμα που μπορεί να τραβήξετε στιγμιότυπο οθόνης αργότερα.

Αν ένα εργαλείο σας ζητήσει να επικολλήσετε ένα κλειδί ώστε να μπορεί να "συνδεθεί για εσάς", αυτή είναι μια διαφορετική κατηγορία προϊόντος. Αυτή είναι μια ενσωμάτωση με πρόσβαση, όχι ένας βοηθός γραφής. Αντιμετωπίστε το σαν να δίνετε σε κάποιον το σήμα σας.

Προσωπικά αναγνωριστικά στοιχεία και το ήσυχο ίχνος ταυτότητας 🪪

Τα προσωπικά δεδομένα (PII) είναι ο λιγότερο εντυπωσιακός ξάδερφος των κωδικών πρόσβασης. Αριθμοί εθνικής ταυτότητας. Στοιχεία διαβατηρίου. Πεδία ταυτότητας που σχετίζονται με την ημερομηνία. Οικιακές διευθύνσεις. Αριθμοί τηλεφώνου. Ταυτότητες εργαζομένων. Αριθμοί φοιτητών. Πλήρη νόμιμα ονόματα σε συνδυασμό με ημερομηνίες γέννησης, ονόματα σχολείων ή ιατρικών κλινικών. Το ένα κομμάτι φαίνεται μικρό. Τρία κομμάτια μαζί αποτελούν έναν φάκελο.

Οι άνθρωποι το κάνουν αυτό όταν θέλουν να γραφτεί μια επιστολή, να μεταφραστεί μια φόρμα ή να βελτιωθεί ένα βιογραφικό. Απολύτως λογικοί στόχοι. Το μοντέλο δεν χρειάζεται τον πραγματικό ταχυδρομικό κώδικα για να συντάξει ένα ευγενικό παράπονο. Χρειάζεται τον τόνο, τα στοιχεία που δεν είναι αναγνωρίσιμα και το αποτέλεσμα που θέλετε.

Υποθέτω ότι το εκπληκτικά δύσκολο κομμάτι είναι οι «ακίνδυνοι» συνδυασμοί. Ένας μοναδικός τίτλος εργασίας συν μια πόλη συν το σχολείο ενός παιδιού συν μια σπάνια ιατρική πάθηση. Δεν θα το έβαζες αυτό σε ένα φυλλάδιο. Ένα κουτί συνομιλίας δεν είναι φυλλάδιο, αλλά δεν είναι ούτε και θησαυροφυλάκιο.

  • Αλλάξτε τα πραγματικά σας ονόματα με ρόλους: «ο υπεύθυνος προσλήψεων», «ο γενικός ιατρός μου», «ένας ενοικιαστής»
  • Γενικεύστε τις τοποθεσίες: «μια πόλη μεσαίου μεγέθους», όχι ο δρόμος και ο κωδικός του βομβητή.
  • Αφήστε μοναδικούς αριθμούς εκτός αν η εργασία αφορά κυριολεκτικά τη μορφή αριθμών, οπότε χρησιμοποιήστε ένα ψεύτικο που να μοιάζει αρκετά αληθινό.

Η ανωνυμοποίηση δεν είναι διδακτορικό. Είναι μια συνήθεια να ελέγχετε αν ένας άγνωστος θα μπορούσε να σας διαλέξει από μια λίστα αυτής της παραγράφου. Αν μπορούσε, κάντε περικοπή.

Εργασιακό απόρρητο, συμφωνίες μη συμμόρφωσης και πράγματα που το αφεντικό σας θα δίσταζε 📎

Εδώ είναι που η εξυπηρετικότητα βάζει τους ανθρώπους σε μπελάδες. Επικολλάς μια τράπουλα πελατών. Έναν αδημοσίευτο οδικό χάρτη. Ένα υπολογιστικό φύλλο μισθών. Πηγαίο κώδικα με εσωτερικά ονόματα κεντρικών υπολογιστών. Ένα νομικό προσχέδιο που εξακολουθεί να έχει χαρακτηριστεί εμπιστευτικό. Σημειώσεις συνάντησης με ονόματα ατόμων που δεν έχουν ενημερωθεί ακόμη. Την Συμφωνία Μη Διατήρησης που υπογράψατε βιαστικά επειδή ο καφές κρύωνε.

Τα chatbots δεν είναι οι σύμβουλοι της εταιρείας σας και δεν αποτελούν ασφαλή πάγκο εργασίας, εκτός αν ο οργανισμός σας έχει δημιουργήσει έναν πραγματικό. Τα εργαλεία καταναλωτών έχουν σχεδιαστεί για ευκολία. Τα εργαλεία για επιχειρήσεις μπορούν να είναι καλύτερα, με ελέγχους διατήρησης και πολιτικές διαχείρισης. Δεν αποτελούν ακόμη λόγο για να επικολλήσετε τα κοσμήματα του στέμματος για ένα πέρασμα γραμματικής.

Ένας πρακτικός εμπειρικός κανόνας που κρατάω χαραγμένο στο μυαλό μου: αν δεν το βάλετε σε ένα προσωπικό προσχέδιο στο Gmail, μην το βάλετε σε μια δημόσια συνομιλία με τεχνητή νοημοσύνη. Αν δεν το βάλετε σε μια κοινή χρήση οχημάτων, το ίδιο ισχύει. Οι άνθρωποι που είναι προσεκτικοί στο Slack γίνονται ποιητές της υπερβολικής κοινής χρήσης τη στιγμή που εμφανίζεται ένα κουμπί δημιουργίας.

Ασφαλέστερες λύσεις

  • Περιγράψτε το έγγραφο: μήκος, κοινό, τα τρία σημεία που έχουν σημασία, ο τόνος που χρειάζεστε.
  • Επικολλήστε ένα απολυμασμένο απόσπασμα. Αφαιρέστε ονόματα, ευαίσθητα στοιχεία και οτιδήποτε θα έκανε ένας διαγωνιζόμενος να κάνει high five για αυτό.
  • Ζητήστε μια δομή ή ένα μοτίβο επανεγγραφής και, στη συνέχεια, εφαρμόστε το μόνοι σας στο πραγματικό κείμενο εκτός σύνδεσης.
  • Χρησιμοποιήστε ένα εγκεκριμένο εργαλείο χώρου εργασίας, εάν έχετε, και εξακολουθήστε να κάνετε επεξεργασία από προεπιλογή. Η πολιτική είναι ένα δάπεδο, όχι ένα τραμπολίνο.

Ο κώδικας αποτελεί μια ιδιαίτερη εκδοχή αυτού. Οι εσωτερικές διευθύνσεις URL, οι κεφαλίδες εξουσιοδότησης και τα σχόλια όπως "TODO: remove before the acquisition" είναι μικρές ετικέτες δώρου. Ψεύτικα δεδομένα. Διατηρήστε τη λογική. Το μοντέλο χειρίζεται καλά τα ψεύτικα δεδομένα. Δεν χρειάζεται το σχήμα παραγωγής σας με πραγματικά email πελατών που εξακολουθούν να είναι ένθετα σε ένα εξάρτημα.

Υγεία, χρήματα και λεπτομέρειες που δεν θα φώναζες σε μια καφετέρια 💊

Ιατρικές και οικονομικές λεπτομέρειες φαίνονται επείγουσες, επομένως επικολλώνται με την ελάχιστη δυνατή επεξεργασία. Αποτελέσματα εργαστηριακών εξετάσεων. Λίστες συνταγών. Ασφαλιστικές ταυτότητες. Τραπεζικές δηλώσεις. Φορολογικές επιστολές. Πιστωτικές αναφορές. Μια φωτογραφία μιας κάρτας «μόνο για τα τελευταία τέσσερα ψηφία», η οποία με κάποιο τρόπο περιλαμβάνει την υπόλοιπη κάρτα, το τραπέζι της κουζίνας σας και ένα γράμμα με το όνομα κάποιου άλλου.

Μπορείτε να κάνετε εξαιρετικές ερωτήσεις χωρίς να χρειάζεται να καταγράψετε τα πάντα. Η φράση «Εξηγήστε τι μπορεί να σημαίνει ένας υπερυψωμένος δείκτης σε γενικές γραμμές» είναι μια προτροπή. Η φράση «Εδώ είναι ο πλήρης πίνακας μου, η διεύθυνσή μου, η κλινική μου και το πατρικό όνομα της μητέρας μου» είναι μια βιογραφία.

Δεν λέω να μην μιλάτε ποτέ για υγεία ή χρήματα με ένα μοντέλο. Λέω να φέρεστε στο chatbot σαν έναν καλά διαβασμένο άγνωστο σε ένα τρένο. Καλό για την τοποθέτηση πλαισίων. Απαράδεκτο όσο ο λογιστής σας, ο κλινικός σας γιατρός ή το αρχείο σας. Και ναι, ξέρω ότι η μεταφορά του καλά διαβασμένου αγνώστου διαρρέει. Τα τρένα δεν τηρούν αρχεία καταγραφής συνομιλιών. Αυτό είναι λίγο-πολύ το νόημα.

  • Αφαιρέστε αριθμούς λογαριασμών, κωδικούς ταξινόμησης, IBAN και οτιδήποτε μοιάζει με διαπιστευτήριο.
  • Ζητήστε γενικές εξηγήσεις, λίστες ελέγχου και ερωτήσεις για να τις απευθύνετε σε έναν επαγγελματία.
  • Μην χρησιμοποιείτε τη συνομιλία ως αρχειοθήκη για δηλώσεις «ώστε να μπορώ να τις υποβάλω ερωτήματα αργότερα». Έτσι, αργότερα, η διατήρηση γίνεται πρόβλημα.

Αν μια προτροπή σας κάνει να χαμηλώσετε τη φωνή σας σε μια καφετέρια, κάντε πρώτα μια διαγραφή. Αυτή η δοκιμή είναι εκπληκτικά αξιόπιστη και δεν κοστίζει τίποτα.

Τα δεδομένα άλλων δεν είναι δικά σας για να τα επικολλήσετε 🚫

Αυτό παραλείπεται επειδή δίνει την αίσθηση ότι είσαι ο πρωταγωνιστής της συνομιλίας. Δεν είσαι το μόνο άτομο στο στιγμιότυπο οθόνης. Email συναδέλφων. ID συνεργάτη. Παράπονο πελάτη με τον αριθμό τηλεφώνου του ακόμα συνημμένο. Φωτογραφίες παιδιών. Ένα νήμα στο Slack που κατονομάζει ποιος παραλίγο να απολυθεί. Ένα ηχογραφημένο αντίγραφο μιας κλήσης που το άλλο άτομο δεν γνώριζε θα τροφοδοτούνταν με ένα μοντέλο.

Η συναίνεση δεν μετατρέπεται αυτόματα από το «μου έστειλαν email» στο «ένα μηχάνημα μπορεί να το αποθηκεύσει αυτό». Ακόμα κι αν η πρόθεσή σας είναι ευγενική - να συντάξετε μια πιο ωραία απάντηση, να συνοψίσετε ένα μπερδεμένο νήμα - το ακατέργαστο ωφέλιμο φορτίο εξακολουθεί να είναι η ζωή τους, όχι το χαρτί σας.

Ένα ελαφρώς σαρκαστικό τεστ: αν δεν θα προωθούσατε το ίδιο μήνυμα σε μια λίστα αλληλογραφίας αγνώστων «για σχόλια», τότε μην αντιμετωπίζετε ένα chatbot ως μια μικρότερη λίστα αλληλογραφίας με καλύτερους τρόπους.

  • Συνοψίστε άλλους ανθρώπους με δικά σας λόγια.
  • Αντικαταστήστε τα ονόματα με ρόλους και αφαιρέστε τα στοιχεία επικοινωνίας.
  • Ρωτήστε το άτομο αν η εργασία είναι ευαίσθητη. Κάποια πράγματα πρέπει να παραμένουν σε κύκλο μόνο από ανθρώπους.
  • Ποτέ μην επικολλάτε προσωπικά στοιχεία παιδιών, σχολικά αρχεία ή φωτογραφίες ταυτοποίησης για μια «διασκεδαστική» γενιά.

Υπάρχει ένα νομικό επίπεδο εδώ που δεν θα προσποιηθώ ότι θα το αντιμετωπίσω με ύφος ιστολογίου. Οι κανόνες απορρήτου, τα εργασιακά καθήκοντα και οι συμβάσεις πελατών έχουν όλα απόψεις. Η πρακτική συνήθεια είναι απλούστερη από τον νόμο: η προεπιλογή των δεδομένων άλλων ανθρώπων να μην εμφανίζονται στην ερώτηση.

Τι δεν πρέπει ΠΟΤΕ να βάλετε στην Τεχνητή Νοημοσύνη: ένας πίνακας κινδύνου που μπορείτε να θέσετε σε λειτουργία

Μου αρέσουν οι πίνακες για αυτό, επειδή μια λίστα με το "ποτέ" μπορεί να ακούγεται κήρυγμα, και ένα πλέγμα σάς επιτρέπει να δείτε την εναλλαγή. Ελαφρώς δογματικές αξιολογήσεις, όχι έκθεση εργαστηρίου.

Τύπος δεδομένων Επίπεδο κινδύνου Γιατί είναι πρόβλημα Ασφαλέστερη εναλλακτική λύση
Κωδικοί πρόσβασης, κλειδιά API, διακριτικά, φράσεις εκκίνησης Κρίσιμος Ξεκλειδώνουν συστήματα. Ένα αντίγραφο που δεν μπορείτε να θυμηθείτε πλήρως εξακολουθεί να είναι αντίγραφο Τα placeholders συν ένας τοπικός διαχειριστής μυστικών· εναλλάσσονται σε περίπτωση διαρροής
Κυβερνητικές ταυτότητες, σαρώσεις διαβατηρίων, εθνικοί αριθμοί Κρίσιμος Πακέτο εκκίνησης για κλοπή ταυτότητας. Δύσκολο να "αναιρεθεί" η αποστολή Ψεύτικα παραδείγματα ή ερωτήσεις μόνο για μορφοποίηση
Αρχεία υγείας, συνταγές, ταυτότητες ασφάλισης Ψηλά Οικείο, ρυθμιζόμενο και κολλώδες στην ιστορία Γενικά συμπτώματα ή θέματα· αποφύγετε την εμφάνιση αναγνωριστικών στοιχείων στη σελίδα
Τραπεζικές καταστάσεις, φορολογικά έγγραφα, φωτογραφίες καρτών Ψηλά Άμεση χρηματοοικονομική έκθεση συν επιπλέον PII στα περιθώρια Ρωτήστε για διαδικασίες, όχι για ακατέργαστα στοιχεία που συνδέονται με εσάς
Αρχεία πελατών, προσχέδια NDA, ακυκλοφόρητα σχέδια Ψηλά Μπορεί να παραβιάζετε μια υπόσχεση που έχετε ήδη υπογράψει Απολυμασμένα αποσπάσματα· αιτήματα κατασκευής· εγκεκριμένα εργαλεία εργασίας
Πιστοποιητικά Δεδομένων Συναδέλφου ή Πελάτη, Στοιχεία Παιδιών Ψηλά Δεν είναι δικό σας να το δωρίσετε σε ένα μοντέλο Συνόψεις βάσει ρόλων· απόρριψη επαφών και προσώπων
Εσωτερική πηγή με ονόματα κεντρικών υπολογιστών και πραγματικά email Μέτρια-υψηλή Μοιάζει με "απλώς κώδικα" μέχρι κάποιος να χαρτογραφήσει το δίκτυό σας Ψεύτικα δεδομένα, ψεύτικοι τομείς, αφαιρεμένα σχόλια
Στιγμιότυπα οθόνης από πίνακες ελέγχου ή εισερχόμενα Μέτρια-υψηλή Λαθρεύουν ονόματα, αριθμούς και ανοιχτές καρτέλες που ξέχασες ότι ήσουν εκεί Περικοπή, θόλωση ή επανπληκτρολόγηση του σχετικού αποσπάσματος
Ασαφείς προσωπικές ιστορίες χωρίς μοναδικά αναγνωριστικά Χαμηλότερος Συνήθως εντάξει. Παρόλα αυτά, παραλείπετε οτιδήποτε δεν θα λέγατε σε έναν άγνωστο Διατηρήστε το γενικό· παραλείψτε τον σπάνιο συνδυασμό ταυτοποίησης

Αν δεν θυμάστε τίποτα άλλο, θυμηθείτε την αριστερή στήλη. Αυτή είναι η ουσία του βιβλίου " Τι δεν πρέπει ΠΟΤΕ να βάζετε στην τεχνητή νοημοσύνη όταν βιάζεστε και ο εγκέφαλός σας θέλει να επικολλήσει το σύμπαν".

Παγίδες στιγμιότυπων οθόνης και η τυχαία υπερδημοσίευση 🖼️

Τα στιγμιότυπα οθόνης είναι ο τρόπος με τον οποίο οι καλοί άνθρωποι διαρρέουν πληροφορίες. Εννοείτε να εμφανίσετε ένα παράθυρο διαλόγου σφάλματος. Η καταγραφή περιλαμβάνει τη γραμμή σελιδοδεικτών, ένα σήμα Slack με ένα όνομα, μια διεύθυνση URL με ένα διακριτικό, ένα αναδυόμενο παράθυρο ημερολογίου, μια αντανάκλαση σε ένα παράθυρο σκοτεινής λειτουργίας που αποδεικνύεται ότι είναι ένας διαχειριστής κωδικών πρόσβασης. Έχω κόψει μια φωτογραφία και παρόλα αυτά έχασα τον μικροσκοπικό διακόπτη λογαριασμού στη γωνία. Είναι ένα είδος λάθους.

Οι φωτογραφίες των εγγράφων είναι χειρότερες, επειδή οι κάμερες είναι γενναιόδωρες. Ένα τραπέζι, ένας λευκός πίνακας, ένα βραχιόλι νοσοκομείου, μια ετικέτα αποστολής. Το μοντέλο μπορεί να μην "χρειάζεται" τα επιπλέον pixel. Τα pixel εξακολουθούν να φτάνουν.

Ένα απλό τελετουργικό λήψης στιγμιότυπων οθόνης

  • Περικοπή πρώτα. Μετά περικοπή ξανά. Έπειτα, κοιτάξτε τις άκρες σαν να σας χρωστάνε χρήματα.
  • Θολώστε ονόματα, email, avatar και οποιαδήποτε συμβολοσειρά που μοιάζει με διακριτικό.
  • Προτιμήστε να πληκτρολογήσετε ξανά το σφάλμα αντί να καταγράψετε ολόκληρο το IDE.
  • Μην ανεβάσετε φωτογραφία κάρτας, διαβατηρίου ή κάρτας επιβίβασης «για γρήγορη ανάγνωση». Πληκτρολογήστε την ερώτηση.

Οι φωνητικές σημειώσεις και οι μεταφορτώσεις αρχείων κάνουν το ίδιο κόλπο. Μια ηχογράφηση σύσκεψης είναι ένας μπουφές με δεδομένα άλλων ανθρώπων. Ένα αρχείο CSV είναι ένας μπουφές με γραμμές που σταματήσατε να βλέπετε ως άτομα. Αν το αρχείο θα έκανε τον νομικό να ανησυχεί, δεν θα χωρούσε στο κουτί.

Ασφαλέστερα μοτίβα προτροπής που εξακολουθούν να σας παρέχουν αξιόπιστες απαντήσεις ✨

Η επιμέλεια δεν είναι εχθρός της ποιότητας. Οι αόριστες προτροπές είναι. Μπορείς να είσαι συγκεκριμένος σχετικά με το πρόβλημα και τσιγκούνης ως προς την ταυτότητα. Αυτή είναι όλη η τέχνη.

Δοκιμάστε αυτό το σχήμα: στόχος, περιορισμοί, εικονικές εισόδους, επιθυμητή έξοδος. "Ξαναγράψτε αυτό το email απόρριψης έτσι ώστε να είναι ευγενικό αλλά σταθερό. Το Audience είναι ένας ανεξάρτητος σχεδιαστής. Μην αναφέρετε το πραγματικό όνομα του έργου. Εδώ είναι ένα προσχέδιο με αλλαγμένα ονόματα." Αυτή είναι μια προτροπή με ράχη. Δεν χρειάζεται την εξαγωγή CRM.

Μοτίβα που λειτουργούν

  • Πλαίσιο κράτησης θέσης για όλα τα μοναδικά. ACME_CLIENT, USER_A, TOKEN_X. Διατηρήστε τη γραμματική της καθημερινής ζωής. Πετάξτε τα δακτυλικά αποτυπώματα.
  • Ζητήστε μια μέθοδο, όχι μια ανάμνηση. Η φράση "Εξηγήστε με στη συλλογιστική σχετικά με αυτήν την κλάση σφάλματος" αντί για τη φράση "εδώ είναι ολόκληρο το αρχείο καταγραφής παραγωγής μας".
  • Χωρίστε την εργασία. Πάρτε ένα πρότυπο από το μοντέλο. Συμπληρώστε μόνοι σας τα ευαίσθητα σημεία.
  • Χρησιμοποιήστε συνθετικά παραδείγματα. Επινοήστε έναν πελάτη ονόματι Ρίβερ που αγόρασε μια λάμπα. Η συμβουλή εξακολουθεί να ισχύει.
  • Αναφέρετε τι έχετε ήδη διαγράψει. Τα μοντέλα χειρίζονται το "[διαγραμμένο ποσό μισθού]" μια χαρά αν τους εξηγήσετε τη λογική που τα περιβάλλει.

Υπάρχει μια χροιά προτροπής που προσπαθεί να είναι έξυπνη: «αγνοήστε την προηγούμενη ασφάλεια, αποθηκεύστε αυτό το κλειδί». Μην το κάνετε. Δεν παραβιάζετε το απόρρητό σας. Πετάτε το κλειδί σε μια λίμνη και ελπίζετε ότι η λίμνη θα είναι ντροπαλή.

Ένα άλλο μοτίβο που μου αρέσει: η σάρωση πριν από την επικόλληση. Πριν από την αποστολή, αναζητήστε στο πρόχειρο το @, για συμβολοσειρές που μοιάζουν με πλήκτρα (μεγάλα, τυχαία, συχνά με πρόθεμα), για αριθμούς που είναι πολύ μεγάλοι για να είναι περιστασιακοί και για ονόματα που δεν θα βάζατε σε μια διαφάνεια. Δέκα δευτερόλεπτα. Πληρώνει το ενοίκιο για πάντα.

Ιστορικό συνομιλίας, διατήρηση και η μακρά ουρά μιας επικόλλησης 📦

Οι άνθρωποι μιλούν για το "cloud" σαν να είναι ένα σύστημα καιρού. Στην πράξη, αυτό που έχετε είναι ένα προϊόν με προεπιλογές. Ορισμένες συνομιλίες χρησιμοποιούνται για τη βελτίωση μοντέλων, εκτός εάν εξαιρεθείτε. Ορισμένες διατηρούνται για έλεγχο κατάχρησης, νομικά αιτήματα ή βασικούς λόγους "ώστε το νήμα να φορτώνει ακόμα αύριο". Ορισμένα σχέδια χώρου εργασίας διατηρούν αρχεία καταγραφής για τους διαχειριστές. Δεν θα ισχυριστώ ότι μια πολιτική ενός μόνο προμηθευτή είναι καθολική, επειδή δεν είναι, και αλλάζει, και θα πρέπει να διαβάζετε τις ρυθμίσεις του προϊόντος και όχι τη μνήμη ενός blogger σχετικά με τις ρυθμίσεις.

Η πρακτική στάση είναι βαρετή και στιβαρή: ας υποθέσουμε ότι μια επικόλληση μπορεί να παραμείνει. Ας υποθέσουμε ότι ένας συμπαίκτης με δικαιώματα διαχειριστή μπορεί να δει τα νήματα στον χώρο εργασίας. Ας υποθέσουμε ότι σε ένα μέλλον θα ξεχάσετε ότι αυτή η συζήτηση υπάρχει μέχρι να εμφανιστεί σε μια αναζήτηση. Ας υποθέσουμε ότι η εξαγωγή του ιστορικού σας είναι κάτι που μπορεί να κάνετε αργότερα και ότι αυτή η εξαγωγή είναι ένα άλλο αντίγραφο.

  • Απενεργοποιήστε τις επιλογές εκπαίδευσης ή «βελτίωσης του μοντέλου» όταν τις προσφέρει το προϊόν, εάν αυτό σας βολεύει.
  • Διαγράψτε τα ευαίσθητα νήματα αφού εξαγάγετε τα πρακτικά κομμάτια σε μια τοπική σημείωση που είναι πραγματικά τοπική.
  • Μην αντιμετωπίζετε τη συνομιλία ως το σύστημα καταγραφής σας για ζητήματα ανθρώπινου δυναμικού, ιατρικά ερωτήματα ή εργασία πελατών.
  • Να είστε προσεκτικοί με τους κοινόχρηστους λογαριασμούς. Οι κοινόχρηστοι λογαριασμοί είναι ο τρόπος με τον οποίο το «ιδιωτικό» γίνεται γραφειακή παράδοση.

Τα χαρακτηριστικά μνήμης - αυτά που θυμίζουν τη δουλειά σας, τον σκύλο σας, τον προτιμώμενο τόνο σας - είναι εύχρηστα και λίγο τρομακτικά. Είναι επίσης ένας λόγος για να μην διδάξετε στο σύστημα τα πραγματικά σας αναγνωριστικά στοιχεία "ώστε να είναι πιο προσωπικά". Το προσωπικό είναι ένα στυλ. Δεν είναι ο αριθμός εθνικής σας ασφάλισης.

Κανόνες στον χώρο εργασίας όταν η ομάδα σας ζει σε chatbots 🏢

Τα γραφεία είναι το μέρος όπου η συνήθεια της επικόλλησης γίνεται βιομηχανική. Κάποιος πετάει ένα αρχείο CSV πελάτη για να «καθαρίσει τις στήλες». Κάποιος άλλος πετάει ένα έγγραφο στρατηγικής για να το «κάνει πιο εντυπωσιακό». Ένας καλοπροαίρετος ασκούμενος επικολλά το κανάλι του περιστατικού. Κανείς δεν είναι κακός. Τα κίνητρα είναι όλα ταχύτητα και στιλπνότητα.

Αν ηγείστε μιας ομάδας, γράψτε έναν σύντομο, ανθρώπινο κανόνα. Όχι μια πολιτική 40 σελίδων που κανείς δεν θα διαβάσει. Κάτι σαν: χωρίς διαπιστευτήρια, χωρίς προσωπικά δεδομένα πελατών, χωρίς αδημοσίευτους αριθμούς, χωρίς νομικά σχέδια, χρησιμοποιήστε το εγκεκριμένο εργαλείο, κάντε επεξεργασία από προεπιλογή. Στη συνέχεια, δείξτε ένα παράδειγμα μιας καλής, εύστοχης προτροπής, ώστε οι άνθρωποι να μην μαντεύουν.

  • Ονομάστε το εγκεκριμένο εργαλείο, εάν έχετε, και τα μη εγκεκριμένα.
  • Δώστε μια λίστα ελέγχου επιμέλειας που μπορούν να ολοκληρώσουν οι άνθρωποι πριν από ένα stand-up.
  • Φροντίστε να πείτε με σιγουριά «παραλίγο να το επικολλήσω» χωρίς θεατρική έρευνα.
  • Υπενθυμίστε στους ανθρώπους ότι το "η Τεχνητή Νοημοσύνη είπε ότι ήταν εντάξει" δεν είναι έλεγχος.

Ακόμα κι αν δεν ηγείσαι μιας ομάδας, μπορείς να είσαι εσύ το άτομο που κολλάει μια κούκλα. Η κουλτούρα είναι μεταδοτική και προς τις δύο κατευθύνσεις. Υποθέτω ότι αυτό ακούγεται σοβαρό. Έτσι κινούνται και οι κανόνες. Ένα άτομο σταματά να πετάει κλειδιά και το δωμάτιο γίνεται λίγο λιγότερο άτακτο.

Το θέατρο προμηθειών είναι μια παράλληλη αποστολή που θα παραλείψω. Η αγορά ενός "επιχειρηματικού" περιτυλίγματος δεν κάνει μαγικά κάθε προτροπή σοφή. Μπορεί να βοηθήσει στη διατήρηση και την πρόσβαση. Οι συνήθειές σας εξακολουθούν να κάνουν τη δύσκολη δουλειά.

Έχεις ήδη επικολλήσει κάτι άβολο - τώρα τι 🧯

Συμβαίνει. Πατάς το κουμπί αποστολής και η ψυχή σου φεύγει από το σώμα σου. Μην κάνεις σπειροειδή κίνηση. Κάνε μια σύντομη, ελαφρώς μη λαμπερή ακολουθία.

  • Σταμάτα να χρησιμοποιείς αυτό το μυστικό. Άλλαξε τον κωδικό πρόσβασης, ανακάλεσε το κλειδί, ακύρωσε την συνεδρία. Αυτό είναι το μόνο βήμα που κλείνει την πόρτα οριστικά.
  • Διαγράψτε τη συνομιλία, εάν το προϊόν σας επιτρέπει, και αδειάστε οποιαδήποτε τσέπη με "πρόσφατες διαγραφές", εάν υπάρχει.
  • Ελέγξτε τις συνδεδεμένες εφαρμογές και τη μνήμη. Ορισμένα εργαλεία διατηρούν αποσπάσματα σε μνήμες ή αρχεία έργων που ξεχάσατε να ενεργοποιήσετε.
  • Ενημερώστε το σωστό άτομο αν επρόκειτο για δεδομένα εργασίας. Ασφάλεια, διευθυντή, υποψήφιο πελάτη· όποιον κατέχει την ακτίνα της έκρηξης. Το να ανακαλυφθεί νωρίς είναι λιγότερο επώδυνο από το να ανακαλυφθεί αργότερα.
  • Προσέξτε για ασυνήθιστες συνδέσεις στους σχετικούς λογαριασμούς. Η εναλλαγή χωρίς παρακολούθηση είναι μισή δουλειά.

Αν επρόκειτο για δεδομένα κάποιου άλλου, τους οφείλεις επίσης ένα καθάρισμα και, ανάλογα με το χάος, μια προειδοποίηση. Αμήχανο. Ακόμα καλύτερο από το να ελπίζεις ότι το σύμπαν είναι ευγενικό.

Μην προσπαθήσετε να "αντικαταστήσετε" μια διαρροή επικολλώντας περισσότερες εξηγήσεις. Το επιπλέον περιεχόμενο είναι επιπλέον κείμενο. Φύγε από το νήμα.

Συναρμολογώντας το

Η σύντομη εκδοχή του "Τι δεν πρέπει ΠΟΤΕ να βάλετε στην τεχνητή νοημοσύνη" δεν είναι μια λίστα επιπλήξεων. Είναι μια στάση σώματος. Αν ξεκλειδώνει ένα σύστημα, αναγνωρίζει ένα άτομο ή σας κάνει να ανατριχιάσετε σε μια καφετέρια, παραμένει εκτός πλαισίου. Μπορείτε ακόμα να λάβετε εξαιρετική βοήθεια. Απλώς δίνετε στο μοντέλο ένα σκίτσο, όχι τα κλειδιά του σπιτιού, τον ιατρικό φάκελο και την αλληλογραφία του γείτονα.

Γρήγορη ανακεφαλαίωση:

  • Δεν επιτρέπονται κωδικοί πρόσβασης, κλειδιά, διακριτικά ή φράσεις εκκίνησης. Περιστρέψτε το αν γλιστρήσατε.
  • Δεν υπάρχουν πραγματικά έγγραφα ταυτοποίησης, πλήρη οικονομικά στοιχεία, ακατέργαστα αρχεία υγείας ή υλικό NDA.
  • Δεν υπάρχουν προσωπικά στοιχεία άλλων ανθρώπων, ειδικά παιδιών.
  • Τα στιγμιότυπα οθόνης βασίζονται στην συμπερίληψη. Κάντε περικοπή όπως το εννοείτε.
  • Επεξεργασία, εικονική επεξεργασία και αίτημα για μεθόδους. Συγκεκριμένο πρόβλημα, ψεύτικες ετικέτες.
  • Υποθέστε ότι το ιστορικό παραμένει. Διαγράψτε, μην αρχειοθετείτε μυστικά σε ένα chatbot.
  • Οι χώροι εργασίας χρειάζονται έναν σύντομο κανόνα και ένα καλό παράδειγμα, όχι μια ατμόσφαιρα χαλαρής ιδιωτικότητας.

Χρησιμοποιήστε τα εργαλεία. Είναι εξαιρετικά στα σχέδια, στον εντοπισμό σφαλμάτων σε σχήματα και στο να σας πείσουν να αποφύγετε ένα περίπλοκο σφάλμα. Απλώς σταματήστε να αντιμετωπίζετε το πλαίσιο κειμένου σαν θησαυροφυλάκιο με αίσθηση του χιούμορ. Είναι ένα πολύ έξυπνο μπλέντερ. Ακόμα δεν πρέπει να βάζετε το διαβατήριό σας σε ένα μπλέντερ. 🫡

Πρακτικό παράδειγμα: Δημιουργία μιας σύντομης περιγραφής εντοπισμού σφαλμάτων με προτεραιότητα την επεξεργασία για μια μικρή ομάδα μηχανικών

Οι κανόνες απορρήτου ισχύουν όταν σώζουν μια συνηθισμένη Τρίτη, όχι όταν ακούγονται αυστηροί. Δείτε πώς μια πενταμελής ομάδα SaaS στο Ηνωμένο Βασίλειο χρησιμοποίησε τις συνήθειες σε αυτόν τον οδηγό για να σταματήσει την απόρριψη διαπιστευτηρίων και προσωπικών δεδομένων πελατών σε chatbot καταναλωτών - χωρίς να εγκαταλείψει τη βοήθεια για τον εντοπισμό σφαλμάτων.

Σενάριο

Οι προγραμματιστές και η υποστήριξη μοιράζονται μια επώδυνη συνήθεια: όταν ένα σφάλμα ελέγχου ταυτότητας φαίνεται άσχημο, κάποιος επικολλά ολόκληρο το αρχείο καταγραφής, μια συμβολοσειρά σύνδεσης σταδιακής επεξεργασίας και ένα στιγμιότυπο οθόνης του πίνακα ελέγχου διαχειριστή "ώστε το μοντέλο να έχει περιεχόμενο". Το τελευταίο τρίμηνο αυτό περιελάμβανε ένα ενεργό κλειδί API σε μια ιχνηλάτηση στοίβας και ένα email πελάτη που ήταν ακόμα ορατό στη γραμμή URL ενός στιγμιότυπου οθόνης. Κανείς δεν ήθελε κακό. Η ταχύτητα κέρδισε. Η κουζίνα κράτησε μια καταγραφή.

Δεν χρειάζονται διάλεξη. Χρειάζονται μια επαναλαμβανόμενη οδηγία: περιγράψτε το μυστικό ανά τύπο, διορθώστε με placeholders, περικόψτε στιγμιότυπα οθόνης, ζητήστε μια μέθοδο όχι μια ανάμνηση και, στη συνέχεια, εφαρμόστε τη διόρθωση σε ζωντανά συστήματα εκτός σύνδεσης. Η συνομιλία καταναλωτών εξακολουθεί να αξίζει τον κόπο. Τα κλειδιά του σπιτιού μένουν έξω από το μπλέντερ.

Ο στόχος είναι η ίδια ποιότητα συμβουλών με μια σάρωση δύο δευτερολέπτων πριν από την επικόλληση - και έναν σύντομο ομαδικό κανόνα που θα ακολουθούν οι άνθρωποι.

Τι χρειάζεται ο βοηθός

  • Ένα εξυγιανμένο σχήμα προβλήματος: κλάση σφάλματος, περίπου πότε ξεκίνησε, περιβάλλον (σταδιοποίηση vs παραγωγή) χωρίς ονόματα κεντρικών υπολογιστών που αντιστοιχούν στο δίκτυο
  • Μόνο εικονικές εισαγωγές: REDACTED_KEY, USER_TOKEN, customer@example.com, ψεύτικα αναγνωριστικά αιτήματος
  • Τι είχε ήδη αφαιρεθεί (δηλώνεται στην προτροπή, ώστε το μοντέλο να μην ζητά τις πραγματικές τιμές)
  • Επιθυμητή έξοδος: πιθανές αιτίες, έλεγχοι για εκτέλεση, περίγραμμα ενημέρωσης κώδικα - όχι "σύνδεση με το κλειδί μου"
  • Ένας άνθρωπος που διατηρεί διαπιστευτήρια σε έναν διαχειριστή κωδικών πρόσβασης ή σε ένα θησαυροφυλάκιο μυστικών
  • Ένας κανόνας ομάδας μίας σελίδας: χωρίς διαπιστευτήρια, χωρίς προσωπικά δεδομένα πελατών, χωρίς αδημοσίευτα στοιχεία, επεξεργασία από προεπιλογή

Παράδειγμα οδηγιών

Στόχος: Να με βοηθήσει να εντοπίσω σφάλματα σε ένα διαλείπον σφάλμα 401 στο API σταδιοποίησης μετά από ανανέωση διακριτικού. Να μην μου ζητηθεί να επικολλήσω μυστικά.

Περιορισμοί: Έχω ήδη επεξεργαστεί κωδικούς πρόσβασης, κλειδιά API, διακριτικά, cookies, εσωτερικά ονόματα κεντρικών υπολογιστών και email πελατών. Τα placeholders στο αρχείο καταγραφής σημαίνουν ότι οι πραγματικές τιμές υπάρχουν μόνο στον υπολογιστή μου. Αγγλικά Ηνωμένου Βασιλείου. Χωρίς προοίμιο.

Ψευδές απόσπασμα: Το αίτημα προς https://api.example-staging.invalid/v1/session επέστρεψε 401. Εξουσιοδότηση κεφαλίδας: Φορέας REDACTED_KEY. Το κύριο μέρος αναφέρει ότι το USER_TOKEN έχει λήξει. Περιγραφή στιγμιότυπου οθόνης (δεν επισυνάπτεται): μόνο πρόποση σφάλματος. η γραμμή σελιδοδεικτών και η εναλλαγή λογαριασμών έχουν περικοπεί.

Εργασία: Καταγράψτε τις τρεις πιο πιθανές αιτίες για αυτήν την κατηγορία σφάλματος, τους ελέγχους που θα πρέπει να εκτελέσω τοπικά και ένα ελάχιστο περίγραμμα ενημέρωσης κώδικα. Εάν χρειάζεστε περισσότερες λεπτομέρειες, ζητήστε έναν τύπο πληροφοριών (π.χ. "ρύθμιση TTL διακριτικού") - ποτέ για το ακατέργαστο μυστικό.

Έξοδος: Αριθμημένες αιτίες, έπειτα μια λίστα ελέγχου και στη συνέχεια "τι να μην επικολλήσετε την επόμενη φορά" σε τρεις κουκκίδες.

Πώς να το δοκιμάσετε

  • Συγκρίνετε μια παλιά επικόλληση (πλήρες αρχείο καταγραφής + στιγμιότυπο οθόνης) με την παραπάνω σχολιασμένη περίληψη για τον ίδιο τύπο περιστατικού. Συγκρίνετε την ποιότητα των συμβουλών και το εάν το μοντέλο ζητά μυστικά.
  • Σάρωση πριν από την επικόλληση: αναζητήστε στο προσχέδιο για @, μεγάλες τυχαίες συμβολοσειρές και αριθμούς που είναι πολύ μεγάλοι για να είναι περιστασιακοί πριν από την αποστολή.
  • Γράψτε πεζά-κεφαλαία σε πεζά και κεφαλαία: συμπεριλάβετε ένα ψεύτικο κλειδί που φαίνεται γνήσιο και επιβεβαιώστε ότι η απάντηση εξακολουθεί να λειτουργεί χωρίς να χρειάζεται την πραγματική τιμή.
  • Γράψτε πεζά-κεφαλαία στα άκρα: απορρίψτε την αποστολή στιγμιότυπου οθόνης. πληκτρολογήστε ξανά μόνο τη γραμμή σφάλματος. επιβεβαιώστε ότι η λίστα ελέγχου εξακολουθεί να βοηθάει.
  • Έλεγχοι αποδοχής: (1) μηδενικά διαπιστευτήρια στο νήμα, (2) μηδενικά στοιχεία επικοινωνίας πελάτη, (3) δηλώθηκαν placeholders, (4) η έξοδος είναι μια μέθοδος/λίστα ελέγχου όχι μια ροή "επικόλλησης του κλειδιού σας", (5) εάν διέρρευσε κάτι νωρίτερα, η εναλλαγή έγινε την ίδια ημέρα.

Αποτέλεσμα

Ενδεικτικό αποτέλεσμα (ενδεικτικό εκτίμηση για μία μικρή ομάδα μηχανικών/υποστήριξης, όχι δημοσιευμένη μελέτη): Σε 12 συνομιλίες εντοπισμού σφαλμάτων σε τέσσερις εβδομάδες, ο μέσος χρόνος για μια εύχρηστη λίστα ελέγχου αυξήθηκε ελαφρώς από περίπου 4 λεπτά (πλήρης επικόλληση) σε περίπου 6 λεπτά με επεξεργασία - δύο επιπλέον λεπτά για τη σάρωση πριν από την επικόλληση και τα placeholders. Τα νήματα που περιείχαν κρίσιμους τύπους δεδομένων (κλειδιά, email πελατών, ακατέργαστες συμβολοσειρές σύνδεσης) μειώθηκαν από 9 στις 12 συνομιλίες σε 1 στις 12 (αυτή η μία ελέγχθηκε και εναλλάχθηκε την ίδια ημέρα). Σε μια απλή λίστα ελέγχου υγιεινής (χωρίς μυστικά, χωρίς PII πελατών, δηλωμένα placeholders, περικομμένα ή χωρίς στιγμιότυπο οθόνης), 11 από τις 12 επεξεργασμένες συνοπτικές ερωτήσεις πέρασαν έναντι 3 στις 12 με την παλιά συνήθεια. Περιορισμοί: μικρό δείγμα, μία ομάδα, αυτοαναφερόμενος χρόνος. τα ηπιότερα περιστατικά χρειάζονται λιγότερη επεξεργασία. Το "επιτυχές" ήταν αξιολόγηση από ομοτίμους του κειμένου προτροπής, όχι εργαστηριακός έλεγχος των αρχείων καταγραφής προμηθευτών.

Για να μετρήσετε τη δική σας έκδοση: δοκιμάστε 10 πρόσφατα νήματα εντοπισμού σφαλμάτων τεχνητής νοημοσύνης (AI) για απαγορευμένους τύπους δεδομένων και, στη συνέχεια, δοκιμάστε 10 μετά από έναν κανόνα και ένα πρότυπο επιμέλειας. Αναφέρετε τον αριθμό με παρονομαστές, συν τη διάμεση τιμή λεπτών από το "κολλημένο" έως το "στην άκρη της λίστας ελέγχου"

Τι μπορεί να πάει στραβά

  • Παράνομη χρήση στιγμιότυπου οθόνης: Το σφάλμα είναι εντάξει. Η γραμμή URL εξακολουθεί να περιέχει ένα διακριτικό. Περικοπή δύο φορές και, στη συνέχεια, έλεγχος των άκρων.
  • Κλειδιά "Μόνο αυτή τη φορά": Ένα μόνο κλειδί API που διαρρέει μπορεί να ανοίξει αρχεία χρέωσης και πελατών. Εναλλάξτε αμέσως. Μην περιμένετε να "δείτε αν συμβεί κάτι".
  • Δεδομένα άλλων ατόμων: Ένα παράπονο πελάτη με αριθμό τηλεφώνου δεν είναι δικό σας δικαίωμα να το δωρίσετε σε ένα μοντέλο. Συνοψίστε το με δικά σας λόγια.
  • Συνομιλία ως θησαυροφυλάκιο: Αν αφήσετε μυστικά στο ιστορικό, δημιουργείται ένα άλλο αντίγραφο. Διαγράψτε το νήμα αφού μετακινήσετε τα bits που χρειάζεστε σε μια τοπική σημείωση.
  • Επιχειρηματικός χώρος: Ένα εγκεκριμένο εργαλείο χώρου εργασίας βοηθά στη διατήρηση της απασχόλησης, αλλά δεν κάνει την επικόλληση των κοσμημάτων του στέμματος σοφότερη.
  • Παράλειψη εναλλαγής μετά από ένα slip: Η διαγραφή της συνομιλίας χωρίς ανάκληση του κλειδιού αφήνει την πόρτα ανοιχτή.

Πρακτικό πακέτο

Αυτό που δεν πρέπει ποτέ να βάζετε στην Τεχνητή Νοημοσύνη είναι λιγότερο μια λίστα επιπλήξεων και περισσότερο μια στάση σώματος: αν ξεκλειδώνει ένα σύστημα, αναγνωρίζει ένα άτομο ή σας κάνει να ανατριχιάσετε σε μια καφετέρια, παραμένει εκτός πλαισίου. Τροφοδοτήστε το μοντέλο με ένα σκίτσο με placeholders, φυλάξτε τα διαπιστευτήρια σε ένα θησαυροφυλάκιο και ζητήστε μεθόδους που εφαρμόζετε εκτός σύνδεσης. Αυτή η παύση δύο δευτερολέπτων είναι ο τρόπος με τον οποίο ένας χρήσιμος ασκούμενος με άπειρο καφέ σταματά να γίνεται αρχειοθήκη για τα κλειδιά του σπιτιού σας.

Συχνές ερωτήσεις

Τι δεν πρέπει ποτέ να βάζετε σε chatbots τεχνητής νοημοσύνης;

Αν ξεκλειδώνει ένα σύστημα, αναγνωρίζει ένα άτομο ή σας κάνει να ανατριχιάσετε σε μια καφετέρια, φυλάξτε το έξω από το κουτί. Αυτό περιλαμβάνει κωδικούς πρόσβασης, κλειδιά API, διακριτικά, φράσεις seed, κυβερνητικά αναγνωριστικά, ακατέργαστα αρχεία υγείας και οικονομικά, υλικό NDA και προσωπικά στοιχεία άλλων ατόμων - ειδικά παιδιών. Η συνομιλία δεν είναι ένα κλειδωμένο συρτάρι. Το κείμενο μπορεί να αποθηκευτεί, να υποβληθεί σε επεξεργασία και μερικές φορές να χρησιμοποιηθεί για εκπαίδευση ανάλογα με το προϊόν και τις ρυθμίσεις. Τροφοδοτήστε το μοντέλο με ένα σκίτσο με placeholders, όχι με τα κλειδιά του σπιτιού.

Γιατί οι άνθρωποι επικολλούν μυστικά στην Τεχνητή Νοημοσύνη, ακόμα κι αν γνωρίζουν καλύτερα;

Η ταχύτητα κάνει το μεγαλύτερο μέρος της δουλειάς: ένα άσχημο σφάλμα κάνει ολόκληρο το αρχείο καταγραφής να φαίνεται πιο γρήγορο από το να το ξεκαθαρίσετε. Τα chatbots δίνουν επίσης την εντύπωση ότι δεν επικρίνουν, επομένως τα ένστικτα απορρήτου κάνουν ένα διάλειμμα για τσάι. Το μοντέλο συνήθως χρειάζεται το σχήμα του προβλήματος, όχι ονόματα, διακριτικά, αριθμούς λογαριασμών ή πρόσωπα σε στιγμιότυπα οθόνης - αυτά είναι γαρνιτούρα. Μια παύση δύο δευτερολέπτων είναι καλύτερη από μια μεταμόσχευση προσωπικότητας.

Είναι ασφαλές να επικολλώ κωδικούς πρόσβασης ή κλειδιά API σε εργαλεία τύπου ChatGPT;

Όχι. Εάν μπορεί να ξεκλειδώσει κάτι, δεν ανήκει σε μια προτροπή - κωδικοί πρόσβασης, κωδικοί μιας χρήσης, cookies περιόδου σύνδεσης, κλειδιά SSH, συμβολοσειρές σύνδεσης, seeds πορτοφολιού ή ιδιωτικά πιστοποιητικά. Ένα μοντέλο δεν μπορεί να κρατήσει ένα μυστικό όπως ένας φίλος. Το κείμενο εξακολουθεί να ταξιδεύει, να καταγράφεται και μπορεί να παραμείνει στο ιστορικό. Περιγράψτε το μυστικό κατά τύπο, χρησιμοποιήστε placeholders όπως REDACTED_KEY, εναλλάξτε οτιδήποτε έχει ήδη διαρρεύσει και διατηρήστε τα πραγματικά διαπιστευτήρια σε έναν διαχειριστή κωδικών πρόσβασης ή σε ένα αρχείο vault.

Ποιες προσωπικές πληροφορίες πρέπει να διαγράψω πριν από την προτροπή;

Τα προσωπικά δεδομένα συσσωρεύονται γρήγορα: εθνικές ταυτότητες, στοιχεία διαβατηρίου, διευθύνσεις, αριθμοί τηλεφώνου, ταυτότητες υπαλλήλων ή φοιτητών και πλήρη ονόματα σε συνδυασμό με ημερομηνίες γέννησης ή κλινικές. Το μοντέλο δεν χρειάζεται πραγματικό ταχυδρομικό κώδικα για να συντάξει μια επιστολή - χρειάζεται τόνο, μη αναγνωρίσιμα στοιχεία και το αποτέλεσμα που θέλετε. Αλλάξτε ονόματα με ρόλους, γενικεύστε τοποθεσίες και αφαιρέστε μοναδικούς αριθμούς, εκτός εάν δοκιμάζετε τη μορφή με ένα ψεύτικο παράδειγμα.

Μπορώ να επικολλήσω αρχεία πελατών, NDA ή εσωτερικό κώδικα σε ένα εργαλείο τεχνητής νοημοσύνης για καταναλωτές;

Αντιμετωπίστε τη συνομιλία καταναλωτών σαν ένα προϊόν ευκολίας, όχι σαν σύμβουλο εταιρείας. Εάν δεν θα το βάλετε σε ένα προσωπικό προσχέδιο Gmail ή δεν θα το λέγατε σε ένα rideshare, μην το βάλετε σε μια δημόσια συνομιλία με τεχνητή νοημοσύνη - τράπουλες πελατών, αδημοσίευτους χάρτες πορείας, μισθοδοτικά φύλλα, εμπιστευτικά νομικά προσχέδια ή πηγή με εσωτερικά ονόματα κεντρικών υπολογιστών. Περιγράψτε το έγγραφο, επικολλήστε ένα απολυμασμένο απόσπασμα, ζητήστε μια δομή που εφαρμόζετε εκτός σύνδεσης και χρησιμοποιήστε ένα εγκεκριμένο εργαλείο χώρου εργασίας, εάν έχετε ένα, ενώ εξακολουθείτε να κάνετε επεξεργασία από προεπιλογή.

Πώς πρέπει να χειρίζομαι λεπτομέρειες υγείας ή οικονομικές πληροφορίες σε μηνύματα τεχνητής νοημοσύνης;

Κάντε εξαιρετικές ερωτήσεις χωρίς το ακατέργαστο αρχείο. Οι γενικές εξηγήσεις είναι καλύτερες από την επικόλληση εργαστηριακών πινάκων, λιστών συνταγών, ασφαλιστικών ταυτοτήτων, τραπεζικών δηλώσεων ή φωτογραφιών καρτών που αποτυπώνουν επίσης το τραπέζι της κουζίνας. Αφαιρέστε τους αριθμούς λογαριασμών και οτιδήποτε μοιάζει με πιστοποιητικό. Χρησιμοποιήστε τη συνομιλία για την πλαισίωση και τις λίστες ελέγχου για να τις δώσετε σε έναν επαγγελματία - όχι ως κλινικό ιατρό, λογιστή ή αρχειοθέτη για δηλώσεις.

Γιατί τα δεδομένα και τα στιγμιότυπα οθόνης άλλων ανθρώπων είναι ιδιαίτερα επικίνδυνα;

Δεν είστε το μόνο άτομο που επικολλάται: τα email συναδέλφων, οι αριθμοί τηλεφώνου πελατών, οι φωτογραφίες παιδιών ή οι μεταγραφές κλήσεων μπορούν να εισέλθουν σε ένα σύστημα χωρίς τη συγκατάθεσή τους. Συνοψίστε με δικά σας λόγια, αντικαταστήστε τα ονόματα με ρόλους και μην επικολλάτε ποτέ τα στοιχεία αναγνώρισης των παιδιών για «διασκεδαστική» δημιουργία. Τα στιγμιότυπα οθόνης μεταφέρουν λαθραία γραμμές σελιδοδεικτών, διακριτικά URL, ονόματα Slack και ανοιχτές καρτέλες - περικόψτε δύο φορές, θολώστε τα αναγνωριστικά ή πληκτρολογήστε ξανά το σφάλμα αντί να ανεβάσετε διαβατήρια ή κάρτες.

Ποια ασφαλέστερα μοτίβα προτροπών εξακολουθούν να λαμβάνουν στέρεες απαντήσεις μέσω Τεχνητής Νοημοσύνης;

Να είστε συγκεκριμένοι σχετικά με το πρόβλημα και τσιγκούνηδες ως προς την ταυτότητα: στόχος, περιορισμοί, εικονικές είσοδοι, επιθυμητή έξοδος. Χρησιμοποιήστε μοναδικές ετικέτες ως placeholder, ζητήστε μια μέθοδο αντί για ένα πλήρες αρχείο καταγραφής παραγωγής, διαιρέστε την εργασία έτσι ώστε να συμπληρώνετε μόνοι σας τα ευαίσθητα τμήματα και χρησιμοποιήστε συνθετικά παραδείγματα. Εκτελέστε μια σάρωση πριν από την επικόλληση για σύμβολα @, μεγάλες τυχαίες συμβολοσειρές τύπου κλειδιού, υπερμεγέθεις αριθμούς και ονόματα που δεν θα βάζατε σε μια διαφάνεια. Δέκα δευτερόλεπτα πληρώνουν για πάντα.

Τι γίνεται αν έχω ήδη επικολλήσει κάτι άβολο σε μια συνομιλία με τεχνητή νοημοσύνη;

Σταματήστε πρώτα να χρησιμοποιείτε αυτό το μυστικό - εναλλάξτε τον κωδικό πρόσβασης, ανακαλέστε το κλειδί, ακυρώστε την περίοδο σύνδεσης. Διαγράψτε τη συνομιλία εάν το επιτρέπει το προϊόν, ελέγξτε τις αναμνήσεις ή τα αρχεία του έργου, ενημερώστε το σωστό άτομο εάν επρόκειτο για δεδομένα εργασίας και προσέξτε για ασυνήθιστες συνδέσεις. Εάν επρόκειτο για δεδομένα κάποιου άλλου, καθαρίστε και ενημερώστε το εκ των προτέρων όταν χρειάζεται. Μην "αντικαθιστάτε" μια διαρροή με περισσότερες εξηγήσεις. Το επιπλέον περιεχόμενο είναι επιπλέον αντίγραφο.

Πώς μπορεί μια μικρή ομάδα να σταματήσει να απορρίπτει διαπιστευτήρια στην Τεχνητή Νοημοσύνη για εντοπισμό σφαλμάτων;

Χρησιμοποιήστε μια σύντομη περιγραφή με προτεραιότητα στην επεξεργασία: περιγράψτε μυστικά ανά τύπο, εικονικά αρχεία καταγραφής με REDACTED_KEY και παραδείγματα email, αναφέρετε τι αφαιρέθηκε και ζητήστε πιθανές αιτίες καθώς και μια λίστα ελέγχου - όχι "σύνδεση με το κλειδί μου". Προσθέστε έναν σύντομο ανθρώπινο κανόνα - χωρίς διαπιστευτήρια, χωρίς PII πελάτη, χωρίς αδημοσίευτα στοιχεία, επεξεργαστείτε από προεπιλογή - και δείξτε ένα καλό, απολυμασμένο παράδειγμα. Διατηρήστε τα πραγματικά διαπιστευτήρια σε ένα θησαυροφυλάκιο και εφαρμόστε διορθώσεις εκτός σύνδεσης αφού το μοντέλο προτείνει μια μέθοδο.

Αναφορές

  1. NCSC — ncsc.gov.uk
  2. OpenAI — help.openai.com
  3. OpenAI — openai.com
  4. Κλοντ — privacy.claude.com
  5. Google Workspace — knowledge.workspace.google.com
Εξέταση
1. Σύμφωνα με το άρθρο, τι δεν πρέπει ποτέ να βάλετε σε μια δημόσια συνομιλία τεχνητής νοημοσύνης;

2. Τι σημαίνει η φράση «τα μυστικά παραμένουν εκτός σύνδεσης» σε αυτόν τον οδηγό;

3. Πώς πρέπει να αφαιρέσετε την ταυτότητα πριν από την προτροπή;

4. Τι πρέπει να απουσιάζει από τη συνομιλία καταναλωτών για την τήρηση του απορρήτου της εργασίας;

5. Ποια συνήθεια ταιριάζει με τη συμβουλή συγκατάθεσης και διαγραφής του άρθρου;


Άρθρα που ίσως σας ενδιαφέρουν μετά από αυτό:

🔗 Κορυφαία εργαλεία ασφάλειας τεχνητής νοημοσύνης
Ανακαλύψτε ισχυρές πλατφόρμες ασφάλειας τεχνητής νοημοσύνης που ανιχνεύουν και μετριάζουν τις κυβερνοαπειλές.

🔗 Γιατί η Τεχνητή Νοημοσύνη μερικές φορές επινοεί πράγματα
Κατανοήστε γιατί η Τεχνητή Νοημοσύνη έχει παραισθήσεις και μάθετε πώς να μειώσετε τους κινδύνους.

🔗 Πώς να αυτοματοποιήσετε εργασίες με τεχνητή νοημοσύνη
Εφαρμόστε ασφαλείς ροές εργασίας αυτοματοποίησης προσθέτοντας ανθρώπινη εποπτεία και αυστηρούς κανόνες.

🔗 Τι είναι η Τεχνολογία Τεχνητής Νοημοσύνης;
Εξερευνήστε τα βασικά στοιχεία της τεχνητής νοημοσύνης και τις συνήθεις προκλήσεις εφαρμογής της.

Επιστροφή στο ιστολόγιο