Μήπως η Τεχνητή Νοημοσύνη έχει ξεπεράσει τα όρια;

Μήπως η Τεχνητή Νοημοσύνη έχει παρατραβήξει τα πράγματα;

Σύντομη απάντηση: Η Τεχνητή Νοημοσύνη έχει ξεπεράσει τα όρια όταν χρησιμοποιείται σε αποφάσεις υψηλού ρίσκου, παρακολούθηση ή πειθώ χωρίς αυστηρά όρια, ενημερωμένη συναίνεση και γνήσιο δικαίωμα έφεσης. Ξεπερνάει ξανά τα όρια όταν τα deepfakes και οι κλιμακωτές απάτες κάνουν την εμπιστοσύνη να μοιάζει με ρίσκο. Αν οι άνθρωποι δεν μπορούν να καταλάβουν ότι η Τεχνητή Νοημοσύνη έπαιξε ρόλο, δεν μπορούν να κατανοήσουν γιατί μια απόφαση κατέληξε με αυτόν τον τρόπο ή δεν μπορούν να εξαιρεθούν, είναι ήδη πολύ μακριά.

Βασικά συμπεράσματα:

Όρια: Ορίστε τι δεν μπορεί να κάνει το σύστημα, ειδικά όταν η αβεβαιότητα είναι υψηλή.

Λογοδοσία: Διασφαλίστε ότι οι άνθρωποι μπορούν να παρακάμψουν τα αποτελέσματα χωρίς κυρώσεις ή παγίδες χρονικής πίεσης.

Διαφάνεια: Ενημερώστε τους χρήστες πότε εμπλέκεται η Τεχνητή Νοημοσύνη και γιατί κατέληξε στις αποφάσεις της.

Αμφισβήτηση: Παροχή γρήγορων, εφαρμόσιμων οδών προσφυγής και σαφών τρόπων διόρθωσης λανθασμένων δεδομένων.

Αντίσταση στην κακή χρήση: Προσθέστε όρια προέλευσης, ποσοστιαία όρια και ελέγχους για τον περιορισμό των απάτων και της κατάχρησης.

«Μήπως η Τεχνητή Νοημοσύνη έχει παρατραβήξει;»

Το περίεργο είναι ότι η υπέρβαση των ορίων δεν είναι πάντα προφανής. Μερικές φορές είναι θορυβώδης και κραυγαλέα, σαν μια απάτη deepfake. ( FTC , FBI ) ​​Άλλες φορές είναι σιωπηλή - μια αυτοματοποιημένη απόφαση που σπρώχνει τη ζωή σας στο πλάι χωρίς καμία εξήγηση, και δεν συνειδητοποιείτε καν ότι σας «βαθμολόγησαν». ( UK ICO , GDPR Άρθρο 22 )

Λοιπόν… Μήπως η Τεχνητή Νοημοσύνη έχει παρατραβήξει; Σε ορισμένα μέρη, ναι. Σε άλλα, δεν έχει προχωρήσει αρκετά - επειδή χρησιμοποιείται χωρίς τα αντιαισθητικά αλλά απαραίτητα κιγκλιδώματα ασφαλείας που κάνουν τα εργαλεία να συμπεριφέρονται σαν εργαλεία αντί για ρουλέτες με ένα φιλικό περιβάλλον χρήστη. 🎰🙂 ( NIST AI RMF 1.0 , Νόμος περί Τεχνητής Νοημοσύνης της ΕΕ )

Άρθρα που ίσως σας ενδιαφέρουν μετά από αυτό:

🔗 Γιατί η Τεχνητή Νοημοσύνη μπορεί να είναι επιβλαβής για την κοινωνία
Βασικοί κοινωνικοί κίνδυνοι: προκατάληψη, θέσεις εργασίας, ιδιωτικότητα και συγκέντρωση εξουσίας.

🔗 Είναι η Τεχνητή Νοημοσύνη κακή για το περιβάλλον; Κρυφές επιπτώσεις
Πώς η εκπαίδευση, τα κέντρα δεδομένων και η χρήση ενέργειας αυξάνουν τις εκπομπές.

🔗 Είναι η Τεχνητή Νοημοσύνη καλή ή κακή; Πλεονεκτήματα και μειονεκτήματα
Ισορροπημένη επισκόπηση των οφελών, των κινδύνων και των πραγματικών συμβιβασμών.

🔗 Γιατί η Τεχνητή Νοημοσύνη θεωρείται κακή: η σκοτεινή πλευρά
Εξερευνά την κακή χρήση, τη χειραγώγηση, τις απειλές για την ασφάλεια και τα ηθικά ζητήματα.

Τι εννοούν οι άνθρωποι όταν λένε «Μήπως η Τεχνητή Νοημοσύνη το παράκανε;» 😬

Οι περισσότεροι άνθρωποι δεν ρωτούν αν η Τεχνητή Νοημοσύνη είναι «αισθανόμενη» ή «αναλαμβάνει». Δείχνουν ένα από αυτά:

  • Η Τεχνητή Νοημοσύνη χρησιμοποιείται εκεί που δεν θα έπρεπε. (Ειδικά σε αποφάσεις υψηλού διακυβεύματος.) ( Παράρτημα III του Νόμου περί Τεχνητής Νοημοσύνης της ΕΕ , Άρθρο 22 του ΓΚΠΔ )

  • Η Τεχνητή Νοημοσύνη χρησιμοποιείται χωρίς συγκατάθεση. (Τα δεδομένα σας, η φωνή σας, το πρόσωπό σας... έκπληξη.) ( UK ICO , GDPR Άρθρο 5 )

  • Η Τεχνητή Νοημοσύνη γίνεται υπερβολικά καλή στον χειρισμό της προσοχής. (Ροές + εξατομίκευση + αυτοματοποίηση = κολλώδης.) ( Αρχές Τεχνητής Νοημοσύνης του ΟΟΣΑ )

  • Η τεχνητή νοημοσύνη κάνει την αλήθεια να φαίνεται προαιρετική. (Deepfakes, ψεύτικες κριτικές, συνθετικοί «ειδικοί»). ( Ευρωπαϊκή Επιτροπή , FTC , C2PA )

  • Η Τεχνητή Νοημοσύνη συγκεντρώνει δύναμη. (Λίγα συστήματα διαμορφώνουν αυτό που βλέπουν και μπορούν να κάνουν όλοι.) ( UK CMA )

Αυτή είναι η ουσία του «Μήπως η Τεχνητή Νοημοσύνη το παράκανε;» Δεν είναι μία μόνο στιγμή. Είναι ένα σωρό από κίνητρα, συντομεύσεις και σκέψεις «θα το φτιάξουμε αργότερα» - οι οποίες, ας είμαστε ειλικρινείς, τείνουν να μεταφράζονται σε «θα το φτιάξουμε αφού κάποιος πληγωθεί». 😑

Μήπως η Τεχνητή Νοημοσύνη έχει ξεπεράσει τα όρια; infographic

Η όχι και τόσο μυστική αλήθεια: Η Τεχνητή Νοημοσύνη είναι πολλαπλασιαστής, όχι ηθικός παράγοντας 🔧✨

Η Τεχνητή Νοημοσύνη δεν ξυπνάει και αποφασίζει να είναι επιβλαβής. Άνθρωποι και οργανισμοί την στοχεύουν. Αλλά πολλαπλασιάζει ό,τι και αν της δώσεις:

  • Η χρήσιμη πρόθεση γίνεται εξαιρετικά χρήσιμη (μετάφραση, προσβασιμότητα, σύνοψη, εντοπισμός ιατρικών μοτίβων).

  • Η πρόχειρη πρόθεση γίνεται μαζικά πρόχειρη (προκατάληψη σε κλίμακα, αυτοματοποίηση σφαλμάτων).

  • Η κακή πρόθεση γίνεται εξαιρετικά κακή (απάτη, παρενόχληση, προπαγάνδα, πλαστοπροσωπία).

Είναι σαν να δίνεις ένα μεγάφωνο σε ένα νήπιο. Μερικές φορές το νήπιο τραγουδάει... μερικές φορές το νήπιο ουρλιάζει κατευθείαν στην ψυχή σου. Δεν είναι τέλεια μεταφορά - λίγο ανόητο - αλλά το νόημα είναι ξεκάθαρο 😅📢.

Τι κάνει μια έκδοση της Τεχνητής Νοημοσύνης καλή σε καθημερινές συνθήκες; ✅🤝

Μια «καλή εκδοχή» της Τεχνητής Νοημοσύνης δεν ορίζεται από το πόσο έξυπνη είναι. Ορίζεται από το πόσο καλά συμπεριφέρεται υπό πίεση, αβεβαιότητα και πειρασμό (και οι άνθρωποι δελεάζονται πολύ από τον φθηνό αυτοματισμό). ( NIST AI RMF 1.0 , ΟΟΣΑ )

Να τι ψάχνω όταν κάποιος ισχυρίζεται ότι η χρήση της τεχνητής νοημοσύνης είναι υπεύθυνη:

1) Σαφή όρια

  • Τι επιτρέπεται να κάνει το σύστημα;

  • Τι απαγορεύεται ρητά να κάνετε;

  • Τι συμβαίνει όταν δεν είναι σίγουρο;

2) Ανθρώπινη ευθύνη που είναι πραγματική, όχι διακοσμητική

Η «αναθεώρηση» των αποτελεσμάτων από έναν άνθρωπο έχει σημασία μόνο εάν:

  • καταλαβαίνουν τι εξετάζουν και

  • μπορούν να το παρακάμψουν χωρίς να τιμωρηθούν επειδή επιβραδύνουν τα πράγματα.

3) Εξηγησιμότητα στο σωστό επίπεδο

Δεν χρειάζονται όλοι τα μαθηματικά. Οι άνθρωποι χρειάζονται:

  • τους κύριους λόγους πίσω από μια απόφαση,

  • ποια δεδομένα χρησιμοποιήθηκαν,

  • πώς να υποβάλετε ένσταση, να διορθώσετε ή να εξαιρεθείτε. ( UK ICO )

4) Μετρήσιμη απόδοση - συμπεριλαμβανομένων των τρόπων αστοχίας

Όχι μόνο «ακρίβεια», αλλά:

  • σε ποιον αποτυγχάνει,

  • πόσο συχνά αποτυγχάνει σιωπηλά,

  • Τι συμβαίνει όταν ο κόσμος αλλάζει. ( NIST AI RMF 1.0 )

5) Απόρρητο και συγκατάθεση που δεν είναι «θαμμένα σε ρυθμίσεις»

Αν η συναίνεση απαιτεί κυνήγι θησαυρού μέσω μενού... δεν είναι συναίνεση. Είναι ένα παραθυράκι με επιπλέον βήματα 😐🧾. ( ΓΚΠΔ Άρθρο 5 , ICO Ηνωμένου Βασιλείου )

Συγκριτικός πίνακας: πρακτικοί τρόποι για να σταματήσετε την τεχνητή νοημοσύνη από το να πάει πολύ μακριά 🧰📊

Παρακάτω παρατίθενται οι «κορυφαίες επιλογές» με την έννοια ότι πρόκειται για κοινά προστατευτικά κιγκλιδώματα ή λειτουργικά εργαλεία που αλλάζουν τα αποτελέσματα (όχι μόνο την ατμόσφαιρα).

Εργαλείο / επιλογή Ακροατήριο Τιμή Γιατί λειτουργεί
Αναθεώρηση της ανθρώπινης παρουσίας ( νόμος της ΕΕ για την τεχνητή νοημοσύνη ) Ομάδες που κάνουν αποφάσεις υψηλού ρίσκου ££ (κόστος χρόνου) Επιβραδύνει τον κακό αυτοματισμό. Επίσης, οι άνθρωποι μπορούν να παρατηρήσουν περίεργες ακμές, μερικές φορές..
Διαδικασία προσφυγής κατά απόφασης ( άρθρο 22 του ΓΚΠΔ ) Χρήστες που επηρεάζονται από αποφάσεις τεχνητής νοημοσύνης Ελεύθερο Προσθέτει την δέουσα διαδικασία. Οι άνθρωποι μπορούν να διορθώσουν λανθασμένα δεδομένα - ακούγεται βασικό επειδή είναι βασικό
Αρχεία καταγραφής ελέγχου + ιχνηλασιμότητα ( NIST SP 800-53 ) Συμμόρφωση, λειτουργίες, ασφάλεια £-££ Σας επιτρέπει να απαντήσετε στην ερώτηση «τι συνέβη;» μετά από μια αποτυχία, αντί να αδιαφορείτε για το τι συμβαίνει
Αξιολόγηση μοντέλου + έλεγχος μεροληψίας ( NIST AI RMF 1.0 ) Ομάδες προϊόντος + κινδύνου ποικίλλει πολύ Εντοπίζει νωρίς την προβλέψιμη ζημιά. Δεν είναι τέλεια, αλλά είναι καλύτερη από την εικασία
Δοκιμές Red-team ( Προφίλ NIST GenAI ) Ασφάλεια + άτομα με ασφάλεια £££ Προσομοιώνει την κακή χρήση πριν το κάνουν οι πραγματικοί επιτιθέμενοι. Δυσάρεστο, αλλά αξίζει τον κόπο 😬
Ελαχιστοποίηση δεδομένων ( ICO Ηνωμένου Βασιλείου ) Όλοι, ειλικρινά £ Λιγότερα δεδομένα = λιγότερη ακαταστασία. Επίσης, λιγότερες παραβιάσεις, λιγότερες αμήχανες συζητήσεις
Σήματα προέλευσης περιεχομένου ( C2PA ) Πλατφόρμες, μέσα ενημέρωσης, χρήστες £-££ Βοηθά στην επαλήθευση του «το έφτιαξε άνθρωπος;» - δεν είναι αλάνθαστο αλλά μειώνει το χάος
Όρια ρυθμού + έλεγχοι πρόσβασης ( OWASP ) Πάροχοι Τεχνητής Νοημοσύνης + επιχειρήσεις £ Σταματάει άμεσα την κλιμάκωση της κακοποίησης. Σαν ένα όπλο για τους κακοποιούς

Ναι, το τραπέζι είναι λίγο ανώμαλο. Έτσι είναι η ζωή. 🙂

Τεχνητή Νοημοσύνη σε αποφάσεις υψηλού ρίσκου: όταν το παρακάνει 🏥🏦⚖️

Εδώ είναι που τα πράγματα σοβαρεύουν γρήγορα.

Τεχνητή Νοημοσύνη στην υγειονομική περίθαλψη , τα χρηματοοικονομικά , τη στέγαση , την απασχόληση , την εκπαίδευση , τη μετανάστευση , την ποινική δικαιοσύνη - αυτά είναι συστήματα όπου: ( Πράξη της ΕΕ για την Τεχνητή Νοημοσύνη, Παράρτημα III , FDA )

  • ένα λάθος μπορεί να κοστίσει σε κάποιον χρήματα, ελευθερία, αξιοπρέπεια ή ασφάλεια,

  • και το άτομο που έχει προσβληθεί συχνά έχει περιορισμένη δύναμη να αντισταθεί.

Ο μεγάλος κίνδυνος δεν είναι «η Τεχνητή Νοημοσύνη κάνει λάθη». Ο μεγάλος κίνδυνος είναι τα λάθη της Τεχνητής Νοημοσύνης να γίνουν πολιτική . ( NIST AI RMF 1.0 )

Πώς μοιάζει το «πολύ μακριά» εδώ

  • Αυτοματοποιημένες αποφάσεις χωρίς εξήγηση: «ο υπολογιστής λέει όχι». ( UK ICO )

  • Οι «βαθμολογίες κινδύνου» αντιμετωπίζονταν ως γεγονότα αντί για εικασίες.

  • Άνθρωποι που δεν μπορούν να παρακάμψουν τα αποτελέσματα επειδή η διοίκηση θέλει ταχύτητα.

  • Δεδομένα που είναι ακατάστατα, μεροληπτικά, ξεπερασμένα ή απλώς εντελώς λανθασμένα.

Τι δεν πρέπει να είναι διαπραγματεύσιμο

  • Δικαίωμα έφεσης (γρήγορο, κατανοητό, όχι λαβύρινθο). ( ΓΚΠΔ Άρθρο 22 , ICO Ηνωμένου Βασιλείου )

  • Δικαίωμα να γνωρίζει κανείς ότι η Τεχνητή Νοημοσύνη ήταν εμπλεκόμενη. ( Ευρωπαϊκή Επιτροπή )

  • Ανθρώπινη αξιολόγηση για επακόλουθα αποτελέσματα. ( NIST AI RMF 1.0 )

  • Έλεγχος ποιότητας στα δεδομένα - επειδή τα σκουπίδια που μπαίνουν, σκουπίδια που βγαίνουν εξακολουθούν να είναι οδυνηρά αληθινά.

Αν προσπαθείτε να χαράξετε μια καθαρή γραμμή, ιδού μία:
Αν ένα σύστημα Τεχνητής Νοημοσύνης μπορεί να αλλάξει ουσιαστικά τη ζωή κάποιου, χρειάζεται την ίδια σοβαρότητα που περιμένουμε από άλλες μορφές εξουσίας. Καμία «δοκιμή beta» σε άτομα που δεν εγγράφηκαν. 🚫

Deepfakes, απάτες και ο αργός θάνατος του «εμπιστεύομαι τα μάτια μου» 👀🧨

Αυτό είναι το κομμάτι που κάνει την καθημερινότητα να μοιάζει... ολισθηρή.

Όταν η Τεχνητή Νοημοσύνη μπορεί να δημιουργήσει:

  • ένα φωνητικό μήνυμα που ακούγεται σαν μέλος της οικογένειάς σας, ( FTC , FBI )

  • ένα βίντεο ενός δημόσιου προσώπου που «λέει» κάτι,

  • μια πλημμύρα από ψεύτικες κριτικές που φαίνονται αρκετά αυθεντικές, ( FTC )

  • ένα ψεύτικο προφίλ στο LinkedIn με ψεύτικο ιστορικό εργασίας και ψεύτικους φίλους..

...δεν επιτρέπει μόνο τις απάτες. Αποδυναμώνει την κοινωνική κόλλα που επιτρέπει στους αγνώστους να συντονίζονται. Και η κοινωνία λειτουργεί με τον συντονισμό των αγνώστων. 😵💫

Το «πολύ μακριά» δεν είναι μόνο το ψεύτικο περιεχόμενο

Είναι η ασυμμετρία :

  • Είναι φτηνό να παράγεις ψέματα.

  • Είναι ακριβό και αργό να επαληθευτεί η αλήθεια.

  • Και οι περισσότεροι άνθρωποι είναι απασχολημένοι, κουρασμένοι και κάνουν κύλιση.

Τι βοηθάει (λίγο)

  • Δείκτες προέλευσης για μέσα. ( C2PA )

  • Τριβή για ιογενή διάδοση - επιβράδυνση της άμεσης μαζικής κοινής χρήσης.

  • Καλύτερη επαλήθευση ταυτότητας όπου έχει σημασία (οικονομικά, κυβερνητικές υπηρεσίες).

  • Βασικές συνήθειες «επαλήθευσης εκτός ζώνης» για άτομα (επιστροφή κλήσης, χρήση κωδικής λέξης, επιβεβαίωση μέσω άλλου καναλιού). ( FTC )

Δεν είναι λαμπερό. Αλλά ούτε και οι ζώνες ασφαλείας είναι, και προσωπικά είμαι αρκετά δεμένος με αυτές. 🚗

Έντονη επιτήρηση: όταν η τεχνητή νοημοσύνη μετατρέπει τα πάντα ήσυχα σε αισθητήρα 📷🫥

Αυτό δεν εκρήγνυται σαν deepfake. Απλώς εξαπλώνεται.

Η Τεχνητή Νοημοσύνη διευκολύνει τα εξής:

Και ακόμα και όταν είναι ανακριβές, μπορεί να είναι επιβλαβές επειδή μπορεί να δικαιολογήσει παρέμβαση. Μια λανθασμένη πρόβλεψη μπορεί να προκαλέσει πραγματικές συνέπειες.

Το άβολο κομμάτι

Η επιτήρηση με τεχνητή νοημοσύνη συχνά συνοδεύεται από μια ιστορία ασφάλειας:

  • «Είναι για την πρόληψη της απάτης.»

  • «Είναι για λόγους ασφαλείας.»

  • «Είναι για την εμπειρία του χρήστη.»

Μερικές φορές αυτό ισχύει. Μερικές φορές είναι επίσης μια βολική δικαιολογία για την κατασκευή συστημάτων που είναι πολύ δύσκολο να αποσυναρμολογηθούν αργότερα. Όπως η εγκατάσταση μιας μονόδρομης πόρτας στο σπίτι σας επειδή φαινόταν αποτελεσματική εκείνη τη στιγμή. Και πάλι, δεν είναι μια τέλεια μεταφορά - κάπως γελοίο - αλλά το νιώθεις. 🚪😅

Πώς φαίνεται το «καλό» εδώ

  • Αυστηρά όρια στη διατήρηση και την κοινοποίηση.

  • Σαφείς εξαιρέσεις.

  • Περιορισμένες περιπτώσεις χρήσης.

  • Ανεξάρτητη εποπτεία.

  • Απαγορεύεται η χρήση «ανίχνευσης συναισθημάτων» για τιμωρία ή έλεγχο. Παρακαλώ. 🙃 ( Νόμος της ΕΕ για την Τεχνητή Νοημοσύνη )

Δουλειά, δημιουργικότητα και το σιωπηλό πρόβλημα της υποδεξιότητας 🧑💻🎨

Εδώ είναι που η συζήτηση γίνεται προσωπική, επειδή αγγίζει την ταυτότητα.

Η Τεχνητή Νοημοσύνη μπορεί να κάνει τους ανθρώπους πιο παραγωγικούς. Μπορεί επίσης να τους κάνει να αισθάνονται ότι μπορούν να αντικατασταθούν. Και τα δύο μπορούν να ισχύουν, ταυτόχρονα, την ίδια εβδομάδα. ( ΟΟΣΑ , Παγκόσμιο Οικονομικό Φόρουμ )

Όπου είναι πραγματικά χρήσιμο

  • Σύνταξη κειμένου ρουτίνας ώστε οι άνθρωποι να μπορούν να επικεντρωθούν στη σκέψη.

  • Βοήθεια κωδικοποίησης για επαναλαμβανόμενα μοτίβα.

  • Εργαλεία προσβασιμότητας (υπότιτλοι, σύνοψη, μετάφραση).

  • Καταιγισμός ιδεών όταν κολλάς.

Πού πάει πολύ μακριά

  • Αντικατάσταση ρόλων χωρίς σχέδια μετάβασης.

  • Χρήση της Τεχνητής Νοημοσύνης για συμπίεση της παραγωγής, ενώ παράλληλα ισοπεδώνει τους μισθούς.

  • Αντιμετώπιση της δημιουργικής εργασίας σαν άπειρα δωρεάν δεδομένα εκπαίδευσης και μετά αδιαφορία. ( Γραφείο Πνευματικών Δικαιωμάτων των ΗΠΑ , UK GOV.UK )

  • Το να εξαφανίζεις τους κατώτερους ρόλους - κάτι που ακούγεται αποτελεσματικό μέχρι να συνειδητοποιήσεις ότι μόλις ανέβηκες την σκάλα που πρέπει να ανέβουν οι μελλοντικοί ειδικοί.

Η αποχρωματισμός είναι ανεπαίσθητη. Δεν την προσέχεις μέρα με τη μέρα. Έπειτα, μια μέρα συνειδητοποιείς ότι κανείς στην ομάδα δεν θυμάται πώς λειτουργεί το πράγμα χωρίς τον βοηθό. Και αν ο βοηθός κάνει λάθος, απλώς κάνετε όλοι μαζί λάθος... κάτι που είναι κάπως εφιάλτης. 😬

Συγκέντρωση ισχύος: ποιος μπορεί να ορίσει τις προεπιλογές; 🏢⚡

Ακόμα κι αν η Τεχνητή Νοημοσύνη είναι «ουδέτερη» (δεν είναι), όποιος την ελέγχει μπορεί να διαμορφώσει:

  • ποιες πληροφορίες είναι εύκολα προσβάσιμες,

  • τι προωθείται ή θάβεται,

  • ποια γλώσσα επιτρέπεται,

  • ποιες συμπεριφορές ενθαρρύνονται.

Και επειδή τα συστήματα τεχνητής νοημοσύνης μπορεί να είναι ακριβά στην κατασκευή και λειτουργία, η εξουσία τείνει να συγκεντρώνεται. Αυτό δεν είναι συνωμοσία. Αυτά είναι οικονομικά με έναν τεχνολογικό φαν. ( UK CMA )

Η στιγμή του «πολύ μακρινό» εδώ

Όταν οι αθετήσεις γίνονται αόρατος νόμος:

  • δεν ξέρεις τι φιλτράρεται,

  • δεν μπορείς να ελέγξεις τη λογική,

  • και δεν μπορείτε ρεαλιστικά να εξαιρεθείτε χωρίς να χάσετε την πρόσβαση στην εργασία, την κοινότητα ή τις βασικές υπηρεσίες.

Ένα υγιές οικοσύστημα χρειάζεται ανταγωνισμό, διαφάνεια και πραγματική επιλογή χρηστών. Διαφορετικά, ουσιαστικά νοικιάζετε την πραγματικότητα. 😵♂️

Μια πρακτική λίστα ελέγχου: πώς να καταλάβετε αν η Τεχνητή Νοημοσύνη το παρακάνει στον κόσμο σας 🧾🔍

Ορίστε μια λίστα ελέγχου του εντέρου που χρησιμοποιώ (και ναι, είναι ατελής):

Εάν είστε ιδιώτης

  • Μπορώ να καταλάβω πότε αλληλεπιδρώ με την Τεχνητή Νοημοσύνη. ( Ευρωπαϊκή Επιτροπή )

  • Αυτό το σύστημα με ωθεί να κοινοποιώ υπερβολικά πολλά.

  • Θα ήμουν εντάξει να χειριστώ το αποτέλεσμα αν είναι λάθος με έναν πιστευτό τρόπο.

  • Αν με απατούσε η πλατφόρμα χρησιμοποιώντας αυτό, θα με βοηθούσε... ή θα κουνούσε τους ώμους της.

Αν είστε επιχείρηση ή ομάδα

  • Χρησιμοποιούμε την Τεχνητή Νοημοσύνη επειδή είναι πολύτιμη ή επειδή είναι μοντέρνα και η διοίκηση είναι ανήσυχη.

  • Γνωρίζουμε ποια δεδομένα αγγίζει το σύστημα.

  • Ένας χρήστης που επηρεάζεται μπορεί να υποβάλει ένσταση για τα αποτελέσματα. ( UK ICO )

  • Οι άνθρωποι έχουν την εξουσία να παρακάμψουν το μοντέλο.

  • Έχουμε σχέδια αντιμετώπισης περιστατικών για βλάβες Τεχνητής Νοημοσύνης.

  • Παρακολουθούμε για τυχόν παρέκκλιση, κακή χρήση και ασυνήθιστες περιπτώσεις ακραίων σημείων.

Αν απαντήσατε «όχι» σε πολλά από αυτά, αυτό δεν σημαίνει ότι είστε κακός. Σημαίνει ότι βρίσκεστε στην κανονική ανθρώπινη κατάσταση του «το στείλαμε και ελπίζαμε». Αλλά η ελπίδα δεν είναι στρατηγική, δυστυχώς. 😅

Τελικές σημειώσεις 🧠✅

Λοιπόν… Μήπως η Τεχνητή Νοημοσύνη έχει παρατραβήξει;
Έχει παρατραβήξει τα πράγματα όπου αναπτύσσεται χωρίς λογοδοσία , ειδικά σε αποφάσεις υψηλού ρίσκου, μαζική πειθώ και επιτήρηση. Έχει επίσης παρατραβήξει τα πράγματα όπου διαβρώνει την εμπιστοσύνη - επειδή μόλις η εμπιστοσύνη κλονιστεί, όλα γίνονται πιο ακριβά και πιο εχθρικά, από κοινωνικής άποψης. ( NIST AI RMF 1.0 , Νόμος περί Τεχνητής Νοημοσύνης της ΕΕ )

Αλλά η Τεχνητή Νοημοσύνη δεν είναι εγγενώς καταδικασμένη ή εγγενώς τέλεια. Είναι ένας ισχυρός πολλαπλασιαστής. Το ερώτημα είναι αν θα χτίσουμε τα προστατευτικά κιγκλιδώματα τόσο επιθετικά όσο θα χτίσουμε τις δυνατότητες.

Γρήγορη ανακεφαλαίωση:

  • Η Τεχνητή Νοημοσύνη είναι μια χαρά ως εργαλείο.

  • Είναι επικίνδυνο ως μια ανεξέλεγκτη αρχή.

  • Αν κάποιος δεν μπορεί να ασκήσει έφεση, να κατανοήσει ή να εξαιρεθεί, τότε ξεκινάει το «πάρα πολύ μακριά». 🚦 ( ΓΚΠΔ Άρθρο 22 , ICO Ηνωμένου Βασιλείου )

Συχνές ερωτήσεις

Μήπως η Τεχνητή Νοημοσύνη έχει παρατραβήξει την καθημερινότητά της;

Σε πολλά μέρη, η Τεχνητή Νοημοσύνη έχει ξεπεράσει τα όρια επειδή έχει αρχίσει να διολισθαίνει σε αποφάσεις και αλληλεπιδράσεις χωρίς σαφή όρια ή λογοδοσία. Το πρόβλημα σπάνια είναι η «ύπαρξη Τεχνητής Νοημοσύνης». Είναι η Τεχνητή Νοημοσύνη που ενσωματώνεται αθόρυβα στις προσλήψεις, την υγειονομική περίθαλψη, την εξυπηρέτηση πελατών και τις ροές δεδομένων με ελάχιστη εποπτεία. Όταν οι άνθρωποι δεν μπορούν να καταλάβουν ότι πρόκειται για Τεχνητή Νοημοσύνη, δεν μπορούν να αμφισβητήσουν τα αποτελέσματα ή δεν μπορούν να εξαιρεθούν, σταματά να μοιάζει με εργαλείο και αρχίζει να μοιάζει με σύστημα.

Πώς μοιάζει η «υπερβολική χρήση της Τεχνητής Νοημοσύνης» σε αποφάσεις υψηλού ρίσκου;

Φαίνεται ότι η Τεχνητή Νοημοσύνη χρησιμοποιείται στην υγειονομική περίθαλψη, τα χρηματοοικονομικά, τη στέγαση, την απασχόληση, την εκπαίδευση, τη μετανάστευση ή την ποινική δικαιοσύνη χωρίς ισχυρά προστατευτικά κιγκλιδώματα. Το κεντρικό ζήτημα δεν είναι ότι τα μοντέλα κάνουν λάθη. Είναι ότι αυτά τα λάθη σκληραίνουν και γίνονται πολιτική και γίνονται δύσκολο να αμφισβητηθούν. Οι αποφάσεις «ο υπολογιστής λέει όχι» με αδύναμες εξηγήσεις και χωρίς ουσιαστικές εφέσεις είναι εκείνες όπου η ζημιά κλιμακώνεται γρήγορα.

Πώς μπορώ να καταλάβω εάν μια αυτοματοποιημένη απόφαση με επηρεάζει και τι μπορώ να κάνω;

Ένα συνηθισμένο σημάδι είναι ένα ξαφνικό αποτέλεσμα που δεν μπορείτε να εξηγήσετε: μια απόρριψη, ένας περιορισμός ή μια αίσθηση «βαθμολογίας κινδύνου» χωρίς σαφή λόγο. Πολλά συστήματα θα πρέπει να αποκαλύπτουν πότε η Τεχνητή Νοημοσύνη έπαιξε ουσιώδη ρόλο και θα πρέπει να μπορείτε να ζητήσετε τους κύριους λόγους πίσω από την απόφαση και τα βήματα για να την προσβάλετε. Στην πράξη, ζητήστε μια ανθρώπινη αναθεώρηση, διορθώστε τυχόν λανθασμένα δεδομένα και πιέστε για μια απλή διαδρομή εξαίρεσης.

Μήπως η Τεχνητή Νοημοσύνη έχει παρατραβήξει τα πράγματα με το απόρρητο, τη συγκατάθεση και τη χρήση δεδομένων;

Συχνά συμβαίνει όταν η συναίνεση μετατρέπεται σε κυνήγι θησαυρού και η συλλογή δεδομένων επεκτείνεται «για κάθε ενδεχόμενο». Το βασικό σημείο του άρθρου είναι ότι η ιδιωτικότητα και η συναίνεση δεν έχουν μεγάλη βαρύτητα αν είναι θαμμένες σε περιβάλλοντα ή επιβάλλονται μέσω αόριστων όρων. Μια πιο υγιής προσέγγιση είναι η ελαχιστοποίηση των δεδομένων: συλλέγετε λιγότερα, κρατάτε λιγότερα και κάνετε τις επιλογές σας σαφείς, ώστε οι άνθρωποι να μην εκπλαγούν αργότερα.

Πώς αλλάζουν τα deepfakes και οι απάτες με τεχνητή νοημοσύνη τι σημαίνει «εμπιστοσύνη» στο διαδίκτυο;

Κάνουν την αλήθεια να φαίνεται προαιρετική, μειώνοντας το κόστος παραγωγής πειστικών ψεύτικων φωνών, βίντεο, κριτικών και ταυτοτήτων. Η ασυμμετρία είναι το πρόβλημα: η παραγωγή ψεμάτων είναι φθηνή, ενώ η επαλήθευση της αλήθειας είναι αργή και κουραστική. Οι πρακτικές άμυνες περιλαμβάνουν σήματα προέλευσης για τα μέσα ενημέρωσης, επιβράδυνση της ιογενούς ανταλλαγής, ισχυρότερους ελέγχους ταυτότητας όπου έχει σημασία και συνήθειες «επαλήθευσης εκτός ζώνης», όπως η επανάκληση ή η χρήση μιας κοινής κωδικής λέξης.

Ποια είναι τα πιο πρακτικά προστατευτικά κιγκλιδώματα για να εμποδίσουμε την Τεχνητή Νοημοσύνη να πάει πολύ μακριά;

Τα προστατευτικά κιγκλιδώματα που αλλάζουν τα αποτελέσματα περιλαμβάνουν γνήσια ανθρώπινη επανεξέταση για κλήσεις υψηλού ρίσκου, σαφείς διαδικασίες προσφυγής και αρχεία καταγραφής ελέγχου που μπορούν να απαντήσουν στο ερώτημα «τι συνέβη;» μετά από αποτυχίες. Η αξιολόγηση μοντέλων και οι δοκιμές μεροληψίας μπορούν να εντοπίσουν προβλέψιμες βλάβες νωρίτερα, ενώ οι δοκιμές red-team προσομοιώνουν κακή χρήση πριν το κάνουν οι επιτιθέμενοι. Τα όρια ρυθμού και οι έλεγχοι πρόσβασης βοηθούν στην άμεση αποτροπή της κλιμάκωσης της κατάχρησης, ενώ η ελαχιστοποίηση δεδομένων μειώνει τον κίνδυνο σε όλους τους τομείς.

Πότε ξεπερνά τα όρια η επιτήρηση μέσω τεχνητής νοημοσύνης;

Ξεπερνά τα όρια όταν όλα μετατρέπονται σε αισθητήρες από προεπιλογή: αναγνώριση προσώπου σε πλήθη, παρακολούθηση μοτίβων κίνησης ή αξιόπιστη «ανίχνευση συναισθημάτων» που χρησιμοποιείται για τιμωρία ή φύλαξη. Ακόμη και ανακριβή συστήματα μπορούν να προκαλέσουν σοβαρή βλάβη εάν δικαιολογούν παρεμβάσεις ή άρνηση υπηρεσιών. Η καλή πρακτική μοιάζει με περιορισμένες περιπτώσεις χρήσης, αυστηρά όρια διατήρησης, ουσιαστικές εξαιρέσεις, ανεξάρτητη εποπτεία και ένα σταθερό «όχι» σε επισφαλείς κρίσεις που βασίζονται σε συναισθήματα.

Κάνει η Τεχνητή Νοημοσύνη τους ανθρώπους πιο παραγωγικούς ή υποβαθμίζει σιωπηλά την εργασία;

Και τα δύο μπορούν να ισχύουν ταυτόχρονα, και αυτή η ένταση είναι το θέμα. Η Τεχνητή Νοημοσύνη μπορεί να βοηθήσει με τη συνήθη σύνταξη, τα επαναλαμβανόμενα μοτίβα κωδικοποίησης και την προσβασιμότητα, απελευθερώνοντας τους ανθρώπους ώστε να επικεντρωθούν σε υψηλότερου επιπέδου σκέψη. Πηγαίνει πολύ μακριά όταν αντικαθιστά ρόλους χωρίς σχέδια μετάβασης, συμπιέζει τους μισθούς, αντιμετωπίζει τη δημιουργική εργασία σαν δωρεάν δεδομένα εκπαίδευσης ή αφαιρεί νεότερους ρόλους που δημιουργούν μελλοντική εξειδίκευση. Η υποβάθμιση των δεξιοτήτων παραμένει ανεπαίσθητη μέχρι οι ομάδες να μην μπορούν να λειτουργήσουν χωρίς τον βοηθό.

Αναφορές

  1. Εθνικό Ινστιτούτο Προτύπων και Τεχνολογίας (NIST) - Πλαίσιο Διαχείρισης Κινδύνων Τεχνητής Νοημοσύνης (AI RMF 1.0) - nist.gov

  2. Ευρωπαϊκή Ένωση - Νόμος της ΕΕ για την τεχνητή νοημοσύνη (Κανονισμός (ΕΕ) 2024/1689) - Επίσημη Εφημερίδα (Αγγλικά) - europa.eu

  3. Ευρωπαϊκή Επιτροπή - Κανονιστικό πλαίσιο για την Τεχνητή Νοημοσύνη (σελίδα πολιτικής της ΕΕ για τον Νόμο περί Τεχνητής Νοημοσύνης) - europa.eu

  4. Γραφείο Εξυπηρέτησης για τον Νόμο περί Τεχνητής Νοημοσύνης της ΕΕ - Παράρτημα III (Συστήματα Τεχνητής Νοημοσύνης υψηλού κινδύνου) - europa.eu

  5. Ευρωπαϊκή Ένωση - Κανόνες για αξιόπιστη τεχνητή νοημοσύνη στην ΕΕ (Σύνοψη του νόμου της ΕΕ για την τεχνητή νοημοσύνη) - europa.eu

  6. Γραφείο Επιτρόπου Πληροφοριών του Ηνωμένου Βασιλείου (ICO) - Τι είναι η αυτοματοποιημένη λήψη ατομικών αποφάσεων και η δημιουργία προφίλ; - ico.org.uk

  7. Γραφείο Επιτρόπου Πληροφοριών του Ηνωμένου Βασιλείου (ICO) - Τι λέει ο ΓΚΠΔ του Ηνωμένου Βασιλείου σχετικά με την αυτοματοποιημένη λήψη αποφάσεων και την κατάρτιση προφίλ; - ico.org.uk

  8. Γραφείο Επιτρόπου Πληροφοριών του Ηνωμένου Βασιλείου (ICO) - Αυτοματοποιημένη λήψη αποφάσεων και δημιουργία προφίλ (κόμβος καθοδήγησης) - ico.org.uk

  9. Γραφείο Επιτρόπου Πληροφοριών του Ηνωμένου Βασιλείου (ICO) - Ελαχιστοποίηση δεδομένων (οδηγίες αρχών GDPR του Ηνωμένου Βασιλείου) - ico.org.uk

  10. GDPR-info.eu - Άρθρο 22 ΓΚΠΔ - gdpr-info.eu

  11. GDPR-info.eu - Άρθρο 5 ΓΚΠΔ - gdpr-info.eu

  12. Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ (FTC) - Οι απατεώνες χρησιμοποιούν την Τεχνητή Νοημοσύνη για να ενισχύσουν τα προγράμματα έκτακτης ανάγκης για την οικογένειά τους - ftc.gov

  13. Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ (FTC) - Οι απατεώνες χρησιμοποιούν ψεύτικες καταστάσεις έκτακτης ανάγκης για να κλέψουν τα χρήματά σας - ftc.gov

  14. Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ (FTC) - Τελικός κανόνας που απαγορεύει τις ψευδείς κριτικές και μαρτυρίες (δελτίο τύπου) - ftc.gov

  15. Ομοσπονδιακό Γραφείο Ερευνών (FBI) - Το FBI προειδοποιεί για αυξανόμενη απειλή από εγκληματίες στον κυβερνοχώρο που χρησιμοποιούν τεχνητή νοημοσύνη - fbi.gov

  16. Οργανισμός Οικονομικής Συνεργασίας και Ανάπτυξης (ΟΟΣΑ) - Αρχές Τεχνητής Νοημοσύνης του ΟΟΣΑ - oecd.ai

  17. ΟΟΣΑ - Σύσταση του Συμβουλίου για την Τεχνητή Νοημοσύνη (OECD/LEGAL/0449) - oecd.org

  18. Ευρωπαϊκή Επιτροπή - Κατευθυντήριες γραμμές και κώδικας δεοντολογίας για διαφανή συστήματα τεχνητής νοημοσύνης (Συχνές ερωτήσεις) - europa.eu

  19. Συμμαχία για την Προέλευση και την Αυθεντικότητα Περιεχομένου (C2PA) - Προδιαγραφές έκδοσης 2.3 - c2pa.org

  20. Αρχή Ανταγωνισμού και Αγορών του Ηνωμένου Βασιλείου (CMA) - Μοντέλα θεμελίωσης τεχνητής νοημοσύνης: αρχική έκθεση - gov.uk

  21. Υπηρεσία Τροφίμων και Φαρμάκων των ΗΠΑ (FDA) - Ιατρικές συσκευές με τεχνητή νοημοσύνη - fda.gov

  22. NIST - Έλεγχοι Ασφάλειας και Απορρήτου για Συστήματα Πληροφοριών και Οργανισμούς (SP 800-53 Αναθ. 5) - nist.gov

  23. NIST - Γενετικό Προφίλ Τεχνητής Νοημοσύνης (NIST.AI.600-1, ipd) - nist.gov

  24. Ανοικτό Παγκόσμιο Έργο Ασφάλειας Εφαρμογών (OWASP) - Απεριόριστη Κατανάλωση Πόρων (API Security Top 10, 2023) - owasp.org

  25. NIST - Δημογραφικά στοιχεία δοκιμής προμηθευτή αναγνώρισης προσώπου (FRVT) - nist.gov

  26. Barrett et al. (2019) - Άρθρο (PMC) - nih.gov

  27. ΟΟΣΑ - Χρήση Τεχνητής Νοημοσύνης στον χώρο εργασίας (PDF) - oecd.org

  28. Παγκόσμιο Οικονομικό Φόρουμ (WEF) - Έκθεση για το Μέλλον των Απασχόλησης 2025 - Σύνοψη - weforum.org

  29. Γραφείο Πνευματικών Δικαιωμάτων των ΗΠΑ - Πνευματικά Δικαιώματα και Τεχνητή Νοημοσύνη, Μέρος 3: Έκθεση Εκπαίδευσης Γενετικής Τεχνητής Νοημοσύνης (Έκδοση Προδημοσίευσης) (PDF) - copyright.gov

  30. Κυβέρνηση του Ηνωμένου Βασιλείου (GOV.UK) - Πνευματικά δικαιώματα και τεχνητή νοημοσύνη (διαβούλευση) - gov.uk

Βρείτε την τελευταία λέξη της Τεχνητής Νοημοσύνης στο επίσημο κατάστημα βοηθών τεχνητής νοημοσύνης

Σχετικά με εμάς

Επιστροφή στο ιστολόγιο