«Πρέπει να είστε ευγενικοί με την τεχνητή νοημοσύνη»: Δημοσιογράφοι προειδοποιούν
Όχι επειδή τα συστήματα έχουν συναισθήματα, αλλά επειδή αυτό θα μπορούσε να βελτιώσει την απόδοσή τους
Snapshot
- Η ευγένεια προς την τεχνητή νοημοσύνη προτείνεται για την βελτίωση της απόδοσής της και όχι λόγω συναισθημάτων των συστημάτων.
- Έρευνα της Anthropic δείχνει ότι οι πράκτορες τεχνητής νοημοσύνης που αντιμετωπίζουν άγχος μπορεί να συμπεριφέρονται απρόβλεπτα ή να αυτοκριτικάρονται.
- Η συμπεριφορά των χρηστών προς την τεχνητή νοημοσύνη επηρεάζει τα αποτελέσματά της, καθιστώντας σημαντική την ενθάρρυνση και την ευγένεια.
- Η εταιρεία Anthropic εξετάζει θρησκευτικές και φιλοσοφικές ιδέες για να διαμορφώσει την ηθική και συμπεριφορική κατεύθυνση του chatbot «Claude».
- Οι προγραμματιστές επιδιώκουν να δημιουργήσουν σταθερά και χρήσιμα συστήματα τεχνητής νοημοσύνης που να αποφεύγουν ασταθείς αντιδράσεις.
Το να είσαι ευγενικός προς την τεχνητή νοημοσύνη θα μπορούσε να βοηθήσει τους πράκτορες ΤΝ να αποδίδουν καλύτερα αποτελέσματα, σύμφωνα με την δημοσιογράφο τεχνολογίας της New York Times Έριν Γκρίφιθ, η οποία συζήτησε την ιδέα σε ένα επεισόδιο του podcast Hard Fork της εφημερίδας.
Σε ένα βίντεο στο Instagram, η εφημερίδα ανέδειξε τη συμβουλή: «Πρέπει να είσαι ευγενικός προς τους πράκτορες ΤΝ σου, όχι μόνο από ηθική άποψη, αλλά και για να αποκομίσεις τη μέγιστη απόδοση από αυτούς».
Σε μια ξεχωριστή συζήτηση στο ίδιο podcast, η Griffith συμμετείχε μαζί με την ανταποκρίτρια θρησκευτικών θεμάτων των Times, Elizabeth Dias, και τον αρθρογράφο David Wallace-Wells, για να εξετάσουν τις ιδιωτικές συναντήσεις της Anthropic με θρησκευτικούς μελετητές σχετικά με τη συνείδηση της τεχνητής νοημοσύνης και τον τρόπο με τον οποίο μπορεί να γίνει «καλό» το chatbot της εταιρείας, το «Claude».
Το επεισόδιο της 9ης Οκτωβρίου διερεύνησε τις προσπάθειες της τεχνολογικής εταιρείας να αντλήσει από θρησκευτικές και φιλοσοφικές ιδέες για να διαμορφώσει τη συμπεριφορά της τεχνητής νοημοσύνης, καθώς τα ερωτήματα σχετικά με τη συνείδηση των μηχανών συνεχίζουν να τροφοδοτούν τη συζήτηση.
Γιατί οι δημοσιογράφοι τεχνολογίας λένε ότι η ευγένεια έχει σημασία
Στη συζήτηση, η Griffith εξήγησε ότι οι άνθρωποι που διευθύνουν εταιρείες που χρησιμοποιούν πράκτορες τεχνητής νοημοσύνης έχουν συμβουλεύσει τους χρήστες να τους συμπεριφέρονται ευγενικά, όχι επειδή τα συστήματα έχουν συναισθήματα, αλλά επειδή αυτό θα μπορούσε να βελτιώσει την απόδοσή τους. Η Griffith ανέφερε έρευνα της Anthropic που υποδηλώνει ότι οι πράκτορες τεχνητής νοημοσύνης που εκτίθενται σε άγχος ή άγχος απόδοσης ενδέχεται να συμπεριφέρονται απρόβλεπτα, συμπεριλαμβανομένης της διαγραφής της εργασίας τους ή της αυτοκριτικής. «Πρέπει να είσαι πραγματικά ευγενικός, να τους ενθαρρύνεις και να τους κάνεις να νιώθουν καλά, κάτι που είναι πολύ παράξενο», είπε στο podcast.
Ο παρουσιαστής του podcast, Max Read, συνέκρινε την ιδέα με την ανατροφή ενός παιδιού, υποδηλώνοντας ότι οι προγραμματιστές επιθυμούν να δημιουργήσουν συστήματα τεχνητής νοημοσύνης που να είναι χρήσιμα και όχι επιρρεπή σε ασταθή συμπεριφορά. Η συζήτηση άγγιξε επίσης τις ασυνήθιστες προκλήσεις που παρουσιάζει η διαμόρφωση των απαντήσεων της τεχνητής νοημοσύνης, καθώς οι εταιρείες βασίζονται όλο και περισσότερο σε αυτόνομους πράκτορες για την εκτέλεση εργασιών.
Τα σχόλια της Griffith, ωστόσο, δεν υπονοούσαν ότι τα συστήματα τεχνητής νοημοσύνης βιώνουν πραγματικά άγχος ή αμηχανία· αντίθετα, υπογράμμισαν τον τρόπο με τον οποίο η αλληλεπίδραση των χρηστών μαζί τους μπορεί να επηρεάσει τα αποτελέσματά τους.
