ChatGPT: Η πιο «ανθρώπινη» μηχανή κρύβει παγίδες - Expert της Microsoft εξηγεί τι να προσέχουμε
Όλα τα βλέμματα στη Σίλικον Βάλεϊ μαζί και του πλανήτη της τεχνολογίας, είναι στραμμένα στο ChatGPT. Όσοι το έχουν χρησιμοποιήσει έχουν μείνει άναυδοι από τις εξωπραγματικές δυνατότητές του. Η Technical Trainer της Microsoft και AI Expert, Γεωργία Καλύβα μιλά στο Newsbomb.gr, μας ξεναγεί στον κόσμο της τεχνητής νοημοσύνης και μας παρουσιάζει τα oφέλη αλλά και τους κινδύνους που κρύβει η χρήση του ChatGPT.
Μπορεί για μερικούς να είναι απλώς μια νέα τάση που εμφανίστηκε πρόσφατα στον κόσμο της τεχνολογίας, όμως το ChatGPT φαίνεται πως είναι κάτι πολύ παραπάνω από ένα έξυπνο εργαλείο που έγινε viral.
Βασισμένο στις αρχές της τεχνητής νοημοσύνης, το νεοσύστατο chatbot της ΟpenAI έχει απάντηση σχεδόν για όλα τα ζητήματα και μπορεί να ικανοποιήσει ακόμα και τις πιο αλλόκοτες απαιτήσεις του εκάστοτε χρήστη.
Μπορεί ακόμα και να «αισθάνεται», ενώ ταυτόχρονα δύναται να αποτελέσει έναν πολύτιμο «βοηθό» για τον εργαζόμενο ή τον φοιτητή.
Αν και το ChatGTP είναι ιδιαίτερα απλό στη χρήση του, χρειάζεται η παρέμβαση ενός expert για να εξηγηθεί και να αναλυθεί εκτενώς, το πιο πρόσφατο δημιούργημα της ανεπτυγμένης τεχνολογίας.
Το Newsbomb.gr ήρθε σε επαφή με την Technical Trainer της Microsoft και AI Expert, Γεωργία Καλύβα, η οποία μας λύνει όλες τις απορίες για τους λόγους που το ChatGPT πρωταγωνιστεί και θα συνεχίσει όπως φαίνεται να το κάνει τα επόμενα χρόνια.
Μας περιγράφει τον τρόπο με τον οποίο ένα σύστημα τεχνητής νοημοσύνης μπορεί μέχρι και να «αισθάνεται» πράγματα, ενώ μας παρουσιάζει τα oφέλη του για τον εργασιακό και τον εκπαιδευτικό τομέα.
Παράλληλα, μας επισημαίνει ότι παρά τον αρχικό ενθουσιασμό που κάποιος νιώθει όταν αντιλαμβάνεται τις ασύλληπτες δυνατότητες του Chat GPT, πρέπει να είναι ιδιαίτερα προσεκτικός κατά την αλληλεπίδραση του με αυτό:
Δεν έχουν περάσει ούτε τρεις μήνες από τη δημιουργία του ChatGPT και δεν είναι υπερβολή να πούμε ότι έχει «κατακτήσει» to διαδίκτυο. Πού πιστεύεις ότι οφείλεται όλος αυτός ο ενθουσιασμός από τους χρήστες;
«Είναι πολύ διαφορετικό να σου περιγράφουν την αποτελεσματικότητα του AI και άλλο να την βλέπεις και να την χρησιμοποιείς ο ίδιος άμεσα, κάνοντας απλές ερωτήσεις που μπορεί να κάνει ο καθένας από εμάς. Το επίπεδο στο οποίο μπορεί να "καταλάβει" την ερώτηση που το κάνουμε και να συνθέσει την απάντηση και μάλιστα, όταν χρειάζεται, να ζητήσει διευκρινήσεις, δημιουργεί ενθουσιασμό ακόμα και σε έμπειρους επαγγελματίες στο χώρο του AI.
To OpenAI έχει και άλλα project όπως το DALL·E για παράδειγμα, το οποίο είναι ένα AI σύστημα που μπορεί να δημιουργήσει εικόνες από μία περιγραφή κειμένου. Και αν και μπορεί να πει κάποιος ότι είναι το ίδιο, ή κατά τη γνώμη μου, περισσότερο εντυπωσιακό από το ChatGPT, μπορούν να το αξιοποιήσουν κυρίως καλλιτέχνες ή επαγγέλματα που χρησιμοποιούν εικόνες, οπότε δεν έχει τόσο άμεση εφαρμογή στο ευρύ κοινό όσο το ChatGPT ώστε να αποκτήσει την ίδια απήχηση».
Υπήρξαν κι άλλα chatbot πριν το ChatGPT αλλά δεν είχαν τόσο ευρεία αναγνώριση. Ποια από τα χαρακτηριστικά του πιστεύεις το έκαναν να ξεχωρίσει;
«Πολλά και διάφορα. Σίγουρα η δωρεάν διάθεσή του έπαιξε σημαντικό ρόλο. To ChatGPT αυτή τη στιγμή βρίσκεται στη φάση του research preview, δηλαδή στο σημείο όπου χρειάζεται να μαζέψει πληροφορίες όσον αφορά την αποτελεσματικότητα του και να εκπαιδευτεί από τον τρόπο που το χρησιμοποιούν πραγματικοί χρήστες με ρεαλιστικά σενάρια χρήσης. Για το σκοπό αυτό είναι δωρεάν προς όλους αρκεί να δημιουργήσουν λογαριασμό στην πλατφόρμα, αλλά είναι άγνωστο εάν θα παραμείνει έτσι και στο μέλλον. Ήδη δίνεται η δυνατότητα να αναβαθμίσει κανείς σε Plus με κάποιο αντίτιμο και να αποκτήσει δυνατότητες όπως εγγυημένη διαθεσιμότητα του συστήματος, γρηγορότερη απόκριση και προτεραιότητα στις νέες δυνατότητές που θα αποκτήσει.
Επίσης πολύ σημαντικό ρόλο έπαιξε η άμεση εφαρμογή που έχει σε καθημερινές δραστηριότητες σχεδόν όλων μας. Μπορεί να το χρησιμοποιήσει κανείς για ψυχαγωγική ή και επαγγελματική χρήση. Παραδείγματα περιλαμβάνουν από το κάτι πολύ απλό όπως το να μας βοηθήσει να συνθέσουμε ένα email και να γράψουμε ένα ποίημα για τους αγαπημένους μας, όπως θα το έλεγε ο Yoda, η κάτι περίπλοκο όπως να μας γράψει κομμάτια κώδικα όταν προγραμματίζουμε λογισμικό σε γνωστές γλώσσες προγραμματισμού, ή ακόμα και να συντάξει μια εργασία για το σχολείο ή το πανεπιστήμιο».
Από την άλλη πλευρά, οι ασύλληπτες δυνατότητες του ίσως «τρομάζουν» τον μέσο χρήστη. Υπάρχει κάποιος κίνδυνος τον οποίον θα πρέπει να γνωρίζουμε όσο αλληλεπιδρούμε με το ChatGPT;
«Υπάρχουν πολλές παγίδες και κίνδυνοι που πρέπει να έχουμε στο μυαλό μας καθώς η υπηρεσία έχει αρκετούς περιορισμούς. Καταρχάς το μοντέλο στο οποίο βασίζεται, έχει δεδομένα έως τον Σεπτέμβριο του 2021. Δεν κάνει αναζήτηση δεδομένων στο ίντερνετ, οπότε η πληροφορία που μας δίνει, ειδικά αν μιλάμε για πράγματα της τρέχουσας επικαιρότητας όπως για παράδειγμα δείκτες χρηματιστηρίου, ενδέχεται να μην είναι ενημερωμένη.
Ο τρόπος που παρουσιάζονται τα δεδομένα, αν και μπορεί να φαίνεται σωστά στο χρήστη που το διαβάζει μπορεί να είναι εντελώς λάθος ή και να μη βγάζει κανένα απολύτως νόημα. Θα πρέπει να ελέγχουμε τις απαντήσεις του λοιπόν για την εγκυρότητά τους πριν τις χρησιμοποιήσουμε. Το συγκεκριμένο μοντέλο επίσης, είναι αρκετά ευαίσθητο στον τρόπο που εκφράζουμε τις ερωτήσεις. Μικρές αλλαγές σε λέξεις και προσθήκες στην ίδια ερώτηση, μπορεί στη μία περίπτωση να απαντήσει λάθος ενώ στη δεύτερη σωστά. Οδηγούμαστε λοιπόν στο παράδοξο ότι όσα περισσότερα ξέρουμε για το θέμα που ρωτάμε, τόσο πιο σωστές απαντήσεις θα μπορέσουμε πάρουμε, γιατί απλά κάνουμε πιο στοχευμένες ερωτήσεις.
Στο Machine Learning (μηχανική μάθηση) βασιζόμαστε σε δεδομένα και χρησιμοποιούμε αλγορίθμους και στατιστικές μεθόδους, με σκοπό να εκπαιδεύσουμε ένα μοντέλο να κάνει προβλέψεις ή να πάρει αποφάσεις. Με αντίστοιχο τρόπο έχει εκπαιδευτεί και το ChatGPT. Εδώ μπορεί να παρατηρήσουμε ένα φαινόμενο το οποίο λέγεται bias (προκατάληψη), δηλαδή όταν το μοντέλο μας εκτίθεται σε μεγάλο βαθμό σε δεδομένα τα οποία έχουν αρνητική χροιά ή όπως συμβαίνει συχνά όταν "τρολάρουμε" παίζοντας με την υπηρεσία, επειδή στο σύνολο των δεδομένων του τα αρνητικά μπορεί να υπερισχύσουν των θετικών, τότε μπορεί να λάβουμε προκλητικές ή τελείως επιθετικές απαντήσεις, καθώς πολλές φορές ένα AI σύστημα δεν μπορεί να ξεχωρίσει και να κρίνει ποιο είναι το σωστό.
Σκεφτείτε ένα αντίστοιχο παράδειγμα παλαιότερα στο οποίο ένα AI σύστημα είχε εκπαιδευτεί να αναγνωρίζει πρόσωπα. Οι εικόνες που είχαν χρησιμοποιηθεί ήταν σε μεγάλο βαθμό λευκών ανθρώπων με ευρωπαϊκά χαρακτηριστικά και λιγότερο άλλων εθνικοτήτων. Το μοντέλο όταν ανέλυε μία φωτογραφία από εθνικότητες από την Αφρική ή την Ασία αναγνώριζε σε πολύ μικρότερο βαθμό ποί βρισκόταν το άτομο στη φωτογραφία ή σε πολλές περιπτώσεις και καθόλου, έχοντας bias λοιπόν προς μία ομάδα ανθρώπων. Αυτό όμως ήταν αποτέλεσμα έλλειψης πληρότητας και ισορροπίας των δεδομένων που εκπαιδεύτηκε και όχι ένδειξη ποιότητας του συστήματος.
Τέλος, όπως με κάθε ψηφιακό σύστημα πλέον, πρέπει να έχουμε στο μυαλό μας πάντα τα προσωπικά δεδομένα. Σκοπός του ChatGPT αυτή τη στιγμή είναι να μαζέψει πληροφορίες ώστε να βελτιώσει τις απαντήσεις του. Αυτό σημαίνει ότι πληροφορία του παρέχουμε μπορεί να διατηρηθεί από το σύστημα για τη βελτίωση της υπηρεσίας για αρκετό καιρό χωρίς την επιλογή να την ανακαλέσουμε και ακόμα να διαβαστεί από τους δημιουργούς του. Μπορεί στην προσπάθειά μας να το χρησιμοποιήσουμε στο επαγγελματικό μας χώρο να αποκαλύψουμε ευαίσθητες πληροφορίες. Εάν κάτι από αυτά που εισάγετε στο ChatGPT, δεν θα νιώθατε άνετα να τα μοιραστείτε δημόσια, τότε μάλλον δεν πρέπει να τα βάλετε και στο chat».
Δημοσιεύματα στον Τύπο που περιγράφουν το ChatGPT κάνουν -μεταξύ άλλων- λόγο για ένα εργαλείο που μπορεί να δίνει απαντήσεις με τόνο "συναισθηματικό". Είναι δυνατόν ένα chatbot να εκπαιδευτεί ώστε να προσομοιάζει την ανθρώπινη συμπεριφορά σε τέτοιο βαθμό;
«Φυσικά και ναι. Ο ορισμός της τεχνητής νοημοσύνης είναι η ικανότητα ενός συστήματος να αναπαράγει τις γνωστικές λειτουργίες ενός ανθρώπου. Δηλαδή να κατανοεί το περιβάλλον, να επικοινωνεί με φυσικό τρόπο να μαθαίνει και να δρα προς την επίτευξη ενός στόχου. Σύστημα μπορεί να είναι οποιοδήποτε λογισμικό με αυτά τα χαρακτηριστικά όπως ένα chatbot. Έχουμε ήδη παραδείγματα robot που μπορούν να επικοινωνήσουν με φυσική γλώσσα στα θέματα που έχουν εκπαιδευτεί και να μιμηθούν ακόμα και τις εκφράσεις του προσώπου μας όπως η Sophia της Hanson Robotics. Ο τόνος ενός κειμένου προκύπτει από τη συναισθηματική κατάσταση του συγγραφέα την ώρα που γράφει αυτό το κείμενο. Αν το δούμε όμως από την πλευρά της γραφής ο συναισθηματικός τόνος του κειμένου, ή ο πιο αυστηρός, ο παιχνιδιάρικος κλπ., δεν είναι παρά μια συγκεκριμένη δομή της πρότασης και της παραγράφου που μας δημιουργεί αυτή την αίσθηση. Εάν έχουμε αρκετά παραδείγματα να το εκπαιδεύσουμε, το ChatGPT μπορεί να μιμηθεί οποιονδήποτε τόνο ή στιλ. Για παράδειγμα, του ζήτησα να μου τραγουδήσει χρόνια πολλά σαν παρουσιαστής ειδήσεων και εδώ το αποτέλεσμα.
Έπειτα ζήτησα ακριβώς το ίδιο, αλλά σε στιλ του αγαπημένου χαρακτήρα Yoda από τις ταινίες Star Wars.
Και στις δύο περιπτώσεις το αποτέλεσμα ανταποκρίθηκε στις προσδοκίες και με το παραπάνω».
Σε ό,τι αφορά τον εργασιακό τομέα, φαίνεται ότι μπορεί να λειτουργήσει σαν ένα βοηθητικό εργαλείο για τον εργαζόμενο. Ποια επάγγελματα πιστεύεις ότι μπορεί να ωφελήσει περισσότερο και παράλληλα είναι ρεαλιστικό το σενάριο να "εξαφανίσει" μερικά από αυτά;
«To ChatGPT και άλλα εργαλεία σύνθεσης κειμένου μπορούν να λειτουργήσουν θετικά για την αύξηση της παραγωγικότητας σε πολλούς κλάδους, γιατί μπορούν να αναλύσουν και να δώσουν απαντήσεις πιο γρήγορα από ό,τι ένας άνθρωπος θα μπορεί να βρει την ίδια πληροφορία στο ίντερνετ και να τη δομήσει με τον ίδιο τρόπο. Μπορεί να χρησιμοποιηθεί άνετα στην εκπαίδευση για τη δημιουργία κειμένων και εργασιών, στην ανάλυση δεδομένων και στην πληροφορική σαν ένας βοηθός στην δημιουργία κώδικα.
Μπορεί επίσης να βοηθήσει ανθρώπους με μαθησιακές δυσκολίες να γράψουν και να δομήσουν σωστά ένα κείμενο. Προς το παρόν όμως το βλέπω σαν εργαλείο που θα μας βοηθήσει να αποκτήσουμε περισσότερο χρόνο ώστε να τον αφιερώσουμε σε πιο δημιουργικές εργασίες, αυξάνοντας την παραγωγικότητα παρά να "εξαφανίσει" κάποιο επάγγελμα. Σίγουρα όμως ακόμα και για τα παραπάνω θα πρέπει να ωριμάσει η τεχνολογία και να μπορεί να συνδυαστεί και με τρέχουσα δεδομένα όπως μια μηχανή αναζήτησης για να αξιοποιήσουμε πλήρως τις δυνατότητές της. Ήδη βλέπουμε την ενσωμάτωση του μοντέλου του ChatGPT στην μηχανή αναζήτησης Bing της Microsoft».
Αλλά και στον τομέα της εκπαίδευσης, οι AI experts θεωρούν πως το ChatGPT αλλάζει τα δεδομένα. Με ποιον τρόπο πιστεύεις ότι μπορεί να το αξιοποιήσουν οι μαθητές/σπουδαστές;
«Ήδη έχουμε παραδείγματα στο εξωτερικό όπου οι καθηγητές παροτρύνουν τους μαθητές τους να χρησιμοποιήσουν το ChatGPT για τις εργασίες τους. Μπορεί να βοηθήσει στο να πάρει κάποιος ιδέες και να εμπνευστεί, να γλυτώσει χρόνο και ακόμα να βελτιώσει τον τρόπο γραφής του. Θα πρέπει όμως σε κάθε περίπτωση να ελέγχουμε τα αποτελέσματα που βγάζει για την εγκυρότητά τους, και να βλέπουμε λίγο με κριτική σκέψη τις απόψεις που εκφράζει καθώς μπορεί να έρχονται σε αντίθεση με αυτό που θέλουμε να εκφράσουμε εμείς. Πρέπει να είμαστε επίσης πολύ προσεκτικοί σε επίπεδα της Ανώτατης εκπαίδευσης, ειδικά όταν καταθέτουμε πτυχιακές ή διπλωματικές εργασίες, καθώς αυτές είναι πιθανό να ελέγχονται από λογισμικό, που αποτρέπει την λογοκλοπή (plagiarism). Αυτά τα εργαλεία έχουν ήδη προσαρμοστεί να αναγνωρίζουν κείμενο το οποίο έχει παραχθεί από υπολογιστή. Tο ChatGPT παρόλο που είναι εύκολο να ξεγελάσει έναν απλό αναγνώστη, συνθέτει το κείμενο με τέτοιο τρόπο, όπου σε μεγάλο όγκο κειμένου τείνει να επαναχρησιμοποιεί εκφράσεις και να επαναλαμβάνει κομμάτια πληροφορίας. Σε μία ανάλυση κειμένου μεγάλης έκτασης ένα εργαλείο ανάλυσης AI-generated κειμένου, μπορεί να αναγνωρίσει μοτίβα (patterns) τα οποία προδίδουν την προέλευσή του».
Διαβάστε επίσης:
ChatGPT: Ένα «τρομακτικό» πολυεργαλείο που θέλει να αλλάξει το Ίντερνετ - Μπορεί;
Τεχνητή νοημοσύνη: Επαγγέλματα που απειλούνται από τα ρομπότ
Το Facebook κλείνει τα 19: Η άνοδος, τα σκάνδαλα και η Meta εποχή
Χιλιάδες θέσεις εργασίας και ψώνια στο… Μetaverse - Τι «εκπλήξεις» μας φέρνει η τεχνολογία το 2023
