Ο Πάπας Λέων ζητά τον «αφοπλισμό» της τεχνητής νοημοσύνης - Η εγκύκλιος «Magnifica Humanitas»
Η θέση του είναι ότι οι τεχνολογικές καινοτομίες «μπορούν να αυξήσουν τη συμμετοχή και τη δικαιοσύνη, ή να διευρύνουν τις ανισότητες, τον έλεγχο και τον αποκλεισμό»
Snapshot
- Ο Πάπας Λέων XIV στην εγκύκλιο «Magnifica Humanitas» ζητά τον «αφοπλισμό» της τεχνητής νοημοσύνης για να αποφευχθεί η κυριαρχία της πάνω στον άνθρωπο.
- Προειδοποιεί για τη συγκέντρωση εξουσίας στον ιδιωτικό τομέα, που προκαλεί ανισότητες, αποκλεισμούς και έλλειψη δημόσιου ελέγχου.
- Απαιτεί στέρεα νομικά πλαίσια, ανεξάρτητη εποπτεία και πολιτική ευθύνη για την ηθική χρήση της τεχνητής νοημοσύνης.
- Εκφράζει ανησυχίες για την περιβαλλοντική επιβάρυνση των κέντρων δεδομένων και ζητά βιώσιμες τεχνολογικές λύσεις.
- Καταδικάζει την ανάθεση θανατηφόρων αποφάσεων σε συστήματα τεχνητής νοημοσύνης και ζητά διεθνή πλαίσια για την αποτροπή τεχνολογικού εξοπλιστικού αγώνα.
Ο Λέων XIV παρουσίασε τη Δευτέρα την πρώτη του εγκύκλιο, «Magnifica Humanitas» («Υπέροχη Ανθρωπότητα»), ένα έγγραφο 110 σελίδων αφιερωμένο στις επιπτώσεις της τεχνητής νοημοσύνης στην ανθρώπινη αξιοπρέπεια.
Ο ποντίφικας προειδοποιεί στο κείμενο ότι η τεχνητή νοημοσύνη «δεν μπορεί να θεωρηθεί ηθικά ουδέτερη» και ζητά να «αφοπλιστεί» για να «αποφευχθεί η κυριαρχία της πάνω στον άνθρωπο».
Η εγκύκλιος καθορίζει τη στάση της Καθολικής Εκκλησίας απέναντι σε αυτό που ο ίδιος περιέγραψε, λίγες μέρες μετά την εκλογή του, ως τη μεγαλύτερη πρόκληση της εποχής.
Η θέση του είναι ότι οι τεχνολογικές καινοτομίες «μπορούν να αυξήσουν τη συμμετοχή και τη δικαιοσύνη, ή να διευρύνουν τις ανισότητες, τον έλεγχο και τον αποκλεισμό». Η τεχνητή νοημοσύνη, γράφει, «τροφοδοτεί το χάσμα μεταξύ των ενταγμένων και των αποκλεισμένων».
Είναι μια θέση που, όπως προβλέπουν ορισμένοι ειδικοί, θα καταστήσει το κείμενο σημείο αναφοράς της συζήτησης. «Είμαι πεπεισμένος ότι θα είναι ένα αποφασιστικό έγγραφο για την εποχή μας, βαθύ και προφητικό», δήλωσε στο πρακτορείο AP ο Πάολο Καρότσα, καθηγητής Νομικής στο Notre Dame και πρόεδρος του εποπτικού συμβουλίου της Meta, ο οποίος το περιέγραψε ως μια έκκληση για την οικοδόμηση ενός κόσμου στον οποίο η τεχνολογία «θα υπηρετεί τους ανθρώπους αντί να τους υποβαθμίζει».
Ο πυρήνας της κριτικής είναι η συγκέντρωση της εξουσίας στον ιδιωτικό τομέα. Οι πατέντες, οι αλγόριθμοι, οι ψηφιακές πλατφόρμες, οι υποδομές και τα δεδομένα παραμένουν, σύμφωνα με το κείμενο, «συγκεντρωμένα στα χέρια λίγων». Είναι αυτές οι εταιρείες που καθορίζουν «τους όρους πρόσβασης, τους κανόνες ορατότητας, τις μορφές σχέσεων και ακόμη και τις οικονομικές ευκαιρίες».
«Όταν μια εξουσία τέτοιας κλίμακας συγκεντρώνεται σε λίγα χέρια, τείνει να γίνεται αδιαφανής και να διαφεύγει του δημόσιου ελέγχου», προειδοποιεί ο Πάπας, ο οποίος βλέπει σε αυτό τον κίνδυνο «νέων εξαρτήσεων, αποκλεισμών, χειραγωγήσεων και ανισοτήτων».
Αντιμέτωπος με αυτό, ζητά συγκεκριμένους κανόνες: «Δεν αρκεί να επικαλούμαστε την ηθική με αφηρημένο τρόπο· απαιτούνται στέρεα νομικά πλαίσια, ανεξάρτητη εποπτεία, ενημερωμένοι χρήστες και ένα πολιτικό σύστημα που δεν θα παραιτείται από την ευθύνη του». Και συνοψίζει: «Μια πιο ηθική ΤΝ δεν αρκεί αν αυτή η ηθική καθορίζεται από λίγους».
Ο Λέων XIV καλεί τους πολιτικούς υπεύθυνους να προσανατολίσουν τις πολιτικές προς «το κοινό καλό» και να προωθήσουν «την αξιοπρεπή εργασία, την κοινωνική ένταξη και τη δίκαιη κατανομή των οφελών της καινοτομίας».
Το κείμενο επαναλαμβάνει επίσης την περιβαλλοντική ανησυχία που ο Φραγκίσκος έθεσε στο επίκεντρο της διδασκαλίας του. Ο Λέων XIV επισημαίνει ότι τα κέντρα δεδομένων που εκπαιδεύουν τα μοντέλα καταναλώνουν «τεράστιες ποσότητες ενέργειας και νερού» και επηρεάζουν σημαντικά τις εκπομπές διοξειδίου του άνθρακα, και ζητά, ενόψει της αυξανόμενης ζήτησης που προκαλούν τα μεγάλα γλωσσικά μοντέλα, «πιο βιώσιμες τεχνολογικές λύσεις».
Αν η συγκέντρωση εξουσίας είναι η γενική διάγνωση, ο Πάπας επιφυλάσσει τις πιο συγκεκριμένες προειδοποιήσεις του για όσους θεωρεί πιο εκτεθειμένους. Όσον αφορά στους ανηλίκους, προειδοποιεί για «φαινόμενα προσέλκυσης, εκβιασμού και σεξουαλικής εκμετάλλευσης» που επιδεινώνονται από «ψεύτικα προφίλ, αλγόριθμους που ενισχύουν επικίνδυνες επαφές και εργαλεία τεχνητής νοημοσύνης ικανά να χειραγωγούν εικόνες και βίντεο», και ζητά όρια ηλικίας και μεγαλύτερη ευθύνη από τους παρόχους.
Όσον αφορά στην εργασία, υποστηρίζει ότι οι τρέχουσες τεχνολογικές προσεγγίσεις μπορούν να «αποεξειδικεύσουν τους εργαζόμενους, να τους υποβάλουν σε αυτοματοποιημένη παρακολούθηση και να τους περιορίσουν σε άκαμπτες και επαναλαμβανόμενες εργασίες».
Ζητά κάθε αυτοματοποίηση να συνοδεύεται από «επαληθεύσιμα μέτρα προστασίας της απασχόλησης και επανεκπαίδευσης», και η οικονομική τάξη να παραμένει υποταγμένη στην ανθρώπινη αξιοπρέπεια.
Όσον αφορά τις ένοπλες συγκρούσεις, ο Λέων XIV κάλεσε να ξεπεραστεί η έννοια του «δίκαιου πολέμου» —η οποία, σύμφωνα με το κείμενο, «επικαλείται υπερβολικά συχνά για να δικαιολογήσει οποιαδήποτε σύγκρουση»— και δήλωσε ότι είναι «απαράδεκτο» να ανατίθενται θανατηφόρες και μη αναστρέψιμες αποφάσεις σε συστήματα τεχνητής νοημοσύνης.
Καταγγέλλει ότι «η ανθρωπότητα ολισθαίνει προς μια βίαιη κουλτούρα εξουσίας», ζητά μια αναγνωρίσιμη αλυσίδα ευθύνης που να φτάνει σε «όσους σχεδιάζουν, εκπαιδεύουν, εγκρίνουν και χρησιμοποιούν την τεχνολογία» και ζητά ένα κοινό διεθνές πλαίσιο «για να αναχαιτιστεί ο τεχνολογικός εξοπλιστικός αγώνας και να διασφαλιστεί η ισχυρή προστασία των αμάχων».
Το κείμενο περιέχει επίσης την πρώτη επίσημη συγγνώμη ενός πάπα για το ρόλο της ίδιας της Αγίας Έδρας στη νομιμοποίηση της δουλείας, την οποία ο Λέων XIV χαρακτηρίζει ως «πληγή στη χριστιανική μνήμη».
Διαβάστε επίσης
.jpg)
