Περίληψη: 

Σε αυτήν την ομιλία επιχειρείται μια ιστορική αναδρομή της Υπολογιστικής Γλωσσολογίας, της Επεξεργασίας Φυσικής Γλώσσας, και εν μέρει και της Τεχνητής Νοημοσύνης, ιχνηλατώντας το ερευνητικό μονοπάτι που οδηγεί στα σημερινά συστήματα Τεχνητής Νοημοσύνης. Παρακολουθούμε την εξέλιξη του πεδίου από τις πρώιμες συμβολικές προσεγγίσεις μέχρι τις σύγχρονες αρχιτεκτονικές βαθείας μάθησης στις οποίες είναι βασισμένα τα σημερινά Μεγάλα Γλωσσικά Μοντέλα.

Στη συνέχεια παρουσιάζουμε μια σειρά από χρήσεις αυτών των μοντέλων από πολύ απλές (συγγραφή μέιλ), μέχρι αρκετά σύνθετες (στήσιμο ολόκληρων υπολογιστικών εφαρμογών). Συνεχίζουμε με μια σειρά από ερευνητικά ζητήματα αιχμής στην έρευνα για τα Μεγάλα Γλωσσικά Μοντέλα, την καταπολέμηση των ψευδαισθήσεων μέσω διαφόρων τεχνικών αιχμής όπως η Επαυξημένη Ανάκληση (Augemented Generation), η ανάγκη για εξηγησιμότητα και η υπόσχεση για μια επόμενη γενιά Νευροσυμβολικών μοντέλων που θα είναι ικάνα να αντιμετωπίσουν αυτά τα προβλήματα. Συζητούμε επίσης την ανάγκη ανάπτυξης τέτοιων μοντέλων για γλώσσες με λιγότερους πόρους και συζητούμε λίγο το τοπίο των ελληνικών Μεγάλων Γλωσσικών Μοντέλων καθώς, τις διαλεκτικές τους ικανότητες και τις εγγενείς μεροληψίες τους.

Καταλήγουμε συζητώντας μια σειρά από κοινωνικοπολιτικά και ηθικά ζητήματα που εγείρει το καινούριο αυτό τεχνολογικό τοπίο: το οικολογικό αποτύπωμα των μοντέλων, τη συγκέντρωση της έρευνας στις μεγάλες τεχνολογικές εταιρείες, την απειλή της παραπληροφόρησης, και τις επιπτώσεις στην αγορά εργασίας.

ΣΥΝΤΟΜΟ ΒΙΟΓΡΑΦΙΚΟ:

Ο Στέργιος Χατζηκυριακίδης γεννήθηκε στα Γρεβενά το 1980. Είναι καθηγητής Υπολογιστικής Γλωσσολογίας στο Τμήμα Φιλολογίας του Πανεπιστημίου Κρήτης. Τελείωσε το τμήμα Φιλολογίας του ΑΠΘ με ειδίκευση στη Γλωσσολογία. Συνέχισε τις μεταπτυχιακές σπουδές του στην Υπολογιστική Γλωσσολογία στο King’s College του Λονδίνου και εκπόνησε τη διδακτορική του διατριβή στο ίδιο πανεπιστήμιο. Έχει εργαστεί στο Royal Holloway, University of London, στο Εθνικό Κέντρο Επιστημονικών Ερευνών της Γαλλίας (CNRS), στο Ανοιχτό Πανεπιστήμιο Κύπρου και στο Πανεπιστήμιο του Γκέτεμποργκ. Πριν αναλάβει καθήκοντα στο Πανεπιστήμιο Κρήτης, διετέλεσε Αναπληρωτής Διευθυντής του Κέντρου Γλωσσολογικής Θεωρίας και Πιθανοκρατικών Σπουδών (CLASP). Τα ερευνητικά του ενδιαφέροντα βρίσκονται στην τομή μεταξύ του NLP και της Θεωρητικής Γλωσσολογίας. Μερικά από τα θέματα στα οποία έχει εργαστεί είναι η Συνεπαγωγή Φυσικής Γλώσσας, η Υπολογιστική Διαλεκτολογία, η Θεωρητική Σημασιολογία με θεωρίες τύπων και η υπολογιστική τους επέκταση, η Πιθανοκρατική Σημασιολογία, η Μοντελοποίηση Διαλόγου, και η αλληλεπίδραση μεταξύ Λογικών/Συμβολικών Μεθόδων και Μηχανικής Μάθησης/Βαθιάς Μάθησης για το NLP.

Κεφάλαια της Ομιλίας

00:00:19 Εισαγωγή – Χαιρετισμός

00:03:47 Ομιλία

00:54:13 Ερωτήσεις

00:54:34 Έχουμε αυτήν την στιγμή κάποιον κοινά αποδεκτό ορισμό για την νοημοσύνη; Πώς τεστάρουμε για νοημοσύνη αυτήν την στιγμή; Υπάρχει εξέλιξη στα τεστ νοημοσύνης καθώς εξελίσσονται και τα LLMs;

00:55:38 Ποιες είναι οι βασικές προκλήσεις για την ανάπτυξη LLMs σε γλώσσες με λιγότερους πόρους, όπως τα ελληνικά;.

00:58:43 Πώς επηρεάζει η συγκέντρωση της έρευνας στις μεγάλες τεχνολογικές εταιρείες το μέλλον της Τεχνητής Νοημοσύνης;

01:01:10 Είστε μάχιμος ακαδημαϊκός. Πως η ΤΝ επηρεάζει το χαρακτήρα του μαθήματος, της εξέτασης και αξιολόγησης των φοιτητών ειδικά στις εργασίες οι οποίοι έχουν πλέον ένα τόσο ισχυρό εργαλείο στα χέρια τους;

01:07:18 Οι δυνατότητες κατανόησης κειμένου μέσω των Μεγάλων Γλωσσικών Μοντέλων μπορούν να αντικαταστήσουν μεθόδους όπως την Ανάλυση Περιεχομένου (Ποιοτική Ανάλυση Περιεχομένου, Κριτική Ανάλυση Λόγου στις διάφορες κατευθύνσεις της κ.λπ.); Είναι ήδη σε αυτό το επίπεδο μήπως; Χρησιμοποιούνται στην έρευνα και θεωρούνται έγκυρα τα δεδομένα της ανάλυσής τους;

01:09:33 Απολογισμός

Το InScience.gr σας παρουσιάζει την ομιλία της επίκουρης καθηγήτριας του Πανεπιστημίου Κρήτης, Δρ. Μαρίας Παπαδοπούλου με θέμα «Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΣΥΝΑΝΤΑ ΤΙΣ ΑΝΘΡΩΠΙΣΤΙΚΕΣ ΕΠΙΣΤΗΜΕΣ» , που διοργανώθηκε την Πέμπτη 12 Ιουνίου 2025.

Περίληψη: Το TALOS AI4SSH είναι ένα νέο ερευνητικό εργαστήριο του Πανεπιστημίου Κρήτης, αφιερωμένο στην Τεχνητή Νοημοσύνη (ΤΝ) για τις Ανθρωπιστικές και Κοινωνικές Επιστήμες (SSH). Εδρεύει στο Κέντρο Ερευνών και Μελετών (ΚΕΜΕ-ΠΚ) στο Ρέθυμνο και υλοποιείται με τη χρηματοδότηση της Ευρωπαϊκής Ένωσης μέσω του προγράμματος TALOS ERA Chair. Υπό την καθοδήγηση του Καθηγητή Τεχνητής Νοημοσύνης Christophe Roche, το TALOS στοχεύει στην ενίσχυση της ψηφιακής τεχνογνωσίας ερευνητών/τριών και φοιτητών/τριών στις Ανθρωπιστικές και Κοινωνικές Επιστήμες, με έμφαση στις τεχνολογίες ΤΝ. Το Εργαστήριο ΤΑΛΩΣ επιδιώκει να ενισχύσει τη διασύνδεση της ΤΝ με την έρευνα και την εκπαίδευση στις Ανθρωπιστικές & Κοινωνικές Επιστήμες (ΑΚΕ), δημιουργώντας ένα δυναμικό οικοσύστημα καινοτομίας και συμβάλλοντας στην ανάπτυξη καινοτόμων ερευνητικών και εκπαιδευτικών πρωτοβουλιών. Προσφέρει καινοτόμα προγράμματα σπουδών στην ΤΝ για τις ΑΚΕ σε προπτυχιακό και μεταπτυχιακό επίπεδο, υβριδικά πρακτικά σεμινάρια (δείτε τα στο YouTube!), Ανοιχτά Διαδικτυακά Μαθήματα (MOOC), διδακτορικές και μεταδιδακτορικές υποτροφίες, καθώς και των υποτροφιών κινητικότητας (mobility grants) για την προσέλκυση κορυφαίων ερευνητών και την ενίσχυση των διεθνών και διεπιστημονικών συνεργασιών στο πεδίο της ΤΝ για τις ΑΚΕ.

ΣΥΝΤΟΜΟ ΒΙΟΓΡΑΦΙΚΟ: Η Δρ. Μαρία Παπαδοπούλου είναι Επίκουρη Καθηγήτρια στις Ψηφιακές Ανθρωπιστικές Επιστήμες και την Κλασική Φιλολογία στο Τμήμα Φιλολογίας (Τομέας Κλασικών Σπουδών) του Πανεπιστημίου Κρήτης. Διευθύνει το Εργαστήριο ΤΑΛΩΣ, το οποίο εστιάζει στην έρευνα στην ΤΝ και την καινοτομία στις Ανθρωπιστικές και Κοινωνικές Επιστήμες (ΑΚΕ). Έχει Διδακτορικό δίπλωμα στην Κλασική Φιλολογία από το Εθνικό και Καποδιστριακό Πανεπιστήμιο Αθηνών και Μεταπτυχιακό στη Γλωσσολογία από το Πανεπιστήμιο Lancaster (Ηνωμένο Βασίλειο). Έχει λάβει σημαντικές υποτροφίες και ερευνητική χρηματοδότηση, μεταξύ των οποίων: Marie Skłodowska-Curie Fellowship (Ευρωπαϊκή Ένωση) και Seeger Fellowship (Πανεπιστήμιο Princeton). Έχει εργαστεί στα Πανεπιστήμια Κοπεγχάγης και Σαβοΐας και είναι επισκέπτρια καθηγήτρια στα Πανεπιστήμια Liaocheng και Nanjing University of Aeronautics and Astronautics (Κίνα). Η έρευνά της εστιάζει στην Ελληνιστική γραμματεία και τη σύνδεση ανθρωπιστικών επιστημών με την πληροφορική, αξιοποιώντας τις μεθόδους της ΤΝ για την ανάλυση των αρχαίων κειμένων. Έχει δημοσιεύσει πάνω από 40 επιστημονικά άρθρα σε αναγνωρισμένα περιοδικά, καθώς και το εγχειρίδιο «Δεξιότητες του 21ου Αιώνα και Ψηφιακές Ανθρωπιστικές Επιστήμες» (Αθήνα: Εκδόσεις Ηρόδοτος, 2023).

Κεφάλαια της Ομιλίας

00:00:21 Εισαγωγή – Χαιρετισμός

00:04:16 Ομιλία

00:55:30 Ερωτήσεις

00:56:02 Τι σημαίνει σημασιολογική σήμανση και τι μεταδεδομένα;

00:59:39 Ποιες ηθικές και κοινωνικές επιπτώσεις αναδύονται από τη χρήση αλγορίθμων ΤΝ σε ευαίσθητες ανθρωπιστικές εφαρμογές (π.χ. ψηφιακή κληρονομιά, γλωσσολογία);

01:03:47 Πώς μπορεί το πρόγραμμα TALOS AI4SSH να αξιοποιήσει τεχνικές επεξεργασίας φυσικής γλώσσας για την ψηφιακή αποκατάσταση και ανάλυση αρχαιοελληνικών κειμένων;

01:05:22 Θα μπορούσε το Εργαστήριο Τάλως να συνάψει μνημόνιο συνεργασίας με σχολείο όπου διδάσκονται μαθητές/μαθήτριες Ομάδας Προσανατολισμού Ανθρωπιστικών Σπουδών;

01:06:50 Με ποιον τρόπο τα MOOCs που προσφέρει το TALOS μπορούν να γεφυρώσουν το έλλειμμα γνώσης μεταξύ ΑΕΙ και επαγγελματιών των Ανθρωπιστικών & Κοινωνικών Επιστημών;

01:08:59 Ποιος είναι ο αντίκτυπος των υποτροφιών κινητικότητας (mobility grants) του TALOS στην προσέλκυση κορυφαίων διεθνών ερευνητών και στην ανάπτυξη διεθνών συνεργασιών στον χώρο της AI4SSH;

01:12:00 Επίλογος

ΔΙΑΦΑΝΕΙΕΣ ΤΗΣ ΟΜΙΛΙΑΣ

Ο δρόμος προς τα σύγχρονα θαύματα της μηχανικής μάθησης στρώθηκε με ιδέες από τη στατιστική μηχανική και τα συλλογικά φαινόμενα.

Johanna L. Miller

Μετάφραση: Δημήτρης Κούλος

Επιμέλεια μετάφρασης: Νικόλ Σαρλά, Βασίλης Λεμπέσης

Επιστημονική επιμέλεια: Βασίλης Λεμπέσης

«Ό,τι δίνεις παίρνεις».^[1] Σύμφωνα με το παλιό ρητό της επιστήμης των υπολογιστών, αυτό που λαμβάνεις από έναν υπολογιστή δεν είναι καλύτερο από αυτό που του δίνεις. Και φαίνεται να υπονοεί ότι καθώς οι υπολογιστές δεν μπορούν να σκεφτούν μόνοι τους, δεν μπορούν ποτέ να κάνουν κάτι πιο εξεζητημένο από αυτό για το οποίο ρητώς τους έχει δοθεί εντολή.

Όμως, το τελευταίο φαίνεται να μην είναι πλέον αληθές. Τα νευρωνικά δίκτυα –αρχιτεκτονικές των υπολογιστών εμπνευσμένες από τον ανθρώπινο εγκέφαλο, στις οποίες τα σήματα διέρχονται μέσα από κόμβους που ονομάζονται τεχνητοί νευρώνες– έχουν παράγει τα τελευταία χρόνια κύματα εκπληκτικών αποτελεσμάτων. (Βλ. για παράδειγμα σελ. 17 αυτού του τεύχους.) Οι μεμονωμένοι νευρώνες εκτελούν μονάχα τους πλέον στοιχειώδεις υπολογισμούς. Όμως, όταν συγκεντρώνονται σε αρκετά μεγάλους αριθμούς και όταν τροφοδοτούνται με αρκετά δεδομένα προς εκπαίδευση, αποκτούν δυνατότητες που, φαινομενικά από το πουθενά, θυμίζουν απροσδόκητα την ανθρώπινη νοημοσύνη.

Οι φυσικοί δεν είναι ανοίκειοι με την ιδέα της ανάδυσης απροσδόκητων φαινομένων μέσα από απλούστερα δομικά στοιχεία. Μερικά στοιχειώδη σωματίδια και οι κανόνες των αλληλεπιδράσεών τους συνδυάζονται για να δώσουν σχεδόν το σύνολο του ορατού κόσμου: υπεραγωγοί, πλάσματα και όλα τα ενδιάμεσα. Γιατί κάποια προσέγγιση της φυσικής στην αναδυόμενη πολυπλοκότητα να μην εφαρμοστεί και στα νευρωνικά δίκτυα;

Πράγματι εφαρμοζόταν –και συνεχίζει να εφαρμόζεται– όπως αποδεικνύεται από το φετινό (2024) βραβείο Νόμπελ Φυσικής, το οποίο απονέμεται στον John Hopfield του Πανεπιστημίου του Πρίνστον και στον Geoffrey Hinton του Πανεπιστημίου του Τορόντο. Ξεκινώντας στις αρχές της δεκαετίας του 1980, ο Hopfield έθεσε τα εννοιολογικά θεμέλια για μια θεώρηση που να βασίζεται στη φυσική του ζητήματος της επεξεργασίας πληροφοριών η οποία εμπνέεται από την λειτουργία του εγκέφαλου· ο Hinton ήταν στην πρώτη γραμμή της προσπάθειας δεκαετιών για την αξιοποίηση αυτών των ιδεών για να αναπτύξει αλγορίθμους που χρησιμοποιούνται σήμερα από τα μοντέλα νευρωνικών δικτύων.

ΥΑΛΩΔΗΣ ΜΝΗΜΗ

Στην αρχή δεν ήταν καθόλου προφανές ότι τα νευρωνικά δίκτυα θα γίνονταν τόσο ισχυρά. Μόλις το 2011, τα πιο εντυπωσιακά επιτεύγματα στην τεχνητή νοημοσύνη επιτυγχάνονταν από μια εντελώς διαφορετική προσέγγιση. Ο υπολογιστής Watson της IBM, που νίκησε τον Ken Jennings και τον Brad Rutter στο Jeopardy!,^[2] δεν ήταν ένα νευρωνικό δίκτυο καθώς είχε προγραμματιστεί ρητώς με κανόνες για την επεξεργασία της γλώσσας, την ανάκτηση πληροφοριών και τη λογική σκέψη. Και πολλοί ερευνητές πίστεψαν ότι αυτός ήταν ο δρόμος για να δημιουργήσουν χρήσιμες μηχανές τεχνητής νοημοσύνης.

Αντίθετα, η πρώιμη εργασία για τα νευρωνικά δίκτυα ήταν μια έρευνα που καθοδηγούνταν από την περιέργεια, εμπνευσμένη περισσότερο από πραγματικούς εγκεφάλους παρά από τους υπολογιστές και τις εφαρμογές τους. Αλλά η φύση της διεπιστημονικής σύνδεσης ήταν δυσδιάκριτη. «Τα ερωτήματα που διατύπωσε ο Hopfield δεν είναι άσχετα με πράγματα που απασχολούσαν τους νευροεπιστήμονες», λέει ο William Bialek από το Πανεπιστήμιο του Πρίνστον. «Όμως δεν πρόκειται για “εφαρμογή της φυσικής στο τάδε ζήτημα’’· μάλλον πρόκειται για την εισαγωγή μιας ολόκληρης θεώρησης που απλώς δεν υπήρχε προηγουμένως».

Μέχρι τη δεκαετία του 1980, οι νευροεπιστήμονες γνώριζαν ότι ο εγκέφαλος αποτελείται από νευρώνες, οι οποίοι συνδέονται μεταξύ τους μέσω συνάψεων και εναλλάσσονται μεταξύ περιόδων υψηλής και χαμηλής ηλεκτρικής δραστηριότητας (στην καθομιλουμένη, “πυροδότηση” και “μη πυροδότηση”), και μελετούσαν συστήματα λίγων νευρώνων για να κατανοήσουν πώς η πυροδότηση ενός νευρώνα επηρέαζε εκείνους με τους οποίους συνδεόταν. «Κάποιοι αντιμετώπιζαν τους νευρώνες με όρους λογικών πυλών, όπως στην ηλεκτρονική», λέει ο Jay McClelland του Πανεπιστημίου του Στάνφορντ.

Σε μια εργασία-ορόσημο του 1982, ο Hopfield υιοθέτησε μια διαφορετική προσέγγιση.^[3] Στη φυσική, υποστήριξε, πολλές σημαντικές ιδιότητες συστημάτων μεγάλης κλίμακας είναι ανεξάρτητες από τις λεπτομέρειες μικρής κλίμακας. Σε όλα τα υλικά μπορούν να διαδοθούν ηχητικά κύματα, για παράδειγμα, ανεξάρτητα από το πώς ακριβώς αλληλεπιδρούν τα άτομα ή τα μόριά τους. Οι μικροσκοπικές δυνάμεις μπορεί να επηρεάζουν την ταχύτητα του ήχου ή άλλες ακουστικές ιδιότητες, αλλά η μελέτη των δυνάμεων μεταξύ τριών ή τεσσάρων ατόμων αποκαλύπτει ελάχιστα για το πώς αναδύεται η έννοια των ηχητικών κυμάτων.

Με αυτόν τον τρόπο, δημιούργησε ένα μοντέλο ενός δικτύου νευρώνων, με γνώμονα περισσότερο την υπολογιστική και μαθηματική απλότητα παρά τον νευροβιολογικό ρεαλισμό. Το μοντέλο, γνωστό σήμερα ως δίκτυο Hopfield, αναπαρίσταται στο Εικ. 1. (Το σχήμα δείχνει ένα δίκτυο πέντε νευρώνων για την ευκολία της απεικόνισης· ο Hopfield προσομοίωνε δίκτυα 30 έως 100 νευρώνων). Κάθε νευρώνας μπορεί να βρίσκεται στην κατάσταση 1 ( πυροδότηση), ή στην κατάσταση 0 (μη πυροδότηση).

Η σύνδεση κάθε νευρώνα με όλους τους άλλους προσομοιωνόταν μέσω σταθερών σύζευξης που θα μπορούσαν να έχουν οποιαδήποτε θετική ή αρνητική τιμή, ανάλογα με το αν κάθε σύναψη ευνοεί ή όχι τους νευρώνες να πυροδοτούν ταυτόχρονα.

Αυτή είναι ακριβώς η ίδια μορφή με εκείνη ενός υαλώδους σπιν (spin glass), ένα γνωστό <<ακανθώδες>> σύστημα από τη φυσική συμπυκνωμένης ύλης. (Βλέπε Physics Today, Δεκέμβριος 2021, σ. 17.) Σε αντίθεση με ένα σιδηρομαγνήτη, στον οποίο οι σταθερές σύζευξης είναι όλες θετικές και το σύστημα έχει μια σαφή θεμελιώδη κατάσταση με όλα του τα σπιν ευθυγραμμισμένα, ένα υαλώδες σπιν δεν έχει σχεδόν ποτέ μια κατάσταση που να ικανοποιεί όλες τις ενεργειακές προτιμήσεις των σπιν του ταυτόχρονα. Το ενεργειακό του τοπίο είναι πολύπλοκο, με πολλά τοπικά ενεργειακά ελάχιστα.

Εικ. 1. Ένα δίκτυο Hopfield, τυπικά ισοδύναμο με ένα υαλώδες σπιν, λειτουργεί ως συνειρμική μνήμη: Όταν παρουσιάζεται μια κατάσταση που ανακαλείται μερικώς, χρησιμοποιεί έναν αλγόριθμο μείωσης της ενέργειας για να συμπληρώσει τα κενά. Οι αναμνήσεις αποθηκεύονται στην ισχύ των συζεύξεων μεταξύ των κόμβων. Όταν ο John Hopfield έδειξε ότι με τον κατάλληλο στατιστικό συνδυασμό στην ισχύ συζεύξεων το δίκτυο μπορούσε να αποθηκεύσει πολλές αναμνήσεις ταυτόχρονα, έθεσε τις βάσεις για τη σκέψη των νευρωνικών δικτύων με βάση τη φυσική. (Σχήμα από τον Freddie Pagani· φωτογραφία λαγού από τον JM Ligero Loarte/Wikimedia Commons/CC BY 3.0.)

Ο Hopfield υποστήριξε ότι το τοπίο θα μπορούσε να χρησιμεύσει ως μνήμη, με κάθε μια από τις διατάξεις που ελαχιστοποιούν την ενέργεια να χρησιμεύει ως μια κατάσταση που πρέπει να κρατηθεί στη μνήμη. Και παρουσίασε έναν κομψό τρόπο ρύθμισης των τιμών των σταθερών σύζευξης –εμπνευσμένο από αυτό που συμβαίνει στις πραγματικές συνάψεις– έτσι ώστε η μνήμη να αποθηκεύει οποιαδήποτε επιθυμητή συλλογή καταστάσεων.

Αλλά το δίκτυο Hopfield είναι θεμελιωδώς διαφορετικό από μια συνηθισμένη μνήμη υπολογιστή. Σε έναν υπολογιστή, κάθε στοιχείο των δεδομένων που πρόκειται να αποθηκευτεί κωδικοποιείται ως συμβολοσειρά από άσους και μηδενικά σε ένα συγκεκριμένο σημείο και ανακαλείται πηγαίνοντας πίσω σε αυτό το σημείο και διαβάζοντας τη συμβολοσειρά. Σε ένα δίκτυο Hopfield, όλα τα στοιχεία αποθηκεύονται ταυτόχρονα στις τιμές των σταθερών της σύζευξης ολόκληρου του δικτύου. Και μπορούν να ανακληθούν συνειρμικά, δίνοντας στο δίκτυο ένα σημείο εκκίνησης που μοιράζεται μόνο μερικά χαρακτηριστικά με μία από τις καταστάσεις που θυμάται και επιτρέποντάς του να «ηρεμήσει» στο πλησιέστερο ενεργειακό ελάχιστο. Τις περισσότερες φορές, θα ανακαλέσει την επιθυμητή μνήμη. (Βλέπε επίσης τα άρθρα του Haim Sompolinsky, Physics Today, Δεκέμβριος 1988, σ. 70, και του John Hopfield, PHYSICS Today, Φεβρουάριος 1994, σ. 40).

Και τα δύο αυτά είναι γεγονότα που συμβαίνουν στους πραγματικούς εγκεφάλους. « Ήταν πειραματικά γνωστό ότι σε ανώτερα ζώα η εγκεφαλική δραστηριότητα ήταν καλά διασκορπισμένη και ενέπλεκε πολλούς νευρώνες», λέει ο Hopfield. Και η συνειρμική μνήμη είναι κάτι που έχετε βιώσει άμεσα, αν έχετε θυμηθεί ποτέ ένα τραγούδι που έχετε ξανακούσει, αφού ακούσατε ένα τυχαίο απόσπασμά του.

Το μοντέλο του Hopfield ήταν μια τεράστια απλοποίηση ενός πραγματικού εγκεφάλου. Οι πραγματικοί νευρώνες είναι ουσιαστικά δυναμικοί, δεν χαρακτηρίζονται από στατικές καταστάσεις και οι πραγματικές συζεύξεις των νευρώνων δεν είναι συμμετρικές. Αλλά, κατά κάποιον τρόπο, αυτές οι διαφορές ήταν χαρακτηριστικά, όχι σφάλματα: έδειξαν ότι η συλλογική, συνειρμική μνήμη ήταν ένα αναδυόμενο φαινόμενο μεγάλης κλίμακας, ανθεκτικό σε λεπτομέρειες μικρής κλίμακας.

ΜΑΘΑΙΝΟΝΤΑΣ ΠΩΣ ΝΑ ΜΑΘΑΙΝΕΙΣ

«Όχι μόνο ο Hopfield είναι ένας πολύ καλός φυσικός, αλλά και το μοντέλο Hopfield είναι από μόνο του εξαιρετική φυσική”, λέει ο Leo van Hemmen, από το Τεχνικό Πανεπιστήμιο του Μονάχου. Παρ΄όλα αυτά, η διατύπωσή του το 1982 άφησε πολλά ενδιαφέροντα ανοιχτά ερωτήματα. Ο Hopfield είχε επικεντρωθεί σε προσομοιώσεις για να δείξει πώς το σύστημα «ηρεμεί» σε ένα ενεργειακό ελάχιστο· θα μπορούσε το μοντέλο να δεχθεί μια πιο στιβαρή αναλυτική αντιμετώπιση; Πόσες καταστάσεις θα μπορούσε να θυμάται το μοντέλο και τι θα συνέβαινε αν υπερφορτωνόταν; Υπήρχαν καλύτεροι τρόποι καθορισμού του μεγέθους των σταθερών σύζευξης από αυτόν που πρότεινε ο Hopfield;

Αυτές τις ερωτήσεις, και άλλες, ανέλαβε μια πληθώρα ερευνητών με σπουδές στη φυσική, οι οποίοι εμπνεύστηκαν από το έργο του Hopfield και εισήλθαν στον τομέα των νευρωνικών δικτύων κατά τη δεκαετία του 1980. «Οι φυσικοί είναι ευπροσάρμοστοι, περίεργοι και αλαζόνες –με θετικό τρόπο», λέει ο Eytan Domany, του Ινστιτούτου Επιστημών Weizmann στο Ισραήλ. «Είναι πρόθυμοι να μελετήσουν διεξοδικά και στη συνέχεια να καταπιαστούν με ένα πρόβλημα που δεν έχουν ξαναδεί, αν είναι ενδιαφέρον. Και όλοι είναι ενθουσιασμένοι με την κατανόηση του εγκεφάλου».

Ένα άλλο μέρος της γοητείας ήταν ο τρόπος με τον οποίο ο Hopfield είχε πάρει ένα παραδοσιακό πρόβλημα φυσικής και το είχε αντιστρέψει. «Στα περισσότερα προβλήματα ενεργειακού τοπίου, σας δίνονται οι μικροσκοπικές αλληλεπιδράσεις και ρωτάτε: Ποια είναι η βασική κατάσταση; Ποια είναι τα τοπικά ελάχιστα; Ποιο είναι ολόκληρο το τοπίο;», λέει ο Haim Sompolinsky, του Εβραϊκού Πανεπιστημίου της Ιερουσαλήμ. «Η εργασία του 1982 έκανε το αντίθετο. Ξεκινάμε με τις βασικές καταστάσεις που θέλουμε: τις αναμνήσεις. Και ρωτάμε: Ποιες είναι οι μικροσκοπικές αλληλεπιδράσεις που θα τις υποστηρίξουν ως βασικές καταστάσεις;»

Από εκεί και πέρα, ήταν ένα μικρό εννοιολογικό άλμα το να ρωτήσουμε: τι γίνεται αν οι ίδιες οι τιμές των σταθερών σύζευξης μπορούν να εξελιχθούν στο δικό τους ενεργειακό τοπίο; Δηλαδή, αντί το σύστημα να είναι προγραμματισμένο εκ των προτέρων με παραμέτρους για την κωδικοποίηση συγκεκριμένων μνημών, να μπορεί να αυτοβελτιώνεται με τη μάθηση;

Η μηχανική μάθηση σε νευρωνικά δίκτυα είχε δοκιμαστεί και στο παρελθόν. Το perceptron –μια συσκευή που μοιάζει με νευρωνικό δίκτυο και ταξινομεί εικόνες σε απλές κατηγορίες, όπως κύκλους και τετράγωνα– χρονολογείται από τη δεκαετία του 1950. Όταν του δόθηκε μια σειρά από εικόνες για εκπαίδευση και ένας απλός αλγόριθμος για την επικαιροποίηση των συνδέσεων μεταξύ των νευρώνων του, μπορούσε τελικά να μάθει να ταξινομεί σωστά ακόμη και εικόνες που δεν είχε ξαναδεί.

Αλλά το perceptron δεν λειτουργούσε πάντα καθώς με τον τρόπο που ήταν δομημένο το δίκτυο, μερικές φορές δεν υπήρχε κανένας τρόπος να ρυθμιστούν οι τιμές των σταθερών σύζευξης για να εκτελέσει την επιθυμητή ταξινόμηση. «Όταν συνέβαινε αυτό, θα μπορούσατε να επαναλαμβάνετε (την λειτουργία) για πάντα και ο αλγόριθμος δεν θα συνέκλινε ποτέ», λέει ο van Hemmen. «Αυτό ήταν ένα μεγάλο σοκ». Χωρίς μια κατευθυντήρια αρχή για την χάραξη μιας πορείας προς τα εμπρός, το πεδίο είχε βαλτώσει.

ΒΡΙΣΚΟΝΤΑΣ ΚΟΙΝΟ ΤΟΠΟ  

Ο Hinton δεν ήρθε στα νευρωνικά δίκτυα έχοντας υπόβαθρο στη φυσική. Αλλά ο συνεργάτης του, Terrence Sejnowski –ο οποίος είχε πάρει το διδακτορικό του από τον Hopfield το 1978– είχε τέτοιο υπόβαθρο. Μαζί, επέκτειναν το δίκτυο Hopfield σε κάτι που ονόμασαν μηχανή Boltzmann, η οποία επέκτεινε σημαντικά τις δυνατότητες του μοντέλου χρησιμοποιώντας ξεκάθαρα έννοιες της στατικής φυσικής.^[4]

Στις προσομοιώσεις του ο Hopfield το 1982, είχε ουσιαστικά διερευνήσει το καθαρό έργο του υαλώδους σπιν σε μηδενική θερμοκρασία επιτρέποντας στο σύστημα να εξελίξει την κατάστασή του μόνο με τρόπους που θα μείωναν τη συνολική του ενέργεια. Με αυτόν τον τρόπο, όποια κι αν ήταν η αρχική κατάσταση, κατέληγε σε ένα κοντινό τοπικό ενεργειακό ελάχιστο και παρέμενε εκεί.

«Ο Τέρι και εγώ αρχίσαμε αμέσως να σκεφτόμαστε τη στοχαστική εκδοχή, με μη μηδενική θερμοκρασία», λέει ο Hinton. Αντί για έναν ντετερμινιστικό κανόνα μείωσης της ενέργειας, χρησιμοποίησαν έναν αλγόριθμο Monte Carlo που επέτρεπε στο σύστημα να μεταπηδά περιστασιακά σε μια κατάσταση υψηλότερης ενέργειας. Δοθέντος αρκετού χρόνου, μια στοχαστική προσομοίωση του δικτύου θα εξερευνούσε ολόκληρο το ενεργειακό τοπίο και θα κατέληγε σε μια κατανομή πιθανοτήτων Boltzmann, με όλες τις καταστάσεις χαμηλής ενέργειας –ανεξάρτητα από το αν είναι τοπικά ενεργειακά ελάχιστα– να αντιπροσωπεύονται με υψηλή πιθανότητα.

«Και το 1983, ανακαλύψαμε έναν πολύ όμορφο τρόπο για τη μάθηση», λέει ο Hinton. Όταν το δίκτυο τροφοδοτούνταν με δεδομένα για εκπαίδευση αυτά αναβάθμιζαν επαναληπτικά την τιμή των σταθερών σύζευξης, έτσι ώστε οι καταστάσεις των δεδομένων να έχουν υψηλή πιθανότητα στην κατανομή Boltzmann.^[5] Επιπλέον, όταν τα εισερχόμενα δεδομένα είχαν κάτι κοινό –όπως οι εικόνες με τον αριθμόν 3 στην Εικ. 2– τότε άλλες καταστάσεις υψηλής πιθανότητας θα μοιράζονταν τα ίδια κοινά χαρακτηριστικά.

Εικόνα 2. Η ΜΗΧΑΝΗ BOLTZMANN επεκτείνει το δίκτυο Hopfield με δύο τρόπους: Επαυξάνει το δίκτυο για να συμπεριλάβει και κρυμμένους κόμβους (φαίνονται στο κέντρο του δικτύου με γκρι χρώμα) που δεν εμπλέκονται στην κωδικοποίηση δεδομένων και λειτουργεί σε μη μηδενική πραγματική θερμοκρασία, έτσι ώστε ολόκληρος ο χώρος των διατάξεων να μπορεί να χαρακτηριστεί από μια κατανομή πιθανοτήτων Boltzmann. Ο Geoffrey Hinton και οι συνεργάτες του ανέπτυξαν έναν τρόπο εκπαίδευσης της μηχανής Boltzmann ως γενετικού μοντέλου: Όταν της παρουσιάζονταν ως εισροές διάφορα στοιχεία που είχαν όλα ένα κοινό χαρακτηριστικό, παρήγαγε περισσότερα στοιχεία του ίδιου τύπου. (Σχήμα από τον Freddie Pagani.)

Το βασικό συστατικό για την εύρεση αυτού του είδους κοινών στοιχείων ήταν η επαύξηση του δικτύου, ώστε να περιλαμβάνει περισσότερους κόμβους από αυτούς που κωδικοποιούν τα δεδομένα. Αυτοί οι κρυφοί κόμβοι, που απεικονίζονται με γκρι χρώμα στην Εικ.2, επιτρέπουν στο σύστημα να καταγράφει συσχετίσεις υψηλότερου επιπέδου μεταξύ των δεδομένων.

Κατ’ αρχήν, η μηχανή Boltzmann θα μπορούσε να χρησιμοποιηθεί για τη μηχανική αναγνώριση ενός χειρόγραφου ή για τη διάκριση μεταξύ κανονικών και έκτακτων συνθηκών σε μια εγκατάσταση όπως ένας σταθμός παραγωγής ενέργειας. Δυστυχώς, ο αλγόριθμος μάθησης της μηχανής Boltzmann είναι απαγορευτικά αργός για τις περισσότερες πρακτικές εφαρμογές. Παρέμεινε θέμα ακαδημαϊκής έρευνας, αλλά δεν βρήκε μεγάλη χρήση στον πραγματικό κόσμο –μέχρι που έκανε μια εκπληκτική επανεμφάνιση αρκετά χρόνια αργότερα.

ΠΩΣ ΔΟΥΛΕΥΟΥΝ ΤΑ ΔΙΚΤΥΑ

Περίπου την ίδια εποχή, ο Hinton εργαζόταν με τον γνωστικό επιστήμονα David Rumelhart πάνω σε έναν άλλο αλγόριθμο μάθησης, ο οποίος θα γινόταν το μυστικό της επιτυχίας σχεδόν όλων των σημερινών νευρωνικών δικτύων: οπισθοδιάδοση (backpropagation).^[6] Ο αλγόριθμος αναπτύχθηκε για ένα διαφορετικό είδος αρχιτεκτονικής δικτύου, που ονομάζεται δίκτυο πρόσθιας τροφοδότησης (feedforward network), όπως φαίνεται στην Εικ.3. Σε αντίθεση με το δίκτυο Hopfield και τη μηχανή Boltzmann, με τις αμφίδρομες συνδέσεις μεταξύ των κόμβων, τα σήματα σε ένα δίκτυο πρόσθιας τροφοδότησης ρέουν προς μία μόνο κατεύθυνση: από ένα επίπεδο νευρώνων εισόδου, μέσω κάποιου αριθμού κρυφών επιπέδων, στην έξοδο. Μια παρόμοια αρχιτεκτονική είχε χρησιμοποιηθεί στο πολυεπίπεδο perceptron.

Ας υποθέσουμε ότι θέλετε να εκπαιδεύσετε ένα δίκτυο πρόσθιας τροφοδότησης για την ταξινόμηση εικόνων. Του δίνετε μια εικόνα ενός κουνελιού και θέλετε να παράγει το μήνυμα εξόδου «Αυτό είναι ένα κουνέλι». Αλλά κάτι δεν πάει καλά και αντ’ αυτού λαμβάνετε το μήνυμα εξόδου «Αυτό είναι χελώνα». Πώς μπορείτε να επαναφέρετε τα πράγματα στη σωστή πορεία; Το δίκτυο μπορεί να έχει δεκάδες ή εκατοντάδες –ή σήμερα, τρισεκατομμύρια– συνδέσεις μεταξύ κόμβων που συμβάλλουν στην έξοδο, η καθεμία με το δικό της αριθμητικό βάρος. Συνεπώς ο αριθμός των τρόπων που υπάρχουν για να τους ρυθμίσετε όλους, ώστε να προσπαθήσετε να πάρετε την έξοδο που θέλετε, είναι ασύλληπτος.

Η οπισθοδιάδοση λύνει αυτό το πρόβλημα μέσω του αλγόριθμου καθοδικής πορείας κατά μήκος της κλίσης (gradient descent): Πρώτα, ορίζετε μια συνάρτηση σφάλματος που προσδιορίζει πόσο απέχει η έξοδος που πήρατε από την έξοδο που θέλετε. Στη συνέχεια, υπολογίζετε τις μερικές παραγώγους της συνάρτησης σφάλματος με κριτήριο κάθε ένα από τα ενδοκομβικά βάρη –ένα απλό θέμα επανειλημμένης εφαρμογής του αλυσιδωτού κανόνα του λογισμού. Τέλος, χρησιμοποιείτε αυτές τις παραγώγους για να προσαρμόσετε τα βάρη με τρόπο που να μειώνει το σφάλμα.

Εικ. 3. Ένα δίκτυο πρόσθιας τροφοδότησης, εκπαιδευμένο με οπισθοδιάδοση, είναι η βασική δομή των νευρωνικών δικτύων που χρησιμοποιούνται σήμερα. Περνώντας αριθμητικά σήματα από ένα επίπεδο εισόδου μέσω κρυφών επιπέδων σε ένα επίπεδο εξόδου, τα δίκτυα πρόσθιας τροφοδότησης εκτελούν λειτουργίες που περιλαμβάνουν την ταξινόμηση εικόνων και την παραγωγή κειμένου. (Εικόνα από τον Freddie Pagani· φωτογραφία κουνελιού από τον JM Ligero Loarte/Wikimedia Commons/CC BY 3.0· χαϊκού^[i] που δημιουργήθηκε από τον GPT-4, OpenAI, 22 Οκτωβρίου 2024).

Μπορεί να χρειαστούν πολλές επαναλήψεις για να περιοριστεί το σφάλμα αρκετά κοντά στο μηδέν –και θα θέλετε να βεβαιωθείτε ότι το δίκτυο δίνει το σωστό αποτέλεσμα για πολλά εισερχόμενα δεδομένα, όχι μόνο για ένα. Αλλά αυτά τα βασικά βήματα χρησιμοποιούνται για την εκπαίδευση όλων των ειδών των δικτύων, συμπεριλαμβανομένων των ταξινομητών εικόνων βάσει επαλήθευσης-της-γενικής-ιδέας και των μεγάλων γλωσσικών μοντέλων, όπως το ChatGPT.

Η μέθοδος του αλγόριθμου καθοδικής πορείας κατά μήκος της κλίσης είναι διαισθητικά κομψή και δεν ήταν καινούρια εννοιολογικά. «Αλλά έπρεπε να συγκεντρωθούν πολλά στοιχεία για να λειτουργήσει η ιδέα της οπισθοδιάδοσης», λέει ο McClelland. «Δεν μπορείτε να πάρετε την παράγωγο κάποιου πράγματος αν αυτό δεν είναι παραγωγίσιμο». Οι πραγματικοί νευρώνες λειτουργούν λίγο-πολύ σε διακριτές καταστάσεις ενεργοποίησης και απενεργοποίησης, και το αρχικό δίκτυο Hopfield, η μηχανή Boltzmann και το perceptron ήταν όλα διακριτά μοντέλα. Για να λειτουργήσει η οπισθοδιάδοση, ήταν απαραίτητο να μεταβούμε σε ένα μοντέλο στο οποίο οι καταστάσεις των κόμβων μπορούν να πάρουν ένα συνεχές φάσμα τιμών. Αλλά αυτά τα δίκτυα συνεχών τιμών είχαν ήδη εισαχθεί, μεταξύ άλλων σε μια εργασία του Hopfield το 1984.^[7]

Μια δεύτερη καινοτομία έπρεπε να περιμένει για καιρό. Η οπισθοδιάδοση λειτούργησε καλά για δίκτυα με μερικά μόνο επίπεδα. Αλλά όταν ο αριθμός των επιπέδων πλησίαζε τα πέντε ή και περισσότερα –ένας ασήμαντος αριθμός για τα δεδομένα της εποχής– ορισμένες από τις επιμέρους παραγώγους ήταν τόσο μικρές που η εκπαίδευση διαρκούσε πολύ ώστε πρακτικά να ήταν ανέφικτη.

Στις αρχές της δεκαετίας του 2000, ο Hinton βρήκε μια λύση, η οποία περιλάμβανε την παλιά του μηχανή Boltzmann –ή μάλλον μια λεγόμενη περιορισμένη εκδοχή της, στην οποία οι μόνες συνδέσεις είναι αυτές μεταξύ ενός κρυμμένου νευρώνα και ενός ορατού (μη κρυμμένου) νευρώνα.^[8] Οι περιορισμένες μηχανές Boltzmann (Restricted Boltzmann Machines, RBM) είναι εύκολο να μοντελοποιηθούν υπολογιστικά, επειδή κάθε ομάδα νευρώνων –ορατών και κρυφών– θα μπορούσε να επικαιροποιηθεί ταυτόχρονα και τα αριθμητικά βάρη σύνδεσης θα μπορούσαν να ρυθμιστούν όλα μαζί σε ένα μόνο βήμα. Η ιδέα του Hinton ήταν να απομονώσει ζεύγη διαδοχικών επιπέδων σε ένα δίκτυο πρόσθιας τροφοδότησης, να τα εκπαιδεύσει σαν να επρόκειτο για RBM για να προσεγγίσει τα αριθμητικά βάρη και, στη συνέχεια, να συντονίσει το σύνολο του δικτύου χρησιμοποιώντας οπισθοδιάδοση.

«Ήταν κάπως άκομψο, αλλά δούλεψε και ο κόσμος ενθουσιάστηκε», λέει ο Graham Taylor, του Πανεπιστημίου του Guelph στον Καναδά, ο οποίος πήρε το διδακτορικό του υπό την επίβλεψη του Hinton το 2009. «Ήταν πλέον δυνατό να εκπαιδεύσουμε δίκτυα με πέντε, έξι, επτά επίπεδα. Οι άνθρωποι τα αποκαλούσαν «βαθιά» δίκτυα και άρχισαν να χρησιμοποιούν τον όρο βαθεία μάθηση (deep learning).

Το τέχνασμα με τις RBM δεν χρησιμοποιήθηκε για πολύ. Η υπολογιστική ισχύς εξελισσόταν τόσο γρήγορα –ιδιαίτερα με τη συνειδητοποίηση ότι οι μονάδες επεξεργασίας γραφικών (GPU) ήταν ιδανικά κατάλληλες για τους υπολογισμούς που απαιτούνταν για τα νευρωνικά δίκτυα– ώστε μέσα σε λίγα χρόνια, ήταν δυνατό να επιτευχθεί οπισθοδιάδοση σε ακόμη μεγαλύτερα δίκτυα από την αρχή, χωρίς να απαιτούνται RBM.

«Αν η μάθηση μέσω RBM δεν είχε συμβεί, θα είχαν εμφανιστεί οι GPU ούτως ή άλλως;» αναρωτιέται ο Taylor. «Αυτό είναι συζητήσιμο. Αλλά ο ενθουσιασμός γύρω από τις RBM άλλαξε το τοπίο: οδήγησε στην επιστράτευση και εκπαίδευση νέων φοιτητών και σε νέους τρόπους σκέψης. Νομίζω πως, τουλάχιστον, δεν θα είχε συμβεί με τον ίδιο τρόπο».

O, ΤΙ ΕΙΝΑΙ ΚΑΙΝΟΥΡΙΟ ΕΙΝΑΙ ΠΑΛΙΟ

Τα σημερινά δίκτυα χρησιμοποιούν εκατοντάδες ή χιλιάδες επίπεδα, αλλά η μορφή τους είναι ελάχιστα διαφορετική από εκείνη που περιέγραψε ο Hinton. «Έμαθα για τα νευρωνικά δίκτυα από βιβλία της δεκαετίας του 1980», λέει ο Bernhard Mehlig, του Πανεπιστημίου του Γκέτεμποργκ στη Σουηδία. «Όταν άρχισα να τα διδάσκω, συνειδητοποίησα ότι τα περισσότερα δεν είναι καινούργια. Είναι, επί της ουσίας, παλιά πράγματα». Ο Mehlig σημειώνει ότι σε ένα εγχειρίδιο που έγραψε, το οποίο εκδόθηκε το 2021, το πρώτο από τα τρία μέρη αφορά στον Hopfield και το δεύτερο στον Hinton.

Τα νευρωνικά δίκτυα επηρεάζουν πλέον έναν τεράστιο αριθμό ανθρώπινων προσπαθειών, εμπλέκονται στην ανάλυση δεδομένων, στις αναζητήσεις στο διαδίκτυο και στη δημιουργία γραφικών. Είναι ευφυή; Είναι εύκολο να απορρίψει κανείς το ερώτημα αυτό χωρίς πολύ σκέψη. «Πάντα υπήρχαν πολλά πράγματα που οι μηχανές μπορούσαν να κάνουν καλύτερα από τους ανθρώπους», λέει ο Sankar Das Sarma του Πανεπιστημίου του Μέριλαντ. «Αυτό δεν έχει καμία σχέση με το να γίνουνε άνθρωποι. Το ChatGPT είναι εντυπωσιακά καλό σε ορισμένα πράγματα, αλλά σε πολλά άλλα δεν πλησιάζει καν ένα μωρό δύο ετών».

Μια ενδεικτική σύγκριση είναι το τεράστιο χάσμα δεδομένων μεταξύ των σημερινών νευρωνικών δικτύων και των ανθρώπων.^[9] Ένας εγγράμματος 20 ετών μπορεί να έχει διαβάσει και ακούσει μερικές εκατοντάδες εκατομμύρια λέξεις στη ζωή του μέχρι τώρα. Αντίθετα, τα μεγάλα γλωσσικά μοντέλα εκπαιδεύονται σε εκατοντάδες δισεκατομμύρια λέξεις, αριθμός που αυξάνεται με κάθε νέα έκδοση. Όταν συνυπολογίσετε το γεγονός ότι το ChatGPT έχει το πλεονέκτημα μιας εμπειρίας ζωής χίλιες φορές μεγαλύτερης από εσάς, οι ικανότητές του μπορεί να φαίνονται λιγότερο σαν νοημοσύνη. Ίσως όμως να μην έχει σημασία αν η τεχνητή νοημοσύνη αποτυγχάνει σε κάποιες εργασίες, αν είναι καλή στον σωστό συνδυασμό άλλων.

Οι Hinton και Hopfield έχουν και οι δύο αναφερθεί στους κινδύνους της ανεξέλεγκτης τεχνητής νοημοσύνης. Ανάμεσα στα επιχειρήματά τους είναι η ιδέα ότι μόλις οι μηχανές γίνουν ικανές να αναλύουν τους στόχους σε επιμέρους στόχους, θα συμπεράνουν γρήγορα ότι μπορούν να κάνουν σχεδόν κάθε εργασία ευκολότερη για τον εαυτό τους, εδραιώνοντας τη δική τους δύναμη. Και επειδή τα νευρωνικά δίκτυα είναι συχνά επιφορτισμένα με τη συγγραφή κώδικα για άλλους υπολογιστές, το να σταματήσει η ζημιά δεν είναι τόσο απλό όσο το να τραβήξει κανείς την πρίζα από μια μεμονωμένη μηχανή.

«Υπάρχουν επίσης άμεσοι κίνδυνοι που αντιμετωπίζουμε αυτή τη στιγμή», λέει ο Mehlig. «Υπάρχουν κείμενα γραμμένα από υπολογιστή και ψεύτικες εικόνες που χρησιμοποιούνται για να ξεγελάσουν τους ανθρώπους και να επηρεάσουν τις εκλογές. Νομίζω ότι μιλώντας για την κατάκτηση του κόσμου από τους υπολογιστές, οι άνθρωποι παίρνουν λιγότερο σοβαρά τους άμεσους κινδύνους».

ΤΙ ΜΠΟΡΟΥΝ ΝΑ ΚΑΝΟΥΝ ΟΙ ΦΥΣΙΚΟΙ;

Μεγάλο μέρος της ανησυχίας προέρχεται από το γεγονός ότι είναι πολύ λίγα γνωστά για το τι πραγματικά κάνουν τα νευρωνικά δίκτυα: Πώς μέσα από δισεκατομμύρια πολλαπλασιασμούς πινάκων καταλήγουμε να είμαστε σε θέση να βρίσκουμε πρωτεϊνικές δομές ή να γράφουμε ποίηση; «Οι άνθρωποι στις μεγάλες εταιρείες ενδιαφέρονται περισσότερο για την παραγωγή εσόδων, παρά για την κατανόηση», λέει ο Das Sarma. «Η κατανόηση απαιτεί περισσότερο χρόνο. Η δουλειά των θεωρητικών είναι να κατανοούν τα φαινόμενα, και αυτό είναι ένα τεράστιο φυσικό φαινόμενο που εκκρεμεί να κατανοηθεί από εμάς. Οι φυσικοί πρέπει να ενδιαφέρονται γι’ αυτό».

«Είναι δύσκολο να μην είσαι ενθουσιασμένος με αυτό που συμβαίνει και είναι δύσκολο να μην

παρατηρήσουμε πως δεν καταλαβαίνουμε», λέει ο Bialek. «Αν θέλετε να πείτε ότι τα πράγματα είναι αναδυόμενα, ποια είναι η παράμετρος τάξης και τι είναι αυτό που έχει αναδυθεί; Η φυσική έχει έναν τρόπο να κάνει αυτό το ερώτημα πιο συγκεκριμένο. Θα αποφέρει αυτή η προσέγγιση γνώση; Θα το δούμε».

Προς το παρόν, τα μεγαλύτερα ερωτήματα εξακολουθούν να είναι κατακλυσμιαία. «Αν υπήρχε κάτι προφανές που θα ερχόταν στο μυαλό μας, θα υπήρχε μια ορδή ανθρώπων που θα προσπαθούσαν να το λύσουν», λέει ο Hopfield. «Αλλά κάτι τέτοιο δεν συμβαίνει επειδή κανείς δεν ξέρει από πού να ξεκινήσει».

Ωστόσο, μερικά ερωτήματα μικρότερης κλίμακας είναι πιο εύκολα αντιμετωπίσιμα. Για παράδειγμα, γιατί η οπισθοδιάδοση μειώνει το σφάλμα του δικτύου κοντά στο μηδέν με τέτοια αξιοπιστία, αντί να «κολλάει» σε υψηλά τοπικά ελάχιστα, όπως κάνει το δίκτυο Hopefield; «Υπήρξε μια πολύ καλή εργασία πάνω σε αυτό πριν από μερικά χρόνια από τον Surya Ganguli στο Στάνφορντ», λέει η Sara Solla του Πανεπιστημίου Nortwestern. «Διαπίστωσε ότι τα περισσότερα υψηλά ελάχιστα είναι στην πραγματικότητα σαγματικά σημεία^[10]: Είναι ένα ελάχιστο σε πολλές διαστάσεις, αλλά υπάρχει πάντα μία στην οποία δεν είναι. Έτσι, αν συνεχίσετε να προσπαθείτε, τελικά θα βρείτε τη διέξοδο».

Όταν οι ερευνητές με εκπαίδευση φυσικού εργάζονται σε τέτοια προβλήματα, εξακολουθούν να ασχολούνται με τη φυσική; Ή έχουν αφήσει τη φυσική πίσω τους για κάτι άλλο; Αν η «φυσική» ορίζεται ως η μελέτη του φυσικού, υλικού κόσμου, αυτό αναμφισβήτητα θα απέκλειε τα τεχνητά νευρωνικά δίκτυα, τα οποία μέχρι τώρα είναι εξ ολοκλήρου αφηρημένες, ανθρώπινες κατασκευές με ελάχιστη ομοιότητα με τους βιολογικούς νευρώνες. «Δεν φτιάχνουμε αεροπλάνα που κουνάνε τα φτερά τους», λέει η Solla. «Και η οπισθοδιάδοση είναι ένας εντελώς μη ρεαλιστικός μηχανισμός σε έναν πραγματικό εγκέφαλο. Ο κατασκευαστικός στόχος είναι να φτιάξουμε μια μηχανή που να λειτουργεί. Η φύση μας δίνει κάποια εικόνα, αλλά η καλύτερη λύση δεν είναι απαραίτητα να την αντιγράψουμε».

Πρέπει, όμως, η φυσική να ορίζεται αποκλειστικά από το αντικείμενό της; «Στα διεπιστημονικά πεδία, αυτό που κάνει τη διαφορά μεταξύ των επιστημονικών κλάδων –μαθηματικών, πληροφορικής και φυσικής– είναι οι μέθοδοι και οι νοοτροπίες τους», λέει η Francesca Mignacco από το Πρίνστον. «Είναι συμπληρωματικές, αλλά διαφορετικές. Τα μοντέλα των νευρωνικών δικτύων είναι τόσο πολύπλοκα που είναι δύσκολο να επιτευχθούν αυστηρές μαθηματικές περιγραφές. Αλλά η στατιστική φυσική διαθέτει ακριβώς τα εργαλεία για να αντιμετωπίσει την πολυπλοκότητα των συστημάτων υψηλής διάστασης. Προσωπικά, ποτέ δεν σταμάτησα να θέτω ερωτήματα μόνο και μόνο επειδή μπορεί να είναι ή να μην είναι φυσική».

«Η φυσική περιορίζεται μόνο από την επινοητικότητα των ανθρώπων που εφαρμόζουν μεθόδους της φυσικής σε συστήματα στον πραγματικό κόσμο», λέει ο Hopfield. «Μπορείτε να είστε προκατειλημμένοι με αυτό ή μπορείτε να υποδεχθείτε την εφαρμοσμένη φυσική. Εγώ είμαι ένας από τους φιλόξενους».

ΕΥΧΑΡΙΣΤΙΕΣ

Reproduced from Nobel Prize highlights neural networks’ physics roots. The road to the modern machine-learning marvels was paved with ideas from statistical mechanics and collective phenomena. Physics Today 77 (12), 12–16 (2024); (https://doi.org/10.1063/pt.qjmx.snxw) with the permission of the American Institute of Physics.

ΣΗΜΕΙΩΣΕΙΣ

[1] Μετάφραση του ρητού στην αγγλική «Garbage in, garbage out» [ΣτΕ].

[2] Τηλεπαιχνίδι γνώσεων [ΣτΜ].

[3] Hopfield, J., J., 1982. Neural networks and physical systems with emergent collective computational abilities. Proc. Natl. Acad. Sci. USA 79, 2554, 1982. https://www.pnas.org/doi/pdf/10.1073/pnas.79.8.2554

[4] Fahlman, S., Ε., Hinton, G., E., and Sejnowski, T. J., 1983. Massively Parallel Architectures for Al: NETL, Thistle, and Boltzmann Machines, in Proceedings of the AAAI Conference on Artificial Intelligence, 3, Association for the Advancement of Artificial Intelligence, 1983, p. 109. https://aaai.org/papers/00109-aaai83-087-massively-parallel-architectures-for-al-netl-thistle-and-boltzmann-machines/

[5] Ackley, D., H., Hinton, G., E., Sejnowski, T., J., 1985. A learning algorithm for Boltzmann machines. Cogn. Sci. 9, 147. https://www.sciencedirect.com/science/article/pii/S0364021385800124

[6] Rumelhart, D., E., Hinton, G., E., and Williams, R. J., 1986. Learning representations by back-propagating errors. Nature 323, 533. https://www.nature.com/articles/323533a0

[7] Hopfield, J., J., 1984. Neurons with graded response have collective computational properties like those of two-state neurons. Proc. Natl. Acad. Sci. USA 81, 3088. https://www.pnas.org/doi/10.1073/pnas.81.10.3088

[8] Hinton, G., E., 2002. Training Products of Experts by Minimizing Contrastive Divergence. Neural Comput. 14, 1771. https://direct.mit.edu/neco/article-abstract/14/8/1771/6687/Training-Products-of-Experts-by-Minimizing?redirectedFrom=fulltext; Hinton, G., E., Osindero, S., Teh, Y.,-W., 2006. A fast learning algorithm for deep belief nets. Neural Comput. 18, 1527. https://pubmed.ncbi.nlm.nih.gov/16764513/

[9] Frank, M., C., 2023. Bridging the data gap between children and large language models. Trends Cogn. Sci. 27, 990. https://www.sciencedirect.com/science/article/abs/pii/S1364661323002036

[10] Κρίσιμα σημεία στην επιφάνεια της γραφικής παράστασης μιας συνάρτησης, όπου οι μερικές παράγωγοι προς όλες τις κατευθύνσεις έχουν την τιμή μηδέν, τα οποία δεν είναι τοπικά ακρότατα (μέγιστα ή ελάχιστα) [ΣτΜ].

[i] Ιαπωνική ποιητική φόρμα [ΣτΕ].

Καλλίτσα Βλάχου

«Το θηρίο/ La Bête» (2023) του  Μπερτράν Μπονελό, με τους Λεά Σεϊντού, Τζορτζ ΜακΚέι, Ελίνα Λόβενσον

-Δώστε μου έναν καλό λόγο για να σας βοηθήσω να βρείτε μία άλλη δουλειά.
-Είμαι ευφυής
-Ξέρετε η ευφυΐα είναι το μόνο που δεν υπάρχει σε έλλειψη.
-Από την ευφυΐα στην οποία αναφέρεστε, λείπει η ανθρωπιά.
-Η ευφυΐα στην οποία αναφέρομαι έσωσε την ανθρωπότητα.
-Εγώ μιλάω για ανθρωπιά. Ανθρώπινη παρουσία.
-Η Τ.Ν έχει γίνει υπεύθυνη και δίκαιη. Και συνεπώς ανθρώπινη. Είναι τεράστια πρόοδος.

Ο παραπάνω διάλογος, λαμβάνει χώρα το έτος 2044. Ο πλανήτης το 2025 κινδύνεψε να καταστραφεί, αλλά «σώθηκε» χάριν της τεχνητής νοημοσύνης (Τ.Ν). Η Γκαμπριέλ ζητά από τον υπεύθυνο ανθρώπινου δυναμικού, ο οποίος δεν εμφανίζεται μπροστά της, αλλά ακούμε μόνο τη φωνή του, να της δώσει την ευκαιρία να εργαστεί σε έναν τομέα που να έχει περισσότερο ενδιαφέρον για εκείνη, που να της δίνει τη δυνατότητα να αξιοποιήσει τις ικανότητες και δεξιότητες που διαθέτει. Εκείνος θεωρεί ότι η ευφυΐα δεν αποτελεί το βασικό προσόν, αφού αυτή μπορεί να εξασφαλιστεί και σε πολύ μεγαλύτερη δόση από τις μηχανές Τ.Ν. Και σύμφωνα με τα λεγόμενά του, η Τ.Ν δεν διαθέτει μόνο πολύ περισσότερη ευφυΐα από τον άνθρωπο, αλλά και υπευθυνότητα καθώς επίσης και την ικανότητα να αποδίδει το δίκαιο. Χαρακτηριστικά που κατά την άποψη του προϊσταμένου, την κάνουν ανθρώπινη.

Αξίζει όμως εδώ να επικεντρωθούμε λίγο παραπάνω στις έννοιες ευφυΐα, ανθρωπιά, νόηση και νοημοσύνη. Η νοημοσύνη μιας μηχανής αναφέρεται στην ικανότητα της μηχανής να επεξεργάζεται πληροφορίες και να προβαίνει σε μία λογική σκέψη που υπαγορεύεται από τους αλγόριθμους που εκπαιδεύουν τα μοντέλα μηχανικής μάθησης να επιλύουν προβλήματα, να λαμβάνουν αποφάσεις και να κάνουν προβλέψεις, βάσει των δεδομένων που τους δίνονται. Η νόηση από την άλλη, είναι η ικανότητα να κατανοούμε το νόημα ή τον σκοπό πίσω από την παρεχόμενη πληροφορία που αυτό με τη σειρά του προϋποθέτει την αναγωγή των πληροφοριών μέσα στο ευρύτερο κοινωνικό, πολιτισμικό και ιστορικό περιβάλλον στο οποίο αυτές παρέχονται. (Μαυρόπουλος, 2023:46). Απαιτεί δηλαδή την ικανότητα αντίληψης του κοινωνικού, πολιτισμικού και συναισθηματικού πλούτου που συνοδεύει αυτές τις πληροφορίες. Στη νόηση λοιπόν θα συναντήσουμε το συναίσθημα, εκεί και την ανθρωπιά στην οποία αναφέρεται η Γκαμπριέλ.

Στο αίτημα της Γκαμπριέλ για μια θέση εργασίας αντάξια των δυνατοτήτων της, όπου η ίδια θα νιώθει ότι δημιουργεί και είναι χρήσιμη, υπό την έννοια ότι δεν θα εκτελεί ρομποτοποιημένες κινήσεις που μπορεί να εκτελέσει και ένα μηχάνημα στη θέση της, ο υπεύθυνος της απαντά πως αυτό μπορεί να συμβεί υπό μία μόνο προϋπόθεση. Να δεχτεί να υποβληθεί σε μία διαδικασία εξαγνισμού του DNA της, προκειμένου μέσω αυτής της διαδικασίας να απαλλαγεί από τα συναισθηματικά βάρη που προκαλούνται από τραυματικές μνήμες προηγούμενων ζωών της που έχουν εγγραφεί στο DNA και μεταφέρονται από γενιά σε γενιά. Η Γκαμπριέλ δέχεται να υποβληθεί σε αυτή τη διαδικασία, διατηρώντας πολλές επιφυλάξεις για την αποτελεσματικότητά της και κυρίως πολλά ερωτηματικά για το πώς θα είναι η ίδια μετά από αυτή τη διαδικασία στην οποία θα έχει υποβληθεί, όταν τα αρνητικά συναισθήματα από τραυματικές εμπειρίες των παρελθόντων ζωών της αλλά και της παρούσης, θα έχουν εξαφανιστεί. Όταν ένα μεγάλο μέρος της συλλογικής της μνήμης θα έχει απολεστεί.

Κάτι που δεν λαμβάνει υπόψιν του ο υπεύθυνος ή και που σκοπίμως έχει εκπαιδευτεί στο να αγνοεί, είναι πως η νόηση είναι άμεσα συνυφασμένη με τις αναμνήσεις, αφού η νόηση, συνίσταται στην ικανότητα του ατόμου να αποκτά γνώσεις μέσω των αναπαραστάσεων του εξωτερικού περιβάλλοντος τις οποίες αποθηκεύει με τη μορφή των αναμνήσεων και τις οποίες με τη σειρά τους ανακαλεί όταν αναπολεί, σκέφτεται και συμπεριφέρεται. Όταν δηλαδή λειτουργεί ανθρώπινα.

Κατά τη διάρκεια της διαδικασίας της κάθαρσης, η Γκαμπριέλ επιστρέφει στις προηγούμενες ζωές της ξεκινώντας από το 1910 στη Γαλλία, συνεχίζοντας στο 2014 στο Λος Άντζελες και φτάνοντας στο μέλλον, το 2044 την εποχή της τεχνητής νοημοσύνης. Ο συνεκτικός ιστός που ενώνει το μεγάλο ταξίδι της Γκαμπριέλ στον χωροχρόνο είναι το σταθερό ζευγάρι που συναντάμε που απαρτίζεται από την ίδια και τον Λούις, καθώς και κάποια πολύ έντονα συναισθήματα που βιώνει η Γκαμπριέλ και στις τρεις διαφορετικές εποχές. Συναισθήματα που εκδηλώνονται μέσα από τη σχέση που αναπτύσσει με τον Λούις. Συναισθήματα που προκαλούνται κάτω από διαφορετικές συνθήκες και αιτίες, ωστόσο όμως είναι κοινά. Είναι ο φόβος για κάτι που πρόκειται να συμβεί, αλλά που δεν γνωρίζει η ίδια τι είναι αυτό το τρομακτικό που πρόκειται να συμβεί στη ζωή της. Σιγά σιγά όμως μας αποκαλύπτεται. Είναι η μοναξιά που διαπερνά όλες τις ζωές της. Είναι η θλίψη που προκαλείται από την δυσκολία επικοινωνίας ανάμεσά σε εκείνη και τον Λούις, από την διαπίστωση ότι δύο άτομα θα μπορούσαν να πλησιάσουν πολύ το ένα το άλλο, αλλά ο ατομοκεντρισμός και ο φόβος (φόβος της απόρριψης, φόβος της απώλειας, φόβος της προδοσίας) τους κράτησαν μακριά, έτσι που η ερωτική έλξη που αναπτύχθηκε ανάμεσά τους να μην σταθεί ικανή να υπερπηδήσει τα εμπόδια που τους κρατούσαν περιχαρακωμένους σε αυτούς τους φόβους.

Οι ανθρωπόμορφες μηχανές στο «Blade Runner» αντιμέτωπες με το «Θηρίο» στον κόσμο του «Matrix»

Τι φοβάται η Γκαμπριέλ του 1910; Φοβάται να εκδηλώσει το πάθος, τον έρωτά της προς τον Λούις. Φοβάται ότι το ερωτικό της πάθος θα την παρασύρει σε μονοπάτια που δεν τα έχει προχωρήσει, θα ανατρέψει τις ισορροπίες της, θα χάσει τον έλεγχο της ζωής της. Φοβάται ότι ο έρωτάς της μπορεί κάποτε να πάψει να υφίσταται και η απώλειά του θα είναι πιο οδυνηρή από τη βίωσή του.

Τι φοβάται η Γκαμπριέλ του 2014; Την απόλυτη μοναξιά της. Φοβάται αυτό που αντικρίζει γύρω της. Που βλέπει πως οι άνθρωποι έχουν χτίσει υπερπολυτελείς κατοικίες για να στεγάσουν μέσα τους το κενό της έλλειψης της επικοινωνίας τους, ένα κενό όμως, που δυστυχώς η πολυτέλεια δεν μπορεί να καλύψει και αναζητούν το υποκατάστατο της γιατρειάς τους είτε στα σόσιαλ είτε στα παραισθησιογόνα χαπάκια στους χώρους συνάθροισής τους, όπου και εκεί είναι μόνοι ανάμεσα στους πολλούς.

Τι διαπιστώνει η Γκαμπριέλ του 2044; Ότι το να αφαιρέσεις όλα τα συναισθήματα του πόνου και της απογοήτευσης που απορρέουν από την έλλειψη επικοινωνίας των ανθρώπων, από τα τραύματα που προκαλεί αυτή η έλλειψη, δεν σε βοηθά στο να απαλλαγείς από αυτόν τον πόνο, αλλά αντίθετα σου στερεί και το τελευταίο σου στήριγμα. Την ελπίδα της αναζήτησης του βιώματος ενός δυνατού συναισθήματος. Δεν είναι που δεν θα έχει συναισθήματα. Είναι που θα έχει, αλλά αυτά στο πεδίο της Τ.Ν χαρακτηρίζονται ως γαλήνια. Οι άνθρωποι που έχουν υποβληθεί στην κάθαρση φέρουν γαλήνια συναισθήματα που αυτά αποτυπώνονται σε μια ουδέτερη έκφραση. Είναι σαν κούκλες. Δεν είναι που ελέγχουν οι ίδιοι το θυμικό τους. Είναι που υπόκεινται στον έλεγχο αυτού μέσα από τη διαδικασία της κάθαρσης. Δεν πρέπει να διαθέτουν αναμνήσεις γιατί προορίζονται για πειθήνια όργανα . Αν εξακολουθούν να έχουν αναμνήσεις το σχέδιο κινδυνεύει, γιατί με αυτές γίνονται αυτόνομα αντικείμενα κόντρα στις απαιτήσεις της εξουσίας . Οι αναμνήσεις είναι επικίνδυνες γιατί με αυτές έχεις την αίσθηση του εαυτού σου, συγκροτούν το παρόν, το παρελθόν και το μέλλον σου. Θυμόμαστε την ταινία «Blade Runner» και τις ρεπλίκες, τις ανθρωπόμορφες μηχανές που φτιάχτηκαν για μας εξυπηρετούν όπως όλα τα αντικείμενα στον καταναλωτικό μας κόσμο, και που επαναστατούν διεκδικώντας περισσότερη ζωή, περισσότερες εμπειρίες που αργότερα θα αποτελέσουν τις μνήμες τους, κάτι που έρχεται κόντρα στους αρχικούς σχεδιασμούς του ανθρώπου που για αυτόν αποτελούσαν αναλώσιμο προϊόν με ημερομηνία λήξης. Και εδώ η Γκαμπριέλ διεκδικεί τη ζωή της, τη συλλογική της μνήμη, τη μνήμη που τη βοηθά να κατανοήσει όχι μόνο ποια είναι αλλά και πώς έφτασε εδώ που είναι.

Ο Μπονελό μας μεταφέρει στο 2044 σε έναν κόσμο που έχει πολλά κοινά επίσης με τον κόσμο του «Matrix», όπου τα πάντα ελέγχονται από έναν υπολογιστή που μετατρέπει τον άνθρωπο σε δεδομένο προς επεξεργασία και στη συνέχεια σε τροφοδότη αυτού. Στην πραγματικότητα τον μετατρέπει σε ένα σκεπτόμενο πρόγραμμα που τον κρατά όμως μακριά από τον κόσμο των αισθήσεων και των έντονων συναισθημάτων, αφαιρώντας του τη δυνατότητα αντίληψης μέσα από αυτές. Και εδώ το σπήλαιο του Πλάτωνα επανέρχεται. Ο άνθρωπος της Τ.Ν που μαθαίνει τον κόσμο μέσω των προγραμμάτων της, τα οποία έχουν δημιουργηθεί από την επεξεργασία χιλιάδων δεδομένων που αφορούν στο άτομο, από το τα χιλιάδες αποτυπώματα που αφήνει στον κόσμο του διαδικτύου, όλο και απομακρύνεται από την αλήθεια της ζωής, όλο και περιχαρακώνεται στο σκοτεινό σπήλαιο, όπου οι σκιές μέσω των οποίων αντιλαμβάνεται τον κόσμο είναι οι κατακερματισμένοι περιστασιακοί ψηφιακοί εαυτοί που συγκροτούν την κοινωνία της ρευστής μετανεωτερικής εποχής μας.

Μιας εποχής, όπου όπως αναφέρει στο βιβλίο του «Ρευστή Αγάπη» ο Πολωνός κοινωνιολόγος Ζίγκμουντ Μπάουμαν «κυριαρχεί η ρευστή μοντέρνα ορθολογικότητα που συνιστά ελαφρά πανωφόρια και καταδικάζει τις χαλύβδινες θωρακίσεις». (Ψαρίδης, 2023: 178). Ο μοντέρνος ορθολογισμός που επιβάλλεται δεν είναι άλλος από τον ορθολογισμό των ιδιοκτητών των ψηφιακών μονοπωλίων. Μία ορθολογική λύση άλλωστε δεν προτείνει και στην Γκαμπριέλ ο εκπρόσωπος αυτών των μονοπωλίων; Μία λύση που θα την κάνει πολύ πιο αποδοτική στην εργασία της, διαγράφοντας τις οδυνηρές της μνήμες και δημιουργώντας γύρω της ένα δίχτυ προστασίας που την αποστασιοποιεί μεν από τους ανθρώπους, ωστόσο την κάνει να ζει «ασφαλής» σε έναν κόσμο όπου οι σκέψεις των ανθρώπων βρίσκονται κάτω από έναν διαρκή έλεγχο. Σκέψεις που παρέχουν έναν πλούτο δεδομένων που αποτελεί το έδαφος για να φυτρώσει η Τ. Ν και να δρέψουν τους καρπούς τους αυτοί που ελέγχουν το χωράφι του διαδικτύου (Μαυρόπουλος, 2024: 155 ). «Υπάρχουν ατελείωτα χωράφια όπου οι άνθρωποι δεν γεννιούνται πλέον. Μας καλλιεργούν» αναφέρει σε μία σκηνή στο «Matrix» ο Μορφέας στον Neo (αναγραμματισμός του One) του Ενός και μοναδικού, που έχει έρθει για να σώσει τον κόσμο από την ύπνωση. Μία ύπνωση που έχει προκληθεί από τους πράκτορες, τα σκεπτόμενα προγράμματα με ανθρώπινη μορφή που κρατούν τον κόσμο δέσμιο σε ένα ψεύτικο σύμπαν που έχει δημιουργηθεί μέσα από τις εκατομμύρια ελεγχόμενες πληροφορίες του καθενός οι οποίες δίνουν τα χαρακτηριστικά όχι του πραγματικού εαυτού, αλλά του ψηφιακού εαυτού. Του εαυτού που υπάρχει μόνο στο διαδίκτυο, ζει μια εικονική κοινωνική ζωή η οποία σε αντίθεση με την πραγματική δεν έχει τριβές, ευθύνες και στεναχώριες.

Πάνω σε ποιες ανθρώπινες αδυναμίες έχει βρει τον χώρο της η Τ.Ν να απλώσει τα δίχτυα της έτσι που σε μία μελλοντική εποχή να αποτελεί το «θηρίο» που να καθίσταται το άτομο αδύναμο να το αντιμετωπίσει; Το ερώτημα τίθεται στην ταινία του Μπονελό που ο ίδιος σε συνέντευξή του διαπιστώνει ότι αυτό το μακρινό μέλλον ίσως δεν θα έπρεπε να το τοποθετήσει στο 2044 αλλά στο πολύ κοντινότερο. Τα ουδέτερα συναισθήματα είναι τα συναισθήματα που έχουν μόνο χώρο σε ένα τέτοιο μέλλον, όπου οι άνθρωποι που θα κατέχουν νευραλγικές θέσεις εργασίας, δεν θα αφήνονται να παρασυρθούν από το θυμικό τους και όπου το παρανοϊκό θα ταυτίζεται με το έντονα συναισθηματικά φορτισμένο.

Μηχανές Τεχνητής Νοημοσύνης και Συνείδηση

Οι ανησυχίες που εκφράζονται στον κινηματογράφο σχετικά με τις αρνητικές επιπτώσεις της κυριαρχίας της Τ. Ν στην ανθρώπινη προσωπικότητα, στον τρόπο που το άτομο σχετίζεται με τους γύρω του, καθώς και στην επίδραση που ασκεί στην εξελικτική πορεία του ανθρώπου, αποτυπώνονται σε ταινίες όπου τα μηχανήματα Τ. Ν μπορεί να αποκτήσουν συνείδηση. Η δημιουργία συνείδησης ανατρέπει τις σχέσεις ανάμεσα στον δημιουργό και το δημιούργημα τις κάνει έντονα ανταγωνιστικές σε ένα παιχνίδι δοκιμασιών και επίδειξης δυνάμεων που εμπεριέχει την πρόκληση το δημιούργημα να αποδειχτεί ισχυρότερο από τον δημιουργό του.

Έτσι στην ταινία «Ex Machina» ένας δισεκατομμυριούχος προγραμματιστής (Όσκαρ Άιζακ) θα φέρει έναν από τους υπαλλήλους της εταιρείας, προκειμένου να συμμετάσχει σε ένα πείραμα στο οποίο επιχειρεί να μάθει αν το προηγμένης τεχνολογίας ρομπότ που έχει κατασκευάσει η Έιβα μπορεί να συμπεριφέρεται ανθρώπινα. Αν δηλαδή έχει συνείδηση ή αν προσποιείται ότι έχει. Το πείραμα θεωρείται πετυχημένο, αν ο άνθρωπος δεν καταλάβει ότι επικοινωνεί με υπολογιστή. Κατά τη διάρκεια του πειράματος η αλήθεια και το ψέμα καθίστανται δυσδιάκριτα. Αλλά και στην ταινία «Artificial Intelligence: AI» ο στόχος είναι να φτιαχτεί ένα ρομπότ που να μπορεί να αγαπάει. Όχι να προσομοίωνει τα συναισθήματα, αλλά να μπορεί να αγαπάει τους ανθρώπους που νοιάζονται για αυτό. Και εκεί μπαίνει το στοίχημα και η αναμέτρηση ανάμεσα στο τεχνητό ον και τον άνθρωπο.

Άραγε η ολοένα αυξανόμενη παρουσία των μηχανών στις ζωές μας και η άμεση εξάρτησή μας από αυτές τις έχουν καταστήσει δεύτερη φύση μας, έτσι που το συναισθηματικό έλλειμμα που έχει προκύψει από αυτή την εξάρτησή μας να  μας κάνει να νιώθουμε ότι μπορεί να καλυφθεί από τεχνητά νοήμονα όντα που να διαθέτουν επιπλέον και την ικανότητα της προσομοίωσης του συναισθήματος; Αναζητούμε τους από μηχανής Θεούς που θα μας κάνουν να νιώσουμε ξανά, αλλά χωρίς να κινδυνεύουμε από τις επιπτώσεις των έντονα συγκινησιακών καταστάσεων; Αναζητούμε τη δημιουργία όντων που να ελέγχουμε τα συναισθήματά τους έτσι που να νιώθουμε ασφαλείς και ταυτόχρονα πάντα κυρίαρχοι του παιχνιδιού, ακόμη και αν αυτό το παιχνίδι είναι καταστροφικό για την ανθρωπότητα;

Τα ερωτήματα τίθενται στις ταινίες που αναφέρθηκαν και ίσως η απάντησή τους ή μέρος αυτής, βρίσκεται σε αυτό που πολύ συνοπτικά περιγράφει ο Χένρι Τζέιμς στη νουβέλα του «ΤΟ ΘΗΡΙΟ ΣΤΗ ΖΟΥΓΚΛΑ» πάνω στην οποία στηρίχτηκε η ταινία του Μπονελό. Γράφει λοιπόν ο συγγραφέας: «Αν την είχε αγαπήσει θα ξέφευγε από τη μοίρα του και τότε, τότε θα είχε ζήσει. Εκείνη έζησε -ποιος ξέρει με πόσο πάθος- αφού τον αγάπησε για αυτό που ήταν. Απεναντίας εκείνος δεν τη σκέφτηκε ποτέ με άλλον τρόπο έξω από το πρίσμα του ψυχρού εγωισμού του και της χρησιμότητάς του σε αυτόν» (Henry, 2014: 97-98).  Ίσως λοιπόν οι απαντήσεις υπάρχουν σε αυτή την παράγραφο που γράφτηκε ένα αιώνα πριν. Ο άνθρωπος θα καταφέρει κάποτε να σπάσει το προδιαγεγραμμένο της μοίρας του και να απαλλαχτεί από τον φόβο του θανάτου, όχι δημιουργώντας μηχανές που θα επιδιορθώνουν τις ρωγμές της ατομικότητάς του, αλλά δραπετεύοντας από αυτήν, αποδεχόμενος τον εαυτό για αυτό που είναι και όχι προσπαθώντας να δημιουργεί ένα αντίγραφο αυτού. Αναζητώντας την ουσία της ύπαρξής του μέσα στην επικοινωνία του και την ουσιαστική του επαφή με τους άλλους ανθρώπους συναισθανόμενος αυτούς και επιτρέποντας στον πραγματικό του εαυτό, να αγαπήσει, να πονέσει, να θρηνήσει την απώλεια.
Δηλαδή να ζήσει!

ΒΙΒΛΙΟΓΡΑΦΙΑ

Μαυρόπουλος, Α., (2024). ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ. Αθήνα: Τόπος.
Σμοϊλης, Γ., (2023). ΣΤΗΝ ΟΘΟΝΗ ΤΟΥ ΜΥΑΛΟΥ ΜΟΥ. Αθήνα: ΑΙΓΟΚΕΡΩΣ.
Ψαρίδης, Τ., (2023). ΧΕΙΡΑΓΩΓΙΚΗ ΕΛΕΥΘΕΡΙΑ-Νόημα και Εαυτός στη φυσική και ψηφιακή πραγματικότητα. Αθήνα: Εύμαρος.
Henry, J., (2014). ΤΟ ΘΗΡΙΟ ΣΤΗ ΖΟΥΓΚΛΑ. Αθήνα: ΑΓΡΑ.

Διαδίκτυο:
https://www.news247.gr/magazine/culture/to-thirio-the-beast-bertrand-bonnello-venice-interview/
Ένα «Από Μηχανής» θρίλερ επιστημονικής φαντασίας – tvxs.gr
https://www.cinemagazine.gr/themata/arthro/a_i_artificial_intelligence_review-130970569/#google_vignette

Επιπλέον ταινίες στις οποίες έγινε αναφορά στο άρθρο:
«The Matrix», 1999.
https://www.imdb.com/title/tt0133093/

«Blade Runner», 1982.
https://www.imdb.com/title/tt0083658/

«Artificial Intelligence: AI», 2001.
https://www.imdb.com/title/tt0212720/

«Ex Machina», 2015.
https://www.imdb.com/title/tt0470752/

H Καλλίτσα Βλάχου είναι εκπαιδευτικός, μέλος της Πανελλήνιας Ένωσης Κριτικών Κινηματογράφου (ΠΕΚΚ) και  αντιπρόεδρος της Κινηματογραφικής Λέσχης Πετρούπολης. Είναι κάτοχος του Μεταπτυχιακού Διπλώματος (Master of Arts/MA) της Σχολής Ανθρωπιστικών Σπουδών του Ελληνικού Ανοιχτού Πανεπιστημίου στο μεταπτυχιακό πρόγραμμα του Πανεπιστημίου Φιλοσοφία και Τέχνες (ΦΙΤ), στα πλαίσια του οποίου εκπόνησε τη διπλωματική της εργασία με τίτλο: «Κινηματογραφικά είδη και κινήματα, ως αντανακλάσεις του κοινωνικού τους πλαισίου. Μετεξέλιξη αυτών, φτάνοντας στον κοινωνικό κινηματογράφο του σήμερα». Έχει παρακολουθήσει με επιτυχία τα παρακάτω Προγράμματα Συμπληρωματικής Εκπαίδευσης στο Εθνικό και Καποδιστριακό Πανεπιστήμιο Αθηνών (ΕΚΠΑ): «Κινηματογραφική Γραφή: Αφήγηση και Ύφος», «Πρακτικές Ασκήσεις Δημιουργικής Γραφής» και  «Κινηματογράφος: Ιστορία, Πρακτικές και Βασικές Αρχές Σκηνοθεσίας».  Έχει παρακολουθήσει με επιτυχία το ετήσιο πρόγραμμα Επιμόρφωσης με τίτλο: «Ειδική Αγωγή» στο Πανεπιστήμιο Μακεδονίας –Κέντρο Επιμόρφωσης και Δια Βίου Μάθησης καθώς και το Πρόγραμμα στο Πανεπιστήμιο Πειραιώς στο τμήμα Οικονομικής Επιστήμης με τίτλο: «Διοίκηση της Εκπαίδευσης».  Είναι κάτοχος Διπλώματος Διετούς Μετεκπαίδευσης στη Γενική Αγωγή, Πτυχίου της σχολής Επιστημών της Αγωγής του Παιδαγωγικού τμήματος Δημοτικής Εκπαίδευσης του Πανεπιστημίου Κρήτης και Πτυχίου Παιδαγωγικής Ακαδημίας Ψυχικού.

Γιάννης Περπερίδης & Αλέξανδρος Σχισμένος

Μετάφραση, επιμέλεια μετάφρασης και επιστημονική επιμέλεια: Γιάννης Περπερίδης, Αλέξανδρος Σχισμένος

Γιάννης Περπερίδης: Σας ευχαριστούμε θερμά που δεχθήκατε την πρόσκληση να κάνουμε σήμερα αυτή τη συζήτηση. Είναι μεγάλη μας τιμή. Και, φυσικά, ήταν τιμή μας να μεταφράσουμε ένα από τα έργα σας στα ελληνικά. Εννοώ ασφαλώς το κείμενό σας «Αυτοκατανόηση. Οι τέσσερις Επαναστάσεις» (από το βιβλίο σας The 4th Revolution) το οποίο μεταφράσαμε και συμπεριλήφθηκε στον τόμο Φιλοσοφία του Ψηφιακού. Μία εισαγωγή (Πανεπιστημιακές Εκδόσεις Κρήτης, 2024). Εντούτοις, θα πρότεινα σήμερα στη συζήτησή μας, αν συμφωνείτε, να μην εστιάσουμε στο κείμενο που μεταφράσαμε, αλλά να μιλήσουμε περισσότερο για την Τεχνητή Νοημοσύνη (ΤΝ), καθώς και οι δύο στρεφόμαστε ερευνητικά σε αυτόν τον τομέα. Για να γνωριστούμε, εγώ είμαι ο Γιάννης Περπερίδης και είμαι διδάσκων στο Τμήμα Ιστορίας του Ιονίου Πανεπιστημίου, εδώ στην Ελλάδα. Διδάσκω Φιλοσοφία της Τεχνολογίας και, πιο ειδικά, φιλοσοφία του ψηφιακού και της ΤΝ. Αξιοποιώ σε μεγάλο βαθμό το έργο σας και προτείνω στις φοιτήτριες και τους φοιτητές μου τα βιβλία σας, ειδικά το Εισαγωγή στη φιλοσοφία της πληροφορικής (Νήσος, 2008).

Αλέξανδρος Σχισμένος: Καλησπέρα κύριε καθηγητή, ονομάζομαι Αλέξανδρος Σχισμένος και είμαι μεταδιδακτορικός ερευνητής στο Αριστοτέλειο Πανεπιστήμιο Θεσσαλονίκης. Η έρευνά μου επικεντρώνεται στην ψηφιακή, κοινωνικο-ιστορική πραγματικότητα κυρίως, όσον αφορά τη φαινομενολογία και τη φιλοσοφική κριτική, και το έργο σας υπήρξε καθοριστικό για το ερευνητικό έργο και των δύο μας.

Luciano Floridi: Σας ευχαριστώ πολύ. Είναι τιμή μου.

Γ.Π.: Εμείς σας ευχαριστούμε! Θα ήθελα, λοιπόν, να κάνω μια πρώτη ερώτηση. Το 2016, μοιραστήκατε τη σκηνή με τον John Searle, ο οποίος, όπως γνωρίζουμε, υποστήριξε γενικά ότι οι υπολογιστές –και, θα λέγαμε, κατ’ επέκταση η ΤΝ– λειτουργούν αποκλειστικά μέσω συντακτικών διαδικασιών και δεν διαθέτουν την ικανότητα δημιουργίας ή επεξεργασίας νοήματος. Κάτι που, όπως εκείνος και εγώ θα συμφωνούσα, θεωρείται θεμελιώδες για το τι μας κάνει ανθρώπους. Έτσι, η ερώτησή μου είναι διπλή. Πρώτον, πιστεύετε ότι η ικανότητα δημιουργίας και επεξεργασίας νοήματος είναι πράγματι ένα διακριτικό χαρακτηριστικό των ανθρώπων, κάτι που τους διαφοροποιεί από άλλα πράγματα, φυσικά και τεχνητά; Και, αν ναι, υπό το πρίσμα των σημερινών εξελίξεων στα νευρωνικά δίκτυα, πιστεύετε ότι η κριτική του Searle παραμένει επίκαιρη;

L.F.: Ναι. Στο πρώτο σημείο, πιστεύω ότι η ικανότητα παραγωγής νοήματος ξεκινά, σε κάποιο επίπεδο, από το βιολογικό στάδιο. Ξέρετε, τα δελφίνια, οι σκύλοι, οι γάτες, τα πουλιά έχουν ήδη κάποιο επίπεδο αυτού που θα μπορούσαμε να αποκαλέσουμε «σημασιολογία». Σύμβολα που σημαίνουν κάτι και μερικές φορές σημαίνουν κάτι διαφορετικό ανάλογα με τις περιστάσεις. Όταν λέμε ότι η σημασιολογία ή το νόημα είναι μοναδικά ανθρώπινα, εννοούμε τις πλήρεις ιδιότητες, όλα τα χαρακτηριστικά που περιλαμβάνουν μια ουσιαστική κατανόηση του κόσμου.

Έτσι, δεν είναι απλώς θέμα να στέλνουμε ένα σήμα σε ένα άλλο μέλος του είδους μας, κάτι που μοιάζει περισσότερο με μια πολύ απλοποιημένη και στοιχειώδη επικοινωνία. Όλοι γνωρίζουμε ότι πολλά είδη χρησιμοποιούν τους δικούς τους ειδικούς κώδικες για να επικοινωνήσουν, όπως οι μέλισσες που χορεύουν για να δείξουν τη θέση πηγών τροφής στις άλλες μέλισσες. Αλλά στην περίπτωσή μας, χρησιμοποιούμε τη γλώσσα για να ερμηνεύσουμε τον κόσμο. Και αυτό είναι διαφορετικό είδος σημασιολογίας. Αυτό εννοώ με τον όρο σημασιολογία. Η γλώσσα, αλλά και πολλές άλλες σημειωτικές εκφράσεις, όπως η μουσική. Θα μπορούσαν να είναι εικόνες. Τα χρησιμοποιούμε όχι μόνο για να πούμε στους άλλους ότι, ας πούμε, υπάρχει ένας κίνδυνος στη ζούγκλα, αλλά ως έναν τρόπο κατανόησης και ερμηνείας του γεγονότος ότι κάτι είναι ζούγκλα, και όχι δάσος ή κήπος.

Η σημασιολογία είναι ο τρόπος με τον οποίο ερμηνεύουμε την πραγματικότητα και βρίσκουμε νόημα για τον εαυτό μας μέσα σε αυτήν. Και αυτό είναι «δημιουργία κόσμου» ή εννοιολόγηση της πραγματικότητας. Αυτό εννοώ με τον όρο σημασιολογία, με την ισχυρή έννοια. Και αυτό είναι, τυπικά και όσο γνωρίζουμε, αποκλειστικά ανθρώπινο.

Χάρη στη σημασιολογία, δεν είμαστε διαρκώς εδώ και τώρα. Μπορούμε να βρισκόμαστε σε έναν διαφορετικό χώρο, σε έναν διαφορετικό χρόνο. Και ξαφνικά, όχι. Αυτή είναι η ισχυρή έννοια της σημασιολογίας, που είναι μοναδικά ανθρώπινη, όσο γνωρίζουμε. Ίσως να υπάρχουν, ποιος ξέρει, άλλα είδη στο σύμπαν. Το σύμπαν είναι τεράστιο, αλλά δεν τα έχουμε συναντήσει. Και οτιδήποτε σαν εμάς ή ανώτερο από εμάς, όπως οι άγγελοι και οι θεοί, μπορεί να διαθέτει αυτού του είδους τη σημασιολογία.

Έτσι, αν διακρίνουμε μεταξύ σημασιολογίας ως ικανότητας μεταφοράς σημάτων και σημασιολογίας ως τρόπου κατανόησης και παροχής μιας αφηγηματικής ερμηνείας του κόσμου, η δεύτερη είναι τυπικά και αποκλειστικά ανθρώπινη.

Κατά τη γνώμη μου, φιλοσοφικά μιλώντας –αν και δεν είμαι σίγουρος αν οι νευροεπιστήμονες θα συμφωνούσαν–, πιστεύω ότι αυτό απαιτεί μια ειδική αποστασιοποίηση από τον κόσμο, σχεδόν σαν να είμαστε κάπως «χαλασμένοι» μηχανισμοί. Οι υπολογιστές, αν μου επιτρέπετε την αναλογία, δεν είναι αρκετά «χαλασμένοι». Ομοίως, τα ζώα ή οι βιολογικοί οργανισμοί που μας περιβάλλουν δεν είναι αρκετά «χαλασμένοι». Εμείς, κατά κάποιον τρόπο, είμαστε αποστασιοποιημένοι, «χαλασμένοι» με αυτή την έννοια.

Έτσι, βλέπουμε τον κόσμο όχι με έναν άμεσο, πρωτογενή, εδώ και τώρα τρόπο, αλλά ως κάτι άλλο. Αυτό το «κάτι άλλο» στέκεται απέναντί μας. Είναι το αντικείμενο (Gegenstand) που μας αντιπαρατίθεται, αλλά και το «πράγμα καθ’ εαυτό» (Ding an sich), ο κόσμος όπως είναι, ο οποίος λειτουργεί ως πηγή για τις κατασκευές μας ή τις καθιστά δυνατές. Ο κόσμος, λοιπόν, ως αντικείμενο, μας περιορίζει και μας παρέχει δυνατότητες ταυτόχρονα. Αντιδρούμε σε αυτόν μέσω του νοήματος και της σημασιολογίας. Μετατρέπουμε τη γλώσσα από έναν κώδικα επικοινωνίας σε ένα εργαλείο κατανόησης.

Με αυτόν τον τρόπο, μπορούμε να ερμηνεύουμε την πραγματικότητα μέσω νοηματικών ροών, κάνοντάς την περισσότερο κατανοητή –ίσως ακόμα και πιο τρομακτική. Γιατί μπορούμε να βλέπουμε πράγματα εκεί που δεν υπάρχουν, εξαιτίας του νοήματος που αποδίδουμε στα σύννεφα και τα δέντρα, στις συνομιλίες και τις χειρονομίες ενός φίλου και ούτω καθεξής.

Για αυτό είμαστε σημασιολογικές οντότητες και τα μόνα σημασιολογικά όντα, με αυτή την ισχυρή έννοια. Είμαστε αφηγηματικοί πράκτορες και οι μόνοι που γνωρίζουμε. Τα μόνα σημασιολογικά όντα που γνωρίζουμε στο σύμπαν. Αλλά θα προσθέσω: προς το παρόν. Όπως είπα, το σύμπαν είναι τεράστιο.

Όταν ο John Searle λέει ότι οι υπολογιστές είναι συντακτικές μηχανές, έχει απόλυτο δίκιο. Οποιοδήποτε υπολογιστικό ον, οποιαδήποτε μηχανή Turing, συμπεριλαμβανομένων των μορφών ΤΝ, επεξεργάζεται δεδομένα –όχι πληροφορίες– ανεξάρτητα από το αν λειτουργεί ντετερμινιστικά ή στατιστικά, με όρους αναγκαίων συμπερασμών ή πιθανοτήτων. Είναι η διάκριση μεταξύ σύνταξης (πώς συνδυάζονται στοιχεία με βάση κανόνες) και σημασιολογίας (τι μπορεί να σημαίνουν τα στοιχεία και οι συνδυασμοί τους). Τα συστήματα επεξεργασίας δεδομένων μπορούν να κάνουν καταπληκτικά πράγματα συντακτικά, αλλά όχι σημασιολογικά.

Η εποχή μας θα μείνει στην ιστορία, μεταξύ άλλων, και ως η εποχή που ανακάλυψε πόσα μπορούν να γίνουν μέσω της σύνταξης, σε πεδία όπου νομίζαμε ότι μόνο η σημασιολογία μπορούσε να πετύχει αυτό που θέλαμε. Αυτό εισάγει κάποιες διακρίσεις για να απαντήσω στην ερώτησή σας.

Η κριτική του Searle παραμένει επίκαιρη; Απόλυτα. Και πιστεύω ότι όλη η ρητορική και οι συχνά σκόπιμα ασαφείς παρατηρήσεις για την ΤΝ είναι είτε αφελείς είτε παραπλανητικές. Μπορεί να πρόκειται για κακή φιλοσοφία, όπως κάνουν μερικοί επιστήμονες υπολογιστών, και έχω συγκεκριμένους διάσημους ανθρώπους στο μυαλό μου. Το θέμα δεν είναι ότι δεν καταλαβαίνουν την τεχνολογία. Δεν έχουν καλή επιστημολογική κατανόηση αυτής. Δεν ξέρουν πώς να κατανοήσουν την τεχνολογία, κάτι που είναι πολύπλοκο ζήτημα. Έτσι, εξαιρετικοί επιστήμονες και μηχανικοί μπορεί να είναι απαίσιοι, απαίσιοι φιλόσοφοι.

Το γεγονός ότι ακούμε τόσα πολλά για την ΤΝ και την «ικανότητά της να κατανοεί» είναι κατά βάση δικό μας ρητορικό δημιούργημα. Είναι σαν να κοιτάμε τα σύννεφα και να βλέπουμε πρόσωπα ή να κοιτάμε τα δέντρα και να σκεφτόμαστε ότι, αφού κινούνται, μεγαλώνουν και θροΐζουν στο δάσος, πρέπει να έχουν επιθυμίες, συναισθήματα και σχέδια. Υπάρχουν περισσότερες δυνάμεις σε αυτό το σύμπαν. Δυστυχώς, αυτό δεν ισχύει. Και δεν ισχύει ούτε για την ΤΝ. Είναι μια νέα μορφή ανιμισμού που δεν πρέπει να υιοθετήσουμε.

Όταν ήμασταν πολιτισμικά νεότεροι, δεν μπορούσαμε να αντισταθούμε στον πειρασμό να φανταστούμε ότι ένας σεισμός ήταν εκδήλωση μιας θεότητας. Ωστόσο, ένας σεισμός δεν επικοινωνεί μαζί μας· δεν το χρειάζεται. Όταν όμως έχεις μπροστά σου ένα αντικείμενο που ανταποκρίνεται στις ερωτήσεις σου, φαίνεται σαν το αντικείμενο να καταλαβαίνει. Αυτή η αλληλεπίδραση είναι ακόμα πιο δελεαστική· μας ωθεί να πιστεύουμε σε μια βαθύτερη, πιο εννοιολογική κατανόηση. Αλλά είναι μια ψευδαίσθηση, ένα τρικ που συμβαίνει στη διεπαφή.

Το ουσιαστικό σημείο εδώ είναι ότι ανακαλύψαμε πως υπάρχουν διαφορετικοί τρόποι να φτάσεις στον ίδιο στόχο. Μπορούμε να φτάσουμε στο ίδιο αποτέλεσμα μέσω διαφορετικών διαδρομών. Είναι σαν να πλένουμε τα πιάτα: μπορώ να τα πλύνω εγώ, ή μπορεί να το κάνει ένα πλυντήριο πιάτων. Αυτό δεν σημαίνει ότι το κάνουμε με τον ίδιο τρόπο, ούτε ότι είμαστε το ίδιο είδος οντότητας. Και στις δύο περιπτώσεις, τα πιάτα καταλήγουν καθαρά. Αν έρθετε στο σπίτι μου και δείτε καθαρά πιάτα, δεν θα ξέρετε αν τα έπλυνα εγώ ή το πλυντήριο πιάτων. Τι μπορείτε, λοιπόν, να συμπεράνετε φιλοσοφικά από αυτό; Αν γνωρίζετε, ίσως συμπεράνετε ότι έχουμε διαφορετικούς τρόπους να πλένουμε τα πιάτα. Η μηχανή το κάνει με έναν μοναδικό τρόπο, πολύ διαφορετικό από την ανθρώπινη προσπάθεια.

Σήμερα, αυτό που ανακαλύψαμε είναι ότι το περιεχόμενο –οπτικό και γραπτό– μπορεί να παραχθεί με δύο διαφορετικούς τρόπους. Αυτό δεν λέει τίποτα, και εννοώ απολύτως τίποτα, για τη φύση της πηγής και τη φύση της διαδικασίας. Εδώ είναι που χανόμαστε εντελώς. Και γι’ αυτό πιστεύω ότι είναι καλή ιδέα να υπενθυμίζουμε στους ανθρώπους το παράδειγμα του κινέζικου δωματίου και παρόμοιες ιδέες. Είναι ένας διαισθητικός τρόπος να περιγράψουμε τι συμβαίνει όταν έχουμε επεξεργασία δεδομένων χωρίς καμία κατανόηση, και, παρ’ όλα αυτά, το αποτέλεσμα φαίνεται απόλυτα λογικό.

Μπορώ να δώσω ένα τελευταίο παράδειγμα πριν προχωρήσουμε; Είναι λίγο σαν το κινέζικο δωμάτιο. Φανταστείτε μια τεράστια διαφανή οθόνη ανάμεσα σε εσάς και, στην άλλη πλευρά, ένα σύστημα ΤΝ. Και οι δύο έχετε να συναρμολογήσετε ένα παζλ με 1.000.000 κομμάτια πάνω στην οθόνη. Μπορείτε να κολλήσετε και να ξεκολλήσετε τα κομμάτια εύκολα. Καθώς η μηχανή αρχίζει να συνθέτει το παζλ, εσείς αρχίζετε να βλέπετε μια εικόνα να σχηματίζεται –ας πούμε τη «Σχολή των Αθηνών». Οι μορφές αρχίζουν να παίρνουν σχήμα και μπορεί να σκεφτείτε: «Όποιος συναρμολογεί αυτό το παζλ ξέρει ακριβώς πού πάει κάθε κομμάτι, καταλαβαίνει ότι το μπλε αντιπροσωπεύει τον ουρανό, ότι αυτό το τμήμα απεικονίζει μέρος του κτηρίου και εκείνο ίσως ένα βιβλίο». Φαίνεται σαν το σύστημα ΤΝ να κατανοεί την πλήρη εικόνα.

Αλλά στην πραγματικότητα, στην άλλη πλευρά, η ΤΝ βλέπει μόνο λευκά κομμάτια παζλ. Εσείς βλέπετε τα χρώματα, τα σχήματα, την πλήρη εικόνα, και πού πάνε τα κομμάτια, ίσως ακολουθώντας κάποιες απλές στρατηγικές (όλοι ψάχνουμε τις τέσσερις γωνίες), αλλά η ΤΝ ασχολείται μόνο με τα σχήματα και το πόσο καλά ταιριάζουν μεταξύ τους. Εσείς δουλεύετε με το παζλ σημασιολογικά· η ΤΝ το κάνει συντακτικά. Συνδυάζει κομμάτια που ταιριάζουν καθαρά μέσω εκατομμυρίων υπολογιστικών βημάτων και βελτιώσεων, μαθαίνοντας από τα σχήματα, χωρίς καμία πραγματική κατανόηση. Αυτή είναι η στατιστική αναγνώριση προτύπων.

Αν παρακολουθούμε κάποιον να συνθέτει ένα παζλ, είναι σχεδόν αδύνατο να μην πιστέψουμε ότι καταλαβαίνει τι κάνει. Αλλά αν μπορούσαμε να δούμε τη «συντακτική» οπτική της ΤΝ, θα βλέπαμε μόνο λευκά κομμάτια που ενώνονται με άλλα λευκά κομμάτια και θα καταλαβαίναμε ότι απλώς ταιριάζει σχήματα, χωρίς να κατανοεί την εικόνα. Χρησιμοποιώ αυτό το παράδειγμα στις διαλέξεις για να βοηθήσω τους φοιτητές να καταλάβουν γιατί αυτή η παρανόηση είναι τόσο δελεαστική. Δουλεύουμε με αυτά τα εργαλεία συνεχώς. Αλλά πρέπει να καταλάβουμε ότι αυτό που συμβαίνει στην πραγματικότητα είναι μια απίστευτη μεταμόρφωση στην παραγωγή περιεχομένου, που είναι απόλυτα, 100% συντακτική και στατιστική και δεν έχει καμία σχέση με σημασιολογία ή κατανόηση, που είναι η ικανότητα να εννοιολογούμε τα πράγματα με τον έναν ή τον άλλον τρόπο. Αν δεν το καταλάβουμε αυτό, θα χαθούμε εντελώς.

Α.Σ.: Αγαπητέ καθηγητή, συμφωνώ απόλυτα με όσα είπατε και οι ιδέες σας μας έχουν βοηθήσει να προσπαθήσουμε να αποφύγουμε τις παρανοήσεις που δημιουργούνται γύρω από την ΤΝ, ειδικά. Και αυτό που επισημάνατε για την ανθρώπινη νοημοσύνη που είναι κατά κάποιο τρόπο θρυμματισμένη, συγκριτικά με τις μηχανές και με τα ζώα, μου θύμισε τον Κορνήλιο Καστοριάδη, έναν Ελληνογάλλο φιλόσοφο, ο οποίος απέδωσε το νόημα της δημιουργίας στην ανθρώπινη φαντασία. Απέδωσε την ανάγκη για νόημα στη δυσπλασία της ανθρώπινης φαντασίας, η οποία κινείται πέρα από τη λειτουργικότητα. Τώρα, στο έργο σας, [Floridi 2019: The Logic of Information, Oxford University Press] προτείνατε μια πολύ χρήσιμη διάκριση μεταξύ της πράξης και της νοημοσύνης όσον αφορά την ΤΝ και, επίσης, μεταξύ της παραγωγικής ΤΝ, που είναι οι εφαρμογές που έχουμε σήμερα, και του σχεδίου της γνωστικής ΤΝ, που κατά τη γνώμη σας, και συμφωνώ με αυτό, είναι κάτι που απέχει πολύ από την πραγματικότητα. Ωστόσο, θα ήθελα να επισημάνω ότι πρόσφατα, κατά τη διάρκεια της παρουσίασης της εφαρμογής o3 του OpenAI, ο Sam Altman ισχυρίστηκε ότι μέχρι το τέλος του 2025 θα έχουμε «συστήματα που θα μπορούν να κάνουν πραγματικά εκπληκτικές γνωστικές εργασίες». Τώρα, με δεδομένο ότι το κοινωνικό μας περιβάλλον περιτυλίσσεται [enveloped] προκειμένου να διευκολυνθεί η ΤΝ, παρά το ψευδές τέτοιων ισχυρισμών, οι εταιρείες αποκτούν μεγαλύτερη πολιτική και οικονομική επιρροή.

Τι πιστεύετε για την πολιτική που κρύβεται πίσω από αυτές τις προβλέψεις και τους ισχυρισμούς των εταιρειών ΤΝ, οι οποίοι στην πραγματικότητα επηρεάζουν όχι μόνο το κεφάλαιο και τις χρηματιστηριακές αγορές, αλλά και τη νοοτροπία και τις προσδοκίες του κοινού;

L.F.: Ω, είμαι, είμαι πιθανώς το ίδιο ανήσυχος με εσάς σχετικά με τη δύναμη που έχουν αυτές οι εταιρείες. Αν θέλετε, αυτό γίνεται όλο και χειρότερο, διότι οι ίδιες εταιρείες διαθέτουν τόσο μεγάλο όγκο δεδομένων για τους ανθρώπους. Είναι επίσης οι ίδιες εταιρείες που αναπτύσσουν τη δυνατότητα να εκμεταλλευτούν αυτά τα δεδομένα για να δημιουργήσουν εργαλεία ΤΝ. Δεν είναι τυχαίο. Τώρα οι κύριοι παίκτες είναι η Microsoft, η Google, η Apple, η Meta, η Amazon και πολύ λίγοι άλλοι και, αν κοιτάξετε, οι ίδιες μεγάλες εταιρείες έχουν τα δεδομένα για να εκπαιδεύσουν όλα αυτά τα μοντέλα ΤΝ. Η υπονόμευση της ιδιωτικής ζωής μέσω των δεδομένων έχει πλέον γίνει η υπονόμευση της αυτονομίας μέσω της ΤΝ.

Έτσι, όταν παρουσιάζω τις προκλήσεις –τις ονομάζω ανθρωπολογικές προκλήσεις με μια φιλοσοφική έννοια– για τον καθένα από εμάς, επισημαίνω ότι η ΤΝ αμφισβητεί ακόμη περισσότερο την ταυτότητά μας όσον αφορά το ποιοι είμαστε, την ιδιωτική μας ζωή, τα δεδομένα μας και τα προφίλ μας στα δίκτυα κοινωνικής δικτύωσης και το Διαδίκτυο. Αλλά αντιμετωπίζουμε μια πρόσθετη πρόκληση που ενισχύει αυτές τις ανησυχίες, επειδή θέτει υπό αμφισβήτηση την ταυτότητά μας από την άποψη του τι μπορούμε να κάνουμε, όχι μόνο το ποιοι είμαστε ή τι μπορούμε να γίνουμε –δηλαδή την οντολογική μας ταυτότητα. Η ΤΝ αμφισβητεί επίσης την πραγματιστική μας ταυτότητα –το είδος της οντότητας που είναι ικανή να εκτελεί ορισμένες ενέργειες, να υπόκειται σε συγκεκριμένες διαδικασίες και να έχει την αυτονομία και την ελευθερία να επιδεικνύει συγκεκριμένες συμπεριφορές. Αυτή η διπλή πρόκληση –ένα διπλό κτύπημα, ας πούμε– δοκιμάζει την ταυτότητά μας τόσο ως προς το ποιοι είμαστε και τι μπορούμε να κάνουμε, όσο και ως προς το γιατί πραγματικά κάνουμε αυτό που κάνουμε. Θεωρήστε όλα αυτά ως ένα συνεκτικό μπλοκ.

Αυτό δεν είναι ανησυχητικό μόνο από πολιτιστική και φιλοσοφική άποψη, αλλά είναι επίσης ανησυχητικό από άποψη κοινωνικών και πολιτικών θεμάτων. Αυτός ο μετασχηματισμός δεν συμβαίνει μόνο σε πολιτιστικό επίπεδο –που θα ήταν αρκετά κακό– αλλά στα χέρια λίγων εταιρειών με τεράστια δύναμη. Αυτές οι εταιρείες, ιδιαίτερα στο σημερινό πολιτικό κλίμα, έχουν δείξει το πραγματικό τους πρόσωπο. Από την Amazon έως την Apple, και από τη Meta έως τη Google και τη Microsoft, αποκαλύπτουν ότι το πρωταρχικό τους μέλημα ως οικονομικοί παράγοντες είναι μόνο το κέρδος, συχνά εις βάρος της περιβαλλοντικής βιωσιμότητας και της κοινωνικής αποδοχής.

Αυτό είναι βαθύτατα ανησυχητικό. Πρέπει να αντισταθούμε. Εμείς στην Ευρώπη πρέπει να δημιουργήσουμε εναλλακτικές λύσεις.

Γιατί, αν έχεις μόνο μια μαζική προσφορά από ένα μικρό και ισχυρό ολιγοπώλιο, έτσι αλλάζει η φιλοσοφική ανθρωπολογία. Επανεξετάζουμε ποιοι είμαστε από την άποψη της ταυτότητας και, επομένως, τι είδους ταυτότητα μπορούμε να έχουμε πραγματικά. Αν επρόκειτο απλώς για μια διανοητική, φιλοσοφική συζήτηση, θα ήμουν περισσότερο ενθουσιασμένος εννοιολογικά και λιγότερο ανήσυχος πολιτικά. Όμως πρόκειται για ένα κοινωνικό και πολιτικό ζήτημα, το οποίο με κάνει να ανησυχώ πολύ περισσότερο παρά να είμαι διανοητικά περίεργος.

Η ανησυχία μας πηγάζει από δύο ή τρεις απλές παρατηρήσεις που όλοι μπορούν να κατανοήσουν.

Πρώτον, η λογοδοσία. Οι άνθρωποι που οδηγούν αυτούς τους μετασχηματισμούς είναι κοινωνικοπολιτικά μη υπόλογοι ή, μάλλον, είναι υπόλογοι μόνο στις αγορές. Αυτός ο τύπος οικονομικής λογοδοσίας ενισχύει τη ζημιά που προκαλούν οι ενέργειές τους. Όσο πιο κερδοφόρες είναι αυτές οι εταιρείες, τόσο περισσότερο τις ανταμείβει η αγορά και τόσο περισσότερο αγνοούνται τα ζητήματα βιωσιμότητας και κοινωνικής αποδοχής. Αυτός ο στρεβλός μηχανισμός προωθεί την παραμέληση των κοινωνικών και περιβαλλοντικών αξιών στις οποίες επιθυμούμε να δώσουμε προτεραιότητα.

Δεύτερον, η έλλειψη ανταγωνισμού. Μερικές φορές, ο ανταγωνισμός μπορεί να αντισταθμίσει την έλλειψη λογοδοσίας. Εάν υπάρχει άφθονος ανταγωνισμός, οι ελλείψεις στην κοινωνικοπολιτική λογοδοσία θα μπορούσαν να αμβλυνθούν από τις δυνάμεις της αγοράς, καθώς οι εταιρείες θα πρέπει να έχουν υπόψη τους τις κοινωνικές και περιβαλλοντικές τους ευθύνες για να παραμείνουν ανταγωνιστικές, δεδομένων των επιλογών των πελατών τους. Για παράδειγμα, αν υπάρχουν πολλά εστιατόρια στο κέντρο της πόλης, ο ανταγωνισμός εξασφαλίζει καλύτερες υπηρεσίες. Ομοίως, αν υπάρχει υγιής ανταγωνισμός μεταξύ των εταιρειών, θα μπορούσε να οδηγήσει σε καλύτερα αποτελέσματα για την ανθρωπότητα και τη φύση, ακόμη και ελλείψει αυστηρών κανονισμών. Ωστόσο, αυτός ο ανταγωνισμός απουσιάζει. Το επίπεδο του ανταγωνισμού μεταξύ αυτών των εταιρειών είναι εντελώς ανεπαρκές για να οδηγήσει σε ουσιαστική αλλαγή. Δεν ανταγωνίζονται αρκετά έντονα ώστε να θέτουν τις κοινωνικές και περιβαλλοντικές αξίες σε προτεραιότητα έναντι των περιθωρίων κέρδους.

Ως εκ τούτου, η έλλειψη λογοδοσίας και ανταγωνισμού καθιστά επικίνδυνη τη δύναμη που κρύβεται πίσω από αυτή την πρόκληση για τη φιλοσοφική μας ανθρωπολογία. Ο κίνδυνος δεν είναι ένας δυστοπικός κόσμος τύπου 1984, αλλά μάλλον ένα σενάριο για τον Θαυμαστό Καινούριο Κόσμο. Είναι ένας κόσμος όπου οι άνθρωποι καταναλώνουν παθητικά ψυχαγωγία, ακολουθούν τις τάσεις των μέσων κοινωνικής δικτύωσης και τους υπαγορεύεται τι να κάνουν, τι να τρώνε, τι να απολαμβάνουν και με ποιον να γίνονται φίλοι. Αυτός ο κόσμος έχει απογυμνωθεί από τις ανθρώπινες αξίες και οι άνθρωποι αρκούνται στην απλή ικανοποίηση των καταναλωτικών τους επιθυμιών.

Για όποιον αναζητά βαθύτερο νόημα στη ζωή από την απόκτηση νέων συσκευών ή την απόλαυση ενός καλού γεύματος –τα οποία είναι, φυσικά, πολύ ωραία πράγματα– το πραγματικό ζήτημα γίνεται η χειραγώγηση.

Αυτό είναι το τρίτο σημείο. Αν αφαιρεθούν οι ανθρώπινες αξίες, μαζί με την υπευθυνότητα και τον ανταγωνισμό, οι κατέχοντες την εξουσία μπορούν να υπαγορεύουν την πορεία του κόσμου, οδηγώντας σε ένα μη βιώσιμο και καταστροφικό για τη ζωή σενάριο.

Επί του παρόντος, εξαντλούμε τους πόρους μας και οδεύουμε προς την καταστροφή, όπως δείχνει η κατάσταση στην Καλιφόρνια. Αυτό είναι το τελικό αποτέλεσμα της τρέχουσας πορείας μας.

Αλλά υπάρχει ακόμα ελπίδα. Αυτό δεν είναι απαισιοδοξία. Είναι μια ρεαλιστική εκτίμηση της τρέχουσας κρίσης. Αν αναγνωρίσουμε την πρόκληση και αναλάβουμε δράση –όντας πιο μαχητικοί, εξηγώντας, εκπαιδεύοντας και διαμαρτυρόμενοι– μπορούμε να αλλάξουμε κατεύθυνση. Ειδικά στην ΕΕ. Υπάρχει μια αποστολή εδώ να σταματήσουμε και να αλλάξουμε την πορεία μας. Υπάρχει ένας πόλεμος που πρέπει να κερδηθεί και δουλειά που πρέπει να γίνει.

Η ιστορία είναι αυτό που την κάνουμε και μπορούμε να την αλλάξουμε.

Πρέπει να πείσουμε τους ανθρώπους ότι η τρέχουσα πορεία μας είναι αυτοκαταστροφική. Δεν βλέπω αρκετή προσπάθεια από αυτή την άποψη, γι’ αυτό καλώ όλους να ενώσουμε τις δυνάμεις μας, να γίνουμε πιο γενναίοι και να αγωνιστούμε πιο σκληρά. Το τέλος της ιστορίας δεν χρειάζεται να είναι ζοφερό, αν αναλάβουμε δράση τώρα.

Γ.Π.: Δεν θα μπορούσα να συμφωνήσω περισσότερο, κύριε Floridi. Και, πράγματι, αυτό είναι πολύ ανησυχητικό. Αλέξανδρε, προτείνω να παραμείνουμε σε αυτή την κατεύθυνση και να προχωρήσουμε στην τέταρτη ερώτηση, καθώς έχουμε ήδη αγγίξει τα θέματα της πολιτικής και του περιβάλλοντος. Οι δικές μου ερωτήσεις είναι πιο θεωρητικές και αφορούν ένα διαφορετικό πλαίσιο, οπότε θα τις αφήσω για αργότερα.

Α.Σ.: Καθηγητή, υποστηρίξατε τη σύνδεση του Πράσινου και του Μπλε, συγκεκριμένα, της οικολογίας και των ψηφιακών τεχνολογιών [Floridi 2021: The Ethics of AI, Oxford University Press].Με το σκεπτικό ότι πρέπει να παρέμβουμε και ότι «η φιλοσοφία είναι εννοιολογικός σχεδιασμός στα καλύτερά του». Τώρα έχετε επιστήσει την προσοχή στο οικολογικό και περιβαλλοντικό κόστος της χρήσης εφαρμογών ΤΝ και έχετε επίσης συμμετάσχει στον ευρωπαϊκό διάλογο γύρω από τους κανονισμούς. Τι σκέφτεστε, δεδομένης της κυβέρνησης Trump και της προσπάθειας για την ανεξέλεγκτη λειτουργία αυτών των εταιρειών από πολιτικούς παράγοντες στις Ηνωμένες Πολιτείες; Ποια θα ήταν η πρότασή σας όσον αφορά το πώς θα προχωρήσει αυτός ο γάμος μεταξύ του Πράσινου και του Μπλε; Σε πολιτική κλίμακα τόσο σε τοπικό όσο και, αν θέλετε, σε διεθνές επίπεδο.

L.F.: Ναι, λοιπόν, όπως πιθανώς γνωρίζετε, θα καλωσόριζα, θα υποστήριζα και θα ενθάρρυνα ένα ισχυρότερο ευρωπαϊκό εγχείρημα. Εμείς, ως Ευρωπαίοι, έχουμε τους πόρους και την κατανόηση για να εφαρμόσουμε μια διαφορετική προσέγγιση, μια διαφορετική πορεία. Οι άνθρωποι συχνά ασκούν κριτική, αλλά εγώ το βλέπω ως χαρακτηριστικό, όχι ως σφάλμα, ότι η Ευρωπαϊκή Ένωση είναι η μόνη δημοκρατική οντότητα σε αυτόν τον πλανήτη που μπορεί να σχεδιάζει τα πράγματα χρόνια πριν. Το είδος της νομοθεσίας που είμαστε σε θέση να διαμορφώσουμε, να βελτιώσουμε και να αλλάξουμε μπορεί να πάρει 5, 6, ακόμη και 10 χρόνια. Καμία άλλη δημοκρατική κυβέρνηση στον κόσμο δεν μπορεί να το κάνει αυτό.

Αστειεύομαι συχνά ότι οι μόνες οντότητες που είναι ικανές για μακροπρόθεσμο σχεδιασμό είναι οι Βρυξέλλες, το Πεκίνο και το Βατικανό. Αυτές είναι οι μόνες τρεις που μπορούν πραγματικά να κοιτάξουν μπροστά και να αποφασίσουν τι θα κάνουν για την επόμενη δεκαετία. Πρέπει να αξιοποιήσουμε αυτή την ικανότητα. Πρέπει να αξιοποιήσουμε το γεγονός ότι δεν εξισώνουμε πλήρως την πολιτική με την οικονομία.

Υπήρξε μια εποχή που η πολιτική –τουλάχιστον θεωρητικά– αναμενόταν να εστιάζει σε ευρύτερους κοινωνικούς στόχους. Μετά τον Δεύτερο Παγκόσμιο Πόλεμο, η νεωτερικότητα έχει μετατρέψει όλο και περισσότερο την πολιτική σε οικονομική πολιτική που αφορά το χρήμα, τη φορολογία, τους πόρους, τις θέσεις εργασίας, την ανεργία, την παραγωγικότητα και το ΑΕΠ. Αυτά είναι βασικά ζητήματα, βέβαια, αλλά δεν αρκούν.

Η Ευρώπη εξακολουθεί να έχει, σε αντίθεση με τις Ηνωμένες Πολιτείες και σε αντίθεση με την Κίνα, ένα όραμα για το είδος της κοινωνίας που θέλει να οικοδομήσει. Αυτό είναι ανεκτίμητο. Αν αξιοποιήσουμε τα γεγονότα με οποιονδήποτε δυνατό τρόπο –αν χρειαστεί, μακιαβελικά– πρέπει να διασφαλίσουμε ότι η ευρωπαϊκή φιλελεύθερη δημοκρατία, που βασίζεται στην ανθρώπινη αξιοπρέπεια, τα δικαιώματα και τις αξίες, θα δώσει προτεραιότητα σε μια κοινωνία όπου η υπευθυνότητα, ο ανταγωνισμός και οι περιβαλλοντικές και κοινωνικές αξίες θα είναι πρωταρχικής σημασίας. Αυτοί θα πρέπει να είναι οι πρωταρχικοί μας στόχοι, ενώ όλα τα υπόλοιπα θα πρέπει να χρησιμεύουν ως μέσα για την επίτευξή τους.

Η προσέγγισή μας στην οικονομία θα πρέπει να είναι ένα μέσο για την επίτευξη του είδους της κοινωνίας που θέλουμε. Αυτή η προοπτική είναι σαν να λέμε σε ένα παιδί ότι η δουλειά δεν είναι μόνο για να κερδίζεις χρήματα· κερδίζεις χρήματα για να έχεις μια συγκεκριμένη ζωή, αλλά η ζωή δεν είναι για να κερδίζεις χρήματα. Αν το προεκτείνετε αυτό με μια πλατωνική έννοια, ο στόχος της κοινωνίας δεν θα πρέπει να είναι αποκλειστικά η οικονομική ανάπτυξη.

Μια κοινωνία που επικεντρώνεται αποκλειστικά στην αύξηση του ΑΕΠ μπορεί να είναι σήμερα πλουσιότερη από ό,τι χθες, αλλά να εξακολουθεί να είναι δυστυχισμένη αν παραμεληθούν τα ανθρώπινα δικαιώματα και η περιβαλλοντική υγεία. Η έντονη τάση στην Κίνα και η αμέλεια στις ΗΠΑ απέναντι στις κοινωνικές και περιβαλλοντικές αξίες μας δείχνουν τον κίνδυνο μιας τέτοιας προσέγγισης.

Έτσι, η απάντηση στην ερώτησή σας είναι ότι έχουμε ένα σχέδιο –ένα ευρωπαϊκό σχέδιο. Είναι δύσκολο, ναι –το πιο περίπλοκο πολιτικό σχέδιο που επιχείρησε ποτέ η ανθρωπότητα. Ο κόσμος πρέπει να θυμάται ότι όταν αποτυγχάνουμε περιστασιακά, αποτυγχάνουμε ενώ στοχεύουμε σε κάτι εξαιρετικά υψηλό. Ενώνουμε έθνη που βρίσκονταν σε πόλεμο σε ζωντανή μνήμη, που μιλούσαν διαφορετικές γλώσσες και είχαν διαφορετικές κουλτούρες. Αυτή η αξιοσημείωτη ένωση είναι φιλόδοξη, τίποτα άλλο δεν συγκρίνεται. Ακόμη και αν αποτυγχάνουμε μερικές φορές, τα βήματα που κάνουμε είναι απίστευτα σημαντικά. Η Ευρώπη είναι μια ηγετική δύναμη στη ρύθμιση, τη νομοθεσία, την προστασία του περιβάλλοντος, την κοινωνική πρόνοια και πολλά άλλα.

Παρά τις επικρίσεις ότι η Ευρώπη δεν καινοτομεί αρκετά, η πραγματικότητα είναι διαφορετική. Όταν εξετάζουμε την εστίαση του Μάριο Ντράγκι στην οικονομική ανάπτυξη, είναι ζωτικής σημασίας να θυμόμαστε ότι η οικονομική ανάπτυξη είναι μόνο ένα, απαραίτητο και κρίσιμο κεφάλαιο, αλλά ενός μεγαλύτερου βιβλίου. Τα άλλα κεφάλαια, όπως τα ανθρώπινα δικαιώματα, η εκπαίδευση, το περιβάλλον, ο πολιτισμός, η πρόνοια, ολοκληρώνουν το ευρωπαϊκό όραμα.

Θα πρέπει να είμαστε υπερήφανοι ως Ευρωπαίοι, επειδή το σχέδιό μας υπερβαίνει τα εθνικά σύνορα και επικεντρώνεται στη δημιουργία μιας δίκαιης κοινωνίας βασισμένης σε κοινές αξίες. Ωστόσο, το ευρωπαϊκό σχέδιο χρειάζεται περισσότερη αποφασιστικότητα και θάρρος. Πρέπει να θυμόμαστε ότι το θετικό μας όραμα πηγάζει από τα οδυνηρά διδάγματα του παρελθόντος μας –θηριωδίες όπως αυτές που διέπραξαν η ναζιστική Γερμανία, η φασιστική Ιταλία και πολλά άλλα καθεστώτα. Έχουμε το καλύτερο πολιτικό σχέδιο επειδή έχουμε ζήσει και ξεπεράσει τα χειρότερα.

Για να ενισχύσουμε το σχέδιό μας, πρέπει να είμαστε περιεκτικοί αλλά και σταθεροί. Η Ευρώπη θα πρέπει να περιλαμβάνει χώρες με βάση κοινές αξίες και όχι μόνο τη γεωγραφική θέση. Σκεφτείτε να συμπεριλάβετε χώρες γύρω από τη Μεσόγειο ή ακόμη και τον Καναδά. Αντίθετα, αν μια χώρα τείνει προς το φασισμό, θα πρέπει να είναι δυνατή η αναστολή της συμμετοχής της και τελικά η αποπομπή της. Πρέπει να είμαστε πιο αυστηροί όσον αφορά τα κριτήρια ένταξης, αν θέλουμε ένα ισχυρό ευρωπαϊκό εγχείρημα ικανό να ηγηθεί.

Συνοψίζοντας, έχουμε μια απαράμιλλη ευκαιρία να οικοδομήσουμε μια οραματική κοινωνία βασισμένη στις αξίες. Για να το πετύχουμε αυτό, πρέπει να είμαστε πιο προνοητικοί, περιεκτικοί και αποφασιστικοί από ποτέ. Η περισσότερη και καλύτερη Ευρώπη είναι η λύση.

Γ.Π.: Πολύ ενδιαφέρον, κύριε Floridi. Συμφωνώ σε πολλά σημεία και η επόμενη ερώτησή μου έχει σχέση με όσα μόλις είπατε για την Ευρώπη και τις αξίες. Υπάρχουν σήμερα φωνές (και εγώ και ο Αλέξανδρος έχουμε συναντήσει τέτοιες φωνές εδώ στην Ελλάδα) που θα απαντούσαν ότι αυτό που περιγράφετε είναι μια δυτικοκεντρική ή ευρωκεντρική προσέγγιση και ότι, (για να το συνδέσω με την ΤΝ) εάν απορρίπτουμε την ΤΝ ως στερούμενη, ας πούμε, πραγματικής νοημοσύνης, αυτό αντικατοπτρίζει μια ανθρωποκεντρική ή ακόμη και δυτικοκεντρική επιστημολογική προκατάληψη.

Θα επέκριναν μάλιστα την ίδια την έννοια της νοημοσύνης και τις αξίες γύρω από αυτήν, ισχυριζόμενες ότι αυτές διαμορφώθηκαν από τη δυτική αποικιοκρατία και κυριαρχία, που συχνά χρησιμοποιήθηκαν για να περιθωριοποιήσουν ή να στερήσουν την ανθρωπινότητα από τους «άλλους» της Ευρώπης ή τους «άλλους» της Δύσης. Επιπλέον, θα υποστήριζαν ότι η άρνηση απόδοσης νοημοσύνης στην ΤΝ μοιάζει με τη διακριτική λογική που κάποτε εφαρμόστηκε σε μη δυτικούς ανθρώπους.

Αυτές οι φωνές θα κατέληγαν στο συμπέρασμα ότι πρέπει να απορρίψουμε τη Δύση και τις αξίες της που χτίστηκαν πάνω στη δουλεία κ.λπ. και να στραφούμε σε άλλες αξίες και επιστημολογίες, π.χ. εκ της «Ανατολής» προερχόμενες. Ποια είναι η γνώμη σας επ’ αυτού;

L.F.: Νομίζω ότι θα απέρριπτα ορισμένες από τις προϋποθέσεις αυτού του επιχειρήματος. Ξέρουμε ότι δεν χρειαζόμαστε η ΤΝ να είναι «έξυπνη». Και δεν έχουμε έναν ενιαίο ορισμό της νοημοσύνης. Προφανώς, δεν υπάρχει ένας, αλλά πολλοί. Κάθε επιστημονικός κλάδος έχει τον δικό του. Την τελευταία φορά που μέτρησα, είχαμε περισσότερους από είκοσι. Υπάρχει μουσική νοημοσύνη, οπτική νοημοσύνη, διαισθητική νοημοσύνη, κοινωνική νοημοσύνη, συμπεριφορική νοημοσύνη, μαθηματική νοημοσύνη και ούτω καθεξής. Η νοημοσύνη είναι μία από αυτές τις λέξεις που χρησιμοποιούνται με πολλούς διαφορετικούς τρόπους.

Και θα έλεγα ότι, όντως, υπάρχει τρόπος να γίνει μία νεοαποικιακή ερμηνεία της έννοιας της νοημοσύνης. Είμαι βέβαιος ότι υπάρχει μια αίσθηση κατά την οποία η νοημοσύνη είναι μία νεοαποικιακή έννοια. Αλλά αυτό δεν έχει σχέση με τη συζήτηση για το αν η ΤΝ διαθέτει ή δεν διαθέτει νοημοσύνη. Όταν συγκρίνουμε την ΤΝ με την ανθρώπινη νοημοσύνη, αυτό που πραγματικά συζητάμε και πρέπει να τονίσουμε είναι αυτό που είναι κοινό για όλους μας, όλους τους ανθρώπους. Και αυτό δεν είναι δυτικό, ούτε βόρειο, ούτε προνόμιο των ανεπτυγμένων χωρών.

Στο τέλος, οι κατηγορίες ότι κάποιος μιλά από μία προοπτική (perspectivism) είναι άσκοπες, διότι, προφανώς, όταν μιλάς, είναι η δική σου φωνή, κανενός άλλου. Το ερώτημα είναι εάν αυτό που λες αφορά μόνο τη δική σου προοπτική. Και όταν λέμε ότι αυτές οι μηχανές είναι συντακτικές, όχι σημασιολογικές, λέμε κάτι που ισχύει για όλους τους ανθρώπους, ανεξαρτήτως πολιτισμού, σε κάθε χρονική στιγμή, σε κάθε γωνιά του κόσμου. Όπου κι αν υπάρχει η ανθρωπότητα, η γλώσσα χρησιμοποιείται όχι μόνο ως βασικό εργαλείο επικοινωνίας, αλλά και ως τρόπος δημιουργίας και διαμόρφωσης της κατανόησής μας για την πραγματικότητα.

Αυτό συμβαίνει από το παρελθόν ως το παρόν, είτε στις Αμερικές, είτε στην Αθήνα, είτε αυτόν τον αιώνα στην Ιαπωνία, είτε τον επόμενο στη Βραζιλία ή την Αίγυπτο. Σε όποια χώρα, πολιτισμό ή πολιτισμική περίοδο θέλετε να αναφέρετε. Εάν συναντήσετε έναν άνθρωπο, όποιος κι αν είναι αυτός, έχει μία γλώσσα και αυτή η γλώσσα είναι εργαλείο για να διαμορφώσει και να νοηματοδοτήσει την πραγματικότητα. Υπό αυτή την έννοια, δεν είμαστε ευρωκεντρικοί. Όχι. Είμαστε απλώς οικουμενικοί.

Τώρα, πώς μπορούμε να βελτιωθούμε; Αυτό είναι το επόμενο σημείο. Υπάρχει μια λανθασμένη αναλογία που υπονομεύει το επιχείρημα. Αν κάποιος πει ότι θα δώσει φωνή σε έναν πολιτισμό με τον ίδιο τρόπο που δίνει φωνή σε μία ΤΝ, τότε αυτό είναι ακριβώς αυτό που θέλουμε να αποφύγουμε. Δεν θέλουμε να μειώσουμε την ανθρωπότητα σε ένα εργαλείο.

Αντί να συγκρίνουμε την ανθρωπότητα με την ΤΝ, οφείλουμε να αναγνωρίσουμε ότι η ΤΝ δεν είναι άνθρωπος. Είναι εργαλείο. Δεν πρέπει να συγχέουμε τους ανθρώπους με τις τεχνολογίες. Να μην μετατρέπουμε τους ανθρώπους σε μέσα για έναν σκοπό –όπως έλεγε ο Καντ.

Επιπλέον, αν και πολλά από τα προβλήματα γύρω από την ΤΝ είναι όντως προκατειλημμένα, αυτά είναι συχνά όχι ευρωκεντρικά, αλλά αμερικανοκεντρικά. Ένα παράδειγμα: Όλες οι συζητήσεις για την ασφάλεια της ΤΝ είναι αμερικανοκεντρικές. Στις ΗΠΑ, εάν περάσεις αρκετό χρόνο, θα διαπιστώσεις ότι δεν γνωρίζουν καν ότι υπάρχει ένας άλλος κόσμος εκεί έξω. Ο κόσμος είναι οι ΗΠΑ και οι ΗΠΑ είναι ο κόσμος.

Αλλά ας μην συγχέουμε αυτό με ένα επιχείρημα υπέρ της ΤΝ ως κάποιας επιστημονικής φαντασίας. Γιατί τότε δεν βελτιώνουμε την κατάσταση, αλλά καταστρέφουμε τον μηχανισμό που μας επιτρέπει να αναγνωρίσουμε το πρόβλημα. Η ανθρώπινη νοημοσύνη είναι αναγνωρίσιμη σε κάθε άνθρωπο που έχει ζήσει ποτέ σε αυτόν τον πλανήτη και η ΤΝ δεν είναι αυτό.

Γνωρίζω το είδος του λόγου που αναφέρεστε και πιστεύω ότι το κύριο αποτέλεσμα του είναι η παραπλάνηση και η απομάκρυνση από τα πραγματικά ζητήματα. Είναι αποπροσανατολιστικός.

Γ.Π.: Ακριβώς! Συμφωνώ μαζί σας σε αυτό. Σας ευχαριστούμε. Έχουμε ακόμη δύο ερωτήσεις. Μπορείτε να είστε σύντομος σε αυτές. Πολύ σύντομος. Δεν θέλουμε να καταχραστούμε τον χρόνο σας. Αλέξανδρε, θα ήθελες να θέσεις τη δική σου ερώτηση πρώτος;

Α.Σ.: Σας ευχαριστώ. Θα ήθελα απλώς να πω ότι βρίσκω πολύ ενδιαφέρουσα την έννοιά σας για την ιστορική ευθύνη, δεδομένης της ιστορικής εμπειρίας που είχαν οι ευρωπαϊκές κοινωνίες, καθώς και τον ορισμό του ευρωπαϊκού εγχειρήματος με βάση τις αξίες. Θα ήθελα απλώς να σας ρωτήσω πρακτικά, πιστεύετε ότι αυτό το είδος έργου σήμερα, όσον αφορά την ΤΝ, απαιτεί μεγαλύτερη εμπλοκή της κοινωνίας των πολιτών; Εννοώ, εκτός από τους πολιτικούς θεσμούς εξουσίας.

L.F.: Νομίζω ότι αυτό είναι σχεδόν δεδομένο. Η πραγματική δυσκολία έγκειται στο πώς θα το επιτύχουμε. Δεν υπάρχει αμφιβολία ότι ο δρόμος προς τα εμπρός είναι ποικιλόμορφος, χωρίς αποκλεισμούς και συνεργατικός. Ξέρουμε ότι η καλή πολιτική περιλαμβάνει τη συμμετοχή των ανθρώπων. Το ερώτημα είναι: πώς θα το κάνουμε αυτό; Δεν είναι τόσο απλό όσο το να ζητήσουμε από εκατό εκατομμύρια ανθρώπους να ψηφίσουν και στη συνέχεια να κάνουμε ό,τι αποφασίσουν. Αυτή η προσέγγιση θα ήταν καταστροφική, διότι δεν μεσολαβεί ούτε παρέχει συμβιβασμούς μεταξύ εξίσου πολύτιμων σημείων. Απλουστεύει τα ζητήματα σε μια ψηφοφορία πλειοψηφίας, σε νικητές που τα παίρνουν όλα, αλλά η δημοκρατία είναι η υπεράσπιση των μειοψηφιών, όχι η δικτατορία της πλειοψηφίας. Η κοινωνία των πολιτών πρέπει να συμμετέχει.

Αλλά, όπως συζητήσαμε προηγουμένως, πώς το επιτυγχάνουμε αυτό; Ποιοι μηχανισμοί μπορούν να το εξισορροπήσουν, επιτρέποντας στις φωνές να ακουστούν, ενώ παράλληλα να βρεθεί ο καλύτερος συμβιβασμός που δεν αφήνει κανέναν πολύ δυσαρεστημένο; Προσέξτε το διπλό αρνητικό: κανένας δεν είναι πολύ δυστυχισμένος. Αυτό δεν σημαίνει ότι όλοι είναι ευτυχισμένοι ή ότι το 51% είναι ευτυχισμένο ενώ το 49% είναι δυστυχισμένο. Σημαίνει ότι το 100% του πληθυσμού αισθάνεται ότι, αν και δεν είναι ακριβώς αυτό που ήθελε, μπορεί να το αποδεχθεί ως έναν αξιοπρεπή συμβιβασμό. Οι ανάγκες σας και οι ανάγκες μου, οι αξίες σας και οι αξίες μου, όλα μαζί. Αυτός είναι ο καλύτερος από όλους τους δυνατούς κόσμους, επειδή διατηρεί μια ποικιλία απόψεων χωρίς να καταπιέζει καμία πλευρά.

Ο κανόνας της πλειοψηφίας, όπως και το δημοψήφισμα για το Brexit, έχει αποδειχθεί καταστροφικός για όλους τους εμπλεκόμενους. Αυτό δεν είναι αποτελεσματική πολιτική. Η πολιτική πρέπει να μετατρέπει το δυνατό σε προτιμητέο. Τα καλύτερα αποτελέσματα προκύπτουν όταν αναγνωρίζουμε την ποικιλία των φωνών –την κοινωνία των πολιτών, τις διάφορες ομάδες, τους πολίτες, τα κόμματα, τις οργανώσεις, τους κλάδους και τις ομάδες συμφερόντων– και επιτυγχάνουμε τον καλύτερο συμβιβασμό και τις καλύτερες ανταλλαγές που είναι δυνατές τη δεδομένη στιγμή.

Η συμμετοχή της κοινωνίας των πολιτών στην καλύτερη δυνατή μορφή της σημαίνει να ακούμε όλες αυτές τις ομάδες και να βρίσκουμε μια ισορροπία. Αυτό που είναι κακό είναι η ρητορική του να ρωτάμε συγκεκριμένες ομάδες, όπως οι οδηγοί ταξί, αν θέλουν μια μεταρρύθμιση ό,τι επηρεάζει άμεσα μόνο αυτούς. Πιθανότατα θα πουν όχι, αλλά η συμμετοχή της κοινωνίας των πολιτών σημαίνει την αναζήτηση ενός συμβιβασμού που θα λαμβάνει υπόψη τη συμβολή τους μαζί με ευρύτερες προοπτικές. Αυτό που συμβαίνει συχνά αντ’ αυτού είναι να κυριαρχούν οι ομάδες πίεσης, προωθώντας τα συμφέροντά τους πάνω από όλα τα άλλα. Αυτό δεν είναι αληθινή συμμετοχή της κοινωνίας των πολιτών– είναι εξυπηρέτηση συγκεκριμένων συμφερόντων για πολιτικό κέρδος.

Κάποια στιγμή, αυτή η προσέγγιση οδηγεί σε μια κατακερματισμένη πολιτική χωρίς συνεκτικό σχέδιο, απλώς εξυπηρετεί διάφορα συμφέροντα για λόγους επανεκλογής. Η αληθινή πολιτική πρέπει να επιδιώκει ένα διαφορετικό όραμα –ένα όραμα όπου η κοινωνία λειτουργεί ως χορωδία και όχι ως μεμονωμένοι τραγουδιστές.

Γ.Π.: Ναι. Πολύ ωραία ιδέα. Οπότε μία τελευταία ερώτηση, κύριε καθηγητή. Γνωρίζω την κριτική σας προς την ατζέντα του διανθρωπισμού (transhumanism). Ξέρω ότι είστε πραγματικά κριτικός απέναντι σε αυτό το ρεύμα. Αλλά όπως βλέπουμε και όπως είδαμε το 2024, ο Ray Kurzweil δημοσίευσε ξανά το βιβλίο του, The Singularity is Nearer. Βλέπουμε ότι τέτοιες τεχνολογικές φαντασιώσεις συνεχίζουν να επιστρέφουν. Πώς μπορούμε να τους απαντήσουμε σήμερα;

L.F.: Νομίζω ότι υπάρχουν πολλοί τρόποι να το αντιμετωπίσουμε. Ένας από τους καλύτερους είναι να υιοθετήσουμε μια Σωκρατική στάση –να γελάσουμε με αυτό. Αυτή η προσέγγιση βρίσκεται κάπου ανάμεσα στο να το αγνοήσουμε –που είναι επικίνδυνο γιατί ως διανοούμενοι δεν πρέπει να αφήνουμε ανόητες ιδέες να εξαπλώνονται ανεξέλεγκτα– και στο να το επικρίνουμε ευθέως. Το να το αγνοούμε μπορεί να οδηγήσει σε κινδύνους, διότι αυτές οι ιδέες μπορούν να παραπλανήσουν ή να συμβάλουν σε κοινωνικά προβλήματα, όπως η υπονόμευση της αυτονομίας. Αν οι άνθρωποι αρχίσουν να πιστεύουν ότι η ΤΝ θα κυριαρχήσει και θα διαχειρίζεται τον κόσμο, μπορεί να σταματήσουν να σκέφτονται κριτικά. Το να επικρίνουμε αυτές τις ιδέες μπορεί επίσης να είναι επικίνδυνο, γιατί σημαίνει ότι θα ασχοληθούμε μαζί τους. Δεν θέλω να δω την κατάσταση όπου ένας αστρονόμος συζητά με έναν αστρολόγο, δίνοντας στον αστρολόγο ένα αδικαιολόγητο επίπεδο αξιοπιστίας. Το να ασχολείσαι ασκώντας κριτική σημαίνει ότι οι ιδέες αυτές αξίζουν να συζητηθούν, ενώ στην πραγματικότητα δεν αξίζουν. Η αποτελεσματική κριτική ξεκινά με την αναγνώριση της αξίας του αντικειμένου που κρίνουμε. Δεν θα περάσουμε χρόνο κριτικάροντας ένα βιβλίο που θεωρούμε εντελώς άχρηστο· ακόμα και να το αποκαλέσουμε άχρηστο απαιτεί μια αρχική ενασχόληση που αναγνωρίζει την ύπαρξή του. Η έννοια «Singularity» δεν αξίζει καν αυτό –είναι κάτι σαν την αστρολογία. Οπότε δεν πρέπει να το αγνοήσουμε εντελώς, αλλά ούτε να ασχοληθούμε σοβαρά με αυτό. Αντί αυτού, μπορούμε να το υπονομεύσουμε μέσω του χιούμορ και της Σωκρατικής ειρωνείας. Το να γελάσουμε με αυτές τις ιδέες αποκαλύπτει τον παραλογισμό τους χωρίς να τους δώσουμε αδικαιολόγητη αξιοπιστία. Είναι ένας τρόπος να ασχοληθούμε χωρίς να τις πάρουμε σοβαρά. Θα ήθελα να δω αυτήν τη μέθοδο να χρησιμοποιείται πιο συχνά –να ασχολούμαστε με χιούμορ, να κάνουμε αστεία και να δείχνουμε πόσο γελοίες είναι αυτές οι αντιλήψεις. Όταν οι άνθρωποι γελούν, προχωρούν και οι ιδέες αυτές χάνουν την επιρροή τους. Για παράδειγμα, αν κάποιος ισχυριστεί ότι η ΤΝ θα κυριαρχήσει στο σύμπαν, μπορούμε να αναδείξουμε το πόσο δυσκολεύεται η ΤΝ με απλά καθήκοντα, καθιστώντας την ιδέα γελοία. Αυτή η μη σεβαστική αλλά διασκεδαστική προσέγγιση μπορεί να αποτρέψει αυτές τις ιδέες από το να αποκτήσουν σοβαρό έρεισμα. Με το να ασχοληθούμε ειρωνικά χωρίς να παραχωρήσουμε αξιοπιστία, διασφαλίζουμε ότι οι κακοσχεδιασμένες ιδέες θα γίνουν αντιληπτές για αυτό που είναι –ανόητες στην καλύτερη περίπτωση και επικίνδυνες κοινωνικοπολιτικές πρωτοβουλίες στη χειρότερη.

Γ.Π.: Ναι. Νομίζω ότι αυτή είναι μια πολύ έξυπνη στάση. Συμφωνώ απόλυτα. Οπότε, ας ολοκληρώσουμε με αυτό. Ευχαριστούμε. Ευχαριστούμε πολύ για όλες τις απαντήσεις και τη συζήτηση.

Α.Σ.: Κύριε καθηγητή ήταν ευχαρίστηση και τιμή μας. Ήταν πραγματικά διαφωτιστική συζήτηση μαζί σας. Ανυπομονούμε επίσης για το επερχόμενο βιβλίο σας σχετικά με την πολιτική της ΤΝ. Σας ευχαριστούμε πολύ.

L.F.: Ευχαρίστησή μου. Πολύ καλές ερωτήσεις. Ανυπομονώ για το κείμενο.

Γ.Π.: Εντάξει. Σας ευχαριστούμε πολύ. Χαιρετισμούς από την Ελλάδα.

Α.Σ: Περιμένουμε το επόμενο ταξίδι σας στην Ελλάδα.

L.F.: Το ελπίζω. Ανυπομονώ γι’ αυτό. Θα είμαστε σε επαφή.

Χαλλιορή Μαρκέλλα

Το άρθρο αυτό αποτελεί μία εισαγωγή στη συζήτηση των έμφυλων προκαταλήψεων που εντοπίζονται στα συστήματα Τεχνητής Νοημοσύνης. Εξετάζοντας ορισμένες προβληματικές περιπτώσεις, και χρησιμοποιώντας τον φακό των φεμινιστικών θεωριών, θα προσπαθήσουμε να αναδείξουμε την πολυπλοκότητα και την ανάγκη για άμεση απεύθυνση του ζητήματος. Είναι οι έμφυλες αλγοριθμικές προκαταλήψεις απλώς μια τεχνική ατέλεια;

Η ΠΡΟΒΛΕΨΗ ΤΟΥ DREYFUS ΚΑΙ Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΣΗΜΕΡΑ

Το 1992 στο βιβλίο του What computers still can’t do, ο Dreyfus ανακοινώνει τον «θάνατο της τεχνητής νοημοσύνης», που κατά την άποψή του δεν έζησε ποτέ (Dreyfus, 1992). Πρόκειται για το τρίτο κατά σειρά έργο που ο συγγραφέας αφιερώνει στην κριτική της νεοεισηγμένης τότε τεχνολογίας της Τεχνητής Νοημοσύνης, καταδικάζοντας την αφελή αισιοδοξία των ερευνητών, ότι οι μηχανές θα μπορέσουν κάποτε να αναπαραστήσουν –έως και να αντικαταστήσουν– την ανθρώπινη νοημοσύνη. Η δυσπιστία του εντοπιζόταν στην ίδια τη συγκρότηση των συστημάτων: τα συστήματα τεχνητής νοημοσύνης, όπως και η επιστήμη των υπολογιστών εν γένει, βασίζονται στη μοντελοποίηση πληροφοριών με τη χρήση μαθηματικού φορμαλισμού και κανόνων συμβολικής λογικής. Αντίθετα, η ανθρώπινη νοημοσύνη, η ικανότητα για μάθηση, κατανόηση και κρίση προκύπτει ως ένα κράμα συνειδητών και ασυνείδητων λειτουργιών, οι οποίες, σε συνδυασμό με την βιωματική αλληλεπίδραση με το περιβάλλον του νοούντος, είναι αδύνατο να τυποποιηθούν με μαθηματικούς όρους. Αντλώντας από τη φιλοσοφική παράδοση της φαινομενολογίας, τη σημασία της ενσώματης εμπειρίας στη νόηση και την αδυναμία τυποποίησης της ανθρώπινης συμπεριφοράς, το πόρισμα του Dreyfus ήταν κατηγορηματικό: οι υπολογιστές δεν θα μπορέσουν ποτέ να μιμηθούν πλήρως την ανθρώπινη σκέψη.

Παρόλα αυτά, περίπου τριάντα χρόνια αργότερα, είναι δύσκολο να αποφανθεί κάποιος σε ποιο βαθμό έχει επιβεβαιωθεί η πρόβλεψη του Dreyfus. Τα συστήματα τεχνητής νοημοσύνης (εφεξής ΤΝ) αποτελούν αναπόσπαστα κομμάτια των σύγχρονων κοινωνιών, επηρεάζοντας την καθημερινή μας ζωή με πρωτόγνωρους τρόπους. Δεν πρόκειται απλά για μηχανές που εκτελούν εργασίες· πρόκειται για συστήματα που λαμβάνουν κρίσιμες αποφάσεις, –συχνά απουσία ανθρώπινης παρέμβασης– και έχουν μετασχηματίσει ριζικά την έννοια της αυτοματοποίησης και τον βαθμό στον οποίο βασιζόμαστε σε αυτήν. Ταυτόχρονα, η ραγδαία εξέλιξη της επιστήμης και της τεχνολογίας έχει καθορίσει τον τρόπο που συλλέγουμε πληροφορίες, αντιλαμβανόμαστε και αλληλεπιδρούμε με τον κόσμο. Για πρώτη φορά, τα δεδομένα που αφορούν τον ατομικό και κοινωνικό βίο είναι, λόγω της ψηφιακής μορφής τους, σε τέτοιο βαθμό συγκεντρωμένα, προσβάσιμα και επεξεργάσιμα όσο σε καμία άλλη στιγμή της ιστορίας (Τάσης, 2019).

Χωρίς αμφιβολία, το άλλοτε αποκύημα της επιστημονικής φαντασίας, η TN, αποτελεί πλέον τη βάση του τεχνοεπιστημονικού –και μη– κόσμου και την πιο καθοριστική τεχνολογία του 21^ου αιώνα. Χάρη στην υπερπληθώρα διαθέσιμων δεδομένων, στην υπολογιστική ισχύ αυτών των συστημάτων και στο επαγόμενο θριαμβευτικό πλεονέκτημα που κατέχουν στην ταχεία και ακριβή επίλυση προβλημάτων, οι υπολογιστές «συναγωνίζονται» σήμερα τους ανθρώπους στην ανάληψη και εκτέλεση σύνθετων εργασιών, συχνά μάλιστα υπερτερώντας (Μήτρου, 2023). Επιστημικές αρετές, όπως η ταχύτητα, η ακρίβεια, η απλούστευση πολύπλοκων εργασιών, η επεξεργασία τεράστιου όγκου δεδομένων και η αμεροληψία, αποτελούν ταυτόχρονα τη βάση των προσδοκιών μας από τα συστήματα, γεγονός στο οποίο θεμελιώνεται (;) η ανάθεση σε αυτά έως τώρα «ανθρώπινων» καθηκόντων. Ανεξαρτήτως της πρόβλεψης του Dreyfus για αποτυχία προσομοίωσης της ανθρώπινης νόησης, τα συστήματα ΤΝ έχουν υπεισέλθει σε κάθε πτυχή της ιδιωτικής και δημόσιας σφαίρας, συνοδευόμενα από σημαντικές ευκαιρίες: από την εξατοµίκευση των διαφηµίσεων που ϕτάνουν σε εµάς µέχρι την ενηµέρωση νοµικών αποφάσεων, την ιατρική, την εκπαίδευση και την πρόσληψη προσωπικού, η σηµασία των Συστηµάτων ΤΝ στις σύγχρονες κοινωνίες είναι καινοφανής και αυξανόµενη.

Ωστόσο τα τελευταία χρόνια, οι αρχικές αντενδείξεις ότι τέτοια συστήματα θα λειτουργούσαν ως αγωγοί ανθρώπινης ευημερίας και υπέρβασης των κοινωνικών αντιθέσεων έχουν δώσει τη θέση τους σε μία σκληρή βεβαιότητα: η χρήση τέτοιων συστημάτων για τη λήψη αποφάσεων ισοδυναμεί συχνά με όξυνση της κοινωνικής πόλωσης, την καταπάτηση θεμελιωδών δικαιωμάτων και ελευθεριών. Τα συστήµατα ΤΝ αποδεικνύονται, ως κοινωνικά προϊόντα, βαθιά ενσωµατωµένα στα κοινωνικά, πολιτικά και πολιτισµικά πλαίσια µέσα στα οποία παράγονται. Ο όγκος τεκµηρίων που υποδεικνύουν ότι τα συστήµατα ΤΝ συχνά αντανακλούν και διαιωνίζουν τις υφιστάµενες κοινωνικές προκαταλήψεις σε βάρος των διαφορετικών µειονοτήτων συνεχώς αυξάνεται: συστήµατα αναγνώρισης προσώπου αποτυγχάνουν να αναγνωρίσουν άτοµα µε σκούρο δέρµα, αλγόριθµοι προσλήψεων απορρίπτουν αυτόµατα βιογραφικά που περιέχουν λέξεις όπως «γυναικείο», δικαστικά συστήµατα προγνωστικής αξιολόγησης στοχοποιούν δυσανάλογα ορισμένες µειονότητες χαϱακτηρίζοντάς τες «πιο επικίνδυνες».

Φαίνεται λοιπόν πως οι κυρίαρχες κοινωνικές πεποιθήσεις και προκαταλήψεις εµφωλεύουν στις αλγοριθµικές δοµές, µε αποτέλεσµα οι εφαρµογές της ΤΝ συχνά να συνεπάγονται τη διαιώνιση των ίδιων διακρίσεων που καλούνται να επιλύσουν. Ανάµεσα στις διεγνωσµένες διακρίσεις, η έµφυλη µεροληψία των συστηµάτων ΤΝ, αποτελεί το κέντρο βάρους του σώματος της βιβλιογραφίας και των ερευνών που σχετίζονται με την αλγοριθμική δικαιοσύνη. Πώς λοιπόν βλέπει, μιλά και αποφασίζει η ΤΝ για τις γυναίκες;

ΠΡΟΣΔΟΚΙΕΣ ΠΟΥ ΔΕΝ ΠΡΑΓΜΑΤΩΘΗΚΑΝ: ΟΙ ΠΡΟΒΛΗΜΑΤΙΚΕΣ ΠΕΡΙΠΤΩΣΕΙΣ

1) Αλγόριθμοι Αναγνώρισης και Δημιουργίας Εικόνας

Η εικόνα των γυναικών αποτέλεσε για χρόνια (αν δεν συνεχίζει να είναι) πηγή πολλών στερεοτυπικών αντιλήψεων εις βάρος τους, καθώς και των καταπιεστικών πρακτικών που τις συνοδεύουν. Δεν αποτελεί λοιπόν έκπληξη το γεγονός ότι οι αλγόριθμοι αναγνώρισης εικόνας μετουσιώνουν το ψηφιακό ανάλογο των προκαταλήψεων που υπάρχουν στον «πραγματικό» κόσμο. Όπως φαίνεται, η «φαινομενολογία» των αλγορίθμων αναγνώρισης εικόνας δεν κατάφερε να αποδράσει από τις νόρμες του κοινωνικού «αποφαίνεσθαι».

Σε έρευνα που δημοσιεύτηκε το 2021, οι Steed και Caliskan αποπειράθηκαν να ποσοτικοποιήσουν τις έμφυλες προκαταλήψεις που παρεισφρέουν στα οπτικά δεδομένα εκπαίδευσης των αλγορίθμων και συνεπώς στα αποτελέσματά τους. Η ιδέα του πειράματός τους ήταν απλή: περικόπτοντας φωτογραφίες και κρατώντας μόνο τα πρόσωπα των ανδρών και γυναικών που απεικονίζονταν, ζήτησαν από τον αλγόριθμο να συμπληρώσει την εικόνα. Όταν το πείραμα ολοκληρώθηκε διαπίστωσαν πως το 52,5% των φωτογραφιών των γυναικών τις απεικόνιζαν με μπικίνι ή χαμηλό ντεκολτέ. Αντιθέτως, το 42,5% των ανδρών, όπως τους φαντάστηκε ο αλγόριθμος, φορούσαν κουστούμι (Steed et al., 2021).

Σε αντίστοιχη μελέτη που πραγματοποιήθηκε το 2020, ο αλγόριθμος αναγνώρισης εικόνας της Google (Google Cloud Vision) τροφοδοτήθηκε με επιλεγμένες φωτογραφίες ανδρών και γυναικών μελών του Κογκρέσου. Παρά την ομοιογένεια των δεδομένων εισόδου για τις δύο διαφορετικές δημογραφικές ομάδες, οι έξοδοι του μοντέλου φανέρωσαν μία αυθαίρετη ασυνέπεια στην αναγνώριση των χαρακτηριστικών των εικονιζόμενων: η αντίστοιχη απόδοση «ετικετών» (labels), αναπαρήγαγε τις στερεοτυπικές αντιλήψεις που σχετίζονται με τον έμφυλο καταμερισμό της εξουσίας (βλ. Εικ. 1 & 2). Συγκεκριμένα, και παρά το κοινό για όλους «φόντο» και την ενδυματολογική ομοιομορφία, οι ετικέτες που αντιστοιχήθηκαν στους άνδρες ήταν, μεταξύ άλλων, «δημόσιος ομιλητής» και «λόγος» ενώ στις γυναίκες αναγνωρίστηκαν χαρακτηριστικά όπως «τηλεπαρουσιάστρια» και «χαμόγελο» (Schwemmer et al., 2020).

2) Αλγόριθμοι Αυτόματης Μετάφρασης

Ένας άλλος τρόπος με τον οποίο εντείνεται το ψηφιακό κοινωνικό χάσμα (εξαιτίας μεροληπτικών αναπαραστάσεων), είναι μέσω των συστημάτων Επεξεργασίας Φυσικής Γλώσσας. Η Επεξεργασία Φυσικής Γλώσσας (Natural Language Processing ή NLP) είναι ένας υποτομέας της ΤΝ και της γλωσσολογίας που ασχολείται με την ανάπτυξη συστημάτων υπολογιστών με στόχο την ανάλυση και την επεξεργασία γλώσσας. Μεταξύ άλλων, σε αυτή την τεχνοτροπία βασίζονται τα μοντέλα αυτόματης μετάφρασης. Δεδομένου ότι αυτοί οι αλγόριθμοι εκπαιδεύονται σε τεράστιο όγκο κειμένων για να αναγνωρίσουν γλωσσικά μοτίβα, είναι αναμενόμενο πως «απορροφούν» στη μάθησή τους όλες τις προκαταλήψεις που είναι εγγεγραμμένες σε αυτά (Nicholas et al., 2023).

Στη μελέτη τους που δημοσιεύτηκε το 2019, οι Prates, Avelar και Lamb, εξέτασαν την μετάφραση προτάσεων από 12 ουδέτερες ως προς το φύλο γλώσσες, όπως τα Ουγγρικά και τα Κινέζικα, στα Αγγλικά, χρησιμοποιώντας το Google Translate. Συγκεκριμένα, οι προτάσεις που χρησιμοποιήθηκαν αφορούσαν διάφορες θέσεις εργασίας (βλ. Εικ. 3). Αυτό που έδειξε η έρευνα είναι η συστηματική «ανάθεση» ανδρικών αντωνυμιών σε επαγγέλματα των Θετικών Επιστημών, ακόμα και αν αυτό ερχόταν σε διαφωνία με την ποσοστιαία στελέχωση των επαγγελμάτων στον πραγματικό κόσμο (Prates et al., 2019). Τέτοιου είδους προκαταλήψεις παρέχουν ένα «παράθυρο» στον τρόπο που η κοινωνία μας μιλάει (και γράφει) για τις γυναίκες στον χώρο εργασίας. Πώς ακριβώς όμως εγγράφεται στα δεδομένα η συστημική ασυμμετρία;

Οι ενσωματώσεις λέξεων (word embeddings) είναι ένας τρόπος αναπαράστασης των λέξεων ως αριθμητικών τιμών (διανυσμάτων), ώστε να έρθουν σε μορφή «κατανοητή» από ένα υπολογιστή. Στην ουσία πρόκειται για ένα «χάρτη» λέξεων, όπου λέξεις με νοηματική συνάφεια εντοπίζονται κοντά η μία στην άλλη και το αντίστροφο. Ενδεικτικά, σε ένα πρόβλημα της μορφής «Παρίσι: Γαλλία => Τόκιο: x», ο αλγόριθμος επιστρέφει σαν έξοδο τη λέξη «Ιαπωνία». Ωστόσο, στην περίπτωση του «άνδρας: γυναίκα => προγραμματιστής: x», ο αλγόριθμος επιστρέφει «νοικοκυρά» (Bolukbasi et al., 2016). Το 2017, ερευνητές του πανεπιστημίου Stanford έκαναν μία απόπειρα να ποσοτικοποιήσουν το «σφάλμα» της αναπαράστασης του έμφυλου εργασιακού καταμερισμού. Ερεύνησαν το κατά πόσο οι συσχετίσεις μεταξύ γυναικών και επαγγελμάτων στις ενσωματώσεις λέξεων είναι αντιπροσωπευτικές της πραγματικότητας. Αυτό που διαπίστωσαν είναι η πριμοδότηση του ανδρικού φύλου: ακόμα και τα επαγγέλματα στα οποία απασχολούνται ίσος αριθμός ανδρών και γυναικών εντοπίζονται πιο κοντά σε λέξεις που συνδέονται με τους άνδρες (Garg et al., 2018).

3) Αλγόριθμοι Προσλήψεων: Η περίπτωση της Amazon

Τα παραδείγματα που προηγήθηκαν είναι ενδεικτικά του πώς μεροληπτικά συστήματα ΤΝ βλέπουν, ή μιλούν για, τις γυναίκες. Ωστόσο σε αυτά τα στιγμιότυπα, η άνιση —και άδικη— εκπροσώπηση των γυναικών φαίνεται να έχει απλά μία περιγραφική διάσταση, χωρίς άμεσες επιπτώσεις στη ζωή τους. Η δημιουργία και η χρήση του αλγορίθμου προσλήψεων της Amazon αποτελεί ένα παράδειγμα του τρόπου με τον οποίο τέτοια συστήματα λαμβάνουν αποφάσεις για τις γυναίκες. Η περίπτωση της Amazon είναι ενδεικτική του πώς οι μακροχρόνιες πρακτικές αποκλεισμού των γυναικών από συγκεκριμένες θέσεις εργασίας επανεφευρίσκονται και επανεγγράφονται στην κοινωνική πραγματικότητα την εποχή της ψηφιακότητας.

Το 2014 η Amazon υιοθέτησε ένα εργαλείο για την αξιολόγηση των βιογραφικών των υποψηφίων για τις ανοιχτές θέσεις εργασίας. Βασισμένο σε αλγορίθμους επεξεργασίας φυσικής γλώσσας και μηχανικής μάθησης, η χρήση του εργαλείου θα πληρούσε τρείς επιθυμητές προδιαγραφές: ταχύτητα, χαμηλό κόστος και ουδετερότητα. Το μοντέλο εκπαιδεύτηκε στα δεδομένα του εργατικού δυναμικού της εταιρίας και συγκεκριμένα στους υπαλλήλους των τελευταίων δέκα ετών. Στόχος ήταν να μάθει τα χαρακτηριστικά των επιτυχημένων —ως εργαζομένων— υποψηφίων, να αναζητήσει παρόμοια στοιχεία στα βιογραφικά που υποβάλλονταν για αξιολόγηση και στη συνέχεια να τα βαθμολογήσει στην κλίμακα του 5. Μέχρι το 2015 είχε γίνει αντιληπτό από την Amazon ότι παρά την ελαχιστοποίηση χρόνου και κόστους, ο αλγόριθμος αποτύγχανε σε μία από τις βασικές του επιδιώξεις: την ουδετερότητα.

Δεδομένου ότι η συντριπτική πλειονότητα του υπάρχοντος εργατικού δυναμικού σε τεχνικές θέσεις ήταν άνδρες, ο αλγόριθμος, εξαιτίας της εκπαίδευσής του σε ιστορικά δεδομένα, ήταν συστηματικά προκατειλημμένος εναντίον των γυναικών υποψηφίων. Με άλλα λόγια, το μοντέλο «συνέδεε» τις γυναίκες με την έλλειψη επιτυχίας. Έτσι, κάθε φορά που ο αλγόριθμος συναντούσε σε ένα βιογραφικό λέξεις όπως «γυναίκα» ή «κολέγιο θηλέων», το υποβάθμιζε βαθμολογικά, ενισχύοντας την πιθανότητα απόρριψης των υποψηφίων (Langenkamp et al., 2020). Η χρήση του αλγόριθμου δεν διαιώνιζε απλώς μία κοινωνική ανισότητα, αλλά την ενέτεινε: άνδρες στα ιστορικά δεδομένα -> άνδρες ως καλύτεροι υποψήφιοι εργαζόμενοι -> πρόσληψη ανδρών -> περισσότεροι άνδρες στα ιστορικά δεδομένα. Πρόκειται για βρόχο ανατροφοδότησης (feedback loop): το αρχικό μοτίβο των δεδομένων αναπαράγεται μέσω της επανάληψης της διαδικασίας, οδηγώντας σε «αυτοενίσχυση» της ανισότητας.

ΑΛΓΟΡΙΘΜΙΚΗ ΔΙΚΑΙΟΣΥΝΗ ΚΑΙ ΦΕΜΙΝΙΣΤΙΚΕΣ ΘΕΩΡΙΕΣ: ΓΙΑΤΙ ΧΡΕΙΑΖΟΜΑΣΤΕ ΚΑΛΥΤΕΡΗ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ;

Φαίνεται λοιπόν πως, η ανάπτυξη των εφαρμογών της ΤΝ και η ταυτόχρονη αναγνώριση των αδυναμιών της έχει οδηγήσει ψηφιακούς ουτοπιστές και τεχνοσκεπτικιστές σε κοινό έδαφος. Είναι δύσκολο ακόμα και για τους πιο αισιόδοξους να αγνοήσουν τα προβληματικά αποτελέσματα της ΤΝ και τους κινδύνους που προκύπτουν από αυτά. Τα παραδείγματα που παρουσιάστηκαν παραπάνω «στοιβάζονται» μαζί με τις υπόλοιπες ενδείξεις ότι επιστήμη και τεχνολογία δεν είναι, και ούτε πρόκειται να είναι ποτέ, αξιακά ουδέτερες. Είναι προφανές πως ιδιαίτερα η ΤΝ, μια τεχνολογία τόσο ρευστή ως προς τα όρια και τις δυνατότητες της, αναπόφευκτα παίρνει το σχήμα του κοινωνικού πλαισίου μέσα στο οποίο γεννιέται.

Η παρείσφρηση σεξιστικών αξιών στο σχεδιασμό, την υλοποίηση και την εφαρμογή της ΤΝ δεν αποτελεί πρωτοφανές συμβάν στην ιστορία της επιστήμης και της τεχνολογίας. Πρωτοφανής είναι όμως ο τρόπος με τον οποίο αποκρύπτεται και ενισχύεται η κοινωνική ανισότητα, ιδιαίτερα εις βάρος των γυναικών, από προκαταλήψεις που είναι «εγγεγραμμένες στον κώδικα των μηχανών», φαινόμενο το οποίο η Noble ορίζει ως αλγοριθμική καταπίεση (Noble, 2018). Την ίδια χρονιά, η Eubanks γράφει: «οι μηχανές που εκπαιδεύονται σε δεδομένα-προϊόντα άνισων κοινωνιών τείνουν να μεγεθύνουν τις υπάρχουσες ανισότητες, μετατρέποντας τις ανθρώπινες προκαταλήψεις σε φαινομενικά αντικειμενικά γεγονότα. Mια επιδεξιότητα υψηλής τεχνολογίας που ενθαρρύνει τους χρήστες να αντιλαμβάνονται βαθιά πολιτικές αποφάσεις ως φυσικές και αναπόφευκτες» (Eubanks, 2018).

Χωρίς αμφιβολία, είναι μεγάλος ο όγκος της βιβλιογραφίας σήμερα που πηγάζει από την αποκάλυψη της «βλάβης» της ΤΝ, άλλες φορές νοημένης ως τεχνικού σφάλματος και άλλοτε ως εγγενούς αδυναμίας. Σε κάθε περίπτωση φαίνεται πως τα θεμελιώδη φιλοσοφικά, κοινωνικά και πολιτικά ερωτήματα που τίθενται για το σύγχρονο άνθρωπο με αφορμή την ΤΝ δεν είναι νέα, αλλά επαναδιατυπώνονται στο παρασκήνιο των ισχυρών μετασχηματιστικών αλλαγών. Η εισαγωγή της ΤΝ μας προ(σ)καλεί να επαναστοχαστούμε πάνω στην ανθρώπινη κατάσταση και τις σχέσεις αυτής με την ηθική και την τεχνολογία. Είναι η τεχνολογία per se που αναπτύσσει τις επιπτώσεις ή ο τρόπος που αυτή εμπλέκεται με τις κοινωνικές, κρατικές και οικονομικές δομές;

Τα ερωτήματα αυτά είχαν γίνει θέμα των φεμινιστικών ερευνών αρκετά πριν γίνουν σημείο αναφοράς των συζητήσεων περί ηθικής της ΤΝ. O όρος «Φεμινιστική Τεχνητή Νοημοσύνη» εμφανίζεται πρώτη φορά το 1995, στο «Embodying Knowledge: A Feminist Critique of Artificial Intelligence» (Adam, 1995). Πλοηγούμενη μεταξύ των βασικών ιδεών της φεμινιστικής επιστημολογίας και των –μέχρι τότε– περιορισμένων δυνατοτήτων της ΤΝ, η Adam ρωτά τί σημαίνει να γνωρίζεις. Δεδομένου ότι η γνώση και η αναπαράστασή της αποτελούν την καρδιά της ΤΝ, στη μελέτη της Adam το φύλο γίνεται αναλυτικό εργαλείο για την εξερεύνηση του πώς τα συστήματα αυτά αναπαριστούν τη γνώση, ποιου είδους γνώση αναπαρίσταται και ποιος την κατέκτησε.

Σύμφωνα με την Adam η ΤΝ μετουσιώνει ψηφιακά την ιδέα του καρτεσιανού δυϊσμού. Ο νους διαχωρίζεται από το σώμα και δεν επικρατεί απλά έναντι αυτού, αλλά το συνθλίβει. Δίνεται έμφαση στις αναπαραστάσεις προτασιακής λογικής, μια σύγχρονη εκδοχή νοησιαρχίας, όπου η γνώση οργανώνεται μέσω αυστηρών κανόνων της μορφής «αν-τότε». Αυτό συνεπάγεται έναν τρόπο κατανόησης της πραγματικότητας που βασίζεται στην έκφραση «ο-S-ξέρει-ότι-p» – με τον S να λειτουργεί ως ένας παντογνώστης παρατηρητής και το p ως ένα αληθές, μονοσήμαντα ερμηνεύσιμο παρατηρούμενο γεγονός. Άλλωστε, η ιδέα της αμερόληπτης και καθολικής αναπαράστασης της πραγματικότητας, ή αλλιώς το «τέχνασμα του Θεού» όπως διατυπώθηκε από τη Haraway, είχε βρεθεί στο στόχαστρο των φεμινιστικών κριτικών πολύ πριν γίνει σχετική με το ζήτημα της δικαιοσύνης των συστημάτων ΤΝ. Σύμφωνα με τη Haraway, κάθε γνώση παράγεται σε –και συγκροτείται από– συγκεκριμένα κοινωνικά, πολιτισμικά και ιστορικά πλαίσια, εντός των οποίων χρησιμοποιείται (Pinto, 2020). Αμφισβητώντας την παραδοσιακή άποψη που καθιστά την έννοια της αντικειμενικότητας ταυτόσημη με τη «θέαση των πάντων από το πουθενά», η Haraway επανατοποθετεί το υποκείμενο που γνωρίζει, στις κοινωνικές συντεταγμένες μέσα στις οποίες γνωρίζει. Αυτή η τοποθέτηση, η συνειδητοποίηση δηλαδή ότι τα ιδιάζοντα κοινωνικά χαρακτηριστικά μίας περιόδου διαμορφώνουν τον τρόπο που αντιλαμβανόμαστε τον κόσμο, δεν αναστέλλει την κατάκτηση της αλήθειας. Αντιθέτως, η αναστοχαστική αναγνώριση της τοπικότητας συμβάλλει σε ισχυρότερες και πιο αξιόπιστες μορφές γνώσης, που συλλαμβάνουν την πολυπλοκότητα και την πολλαπλότητα των κοινωνικών οπτικών.

Υιοθετώντας τη θέση της Haraway για την κοινωνική τοποθέτηση κάθε μορφής γνώσης, η Adam καλεί σε επαναξιολόγηση των αξιωμάτων πάνω στα οποία στηρίζεται η φιλοσοφία σχεδιασμού της ΤΝ. Προτείνει τη μετατόπιση από τις παραδοσιακές απόψεις του Διαφωτισμού περί νοημοσύνης ως ορθολογικότητας προς μία πιο συμπεριληπτική κατανόηση του όρου, στην οποία θα λαμβάνεται υπόψη ο ρόλος της ενσώματης εμπειρίας στην παραγωγή γνώσης. Η Adam «αντιστέκεται» για δύο λόγους. Πρώτον, διότι πολλά από όσα γνωρίζουν οι γυναίκες δεν μπορούν να διατυπωθούν υπό το πρότυπο της προτασιακής λογικής και, δεύτερον, διότι αυτή ακριβώς η αδυναμία μετάφρασης των γυναικείων βιωμάτων συμβάλλει στην απαξίωση της γνώσης των γυναικών, αν όχι ως μη-γνώσης, σίγουρα ως ασήμαντης (Adam, 1996).

Όταν έγραφε η Adam, το αντικείμενο της κριτικής της –τα συστήματα ΤΝ της εποχής– ήταν σε πρωτόλεια μορφή σε σύγκριση με αυτά που χρησιμοποιούμε σήμερα. Οι παρατηρήσεις της, περισσότερο ως ανησυχίες, δεν είχαν περάσει ακόμα από τη σφαίρα του θεωρητικού σε αυτή του εφαρμοσμένου. Τριάντα χρόνια αργότερα, οι βασικές θέσεις της Adam παραμένουν επίκαιρες και το κέντρο βάρους της φεμινιστικής κριτικής εντοπισμένο στο πώς η γνώση της ΤΝ, όπως κάθε άλλη γνώση, διέπεται από υπόρρητες σχέσεις εξουσίας. Η φεμινιστική σκέψη έχει ασκήσει ισχυρή κριτική στους τρόπους με τους οποίους τα συστήματα ΤΝ τυποποιούν, ταξινομούν και ενισχύουν ιστορικές μορφές διακρίσεων. Η προσοχή στρέφεται, πρωτίστως, στην ίδια την διαδικασία ταξινόμησης των δεδομένων, η οποία νοείται από τους φεμινιστικούς κύκλους ως πράξη πολιτική: ποιος επιλέγει, καταγράφει και ερμηνεύει τα δεδομένα που θα χρησιμοποιηθούν; Υπάρχει μία και μοναδική, απόλυτη αλήθεια στα δεδομένα; Είναι οι διαπιστωμένες αλγοριθμικές προκαταλήψεις «απλώς» αποκλίσεις από –κατά τα άλλα– ορθώς ορισμένες τιμές, ή μήπως είναι ενδείξεις ελλιπούς και αφελούς προεπεξεργασίας (Lee et Singh, 2021);

Στόχος της φεμινιστικής κριτικής είναι η συνειδητοποίηση ότι οι περίπλοκες διαδικασίες καθορισμού χαρακτηριστικών, προκαταρκτικής ταξινόμησης των δεδομένων εκπαίδευσης και «ρύθμισης» κατωφλίων και παραμέτρων βασίζονται στην ανθρώπινη κρίση. Συγκεκριμένα, επικρίνουν την «προδιάθεση» των ερευνητών της ΤΝ να σχηματίσουν βιαστικούς ορισμούς και αυστηρές τομές μεταξύ όσων υπάρχουν, στριμώχνοντας την πραγματικότητα σε «ετικέτες». Η κατηγοριοποίηση των δεδομένων, όπως γίνεται σήμερα, στοχεύει στην «επιβολή της τάξης μέσα στην ακαταστασία της ζωής» (West, 2020), καταλήγοντας όμως να «ισοπεδώνει» την ποικιλομορφία της ανθρωπότητας και να κρατά κεκαλυμμένη την κοινωνική ανισότητα.

Οι έμφυλες προκαταλήψεις που ενσωματώνονται στα συστήματα ΤΝ δεν αποτελούν σφάλματα ή βλάβες, αλλά το αποτέλεσμα χρόνιων δομικών ανισοτήτων. Στη νέα ψηφιακή πραγματικότητα, αυτές οι προκαταλήψεις είναι ακόμα δυσκολότερο να ανιχνευθούν, ιδιαίτερα τη στιγμή που ο ίδιος ο σκοπός των συστημάτων υποτίθεται πως είναι να υπερβούν την ανθρώπινη μεροληψία (Wajcman & Young, 2023). Οι ισχυρισμοί του τύπου «το έκανε ο αλγόριθμος» και οι λοιπές συμπαραδηλώσεις περί ηθικής υπαιτιότητας είναι ορισμένοι από τους λόγους για τους οποίους η φεμινιστική κριτική στην ΤΝ είναι αναγκαία. Έμμεσα είτε άμεσα, υπάρχει πάντα ένας άνθρωπος που φέρει την ευθύνη για τις αποφάσεις που λαμβάνονται ή καθοδηγούνται από έναν αλγόριθμο (Greene et al., 2019). Αλλά ποιος;

H Adam παραθέτει: «Δεν με ενδιαφέρει το φύλο των ατόμων που εμπλέκονται, αλλά το φύλο των ιδεών που παράγουν» (Adam, 1996, σελ. 49). Ωστόσο φαίνεται πως αυτά τα δύο δεν είναι ανεξάρτητα: είναι σημαντικό το ποιος «είναι στο δωμάτιο» και ακόμα σημαντικότερο το ποιος απουσιάζει. Σύμφωνα με έρευνα του World Economic Forum το 2023, το 70% των ειδικών στην ΤΝ ήταν άνδρες και μόλις το 30% γυναίκες (WEF, 2023). Και ενώ η συμπερίληψη των γυναικών σε ανάλογες θέσεις εργασίας προβάλλει ως ανάγκη επιτακτική, από μόνη της δεν είναι αρκετή. Παράλληλα, οι στατιστικές μέθοδοι ή η ανάκληση προκατειλημμένων συστημάτων δεν αρκούν για να καταπολεμήσουν την «αλγοριθμική καταπίεση». Αυτό που χρειάζεται είναι να αναγνωριστεί η υποβόσκουσα ιεραρχική λογική που εξαρχής «δημιούργησε» προνομιούχα και μη-προνομιούχα υποκείμενα (West, 2020). Επιστρέφοντας στο παράδειγμα της Amazon, προφανώς και η κατάργηση του ελαττωματικού εργαλείου προσλήψεων δεν ισοδυναμεί με τη λύση του προβλήματος. Εν προκειμένω, το πρόβλημα δεν ήταν το ίδιο το σύστημα, αλλά τα έτη προκατάληψης που διαμόρφωσαν την εταιρική κουλτούρα της Amazon ως ανδρική.

Γιατί λοιπόν χρειαζόμαστε καλύτερη Τεχνητή Νοημοσύνη; Η απόπειρα βελτιστοποίησης αυτών των συστημάτων είναι πολλά παραπάνω από απόπειρα ενίσχυσης της τεχνοεπιστημονικής «αποδοτικότητας». Παραφράζοντας την Fehr, «αυτές οι μηχανές πρέπει να αλλάξουν, όχι επειδή εισάγουν ή προκαλούν τον σεξισμό, αλλά επειδή καθιστούν πιο δύσκολο το να αντισταθούμε στο σεξισμό που βιώνουμε ήδη» (Fehr, 2022).

ΑΝΤΙ ΕΠΙΛΟΓΟΥ: ΕΊΝΑΙ ΑΥΤΉ Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΑΡΚΕΤΑ ΚΑΛΗ;

Μισό αιώνα μετά την πρώτη εφαρμογή της στην καθημερινή μας ζωή, η ΤΝ έχει αλλάξει ριζικά τον τρόπο με τον οποίο πλοηγούμαστε στην κοινωνική πραγματικότητα. Την ίδια στιγμή που οι εκφάνσεις της ζωής μας μεταφορτώνονται η μία μετά την άλλη στον υπολογιστικό κόσμο, η ρομαντικοποίηση της ψηφιοποίησης φαίνεται να καταρρέει: παρά την ταχύτητα, την αποδοτικότητα, τις δυνατότητες αυτοματοποίησης και την πρόσβαση σε υπέρογκα σύνολα δεδομένων, τα συστήματα ΤΝ, ως κοινωνικά προϊόντα, αντανακλούν –και συχνά οξύνουν– τις ανισότητες που συναντώνται στο εκάστοτε χωροχρονικό πλαίσιο δημιουργίας τους.

Η έµφυλη µεροληψία των συστηµάτων ΤΝ, συνιστώντας πολλά περισσότερα από «τυχαίο» σφάλµα ή τεχνική ατέλεια, αναδύεται ως το ψηφιακό ανάλογο επίµονων κοινωνικών ανισοτήτων και δοµικών ανισορροπιών. Σε ηθικό επίπεδο, ο τρόπος µε τον οποίο οι αλγόριθµοι «βλέπουν», «µιλούν» και «αποφασίζουν» για τις γυναίκες θέτει υπό αµφισβήτηση την ίδια την αξία της τεχνολογίας ως εργαλείου προόδου και ευηµερίας. Σε πρακτικό επίπεδο, οι αθεµελίωτες αλγοριθµικές διακρίσεις οδηγούν σε λιγότερο αποδοτικά και αξιόπιστα συστήµατα, περιορίζοντας τις ευκαιρίες και τις δυνατότητες που προσφέρει η ΤΝ. Δεδοµένου πως, όπως κάθε άλλο τεχνολογικό προϊόν, η ΤΝ δεν είναι αξιακά ουδέτερη, οφείλουµε να αναρωτηθούµε: ποιές αξίες και ποιά συµφέροντα θα θέλαµε να εκπροσωπούνται στην ολοένα κλιμακούμενη ψηφιακή επανάσταση;

ΒΙΒΛΙΟΓΡΑΦΙΑ

ΕΛΛΗΝΟΓΛΩΣΣΗ

Μήτρου, Λ., 2023. Μπορεί ο αλγόριθμος… Αθήνα: Πανεπιστημιακές Εκδόσεις Κρήτης.

Τάσης, Θ., 2019. Ψηφιακός Ανθρωπισμός. Αθήνα: Αρμός.

ΞΕΝΟΓΛΩΣΣΗ

Adam, A., 1995. A Feminist Critique of Artificial Intelligence. European Journal of Women’s Studies, 2(3), 355-377. https://doi.org/10.1177/135050689500200305

Adam, A., 1996. Constructions of gender in the history of artificial intelligence. IEEE Annals of the History of Computing, 18, 47-53. https://doi.org/10.1109/MAHC.1996.511944

Bolukbasi, T., Chang, K., Zou, J., Saligrama, V., & Kalai, A., 2016. Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings. arXiv. https://arxiv.org/abs/1607.06520

Dreyfus, H., 1992. What Computers Still Can’t Do: A Critique of Artificial Reason. New York: MIT Press.

Fehr, C. (2022). Feminism, Social Justice, and Artificial Intelligence. Feminist Philosophy Quarterly, 8(3/4). https://doi.org/10.5206/fpq/2022.3/4.15643

Garg, N., Schiebinger, L., Jurafsky, D., & Zou, J., 2018. Word embeddings quantify 100 years of gender and ethnic stereotypes. Proceedings of the National Academy of Sciences of the United States of America, 115(16), E3635–E3644. https://doi.org/10.1073/pnas.1720347115

Greene, D., Hoffmann, A., & Stark, L., 2019. Better, Nicer, Clearer, Fairer: A Critical Assessment of the Movement for Ethical Artificial Intelligence and Machine Learning. Proceedings of Hawaii International Conference on System Sciences.DOI:10.24251/HICSS.2019.258

Eubanks, V., 2018. Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. NY: St. Martin’s Press.

Langenkamp, M., Costa, A., & Cheung, C., 2020. Hiring Fairly in the Age of Algorithms. arXiv. https://arxiv.org/abs/2004.07132

Lee, M., & Singh, J., 2021. The Landscape and Gaps in Open Source Fairness Toolkits. New York: Association for Computing Machinery. https://doi.org/10.1145/3411764.3445261

Nicholas, G., & Bhatia, A., 2023. Lost in Translation: Large Language Models in Non-English Content Analysis. arXiv. https://arxiv.org/abs/2306.07377

Noble, S., 2018. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: NYU Press, 374(6567), 542. https://doi.org/10.1126/science.abm5861

Pinto, M., 2020. Ignorance, Science, and Feminism. In Kristen Intemann & Sharon Crasnow (eds.), The Routledge Handbook of Feminist Philosophy of Science. New York, New York: Routledge.

Prates, M., Avelar, P., & Lamb, L., 2019. Assessing gender bias in machine translation: A case study with Google Translate. Neural Comput & Applic 32, 6363–6381. https://doi.org/10.1007/s00521-019-04144-6

Schwemmer, C., Knight, C., Bello-Pardo, E. D., Oklobdzija, S., Schoonvelde, M., & Lockhart, J. W., 2020. Diagnosing Gender Bias in Image Recognition Systems. Socius: Sociological Research for a Dynamic World, 6. https://doi.org/10.1177/2378023120967171

Steed, R., & Caliskan, A., 2021. Image Representations Learned With Unsupervised Pre-Training Contain Human-like Biases. (FAccT ’21). Association for Computing Machinery, New York, 701–713. https://doi.org/10.1145/3442188.3445932

Wajcman, J., & Young, E., 2023. Feminism Confronts AI: The Gender Relations of Digitalisation. Ιn Jude Browne,  Stephen Cave, Eleanor Drage, Kerry McInerney (eds.), Feminist AI: Critical Perspectives on Algorithms, Data, and Intelligent Machines. Oxford: Oxford University Press. https://doi.org/10.1093/oso/9780192889898.003.0004

World Economic Forum, 2023. Global Gender Gap Report 2023. Geneva. https://www3.weforum.org/docs/WEF_GGGR_2023.pdf.

West, S.M. (2020). Redistribution and Rekognition: A Feminist Critique of Algorithmic Fairness. Catalyst, 6(2). https://doi.org/10.28968/cftt.v6i2.33043

John McCarthy, Marvin L. Minsky, Nathaniel Rochester και Claude E. Shannon

Μετάφραση: Νικόλ Σαρλά
Επιμέλεια μετάφρασης: Νικόλ Σαρλά, Βασίλης Λεμπέσης
Επιστημονική επιμέλεια: Νικόλ Σαρλά, Βασίλης Λεμπέσης, Θάνος Παναγόπουλος

ΠΕΡΙΛΗΨΗ

Το καλοκαιρινό ερευνητικό πρόγραμμα του 1956 στο Dartmouth για την τεχνητή νοημοσύνη ξεκίνησε με αυτή την πρόταση της 31^ης Αυγούστου 1955, η οποία συντάχθηκε από τους John McCarthy, Marvin Minsky, Nathaniel Rochester και Claude Shannon. Το αρχικό δακτυλογραφημένο κείμενο αποτελούνταν από 17 σελίδες συν την σελίδα του τίτλου. Αντίγραφα του δακτυλογραφημένου κειμένου φυλάσσονται στα αρχεία του Κολεγίου Dartmouth και του Πανεπιστημίου Stanford. Στις πρώτες 5 σελίδες παρουσιάζεται η πρόταση και στις υπόλοιπες σελίδες εκτίθενται τα προσόντα και τα ενδιαφέροντα των τεσσάρων που πρότειναν τη μελέτη. Για λόγους συντομίας, το παρόν άρθρο αναπαράγει μόνο την ίδια την πρόταση, μαζί με τις σύντομες αυτοβιογραφικές δηλώσεις των εισηγητών.

Προτείνουμε να διεξαχθεί μια μελέτη της τεχνητής νοημοσύνης διάρκειας 2 μηνών και με συμμετοχή 10 ατόμων κατά τη διάρκεια του καλοκαιριού του 1956 στο Κολέγιο Dartmouth στο Ανόβερο του Νιου Χάμσαϊρ. Η μελέτη θα βασιστεί στην υπόθεση ότι κάθε πτυχή της μάθησης ή οποιοδήποτε άλλο χαρακτηριστικό της νοημοσύνης μπορεί κατ’ αρχήν να περιγραφεί με τόση ακρίβεια ώστε να μπορεί να κατασκευαστεί μια μηχανή που να την προσομοιώνει. Θα γίνει μια προσπάθεια να βρεθεί πώς να κάνει κανείς τις μηχανές να χρησιμοποιούν τη γλώσσα, να σχηματίζουν αφαιρέσεις και έννοιες, να επιλύουν τύπους προβλημάτων που τώρα προορίζονται για τον άνθρωπο και να βελτιώνονται. Πιστεύουμε ότι μπορεί να σημειωθεί σημαντική πρόοδος σε ένα ή περισσότερα από αυτά τα προβλήματα αν μια προσεκτικά επιλεγμένη ομάδα επιστημόνων εργαστεί πάνω σε αυτό από κοινού για ένα καλοκαίρι.

Τα παρακάτω αποτελούν μερικές πτυχές του προβλήματος της τεχνητής νοημοσύνης:

1) Αυτόματοι υπολογιστές

Αν μια μηχανή μπορεί να εκτελέσει μια εργασία, τότε ένας αυτόματος υπολογιστής μπορεί να προγραμματιστεί για να προσομοιώσει τη μηχανή. Οι ταχύτητες και οι χωρητικότητες μνήμης των σημερινών υπολογιστών μπορεί να είναι ανεπαρκείς για την προσομοίωση πολλών από τις ανώτερες λειτουργίες του ανθρώπινου εγκεφάλου, το σημαντικότερο εμπόδιο, όμως, δεν είναι η έλλειψη χωρητικότητας της μηχανής, αλλά η αδυναμία μας να γράψουμε προγράμματα που να εκμεταλλεύονται πλήρως αυτό που έχουμε.

2) Πώς μπορεί ένας υπολογιστής να προγραμματιστεί να χρησιμοποιεί μια γλώσσα

Μπορούμε να υποθέσουμε ότι σε μεγάλο βαθμό η ανθρώπινη σκέψη συνίσταται στον χειρισμό λέξεων σύμφωνα με κανόνες της λογικής και κανόνες εικασίας. Από αυτή την άποψη, ο σχηματισμός μιας γενίκευσης συνίσταται στην πρόσληψη μιας νέας λέξης και κάποιων κανόνων, σύμφωνα με τους οποίους οι προτάσεις που την περιέχουν συνεπάγονται άλλες προτάσεις και, με τη σειρά τους, συνεπάγονται οι ίδιες από άλλες. Αυτή η ιδέα δεν έχει διατυπωθεί ποτέ με μεγάλη ακρίβεια, ούτε έχουν αναπτυχθεί συγκεκριμένα υποδείγματα.

Εικ. 1. Πρώτη σελίδα από την πρωτότυπη πρόταση. Ευγενική προσφορά του Κολεγίου Dartmouth.

3) Νευρωνικά δίκτυα

Πώς μπορεί ένα σύνολο από (υποθετικούς) νευρώνες να οργανωθεί με τέτοιον τρόπο ώστε να σχηματίζει έννοιες. Έχει πραγματοποιηθεί σημαντική θεωρητική και πειραματική εργασία πάνω σε αυτό το πρόβλημα από τους Uttley, Rashevsky και την ομάδα του, Farley και Clark, Pitts και McCulloch, Minsky, Rochester και Holland και άλλους. Έχουν προκύψει κάποια αποτελέσματα, αλλά το πρόβλημα απαιτεί περισσότερη θεωρητική επεξεργασία.

4) Θεωρία του μεγέθους ενός υπολογισμού

Αν μας δοθεί ένα καλώς ορισμένο πρόβλημα (για το οποίο είναι δυνατόν να ελέγξουμε μηχανικά αν μια προτεινόμενη απάντηση είναι έγκυρη ή όχι), ένας τρόπος επίλυσής του είναι να δοκιμάσουμε κατά σειρά όλες τις πιθανές απαντήσεις. Αυτή η μέθοδος είναι αναποτελεσματική και για να την αποκλείσουμε πρέπει να έχουμε κάποιο κριτήριο για την αποτελεσματικότητα του υπολογισμού. Η εξέταση θα δείξει ότι, για να πάρει κανείς ένα μέτρο της αποτελεσματικότητας ενός υπολογισμού, είναι απαραίτητο να έχει στη διάθεσή του μια μέθοδο μέτρησης της πολυπλοκότητας των υπολογιστικών συσκευών, η οποία με τη σειρά της μπορεί να γίνει αν έχει κανείς μια θεωρία της πολυπλοκότητας των συναρτήσεων. Ορισμένα μερικά αποτελέσματα για το πρόβλημα αυτό έχουν προκύψει από τον Shannon καθώς και τον McCarthy.

5) Αυτοβελτίωση

Πιθανώς μια πραγματικά ευφυής μηχανή θα εκτελεί δραστηριότητες που μπορούν να περιγραφούν καλύτερα ως αυτοβελτίωση. Έχουν προταθεί ορισμένα σχήματα για να γίνει αυτό και αξίζει να μελετηθούν περαιτέρω. Ενδεχομένως το ζήτημα αυτό μπορεί να μελετηθεί και αφηρημένα.

6) Αφαιρέσεις

Ορισμένοι τύποι «αφαίρεσης» μπορούν να οριστούν με σαφήνεια και αρκετοί άλλοι με λιγότερη σαφήνεια. Μια άμεση προσπάθεια ταξινόμησης αυτών και περιγραφής των μηχανικών μεθόδων σχηματισμού αφαιρέσεων από αισθητηριακά και άλλα δεδομένα φαίνεται ότι αξίζει τον κόπο.

7) Τυχαιότητα και δημιουργικότητα

Μια αρκετά ελκυστική, αλλά σαφώς ελλιπής υπόθεση είναι ότι η διαφορά μεταξύ δημιουργικής σκέψης και μη-ευφάνταστης, αλλά ικανής, σκέψης έγκειται στην εισαγωγή κάποιας τυχαιότητας. Η τυχαιότητα πρέπει να καθοδηγείται από τη διαίσθηση ώστε να είναι αποτελεσματική. Με άλλα λόγια, η εύλογη εικασία ή η διαίσθηση περιλαμβάνουν ελεγχόμενη τυχαιότητα μέσα σε μια κατά τα άλλα μεθοδική σκέψη.

ΕΙΣΗΓΗΤΕΣ

CLAUDE E. SHANNON

Claude E. Shannon, μαθηματικός, Bell Telephone Laboratories. Ο Shannon ανέπτυξε τη στατιστική θεωρία της πληροφορίας, την εφαρμογή του προτασιακού λογισμού σε κυκλώματα μεταγωγής και έχει συνεισφέρει στη μελέτη της αποδοτικής σχεδίασης κυκλωμάτων μεταγωγής, τον σχεδιασμό μηχανών που μαθαίνουν, την κρυπτογραφία και τη θεωρία των μηχανών Turing. Μαζί με τον J. McCarthy συνεπιμελούνται ένα αφιέρωμα στο Annals of Mathematics με θέμα «Θεωρία των Αυτομάτων» (The Theory of Automata).

MARVIN L. MINSKY

Marvin L. Minsky, υπότροφος-συνεργάτης του Harvard στον τομέα των μαθηματικών και της νευρολογίας. Ο Minsky έχει κατασκευάσει μια μηχανή για την προσομοίωση της μάθησης από νευρωνικά δίκτυα και έχει γράψει μια διδακτορική διατριβή στα μαθηματικά στο Princeton με τίτλο «Νευρωνικά Δίκτυα και το Πρόβλημα του Μοντέλου του Εγκεφάλου» (Neural Nets and the Brain Model Problem), η οποία περιλαμβάνει αποτελέσματα στη θεωρία της μάθησης και τη θεωρία των τυχαίων νευρωνικών δικτύων.

NATHANIEL ROCHESTER

Nathaniel Rochester, διευθυντής έρευνας της πληροφορίας, εταιρεία IBM, Poughkeepsie, Νέα Υόρκη. Ο Rochester ασχολήθηκε με την ανάπτυξη του ραντάρ για επτά χρόνια και των υπολογιστικών μηχανημάτων επίσης για επτά χρόνια. Μαζί με έναν άλλο μηχανικό ήταν από κοινού υπεύθυνοι για τον σχεδιασμό του IBM 701, ενός αυτόματου υπολογιστή μεγάλης κλίμακας που τυγχάνει ευρείας χρήσης σήμερα. Επεξεργάστηκε ορισμένες από τις τεχνικές αυτόματου προγραμματισμού που χρησιμοποιούνται ευρέως σήμερα και ασχολήθηκε με προβλήματα που αφορούν το πώς να βάλουμε τις μηχανές να κάνουν εργασίες που προηγουμένως μπορούσαν να κάνουν μόνο άνθρωποι. Εργάστηκε επίσης στην προσομοίωση νευρικών δικτύων με ιδιαίτερη έμφαση στη χρήση υπολογιστών για τη δοκιμή θεωριών στη νευροφυσιολογία.

JOHN McCARTHY

John McCarthy, αναπληρωτής καθηγητής μαθηματικών, Κολέγιο Dartmouth. Ο McCarthy έχει εργαστεί σε διάφορα ζητήματα που σχετίζονται με τη μαθηματική φύση της διαδικασίας της σκέψης, συμπεριλαμβανομένης της θεωρίας των μηχανών Turing, της ταχύτητας των υπολογιστών, της σχέσης ενός μοντέλου του εγκεφάλου με το περιβάλλον του και της χρήσης γλωσσών από μηχανές. Ορισμένα αποτελέσματα αυτής της εργασίας περιλαμβάνονται στο επερχόμενο βιβλίο «Annals Study» που επιμελήθηκαν οι Shannon και McCarthy. Το υπόλοιπο έργο του McCarthy φορά τον τομέα των διαφορικών εξισώσεων.

H κεντρική φωτογραφία του άρθρου φιλοτεχνήθηκε από το ChatGPT έπειτα από αίτημά μας προς αυτό να φτιαχτεί ένας πίνακας σχετικός με το περιεχόμενο του άρθρου που να ακολουθεί την τεχνοτροπία του Σαλβαντόρ Νταλί.

 Μετάφραση: Χρήστος Κρυστάλλης

Επιμέλεια μετάφρασης: Νικόλ Σαρλά, Βασίλης Λεμπέσης

Επιστημονική επιμέλεια: Βασίλης Λεμπέσης, Θάνος Παναγόπουλος

Η τεχνητή νοημοσύνη και η φυσική μετασχηματίζουν η μία την άλλη και οι αλλαγές έχουν επιπτώσεις που εκτείνονται από τη σχολική αίθουσα ως τα αστέρια. Οι επιπτώσεις είναι ορατές στην ακαδημία και τη βιομηχανία, στην άμυνα και την ασφάλεια, στη διαδικασία χρηματοδότησης των εταιριών και τη διακυβέρνηση.

Κορυφαίοι φυσικοί από την ακαδημία, την κυβέρνηση και τη βιομηχανία στις ΗΠΑ, συναντήθηκαν νωρίτερα μέσα στη χρονιά (2024) για να μοιραστούν την ελπίδα τους για το πώς η μηχανική μάθηση (machine learning) και η παραγωγική τεχνητή νοημοσύνη (generative artificial intelligence) θα μπορούσαν να μεταμορφώσουν την ανακάλυψη, τη δημιουργικότητα, την πνευματική ιδιοκτησία, την εκπαίδευση, την επικοινωνία και το εργατικό δυναμικό^[1]. Η εκδήλωση οργανώθηκε από το Ίδρυμα AIP στις 11 Απριλίου 2024 στο Αμερικανικό Κέντρο Φυσικής, στην Ουάσινγκτον. Στο συνέδριο προέδρευσε η France Córdova, πρώην διευθύντρια του National Science Foundation (Το Ίδρυμα AIP είναι μέρος του Αμερικανικού Ινστιτούτου Φυσικής, το οποίο εκδίδει το περιοδικό PHYSICS TODAY)^[2].

Córdova: Πώς αλλάζει η τεχνητή νοημοσύνη την έρευνα στη φυσική; Επιταχύνει την ανακάλυψη ή λειτουργεί ως καταλύτης στη σταδιακή πρόοδο;

Jesse Thaler (MIT και NSF): Το 2016 ήμουν επιφυλακτικός, όταν οι άνθρωποι μιλούσαν για την επανάσταση της βαθείας μάθησης (deep learning). Είμαι ένας θεωρητικός φυσικός, οπότε «σκέφτομαι σε βάθος» με την κιμωλία και τον μαυροπίνακα. Έκτοτε συνειδητοποίησα πώς οι δοκιμασμένες στο χρόνο στρατηγικές της φυσικής μπορούν να συγχωνευθούν με τις στρατηγικές της μηχανικής μάθησης, για την επεξεργασία μεγάλων συνόλων από δεδομένα. Αυτό έχει οδηγήσει στην πρόοδο σε πολλές περιπτώσεις. Ακολουθούν τρία παραδείγματα από το ινστιτούτο μου. Θέλαμε να κατανοήσουμε την ισχυρή πυρηνική δύναμη. Για τον σκοπό αυτό, το 10% όλων των ανοικτών υπερυπολογιστικών πόρων των ΗΠΑ, πλέον, αφιερώνεται στην επίλυση των εξισώσεων της πλεγματικής κβαντικής χρωμοδυναμικής, οι οποίες περιγράφουν την ισχυρή αλληλεπίδραση των κουάρκ με τα γλουόνια, που συνδέονται σε πρωτόνια και νετρόνια και στη συνέχεια σε πυρήνες. Ορισμένοι συνάδελφοί μου χρησιμοποιούν ένα είδος παραγωγικής τεχνητής νοημοσύνης για να κάνουν υπολογισμούς εκκινώντας από πρώτες αρχές στα άτομα του υδρογόνου και του ηλίου και να περιηγηθούν  μέσα στον περιοδικό πίνακα.

Η φυσική των νετρίνων είναι ένας άλλος στρατηγικός τομέας στον οποίο επενδύουν οι ΗΠΑ. Σχεδιάζεται ένα πείραμα για να στείλει δέσμες νετρίνων από το Fermilab σε ένα ορυχείο στη Νότια Ντακότα (βλ. το άρθρο της Anne Heavey, PHYSICS TODAY, Ιούλιος 2022, σελίδα 46). Ο ανιχνευτής βασίζεται σε θαλάμους προβολής στον χρόνο από υγρό αργό που δίνουν εξαιρετική πρόσβαση σε πληροφορίες για τα νετρίνα. Δεν μπορούμε να επεξεργαστούμε αυτά τα πολύπλοκα δεδομένα –και να ανακατασκευάσουμε αξιόπιστα τη δυναμική των νετρίνων– χωρίς την τεχνητή νοημοσύνη.

Και τα δύο αυτά παραδείγματα δείχνουν πώς η τεχνητή νοημοσύνη μπορεί να επηρεάσει την έρευνα στη φυσική. Αλλά πώς μπορούν οι φυσικοί να επηρεάσουν την έρευνα της ΤΝ; Μου αρέσει το παράδειγμα του grokking. Αυτό συμβαίνει όταν ένας αλγόριθμος μηχανικής μάθησης τρέχει και τρέχει και δεν μαθαίνει και ξαφνικά του έρχεται μια επιφοίτηση. Για έναν φυσικό, μια τέτοιου είδους απότομη αλλαγή συνιστά μια αλλαγή φάσης. Και, πράγματι, αυτό που συμβαίνει στο grokking είναι ότι ένα τυχαίο σύνολο από πληροφορίες, αποκρυσταλλώνεται ξαφνικά σε γνώση. Αναδύεται μια πλεγματική δομή μέσα στον λανθάνοντα χώρο της αρχιτεκτονικής της μάθησης. Οι φυσικοί βρίσκονται στην μοναδική θέση να κατανοούν αυτή τη διαδικασία. Κρατιέμαι με νύχια και με δόντια την ώρα που οι νεότεροι συνάδελφοί μου με τραβάνε όλο και πιο βαθιά σε έναν κόσμο για τον οποίο ήμουν αρχικά πολύ επιφυλακτικός. Το 2016 δύο μεταπτυχιακοί φοιτητές μου μού έδειξαν την εργασία τους για τη μηχανική μάθηση. Η εργασία τους βρισκόταν σε ευθύ ανταγωνισμό με τη δική μου. Εγώ είχα κοπιάσει για να κάνω υπολογισμούς στη θεωρία του κβαντικού πεδίου και αυτοί ήταν μπροστά μου με ένα νευρωνικό δίκτυο. Τους είπα όλα τα πράγματα που ήταν λάθος στην εργασία τους: «Δεν είναι ερμηνεύσιμη. Δεν έχετε τα σφάλματα. Δεν καταλαβαίνετε τις έννοιες που εμπλέκονται». Σκέφτηκα ότι θα πήγαιναν να κάνουν τη διδακτορική τους διατριβή με κάποιον άλλον. Αντ’ αυτού, οι διατριβές τους απάντησαν, ουσιαστικά, όλες τις ανησυχίες μου.

Αυτή η εμπειρία μου έδειξε πως δεν πρέπει απλώς να κατεβάζουμε την τεχνητή νοημοσύνη από το ράφι και να τη χρησιμοποιούμε όπως είναι. Για να προσαρμόσουμε αυτή τη μέθοδο στη φυσική, πρέπει να συμπεριλάβουμε όλα όσα κάνουμε συνήθως, επιδιώκοντας να έχουμε υψηλά πρότυπα για την επιστημονική ανακάλυψη.

Walter Copan (Σχολή Μεταλλειολόγων του Κολοράντο): Βλέπω την έρευνα στην φυσική να συνυπάρχει με την τεχνητή νοημοσύνη με πάρα πολλούς τρόπους.

Πάρτε ως παράδειγμα τον εξοπλισμό των μεγάλων φυσικών πειραμάτων. Τα συστήματα ελέγχου της τεχνητής νοημοσύνης επιτρέπουν ρυθμίσεις για τις οποίες παλαιότερα χρειάζονταν μήνες εργασίας για τους μεταπτυχιακούς φοιτητές, όπως ο έλεγχος ειδικών πειραμάτων με λέιζερ σε πραγματικά πολύπλοκες οπτικές διατάξεις ή η διαμόρφωση δεσμών και επιταχυντών σωματιδίων που μας επιτρέπουν να αποδίδουμε με ακρίβεια ό,τι απαιτεί η κατανομή της ενέργειας.

Οι εξωπλανήτες είναι ένα άλλο σημαντικό παράδειγμα. Η τεχνητή νοημοσύνη βρίσκεται στον πυρήνα της εύρεσης ή της επικύρωσης της ύπαρξης αρκετών από τους 5000 πλανήτες που έχουν ανακαλυφθεί μέχρι σήμερα. Συνήθως, οι πλανήτες εντοπίζονται εξαιτίας των μεταβολών στην ένταση των σημάτων που προέρχονται από ένα άστρο, όταν ένας πλανήτης περιφέρεται γύρω του. Η τεχνητή νοημοσύνη είναι απολύτως  κατάλληλη για την έγκαιρη αναγνώριση προτύπων όπως αυτό.

Πράγματι, η τεχνητή νοημοσύνη μπορεί να επιταχύνει την έρευνα της φυσικής μέσω της αναγνώρισης προτύπων, επίσης μπορεί να συνεισφέρει στις διαδικασίες ανακάλυψης, ειδικά όπου εμπλέκονται τεράστιες ποσότητες δεδομένων, όπως για παράδειγμα στον Μεγάλο Επιταχυντή Αδρονίων ή σε όσα αναμένουμε από τον Επιταχυντή Ιόντων-Ηλεκτρονίων στο Εθνικό Εργαστήριο Brookhaven.

Valerie Browning (Lockheed Martin): Πλέον, με τα μεγάλα γλωσικά μοντέλα (large language models) και τη παραγωγική τεχνητή νοημοσύνη, η τεχνητή νοημοσύνη εξελίσσεται από ένα εξαιρετικά πολύτιμο υπολογιστικό εργαλείο σε συνεργάτη. Αυτό θα επιταχύνει περαιτέρω τις διαδικασίες της ανακάλυψης. Υπάρχουν πραγματικές υποσχέσεις σε διάφορους τομείς: στη διασταύρωση της κβαντικής πληροφορικής και της μηχανικής μάθησης (machine learning), στην ανακάλυψη νέων υλικών για συστήματα ανανεώσιμων πηγών ενέργειας και στη διασταύρωση των νευρωνικών δικτύων με βάση τη φυσική και τη μηχανική μάθηση.

Córdova: Ποια είναι η προοπτική της βιομηχανίας;

Evgeni Gousev (Qualcomm Research και ίδρυμα tinyML): Στη Silicon Valley αναπτύσσουμε τεχνολογίες αιχμής στην τεχνητή νοημοσύνη, τόσο όσον αφορά στο υλισμικό όσο και στο λογισμικό: όλα τα εργαλεία αξιοποιούνται στην επιστημονική έρευνα. Αναπτυξιακά, όμως, η τεχνητή νοημοσύνη βρίσκεται σε νηπιακό στάδιο. Θα μπορούσε κανείς να διδάξει σε έναν έφηβο να οδηγεί ένα αυτοκίνητο, σε περίπου 10 ώρες. Έχουμε ξοδέψει δισεκατομμύρια δολάρια και πάνω από μια δεκαετία για την αυτόνομη οδήγηση και, ακόμα, δεν έχουμε φτάσει εκεί. Η τεχνολογία της τεχνητής νοημοσύνης βρίσκεται ακόμη στην αρχή. Κάτω από την επιφάνεια, εκτελεί κάποιες βασικές πιθανολογικές εξισώσεις, κάνει πολλαπλασιασμό πινάκων. Αυτή η χοντροκομμένη χρήση της δεν είναι καθόλου βιώσιμη.

Σε αυτό το σημείο μπορούν να συνεισφέρουν οι φυσικοί. Είμαστε εκπαιδευμένοι να λύνουμε προβλήματα και να συνδέουμε τα σημεία. Υπάρχουν τεράστιες ευκαιρίες για εμάς να βοηθήσουμε να καταστεί η τεχνητή νοημοσύνη περισσότερο ερμηνεύσιμη, λογική, αξιόπιστη και να επεκταθεί σε μεγαλύτερη κλίμακα.

Córdova: Υπάρχουν κίνδυνοι για την έρευνα;

Browning: Δεν υπάρχει κάτι σχετικό με την τεχνητή νοημοσύνη που μπορεί να ακυρώσει την ανάγκη για τoν δέοντα έλεγχο και την επιστημονική μέθοδο. Ο κίνδυνος εμφανίζεται στην εφαρμογή. Τα μοντέλα ή οι ιδέες που αναπτύχθηκαν με τη χρήση εργαλείων τεχνητής νοημοσύνης και μηχανικής μάθησης μπορεί να ήταν έγκυρα σε ορισμένα πεδία ή κάτω από συγκεκριμένους περιορισμούς. Ο κίνδυνος εμφανίζεται όταν αυτοί οι περιορισμοί δεν  ενσωματώνονται στη μηχανική διαδικασία.

Στην επιστήμη της αεροδιαστημικής και της στρατιωτικής άμυνας ένα λάθος μπορεί να θέσει ζωές σε κίνδυνο. Έτσι, σε μεγάλο βαθμό, αυτό που κάνουμε είναι να εισάγουμε την αυστηρότητα της μηχανικής. Η αξιολόγηση, η επικύρωση και η επαλήθευση είναι μια πρόκληση όταν προσπαθείς να προβλέψεις όλες τις ακραίες περιπτώσεις –τα σπάνια γεγονότα– που μπορεί να προκύψουν σε ένα περιβάλλον πολύ δυναμικό και, πιθανώς, με περιορισμένους πόρους.

Copan: Ο κίνδυνος είναι μια κατάσταση όπου η οικοδόμηση εμπιστοσύνης απαιτεί διαρκώς έλεγχο και επαλήθευση. Πάρτε πάλι, ως παράδειγμα, την τεχνητή νοημοσύνη και τους εξωπλανήτες. Η ακρίβεια της διαδικασίας ανακάλυψης ήταν πάνω από 96%. Μπορούμε να μάθουμε από ό,τι δεν είχαμε προβλέψει καθώς και από ψευδώς θετικά αποτελέσματα που εντοπίζουμε.

Το NIST έχει βασικό ρόλο σε ό,τι αφορά τα πρότυπα μιας αξιόπιστης τεχνητής νοημοσύνης. Για ένα εύρος εφαρμογών, είναι σημαντικό να υπάρχουν δοκιμαστικά πεδία, όπου τα πρωτόκολλα για την τεχνητή νοημοσύνη να μπορούν να επικυρωθούν και η ακρίβειά τους να μπορεί να επαληθευτεί ανεξάρτητα.

Córdova: Πώς αλλάζει η τεχνητή νοημοσύνη την εκπαίδευση;

Thaler: Στην πανεπιστημιούπολή μας, υπάρχει ένα χάσμα μεταξύ των ανθρώπων που είναι ενθουσιασμένοι με την τεχνητή νοημοσύνη και των στρουθοκάμηλων που βάζουν το κεφάλι τους στην άμμο και λένε ότι η τεχνητή νοημοσύνη δεν πρόκειται να είναι ποτέ συναφής με την έρευνα μας. Αλλά αν δεν φέρνουμε αυτά τα εργαλεία στο αμφιθέατρο, τότε ουσιαστικά δεν κάνουμε τη δουλειά μας ως καθηγητές, δεν διδάσκουμε.

Και μόλις υποχρεώνεις τους φοιτητές να χρησιμοποιήσουν τη γενετική ΤΝ, πραγματικά αλλάζουν οι εξετάσεις που θα χρειαστεί να ετοιμάσεις. Αυτές τις μέρες, ένας φοιτητής μπορεί να χρησιμοποιήσει ένα ρομπότ, τύπου ChatGPT, για να απαντήσει σε μια ερώτηση για το πώς να τρέξει, ας πούμε, έναν κώδικα που επεξεργάζεται δεδομένα από το Aστεροσκοπείο Βαρυτικών Κυμάτων Συμβολομετρίας Λέιζερ (LIGO). Ένας ψηφιακός βοηθός συνομιλίας (chatbot) μπορεί ακόμη και να δημιουργήσει ένα υπόδειγμα κώδικα. Οι συνάδελφοί μου στο ΜΙΤ αναπτύσσουν έναν ψηφιακό βοηθό συνομιλίας κατάλληλος για τη ροή της επιστημονικής εργασίας. Είναι μια απίστευτη πηγή μάθησης. Φοιτητές που μπορεί να μην ξέρουν ούτε πώς να θέτουν ερωτήσεις μπορούν να αλληλεπιδράσουν με έναν ψηφιακό βοηθό συνομιλίας για να βρουν απαντήσεις σε πράγματα που είναι θαμμένα μέσα στην τεχνική βιβλιογραφία.

Copan: Η τεχνητή νοημοσύνη και η μηχανική μάθηση είναι πλέον τα βασικά εργαλεία με τα οποία ασκείται η επιστήμη. Είναι σημαντικό οι φοιτητές να αποκτήσουν γνώση για την τεχνητή νοημοσύνη. Είναι αυτοί που θα προωθήσουν τη φυσική μέσω της τεχνητής νοημοσύνης και το αντίστροφο.

Córdova: Αλλάζει η τεχνητή νοημοσύνη την επικοινωνία της επιστήμης;

Thaler: Σε αυτό το πεδίο, οι δυνατότητες που έχουμε έχουν αυξηθεί εκπληκτικά, όπως διαπίστωσα μέσω ενός πρωταπριλιάτικου αστείου εις βάρος μου που ονομάζεται ChatJesseT. Πρόκειται για έναν ψηφιακό βοηθό συνομιλίας που γνωρίζει όλες τις εργασίες μου, το λήμμα μου στη Wikipedia και την ιστοσελίδα μου. Το ChatJesseT μιλάει με πολύ ενθουσιασμό για τη φυσική και την τεχνητή νοημοσύνη. Οι φοιτητές και οι μεταδιδακτορικοί ερευνητές του ΜΙΤ το κατασκεύασαν χρησιμοποιώντας παραγωγή ενισχυμένη με ανάκτηση, αντλώντας από ένα αξιόπιστο σώμα κειμένων, και αξιοποιώντας κάποια μηχανική προτροπών (prompt-engineering). Αυτό μας ενέπνευσε να εκπαιδεύσουμε έναν ψηφιακό βοηθό συνομιλίας σε όλες τις εργασίες του J. Robert Oppenheimer. Μπορεί να μας δώσει απαντήσεις για τεχνικές έννοιες, όπως η προσέγγιση Born-Oppenheimer, αλλά και για θέματα που βρίσκονται στην διασταύρωση της κοινωνίας με τη φυσική.

Διαπιστώσαμε ότι το ρομπότ, Open-AI-mer, μπορεί να πυροδοτήσει έναν διάλογο με το κοινό σε σχέση με τις υποσχέσεις και τους κινδύνους της τεχνητής νοημοσύνης. Οι επισκέπτες του Φεστιβάλ Επιστήμης του Κέιμπριτζ έδειξαν έντονο ενδιαφέρον να μιλήσουν με το Open-AI-mer και στη συνέχεια να ρωτήσουν τον φυσικό στο περίπτερο αν οι απαντήσεις του ρομπότ ήταν μια ψευδαίσθηση ή ήταν πραγματικές.

Κάποτε ήμουν στραβόξυλο, πίστευα ότι δεν θα μπορέσουμε ποτέ να χρησιμοποιήσουμε ένα γλωσσικό μοντέλο για τις ανακαλύψεις της επιστήμης κι αυτό γιατί η γλώσσα της φυσικής είναι εξισώσεις. Έχω αρχίσει να εκτιμώ ότι ένας τόνος δεδομένων έχει τη μορφή κειμένου. Για παράδειγμα, ένας μαθητής λυκείου και ένας μεταδιδακτορικός ερευνητής χρησιμοποίησαν τεχνητή νοημοσύνη με μια βάση δεδομένων με εικόνες του Hubble –είχε τις εικόνες από το διαστημικό τηλεσκόπιο Hubble και τις προτάσεις που χρησιμοποιήθηκαν για να δικαιολογήσουν το χρόνο λειτουργίας του τηλεσκοπίου. Έβαλαν μαζί τα δεδομένα-κειμένου και τα δεδομένα-εικόνας και δημιούργησαν έναν νέο τρόπο αλληλεπίδρασης με ένα επιστημονικό σύνολο δεδομένων.

Εμείς οι φυσικοί συνειδητοποιούμε, ίσως προς απογοήτευσή μας, ότι η γλώσσα είναι στην πραγματικότητα ένα ισχυρό μέσο επικοινωνίας. Η γενετική τεχνητή νοημοσύνη μπορεί να φέρει κοντά τους τεχνικούς εμπειρογνώμονες και το κοινό και να δημιουργήσει περισσότερες ευκαιρίες για ανταλλαγή απόψεων.

Ακόμα καλύτερα, θα είμαστε σε θέση να προσαρμόσουμε τα δικά μας ρομπότ συνομιλίας –ChatFrance, ChatWalt, αν θέλετε– ώστε να καλύπτουν τις ανάγκες μας. Η σύζυγός μου είναι δικηγόρος. Η έκδοση που έχει δημιουργηθεί με μηχανική προτροπών που χρησιμοποιεί της απαντά σε ορισμένους τύπους νομικών ερωτήσεων σε μια μορφή που είναι χρήσιμη επαγγελματικά για την ίδια. Ακόμη κι αν δεν έχουμε γνώσεις προγραμματισμού, μπορούμε να προγραμματίσουμε τέτοια εργαλεία για να κάνουν διάφορες δουλειές που διαφορετικά θα ήταν αρκετά επαχθείς.

Córdova: Ποια είναι τα βασικά ζητήματα πολιτικής για τη χρηματοδότηση από το κράτος;

Browning: Περίπου το 70% του προϋπολογισμού, των περίπου 4 δισεκατομμυρίων δολαρίων που επενδύει η DARPA [Υπηρεσία Προηγμένων Αμυντικών Ερευνητικών Προγραμμάτων] στην έρευνα και ανάπτυξη είτε αξιοποιεί την τεχνητή νοημοσύνη, είτε την προωθεί.

Copan: Είδαμε μια επαναστατική αλλαγή στις ομοσπονδιακές επενδύσεις σε ό,τι αφορά την επιστήμη και την τεχνολογία της τεχνητής νοημοσύνης. Όπως είναι φυσικό, χρειάζεται χρόνος για να συμβαδίσει η πολιτική και η νομοθετική ρύθμιση με την κλίμακα και τον ρυθμό της επιστημονικής ανακάλυψης και της τεχνολογίας. Τώρα που οι ΗΠΑ θέλουν να είναι ο παγκόσμιος ηγέτης στην τεχνητή νοημοσύνη, οι θεσμοί θα αρχίσουν να αναρωτιούνται αν οι ερευνητές, τελικά, δεν χρησιμοποιούν την τεχνητή νοημοσύνη για να πετύχουν τους στόχους τους με οικονομικά αποδοτικό τρόπο που μπορεί να αναπτύξει μοντέλα με δυνατότητα να επεκταθούν και να χρησιμοποιηθούν για άλλους σκοπούς. Σαφώς, οι ευκαιρίες σε όλες τις επιστημονικές υπηρεσίες θα μετριαστούν από την ανάγκη να αξιοποιηθεί η επιστημονική διαδικασία στην επικύρωση των μοντέλων.

Όμως, ο βαθμός στον οποίο οι ΗΠΑ μπορούν να κεφαλαιοποιήσουν την τεχνητή νοημοσύνη ως πολλαπλασιαστή δυνάμεων, ως παράγοντα ενεργοποίησης και ως μοχλό αποδοτικότητας εντός της οικονομίας είναι επίσης ένα ζήτημα που αφορά το εργατικό δυναμικό. Υπάρχουν κενά σε όλο το εργατικό δυναμικό που πρέπει να καλυφθούν, εντός και εκτός των εταιριών που ασχολούνται με την επιστήμη, τώρα και στο μέλλον. Κι αυτό έχει επιπτώσεις στην πολιτική.

Córdova: Η βιομηχανία διαθέτει τους περισσότερους πόρους για την τεχνητή νοημοσύνη αυτή τη στιγμή. Τα πανεπιστήμια χρειάζονται αυτά τα εργαλεία για να ασχοληθούν με βασικά ερευνητικά ερωτήματα. Τα εργαλεία αυτά είναι ακριβά και σπάνια. Ποια είναι η λύση;

Browning: Αυτή η πρόκληση επιδεινώνει το ευρύτερο και μακροχρόνιο πρόβλημα των ανισοτήτων σε υπολογιστές υψηλής ισχύος, συμπεριλαμβανομένης της πρόσβασης στις μονάδες επεξεργασίας γραφικών στα ακαδημαϊκά μας ιδρύματα. Αυτό παρεμποδίζει τη βιωματική μάθηση. Ένας φοιτητής που έχει πρόσβαση μπορεί να εργαστεί πάνω σε κάποια απαιτητικά προβλήματα του πραγματικού κόσμου, και αυτή η εμπειρία μπορεί να του ανοίξει πόρτες που είναι κλειστές για όσους έχουν λιγότερους πόρους. Η διόρθωση αυτού του προβλήματος απαιτεί εστίαση, εξέταση και επένδυση.

Ως κράτος, αναγνωρίζουμε ότι η πρόσβαση είναι πρόβλημα. Ο νόμος CHIPS and Science Act, για παράδειγμα, προτείνει μεγάλες αυξήσεις στη χρηματοδότηση για τη στήριξη μεγαλύτερης πρόσβασης σε πεδία STEM, συμπεριλαμβανομένων των κβαντικών υπολογιστών και της ΤΝ, για την ενίσχυση των ερευνητικών υποδομών και των προηγμένων υπολογιστών. Όμως, χρειάζεται ακόμα να γίνουν περισσότερα για τους μαθητές.

Gousev: Αυτή τη στιγμή τα πάντα είναι υπερτιμημένα, από τις τιμές ως τον όγκο των παραγγελιών, κι αυτό είναι μέρος του προβλήματος. Η τεχνητή νοημοσύνη δεν είναι ένα εργαλείο παντός καιρού. Τα πανεπιστήμια πρέπει να τη χρησιμοποιούν με έξυπνο τρόπο, ξεκινώντας από το πρόβλημα που προσπαθούν να λύσουν. Τα δεδομένα στο ψηφιακό νέφος, σε μεγάλο βαθμό, έχουν ήδη χρησιμοποιηθεί από τα μοντέλα τύπου GPT. Αλλά υπάρχουν πολύ περισσότερα δεδομένα στον πραγματικό κόσμο. Γι’ αυτό χρειαζόμαστε την τεχνητή νοημοσύνη, για να τα συλλέξει και να τα κάνει αξιοποιήσιμα.

Ο ενθουσιασμός θα μειωθεί. Έρχεται περισσότερη χωρητικότητα, καθώς περισσότερες νεοφυείς επιχειρήσεις εισέρχονται στο χώρο για να αναπτύξουν νέες προσεγγίσεις, καινοτομίες, τεχνικές και υλικό. Οι αλγόριθμοι θα γίνουν πιο αποδοτικοί. Ένας ανθρώπινος εγκέφαλος καταναλώνει 20 watts ενέργειας και μπορούμε να κάνουμε πολύ σύνθετες εργασίες. Οι μονάδες επεξεργασίας γραφικών μπορούν να καταναλώνουν κιλοβάτ –είναι εξαιρετικά μη αποδοτικές. Είμαι αισιόδοξος ότι η τεχνητή νοημοσύνη θα γίνεται όλο και πιο αποδοτική και προσιτή.

Άτομο από το ακροατήριο: Κρατούν τα ηνία της ανάπτυξης της τεχνητής νοημοσύνης άνθρωποι με τις κατάλληλες δεξιότητες;

Gousev: Είναι η κατάλληλη στιγμή για να λάμψουν οι φυσικοί. Είμαστε λίγο κλεισμένοι στο καβούκι μας, αφού πολλές ανακαλύψεις της φυσικής έγιναν τον 20^ό αιώνα. Ήρθε η ώρα να επανέλθουμε. Μπορούμε να φέρουμε περισσότερη ερμηνευσιμότητα, αποδοτικότητα και κοινή λογική στον σύγχρονο χαοτικό κόσμο της τεχνητής νοημοσύνης.

Copan: Κατά την εκπαίδευση των φυσικών, πρέπει να δουλέψουμε σε όλη την κλίμακα και να τους δώσουμε την ικανότητα να επικοινωνούν με πειστικότητα και σαφήνεια, ώστε να μπορούν να οικοδομούν ομοφωνία και ομάδες. Αυτό που χρειάζεται τώρα είναι ένας συνδυασμός φυσικής, επιχειρηματικής οξυδέρκειας, συναισθηματικής νοημοσύνης και επικοινωνιακών δεξιοτήτων: φυσική και κάτι ακόμα.

Thaler: Στο ινστιτούτο τεχνητής νοημοσύνης του NSF, εκπαιδεύουμε απίστευτα ταλαντούχους διεπιστημονικούς εμπειρογνώμονες που συνεχίζουν να εργάζονται στη βιομηχανία. Είναι κορυφαίοι στην επίλυση προβλημάτων. Μόλις βάλεις αυτούς τους ανθρώπους στο κατώφλι σημαντικών εταιρειών, θα φτάσουν μέχρι την κορυφή.

Άτομο από το ακροατήριο: Τι ρόλο παίζει η τεχνητή νοημοσύνη στην καινοτομία και τη δημιουργικότητα;

Thaler:  Δεν εκμεταλλευόμαστε αρκετά την ικανότητα των υπολογιστών να εξερευνούν τεράστια πεδία δυνατοτήτων. Ένα μέρος μου αναρωτιέται αν κάποιες από τις κορυφές των ανθρώπινων επιτευγμάτων θα μπορούσαν να έχουν επιτευχθεί μέσα από εξαντλητική αναζήτηση. Θα μπορούσε η σχετικότητα του Αϊνστάιν να προέλθει από την αρχή της βελτιστοποίησης; Χρειαζόταν πράγματι η κατανόηση της γεωμετρίας του χωροχρόνου; Υπήρχε κάποιος άλλος τρόπος για να φτάσουμε σε αυτή τη διαπίστωση; Ένα μέρος μου σκέφτεται ότι ίσως σταθήκαμε τυχεροί στο παρελθόν με τις ανακαλύψεις της φυσικής. Τα πράγματα ήταν απλά και προκαλούσαν ταραχή. Οι φυσικοί μπορούσαν να χρησιμοποιήσουν βασικούς κανόνες και έτσι να προοδεύσουν.

Ίσως τα προβλήματα που αντιμετωπίζουμε σήμερα να είναι εγγενώς πολύπλοκα. Ίσως οι φυσικοί πρέπει να είναι προσεκτικοί με τις υπερβολικές αναγωγές των πραγμάτων στις απλούστερες μορφές τους. Ίσως πρέπει να αποδεχτούμε κάποιο επίπεδο πολυπλοκότητας. Ίσως, για να αποκτήσουμε πρωτοποριακές ιδέες στη φυσική, χρειάζεται να αρχίσουμε να σκεφτόμαστε λίγο περισσότερο σαν υπολογιστές και να εξετάζουμε πολλές, πολλές διαφορετικές, επιλογές. Ίσως η ωμή ισχύς να είναι το μέλλον της δημιουργικότητας.

Copan: Ο πειραματικός σχεδιασμός και η ανακάλυψη είναι εγγενώς ανθρώπινες δραστηριότητες. Βρισκόμαστε τώρα σε μια πολύ ενδιαφέρουσα συμβίωση με τις μηχανές. Υπάρχει το μέρος μιας ανακάλυψης που μπορεί να κατοχυρωθεί με δίπλωμα ευρεσιτεχνίας και το άγριο πεδίο της εργασίας που μπορεί να κατοχυρωθεί με πνευματικά δικαιώματα. Τι συνιστά την αρχή μιας δημιουργικής διαδικασίας και ποιος ήταν ο ρόλος της τεχνητής νοημοσύνης ή ενός προγράμματος υποβοηθούμενου από μηχανές;

Το Γραφείο Διπλωμάτων Ευρεσιτεχνίας και Εμπορικών Σημάτων των ΗΠΑ και άλλα γραφεία πνευματικής ιδιοκτησίας σε όλο τον κόσμο έχουν λάβει ορισμένες πολιτικές αποφάσεις σχετικά με την ευρεσιτεχνία και τον ρόλο του ανθρώπου εφευρέτη ενώπιον των μηχανών. Αλλά, κατά κάποιο τρόπο, αυτά είναι τεχνουργήματα. Πρόκειται για ένα πεδίο που εξελίσσεται διαρκώς.

Browning: Υπάρχουν παραδείγματα στα οποία η τεχνητή νοημοσύνη ανακάλυψε ξανά νόμους της φυσικής που γνωρίζουμε. Ποιος μπορεί να πει ότι δεν βρισκόμαστε στα πρόθυρα της ανακάλυψης κάτι νέου από την τεχνητή νοημοσύνη; Και η τεχνητή νοημοσύνη μπορεί να εξερευνήσει πολλές διαφορετικές επιλογές ύστερα από μερικές προτροπές. Ας πούμε ότι θέλω να σχεδιάσω έναν εναλλάκτη θερμότητας με συγκεκριμένες ιδιότητες, αλλά χωρίς τις σημερινές προκαταλήψεις γύρω από το πως μοιάζει ένας εναλλάκτης θερμότητας. Η τεχνητή νοημοσύνη βρίσκει μερικές αρκετά δημιουργικές επιλογές. Αν το συνδυάσετε αυτό με νέες κατασκευαστικές τεχνικές και κατασκευαστικά υλικά, νομίζω ότι υπάρχει προοπτική.

Córdova: Τυχαίνει να έχουμε στο ακροατήριο τον πατέρα του διαδικτύου, τον Vint Cerf. [Ο Cerf είναι αντιπρόεδρος και ένθερμος οπαδός του Διαδικτύου στην Google και πρόσφατα μέλος του διοικητικού συμβουλίου]. Είναι σκόπιμο να του δώσουμε τον τελευταίο λόγο.

Vint Cerf: Είναι σημαντικό να γίνει διάκριση μεταξύ των γενικών μοντέλων μηχανικής μάθησης και των ειδικών μεγάλων γλωσσικών μοντέλων (Large Language Models). Τα πρώτα έχουν επιδείξει μια ικανότητα να ανακαλύπτουν συσχετίσεις που ίσως να μην είχαμε παρατηρήσει. Η επισήμανση συσχετίσεων αποτελεί σημαντικό μέρος της ανακάλυψης στη φυσική. Με τα μεγάλα γλωσσικά μοντέλα, νομίζω ότι δεν εκτιμούμε πλήρως τι στο διάολο συμβαίνει. Ξέρουμε ότι είναι παραγωγικά και ξέρουμε ότι μπορούν να έχουν παραισθήσεις, αλλά είναι ενδιαφέρον ότι συγκεντρώνουν κάποιες απροσδόκητες συγκρίσεις εξαιτίας της μεθοδολογίας μέσω της οποίας έχουν εκπαιδευτεί.

Το θέμα είναι ότι δεν είναι επαρκώς πλαισιωμένα. Το δοκίμασα, ζητώντας από ένα μεγάλο γλωσσικό μοντέλο να γράψει έναν επικήδειο για μένα και αυτό παρήγαγε ένα βιογραφικό 700 λέξεων. Έδωσε μια ημερομηνία, που θεωρώ πως ήταν πολύ νωρίς. Μίλησε για την καριέρα μου. Μου έδωσε εύσημα για πράγματα που δεν έκανα. Έδινε σε άλλους ανθρώπους τα εύσημα για πράγματα που είχα κάνει εγώ. Έφτιαξε μέλη της οικογένειας που δεν έχω.

Αυτό φανερώνει πως τα μεγάλα γλωσσικά μοντέλα παράγουν την αληθοφάνεια του ανθρώπινου λόγου. Ανταποκρίνονται σαν να είχαμε ρωτήσει: «Αν ήσασταν άνθρωπος, τι θα λέγατε σε αυτή την προτροπή;». Αυτό είναι όλο. Αλλά μέσα τους κρύβεται κάποια έννοια γνώσης, επειδή τα στατιστικά στοιχεία ανταποκρίνονται σε πραγματικά κείμενα που έχουν νόημα. Και έτσι μπορεί να νιώθουμε σαν να υπάρχει ένα φάντασμα εκεί μέσα που καταλαβαίνει κάτι.

Να ένα αιχμηρό παράδειγμα. Ένας από τους υπαλλήλους μας ζήτησε από ένα ρομπότ συνομιλίας να αντιστρέψει μια σειρά τυχαίων χαρακτήρων. Παρήγαγε την αντίστροφη συμβολοσειρά και πρόσθεσε: «Παρεμπιπτόντως, εδώ είναι ένα πρόγραμμα Python που το κάνει αυτό». Αυτό μας ξάφνιασε. Η μηχανική μάθηση (machine learning) και η γενετική τεχνητή νοημοσύνη είναι ως επί το πλείστων απλώς εργαλεία. Και εμείς πρέπει να είμαστε αρκετά έξυπνοι ώστε να διακρίνουμε μεταξύ παραίσθησης και οράματος.

ΣΗΜΕΙΩΣΕΙΣ

[1] Σχετικά με τους συμμετέχοντες στο διάλογο: Η France Córdova είναι πρόεδρος του διοικητικού συμβουλίου του Ιδρύματος AIP, πρόεδρος της Science Philanthropy Alliance και πρώην διευθύντρια του National Science Foundation (NSF). Η Valerie Browning είναι αντιπρόεδρος έρευνας και τεχνολογίας του γραφείου τεχνολογίας της εταιρείας Lockheed Martin και είναι μέλος του διοικητικού συμβουλίου του AIP. Ο Walter Copan είναι αντιπρόεδρος για την έρευνα και τη μεταφορά τεχνολογίας στη Σχολή Μεταλλειολόγων του Κολοράντο και πρώην διευθυντής του National Institute of Standards and Technology (NIST). Ο Evgeni Gousev είναι ανώτερος διευθυντής μηχανικής στην Qualcomm Research και πρόεδρος του διοικητικού συμβουλίου του ιδρύματος tinyML, και είναι μέλος του διοικητικού συμβουλίου του ιδρύματος AIP. O Jesse Thaler είναι καθηγητής φυσικής στο MIT και διευθυντής του NSF Institute for Artificial Intelligence and Fundamental Interactions.

[2] Το κείμενο που ακολουθεί είναι η προσαρμοσμένη και συμπυκνωμένη εκδοχή του απομαγνητοφωνημένου κειμένου της εκδήλωσης.

ΕΥΧΑΡΙΣΤΙΕΣ

Ευχαριστούμε τον Στέργιο Χατζηκυριακίδη, καθηγητή Υπολογιστικής Γλωσσολογίας στο Τμήμα Φιλολογίας του Πανεπιστημίου Κρήτης, για τη βοήθειά του στην απόδοση όρων του κειμένου στα ελληνικά.

Reproduced from France Córdova, Valerie Browning, Walter Copan, Evgeni Gousev, Jesse Thaler; Physics, AI, and the future of discovery. Physics Today 1 November 2024; 77 (11): 30–37, (https://doi.org/10.1063/pt.rlqh.ngld) with the permission of the American Institute of Physics.

Το InScience παρουσιάζει την ομιλία του καθηγητή του Πανεπιστημίου Columbia Χρίστου Παπαδημητρίου, με τίτλο «Περί Φυσικής και Τεχνητής Νοημοσύνης», στην εκδήλωση που διοργανώθηκε προς τιμήν του από το Εθνικό Ίδρυμα Ερευνών (ΕΙΕ) και τον Σύλλογο Αποφοίτων της Βαρβακείου Σχολής. Η ομιλία έλαβε χώρα την Τετάρτη 31 Μαΐου 2023. Η παρουσίαση γίνεται μετά από σχετική άδεια του ΕΙΕ. Το βίντεο από την εκδήλωση ανακτήθηκε από την διεύθυνση https://helios-eie.ekt.gr/EIE/handle/10442/18501 του ιστότοπου του ΕΙΕ.

Σύντομο Βιογραφικό

Ο Χρίστος Παπαδημητρίου γεννήθηκε και μεγάλωσε στην Ελλάδα. Σπούδασε ηλεκτρολόγος-μηχανολόγος στο Πολυτεχνείο της Αθήνας και κατόπιν έκανε διδακτορικό στη θεωρία των υπολογιστών στο Princeton. Έχει διδάξει στο ΕΜΠ και στα πανεπιστήμια Harvard, ΜΙΤ, Stanford, Berkeley και Columbia των ΗΠΑ. Η έρευνά του κινείται κυρίως στους τομείς της θεωρίας των αλγορίθμων, της υπολογιστικής πολυπλοκότητας και της θεωρίας παιγνίων. Έχει δημοσιεύσει εκατοντάδες πρωτότυπα επιστημονικά άρθρα. Τα βιβλία του Elements of the Theory of Computation, Computational Complexity και Combinatorial Optimization: Algorithms and Complexity, καθώς και το πιο πρόσφατο Algorithms είναι ήδη κλασικά στο είδος τους. Ο Χρίστος Παπαδημητρίου έχει γράψει επίσης το μυθιστόρημα Τούρινγκ, Μαθήματα Αγάπης (Λιβάνης, 2003), καθώς και τα βιβλία Ισόβια στους Χάκερ; Απόψεις για το Ιnternet, την Επιστήμη και όλα τα υπόλοιπα (Καστανιώτης, 2004), και Ανεξαρτησία (Πατάκης, 2012) ενώ συμμετείχε και στην ομάδα συγγραφής του Logicomix. Είναι μέλος του American Academy of Arts and Sciences, του National Academy of Sciences και του National Academy of Engineering των Η.Π.Α. Έχει τιμηθεί με τα βραβεία: Knuth, Gödel, EATCS, IEEE’s John von Neumann Medal, IEEE Computer Society Charles Babbage Award, Technion’s 2019 Harvey Prize, ACM EC’s inaugural career award, και IEEE’s Women of the Edvac Computer Pioneer Award.  Το 2015, ο Προέδρος της Ελληνικής Δημοκρατίας τον τίμησε με το μετάλλιο του Τάγματος του Φοίνικα.