ΣΥΝΤΟΜΟ ΒΙΟΓΡΑΦΙΚΟ:

Ο Δρ. Τάσος Ρούσσος είναι Διευθυντής Ερευνών (Ερευνητής Α’) στο Ινστιτούτο Πληροφορικής του Ιδρύματος Τεχνολογίας και Έρευνας (ΙΤΕ). Ανέλαβε αυτόν τον ρόλο τον Ιανουάριο του 2025, έχοντας προηγουμένως διατελέσει Κύριος Ερευνητής (Ερευνητής Β’) στο ίδιο Ινστιτούτο (2019-2024).

Πριν ενταχθεί στο ΙΤΕ, ήταν Lecturer στην Επιστήμη Υπολογιστών στο University of Exeter και Fellow του Alan Turing Institute στο Ηνωμένο Βασίλειο. Πριν από αυτές τις θέσεις, ήταν μεταδιδακτορικός ερευνητής στο Imperial College London, στο University College London και στο Queen Mary, University of London του Ηνωμένου Βασιλείου. Σπούδασε Ηλεκτρολόγος Μηχανικός και Μηχανικός Υπολογιστών (Διδακτορικό 2010, Δίπλωμα 2005) στο Εθνικό Μετσόβιο Πολυτεχνείο.

Η έρευνα του Δρ. Ρούσσου ειδικεύεται στην τρισδιάστατη όραση υπολογιστών και στη βαθιά μάθηση. Το επίκεντρο της τρέχουσας έρευνάς του είναι η ανάπτυξη νέων μεθόδων για λεπτομερή τρισδιάστατη μοντελοποίηση, ανακατασκευή και σύνθεση αντικειμένων και σκηνών του πραγματικού κόσμου με βάση οπτικά δεδομένα.

Κεφάλαια της Ομιλίας

Το InScience.gr σας παρουσιάζει την ομιλία του καθηγητή Υπολογιστικής Νοημοσύνης στο Τμήμα Φιλολογίας του Πανεπιστημίου Κρήτης, Στέργιου Χατζηκυριακίδη, με τίτλο: «Μεγάλα Μοντέλα, Μεγάλες Δυνατότητες, Μεγάλες Ευθύνες», που διοργανώθηκε την Τρίτη 23 Σεπτεμβρίου 2025.

Περίληψη: 

Σε αυτήν την ομιλία επιχειρείται μια ιστορική αναδρομή της Υπολογιστικής Γλωσσολογίας, της Επεξεργασίας Φυσικής Γλώσσας, και εν μέρει και της Τεχνητής Νοημοσύνης, ιχνηλατώντας το ερευνητικό μονοπάτι που οδηγεί στα σημερινά συστήματα Τεχνητής Νοημοσύνης. Παρακολουθούμε την εξέλιξη του πεδίου από τις πρώιμες συμβολικές προσεγγίσεις μέχρι τις σύγχρονες αρχιτεκτονικές βαθείας μάθησης στις οποίες είναι βασισμένα τα σημερινά Μεγάλα Γλωσσικά Μοντέλα.

Στη συνέχεια παρουσιάζουμε μια σειρά από χρήσεις αυτών των μοντέλων από πολύ απλές (συγγραφή μέιλ), μέχρι αρκετά σύνθετες (στήσιμο ολόκληρων υπολογιστικών εφαρμογών). Συνεχίζουμε με μια σειρά από ερευνητικά ζητήματα αιχμής στην έρευνα για τα Μεγάλα Γλωσσικά Μοντέλα, την καταπολέμηση των ψευδαισθήσεων μέσω διαφόρων τεχνικών αιχμής όπως η Επαυξημένη Ανάκληση (Augemented Generation), η ανάγκη για εξηγησιμότητα και η υπόσχεση για μια επόμενη γενιά Νευροσυμβολικών μοντέλων που θα είναι ικάνα να αντιμετωπίσουν αυτά τα προβλήματα. Συζητούμε επίσης την ανάγκη ανάπτυξης τέτοιων μοντέλων για γλώσσες με λιγότερους πόρους και συζητούμε λίγο το τοπίο των ελληνικών Μεγάλων Γλωσσικών Μοντέλων καθώς, τις διαλεκτικές τους ικανότητες και τις εγγενείς μεροληψίες τους.

Καταλήγουμε συζητώντας μια σειρά από κοινωνικοπολιτικά και ηθικά ζητήματα που εγείρει το καινούριο αυτό τεχνολογικό τοπίο: το οικολογικό αποτύπωμα των μοντέλων, τη συγκέντρωση της έρευνας στις μεγάλες τεχνολογικές εταιρείες, την απειλή της παραπληροφόρησης, και τις επιπτώσεις στην αγορά εργασίας.

ΣΥΝΤΟΜΟ ΒΙΟΓΡΑΦΙΚΟ:

Ο Στέργιος Χατζηκυριακίδης γεννήθηκε στα Γρεβενά το 1980. Είναι καθηγητής Υπολογιστικής Γλωσσολογίας στο Τμήμα Φιλολογίας του Πανεπιστημίου Κρήτης. Τελείωσε το τμήμα Φιλολογίας του ΑΠΘ με ειδίκευση στη Γλωσσολογία. Συνέχισε τις μεταπτυχιακές σπουδές του στην Υπολογιστική Γλωσσολογία στο King’s College του Λονδίνου και εκπόνησε τη διδακτορική του διατριβή στο ίδιο πανεπιστήμιο. Έχει εργαστεί στο Royal Holloway, University of London, στο Εθνικό Κέντρο Επιστημονικών Ερευνών της Γαλλίας (CNRS), στο Ανοιχτό Πανεπιστήμιο Κύπρου και στο Πανεπιστήμιο του Γκέτεμποργκ. Πριν αναλάβει καθήκοντα στο Πανεπιστήμιο Κρήτης, διετέλεσε Αναπληρωτής Διευθυντής του Κέντρου Γλωσσολογικής Θεωρίας και Πιθανοκρατικών Σπουδών (CLASP). Τα ερευνητικά του ενδιαφέροντα βρίσκονται στην τομή μεταξύ του NLP και της Θεωρητικής Γλωσσολογίας. Μερικά από τα θέματα στα οποία έχει εργαστεί είναι η Συνεπαγωγή Φυσικής Γλώσσας, η Υπολογιστική Διαλεκτολογία, η Θεωρητική Σημασιολογία με θεωρίες τύπων και η υπολογιστική τους επέκταση, η Πιθανοκρατική Σημασιολογία, η Μοντελοποίηση Διαλόγου, και η αλληλεπίδραση μεταξύ Λογικών/Συμβολικών Μεθόδων και Μηχανικής Μάθησης/Βαθιάς Μάθησης για το NLP.

Κεφάλαια της Ομιλίας

00:00:19 Εισαγωγή – Χαιρετισμός

00:03:47 Ομιλία

00:54:13 Ερωτήσεις

00:54:34 Έχουμε αυτήν την στιγμή κάποιον κοινά αποδεκτό ορισμό για την νοημοσύνη; Πώς τεστάρουμε για νοημοσύνη αυτήν την στιγμή; Υπάρχει εξέλιξη στα τεστ νοημοσύνης καθώς εξελίσσονται και τα LLMs;

00:55:38 Ποιες είναι οι βασικές προκλήσεις για την ανάπτυξη LLMs σε γλώσσες με λιγότερους πόρους, όπως τα ελληνικά;.

00:58:43 Πώς επηρεάζει η συγκέντρωση της έρευνας στις μεγάλες τεχνολογικές εταιρείες το μέλλον της Τεχνητής Νοημοσύνης;

01:01:10 Είστε μάχιμος ακαδημαϊκός. Πως η ΤΝ επηρεάζει το χαρακτήρα του μαθήματος, της εξέτασης και αξιολόγησης των φοιτητών ειδικά στις εργασίες οι οποίοι έχουν πλέον ένα τόσο ισχυρό εργαλείο στα χέρια τους;

01:07:18 Οι δυνατότητες κατανόησης κειμένου μέσω των Μεγάλων Γλωσσικών Μοντέλων μπορούν να αντικαταστήσουν μεθόδους όπως την Ανάλυση Περιεχομένου (Ποιοτική Ανάλυση Περιεχομένου, Κριτική Ανάλυση Λόγου στις διάφορες κατευθύνσεις της κ.λπ.); Είναι ήδη σε αυτό το επίπεδο μήπως; Χρησιμοποιούνται στην έρευνα και θεωρούνται έγκυρα τα δεδομένα της ανάλυσής τους;

01:09:33 Απολογισμός

Ο δρόμος προς τα σύγχρονα θαύματα της μηχανικής μάθησης στρώθηκε με ιδέες από τη στατιστική μηχανική και τα συλλογικά φαινόμενα.

Johanna L. Miller

Μετάφραση: Δημήτρης Κούλος

Επιμέλεια μετάφρασης: Νικόλ Σαρλά, Βασίλης Λεμπέσης

Επιστημονική επιμέλεια: Βασίλης Λεμπέσης

«Ό,τι δίνεις παίρνεις».^[1] Σύμφωνα με το παλιό ρητό της επιστήμης των υπολογιστών, αυτό που λαμβάνεις από έναν υπολογιστή δεν είναι καλύτερο από αυτό που του δίνεις. Και φαίνεται να υπονοεί ότι καθώς οι υπολογιστές δεν μπορούν να σκεφτούν μόνοι τους, δεν μπορούν ποτέ να κάνουν κάτι πιο εξεζητημένο από αυτό για το οποίο ρητώς τους έχει δοθεί εντολή.

Όμως, το τελευταίο φαίνεται να μην είναι πλέον αληθές. Τα νευρωνικά δίκτυα –αρχιτεκτονικές των υπολογιστών εμπνευσμένες από τον ανθρώπινο εγκέφαλο, στις οποίες τα σήματα διέρχονται μέσα από κόμβους που ονομάζονται τεχνητοί νευρώνες– έχουν παράγει τα τελευταία χρόνια κύματα εκπληκτικών αποτελεσμάτων. (Βλ. για παράδειγμα σελ. 17 αυτού του τεύχους.) Οι μεμονωμένοι νευρώνες εκτελούν μονάχα τους πλέον στοιχειώδεις υπολογισμούς. Όμως, όταν συγκεντρώνονται σε αρκετά μεγάλους αριθμούς και όταν τροφοδοτούνται με αρκετά δεδομένα προς εκπαίδευση, αποκτούν δυνατότητες που, φαινομενικά από το πουθενά, θυμίζουν απροσδόκητα την ανθρώπινη νοημοσύνη.

Οι φυσικοί δεν είναι ανοίκειοι με την ιδέα της ανάδυσης απροσδόκητων φαινομένων μέσα από απλούστερα δομικά στοιχεία. Μερικά στοιχειώδη σωματίδια και οι κανόνες των αλληλεπιδράσεών τους συνδυάζονται για να δώσουν σχεδόν το σύνολο του ορατού κόσμου: υπεραγωγοί, πλάσματα και όλα τα ενδιάμεσα. Γιατί κάποια προσέγγιση της φυσικής στην αναδυόμενη πολυπλοκότητα να μην εφαρμοστεί και στα νευρωνικά δίκτυα;

Πράγματι εφαρμοζόταν –και συνεχίζει να εφαρμόζεται– όπως αποδεικνύεται από το φετινό (2024) βραβείο Νόμπελ Φυσικής, το οποίο απονέμεται στον John Hopfield του Πανεπιστημίου του Πρίνστον και στον Geoffrey Hinton του Πανεπιστημίου του Τορόντο. Ξεκινώντας στις αρχές της δεκαετίας του 1980, ο Hopfield έθεσε τα εννοιολογικά θεμέλια για μια θεώρηση που να βασίζεται στη φυσική του ζητήματος της επεξεργασίας πληροφοριών η οποία εμπνέεται από την λειτουργία του εγκέφαλου· ο Hinton ήταν στην πρώτη γραμμή της προσπάθειας δεκαετιών για την αξιοποίηση αυτών των ιδεών για να αναπτύξει αλγορίθμους που χρησιμοποιούνται σήμερα από τα μοντέλα νευρωνικών δικτύων.

ΥΑΛΩΔΗΣ ΜΝΗΜΗ

Στην αρχή δεν ήταν καθόλου προφανές ότι τα νευρωνικά δίκτυα θα γίνονταν τόσο ισχυρά. Μόλις το 2011, τα πιο εντυπωσιακά επιτεύγματα στην τεχνητή νοημοσύνη επιτυγχάνονταν από μια εντελώς διαφορετική προσέγγιση. Ο υπολογιστής Watson της IBM, που νίκησε τον Ken Jennings και τον Brad Rutter στο Jeopardy!,^[2] δεν ήταν ένα νευρωνικό δίκτυο καθώς είχε προγραμματιστεί ρητώς με κανόνες για την επεξεργασία της γλώσσας, την ανάκτηση πληροφοριών και τη λογική σκέψη. Και πολλοί ερευνητές πίστεψαν ότι αυτός ήταν ο δρόμος για να δημιουργήσουν χρήσιμες μηχανές τεχνητής νοημοσύνης.

Αντίθετα, η πρώιμη εργασία για τα νευρωνικά δίκτυα ήταν μια έρευνα που καθοδηγούνταν από την περιέργεια, εμπνευσμένη περισσότερο από πραγματικούς εγκεφάλους παρά από τους υπολογιστές και τις εφαρμογές τους. Αλλά η φύση της διεπιστημονικής σύνδεσης ήταν δυσδιάκριτη. «Τα ερωτήματα που διατύπωσε ο Hopfield δεν είναι άσχετα με πράγματα που απασχολούσαν τους νευροεπιστήμονες», λέει ο William Bialek από το Πανεπιστήμιο του Πρίνστον. «Όμως δεν πρόκειται για “εφαρμογή της φυσικής στο τάδε ζήτημα’’· μάλλον πρόκειται για την εισαγωγή μιας ολόκληρης θεώρησης που απλώς δεν υπήρχε προηγουμένως».

Μέχρι τη δεκαετία του 1980, οι νευροεπιστήμονες γνώριζαν ότι ο εγκέφαλος αποτελείται από νευρώνες, οι οποίοι συνδέονται μεταξύ τους μέσω συνάψεων και εναλλάσσονται μεταξύ περιόδων υψηλής και χαμηλής ηλεκτρικής δραστηριότητας (στην καθομιλουμένη, “πυροδότηση” και “μη πυροδότηση”), και μελετούσαν συστήματα λίγων νευρώνων για να κατανοήσουν πώς η πυροδότηση ενός νευρώνα επηρέαζε εκείνους με τους οποίους συνδεόταν. «Κάποιοι αντιμετώπιζαν τους νευρώνες με όρους λογικών πυλών, όπως στην ηλεκτρονική», λέει ο Jay McClelland του Πανεπιστημίου του Στάνφορντ.

Σε μια εργασία-ορόσημο του 1982, ο Hopfield υιοθέτησε μια διαφορετική προσέγγιση.^[3] Στη φυσική, υποστήριξε, πολλές σημαντικές ιδιότητες συστημάτων μεγάλης κλίμακας είναι ανεξάρτητες από τις λεπτομέρειες μικρής κλίμακας. Σε όλα τα υλικά μπορούν να διαδοθούν ηχητικά κύματα, για παράδειγμα, ανεξάρτητα από το πώς ακριβώς αλληλεπιδρούν τα άτομα ή τα μόριά τους. Οι μικροσκοπικές δυνάμεις μπορεί να επηρεάζουν την ταχύτητα του ήχου ή άλλες ακουστικές ιδιότητες, αλλά η μελέτη των δυνάμεων μεταξύ τριών ή τεσσάρων ατόμων αποκαλύπτει ελάχιστα για το πώς αναδύεται η έννοια των ηχητικών κυμάτων.

Με αυτόν τον τρόπο, δημιούργησε ένα μοντέλο ενός δικτύου νευρώνων, με γνώμονα περισσότερο την υπολογιστική και μαθηματική απλότητα παρά τον νευροβιολογικό ρεαλισμό. Το μοντέλο, γνωστό σήμερα ως δίκτυο Hopfield, αναπαρίσταται στο Εικ. 1. (Το σχήμα δείχνει ένα δίκτυο πέντε νευρώνων για την ευκολία της απεικόνισης· ο Hopfield προσομοίωνε δίκτυα 30 έως 100 νευρώνων). Κάθε νευρώνας μπορεί να βρίσκεται στην κατάσταση 1 ( πυροδότηση), ή στην κατάσταση 0 (μη πυροδότηση).

Η σύνδεση κάθε νευρώνα με όλους τους άλλους προσομοιωνόταν μέσω σταθερών σύζευξης που θα μπορούσαν να έχουν οποιαδήποτε θετική ή αρνητική τιμή, ανάλογα με το αν κάθε σύναψη ευνοεί ή όχι τους νευρώνες να πυροδοτούν ταυτόχρονα.

Αυτή είναι ακριβώς η ίδια μορφή με εκείνη ενός υαλώδους σπιν (spin glass), ένα γνωστό <<ακανθώδες>> σύστημα από τη φυσική συμπυκνωμένης ύλης. (Βλέπε Physics Today, Δεκέμβριος 2021, σ. 17.) Σε αντίθεση με ένα σιδηρομαγνήτη, στον οποίο οι σταθερές σύζευξης είναι όλες θετικές και το σύστημα έχει μια σαφή θεμελιώδη κατάσταση με όλα του τα σπιν ευθυγραμμισμένα, ένα υαλώδες σπιν δεν έχει σχεδόν ποτέ μια κατάσταση που να ικανοποιεί όλες τις ενεργειακές προτιμήσεις των σπιν του ταυτόχρονα. Το ενεργειακό του τοπίο είναι πολύπλοκο, με πολλά τοπικά ενεργειακά ελάχιστα.

Εικ. 1. Ένα δίκτυο Hopfield, τυπικά ισοδύναμο με ένα υαλώδες σπιν, λειτουργεί ως συνειρμική μνήμη: Όταν παρουσιάζεται μια κατάσταση που ανακαλείται μερικώς, χρησιμοποιεί έναν αλγόριθμο μείωσης της ενέργειας για να συμπληρώσει τα κενά. Οι αναμνήσεις αποθηκεύονται στην ισχύ των συζεύξεων μεταξύ των κόμβων. Όταν ο John Hopfield έδειξε ότι με τον κατάλληλο στατιστικό συνδυασμό στην ισχύ συζεύξεων το δίκτυο μπορούσε να αποθηκεύσει πολλές αναμνήσεις ταυτόχρονα, έθεσε τις βάσεις για τη σκέψη των νευρωνικών δικτύων με βάση τη φυσική. (Σχήμα από τον Freddie Pagani· φωτογραφία λαγού από τον JM Ligero Loarte/Wikimedia Commons/CC BY 3.0.)

Ο Hopfield υποστήριξε ότι το τοπίο θα μπορούσε να χρησιμεύσει ως μνήμη, με κάθε μια από τις διατάξεις που ελαχιστοποιούν την ενέργεια να χρησιμεύει ως μια κατάσταση που πρέπει να κρατηθεί στη μνήμη. Και παρουσίασε έναν κομψό τρόπο ρύθμισης των τιμών των σταθερών σύζευξης –εμπνευσμένο από αυτό που συμβαίνει στις πραγματικές συνάψεις– έτσι ώστε η μνήμη να αποθηκεύει οποιαδήποτε επιθυμητή συλλογή καταστάσεων.

Αλλά το δίκτυο Hopfield είναι θεμελιωδώς διαφορετικό από μια συνηθισμένη μνήμη υπολογιστή. Σε έναν υπολογιστή, κάθε στοιχείο των δεδομένων που πρόκειται να αποθηκευτεί κωδικοποιείται ως συμβολοσειρά από άσους και μηδενικά σε ένα συγκεκριμένο σημείο και ανακαλείται πηγαίνοντας πίσω σε αυτό το σημείο και διαβάζοντας τη συμβολοσειρά. Σε ένα δίκτυο Hopfield, όλα τα στοιχεία αποθηκεύονται ταυτόχρονα στις τιμές των σταθερών της σύζευξης ολόκληρου του δικτύου. Και μπορούν να ανακληθούν συνειρμικά, δίνοντας στο δίκτυο ένα σημείο εκκίνησης που μοιράζεται μόνο μερικά χαρακτηριστικά με μία από τις καταστάσεις που θυμάται και επιτρέποντάς του να «ηρεμήσει» στο πλησιέστερο ενεργειακό ελάχιστο. Τις περισσότερες φορές, θα ανακαλέσει την επιθυμητή μνήμη. (Βλέπε επίσης τα άρθρα του Haim Sompolinsky, Physics Today, Δεκέμβριος 1988, σ. 70, και του John Hopfield, PHYSICS Today, Φεβρουάριος 1994, σ. 40).

Και τα δύο αυτά είναι γεγονότα που συμβαίνουν στους πραγματικούς εγκεφάλους. « Ήταν πειραματικά γνωστό ότι σε ανώτερα ζώα η εγκεφαλική δραστηριότητα ήταν καλά διασκορπισμένη και ενέπλεκε πολλούς νευρώνες», λέει ο Hopfield. Και η συνειρμική μνήμη είναι κάτι που έχετε βιώσει άμεσα, αν έχετε θυμηθεί ποτέ ένα τραγούδι που έχετε ξανακούσει, αφού ακούσατε ένα τυχαίο απόσπασμά του.

Το μοντέλο του Hopfield ήταν μια τεράστια απλοποίηση ενός πραγματικού εγκεφάλου. Οι πραγματικοί νευρώνες είναι ουσιαστικά δυναμικοί, δεν χαρακτηρίζονται από στατικές καταστάσεις και οι πραγματικές συζεύξεις των νευρώνων δεν είναι συμμετρικές. Αλλά, κατά κάποιον τρόπο, αυτές οι διαφορές ήταν χαρακτηριστικά, όχι σφάλματα: έδειξαν ότι η συλλογική, συνειρμική μνήμη ήταν ένα αναδυόμενο φαινόμενο μεγάλης κλίμακας, ανθεκτικό σε λεπτομέρειες μικρής κλίμακας.

ΜΑΘΑΙΝΟΝΤΑΣ ΠΩΣ ΝΑ ΜΑΘΑΙΝΕΙΣ

«Όχι μόνο ο Hopfield είναι ένας πολύ καλός φυσικός, αλλά και το μοντέλο Hopfield είναι από μόνο του εξαιρετική φυσική”, λέει ο Leo van Hemmen, από το Τεχνικό Πανεπιστήμιο του Μονάχου. Παρ΄όλα αυτά, η διατύπωσή του το 1982 άφησε πολλά ενδιαφέροντα ανοιχτά ερωτήματα. Ο Hopfield είχε επικεντρωθεί σε προσομοιώσεις για να δείξει πώς το σύστημα «ηρεμεί» σε ένα ενεργειακό ελάχιστο· θα μπορούσε το μοντέλο να δεχθεί μια πιο στιβαρή αναλυτική αντιμετώπιση; Πόσες καταστάσεις θα μπορούσε να θυμάται το μοντέλο και τι θα συνέβαινε αν υπερφορτωνόταν; Υπήρχαν καλύτεροι τρόποι καθορισμού του μεγέθους των σταθερών σύζευξης από αυτόν που πρότεινε ο Hopfield;

Αυτές τις ερωτήσεις, και άλλες, ανέλαβε μια πληθώρα ερευνητών με σπουδές στη φυσική, οι οποίοι εμπνεύστηκαν από το έργο του Hopfield και εισήλθαν στον τομέα των νευρωνικών δικτύων κατά τη δεκαετία του 1980. «Οι φυσικοί είναι ευπροσάρμοστοι, περίεργοι και αλαζόνες –με θετικό τρόπο», λέει ο Eytan Domany, του Ινστιτούτου Επιστημών Weizmann στο Ισραήλ. «Είναι πρόθυμοι να μελετήσουν διεξοδικά και στη συνέχεια να καταπιαστούν με ένα πρόβλημα που δεν έχουν ξαναδεί, αν είναι ενδιαφέρον. Και όλοι είναι ενθουσιασμένοι με την κατανόηση του εγκεφάλου».

Ένα άλλο μέρος της γοητείας ήταν ο τρόπος με τον οποίο ο Hopfield είχε πάρει ένα παραδοσιακό πρόβλημα φυσικής και το είχε αντιστρέψει. «Στα περισσότερα προβλήματα ενεργειακού τοπίου, σας δίνονται οι μικροσκοπικές αλληλεπιδράσεις και ρωτάτε: Ποια είναι η βασική κατάσταση; Ποια είναι τα τοπικά ελάχιστα; Ποιο είναι ολόκληρο το τοπίο;», λέει ο Haim Sompolinsky, του Εβραϊκού Πανεπιστημίου της Ιερουσαλήμ. «Η εργασία του 1982 έκανε το αντίθετο. Ξεκινάμε με τις βασικές καταστάσεις που θέλουμε: τις αναμνήσεις. Και ρωτάμε: Ποιες είναι οι μικροσκοπικές αλληλεπιδράσεις που θα τις υποστηρίξουν ως βασικές καταστάσεις;»

Από εκεί και πέρα, ήταν ένα μικρό εννοιολογικό άλμα το να ρωτήσουμε: τι γίνεται αν οι ίδιες οι τιμές των σταθερών σύζευξης μπορούν να εξελιχθούν στο δικό τους ενεργειακό τοπίο; Δηλαδή, αντί το σύστημα να είναι προγραμματισμένο εκ των προτέρων με παραμέτρους για την κωδικοποίηση συγκεκριμένων μνημών, να μπορεί να αυτοβελτιώνεται με τη μάθηση;

Η μηχανική μάθηση σε νευρωνικά δίκτυα είχε δοκιμαστεί και στο παρελθόν. Το perceptron –μια συσκευή που μοιάζει με νευρωνικό δίκτυο και ταξινομεί εικόνες σε απλές κατηγορίες, όπως κύκλους και τετράγωνα– χρονολογείται από τη δεκαετία του 1950. Όταν του δόθηκε μια σειρά από εικόνες για εκπαίδευση και ένας απλός αλγόριθμος για την επικαιροποίηση των συνδέσεων μεταξύ των νευρώνων του, μπορούσε τελικά να μάθει να ταξινομεί σωστά ακόμη και εικόνες που δεν είχε ξαναδεί.

Αλλά το perceptron δεν λειτουργούσε πάντα καθώς με τον τρόπο που ήταν δομημένο το δίκτυο, μερικές φορές δεν υπήρχε κανένας τρόπος να ρυθμιστούν οι τιμές των σταθερών σύζευξης για να εκτελέσει την επιθυμητή ταξινόμηση. «Όταν συνέβαινε αυτό, θα μπορούσατε να επαναλαμβάνετε (την λειτουργία) για πάντα και ο αλγόριθμος δεν θα συνέκλινε ποτέ», λέει ο van Hemmen. «Αυτό ήταν ένα μεγάλο σοκ». Χωρίς μια κατευθυντήρια αρχή για την χάραξη μιας πορείας προς τα εμπρός, το πεδίο είχε βαλτώσει.

ΒΡΙΣΚΟΝΤΑΣ ΚΟΙΝΟ ΤΟΠΟ  

Ο Hinton δεν ήρθε στα νευρωνικά δίκτυα έχοντας υπόβαθρο στη φυσική. Αλλά ο συνεργάτης του, Terrence Sejnowski –ο οποίος είχε πάρει το διδακτορικό του από τον Hopfield το 1978– είχε τέτοιο υπόβαθρο. Μαζί, επέκτειναν το δίκτυο Hopfield σε κάτι που ονόμασαν μηχανή Boltzmann, η οποία επέκτεινε σημαντικά τις δυνατότητες του μοντέλου χρησιμοποιώντας ξεκάθαρα έννοιες της στατικής φυσικής.^[4]

Στις προσομοιώσεις του ο Hopfield το 1982, είχε ουσιαστικά διερευνήσει το καθαρό έργο του υαλώδους σπιν σε μηδενική θερμοκρασία επιτρέποντας στο σύστημα να εξελίξει την κατάστασή του μόνο με τρόπους που θα μείωναν τη συνολική του ενέργεια. Με αυτόν τον τρόπο, όποια κι αν ήταν η αρχική κατάσταση, κατέληγε σε ένα κοντινό τοπικό ενεργειακό ελάχιστο και παρέμενε εκεί.

«Ο Τέρι και εγώ αρχίσαμε αμέσως να σκεφτόμαστε τη στοχαστική εκδοχή, με μη μηδενική θερμοκρασία», λέει ο Hinton. Αντί για έναν ντετερμινιστικό κανόνα μείωσης της ενέργειας, χρησιμοποίησαν έναν αλγόριθμο Monte Carlo που επέτρεπε στο σύστημα να μεταπηδά περιστασιακά σε μια κατάσταση υψηλότερης ενέργειας. Δοθέντος αρκετού χρόνου, μια στοχαστική προσομοίωση του δικτύου θα εξερευνούσε ολόκληρο το ενεργειακό τοπίο και θα κατέληγε σε μια κατανομή πιθανοτήτων Boltzmann, με όλες τις καταστάσεις χαμηλής ενέργειας –ανεξάρτητα από το αν είναι τοπικά ενεργειακά ελάχιστα– να αντιπροσωπεύονται με υψηλή πιθανότητα.

«Και το 1983, ανακαλύψαμε έναν πολύ όμορφο τρόπο για τη μάθηση», λέει ο Hinton. Όταν το δίκτυο τροφοδοτούνταν με δεδομένα για εκπαίδευση αυτά αναβάθμιζαν επαναληπτικά την τιμή των σταθερών σύζευξης, έτσι ώστε οι καταστάσεις των δεδομένων να έχουν υψηλή πιθανότητα στην κατανομή Boltzmann.^[5] Επιπλέον, όταν τα εισερχόμενα δεδομένα είχαν κάτι κοινό –όπως οι εικόνες με τον αριθμόν 3 στην Εικ. 2– τότε άλλες καταστάσεις υψηλής πιθανότητας θα μοιράζονταν τα ίδια κοινά χαρακτηριστικά.

Εικόνα 2. Η ΜΗΧΑΝΗ BOLTZMANN επεκτείνει το δίκτυο Hopfield με δύο τρόπους: Επαυξάνει το δίκτυο για να συμπεριλάβει και κρυμμένους κόμβους (φαίνονται στο κέντρο του δικτύου με γκρι χρώμα) που δεν εμπλέκονται στην κωδικοποίηση δεδομένων και λειτουργεί σε μη μηδενική πραγματική θερμοκρασία, έτσι ώστε ολόκληρος ο χώρος των διατάξεων να μπορεί να χαρακτηριστεί από μια κατανομή πιθανοτήτων Boltzmann. Ο Geoffrey Hinton και οι συνεργάτες του ανέπτυξαν έναν τρόπο εκπαίδευσης της μηχανής Boltzmann ως γενετικού μοντέλου: Όταν της παρουσιάζονταν ως εισροές διάφορα στοιχεία που είχαν όλα ένα κοινό χαρακτηριστικό, παρήγαγε περισσότερα στοιχεία του ίδιου τύπου. (Σχήμα από τον Freddie Pagani.)

Το βασικό συστατικό για την εύρεση αυτού του είδους κοινών στοιχείων ήταν η επαύξηση του δικτύου, ώστε να περιλαμβάνει περισσότερους κόμβους από αυτούς που κωδικοποιούν τα δεδομένα. Αυτοί οι κρυφοί κόμβοι, που απεικονίζονται με γκρι χρώμα στην Εικ.2, επιτρέπουν στο σύστημα να καταγράφει συσχετίσεις υψηλότερου επιπέδου μεταξύ των δεδομένων.

Κατ’ αρχήν, η μηχανή Boltzmann θα μπορούσε να χρησιμοποιηθεί για τη μηχανική αναγνώριση ενός χειρόγραφου ή για τη διάκριση μεταξύ κανονικών και έκτακτων συνθηκών σε μια εγκατάσταση όπως ένας σταθμός παραγωγής ενέργειας. Δυστυχώς, ο αλγόριθμος μάθησης της μηχανής Boltzmann είναι απαγορευτικά αργός για τις περισσότερες πρακτικές εφαρμογές. Παρέμεινε θέμα ακαδημαϊκής έρευνας, αλλά δεν βρήκε μεγάλη χρήση στον πραγματικό κόσμο –μέχρι που έκανε μια εκπληκτική επανεμφάνιση αρκετά χρόνια αργότερα.

ΠΩΣ ΔΟΥΛΕΥΟΥΝ ΤΑ ΔΙΚΤΥΑ

Περίπου την ίδια εποχή, ο Hinton εργαζόταν με τον γνωστικό επιστήμονα David Rumelhart πάνω σε έναν άλλο αλγόριθμο μάθησης, ο οποίος θα γινόταν το μυστικό της επιτυχίας σχεδόν όλων των σημερινών νευρωνικών δικτύων: οπισθοδιάδοση (backpropagation).^[6] Ο αλγόριθμος αναπτύχθηκε για ένα διαφορετικό είδος αρχιτεκτονικής δικτύου, που ονομάζεται δίκτυο πρόσθιας τροφοδότησης (feedforward network), όπως φαίνεται στην Εικ.3. Σε αντίθεση με το δίκτυο Hopfield και τη μηχανή Boltzmann, με τις αμφίδρομες συνδέσεις μεταξύ των κόμβων, τα σήματα σε ένα δίκτυο πρόσθιας τροφοδότησης ρέουν προς μία μόνο κατεύθυνση: από ένα επίπεδο νευρώνων εισόδου, μέσω κάποιου αριθμού κρυφών επιπέδων, στην έξοδο. Μια παρόμοια αρχιτεκτονική είχε χρησιμοποιηθεί στο πολυεπίπεδο perceptron.

Ας υποθέσουμε ότι θέλετε να εκπαιδεύσετε ένα δίκτυο πρόσθιας τροφοδότησης για την ταξινόμηση εικόνων. Του δίνετε μια εικόνα ενός κουνελιού και θέλετε να παράγει το μήνυμα εξόδου «Αυτό είναι ένα κουνέλι». Αλλά κάτι δεν πάει καλά και αντ’ αυτού λαμβάνετε το μήνυμα εξόδου «Αυτό είναι χελώνα». Πώς μπορείτε να επαναφέρετε τα πράγματα στη σωστή πορεία; Το δίκτυο μπορεί να έχει δεκάδες ή εκατοντάδες –ή σήμερα, τρισεκατομμύρια– συνδέσεις μεταξύ κόμβων που συμβάλλουν στην έξοδο, η καθεμία με το δικό της αριθμητικό βάρος. Συνεπώς ο αριθμός των τρόπων που υπάρχουν για να τους ρυθμίσετε όλους, ώστε να προσπαθήσετε να πάρετε την έξοδο που θέλετε, είναι ασύλληπτος.

Η οπισθοδιάδοση λύνει αυτό το πρόβλημα μέσω του αλγόριθμου καθοδικής πορείας κατά μήκος της κλίσης (gradient descent): Πρώτα, ορίζετε μια συνάρτηση σφάλματος που προσδιορίζει πόσο απέχει η έξοδος που πήρατε από την έξοδο που θέλετε. Στη συνέχεια, υπολογίζετε τις μερικές παραγώγους της συνάρτησης σφάλματος με κριτήριο κάθε ένα από τα ενδοκομβικά βάρη –ένα απλό θέμα επανειλημμένης εφαρμογής του αλυσιδωτού κανόνα του λογισμού. Τέλος, χρησιμοποιείτε αυτές τις παραγώγους για να προσαρμόσετε τα βάρη με τρόπο που να μειώνει το σφάλμα.

Εικ. 3. Ένα δίκτυο πρόσθιας τροφοδότησης, εκπαιδευμένο με οπισθοδιάδοση, είναι η βασική δομή των νευρωνικών δικτύων που χρησιμοποιούνται σήμερα. Περνώντας αριθμητικά σήματα από ένα επίπεδο εισόδου μέσω κρυφών επιπέδων σε ένα επίπεδο εξόδου, τα δίκτυα πρόσθιας τροφοδότησης εκτελούν λειτουργίες που περιλαμβάνουν την ταξινόμηση εικόνων και την παραγωγή κειμένου. (Εικόνα από τον Freddie Pagani· φωτογραφία κουνελιού από τον JM Ligero Loarte/Wikimedia Commons/CC BY 3.0· χαϊκού^[i] που δημιουργήθηκε από τον GPT-4, OpenAI, 22 Οκτωβρίου 2024).

Μπορεί να χρειαστούν πολλές επαναλήψεις για να περιοριστεί το σφάλμα αρκετά κοντά στο μηδέν –και θα θέλετε να βεβαιωθείτε ότι το δίκτυο δίνει το σωστό αποτέλεσμα για πολλά εισερχόμενα δεδομένα, όχι μόνο για ένα. Αλλά αυτά τα βασικά βήματα χρησιμοποιούνται για την εκπαίδευση όλων των ειδών των δικτύων, συμπεριλαμβανομένων των ταξινομητών εικόνων βάσει επαλήθευσης-της-γενικής-ιδέας και των μεγάλων γλωσσικών μοντέλων, όπως το ChatGPT.

Η μέθοδος του αλγόριθμου καθοδικής πορείας κατά μήκος της κλίσης είναι διαισθητικά κομψή και δεν ήταν καινούρια εννοιολογικά. «Αλλά έπρεπε να συγκεντρωθούν πολλά στοιχεία για να λειτουργήσει η ιδέα της οπισθοδιάδοσης», λέει ο McClelland. «Δεν μπορείτε να πάρετε την παράγωγο κάποιου πράγματος αν αυτό δεν είναι παραγωγίσιμο». Οι πραγματικοί νευρώνες λειτουργούν λίγο-πολύ σε διακριτές καταστάσεις ενεργοποίησης και απενεργοποίησης, και το αρχικό δίκτυο Hopfield, η μηχανή Boltzmann και το perceptron ήταν όλα διακριτά μοντέλα. Για να λειτουργήσει η οπισθοδιάδοση, ήταν απαραίτητο να μεταβούμε σε ένα μοντέλο στο οποίο οι καταστάσεις των κόμβων μπορούν να πάρουν ένα συνεχές φάσμα τιμών. Αλλά αυτά τα δίκτυα συνεχών τιμών είχαν ήδη εισαχθεί, μεταξύ άλλων σε μια εργασία του Hopfield το 1984.^[7]

Μια δεύτερη καινοτομία έπρεπε να περιμένει για καιρό. Η οπισθοδιάδοση λειτούργησε καλά για δίκτυα με μερικά μόνο επίπεδα. Αλλά όταν ο αριθμός των επιπέδων πλησίαζε τα πέντε ή και περισσότερα –ένας ασήμαντος αριθμός για τα δεδομένα της εποχής– ορισμένες από τις επιμέρους παραγώγους ήταν τόσο μικρές που η εκπαίδευση διαρκούσε πολύ ώστε πρακτικά να ήταν ανέφικτη.

Στις αρχές της δεκαετίας του 2000, ο Hinton βρήκε μια λύση, η οποία περιλάμβανε την παλιά του μηχανή Boltzmann –ή μάλλον μια λεγόμενη περιορισμένη εκδοχή της, στην οποία οι μόνες συνδέσεις είναι αυτές μεταξύ ενός κρυμμένου νευρώνα και ενός ορατού (μη κρυμμένου) νευρώνα.^[8] Οι περιορισμένες μηχανές Boltzmann (Restricted Boltzmann Machines, RBM) είναι εύκολο να μοντελοποιηθούν υπολογιστικά, επειδή κάθε ομάδα νευρώνων –ορατών και κρυφών– θα μπορούσε να επικαιροποιηθεί ταυτόχρονα και τα αριθμητικά βάρη σύνδεσης θα μπορούσαν να ρυθμιστούν όλα μαζί σε ένα μόνο βήμα. Η ιδέα του Hinton ήταν να απομονώσει ζεύγη διαδοχικών επιπέδων σε ένα δίκτυο πρόσθιας τροφοδότησης, να τα εκπαιδεύσει σαν να επρόκειτο για RBM για να προσεγγίσει τα αριθμητικά βάρη και, στη συνέχεια, να συντονίσει το σύνολο του δικτύου χρησιμοποιώντας οπισθοδιάδοση.

«Ήταν κάπως άκομψο, αλλά δούλεψε και ο κόσμος ενθουσιάστηκε», λέει ο Graham Taylor, του Πανεπιστημίου του Guelph στον Καναδά, ο οποίος πήρε το διδακτορικό του υπό την επίβλεψη του Hinton το 2009. «Ήταν πλέον δυνατό να εκπαιδεύσουμε δίκτυα με πέντε, έξι, επτά επίπεδα. Οι άνθρωποι τα αποκαλούσαν «βαθιά» δίκτυα και άρχισαν να χρησιμοποιούν τον όρο βαθεία μάθηση (deep learning).

Το τέχνασμα με τις RBM δεν χρησιμοποιήθηκε για πολύ. Η υπολογιστική ισχύς εξελισσόταν τόσο γρήγορα –ιδιαίτερα με τη συνειδητοποίηση ότι οι μονάδες επεξεργασίας γραφικών (GPU) ήταν ιδανικά κατάλληλες για τους υπολογισμούς που απαιτούνταν για τα νευρωνικά δίκτυα– ώστε μέσα σε λίγα χρόνια, ήταν δυνατό να επιτευχθεί οπισθοδιάδοση σε ακόμη μεγαλύτερα δίκτυα από την αρχή, χωρίς να απαιτούνται RBM.

«Αν η μάθηση μέσω RBM δεν είχε συμβεί, θα είχαν εμφανιστεί οι GPU ούτως ή άλλως;» αναρωτιέται ο Taylor. «Αυτό είναι συζητήσιμο. Αλλά ο ενθουσιασμός γύρω από τις RBM άλλαξε το τοπίο: οδήγησε στην επιστράτευση και εκπαίδευση νέων φοιτητών και σε νέους τρόπους σκέψης. Νομίζω πως, τουλάχιστον, δεν θα είχε συμβεί με τον ίδιο τρόπο».

O, ΤΙ ΕΙΝΑΙ ΚΑΙΝΟΥΡΙΟ ΕΙΝΑΙ ΠΑΛΙΟ

Τα σημερινά δίκτυα χρησιμοποιούν εκατοντάδες ή χιλιάδες επίπεδα, αλλά η μορφή τους είναι ελάχιστα διαφορετική από εκείνη που περιέγραψε ο Hinton. «Έμαθα για τα νευρωνικά δίκτυα από βιβλία της δεκαετίας του 1980», λέει ο Bernhard Mehlig, του Πανεπιστημίου του Γκέτεμποργκ στη Σουηδία. «Όταν άρχισα να τα διδάσκω, συνειδητοποίησα ότι τα περισσότερα δεν είναι καινούργια. Είναι, επί της ουσίας, παλιά πράγματα». Ο Mehlig σημειώνει ότι σε ένα εγχειρίδιο που έγραψε, το οποίο εκδόθηκε το 2021, το πρώτο από τα τρία μέρη αφορά στον Hopfield και το δεύτερο στον Hinton.

Τα νευρωνικά δίκτυα επηρεάζουν πλέον έναν τεράστιο αριθμό ανθρώπινων προσπαθειών, εμπλέκονται στην ανάλυση δεδομένων, στις αναζητήσεις στο διαδίκτυο και στη δημιουργία γραφικών. Είναι ευφυή; Είναι εύκολο να απορρίψει κανείς το ερώτημα αυτό χωρίς πολύ σκέψη. «Πάντα υπήρχαν πολλά πράγματα που οι μηχανές μπορούσαν να κάνουν καλύτερα από τους ανθρώπους», λέει ο Sankar Das Sarma του Πανεπιστημίου του Μέριλαντ. «Αυτό δεν έχει καμία σχέση με το να γίνουνε άνθρωποι. Το ChatGPT είναι εντυπωσιακά καλό σε ορισμένα πράγματα, αλλά σε πολλά άλλα δεν πλησιάζει καν ένα μωρό δύο ετών».

Μια ενδεικτική σύγκριση είναι το τεράστιο χάσμα δεδομένων μεταξύ των σημερινών νευρωνικών δικτύων και των ανθρώπων.^[9] Ένας εγγράμματος 20 ετών μπορεί να έχει διαβάσει και ακούσει μερικές εκατοντάδες εκατομμύρια λέξεις στη ζωή του μέχρι τώρα. Αντίθετα, τα μεγάλα γλωσσικά μοντέλα εκπαιδεύονται σε εκατοντάδες δισεκατομμύρια λέξεις, αριθμός που αυξάνεται με κάθε νέα έκδοση. Όταν συνυπολογίσετε το γεγονός ότι το ChatGPT έχει το πλεονέκτημα μιας εμπειρίας ζωής χίλιες φορές μεγαλύτερης από εσάς, οι ικανότητές του μπορεί να φαίνονται λιγότερο σαν νοημοσύνη. Ίσως όμως να μην έχει σημασία αν η τεχνητή νοημοσύνη αποτυγχάνει σε κάποιες εργασίες, αν είναι καλή στον σωστό συνδυασμό άλλων.

Οι Hinton και Hopfield έχουν και οι δύο αναφερθεί στους κινδύνους της ανεξέλεγκτης τεχνητής νοημοσύνης. Ανάμεσα στα επιχειρήματά τους είναι η ιδέα ότι μόλις οι μηχανές γίνουν ικανές να αναλύουν τους στόχους σε επιμέρους στόχους, θα συμπεράνουν γρήγορα ότι μπορούν να κάνουν σχεδόν κάθε εργασία ευκολότερη για τον εαυτό τους, εδραιώνοντας τη δική τους δύναμη. Και επειδή τα νευρωνικά δίκτυα είναι συχνά επιφορτισμένα με τη συγγραφή κώδικα για άλλους υπολογιστές, το να σταματήσει η ζημιά δεν είναι τόσο απλό όσο το να τραβήξει κανείς την πρίζα από μια μεμονωμένη μηχανή.

«Υπάρχουν επίσης άμεσοι κίνδυνοι που αντιμετωπίζουμε αυτή τη στιγμή», λέει ο Mehlig. «Υπάρχουν κείμενα γραμμένα από υπολογιστή και ψεύτικες εικόνες που χρησιμοποιούνται για να ξεγελάσουν τους ανθρώπους και να επηρεάσουν τις εκλογές. Νομίζω ότι μιλώντας για την κατάκτηση του κόσμου από τους υπολογιστές, οι άνθρωποι παίρνουν λιγότερο σοβαρά τους άμεσους κινδύνους».

ΤΙ ΜΠΟΡΟΥΝ ΝΑ ΚΑΝΟΥΝ ΟΙ ΦΥΣΙΚΟΙ;

Μεγάλο μέρος της ανησυχίας προέρχεται από το γεγονός ότι είναι πολύ λίγα γνωστά για το τι πραγματικά κάνουν τα νευρωνικά δίκτυα: Πώς μέσα από δισεκατομμύρια πολλαπλασιασμούς πινάκων καταλήγουμε να είμαστε σε θέση να βρίσκουμε πρωτεϊνικές δομές ή να γράφουμε ποίηση; «Οι άνθρωποι στις μεγάλες εταιρείες ενδιαφέρονται περισσότερο για την παραγωγή εσόδων, παρά για την κατανόηση», λέει ο Das Sarma. «Η κατανόηση απαιτεί περισσότερο χρόνο. Η δουλειά των θεωρητικών είναι να κατανοούν τα φαινόμενα, και αυτό είναι ένα τεράστιο φυσικό φαινόμενο που εκκρεμεί να κατανοηθεί από εμάς. Οι φυσικοί πρέπει να ενδιαφέρονται γι’ αυτό».

«Είναι δύσκολο να μην είσαι ενθουσιασμένος με αυτό που συμβαίνει και είναι δύσκολο να μην

παρατηρήσουμε πως δεν καταλαβαίνουμε», λέει ο Bialek. «Αν θέλετε να πείτε ότι τα πράγματα είναι αναδυόμενα, ποια είναι η παράμετρος τάξης και τι είναι αυτό που έχει αναδυθεί; Η φυσική έχει έναν τρόπο να κάνει αυτό το ερώτημα πιο συγκεκριμένο. Θα αποφέρει αυτή η προσέγγιση γνώση; Θα το δούμε».

Προς το παρόν, τα μεγαλύτερα ερωτήματα εξακολουθούν να είναι κατακλυσμιαία. «Αν υπήρχε κάτι προφανές που θα ερχόταν στο μυαλό μας, θα υπήρχε μια ορδή ανθρώπων που θα προσπαθούσαν να το λύσουν», λέει ο Hopfield. «Αλλά κάτι τέτοιο δεν συμβαίνει επειδή κανείς δεν ξέρει από πού να ξεκινήσει».

Ωστόσο, μερικά ερωτήματα μικρότερης κλίμακας είναι πιο εύκολα αντιμετωπίσιμα. Για παράδειγμα, γιατί η οπισθοδιάδοση μειώνει το σφάλμα του δικτύου κοντά στο μηδέν με τέτοια αξιοπιστία, αντί να «κολλάει» σε υψηλά τοπικά ελάχιστα, όπως κάνει το δίκτυο Hopefield; «Υπήρξε μια πολύ καλή εργασία πάνω σε αυτό πριν από μερικά χρόνια από τον Surya Ganguli στο Στάνφορντ», λέει η Sara Solla του Πανεπιστημίου Nortwestern. «Διαπίστωσε ότι τα περισσότερα υψηλά ελάχιστα είναι στην πραγματικότητα σαγματικά σημεία^[10]: Είναι ένα ελάχιστο σε πολλές διαστάσεις, αλλά υπάρχει πάντα μία στην οποία δεν είναι. Έτσι, αν συνεχίσετε να προσπαθείτε, τελικά θα βρείτε τη διέξοδο».

Όταν οι ερευνητές με εκπαίδευση φυσικού εργάζονται σε τέτοια προβλήματα, εξακολουθούν να ασχολούνται με τη φυσική; Ή έχουν αφήσει τη φυσική πίσω τους για κάτι άλλο; Αν η «φυσική» ορίζεται ως η μελέτη του φυσικού, υλικού κόσμου, αυτό αναμφισβήτητα θα απέκλειε τα τεχνητά νευρωνικά δίκτυα, τα οποία μέχρι τώρα είναι εξ ολοκλήρου αφηρημένες, ανθρώπινες κατασκευές με ελάχιστη ομοιότητα με τους βιολογικούς νευρώνες. «Δεν φτιάχνουμε αεροπλάνα που κουνάνε τα φτερά τους», λέει η Solla. «Και η οπισθοδιάδοση είναι ένας εντελώς μη ρεαλιστικός μηχανισμός σε έναν πραγματικό εγκέφαλο. Ο κατασκευαστικός στόχος είναι να φτιάξουμε μια μηχανή που να λειτουργεί. Η φύση μας δίνει κάποια εικόνα, αλλά η καλύτερη λύση δεν είναι απαραίτητα να την αντιγράψουμε».

Πρέπει, όμως, η φυσική να ορίζεται αποκλειστικά από το αντικείμενό της; «Στα διεπιστημονικά πεδία, αυτό που κάνει τη διαφορά μεταξύ των επιστημονικών κλάδων –μαθηματικών, πληροφορικής και φυσικής– είναι οι μέθοδοι και οι νοοτροπίες τους», λέει η Francesca Mignacco από το Πρίνστον. «Είναι συμπληρωματικές, αλλά διαφορετικές. Τα μοντέλα των νευρωνικών δικτύων είναι τόσο πολύπλοκα που είναι δύσκολο να επιτευχθούν αυστηρές μαθηματικές περιγραφές. Αλλά η στατιστική φυσική διαθέτει ακριβώς τα εργαλεία για να αντιμετωπίσει την πολυπλοκότητα των συστημάτων υψηλής διάστασης. Προσωπικά, ποτέ δεν σταμάτησα να θέτω ερωτήματα μόνο και μόνο επειδή μπορεί να είναι ή να μην είναι φυσική».

«Η φυσική περιορίζεται μόνο από την επινοητικότητα των ανθρώπων που εφαρμόζουν μεθόδους της φυσικής σε συστήματα στον πραγματικό κόσμο», λέει ο Hopfield. «Μπορείτε να είστε προκατειλημμένοι με αυτό ή μπορείτε να υποδεχθείτε την εφαρμοσμένη φυσική. Εγώ είμαι ένας από τους φιλόξενους».

ΕΥΧΑΡΙΣΤΙΕΣ

Reproduced from Nobel Prize highlights neural networks’ physics roots. The road to the modern machine-learning marvels was paved with ideas from statistical mechanics and collective phenomena. Physics Today 77 (12), 12–16 (2024); (https://doi.org/10.1063/pt.qjmx.snxw) with the permission of the American Institute of Physics.

ΣΗΜΕΙΩΣΕΙΣ

[1] Μετάφραση του ρητού στην αγγλική «Garbage in, garbage out» [ΣτΕ].

[2] Τηλεπαιχνίδι γνώσεων [ΣτΜ].

[3] Hopfield, J., J., 1982. Neural networks and physical systems with emergent collective computational abilities. Proc. Natl. Acad. Sci. USA 79, 2554, 1982. https://www.pnas.org/doi/pdf/10.1073/pnas.79.8.2554

[4] Fahlman, S., Ε., Hinton, G., E., and Sejnowski, T. J., 1983. Massively Parallel Architectures for Al: NETL, Thistle, and Boltzmann Machines, in Proceedings of the AAAI Conference on Artificial Intelligence, 3, Association for the Advancement of Artificial Intelligence, 1983, p. 109. https://aaai.org/papers/00109-aaai83-087-massively-parallel-architectures-for-al-netl-thistle-and-boltzmann-machines/

[5] Ackley, D., H., Hinton, G., E., Sejnowski, T., J., 1985. A learning algorithm for Boltzmann machines. Cogn. Sci. 9, 147. https://www.sciencedirect.com/science/article/pii/S0364021385800124

[6] Rumelhart, D., E., Hinton, G., E., and Williams, R. J., 1986. Learning representations by back-propagating errors. Nature 323, 533. https://www.nature.com/articles/323533a0

[7] Hopfield, J., J., 1984. Neurons with graded response have collective computational properties like those of two-state neurons. Proc. Natl. Acad. Sci. USA 81, 3088. https://www.pnas.org/doi/10.1073/pnas.81.10.3088

[8] Hinton, G., E., 2002. Training Products of Experts by Minimizing Contrastive Divergence. Neural Comput. 14, 1771. https://direct.mit.edu/neco/article-abstract/14/8/1771/6687/Training-Products-of-Experts-by-Minimizing?redirectedFrom=fulltext; Hinton, G., E., Osindero, S., Teh, Y.,-W., 2006. A fast learning algorithm for deep belief nets. Neural Comput. 18, 1527. https://pubmed.ncbi.nlm.nih.gov/16764513/

[9] Frank, M., C., 2023. Bridging the data gap between children and large language models. Trends Cogn. Sci. 27, 990. https://www.sciencedirect.com/science/article/abs/pii/S1364661323002036

[10] Κρίσιμα σημεία στην επιφάνεια της γραφικής παράστασης μιας συνάρτησης, όπου οι μερικές παράγωγοι προς όλες τις κατευθύνσεις έχουν την τιμή μηδέν, τα οποία δεν είναι τοπικά ακρότατα (μέγιστα ή ελάχιστα) [ΣτΜ].

[i] Ιαπωνική ποιητική φόρμα [ΣτΕ].

ΕΚΔΟΣΕΙΣ ΡΟΠΗ

Tiziano Bonini & Emiliano Treré

Μετάφραση: Ελένη Τσατσαρώνη 

Επιμέλεια – Διόρθωση: Τραϊανός Μάνος

ISBN: 978-618-5895-00-6
Διαστάσεις: 16 Χ 23
Αριθμός σελίδων: 348
Τιμή: € 20 + ΦΠΑ 6%

Έτος έκδοσης: 2024

Περιγραφή

Το βιβλίο «Αλγόριθμοι της Αντίστασης: Η καθημερινή πάλη ενάντια στην εξουσία της πλατφόρμας» εξετάζει πώς εργαζόμενοι, influencer και ακτιβιστές οικειοποιούνται και χρησιμοποιούν τους αλγορίθμους που ελέγχουν τις ζωές μας, αναπτύσσοντας τακτικές αλγοριθμικής αντίστασης;

Οι αλγόριθμοι βρίσκονται πλέον παντού γύρω μας, εισχωρώντας σταδιακά σε ολοένα και περισσότερες πτυχές της καθημερινότητάς μας. Σε αντίθεση με πολλές απόψεις που παρουσιάζουν την εξουσία των πλατφορμών ως ψυχρή και μονολιθική, το βιβλίο Αλγόριθμοι της Αντίστασης υπογραμμίζει ότι τα άτομα μπορούν να αντιστέκονται στους αλγορίθμους σε διάφορα πεδία. Βασιζόμενοι σε πλούσιο εθνογραφικό υλικό που συνέλεξαν από τον Παγκόσμιο Βορρά και τον Παγκόσμιο Νότο, o Tiziano Bonini και o Emiliano Treré εξετάζουν τους τρόπους με τους οποίους τα άτομα οικειοποιούνται και αναδρομολογούν τους αλγορίθμους, προκειμένου να επιτύχουν τους στόχους τους σε τρία πεδία της καθημερινότητας: την περιστασιακή εργασία, τις πολιτισμικές βιομηχανίες και την πολιτική.

Αναλύοντας ένα μεγάλο εύρος πρακτικών, οι Bonini και Treré αποκαλύπτουν το ηθικό πρόταγμα που είναι κοινό σε όλες και όλους τους χρήστες των πλατφορμών – από τους διανομείς μέχρι τους καλλιτέχνες και από τους influencer μέχρι τα κοινωνικά κινήματα: να αντισταθούμε στην εξουσία των πλατφορμών και να χρησιμοποιήσουμε την εμπρόθετη δράση μας για να συμβάλουμε στην ανάπτυξη ενός εναλλακτικού αλγοριθμικού πολιτισμού.

Bιογραφικά Συγγραφέων

Tiziano Bonini ( Τιτσιάνο Μπονίνι ) (1977). Έναι Διδάκτωρ στα Μέσα Επικοινωνίας και Δημόσιας Σφαίρας στο Πανεπιστήμιο της Σιένα, ( 2008 ), είναι Αναπληρωτής Καθηγητής στις Σπουδές Μέσων Ενημέρωσης στο Τμήμα Κοινωνικών, Πολιτικών, Γνωστικών Επιστημών στο Πανεπιστήμιο της Σιένα. Τα τρέχοντα ερευνητικά του ενδιαφέροντα είναι η πολιτική οικονομία των ψηφιακών πλατφορμών και των πολιτιστικών βιομηχανιών

Emiliano Treré ( Εμιλιάνο Τρερέ ) Είναι Λέκτορας στο Cardiff’s School of Journalism, Media and Culture, και πρώην Αναπληρωτής Καθηγητής στο Αυτόνομο Πανεπιστήμιο του Querétaro, Μεξικό (2011-2016).  Η έρευνά μου πραγματεύεται το ζήτημα του ψηφιακού ακτιβισμού από θεωρητική σκοπιά σε σχέση με κρίσιμα ζητήματα πολιτισμού και ταυτότητας από τη μια πλευρά και με την ανάπτυξη θεωρητικών πλαισίων που σχετίζονται με τις θεωρίες των μέσων αλλαγής ως διαμεσολάβηση, οικολογίες μέσων και διαμεσολάβηση από την άλλη. Γνωρίζοντας άπταιστα τρεις γλώσσες, είμαι διεθνώς αναγνωρισμένος ως «γέφυρα» μεταξύ των «σχολών σκέψης» της Δύσης και της Λατινικής Αμερικής στις μελέτες των μέσων ενημέρωσης, της επικοινωνίας και του κοινωνικού κινήματος. Από τον Νοέμβριο του 2018, ενεργώ ως αντιπρόεδρος του τμήματος «Επικοινωνία και Δημοκρατία» του ECREA (Ευρωπαϊκή Ένωση Έρευνας και Εκπαίδευσης στην Επικοινωνία).

Κριτικές

«Η εξαιρετική ανάλυση των Bonini και Treré σχετικά με το πώς οι χρήστες παλεύουν με την αλγοριθμική εξουσία αποτελεί έναν θαυμάσιο οδηγό για τη δυναμική που κινεί το οικοσύστημα των πλατφορμών. Απαραίτητο ανάγνωσμα για όσους ενδιαφέρονται για τις κοινωνικοτεχνικές διεργασίες των σύγχρονων μέσων.»

― José van Dijck, Καθηγητής Μέσων και Ψηφιακών Κοινωνιών, Πανεπιστήμιο Ουτρέχτης, συγγραφέας του The Culture of Connectivity, συν-συγγραφέας του The Platform Society

«Ένας ύμνος στην ανθρώπινη πρωτοβουλία και ανθεκτικότητα απέναντι σε μια ολοένα και πιο διεισδυτική αλγοριθμική κουλτούρα. Οι Bonini και Treré αναλύουν τους πολλούς τρόπους με τους οποίους η αντίσταση είναι εφικτή.»

― William Uricchio, Καθηγητής Συγκριτικών Μέσων, MIT, συν-συγγραφέας του Collective Wisdom

«Βασισμένο σε πλούσια επιτόπια έρευνα, ψηφιακή εθνογραφία και συνεντεύξεις στην Ινδία, την Κίνα, το Μεξικό, την Ιταλία και την Ισπανία, αυτό το βιβλίο παρέχει μια βαθιά διορατική εξερεύνηση του πώς οι εργαζόμενοι σε πλατφόρμες, οι δημιουργοί και οι ακτιβιστές εμπλέκονται τακτικά με τους αλγόριθμους των πλατφορμών.»

― Thomas Poell, Καθηγητής Δεδομένων, Πολιτισμού & Ιδρυμάτων, Πανεπιστήμιο Άμστερνταμ, συν-συγγραφέας των The Platform Society και Platforms and Cultural Production

Χαλλιορή Μαρκέλλα

Το άρθρο αυτό αποτελεί μία εισαγωγή στη συζήτηση των έμφυλων προκαταλήψεων που εντοπίζονται στα συστήματα Τεχνητής Νοημοσύνης. Εξετάζοντας ορισμένες προβληματικές περιπτώσεις, και χρησιμοποιώντας τον φακό των φεμινιστικών θεωριών, θα προσπαθήσουμε να αναδείξουμε την πολυπλοκότητα και την ανάγκη για άμεση απεύθυνση του ζητήματος. Είναι οι έμφυλες αλγοριθμικές προκαταλήψεις απλώς μια τεχνική ατέλεια;

Η ΠΡΟΒΛΕΨΗ ΤΟΥ DREYFUS ΚΑΙ Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΣΗΜΕΡΑ

Το 1992 στο βιβλίο του What computers still can’t do, ο Dreyfus ανακοινώνει τον «θάνατο της τεχνητής νοημοσύνης», που κατά την άποψή του δεν έζησε ποτέ (Dreyfus, 1992). Πρόκειται για το τρίτο κατά σειρά έργο που ο συγγραφέας αφιερώνει στην κριτική της νεοεισηγμένης τότε τεχνολογίας της Τεχνητής Νοημοσύνης, καταδικάζοντας την αφελή αισιοδοξία των ερευνητών, ότι οι μηχανές θα μπορέσουν κάποτε να αναπαραστήσουν –έως και να αντικαταστήσουν– την ανθρώπινη νοημοσύνη. Η δυσπιστία του εντοπιζόταν στην ίδια τη συγκρότηση των συστημάτων: τα συστήματα τεχνητής νοημοσύνης, όπως και η επιστήμη των υπολογιστών εν γένει, βασίζονται στη μοντελοποίηση πληροφοριών με τη χρήση μαθηματικού φορμαλισμού και κανόνων συμβολικής λογικής. Αντίθετα, η ανθρώπινη νοημοσύνη, η ικανότητα για μάθηση, κατανόηση και κρίση προκύπτει ως ένα κράμα συνειδητών και ασυνείδητων λειτουργιών, οι οποίες, σε συνδυασμό με την βιωματική αλληλεπίδραση με το περιβάλλον του νοούντος, είναι αδύνατο να τυποποιηθούν με μαθηματικούς όρους. Αντλώντας από τη φιλοσοφική παράδοση της φαινομενολογίας, τη σημασία της ενσώματης εμπειρίας στη νόηση και την αδυναμία τυποποίησης της ανθρώπινης συμπεριφοράς, το πόρισμα του Dreyfus ήταν κατηγορηματικό: οι υπολογιστές δεν θα μπορέσουν ποτέ να μιμηθούν πλήρως την ανθρώπινη σκέψη.

Παρόλα αυτά, περίπου τριάντα χρόνια αργότερα, είναι δύσκολο να αποφανθεί κάποιος σε ποιο βαθμό έχει επιβεβαιωθεί η πρόβλεψη του Dreyfus. Τα συστήματα τεχνητής νοημοσύνης (εφεξής ΤΝ) αποτελούν αναπόσπαστα κομμάτια των σύγχρονων κοινωνιών, επηρεάζοντας την καθημερινή μας ζωή με πρωτόγνωρους τρόπους. Δεν πρόκειται απλά για μηχανές που εκτελούν εργασίες· πρόκειται για συστήματα που λαμβάνουν κρίσιμες αποφάσεις, –συχνά απουσία ανθρώπινης παρέμβασης– και έχουν μετασχηματίσει ριζικά την έννοια της αυτοματοποίησης και τον βαθμό στον οποίο βασιζόμαστε σε αυτήν. Ταυτόχρονα, η ραγδαία εξέλιξη της επιστήμης και της τεχνολογίας έχει καθορίσει τον τρόπο που συλλέγουμε πληροφορίες, αντιλαμβανόμαστε και αλληλεπιδρούμε με τον κόσμο. Για πρώτη φορά, τα δεδομένα που αφορούν τον ατομικό και κοινωνικό βίο είναι, λόγω της ψηφιακής μορφής τους, σε τέτοιο βαθμό συγκεντρωμένα, προσβάσιμα και επεξεργάσιμα όσο σε καμία άλλη στιγμή της ιστορίας (Τάσης, 2019).

Χωρίς αμφιβολία, το άλλοτε αποκύημα της επιστημονικής φαντασίας, η TN, αποτελεί πλέον τη βάση του τεχνοεπιστημονικού –και μη– κόσμου και την πιο καθοριστική τεχνολογία του 21^ου αιώνα. Χάρη στην υπερπληθώρα διαθέσιμων δεδομένων, στην υπολογιστική ισχύ αυτών των συστημάτων και στο επαγόμενο θριαμβευτικό πλεονέκτημα που κατέχουν στην ταχεία και ακριβή επίλυση προβλημάτων, οι υπολογιστές «συναγωνίζονται» σήμερα τους ανθρώπους στην ανάληψη και εκτέλεση σύνθετων εργασιών, συχνά μάλιστα υπερτερώντας (Μήτρου, 2023). Επιστημικές αρετές, όπως η ταχύτητα, η ακρίβεια, η απλούστευση πολύπλοκων εργασιών, η επεξεργασία τεράστιου όγκου δεδομένων και η αμεροληψία, αποτελούν ταυτόχρονα τη βάση των προσδοκιών μας από τα συστήματα, γεγονός στο οποίο θεμελιώνεται (;) η ανάθεση σε αυτά έως τώρα «ανθρώπινων» καθηκόντων. Ανεξαρτήτως της πρόβλεψης του Dreyfus για αποτυχία προσομοίωσης της ανθρώπινης νόησης, τα συστήματα ΤΝ έχουν υπεισέλθει σε κάθε πτυχή της ιδιωτικής και δημόσιας σφαίρας, συνοδευόμενα από σημαντικές ευκαιρίες: από την εξατοµίκευση των διαφηµίσεων που ϕτάνουν σε εµάς µέχρι την ενηµέρωση νοµικών αποφάσεων, την ιατρική, την εκπαίδευση και την πρόσληψη προσωπικού, η σηµασία των Συστηµάτων ΤΝ στις σύγχρονες κοινωνίες είναι καινοφανής και αυξανόµενη.

Ωστόσο τα τελευταία χρόνια, οι αρχικές αντενδείξεις ότι τέτοια συστήματα θα λειτουργούσαν ως αγωγοί ανθρώπινης ευημερίας και υπέρβασης των κοινωνικών αντιθέσεων έχουν δώσει τη θέση τους σε μία σκληρή βεβαιότητα: η χρήση τέτοιων συστημάτων για τη λήψη αποφάσεων ισοδυναμεί συχνά με όξυνση της κοινωνικής πόλωσης, την καταπάτηση θεμελιωδών δικαιωμάτων και ελευθεριών. Τα συστήµατα ΤΝ αποδεικνύονται, ως κοινωνικά προϊόντα, βαθιά ενσωµατωµένα στα κοινωνικά, πολιτικά και πολιτισµικά πλαίσια µέσα στα οποία παράγονται. Ο όγκος τεκµηρίων που υποδεικνύουν ότι τα συστήµατα ΤΝ συχνά αντανακλούν και διαιωνίζουν τις υφιστάµενες κοινωνικές προκαταλήψεις σε βάρος των διαφορετικών µειονοτήτων συνεχώς αυξάνεται: συστήµατα αναγνώρισης προσώπου αποτυγχάνουν να αναγνωρίσουν άτοµα µε σκούρο δέρµα, αλγόριθµοι προσλήψεων απορρίπτουν αυτόµατα βιογραφικά που περιέχουν λέξεις όπως «γυναικείο», δικαστικά συστήµατα προγνωστικής αξιολόγησης στοχοποιούν δυσανάλογα ορισμένες µειονότητες χαϱακτηρίζοντάς τες «πιο επικίνδυνες».

Φαίνεται λοιπόν πως οι κυρίαρχες κοινωνικές πεποιθήσεις και προκαταλήψεις εµφωλεύουν στις αλγοριθµικές δοµές, µε αποτέλεσµα οι εφαρµογές της ΤΝ συχνά να συνεπάγονται τη διαιώνιση των ίδιων διακρίσεων που καλούνται να επιλύσουν. Ανάµεσα στις διεγνωσµένες διακρίσεις, η έµφυλη µεροληψία των συστηµάτων ΤΝ, αποτελεί το κέντρο βάρους του σώματος της βιβλιογραφίας και των ερευνών που σχετίζονται με την αλγοριθμική δικαιοσύνη. Πώς λοιπόν βλέπει, μιλά και αποφασίζει η ΤΝ για τις γυναίκες;

ΠΡΟΣΔΟΚΙΕΣ ΠΟΥ ΔΕΝ ΠΡΑΓΜΑΤΩΘΗΚΑΝ: ΟΙ ΠΡΟΒΛΗΜΑΤΙΚΕΣ ΠΕΡΙΠΤΩΣΕΙΣ

1) Αλγόριθμοι Αναγνώρισης και Δημιουργίας Εικόνας

Η εικόνα των γυναικών αποτέλεσε για χρόνια (αν δεν συνεχίζει να είναι) πηγή πολλών στερεοτυπικών αντιλήψεων εις βάρος τους, καθώς και των καταπιεστικών πρακτικών που τις συνοδεύουν. Δεν αποτελεί λοιπόν έκπληξη το γεγονός ότι οι αλγόριθμοι αναγνώρισης εικόνας μετουσιώνουν το ψηφιακό ανάλογο των προκαταλήψεων που υπάρχουν στον «πραγματικό» κόσμο. Όπως φαίνεται, η «φαινομενολογία» των αλγορίθμων αναγνώρισης εικόνας δεν κατάφερε να αποδράσει από τις νόρμες του κοινωνικού «αποφαίνεσθαι».

Σε έρευνα που δημοσιεύτηκε το 2021, οι Steed και Caliskan αποπειράθηκαν να ποσοτικοποιήσουν τις έμφυλες προκαταλήψεις που παρεισφρέουν στα οπτικά δεδομένα εκπαίδευσης των αλγορίθμων και συνεπώς στα αποτελέσματά τους. Η ιδέα του πειράματός τους ήταν απλή: περικόπτοντας φωτογραφίες και κρατώντας μόνο τα πρόσωπα των ανδρών και γυναικών που απεικονίζονταν, ζήτησαν από τον αλγόριθμο να συμπληρώσει την εικόνα. Όταν το πείραμα ολοκληρώθηκε διαπίστωσαν πως το 52,5% των φωτογραφιών των γυναικών τις απεικόνιζαν με μπικίνι ή χαμηλό ντεκολτέ. Αντιθέτως, το 42,5% των ανδρών, όπως τους φαντάστηκε ο αλγόριθμος, φορούσαν κουστούμι (Steed et al., 2021).

Σε αντίστοιχη μελέτη που πραγματοποιήθηκε το 2020, ο αλγόριθμος αναγνώρισης εικόνας της Google (Google Cloud Vision) τροφοδοτήθηκε με επιλεγμένες φωτογραφίες ανδρών και γυναικών μελών του Κογκρέσου. Παρά την ομοιογένεια των δεδομένων εισόδου για τις δύο διαφορετικές δημογραφικές ομάδες, οι έξοδοι του μοντέλου φανέρωσαν μία αυθαίρετη ασυνέπεια στην αναγνώριση των χαρακτηριστικών των εικονιζόμενων: η αντίστοιχη απόδοση «ετικετών» (labels), αναπαρήγαγε τις στερεοτυπικές αντιλήψεις που σχετίζονται με τον έμφυλο καταμερισμό της εξουσίας (βλ. Εικ. 1 & 2). Συγκεκριμένα, και παρά το κοινό για όλους «φόντο» και την ενδυματολογική ομοιομορφία, οι ετικέτες που αντιστοιχήθηκαν στους άνδρες ήταν, μεταξύ άλλων, «δημόσιος ομιλητής» και «λόγος» ενώ στις γυναίκες αναγνωρίστηκαν χαρακτηριστικά όπως «τηλεπαρουσιάστρια» και «χαμόγελο» (Schwemmer et al., 2020).

2) Αλγόριθμοι Αυτόματης Μετάφρασης

Ένας άλλος τρόπος με τον οποίο εντείνεται το ψηφιακό κοινωνικό χάσμα (εξαιτίας μεροληπτικών αναπαραστάσεων), είναι μέσω των συστημάτων Επεξεργασίας Φυσικής Γλώσσας. Η Επεξεργασία Φυσικής Γλώσσας (Natural Language Processing ή NLP) είναι ένας υποτομέας της ΤΝ και της γλωσσολογίας που ασχολείται με την ανάπτυξη συστημάτων υπολογιστών με στόχο την ανάλυση και την επεξεργασία γλώσσας. Μεταξύ άλλων, σε αυτή την τεχνοτροπία βασίζονται τα μοντέλα αυτόματης μετάφρασης. Δεδομένου ότι αυτοί οι αλγόριθμοι εκπαιδεύονται σε τεράστιο όγκο κειμένων για να αναγνωρίσουν γλωσσικά μοτίβα, είναι αναμενόμενο πως «απορροφούν» στη μάθησή τους όλες τις προκαταλήψεις που είναι εγγεγραμμένες σε αυτά (Nicholas et al., 2023).

Στη μελέτη τους που δημοσιεύτηκε το 2019, οι Prates, Avelar και Lamb, εξέτασαν την μετάφραση προτάσεων από 12 ουδέτερες ως προς το φύλο γλώσσες, όπως τα Ουγγρικά και τα Κινέζικα, στα Αγγλικά, χρησιμοποιώντας το Google Translate. Συγκεκριμένα, οι προτάσεις που χρησιμοποιήθηκαν αφορούσαν διάφορες θέσεις εργασίας (βλ. Εικ. 3). Αυτό που έδειξε η έρευνα είναι η συστηματική «ανάθεση» ανδρικών αντωνυμιών σε επαγγέλματα των Θετικών Επιστημών, ακόμα και αν αυτό ερχόταν σε διαφωνία με την ποσοστιαία στελέχωση των επαγγελμάτων στον πραγματικό κόσμο (Prates et al., 2019). Τέτοιου είδους προκαταλήψεις παρέχουν ένα «παράθυρο» στον τρόπο που η κοινωνία μας μιλάει (και γράφει) για τις γυναίκες στον χώρο εργασίας. Πώς ακριβώς όμως εγγράφεται στα δεδομένα η συστημική ασυμμετρία;

Οι ενσωματώσεις λέξεων (word embeddings) είναι ένας τρόπος αναπαράστασης των λέξεων ως αριθμητικών τιμών (διανυσμάτων), ώστε να έρθουν σε μορφή «κατανοητή» από ένα υπολογιστή. Στην ουσία πρόκειται για ένα «χάρτη» λέξεων, όπου λέξεις με νοηματική συνάφεια εντοπίζονται κοντά η μία στην άλλη και το αντίστροφο. Ενδεικτικά, σε ένα πρόβλημα της μορφής «Παρίσι: Γαλλία => Τόκιο: x», ο αλγόριθμος επιστρέφει σαν έξοδο τη λέξη «Ιαπωνία». Ωστόσο, στην περίπτωση του «άνδρας: γυναίκα => προγραμματιστής: x», ο αλγόριθμος επιστρέφει «νοικοκυρά» (Bolukbasi et al., 2016). Το 2017, ερευνητές του πανεπιστημίου Stanford έκαναν μία απόπειρα να ποσοτικοποιήσουν το «σφάλμα» της αναπαράστασης του έμφυλου εργασιακού καταμερισμού. Ερεύνησαν το κατά πόσο οι συσχετίσεις μεταξύ γυναικών και επαγγελμάτων στις ενσωματώσεις λέξεων είναι αντιπροσωπευτικές της πραγματικότητας. Αυτό που διαπίστωσαν είναι η πριμοδότηση του ανδρικού φύλου: ακόμα και τα επαγγέλματα στα οποία απασχολούνται ίσος αριθμός ανδρών και γυναικών εντοπίζονται πιο κοντά σε λέξεις που συνδέονται με τους άνδρες (Garg et al., 2018).

3) Αλγόριθμοι Προσλήψεων: Η περίπτωση της Amazon

Τα παραδείγματα που προηγήθηκαν είναι ενδεικτικά του πώς μεροληπτικά συστήματα ΤΝ βλέπουν, ή μιλούν για, τις γυναίκες. Ωστόσο σε αυτά τα στιγμιότυπα, η άνιση —και άδικη— εκπροσώπηση των γυναικών φαίνεται να έχει απλά μία περιγραφική διάσταση, χωρίς άμεσες επιπτώσεις στη ζωή τους. Η δημιουργία και η χρήση του αλγορίθμου προσλήψεων της Amazon αποτελεί ένα παράδειγμα του τρόπου με τον οποίο τέτοια συστήματα λαμβάνουν αποφάσεις για τις γυναίκες. Η περίπτωση της Amazon είναι ενδεικτική του πώς οι μακροχρόνιες πρακτικές αποκλεισμού των γυναικών από συγκεκριμένες θέσεις εργασίας επανεφευρίσκονται και επανεγγράφονται στην κοινωνική πραγματικότητα την εποχή της ψηφιακότητας.

Το 2014 η Amazon υιοθέτησε ένα εργαλείο για την αξιολόγηση των βιογραφικών των υποψηφίων για τις ανοιχτές θέσεις εργασίας. Βασισμένο σε αλγορίθμους επεξεργασίας φυσικής γλώσσας και μηχανικής μάθησης, η χρήση του εργαλείου θα πληρούσε τρείς επιθυμητές προδιαγραφές: ταχύτητα, χαμηλό κόστος και ουδετερότητα. Το μοντέλο εκπαιδεύτηκε στα δεδομένα του εργατικού δυναμικού της εταιρίας και συγκεκριμένα στους υπαλλήλους των τελευταίων δέκα ετών. Στόχος ήταν να μάθει τα χαρακτηριστικά των επιτυχημένων —ως εργαζομένων— υποψηφίων, να αναζητήσει παρόμοια στοιχεία στα βιογραφικά που υποβάλλονταν για αξιολόγηση και στη συνέχεια να τα βαθμολογήσει στην κλίμακα του 5. Μέχρι το 2015 είχε γίνει αντιληπτό από την Amazon ότι παρά την ελαχιστοποίηση χρόνου και κόστους, ο αλγόριθμος αποτύγχανε σε μία από τις βασικές του επιδιώξεις: την ουδετερότητα.

Δεδομένου ότι η συντριπτική πλειονότητα του υπάρχοντος εργατικού δυναμικού σε τεχνικές θέσεις ήταν άνδρες, ο αλγόριθμος, εξαιτίας της εκπαίδευσής του σε ιστορικά δεδομένα, ήταν συστηματικά προκατειλημμένος εναντίον των γυναικών υποψηφίων. Με άλλα λόγια, το μοντέλο «συνέδεε» τις γυναίκες με την έλλειψη επιτυχίας. Έτσι, κάθε φορά που ο αλγόριθμος συναντούσε σε ένα βιογραφικό λέξεις όπως «γυναίκα» ή «κολέγιο θηλέων», το υποβάθμιζε βαθμολογικά, ενισχύοντας την πιθανότητα απόρριψης των υποψηφίων (Langenkamp et al., 2020). Η χρήση του αλγόριθμου δεν διαιώνιζε απλώς μία κοινωνική ανισότητα, αλλά την ενέτεινε: άνδρες στα ιστορικά δεδομένα -> άνδρες ως καλύτεροι υποψήφιοι εργαζόμενοι -> πρόσληψη ανδρών -> περισσότεροι άνδρες στα ιστορικά δεδομένα. Πρόκειται για βρόχο ανατροφοδότησης (feedback loop): το αρχικό μοτίβο των δεδομένων αναπαράγεται μέσω της επανάληψης της διαδικασίας, οδηγώντας σε «αυτοενίσχυση» της ανισότητας.

ΑΛΓΟΡΙΘΜΙΚΗ ΔΙΚΑΙΟΣΥΝΗ ΚΑΙ ΦΕΜΙΝΙΣΤΙΚΕΣ ΘΕΩΡΙΕΣ: ΓΙΑΤΙ ΧΡΕΙΑΖΟΜΑΣΤΕ ΚΑΛΥΤΕΡΗ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ;

Φαίνεται λοιπόν πως, η ανάπτυξη των εφαρμογών της ΤΝ και η ταυτόχρονη αναγνώριση των αδυναμιών της έχει οδηγήσει ψηφιακούς ουτοπιστές και τεχνοσκεπτικιστές σε κοινό έδαφος. Είναι δύσκολο ακόμα και για τους πιο αισιόδοξους να αγνοήσουν τα προβληματικά αποτελέσματα της ΤΝ και τους κινδύνους που προκύπτουν από αυτά. Τα παραδείγματα που παρουσιάστηκαν παραπάνω «στοιβάζονται» μαζί με τις υπόλοιπες ενδείξεις ότι επιστήμη και τεχνολογία δεν είναι, και ούτε πρόκειται να είναι ποτέ, αξιακά ουδέτερες. Είναι προφανές πως ιδιαίτερα η ΤΝ, μια τεχνολογία τόσο ρευστή ως προς τα όρια και τις δυνατότητες της, αναπόφευκτα παίρνει το σχήμα του κοινωνικού πλαισίου μέσα στο οποίο γεννιέται.

Η παρείσφρηση σεξιστικών αξιών στο σχεδιασμό, την υλοποίηση και την εφαρμογή της ΤΝ δεν αποτελεί πρωτοφανές συμβάν στην ιστορία της επιστήμης και της τεχνολογίας. Πρωτοφανής είναι όμως ο τρόπος με τον οποίο αποκρύπτεται και ενισχύεται η κοινωνική ανισότητα, ιδιαίτερα εις βάρος των γυναικών, από προκαταλήψεις που είναι «εγγεγραμμένες στον κώδικα των μηχανών», φαινόμενο το οποίο η Noble ορίζει ως αλγοριθμική καταπίεση (Noble, 2018). Την ίδια χρονιά, η Eubanks γράφει: «οι μηχανές που εκπαιδεύονται σε δεδομένα-προϊόντα άνισων κοινωνιών τείνουν να μεγεθύνουν τις υπάρχουσες ανισότητες, μετατρέποντας τις ανθρώπινες προκαταλήψεις σε φαινομενικά αντικειμενικά γεγονότα. Mια επιδεξιότητα υψηλής τεχνολογίας που ενθαρρύνει τους χρήστες να αντιλαμβάνονται βαθιά πολιτικές αποφάσεις ως φυσικές και αναπόφευκτες» (Eubanks, 2018).

Χωρίς αμφιβολία, είναι μεγάλος ο όγκος της βιβλιογραφίας σήμερα που πηγάζει από την αποκάλυψη της «βλάβης» της ΤΝ, άλλες φορές νοημένης ως τεχνικού σφάλματος και άλλοτε ως εγγενούς αδυναμίας. Σε κάθε περίπτωση φαίνεται πως τα θεμελιώδη φιλοσοφικά, κοινωνικά και πολιτικά ερωτήματα που τίθενται για το σύγχρονο άνθρωπο με αφορμή την ΤΝ δεν είναι νέα, αλλά επαναδιατυπώνονται στο παρασκήνιο των ισχυρών μετασχηματιστικών αλλαγών. Η εισαγωγή της ΤΝ μας προ(σ)καλεί να επαναστοχαστούμε πάνω στην ανθρώπινη κατάσταση και τις σχέσεις αυτής με την ηθική και την τεχνολογία. Είναι η τεχνολογία per se που αναπτύσσει τις επιπτώσεις ή ο τρόπος που αυτή εμπλέκεται με τις κοινωνικές, κρατικές και οικονομικές δομές;

Τα ερωτήματα αυτά είχαν γίνει θέμα των φεμινιστικών ερευνών αρκετά πριν γίνουν σημείο αναφοράς των συζητήσεων περί ηθικής της ΤΝ. O όρος «Φεμινιστική Τεχνητή Νοημοσύνη» εμφανίζεται πρώτη φορά το 1995, στο «Embodying Knowledge: A Feminist Critique of Artificial Intelligence» (Adam, 1995). Πλοηγούμενη μεταξύ των βασικών ιδεών της φεμινιστικής επιστημολογίας και των –μέχρι τότε– περιορισμένων δυνατοτήτων της ΤΝ, η Adam ρωτά τί σημαίνει να γνωρίζεις. Δεδομένου ότι η γνώση και η αναπαράστασή της αποτελούν την καρδιά της ΤΝ, στη μελέτη της Adam το φύλο γίνεται αναλυτικό εργαλείο για την εξερεύνηση του πώς τα συστήματα αυτά αναπαριστούν τη γνώση, ποιου είδους γνώση αναπαρίσταται και ποιος την κατέκτησε.

Σύμφωνα με την Adam η ΤΝ μετουσιώνει ψηφιακά την ιδέα του καρτεσιανού δυϊσμού. Ο νους διαχωρίζεται από το σώμα και δεν επικρατεί απλά έναντι αυτού, αλλά το συνθλίβει. Δίνεται έμφαση στις αναπαραστάσεις προτασιακής λογικής, μια σύγχρονη εκδοχή νοησιαρχίας, όπου η γνώση οργανώνεται μέσω αυστηρών κανόνων της μορφής «αν-τότε». Αυτό συνεπάγεται έναν τρόπο κατανόησης της πραγματικότητας που βασίζεται στην έκφραση «ο-S-ξέρει-ότι-p» – με τον S να λειτουργεί ως ένας παντογνώστης παρατηρητής και το p ως ένα αληθές, μονοσήμαντα ερμηνεύσιμο παρατηρούμενο γεγονός. Άλλωστε, η ιδέα της αμερόληπτης και καθολικής αναπαράστασης της πραγματικότητας, ή αλλιώς το «τέχνασμα του Θεού» όπως διατυπώθηκε από τη Haraway, είχε βρεθεί στο στόχαστρο των φεμινιστικών κριτικών πολύ πριν γίνει σχετική με το ζήτημα της δικαιοσύνης των συστημάτων ΤΝ. Σύμφωνα με τη Haraway, κάθε γνώση παράγεται σε –και συγκροτείται από– συγκεκριμένα κοινωνικά, πολιτισμικά και ιστορικά πλαίσια, εντός των οποίων χρησιμοποιείται (Pinto, 2020). Αμφισβητώντας την παραδοσιακή άποψη που καθιστά την έννοια της αντικειμενικότητας ταυτόσημη με τη «θέαση των πάντων από το πουθενά», η Haraway επανατοποθετεί το υποκείμενο που γνωρίζει, στις κοινωνικές συντεταγμένες μέσα στις οποίες γνωρίζει. Αυτή η τοποθέτηση, η συνειδητοποίηση δηλαδή ότι τα ιδιάζοντα κοινωνικά χαρακτηριστικά μίας περιόδου διαμορφώνουν τον τρόπο που αντιλαμβανόμαστε τον κόσμο, δεν αναστέλλει την κατάκτηση της αλήθειας. Αντιθέτως, η αναστοχαστική αναγνώριση της τοπικότητας συμβάλλει σε ισχυρότερες και πιο αξιόπιστες μορφές γνώσης, που συλλαμβάνουν την πολυπλοκότητα και την πολλαπλότητα των κοινωνικών οπτικών.

Υιοθετώντας τη θέση της Haraway για την κοινωνική τοποθέτηση κάθε μορφής γνώσης, η Adam καλεί σε επαναξιολόγηση των αξιωμάτων πάνω στα οποία στηρίζεται η φιλοσοφία σχεδιασμού της ΤΝ. Προτείνει τη μετατόπιση από τις παραδοσιακές απόψεις του Διαφωτισμού περί νοημοσύνης ως ορθολογικότητας προς μία πιο συμπεριληπτική κατανόηση του όρου, στην οποία θα λαμβάνεται υπόψη ο ρόλος της ενσώματης εμπειρίας στην παραγωγή γνώσης. Η Adam «αντιστέκεται» για δύο λόγους. Πρώτον, διότι πολλά από όσα γνωρίζουν οι γυναίκες δεν μπορούν να διατυπωθούν υπό το πρότυπο της προτασιακής λογικής και, δεύτερον, διότι αυτή ακριβώς η αδυναμία μετάφρασης των γυναικείων βιωμάτων συμβάλλει στην απαξίωση της γνώσης των γυναικών, αν όχι ως μη-γνώσης, σίγουρα ως ασήμαντης (Adam, 1996).

Όταν έγραφε η Adam, το αντικείμενο της κριτικής της –τα συστήματα ΤΝ της εποχής– ήταν σε πρωτόλεια μορφή σε σύγκριση με αυτά που χρησιμοποιούμε σήμερα. Οι παρατηρήσεις της, περισσότερο ως ανησυχίες, δεν είχαν περάσει ακόμα από τη σφαίρα του θεωρητικού σε αυτή του εφαρμοσμένου. Τριάντα χρόνια αργότερα, οι βασικές θέσεις της Adam παραμένουν επίκαιρες και το κέντρο βάρους της φεμινιστικής κριτικής εντοπισμένο στο πώς η γνώση της ΤΝ, όπως κάθε άλλη γνώση, διέπεται από υπόρρητες σχέσεις εξουσίας. Η φεμινιστική σκέψη έχει ασκήσει ισχυρή κριτική στους τρόπους με τους οποίους τα συστήματα ΤΝ τυποποιούν, ταξινομούν και ενισχύουν ιστορικές μορφές διακρίσεων. Η προσοχή στρέφεται, πρωτίστως, στην ίδια την διαδικασία ταξινόμησης των δεδομένων, η οποία νοείται από τους φεμινιστικούς κύκλους ως πράξη πολιτική: ποιος επιλέγει, καταγράφει και ερμηνεύει τα δεδομένα που θα χρησιμοποιηθούν; Υπάρχει μία και μοναδική, απόλυτη αλήθεια στα δεδομένα; Είναι οι διαπιστωμένες αλγοριθμικές προκαταλήψεις «απλώς» αποκλίσεις από –κατά τα άλλα– ορθώς ορισμένες τιμές, ή μήπως είναι ενδείξεις ελλιπούς και αφελούς προεπεξεργασίας (Lee et Singh, 2021);

Στόχος της φεμινιστικής κριτικής είναι η συνειδητοποίηση ότι οι περίπλοκες διαδικασίες καθορισμού χαρακτηριστικών, προκαταρκτικής ταξινόμησης των δεδομένων εκπαίδευσης και «ρύθμισης» κατωφλίων και παραμέτρων βασίζονται στην ανθρώπινη κρίση. Συγκεκριμένα, επικρίνουν την «προδιάθεση» των ερευνητών της ΤΝ να σχηματίσουν βιαστικούς ορισμούς και αυστηρές τομές μεταξύ όσων υπάρχουν, στριμώχνοντας την πραγματικότητα σε «ετικέτες». Η κατηγοριοποίηση των δεδομένων, όπως γίνεται σήμερα, στοχεύει στην «επιβολή της τάξης μέσα στην ακαταστασία της ζωής» (West, 2020), καταλήγοντας όμως να «ισοπεδώνει» την ποικιλομορφία της ανθρωπότητας και να κρατά κεκαλυμμένη την κοινωνική ανισότητα.

Οι έμφυλες προκαταλήψεις που ενσωματώνονται στα συστήματα ΤΝ δεν αποτελούν σφάλματα ή βλάβες, αλλά το αποτέλεσμα χρόνιων δομικών ανισοτήτων. Στη νέα ψηφιακή πραγματικότητα, αυτές οι προκαταλήψεις είναι ακόμα δυσκολότερο να ανιχνευθούν, ιδιαίτερα τη στιγμή που ο ίδιος ο σκοπός των συστημάτων υποτίθεται πως είναι να υπερβούν την ανθρώπινη μεροληψία (Wajcman & Young, 2023). Οι ισχυρισμοί του τύπου «το έκανε ο αλγόριθμος» και οι λοιπές συμπαραδηλώσεις περί ηθικής υπαιτιότητας είναι ορισμένοι από τους λόγους για τους οποίους η φεμινιστική κριτική στην ΤΝ είναι αναγκαία. Έμμεσα είτε άμεσα, υπάρχει πάντα ένας άνθρωπος που φέρει την ευθύνη για τις αποφάσεις που λαμβάνονται ή καθοδηγούνται από έναν αλγόριθμο (Greene et al., 2019). Αλλά ποιος;

H Adam παραθέτει: «Δεν με ενδιαφέρει το φύλο των ατόμων που εμπλέκονται, αλλά το φύλο των ιδεών που παράγουν» (Adam, 1996, σελ. 49). Ωστόσο φαίνεται πως αυτά τα δύο δεν είναι ανεξάρτητα: είναι σημαντικό το ποιος «είναι στο δωμάτιο» και ακόμα σημαντικότερο το ποιος απουσιάζει. Σύμφωνα με έρευνα του World Economic Forum το 2023, το 70% των ειδικών στην ΤΝ ήταν άνδρες και μόλις το 30% γυναίκες (WEF, 2023). Και ενώ η συμπερίληψη των γυναικών σε ανάλογες θέσεις εργασίας προβάλλει ως ανάγκη επιτακτική, από μόνη της δεν είναι αρκετή. Παράλληλα, οι στατιστικές μέθοδοι ή η ανάκληση προκατειλημμένων συστημάτων δεν αρκούν για να καταπολεμήσουν την «αλγοριθμική καταπίεση». Αυτό που χρειάζεται είναι να αναγνωριστεί η υποβόσκουσα ιεραρχική λογική που εξαρχής «δημιούργησε» προνομιούχα και μη-προνομιούχα υποκείμενα (West, 2020). Επιστρέφοντας στο παράδειγμα της Amazon, προφανώς και η κατάργηση του ελαττωματικού εργαλείου προσλήψεων δεν ισοδυναμεί με τη λύση του προβλήματος. Εν προκειμένω, το πρόβλημα δεν ήταν το ίδιο το σύστημα, αλλά τα έτη προκατάληψης που διαμόρφωσαν την εταιρική κουλτούρα της Amazon ως ανδρική.

Γιατί λοιπόν χρειαζόμαστε καλύτερη Τεχνητή Νοημοσύνη; Η απόπειρα βελτιστοποίησης αυτών των συστημάτων είναι πολλά παραπάνω από απόπειρα ενίσχυσης της τεχνοεπιστημονικής «αποδοτικότητας». Παραφράζοντας την Fehr, «αυτές οι μηχανές πρέπει να αλλάξουν, όχι επειδή εισάγουν ή προκαλούν τον σεξισμό, αλλά επειδή καθιστούν πιο δύσκολο το να αντισταθούμε στο σεξισμό που βιώνουμε ήδη» (Fehr, 2022).

ΑΝΤΙ ΕΠΙΛΟΓΟΥ: ΕΊΝΑΙ ΑΥΤΉ Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΑΡΚΕΤΑ ΚΑΛΗ;

Μισό αιώνα μετά την πρώτη εφαρμογή της στην καθημερινή μας ζωή, η ΤΝ έχει αλλάξει ριζικά τον τρόπο με τον οποίο πλοηγούμαστε στην κοινωνική πραγματικότητα. Την ίδια στιγμή που οι εκφάνσεις της ζωής μας μεταφορτώνονται η μία μετά την άλλη στον υπολογιστικό κόσμο, η ρομαντικοποίηση της ψηφιοποίησης φαίνεται να καταρρέει: παρά την ταχύτητα, την αποδοτικότητα, τις δυνατότητες αυτοματοποίησης και την πρόσβαση σε υπέρογκα σύνολα δεδομένων, τα συστήματα ΤΝ, ως κοινωνικά προϊόντα, αντανακλούν –και συχνά οξύνουν– τις ανισότητες που συναντώνται στο εκάστοτε χωροχρονικό πλαίσιο δημιουργίας τους.

Η έµφυλη µεροληψία των συστηµάτων ΤΝ, συνιστώντας πολλά περισσότερα από «τυχαίο» σφάλµα ή τεχνική ατέλεια, αναδύεται ως το ψηφιακό ανάλογο επίµονων κοινωνικών ανισοτήτων και δοµικών ανισορροπιών. Σε ηθικό επίπεδο, ο τρόπος µε τον οποίο οι αλγόριθµοι «βλέπουν», «µιλούν» και «αποφασίζουν» για τις γυναίκες θέτει υπό αµφισβήτηση την ίδια την αξία της τεχνολογίας ως εργαλείου προόδου και ευηµερίας. Σε πρακτικό επίπεδο, οι αθεµελίωτες αλγοριθµικές διακρίσεις οδηγούν σε λιγότερο αποδοτικά και αξιόπιστα συστήµατα, περιορίζοντας τις ευκαιρίες και τις δυνατότητες που προσφέρει η ΤΝ. Δεδοµένου πως, όπως κάθε άλλο τεχνολογικό προϊόν, η ΤΝ δεν είναι αξιακά ουδέτερη, οφείλουµε να αναρωτηθούµε: ποιές αξίες και ποιά συµφέροντα θα θέλαµε να εκπροσωπούνται στην ολοένα κλιμακούμενη ψηφιακή επανάσταση;

ΒΙΒΛΙΟΓΡΑΦΙΑ

ΕΛΛΗΝΟΓΛΩΣΣΗ

Μήτρου, Λ., 2023. Μπορεί ο αλγόριθμος… Αθήνα: Πανεπιστημιακές Εκδόσεις Κρήτης.

Τάσης, Θ., 2019. Ψηφιακός Ανθρωπισμός. Αθήνα: Αρμός.

ΞΕΝΟΓΛΩΣΣΗ

Adam, A., 1995. A Feminist Critique of Artificial Intelligence. European Journal of Women’s Studies, 2(3), 355-377. https://doi.org/10.1177/135050689500200305

Adam, A., 1996. Constructions of gender in the history of artificial intelligence. IEEE Annals of the History of Computing, 18, 47-53. https://doi.org/10.1109/MAHC.1996.511944

Bolukbasi, T., Chang, K., Zou, J., Saligrama, V., & Kalai, A., 2016. Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings. arXiv. https://arxiv.org/abs/1607.06520

Dreyfus, H., 1992. What Computers Still Can’t Do: A Critique of Artificial Reason. New York: MIT Press.

Fehr, C. (2022). Feminism, Social Justice, and Artificial Intelligence. Feminist Philosophy Quarterly, 8(3/4). https://doi.org/10.5206/fpq/2022.3/4.15643

Garg, N., Schiebinger, L., Jurafsky, D., & Zou, J., 2018. Word embeddings quantify 100 years of gender and ethnic stereotypes. Proceedings of the National Academy of Sciences of the United States of America, 115(16), E3635–E3644. https://doi.org/10.1073/pnas.1720347115

Greene, D., Hoffmann, A., & Stark, L., 2019. Better, Nicer, Clearer, Fairer: A Critical Assessment of the Movement for Ethical Artificial Intelligence and Machine Learning. Proceedings of Hawaii International Conference on System Sciences.DOI:10.24251/HICSS.2019.258

Eubanks, V., 2018. Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. NY: St. Martin’s Press.

Langenkamp, M., Costa, A., & Cheung, C., 2020. Hiring Fairly in the Age of Algorithms. arXiv. https://arxiv.org/abs/2004.07132

Lee, M., & Singh, J., 2021. The Landscape and Gaps in Open Source Fairness Toolkits. New York: Association for Computing Machinery. https://doi.org/10.1145/3411764.3445261

Nicholas, G., & Bhatia, A., 2023. Lost in Translation: Large Language Models in Non-English Content Analysis. arXiv. https://arxiv.org/abs/2306.07377

Noble, S., 2018. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: NYU Press, 374(6567), 542. https://doi.org/10.1126/science.abm5861

Pinto, M., 2020. Ignorance, Science, and Feminism. In Kristen Intemann & Sharon Crasnow (eds.), The Routledge Handbook of Feminist Philosophy of Science. New York, New York: Routledge.

Prates, M., Avelar, P., & Lamb, L., 2019. Assessing gender bias in machine translation: A case study with Google Translate. Neural Comput & Applic 32, 6363–6381. https://doi.org/10.1007/s00521-019-04144-6

Schwemmer, C., Knight, C., Bello-Pardo, E. D., Oklobdzija, S., Schoonvelde, M., & Lockhart, J. W., 2020. Diagnosing Gender Bias in Image Recognition Systems. Socius: Sociological Research for a Dynamic World, 6. https://doi.org/10.1177/2378023120967171

Steed, R., & Caliskan, A., 2021. Image Representations Learned With Unsupervised Pre-Training Contain Human-like Biases. (FAccT ’21). Association for Computing Machinery, New York, 701–713. https://doi.org/10.1145/3442188.3445932

Wajcman, J., & Young, E., 2023. Feminism Confronts AI: The Gender Relations of Digitalisation. Ιn Jude Browne,  Stephen Cave, Eleanor Drage, Kerry McInerney (eds.), Feminist AI: Critical Perspectives on Algorithms, Data, and Intelligent Machines. Oxford: Oxford University Press. https://doi.org/10.1093/oso/9780192889898.003.0004

World Economic Forum, 2023. Global Gender Gap Report 2023. Geneva. https://www3.weforum.org/docs/WEF_GGGR_2023.pdf.

West, S.M. (2020). Redistribution and Rekognition: A Feminist Critique of Algorithmic Fairness. Catalyst, 6(2). https://doi.org/10.28968/cftt.v6i2.33043

ΕΚΔΟΣΕΙΣ ΡΟΠΗ

Σκότ Αάρονσον ( Scott Aaronson )

Μετάφραση: Μιλτιάδης Παπαδημητρόπουλος.
ISBN: 978-618-5289-89-
Διαστάσεις: 16 Χ 23
Αριθμός σελίδων: 418
Τιμή με ΦΠΑ: € 25.44

Έτος έκδοσης: 2023

Μετάφραση: Μιλτιάδης Παπαδημητρόπουλος

Επιστημονική Επιμέλεια: Κυριάκος Ταμβάκης (Ομότιμος Καθηγητής Παν. Ιωαννίνων), Άρης Παγουρτζής (Καθηγητής, Ε.Μ.Π), Μάριος Ρόζος (Ε.Μ.Π.)

Το βιβλίο Από τον Δημόκριτο στους κβαντικούς υπολογιστές θέτει υποψηφιότητα για το πιο αλλόκοτο βιβλίο που εκδόθηκε ποτέ από τον εκδοτικό οίκο Cambridge University Press. Η παραδοξότητά του εντοπίζεται ήδη από τον τίτλο, ο οποίος προφανώς και αποτυγχάνει να μας εξηγήσει τι ακριβώς πραγματεύεται. Πρόκειται για ακόμη ένα διδακτικό εγχειρίδιο κβαντικής υπολογιστικής – του δημοφιλούς πεδίου στο οποίο διασταυρώνονται οι κλάδοι της Φυσικής, των Μαθηματικών και της Επιστήμης των Υπολογιστών και που υπόσχεται στον κόσμο ένα νέο είδος υπολογιστή εδώ και δύο δεκαετίες, αλλά δεν έχει ακόμη φτιάξει μια πραγματική συσκευή, η οποία να κάνει κάτι εντυπωσιακότερο από το να παραγοντοποιεί το 21 σε 3 x 7 (με υψηλή πιθανότητα);

Αν ναι, τότε τι παραπάνω προσθέτει αυτό το βιβλίο στην πληθώρα των άλλων που έχουν ήδη χαρτογραφήσει τα βασικά γνωρίσματα της θεωρίας της κβαντικής υπολογιστικής; Μήπως, αντίθετα, πρόκειται για μια δονκιχωτική απόπειρα σύνδεσης της κβαντικής υπολογιστικής με την αρχαία ιστορία; Και τι σχέση έχει ο Δημόκριτος, ο Έλληνας προσωκρατικός φιλόσοφος που εισήγαγε τον ατομισμό, με το περιεχόμενο αυτού του συγγράμματος που τουλάχιστον κατά το ήμισύ του θα αποτελούσε νέα γνώση για τους επιστήμονες της δεκαετίας του 1970, πολλώ δε μάλλον του 300 π.Χ.;

_____________________________________________________________________________________

Ο Scott Aaronson είναι καθηγητής Επιστήμης Υπολογιστών του Ντέιβιντ Τζ. Μπρούτον Τζούνιορ στο Πανεπιστήμιο του Τέξας στο Ώστιν και διευθυντής του Κβαντικού Κέντρου Πληροφοριών του. Προηγουμένως, ήταν στη σχολή του Τεχνολογικού Ινστιτούτου της Μασαχουσέτης. Σπούδασε στο Cornell και στο Πανεπιστήμιο της Καλιφόρνια στο Μπέρκλεϋ και έκανε μεταδιδακτορικό στο Ινστιτούτο Προηγμένων Σπουδών καθώς και στο Πανεπιστήμιο του Βατερλώ. Το πρώτο του βιβλίο,Quantum Computing From Democritus,εκδόθηκε το 2013 από τις εκδόσεις Cambridge University Press. Έχει λάβει το βραβείο Alan T. Waterman του Εθνικού Ιδρύματος Επιστημών, το βραβείο PECASE των Ηνωμένων Πολιτειών και το βραβείο Junior Bose του MIT για την αριστεία στη διδασκαλία.

Η έρευνα του Aaronson επικεντρώνεται στις δυνατότητες και τα όρια των κβαντικών υπολογιστών και γενικότερα στην υπολογιστική πολυπλοκότητα και τη σχέση της με τη φυσική. Στο πλαίσιο της συνεργασίας It from Qubit, ο Aaronson ενδιαφέρεται εξαιρετικά για την αλληλεπίδραση μεταξύ της υπολογιστικής πολυπλοκότητας και της κβαντικής βαρύτητας. Αυτό περιλάμβανε τη μελέτη των πτυχών της επιστήμης των υπολογιστών του επιχειρήματος Harlow-Hayden, το οποίο επιχειρεί να εφαρμόσει τη θεωρία πολυπλοκότητας στο περιβόητο «παράδοξο τείχους προστασίας» στις πληροφορίες για τις μαύρες τρύπες, καθώς και τη συνεργασία με τον Leonard Susskind για την κατανόηση της ανάπτυξης της πολυπλοκότητας των κβαντικών κυκλωμάτων σε συστήματα που προκύπτουν από την αλληλογραφία AdS/CFT.

ΠΕΡΙΛΗΨΗ

Η επανατοποθέτηση φαρμάκων επιταχύνει σημαντικά την ανακάλυψη και ανάπτυξη φαρμάκων με ουσιαστική απήχηση στα σπάνια νοσήματα. Σε συνεργασία με τα δεδομένα μεγάλου όγκου και τις τεχνολογίες τεχνητής νοημοσύνης (AI) ενισχύει την αξιοπιστία των προβλέψεων, αναφορικά με την αποτελεσματικότητα, αλλά και την τοξικότητα του επαναστοχευμένου φαρμάκου. Τα σύγχρονα υπολογιστικά εργαλεία, πλέον, καθοδηγούν και εμπλουτίζουν τις εργαστηριακές προσεγγίσεις, ενώ οι τελευταίες επικυρώνουν τις υποθέσεις εργασίας ή δημιουργούν νέες. Χαρακτηριστικό παράδειγμα καινοτόμων συνεργειών αποτελεί η πλατφόρμα επανατοποθέτησης φαρμάκων Cloudscreen^©, προϊόν καινοτομίας της Cloudpharm PC, μιας ελληνικής νεοφυούς εταιρείας και του Εργαστηρίου Ανάδειξης Βιοδεικτών & Μεταφραστικής Έρευνας του Εθνικού Ιδρύματος Ερευνών.

ΕΙΣΑΓΩΓΗ

Η ανακάλυψη και ανάπτυξη φαρμάκων απαιτεί, συνολικά, σημαντικές δαπάνες και περιλαμβάνει πλήθος ενδιάμεσων σταδίων, μέχρι την έγκριση από τους ρυθμιστικούς οργανισμούς και τη διάθεσή τους στον πολίτη. Σημειώνεται, εδώ, ότι μόνο το 10% νέων φαρμάκων λαμβάνουν έγκριση προς διάθεση στην αγορά (Hernandez et al, 2017). Η επανατοποθέτηση φαρμάκων είναι μια μέθοδος λιγότερο δαπανηρή και χρονοβόρα σε σχέση με την παραδοσιακή μέθοδο ανάπτυξης φαρμάκων. Ο όρος επανατοποθέτηση ή επαναστόχευση φαρμάκων αναφέρεται στην ανεύρεση νέων χρήσεων για εγκεκριμένα ή υπό διερεύνηση φάρμακα για διαφορετικές ιατρικές ενδείξεις από αυτές για τις οποίες χρησιμοποιούνται ήδη. Το φάρμακο το οποίο καταφέρνει να βρει εφαρμογή σε μία νέα ασθένεια καλείται επαναστοχευμένο φάρμακο (Pushpakom et al, 2019).

Η επανατοποθέτηση φαρμάκων επιταχύνει σημαντικά την ανακάλυψη και ανάπτυξη φαρμάκων, γεγονός εξαιρετικής απήχησης στα σπάνια νοσήματα. Σημαντικά, η επανατοποθέτηση φαρμάκων εκτιμάται πως μειώνει, συνολικά, το κόστος και τον χρόνο έρευνας και ανάπτυξης ενός φαρμάκου, περιορίζοντας τον κίνδυνο αποτυχίας.  Χαρακτηριστικά, το 30% φαρμάκων, κατόπιν επανατοποθέτησης, έχει λάβει έγκριση, δίνοντας κίνητρο στην φαρμακευτική βιομηχανία και τις βιοτεχνολογικές εταιρείες να επαναστοχεύσουν υπάρχοντα προϊόντα (Ashburn et al, 2004). Η επανατοποθέτηση φαρμάκων γίνεται μία ολοένα και περισσότερο ελκυστική και παραγωγική προσέγγιση για τον προσδιορισμό νέων θεραπευτικών ενδείξεων ήδη υπαρχόντων εγκεκριμένων φαρμάκων ή κλινικά αποτυχημένων/ υπό διερεύνηση βιοδραστικών μορίων (Sommerford, 2022).

ΠΡΟΣΕΓΓΙΣΕΙΣ ΓΙΑ ΤΗΝ ΕΠΑΝΑΤΟΠΟΘΕΤΗΣΗ ΦΑΡΜΑΚΩΝ

Υπάρχουν τρεις κύριες προσεγγίσεις για την επανατοποθέτηση φαρμάκων: α) με βάση την ασθένεια, β) με βάση την πρωτεΐνη-στόχο και γ) με βάση το φάρμακο. Στην προσέγγιση με βάση τη ασθένεια προσδιορίζονται οι σχέσεις μεταξύ μιας νέας και μιας παλαιότερης ένδειξης. Στην περίπτωση αυτή, η ασθένεια για την οποία ερευνάται μια πιθανή επαναστόχευση έρχεται στο προσκήνιο και γίνεται προσπάθεια εντοπισμού φαρμάκων, τα οποία θα έχουν κάποια δράση έναντι της υπό μελέτης ασθένειας. Στη δεύτερη προσέγγιση πραγματοποιείται η συσχέτιση γνωστών φαρμακευτικών στόχων και των καθιερωμένων φαρμάκων τους με νέες ενδείξεις. Σε αυτή την περίπτωση στο προσκήνιο μπαίνει ο φαρμακευτικός στόχος και το καθιερωμένο φάρμακο που έχει δράση σε αυτόν τον στόχο και γίνεται προσπάθεια σύνδεσης του συγκεκριμένου ζεύγους στόχος-φάρμακο με μία νέα διαφορετική ασθένεια ή παθολογική κατάσταση. Τέλος, σε μία προσέγγιση με βάση το φάρμακο γίνεται η σύνδεση ενός γνωστού φαρμάκου με έναν νέο φαρμακευτικό στόχο και τη σχετική ένδειξη. Πρωταγωνιστικό ρόλο στην παρούσα περίπτωση έχει το φάρμακο για το οποίο διερευνάται μια πιθανή επαναστόχευση. Εδώ γίνεται προσπάθεια συσχέτισης του υπό μελέτη φαρμάκου με νέους φαρμακευτικούς στόχους και τις αντίστοιχες ιατρικές ενδείξεις (Sommerford, 2022).

ΕΠΑΝΑΤΟΠΟΘΕΤΗΣΗ ΦΑΡΜΑΚΩΝ ΚΑΙ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ

Η τεχνητή νοημοσύνη (artificial intelligence, ΑΙ) ενισχύει τον τομέα της έρευνας και ανάπτυξης φαρμάκων, εντοπίζοντας και εξάγοντας μοτίβα και στοιχεία από βιοϊατρικά και χημειοπληροφορικά δεδομένα. Οι καινοτόμες τεχνικές ΑΙ και μηχανικής μάθησης (machine learning, ML) αξιοποιούνται στην επανατοποθέτηση φαρμάκων για να συσχετίσουν υπάρχοντα φάρμακα με συγκεκριμένες ενδείξεις ή να συνδυάσουν φάρμακα, ώστε να αντιμετωπιστούν επείγουσες ιατρικές ανάγκες. Η χρήση μεθόδων AI/ML επιταχύνει τη διαδικασία έρευνας και ανάπτυξης νέων φαρμάκων και προσφέρει μια δεύτερη ευκαιρία σε φάρμακα που έχουν αποσυρθεί ή αποτύχει για κάποιες ενδείξεις, να επαναχρησιμοποιηθούν με επιτυχία σε νέες.

Οι προσεγγίσεις AI έχουν ένα ευρύ φάσμα εφαρμογών, που ξεκινά από τις αλληλεπιδράσεις σε μοριακό επίπεδο μεταξύ φαρμάκου και πρωτεΐνης, μέχρι την ενδελεχή επιλογή εκατομμυρίων αρχείων (δεδομένων μεγάλου όγκου) για την εύρεση φαρμάκων και την ενδεχόμενη εφαρμογή τους στη θεραπεία άλλων παθήσεων. Συνοπτικά, αυτές οι στρατηγικές ΑΙ υποστηρίζουν βέλτιστα την εξαγωγή βιβλιογραφίας, την εφαρμογή της μηχανικής μάθησης σε φαρμακογονιδιωματικά δεδομένα και δεδομένα βιοπληροφορικής και χημειοπληροφορικής, καθώς και την εξόρυξη δεδομένων (data mining) από ηλεκτρονικά ιατρικά αρχεία (Electronic Medical Records, EMR).

Με τη βοήθεια της τεχνητής νοημοσύνης ελέγχονται τεράστιες ποσότητες δεδομένων, ώστε να εντοπιστούν φάρμακα που χρησιμοποιούνται ήδη, με επιτυχία, με σκοπό την επανατοποθέτησή τους σε νέα ένδειξη για μέγιστο κλινικό όφελος και περιορισμό των ανεπιθύμητων ενεργειών, πόσο δε μάλλον για ενδείξεις που στερούνται φαρμακευτικής αγωγής. Δεδομένου ότι η ασφάλεια των φαρμάκων που κυκλοφορούν στην αγορά έχει ελεγχθεί σε κλινικές δοκιμές, η επανατοποθέτηση γνωστών φαρμάκων δύναται να δώσει την φαρμακευτική αγωγή στον ασθενή πιο άμεσα και με σημαντικά μειωμένο κόστος (Sommerford, 2022). Αντίστοιχα, αναφορικά με τα βιοδραστικά μόρια που έχουν αποτύχει, διερευνάται ο χημικός χώρος (chemical space) εκ νέου, συνδυαστικά και απορρέουν προβλέψεις επανατοποθέτησης. Ως χημικός χώρος ορίζεται ένας θεωρητικός χώρος, οποίος περιλαμβάνει όλα τα πιθανά χημικά μόρια (χημικές ενώσεις) που μπορούν να συντεθούν. Το θεωρητικό μέγεθος του χώρου αυτού εκτιμάται στα περίπου 10⁶⁰ χημικά μόρια (Reymond et al, 2012).

Η ΑΙ, στο αυτό πλαίσιο, συμβάλλει στη βελτιστοποίηση των κλασσικών υπολογιστικών μεθόδων, όπως είναι η μοριακή πρόσδεση (molecular docking). Η μέθοδος της μοριακής πρόσδεσης είναι μια τεχνική μοριακής μοντελοποίησης, με την οποία διερευνώνται σε τρισδιάστατο επίπεδο οι σχέσεις χημικών ενώσεων (ή φαρμάκων) με πρωτεΐνες, οι οποίες αποτελούν απαραίτητα δομικά στοιχεία για κάθε ζωντανό οργανισμό. Η τεχνική αυτή είναι ευρέως διαδεδομένη και χρησιμοποιείται εδώ και αρκετά χρόνια από την επιστημονική κοινότητα, αλλά και από τις φαρμακοβιομηχανίες για τον σχεδιασμό φαρμάκων. Ωστόσο, παρά το υψηλό ποσοστό θετικών αποτελεσμάτων, υπάρχουν περιπτώσεις όπου η συγκεκριμένη τεχνική αποδίδει ψευδώς αληθή αποτελέσματα, τα οποία δεν είναι αντιπροσωπευτικά. Με τη χρήση αλγορίθμων ΑΙ μπορούν να εντοπιστούν αυτά τα λανθασμένα ευρήματα και να χρησιμοποιηθούν για τη βελτιστοποίηση της μεθοδολογίας της μοριακής πρόσδεσης, ώστε να αυξηθεί η αξιοπιστία των αποτελεσμάτων. Με αυτόν τον τρόπο η διαδικασία του σχεδιασμού νέων φαρμάκων μπορεί να επιταχυνθεί με αξιοπιστία (Adeshina et al, 2020).

ΔΥΣΚΟΛΙΕΣ ΤΗΣ ΕΠΑΝΑΤΟΠΟΘΕΤΗΣΗΣ ΦΑΡΜΑΚΩΝ

Με τις κλασικές τεχνικές έρευνας και ανάπτυξης φαρμάκων, η γνώση των αποτυχημένων δοκιμών και υπολογισμών είναι περιορισμένη και συχνά δεν βλέπει το φως της δημοσιότητας. Ως εκ τούτου, η επανατοποθέτηση φαρμάκων χαρακτηρίζεται από ποικίλα ζητήματα και περιορισμούς, που πρέπει να ληφθούν υπόψη. Μερικές φορές είναι αδύνατο να είναι διαθέσιμα τα απαραίτητα δεδομένα για την κατάλληλη ανάλυση παλαιότερων φαρμάκων, καθώς ενίοτε δεν επιτυγχάνεται η βελτιστοποίηση του κλινικού oφέλους του υπό μελέτη φαρμάκου σε βιολογικό επίπεδο ή ο σχεδιασμός της μελέτης ήταν διαφορετικός. Κάποιες φορές υπάρχουν κλινικές δοκιμές με μικρό αριθμό συμμετεχόντων, με αποτέλεσμα να μην επαρκούν τα διαθέσιμα στατιστικά στοιχεία, οπότε και απαιτούνται διαφορετικοί χειρισμοί, ειδικά, όταν πρόκειται για σπάνια νοσήματα (Zhou et al, 2020).

Η στρατηγική της επανατοποθέτησης φαρμάκων γίνεται ολοένα και πιο δημοφιλής, καθώς η τεχνητή νοημοσύνη ανοίγει την πόρτα σε νέες γνώσεις, αναφορικά με τους φαρμακευτικούς στόχους και την παθοβιοχημεία των ασθενειών, επιταχύνοντας και αυξάνοντας τις πιθανότητες επιτυχίας των επαναστοχευμένων φαρμάκων, ενώ παράλληλα κατακτάται σε μεγαλύτερο βαθμό η γνώση του χημικού χώρου. Εν κατακλείδι, αυτή η διαδικασία φέρει την υπόσχεση του κλινικού όφελους και της πιο άμεσης πρόσβασης στις κατάλληλες θεραπευτικές προσεγγίσεις.

Η ΠΛΑΤΦΟΡΜΑ CLOUDSCREEN^©

Η νεοφυής εταιρεία Cloudpharm PC, σε συνεργασία με το Εργαστήριο Ανάδειξης Βιοδεικτών & Μεταφραστικής Έρευνας του Εθνικού Ιδρύματος Ερευνών, αναπτύσσουν την πλατφόρμα επανατοποθέτησης φαρμάκων Cloudscreen^©. Με τη χρήση αλγορίθμων AI και ML, η πλατφόρμα αξιοποιεί ψηφιοποιημένη επιστημονική πληροφορία από έναν μεγάλο όγκο δεδομένων, η οποία σε συνδυασμό με πειραματική επαλήθευση των προβλέψεων έχει ως στόχο να προτείνει νέες ενδείξεις για εμπορικά διαθέσιμα ή υπό εξέταση φαρμακευτικά προϊόντα και για συγκεκριμένες κατηγορίες πληθυσμού, με εκτίμηση τοξικότητας. Με αυτόν το τρόπο, μπορούν να προβλεφθούν νέες θεραπευτικές λύσεις για νέες παθήσεις.

Η παρούσα έρευνα υποστηρίζεται από το Ευρωπαϊκό Ταμείο Περιφερειακής Ανάπτυξης της Ευρωπαϊκής Ένωσης και εθνικούς πόρους μέσω του Επιχειρησιακού Προγράμματος Ανταγωνιστικότητα, Επιχειρηματικότητα και Καινοτομία, στο πλαίσιο της πρόσκλησης ΕΡΕΥΝΩ—ΔΗΜΙΟΥΡΓΩ— ΚΑΙΝΟΤΟΜΩ (κωδικός έργου: T2ΕΔΚ-03153)

ΒΙΒΛΙΟΓΡΑΦΙΑ

Adeshina, Y. O., Deeds, E. J., and Karanicolas, J., 2020. Machine learning classification can reduce false positives in structure-based virtual screening. Proc Natl Acad Sci U.S.A., 117(31), 18477-18488. https://doi.org/10.1073/pnas.2000585117

Ashburn, T. T., and Thor, K. B., 2004. Drug repositioning: identifying and developing new uses for existing drugs. Nat Rev Drug Discov., 3(8), 673–683. https://doi.org/10.1038/nrd1468

Hernandez, J. J., Pryszlak, M., Smith, L., Yanchus, C., Kurji, N., Shahani, V. M., and Molinski, S. V., 2017. Giving Drugs a Second Chance: Overcoming Regulatory and Financial Hurdles in Repurposing Approved Drugs As Cancer Therapeutics. Front Oncol, 7, p. 273. https://doi.org/10.3389/fonc.2017.00273

Pushpakom, S., Iorio, F., Eyers, P. A., Escott, K. J., Hopper, S., Wells, A., Doig, A., Guilliams, T., Latimer, J., McNamee, C., Norris, A., Sanseau, P., Cavalla, D., & Pirmohamed, M., 2019. Drug repurposing: progress, challenges and recommendations. Nat Rev Drug Discov, 18(1), 41–58. https://doi.org/10.1038/nrd.2018.168

Reymond, J. L., and Awale, M., 2012. Exploring chemical space for drug discovery using the chemical universe database. ACS Chem Neurosci, 3(9), 649–657. https://doi.org/10.1021/cn3000422

Sommerford, Ν., 2022. Drug Repurposing Basics, https://www.iqvia.com/ , May 12.

Zhou, Y., Wang, F., Tang, J., Nussinov, R., and Cheng, F., 2020. Artificial intelligence in COVID-19 drug repurposing. Lancet Digit Health, 2(12), e667–e676. https://doi.org/10.1016/S2589-7500(20)30192-8

ΕΚΔΟΣΕΙΣ ΡΟΠΗ

Christiane Paul, Michael J. Apter, Roy Ascott, Christina Dunbar-Hester, Rainer Usselmann, Patrick Lichty, Steve Dixon, Matthew Causey, Donna J. Cox, Richard Grusin, Margot Lovejoy, Diane J. Gromala και Yacov Sharir, Mark Poster, Ihab Hassan, Susan Broadhurst, Guillermo Gómez-Peña, Niamh Thornton, Eduardo Kac, Ralf Remshardt

Εισαγωγή – Επιστημονική Επιμέλεια: Βίκυ Λαλιώτη
Mετάφραση: Στέλλα Σοφοκλέους
Επιμέλεια: Στέλλα Τσουχτέρη
Διευθυντής Σειράς: Μανώλης Πατηνιώτης

Περιγραφή

Αυτό το βιβλίο είναι μια συλλογή εμβληματικών κειμένων που αφορούν τη σχέση των ψηφιακών τεχνολογιών με τις τέχνες από τη δεκαετία του 1960 έως σήμερα. Έχει στόχο να φέρει σε επαφή τις αναγνώστριες και τους αναγνώστες με τα χαρακτηριστικά των ψηφιακών τεχνών, αλλά και με τις πρακτικές, τις αισθητικές και τις πολιτικές διαστάσεις τους στο πλαίσιο συγκεκριμένων ιστορικών και πολιτισμικών συμφραζομένων.

Τα κείμενα, τα οποία οργανώνονται σε τρία μέρη (κυβερνητική, μεταμοντερνισμός, μετανθρωπισμός), δείχνουν την ποικιλία των προβληματισμών που έχουν αναπτυχθεί γύρω από τις ψηφιακές τέχνες από τη σκοπιά γνωστικών αντικειμένων όπως οι επιτελεστικές, θεατρικές και μουσικές σπουδές, η ανθρωπολογία, η ιστορία της τέχνης και της τεχνολογίας, οι σπουδές των μέσων μαζικής επικοινωνίας και η λογοτεχνία. Οι συγγραφείς, οι περισσότεροι από τους οποίους έχουν πλούσιο και σημαντικό καλλιτεχνικό έργο κυρίως στα πεδία των επιτελεστικών τεχνών (π.χ. μουσική, χορός, θέατρο, performance art), αλλά και της video art, του animation, του κινηματογράφου, κ.ά., χαράσσουν πολύπλοκες διαδρομές, τόσο ανάμεσα σε διαφορετικά –με βάση παραδοσιακές ταξινομήσεις– καλλιτεχνικά είδη και επιστημονικά πεδία, όσο και ανάμεσα στις τέχνες και τις επιστήμες.

Σε μια εποχή που το ψηφιακό έχει γίνει κανονικό, δηλαδή αποτελεί πλέον οργανικό μέρος της καθημερινής ζωής πολλών ανθρώπων, αυτό το βιβλίο προτείνει να υπερβούμε ουτοπικές και δυστοπικές προσεγγίσεις των ευρύτερων ψηφιακών κουλτούρων και να εμπλακούμε ενεργητικά στις διαδικασίες δημιουργίας και κατανόησης κόσμων πιο φιλικών για όλα τα πλάσματα που τους κατοικούν.

Βιογραφικά συγγραφέων

Η Christiane Paul: Είναι επικεφαλής επιμελήτρια/διευθύντρια του Sheila C. Johnson Design Center στο Parsons School of Design και αναπληρώτρια καθηγήτρια στο School of Media Studies στο The New School, και Adjunct Curator of New Media Arts στο Whitney Museum of American Art στο Νέα Υόρκη.

Ο Michael J. Apter: Ο Michael J. Apter είναι ψυχολόγος που γεννήθηκε στην Αγγλία και μεγάλωσε στο Μπρίστολ. Σπούδασε στο Clifton College και στο Bristol University όπου απέκτησε το πτυχίο Bachelor of Science και το διδακτορικό του στην Ψυχολογία το 1965, έχοντας επίσης ένα διδακτορικό έτος στο Princeton University.

Ο Roy Ascott: Ο Ρόι Άσκοτ είναι Βρετανός καλλιτέχνης, δουλεύει με την κυβερνητική και την τηλεματική, πάνω σε μια τέχνη που βασίζεται στην επίδραση των ψηφιακών και των τηλεπικοινωνιακών δικτύων πάνω στην συνείδηση. Ο Άσκοτ συνεργάζεται στο Arts Council της Αγγλίας.

Η Christina Dunbar-Hester: Είναι αναπληρώτρια καθηγήτρια στη Σχολή Επικοινωνίας και Δημοσιογραφίας Annenberg του Πανεπιστημίου της Νότιας Καλιφόρνια. Είναι κάτοχος Ph.D. από το Cornell University in Science & Technology Studies.

Ο Rainer Usselmann: Είναι φωτογράφος διαφήμισης στη Γερμανία, σπούδασε Φωτογραφία στο Bournemouth και έχει μεταπτυχιακό στην Ιστορία της Τέχνης.

Patrick Lichty: Είναι εννοιολογικός καλλιτέχνης, ακτιβιστής και επιμελητής. Σήμερα είναι καθηγητής Creative Digital Media στο κρατικό πανεπιστήμιο Winona.

Ο Steve Dixon: Ο καθηγητής Steve Dixon μετά από μια επιτυχημένη καριέρα ως ηθοποιός και βραβευμένος σκηνοθέτης παραγωγών ταινιών και ψηφιακών μέσων, ο Steve έγινε ακαδημαϊκός το 1991. Γρήγορα δημιούργησε διεθνή φήμη για την έρευνά του στη χρήση των μέσων και των τεχνολογιών υπολογιστών στις τέχνες του θεάματος.

Ο Δρ. Matthew Causey. Είναι επί του παρόντος Επικεφαλής της Σχολής Δημιουργικών Τεχνών στο TCD. Είναι Καθηγητής Δράματος, Συνεργάτης Κολλεγίου και Διευθυντής του Εργαστηρίου Έρευνας Τεχνολογίας Τεχνών.

Η Donna J. Cox. Είναι Αμερικανίδα καλλιτέχνης και επιστήμονας, Michael Aiken Endowed Chair. Καθηγητής Τέχνης + Σχεδιασμού; Διευθυντής, Advanced Visualization Lab στο Πανεπιστήμιο του Illinois στην Urbana-Champaign.

Ο Richard Arthur Grusin. Είναι ένας Αμερικανός  ακαδημαϊκός μελετητής και συγγραφέας. Ο Grusin είναι καθηγητής Αγγλικών στο Πανεπιστήμιο του Ουισκόνσιν – Μιλγουόκι.

Η Margot Lovejoy. Ήταν ψηφιακός καλλιτέχνης και ιστορικός της τέχνης και της τεχνολογίας. Ήταν Καθηγητής Emerita Εικαστικών Τεχνών στο Κρατικό Πανεπιστήμιο της Νέας Υόρκης στο Purchase.

Η Diane Gromala, PhD, είναι Τακτική Καθηγήτρια στη Σχολή Διαδραστικών Τεχνών και Τεχνολογίας (SIAT). Σχεδιάζει και κατασκευάζει καινοτόμες διαδραστικές τεχνολογίες υγείας. που καλύπτουν την τεχνολογία (σχεδιασμός, HCI και μηχανική) και την υγεία (ερευνητές, κλινικούς γιατρούς και ασθενείς.

Ο Yacov Sharir. Είναι χορογράφος, χορευτής, τεχνολόγος και καινοτόμος. Είναι Αναπληρωτής Καθηγητής Θεάτρου και Χορού στο Πανεπιστήμιο του Τέξας-Όστιν και Καλλιτεχνικός Διευθυντής της Sharir Dance Company με έδρα το Όστιν.

Ο Mark Poster Ήταν ομότιμος καθηγητής Ιστορίας και Μελετών Κινηματογράφου και Μέσων στο UC Irvine, όπου δίδαξε επίσης στην Έμφαση της Κριτικής Θεωρίας.

Ο Ihab Habib Hassan. Ήταν Αμερικανός λογοτέχνης και συγγραφέας.

Η Susan Broadhurst. Είναι επαγγελματίας καλλιτέχνης, συγγραφέας και ακαδημαϊκός. Είναι καθηγήτρια  απόδοσης και τεχνολογίας και επίτιμη καθηγήτρια στο Πανεπιστήμιο Brunel του Λονδίνου.

Ο Guillermo Gómez-Peña. Είναι καλλιτέχνης, συγγραφέας, ακτιβιστής και εκπαιδευτικός του Μεξικού / Chicano. Και διευθυντής της διακρατικής συλλογικότητας τεχνών La Pocha Nostra.

Η Niamh Thornton (University of Liverpool). Είναι ειδικός στις Λατινοαμερικανικές Σπουδές με ιδιαίτερη έμφαση στον μεξικανικό κινηματογράφο, τη λογοτεχνία και τον ψηφιακό πολιτισμό.

O Eduardo Kac. Είναι ένας Αμερικανός σύγχρονος καλλιτέχνης του οποίου τα έργα τέχνης καλύπτουν ένα ευρύ φάσμα πρακτικών, συμπεριλαμβανομένων της περφόρμανς, της ποίησης, της ολογραφίας, της διαδραστικής τέχνης, της τηλεματικής και της διαγονιδιακής τέχνης.

Ο Ralf Remshardt. Είναι καθηγητής Θεάτρου στο  University of Florida. Είναι έμπειρος μελετητής, σκηνοθέτης, μεταφραστής και δραματουργός.

Ακούστε εδώ την εισαγωγή του βιβλίου ” Διαλέξεις για τους υπολογιστές” του Richard P. Feynman, των εκδόσεων Leader Books.

Αγαπητές φίλες και φίλοι

Σε αυτό το podcast το InScience παρουσιάζει το βιβλίο του μεγάλου Αμερικανού φυσικού Ρίτσαρντ Φάυνμαν, ΔΙΑΛΕΞΕΙΣ ΓΙΑ ΤΟΥΣ ΥΠΟΛΟΓΙΣΤΕΣ, που εκδόθηκε το 2006 από τις εκδόσεις Leader Books.

Την μετάφραση του βιβλίου είχε κάνει ο Βασίλης Λεμπέσης.

Την επιστημονική επιμέλεια της μετάφρασης είχαν υπό την ευθύνη τους οι Δημοσθένης Έλληνας και Γιάννης Τσοχαντζής.

Την φιλολογική επιμέλεια της μετάφρασης είχε κάνει η Έλλη Κορρού-Λεμπέση.

Την επιμέλεια του podcast είχε η Ομάδα Αφήγησης Παραμυθανθός

Αφηγητές: Δημήτρης Μάλλης και Καλλιρρόη Μουλά

Την μουσική συνέθεσε αποκλειστικά για το podcast o Θωμάς Ζήσης

H συντακτική επιτροπή του InScience αισθάνεται την ανάγκη να ευχαριστήσει θερμά τις εκδόσεις Leader Books και ιδιαίτερα τον κ. Σωτήρη Καρέγλη για την ευγενική παραχώρηση της άδειας για την αναπαραγωγή του υλικού.

ΣΕΡΖ ΑΜΠΙΤΕΜΠΟΥΛ & ΖΙΛ ΝΤΟΟΥΕΚ

Μετάφραση: Γιάννης Μανωλόπουλος

ΠΑΝΕΠΙΣΤΗΜΙΑΚΕΣ ΕΚΔΟΣΕΙΣ ΚΡΗΤΗΣ

Όπως φαίνεται, µε τους αλγορίθµους ο Homo sapiens κατάφερε να επινοήσει το εργαλείο που ανέκαθεν ονειρευόταν. Κι όµως, κάτι µας ανησυχεί. Μήπως οι ταχυδρόµοι βρίσκονται υπό εξαφάνιση; Οι αλγόριθµοι καταστρέφουν θέσεις εργασίας. Μια ασφαλιστική εταιρεία πρέπει να αποζηµιώσει το θύµα ενός ατυχήµατος; Το ποσό της αποζηµίωσης θα το υπολογίσει κάποιος κυνικός αλγόριθµος. Το χρηµατιστήριο καταρρέει; Υπεύθυνοι είναι οι συναλλακτικοί αλγόριθµοι. Οι νόµοι περιορίζουν τις πολιτικές ελευθερίες; Μας κατασκοπεύουν οι κυβερνητικοί αλγόριθµοι. Νικούν οι αλγόριθµοι τον άνθρωπο στο σκάκι; Πολύ σύντοµα οι έξυπνοι αλγόριθµοι θα µας εξουσιάζουν.

Πολλοί θεωρούµε τους αλγορίθµους πηγή των δεινών µας, αυτό όµως οφείλεται ίσως στο ότι πολύ συχνά τους χρησιµοποιούµε δίχως στ‘ αλήθεια να γνωρίζουµε τη φύση και τη λειτουργία τους. Τρέµουµε τους αλγορίθµους, γιατί φαντάζουν µυστηριώδεις, µε απόκοσµες δυνάµεις και προθέσεις κακές. Για να διαλύσουµε τούτες τις παράλογες σκέψεις, να διαχωρίσουµε την πραγµατικότητα από τις παιδιάστικες φαντασιώσεις, τους βάσιµους φόβους από τις αστήρικτες ανησυχίες, οι συγγραφείς µάς καλούν να ταξιδέψουµε µαζί τους στον κόσµο των αλγορίθµων. Εκεί θα έρθουµε αντιµέτωποι µε µερικές από τις προκλήσεις τής λεγόµενης εποχής των αλγορίθµων: µεταξύ άλλων, µε τον µετασχηµατισµό της εργασίας, την απώλεια της ιδιοκτησίας και την προστασία της ιδιωτικότητας. Οι αλγόριθµοι είναι δυνατόν να έχουν θετικές ή αρνητικές επιπτώσεις, αλλά δεν έχουν δικές τους προθέσεις. Υπηρετούν τους δικούς µας σκοπούς, γιατί εµείς τους επινοήσαµε.

ΣΕΡΖ ΑΜΠΙΤΕΜΠΟΥΛ (SERGE ABITEBOUL)
Ο Serge Abiteboul είναι Γάλλος επιστήµονας των υπολογιστών στο INRIA (Institut National de Recherche en Informatique et en Automatique) και µέλος του διοικητικού συµβουλίου του ARCEP (Autorité de Régulation des Communications Électroniques et des Postes). Έχει διατελέσει επισκέπτης καθηγητής στο Πανεπιστήµιο Στάνφορντ, ενώ υπήρξε ιδρυτικό στέλεχος της εταιρείας Xyleme. Ιδιαίτερα τον ενδιαφέρουν τα κοινωνικά ζητήµατα που είναι αλληλένδετα µε τον ψηφιακό κόσµο.

ΖΙΛ ΝΤΟΟΥΕΚ (GILLES DOWEK)
Ο Gilles Dowek είναι Γάλλος ερευνητής στον τοµέα της Επιστήµης των Υπολογιστών και συγγραφέας πολλών δηµοφιλών επιστηµονικών έργων, αλλά και βιβλίων σχετικών µε τη γνωσιολογία της Επιστήµης των Υπολογιστών και τη δεοντολογία στον ψηφιακό κόσµο. Το βιβλίο του Computation, Proof, Machine (Cambridge University Press) τιµήθηκε µε το βραβείο φιλοσοφίας της Γαλλικής Ακαδηµίας.