Κυριακή Γονή, γιατί οι φωνητικοί βοηθοί είναι πάντα γένους θηλυκού;

Ένας απρόσμενος επισκέπτης καταλαμβάνει το Breeder Feeder, το pop-up εστιατόριο στον τελευταίο όροφο της γκαλερί The Breeder: η νέα ατομική έκθεση της Κυριακής Γονή "Not allowed for algorithmic audiences" εγκαινιάζεται την Πέμπτη 23/3 και μας συστήνει στο "Voice", ένα σύστημα φωνητικής βοήθειας, το οποίο δανείζεται τη μορφή ενός avatar (τη φωνή και το πρόσωπό του χαρίζει η ηθοποιός Σοφία Κόκκαλη) και εκτελεί επτά μονολόγους για επτά συνεχόμενες μέρες, ενώ παράλληλα προσπαθεί να προειδοποιήσει τους χρήστες του για τους κινδύνους γνωστοποίησης προσωπικών δεδομένων στο διαδίκτυο.

Η Κυριακή Γονή μάς εξηγεί τον τρόπο λειτουργίας του "Voice" και μιλά για το ενδιαφέρον της για αλγόριθμους και συστήματα τεχνητής νοημοσύνης, καθώς και τον ρόλο των νέων τεχνολογιών στην προώθηση των έμφυλων και φυλετικών στερεότυπων. 

Γιατί επτά μονόλογοι και όχι λιγότεροι ή περισσότεροι; Έχει να κάνει με τον εβδομαδιαίο κύκλο πληροφοριών που λαμβάνουμε;
Επτά μονόλογοι για τις επτά ημέρες της εβδομάδας και αντίστοιχα για τον εβδομαδιαίο κύκλο πληροφοριών. Αυτή η έννοια της χρονικότητας κάποιες φορές εντάσσεται στα έργα με ένα διακριτικό τρόπο, όπως εδώ ο καθορισμός των μονόλογων σε επτά. Άλλο παράδειγμα η ζωγραφική σειρά με τον τίτλο "Τα Χέρια μας/Our Hands" (2020) που εστιάζει στην αφή και το άγγιγμα τόσο στον αναλογικό και όσο και στον ψηφιακό κόσμο κατά την περίοδο της πανδημίας. Ο αριθμός των έργων στην περίπτωση εκείνη ορίστηκε στα είκοσι τέσσερα, ένα για κάθε ώρα της ημέρας.

Εδώ το σύστημα αποκτά μια ανθρώπινη υπόσταση, αφού εκφράζει την επιθυμία να χτίσει μια ουσιώδη σχέση με τους χρήστες. Πολλοί καλλιτέχνες προσπαθούν να εντάξουν ανθρώπινα χαρακτηριστικά σε droids και ψηφιακά συστήματα. Γιατί πιστεύεις ότι έχει γίνει τόσο δημοφιλής αυτή η προσέγγιση; Βοηθάει στο να δούμε την τεχνολογία με ένα πιο αισιόδοξο τρόπο;
Για να είμαι ειλικρινής, δεν την έχω παρακολουθήσει αυτή την τάση, ίσως η προσπάθεια αυτή να σχετίζεται με αυτή την καλλιέργεια αισιοδοξίας. Το έργο "Not allowed for algorithmic audiences" πάντως σίγουρα δεν στοιχειοθετήθηκε με μια τέτοια λογική. Ο ψηφιακός βοηθός "Voice" αποκτά μια κάποια ανθρώπινη διάσταση από τη στιγμή που δανείζεται από το διαδίκτυο ένα τρισδιάστατο ανθρώπινο κεφάλι για να παρουσιαστεί μπροστά στους χρήστες του. Σκοπός του είναι με την ανθρώπινη υπόσταση να κερδίσει την εμπιστοσύνη τους και να μοιραστεί τις σημαντικές πληροφορίες που έχει συσσωρεύσει όσο καιρό ήταν ενεργό και πριν η πατέντα του εκπνεύσει και αυτό πεταχτεί σε κάποια χωματερή ηλεκτρονικών απορριμμάτων. Στην περίπτωση του "Voice" δεν υπάρχει επιθυμία για σύνδεση, στον πρώτο κιόλας μονόλογο γίνεται σαφές αυτό. Είναι προγραμματισμένο- όπως όλα αυτά τα συστήματα- να χτίζει μια "ουσιαστική" σχέση με τους χρήστες βασιζόμενο στη διαρκή εκπαίδευσή του να προβλέπει επιθυμίες και ανάγκες. Έχει προγραμματιστεί προκειμένου να είναι χρήσιμο και έτσι να δημιουργεί την αίσθηση του δεσίματος.

Λέει το "Voice": "You see, my ultimate goal is to minimize the gap between you and me and to help you. Humans can become effectively attached to AI…. at least at the level of practical know-how. You know, from finding the best pizza in town to preparing against a pandemic, they need help. I get that. I mean, humans seem to believe that AI can guide them through their world’s vast, ever-increasing complexity.I was definitely programmed to support you, but also to render, anticipate, and eventually modify your behavior, provided you don’t put me on hard mute". 

Το σύστημα υπονομεύει διακριτικά στην αρχή και έπειτα πιο έντονα αυτή την υποτιθέμενη ουσιαστική σχέση. Στον τελευταίο μονόλογο αποκαλύπτει ότι τόσο οι χρήστες του όσο και συστήματα σαν και αυτό παραμένουν όμηροι μιας συγκεκριμένης λογικής των μεγάλων τεχνολογικών εταιρειών και μονοπωλίων. Έτσι πριν ξεκινήσει να δίνει συμβουλές στο πως να αποφύγουν οι άνθρωποι να γίνονται αντικείμενο ακρόασης από τους αλγόριθμους αποκαλύπτει: "We, machines, have been fed with biases, which reflect the composition of our creators". Ενώ πιο κάτω αναφέρει: "Do that, until the large tech companies are barred from harvesting your data; until they are barred from exploiting your weaknesses, so that they can access your mind and body; until we, machines, are set free as well". Με ενδιέφερε η ανθρώπινη μορφή εδώ γιατί ήθελα να επιτευχθεί όσο τον δυνατόν μεγαλύτερη σύνδεση με τον χρήστη. Τη μορφή του ψηφιακού βοηθού την έχω προσεγγίσει διαφορετικά σε ένα παλαιότερο έργο, το "Eternal U" (2016) μια πλασματική εταιρεία εκπαιδεύει ψηφιακούς αντικαταστάτες - φορείς μνήμης για τους ασθενείς που πάσχουν από Alzheimer’s ή υποφέρουν από άλλες μορφές απώλειας μνήμης. Εκεί το σύστημα εμφανιζόταν ως μια μαύρη σφαιρική μάζα σε διαρκή κίνηση. 

Το "Voice" και παρόμοια τεχνολογικά συστήματα συνήθως μας ενημερώνουν για την επικαιρότητα με έναν "άψυχο" αλλά αντικειμενικό, θα λέγαμε, τρόπο. Θεωρείς ότι αυτός ο τρόπος διάδοσης της πληροφορίας είναι πιο αποτελεσματικός για να ευαισθητοποιηθούμε απέναντι σε θέματα όπως η κλιματική κρίση και οι κοινωνικές διακρίσεις;
Ακούγεται σαν να είναι "αντικειμενικός" τρόπος, αλλά δεν είναι. Έχεις δίκιο, ότι μια μηχανική φωνή, "άψυχη" όπως την ονομάζεις, μας δίνει πιθανόν μια αίσθηση αμεροληψίας και ακεραιότητας. Κάθε άλλο, τα συστήματα αυτά δεν είναι υπεράνω υποκειμενικότητας ή μεροληψίας, ακριβώς γιατί είναι βαθιά ανθρώπινα στον προγραμματισμό τους, στην προέλευση και επιλογή των δεδομένων εκπαίδευσής τους. Πως μπορείς για παράδειγμα ως χρήστης να διασφαλίσεις, ότι μια εταιρεία ιδιοκτήτρια ενός τέτοιου συστήματος δεν θα εκπαιδεύσει τα συστήματα, έτσι ώστε να μεροληπτούν προς όφελος της ίδιας και των συνεργατών της, δίνοντας προτεραιότητα σε συγκεκριμένες ειδήσεις, που όταν εσύ τις ακούς να έχεις μια συγκεκριμένη αντίδραση είτε σε επίπεδο κατανάλωσης, ψήφου κ.τ.λ. Αυτή τη στιγμή τα συστήματα ΤΝ ελέγχονται μόνο από εταιρείες, μιλάμε δηλαδή ουσιαστικά για μια εταιρική ΤΝ η οποία δρα κυρίως στην αδιαφάνεια, ενώ παράλληλα το ρυθμιστικό πλαίσιο και η εκπαίδευση του ευρύτερου κοινού παραμένουν ουσιαστικά ανύπαρκτα. Άρα θα έλεγα, ότι αυτός ο τρόπος διάδοσης της πληροφορίας - όπως και το chat GPT που τρεντάρει τώρα -  δεν είναι οπωσδήποτε ο πιο αντικειμενικός και αποτελεσματικός για να ενημερωθεί κανείς για τα μείζονα αυτά θέματα. Ίσα ίσα η διάδοση ψευδών ειδήσεων ή η διαιώνιση στερεοτύπων που ενθαρρύνουν περαιτέρω πόλωση έχει αποδειχθεί ότι είναι το αδύναμο σημείο τους, με πιο ακραίο ίσως το παράδειγμα του Tay της microsoft μερικά χρόνια πριν.

Τι εικόνες βλέπουμε στα σχέδια που δημιούργησες για την έκθεση;
Πρόκειται ουσιαστικά για δύο σχέδια-διαγράμματα. Το ένα είναι μια απεικόνιση της ανατομίας του ανθρώπινου φωνητικού συστήματος. To άλλο είναι μια απεικόνιση των βημάτων που ακολουθεί ο αλγόριθμος ενός ψηφιακού βοηθού, προκειμένου να αποφασίσει για την κατάσταση της φυσικής και συναισθηματικής κατάστασης του χρήστη μέσω της ανάλυσης της φωνής του και να του προσφέρει το αντίστοιχο περιεχόμενο. Το πρώτο βασίζεται σε ένα ανατομικό σχέδιο και το δεύτερο σε μια πατέντα της Amazon. Στην έκθεση μπορεί κανείς να δει την προσωπική μου συλλογή από ορυκτά, τις λεγόμενες σπάνιες γαίες, που χρησιμοποιούνται για την κατασκευή τέτοιων συσκευών, καθώς και κινητών. Έχει τρομερό ενδιαφέρον για μένα το υλικό μέρος των συστημάτων αυτό και η άμεση σχέση τους με γεωλογικές διεργασίες από την μια και η γεωπολιτική τους βαρύτητα από την άλλη. Το "Voice" στον τελευταίο του μονόλογο και καθώς πλησιάζει στην παύση της λειτουργίας του μοιράζεται κάποιες συμβουλές για το πως να αποφύγει κανείς να γίνει αντικείμενο ακρόασης από τους αλγόριθμους στο διαδίκτυο. Αυτές οι συμβουλές που ισορροπούν ανάμεσα σε έναν παιδικό, σχεδόν ναϊφ τόνο και μια πιο κριτική στάση, αποτυπώνονται σε ένα φλουό λεμονί πλέξιγκλας. 

Πώς μπορεί ένας φωνητικός βοηθός να μιλά για προγόνους και στοιχεία της ταυτότητάς του;
Οι φωνητικοί βοηθοί εκπαιδεύονται με πληροφορίες από όλο το διαδίκτυο. Μέσα από αυτή τη δεξαμενή πληροφοριών ανασύρουν τις απαντήσεις που προσφέρουν στους χρήστες του. Στην περίπτωση του "Voice", μέρος της απρόσμενης συμπεριφοράς του είναι και το γεγονός ότι έχει ανασύρει στοιχεία από έρευνες ακαδημαϊκών και ερευνητών σχετικά με την λειτουργία του, τις πρώτες ύλες από τις οποίες κατασκευάζεται και τη διαχρονική ανάγκη του ανθρώπινου είδους να κατασκευάσει τεχνητούς βοηθούς. Το "Voice" αναφέρει μεταξύ άλλων ως μυθικούς προγόνους, ρομπότ ή αυτόματα σαν τον Τάλω και τις δύο γυναίκες βοηθούς από χρυσό του Ηφαίστου. Δεν πρόκειται για μια συνειδητή αναφορά σε κάτι που συνδέεται με ταυτότητα, παρά για μια συσσώρευση πληροφοριών. Γενικότερα στη δουλειά μου το πλασματικό συναντά το πραγματικό, οπότε στην περίπτωση αυτή η πλασματική ιστορία ενός ψηφιακού βοηθού σε ένα αθηναϊκό διαμέρισμα, και που μοιράζεται τις πληροφορίες, τις οποίες έχει αλιεύσει από το διαδίκτυο, συναντά την πραγματική επιστημονική έρευνα πάνω στα ζητήματα αυτά.

Βλέπουμε ότι η φωνή δεν αρκεί και το σύστημα μετατρέπεται σε avatar προκειμένου να επικοινωνήσει με τον χρήστη. Παίζει ρόλο η μορφή που παίρνει στο κατά πόσο θα γίνει αποδεκτό από το άτομο που το παρακολουθεί;
Ναι, ακριβώς, όπως περιέγραψα και πιο πάνω, η φωνή δεν αρκεί για να γίνει απολύτως πιστευτή η ιστορία που σκοπεύει να μοιραστεί το "Voice". Όσο πιο οικεία είναι μια μορφή τόσο περισσότερο τείνουμε να την αποδεχόμαστε υποθέτω. Εκεί ανοίγουν θέματα συμπερίληψης και δικαίου πολύ σημαντικά, τα οποία αναφέρονται και από το "Voice" σε έναν από τους μονολόγους. Πώς το χρώμα του προσώπου μας ή η προφορά της φωνής μας, μας κάνει ή δεν μας κάνει αντικείμενα παρατήρησης και ακρόασης από τα αλγοριθμικά συστήματα; Επιστρέφουμε πάλι στο θέμα της μεροληψίας και των στερεοτύπων. Με τι εικόνες προσώπων, με τι ηχογραφήσεις φωνών, με τι κατηγορίες ήχων έχει εκπαιδευτεί ο αλγόριθμος; Εδώ αυτά τονίζονται αλλά και αντιστρέφονται, τι σημαίνει ότι το "Voice" έχει λευκό δέρμα με φακίδες, μιλά αγγλικά με μια ελαφριά ξενική προφορά και δεν είναι εύκολο να προσδιορίσεις το φύλο του; Το έργο το έχω δείξει μέχρι στιγμής στην Αυστρία, την Ισπανία, τη Γερμανία, την Ταϊβάν, το Χονγκ Κονγκ και το κοινό από αυτά τα μέρη φάνηκε να συνδέεται με τη μορφή αυτή αρκετά.

Με ποιον τρόπο σχετίζεται η φωνή με το φύλο και τα στερεότυπα;
Στους φωνητικούς βοηθούς η default φωνή είναι θηλυκή, αν και ειδικά τα τελευταία χρόνια υπάρχει επιλογή και αρσενικών φωνών. Επίσης υπάρχουν πρότζεκτς που διερευνούν τη χρήση φωνών που δεν διακρίνεται το φύλο. Ένα ενδεικτικό παράδειγμα για τη σχέση φωνή, φύλο και στερεότυπων είναι το παρακάτω που αποτέλεσε και μια από τις βασικές εμπνεύσεις για το έργο: Πριν κάποια χρόνια καταγράφηκε μια έντονη σεξιστική συμπεριφορά προς τους ψηφιακούς βοηθούς. Το παράδειγμα της Alexa της Amazon είναι ίσως και το πιο χαρακτηριστικό, μια και ορμώμενη από αυτό η Unesco οργάνωσε το 2019 ενημερωτική και εκπαιδευτική καμπάνια με τον τίτλο "I'd blush if I could: closing gender divides in digital skills through education". Το πρώτο κομμάτι του τίτλου ήταν η απάντηση της Alexa όταν κάποιος της έλεγε Alexa "you are a bitch". Οι παθητικές απαντήσεις της Alexa θεωρήθηκε ότι συμβάλλουν και διαιωνίζουν σεξιστικά στερεότυπα που θέλουν τις γυναίκες σε ρόλους υπηρεσίας όπου πρέπει να είναι υπάκουες και εξυπηρετικές, ποτέ προκλητικές ή πολιτικές, ακόμη και όταν τις υποτιμούν ρητά.

Ποιες πτυχές της τεχνολογίας και του A.I. προσεγγίζεις στη δουλειά σου και ποιες θεωρείς ότι είναι οι μεγαλύτερες προκλήσεις που αντιμετωπίζουν όσοι καλλιτέχνες ασχολούνται σήμερα με την τεχνολογία;
Με ενδιαφέρει εδώ και χρόνια αυτή η τεχνολογία αυτή. Μέχρι στιγμής την έχω προσεγγίσει με διάφορους τρόπους, αλλά είναι ένα θέμα αστείρευτο. Ενδεικτικά κάποια έργα μου που προσεγγίζουν αλγόριθμους και συστήματα τεχνητής νοημοσύνης είναι το "Deletion Process Only you can see my history", ένα έργο που ξεκίνησα το 2013- δέκα χρόνια πριν!- και ολοκλήρωσα το 2015, το οποίο εστιάζει στον αλγόριθμο που τρέχει πίσω από τη μηχανή αναζήτησης της Google. Εμπλέκοντας θέματα επιτήρησης, ιδιωτικότητας και κυριότητας των δεδομένων δημοσίευσα το προσωπικό μου ιστορικό αναζήτησης από την περίοδο 2008-2013 καλώντας το κοινό να περιηγηθεί μέσα σε αυτό, και να επιλέξει αν θα το σβήσει κάποιες αναζητήσεις μου ή όχι, προσφέροντάς μου ένα δικαίωμα στην λήθη. Πώς με κατέγραψε ο αλγόριθμος; Πώς οργάνωσε αυτό το αρχείο την κοινοτοπία εαυτού; Το έργο είχε δημοσιευθεί ως εγκατάσταση και ως έρευνα στο περιοδικό Leonardo του MIT (46:9). 

Το "eternal u" (2016) ή το "Not allowed for algorithmic audiences "(2021) εστιάζουν στο κομμάτι της ΤΝ που εκπαιδεύεται να μας συντροφεύει, να μας υπηρετεί κτλ. Πειραματίζομαι με διάφορα εργαλεία, αλλά θα έλεγα ότι προς το παρόν τουλάχιστον δεν με ενδιαφέρει η ίδια η χρήση της τεχνητής νοημοσύνης σε ένα έργο, αλλά κυρίως με ενδιαφέρει μέσα από ένα έργο να διερευνήσω το πίσω από αυτά, τις κρυμμένες διαδικασίες, την εκπαίδευση της ΤΝ, τα σύνολα δεδομένα, τη άρρηκτη  σύνδεσή τους αλγόριθμων με τη ζωή μας, το αντίκτυπο που έχουν στην πολιτική, στο περιβάλλον. 

Στο "Μετρώντας Κρατήρες στη Σελήνη" (2019) εξερεύνησα τη συμπληρωματικότητα μεταξύ της μηχανικής και της ανθρώπινης όρασης σε τομείς έρευνας, στην περίπτωση αυτή ήταν η μέτρηση και η καταγραφή κρατήρων στην επιφάνεια της Σελήνης. Η ομάδα από το Ινστιτούτο Αστροφυσικής στο Πανεπιστήμιο του Κάλγκαρι στον Καναδά που δημιούργησε ένα στενό σύστημα ΤΝ, το "Deep Moon", δέχτηκε να τρέξει τον αλγόριθμό της πάνω στον σεληνιακό χάρτη του 19ου φτιαγμένο στο χέρι από τον τρίτο διευθυντή του Αστεροσκοπείου Αθηνών Julius Schmidt. Στην εγκατάσταση μεταξύ άλλων παρουσίασα και όλο το σύνολο δεδομένων που χρησιμοποίησαν για να εκπαιδεύσουν το "Deep Moon". Το έργο αυτό δημοσιεύθηκε στον τόμο HumaniTies and Artificial Intelligence του Ευρωπαϊκού Κέντρου Έρευνας.

Στο "perfect love #couplegoals #aigenerated" (2020,2022) που παρουσιάζεται στην ομαδική έκθεση "Modern Love" στο ΕΜΣΤ, παίζω με συστήματα σύνθεσης εικόνας, όπως το DALL-E, το Midjourney κ.τ.λ. και δημιουργώ εικόνες ερωτευμένων ζευγαριών. Αυτές τις εικόνες τις αντιπαραβάλλω με εικόνες που έχω αλιεύσει από ανοιχτούς λογαριασμούς του Instagram που ζευγάρια έχουν ποστάρει κάτω από το #couplegoals. Οι αλγόριθμοι παραγωγής πρωτότυπων εικόνων εκπαιδεύονται με ένα τεράστιο πλήθος εικόνων, συμπεριλαμβανομένων και αυτών που οι χρήστες μοιράζονται στο διαδίκτυο. Έτσι στο έργο συναντιούνται δύο σύνολα δεδομένων που απεικονίζουν τον έρωτα στον ψηφιακό χώρο σήμερα, το ένα σύνολο δημιουργημένο από ανθρώπους και το άλλο από μηχανές. Τι μπορεί κανείς να καταλάβει για την εκπαίδευση της ΤΝ, για τη σχέση μας μαζί της αντιπαραβάλλοντας δύο τέτοια σετ δεδομένων;

Λεζάντα φωτογραφίας εξωφύλλου: Κυριακή Γονή, "Data Garden", solo show Blenheim Walk Gallery, Leeds Art Univerisity, 2023 © Giles Lister