«Πιστεύω ότι η κοινωνία είναι στην αυγή ενός μεγάλου μετασχηματισμού. Πρέπει να προετοιμαστούμε και να καταλάβουμε πώς θα χτίσουμε τις κοινωνίες μας με έναν στιβαρό τρόπο σε αυτή τη νέα εποχή της ΤΝ, όπου η τεχνολογία αλλάζει τα πάντα. Η αλλαγή θα είναι ακραία. Θα δούμε εταιρείες, συστήματα, κράτη ολόκληρα, που δεν θα μπορούν να προσαρμοστούν. Θα δούμε να εμφανίζονται νέες επιχειρήσεις και νέοι τρόποι ρύθμισης και οργάνωσης της κοινωνίας». Αν κανείς δεν γνωρίζει τη Νίνα Σκικ, είναι απίθανο να περιμένει να ακούσει από το στόμα της τόσο έντονα λόγια. Η εξωτική της εμφάνιση, η οποία οφείλεται στη γερμανική και νεπαλέζικη καταγωγή της, δεν προδιαθέτει για ιστορίες τρόμου.
H Σκικ ξεκίνησε την καριέρα της ως σύμβουλος πολιτικών, συμμετείχε στην πρώτη καμπάνια εκλογής του Γάλλου προέδρου Εμανουέλ Μακρόν, είχε ανάμειξη στο Brexit και έζησε από κοντά τις αμερικανικές εκλογές του 2016 και του 2020, ερευνώντας τον ρόλο που έπαιξαν ξένες δυνάμεις, και κυρίως η Ρωσία, στις διαδικασίες. Με το πρώτο βιβλίο της Deepfakes and the Infocalypse – What you need to know, το οποίο κυκλοφόρησε στην αρχή της πανδημίας, το 2020, θέλησε να μας προειδοποιήσει όλους για μια μεγάλη απειλή, που είχε περάσει εν πολλοίς απαρατήρητη. Έως τότε τείναμε να εστιάζουμε σε επιχειρήσεις χειραγώγησης που περνούσαν μέσα από τα social media χρησιμοποιώντας παραδοσιακά εργαλεία κειμένου, ήχου και εικόνας. Η πρόοδος όμως της τεχνητής νοημοσύνης κάνει σταδιακά όλο και πιο προσιτή, με έναν πρωτόγνωρο τρόπο, τη μαζική παραπληροφόρηση. Σε λίγο, ο καθένας θα μπορεί με ένα απλό λογισμικό για Deepfakes να βάζει στα χείλη όποιου θέλει ό,τι θέλει: αυτό ήταν το ανησυχητικό μήνυμα της Σκικ.
Η προειδοποίησή της ήταν έγκαιρη, αλλά ούτε η ίδια μπορούσε να συνειδητοποιήσει τι διαστάσεις θα έπαιρνε σύντομα η τεχνολογία συνθετικών εικόνων, ήχων, κειμένων και γενικά πληροφοριών. «Δυστυχώς, ακόμη και σήμερα», μου λέει, «υπάρχουν αρκετοί που αδυνατούν να κάνουν τη σύνδεση ανάμεσα στην παραγωγική ΤΝ και τα Deepfakes. Αλλά τι να κάνουμε, τα Deepfakes είναι μια από τις πρώτες μορφές της παραγωγικής ΤΝ. Όλα αυτά που αναφέρω στο βιβλίο για το οικοσύστημα των πληροφοριών, για την ακρίβεια και την ταχύτητα των μοντέλων επιβεβαιώνονται. Όταν έγραφα το βιβλίο, αυτά τα εργαλεία, το ChatGPT για παράδειγμα, δεν είχαν εμφανιστεί ακόμα. Δεν είχαμε ακόμα δηλαδή στη διάθεσή μας τη δυνατότητα να δίνουμε μια εντολή και να παράγονται υλικά. Το 2020, λοιπόν, τα Deepfakes ήταν κάτι που έμοιαζε πολύ ειδικό. Λίγα χρόνια μετά, το τοπίο έχει αλλάξει ριζικά. Από το βιβλίο και μετά άρχισα να συνειδητοποιώ ότι αυτό που περιέγραφα, η ιστορία μου, ήταν κάτι πολύ μεγαλύτερο και ευρύτερο. Δεν είχε να κάνει μόνο με το περιεχόμενο, αλλά με την πληροφορία, τη γνώση συνολικά. Ουσιαστικά, αυτό που περιγράφω έχει να κάνει με την ανθρώπινη εμπειρία. Μιλώντας για τα Deepfakes και την παραπληροφόρηση, άγγιζα μόνο την επιφάνεια του θέματος».
Ανάγκη για ρυθμιστικό πλαίσιο
Σταδιακά, η Σκικ βρίσκεται στην καρδιά της επανάστασης της παραγωγικής τεχνητής νοημοσύνης. Εκτός από την προπαγάνδα και την παραπληροφόρηση, οι μηχανές μάς φέρνουν έναν ολόκληρο συνθετικό κόσμο, ο οποίος μας καλεί να τον γνωρίσουμε. Και να τον ρυθμίσουμε. «Ρύθμιση θα υπάρξει υποχρεωτικά», μου λέει, «γιατί αυτή η τεχνολογία είναι πανίσχυρη. Έως τώρα οι πολιτικοί δεν έχουν κατορθώσει πολλά, γιατί εξελίσσεται διαρκώς. Τη στιγμή που λένε “έχουμε σχέδιο”, η τεχνολογία έχει αλλάξει. Στην Ευρωπαϊκή Ένωση, τη στιγμή που συζητούν για την Πράξη για την ΤΝ, συνειδητοποιούν ότι πρέπει τώρα να δουν και την παραγωγική ΤΝ. Επειδή απουσιάζει το ρυθμιστικό πλαίσιο, επειδή το πολιτικό σύστημα δεν μπορεί να καταλάβει αυτές τις τεχνολογίες, η εξουσία εναποτίθεται στις επιχειρήσεις που αναπτύσσουν αυτές τις τεχνολογίες. Πολλές από αυτές έχουν καλές προθέσεις, θέτουν ηθικά πλαίσια, παίρνουν μέτρα ασφαλείας, αλλά βέβαια θα υπάρξουν ανεπιθύμητες συνέπειες. Δουλεύω με μερικές από αυτές τις εταιρείες για να τις βοηθήσω να προσαρμοστούν, αλλά η ειρωνεία είναι ότι οι μεγαλύτεροι παίκτες που ηγούνται σε αυτές τις τεχνολογίες είναι εκείνοι που λένε ότι πρέπει να συζητήσουμε, πρέπει να ρυθμίσουμε, να σκεφτούμε το ένα και το άλλο, είναι οι ίδιοι που έχουν πολλούς πόρους. Συμβαίνει να είναι οι κολοσσοί της βιομηχανίας της τεχνολογίας. Υπάρχει ένας διάχυτος φόβος ότι αυτές οι μεγάλες επιχειρήσεις θα μονοπωλήσουν αυτά τα συστήματα. Όπως καταλαβαίνετε, το ζήτημα είναι πολύ πολιτικό».
Τι είναι όμως αυτή η νέα τεχνολογία και τι μας υπόσχεται; «Η παραγωγική τεχνητή νοημοσύνη είναι ένας νέος τύπος ΤΝ, που δεν μοιάζει με άλλες μορφές της, καθώς αυτή μπορεί να εντοπίζει μικροδιαφορές. Στην πραγματικότητα, η παραγωγική ΤΝ μπορεί να παράγει ή να δημιουργεί κάτι καινούργιο βάσει δεδομένων που της έχουμε δώσει. Είναι η πρώτη φορά που μπορεί να το κάνει αυτό η ΤΝ. Και αυτό είναι εντελώς επαναστατικό. Εδώ και μία δεκαετία, έχουμε περίπου έξι είδη μεγάλων μοντέλων παραγωγικής ΤΝ. Από αυτά, τα τέσσερα έχουν αρχίσει τα τελευταία χρόνια να παράγουν έργα. Είναι μια επαναστατική τεχνολογία γιατί θα μεταμορφώσει ολοκληρωτικά όχι μόνο όλο το περιεχόμενο που βρίσκεται γύρω μας, αλλά και την οργάνωση της πληροφορίας που λαμβάνουμε, παράγοντας νέες πληροφορίες, προσφέροντας νέες ιδέες. Θα ανακαλύψουμε πράγματα πρωτόγνωρα με την παραγωγική ΤΝ. Θα δούμε εκπληκτικές εφαρμογές στην επιστημονική έρευνα. Νέα φάρμακα και νέες θεραπείες. Στη βιοτεχνολογία, για παράδειγμα, θα χρησιμοποιηθεί πολύ. Στην ουσία θα μπορούμε να τη χρησιμοποιούμε για όλα αυτά που έως τώρα θεωρούσαμε ότι τα είχε μόνο ο άνθρωπος, τη δημιουργικότητα και τη νοημοσύνη».
Σύντομα ο κόσμος θα είναι διαφορετικός
Η Σκικ βλέπει ένα μοτίβο στις τεχνολογικές επαναστάσεις και μου το εξηγεί. «Επειδή προέρχομαι από το πεδίο της πολιτικής και της γεωπολιτικής, όπου για δύο δεκαετίες εργαζόμουν πάνω σε ζητήματα πληροφοριακών συγκρούσεων και σε ζητήματα τεκτονικών αλλαγών στην παγκόσμια γεωπολιτική ισχύ και επιρροή, αυτό που είδα να επανέρχεται σταθερά ως τάση στη δουλειά μου ήταν το ότι η τεχνολογία διαμορφώνει όλο και πιο βαθιά τον κόσμο και οργανώνει εκ νέου την εξουσία, τον πλούτο, τη γνώση. Αυτό γινόταν και πριν από την ΤΝ. Όταν το 2017 άρχισα να βλέπω την παραγωγική ΤΝ να έρχεται στην επιφάνεια με τη μορφή των Deepfakes, αναγνώρισα αμέσως τη δυναμική της. Η παραγωγική ΤΝ θα αλλάξει συνολικά την ανθρώπινη εξέλιξη, γιατί θα έχει τεράστια επίπτωση στον τρόπο που δουλεύουμε, που σκεφτόμαστε και που δημιουργούμε πληροφορίες. Θα αλλάξει ο τρόπος με τον οποίο συνδεόμαστε με αυτά που γνωρίζουμε. Και αυτό θα γίνει πολύ γρήγορα. Τα μοντέλα αυτά είναι μόλις δέκα χρόνων και ήδη χρησιμοποιούνται από δισεκατομμύρια ανθρώπους ανά τον κόσμο. Είναι και ένα θεμελιωδώς πολιτικό και κοινωνικό ζήτημα. Αφορά τον τρόπο με τον οποίο θα εξελιχθεί η τεχνολογία και η ανθρωπότητα μέσα στο εύρος της δικής μας ζωής. Σας διαβεβαιώ ότι σύντομα ο κόσμος μας θα είναι ένα πολύ διαφορετικό μέρος».
Μήπως κινδυνεύουμε να εγκλωβιστούμε στη μόδα, στον θόρυβο για τα επιτεύγματα των νέων τεχνολογιών, πού πρέπει να στρέψουμε την προσοχή μας τώρα; «Πιστεύω ότι η μεγάλη πρόκληση αυτή τη στιγμή είναι να καταλάβουμε τι ακριβώς συμβαίνει, γιατί όλα γίνονται πολύ γρήγορα. Η εξέλιξη της ΤΝ ακολουθεί την ίδια τάση που είδαμε με το Internet και τα social media, τα οποία άλλαξαν εντελώς τη σχέση της ανθρωπότητας με τη γνώση, την πληροφορία και την επικοινωνία. Πιστεύω ότι η παραγωγική ΤΝ αναβαθμίζει περαιτέρω αυτή τη σχέση. Το επόμενο βήμα είναι πώς θα εξασφαλίσουμε ότι όλη αυτή η αφθονία και η πληροφορία που θα παραχθεί από την ΤΝ θα διανεμηθεί με έναν δίκαιο τρόπο. Η παραγωγική ΤΝ θέτει υπό αμφισβήτηση ό,τι γνωρίζαμε έως τώρα αναφορικά με τις υποδομές της κοινωνίας μας, τα νομικά μας συστήματα, τα ρυθμιστικά μας πλαίσια. Ολόκληρη η δομή του πλούτου, της εξουσίας και της επιρροής θα επηρεαστούν βαθιά από αυτές τις εκθετικές τεχνολογίες. Το βλέπουμε να συμβαίνει τις τελευταίες δεκαετίες, με τους τεχνολογικούς κολοσσούς που έχουν δημιουργήσει μονοπώλια. Η τεχνολογία αυτή πρέπει να είναι μια υποδομή για την ανθρωπότητα, για το κοινό καλό, η οποία δεν θα καταλήξει στα χέρια πολύ λίγων. Παρατηρούμε αυτή τη στιγμή πολύ μεγάλες εταιρείες να επενδύουν πολύ σε αυτό το πεδίο. Την ίδια ώρα, στην Κίνα κυριαρχεί ένας τεχνο-αυταρχισμός, όπου τα ίδια εργαλεία χρησιμοποιούνται από το κράτος για να επεκτείνει την εξουσία του».
Ποιός κατέχει την ΤΝ
Η Σκικ επιμένει να τοποθετεί την τεχνολογία σε ένα ευρύτερο πλαίσιο. Δεν θέλει να θαμπωθεί από τη λάμψη των νέων πραγμάτων. «Το ποιος κατέχει αυτά τα εργαλεία είναι κρίσιμο», σημειώνει. «Είναι ένα πολιτικό θέμα που ακολουθεί την τάση των προηγούμενων δεκαετιών. Έχουμε δει τις ανεπιθύμητες παρενέργειες των social media για παράδειγμα. Δεν είναι υπερβολή να πούμε ότι το μέλλον της ανθρωπότητας εξαρτάται εν μέρει από τον τρόπο με τον οποίο θα χρησιμοποιηθούν αυτές οι τεχνολογίες από τους ιδιοκτήτες τους. Υποστηρίζω ότι δεν υπάρχει τίποτα το αναπόφευκτο στην ΤΝ. Όλα εξαρτώνται από τον τρόπο με τον οποίο εκπαιδεύονται τα μοντέλα. Φυσικά και παίζει ρόλο η ηθική, οι μεροληψίες, η συμπερίληψη».
«Το μέλλον της ανθρωπότητας εξαρτάται εν μέρει από τον τρόπο με τον οποίο θα χρησιμοποιηθούν αυτές οι τεχνολογίες από τους ιδιοκτήτες τους».
Τη ρωτώ αν πιστεύει ότι οι μηχανές έχουν αποκτήσει συνείδηση. «Το ChatGPT δεν έχει συνείδηση, ούτε συναίσθηση (sentient). Δίνει την εντύπωση ότι έχει, αλλά δεν είναι ενσυνείδητο. Το ChatGPT δεν είναι καινούργιο, βασίζεται στο GPT-4. Υπήρχαν παλαιότερες εκδόσεις του. Γιατί τρελάθηκε ο κόσμος με το ChatGPT; Γιατί η εφαρμογή παρουσιάστηκε με αυτόν τον διαλογικό τρόπο. Μπορείς να συνομιλήσεις μαζί του, μπορείς να το ρωτήσεις κάτι και να του πεις “όχι, αυτό δεν είναι σωστό, άλλαξε την απάντησή σου, λαμβάνοντας υπόψη και αυτές τις παραμέτρους”. Τα μοντέλα που παράγουν εικόνες όπως το Stable Difusion ή το Dall-e δεν έκαναν τόσο θόρυβο, γιατί, παρόλο που και εκεί απλώς γράφεις μια εντολή και παίρνεις ένα σύνολο έργων, δεν κάνεις διάλογο. Αυτό το διαλογικό στοιχείο είναι πολύ ανθρώπινο και καταλαβαίνω απόλυτα γιατί έκανε τους ανθρώπους να πιστεύουν ότι το ChatGPT είναι ενσυνείδητο. Δεν πιστεύω όμως ότι αυτά τα μοντέλα είναι ενσυνείδητα. Άραγε αυτό σημαίνει ότι δεν θα φτάσουμε στην τεχνητή γενική νοημοσύνη; Όχι, είμαι βέβαιη ότι θα φτάσουμε. Το ερώτημα είναι πότε. Και η απάντηση είναι όχι ακόμα. Νομίζω ωστόσο ότι αυτή η συζήτηση δεν μας βοηθά τώρα, γιατί θα πρέπει να επικεντρωθούμε περισσότερο στις εφαρμογές του παρόντος. Μόνο έτσι θα προετοιμαστούμε για το μέλλον και για τις ενσυνείδητες μηχανές. Αυτή τη στιγμή αστοχούν πολύ, είδατε για παράδειγμα το CNET που απέσυρε το εργαλείο αυτόματης συγγραφής άρθρων γιατί έκανε πολλά λάθη».
«Είναι αστείο, αλλά είμαι αισιόδοξη»
Έχοντας ερευνήσει τα πρώτα βήματα μιας δυνητικά αποσταθεροποιητικής τεχνολογίας, αναρωτιέμαι ποιο είναι το συναίσθημά της σε σχέση με το μέλλον. «Είναι αστείο, αλλά είμαι αισιόδοξη. Πολλοί μου έλεγαν ότι το βιβλίο μου τους τρόμαξε. Πιστεύω ότι αυτές οι τεχνολογίες θα δημιουργήσουν τρομερή αφθονία. Θα παραχθεί απίστευτος πλούτος. Υπάρχει βέβαια και το θέμα του κατά πόσο η ΤΝ θα συμβάλλει στην απώλεια θέσεων εργασίας. Πιστεύω ότι κάποιοι άνθρωποι όντως θα χάσουν τις δουλειές τους. Αλλά θα υπάρξουν και τεράστιες ευκαιρίες δημιουργίας νέων πραγμάτων. Είναι εξίσου σημαντικό και το ζήτημα του τι είναι θεμελιωδώς ο άνθρωπος. Όλα όμως τα ερωτήματα θα συγκλίνουν στο ποιος ελέγχει τα μοντέλα. Αυτή είναι πιο σπουδαία ερώτηση. Προς το παρόν θα βλέπουμε όλο και συχνότερα ανθρώπους να διαμαρτύρονται λέγοντας: «Ω! H ΤΝ μου έκλεψε την τέχνη» ή «θα χάσουμε τις δουλειές μας». Λίγοι όμως εστιάζουν στο ότι αυτές οι τεχνολογίες θα πρέπει να είναι δημόσιο αγαθό. Το επαναλαμβάνω, δεν θα πρέπει να καταλήξουν στα χέρια λίγων, γιατί έχουν τρομερές επιπτώσεις στην εκπαίδευση, στην επιστήμη, στη βιοτεχνολογία. Όλα θα εξαρτηθούν από το ποιος θα έχει πρόσβαση σε αυτές τις τεχνολογίες».
«Λίγοι εστιάζουν στο ότι αυτές οι τεχνολογίες θα πρέπει να είναι δημόσιο αγαθό. Δεν θα πρέπει να καταλήξουν στα χέρια λίγων».
Απειλή εκλογικής χειραγώγησης
Τέλος, τη ρωτώ με κάποια ανησυχία για το μέλλον της πολιτικής. Δείχνει να συμμερίζεται το συναίσθημά μου. «Το μόνο σίγουρο είναι ότι θα υπάρξει μεγάλος θόρυβος στις εκλογικές καμπάνιες. Αν νομίζαμε ότι έως τώρα στο διαδίκτυο υπήρχαν πολλά ψευδή άρθρα και τρολ και καμπάνιες παραπληροφόρησης, καλό είναι να αναθεωρήσουμε. Δεν έχουμε δει τίποτε ακόμα μπροστά σε αυτό που έρχεται με τη βοήθεια της παραγωγικής ΤΝ, καθώς ο καθένας θα έχει στη διάθεσή του ένα εργαλείο με το οποίο θα μπορεί να παράγει άφθονα κείμενα, εικόνες, αλλά και βίντεο. Γίνονται κάποιες προσπάθειες για να εξασφαλιστεί η εγκυρότητα των δημοσιεύσεων, αλλά δεν υπάρχει ασφαλές πρωτόκολλο να ακολουθηθεί και να μας προστατεύσει όλους. Το οικοσύστημα των πληροφοριών θα διαβρωθεί περαιτέρω. Θα υπάρχει τόσο πολύ περιεχόμενο και θόρυβος, που θα πιστεύεις ό,τι σε βολεύει και αυτό θα γίνεται όλο και χειρότερο. Θα γίνεται όλο και πιο δύσκολο να συμφωνήσουμε σε έναν κοινό τόπο. Θα γίνεται όλο και πιο εύκολο να χειραγωγηθούν εκλογικά αποτελέσματα και να στοχευθούν πολιτικοί. Ειλικρινά, δεν θα ήθελα να είμαι πολιτικός αυτή την εποχή».
