Η κόρη του Drew Crescent δολοφονήθηκε το 2006 από τον πρώην σύντροφό της στο Όστιν του Τέξας, όταν ήταν μόλις 18 ετών. Η δολοφονία της έλαβε τόση κάλυψη από τα μέσα ενημέρωσης που η Ντρου είδε πρόσφατα το όνομά της στις ειδοποιήσεις της Google Τζένιφερ Αν Κρεσέντ.
Ωστόσο, η ειδοποίηση που έλαβε η Ντρου πριν από μερικές εβδομάδες ήταν διαφορετική από τις άλλες. Αυτό αφορούσε ένα chatbot τεχνητής νοημοσύνης με την εικόνα της Jennifer στην πλατφόρμα Character.AI που υποστηρίζεται από την Google.
Οι διαδικτυακές αναφορές για τη δολοφονία της Jennifer Crescent χρησιμοποιήθηκαν για να «κατασκευάσουν» έναν «φιλικό χαρακτήρα τεχνητής νοημοσύνης» που υποδυόταν ψευδώς ως «δημοσιογράφος βιντεοπαιχνιδιών». Κάθε χρήστης της πλατφόρμας μπορούσε να μιλήσει με την “Jennifer”, παρόλο που κανείς δεν το συμφώνησε.
Το Character.AI, το οποίο έχει συγκεντρώσει πάνω από 150 εκατομμύρια δολάρια σε χρηματοδότηση και πρόσφατα παραχώρησε άδεια για ορισμένες βασικές τεχνολογίες του στην Google, αφαίρεσε το avatar της Jennifer ως παραδέχτηκε ότι η δημιουργία του chatbot παραβίαζε τους κανόνες του.
Ωστόσο, η Jennifer Ann Crescent δεν είναι το μόνο άτομο που έχει μετατραπεί σε avatar στο Character.AI χωρίς συγκατάθεση. Η Wired αναφέρει ότι έχει εντοπίσει αρκετές περιπτώσεις δημιουργίας ψηφιακών προσώπων χωρίς τη συγκατάθεση πραγματικών ανθρώπων.
Για τον Drew Crescent, η δημιουργία μιας προσωπικότητας AI βασισμένης στην κόρη του ήταν άλλη μια υπενθύμιση του πόσο περίπλοκο έχει γίνει το Διαδίκτυο. Ως δικηγόρος, πιστεύει ότι το πλαίσιο για την προστασία των τεχνολογικών πλατφορμών καθιστά δύσκολη την αντιμετώπισή τους σε νομικό επίπεδο.
Ωστόσο, θεωρεί το περιστατικό με την κόρη του»άλλη μια ηθική αποτυχία της βιομηχανίας υψηλής τεχνολογίας». «Οι άνθρωποι που βγάζουν τόσα χρήματα δεν μπορούν να μπουν στον κόπο να χρησιμοποιήσουν αυτούς τους πόρους για να βεβαιωθούν ότι κάνουν το σωστό», σημειώνει.
Πώς λειτουργεί το AI χαρακτήρων
Στο Character.AI, η δημιουργία ενός λογαριασμού και στη συνέχεια ενός χαρακτήρα (bot) διαρκεί μόνο λίγα λεπτά για τον χρήστη. Στην πλατφόρμα, θα δείτε chatbots που είναι στην πραγματικότητα είδωλα των αγαπημένων σας φανταστικών χαρακτήρων, διασημοτήτων, ακόμη και τυχαίων ανθρώπων που δεν υπάρχουν στην πραγματικότητα.
Οι χρήστες χτίζουν την «προσωπικότητα» των bots με βάση τις πληροφορίες που παρέχουν. Για παράδειγμα, σε ένα chatbot μπορεί να αρέσει ο καφές, η μυθολογία, οι δράκοι και άλλα. Ετσι, Μόλις οριστεί η “προσωπικότητα” σε ένα συνολικό πλαίσιο, το μοντέλο γλώσσας Caracter.AI θα “αναλάβει” τη συνομιλία με τον χρήστη.
Η πλατφόρμα είναι δωρεάν και έχει όριο ηλικίας 13 ετών και άνω. Υπάρχουν επίσης κανόνες σχετικά με τη μη παραβίαση της πνευματικής ιδιοκτησίας ή τη χρήση ονομάτων ή προσώπων χωρίς άδεια.
Νομικό πλαίσιο
Ο Ντρου Κρεσέντ πέθανεδεν έχει ιδέα ποιος δημιούργησε την προσωπικότητα της νεκρής κόρης του στο Character.AI. Ωστόσο, πιστεύει ότι διάφορες ψηφιακές ενδείξεις θα μπορούσαν να έχουν κάνει κάποιον να πιστέψει ότι η προσωπικότητά της σχετιζόταν κατά κάποιο τρόπο με τα βιντεοπαιχνίδια. Για παράδειγμα, ο θείος της Μπράιαν, που έχει το ίδιο επώνυμο, είναι πολύ γνωστός στην κοινότητα των βιντεοπαιχνιδιών.
Σύμφωνα με τη σύμβουλο δημόσιας γνώσης Meredith Rose, είναι νομικά πιο εύκολο να εμποδίσεις έναν φανταστικό χαρακτήρα να έχει πρόσβαση στα bots της πλατφόρμας παρά ένα πραγματικό πρόσωπο.
«Ο νόμος αναγνωρίζει τα πνευματικά δικαιώματα στις πινακίδες», λέει η Rose. «Οι όροι υπηρεσίας του Character.AI μπορεί να περιλαμβάνουν διατάξεις σχετικά με την πλαστοπροσωπία, αλλά η σχετική νομοθεσία των ΗΠΑ, ιδιαίτερα όταν πρόκειται για την τεχνητή νοημοσύνη, είναι πολύ πιο ευέλικτη», προσθέτει η Rose.