Η εμφάνιση εργαλείων τεχνητής νοημοσύνης που επιτρέπουν στους ανθρώπους να δημιουργούν fake κριτικές έχουν προκαλέσει σημαντικά ζητήματα αξιοπιστίας.
Οι ψευδείς κριτικές ταλαιπωρούν εδώ και καιρό πολλούς δημοφιλείς ιστότοπους καταναλωτών, όπως το Amazon και το Yelp. Συνήθως ανταλλάσσονται σε ιδιωτικές ομάδες στα social media. Μερικές φορές, οι κριτικές αυτές ξεκινούν από επιχειρήσεις που προσφέρουν στους πελάτες τους κίνητρα, όπως δωροκάρτες για θετικά σχόλια.
Αλλά τα εργαλεία δημιουργίας κειμένου με τεχνητή νοημοσύνη, που έγιναν δημοφιλή από το ChatGPT της OpenAI, επιτρέπουν στους επιτήδειους να παράγουν κριτικές ταχύτερα και σε μεγαλύτερο όγκο, σύμφωνα με ειδικούς της τεχνολογικής βιομηχανίας.
Η παραπλανητική πρακτική, η οποία είναι παράνομη στις ΗΠΑ, διεξάγεται όλο το χρόνο, αλλά γίνεται μεγαλύτερο πρόβλημα για τους καταναλωτές κατά την περίοδο των εορταστικών αγορών, όταν πολλοί άνθρωποι βασίζονται στις κριτικές για να αγοράσουν δώρα ή υπηρεσίες.
Πού εμφανίζονται οι κριτικές που δημιουργούνται από τεχνητή νοημοσύνη;
Οι fake κριτικές εντοπίζονται σε ένα ευρύ φάσμα κλάδων, από το ηλεκτρονικό εμπόριο, τα καταλύματα και τα εστιατόρια μέχρι υπηρεσίες όπως οι επισκευές στο σπίτι, η ιατρική περίθαλψη και τα μαθήματα μουσικής.
Η Transparency Company, μια εταιρεία τεχνολογίας και μια ομάδα παρακολούθησης που χρησιμοποιεί λογισμικό για τον εντοπισμό fake κριτικών, δήλωσε ότι άρχισε να βλέπει να εμφανίζονται σε μεγάλους αριθμούς κριτικές που δημιουργούνται από τεχνητή νοημοσύνη στα μέσα του 2023 και έκτοτε έχουν πολλαπλασιαστεί. Για μια έκθεση που κυκλοφόρησε πριν από λίγες εβδομάδες, η εταιρεία The Transparency Company ανέλυσε 73 εκατομμύρια κριτικές σε τρεις τομείς: οικιακές, νομικές και ιατρικές υπηρεσίες. Σχεδόν το 14% των κριτικών ήταν πιθανότατα ψευδείς, ενώ η εταιρεία ήταν σίγουρη ότι 2,3 εκατομμύρια κριτικές είχαν δημιουργηθεί εν μέρει ή εξ ολοκλήρου από τεχνητή νοημοσύνη. «Είναι απλώς ένα πολύ καλό εργαλείο για αυτούς τους απατεώνες των κριτικών», δήλωσε ο Maury Blackman, επενδυτής και σύμβουλος τεχνολογικών νεοφυών επιχειρήσεων, ο οποίος εξέτασε το έργο της The Transparency Company.
Τον Αύγουστο, η εταιρεία λογισμικού DoubleVerify δήλωσε ότι παρατηρεί μια «σημαντική αύξηση» των εφαρμογών κινητών τηλεφώνων και έξυπνων τηλεοράσεων με κριτικές που έχουν δημιουργηθεί από την τεχνητή νοημοσύνη. Οι κριτικές συχνά χρησιμοποιούνταν για να εξαπατήσουν τους πελάτες ώστε να εγκαταστήσουν εφαρμογές που θα μπορούσαν να μολύνουν συσκευές ή να εμφανίζουν συνεχώς διαφημίσεις, ανέφερε η εταιρεία.
Τον Σεπτέμβριο, η Ομοσπονδιακή Επιτροπή Εμπορίου μήνυσε την εταιρεία που βρίσκεται πίσω από ένα εργαλείο συγγραφής AI και δημιουργίας περιεχομένου που ονομάζεται Rytr, κατηγορώντας την ότι προσφέρει μια υπηρεσία που θα μπορούσε να μολύνει την αγορά με fake κριτικές.
Η FTC, η οποία φέτος απαγόρευσε την πώληση ή την αγορά ψευδών κριτικών, δήλωσε ότι ορισμένοι από τους συνδρομητές της Rytr χρησιμοποίησαν το εργαλείο για να παράγουν εκατοντάδες και ίσως χιλιάδες κριτικές για εταιρείες επισκευής γκαραζόπορτας, πωλήσεων fake τσαντών επώνυμων σχεδιαστών και άλλες επιχειρήσεις.
Ο Μαξ Σπέρο, διευθύνων σύμβουλος της εταιρείας ανίχνευσης τεχνητής νοημοσύνης Pangram Labs, δήλωσε ότι το λογισμικό που χρησιμοποιεί η εταιρεία του εντόπισε με σχεδόν βεβαιότητα ότι ορισμένες αξιολογήσεις που δημιουργήθηκαν από τεχνητή νοημοσύνη και δημοσιεύτηκαν στο Amazon ανέβηκαν στην κορυφή των αποτελεσμάτων αναζήτησης κριτικών, επειδή ήταν τόσο λεπτομερείς και έμοιαζαν καλά μελετημένες.
Ο προσδιορισμός του τι είναι fake ή όχι μπορεί να είναι δύσκολος
Αλλά ο προσδιορισμός του τι είναι fake ή όχι μπορεί να είναι δύσκολος. Η Pangram Labs έχει κάνει ανίχνευση για ορισμένες ηγετικές διαδικτυακές τοποθεσίες, τις οποίες ο Spero αρνήθηκε να κατονομάσει λόγω συμφωνιών μη δημοσιοποίησης. Είπε ότι αξιολόγησε ανεξάρτητα την Amazon και την Yelp. Πολλά από τα σχόλια που δημιουργούσε η τεχνητή νοημοσύνη στο Yelp φάνηκε να δημοσιεύονται από άτομα που προσπαθούσαν να δημοσιεύσουν αρκετές κριτικές για να κερδίσουν το σήμα «Elite», το οποίο έχει ως στόχο να ενημερώνει τους χρήστες ότι πρέπει να εμπιστεύονται το περιεχόμενο, δήλωσε ο Spero.
Το σήμα παρέχει πρόσβαση σε αποκλειστικές εκδηλώσεις με ιδιοκτήτες τοπικών επιχειρήσεων. Οι απατεώνες το θέλουν επίσης για να μπορούν τα προφίλ τους στο Yelp να φαίνονται πιο ρεαλιστικά, δήλωσε ο Kay Dean, πρώην ομοσπονδιακός εγκληματολόγος που διευθύνει μια ομάδα παρακολούθησης που ονομάζεται Fake Review Watch.
Σίγουρα, το γεγονός ότι μια κριτική δημιουργείται με τεχνητή νοημοσύνη δεν σημαίνει απαραίτητα ότι είναι ψευδής. Ορισμένοι καταναλωτές μπορεί να πειραματιστούν με εργαλεία τεχνητής νοημοσύνης για να δημιουργήσουν περιεχόμενο που αντανακλά τα γνήσια συναισθήματά τους. Ορισμένοι που δεν μιλούν καλά την αγγλική γλώσσα λένε ότι στρέφονται στην ΤΝ για να βεβαιωθούν ότι χρησιμοποιούν σωστά τις λέξεις στις κριτικές που γράφουν.
«Μπορεί να βοηθήσει με τις κριτικές (και) να τις κάνει πιο κατατοπιστικές αν προέρχονται από καλές προθέσεις», δήλωσε η καθηγήτρια μάρκετινγκ του Michigan State University Sherry He, η οποία έχει κάνει έρευνα για τις fake κριτικές.
Τι κάνουν οι εταιρείες για τις fake κριτικές
Σημαντικές εταιρείες αναπτύσσουν πολιτικές για το πώς το περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη εντάσσεται στα συστήματά τους για την αφαίρεση ψευδών ή καταχρηστικών κριτικών. Ορισμένες χρησιμοποιούν ήδη αλγορίθμους και ομάδες έρευνας για τον εντοπισμό και την αφαίρεση fake κριτικών, αλλά δίνουν στους χρήστες κάποια ευελιξία για τη χρήση τεχνητής νοημοσύνης.
Εκπρόσωποι της Amazon και της Trustpilot, για παράδειγμα, δήλωσαν ότι θα επιτρέψουν στους πελάτες να δημοσιεύουν κριτικές που υποστηρίζονται από τεχνητή νοημοσύνη, εφόσον αντικατοπτρίζουν τη γνήσια εμπειρία τους. Το Yelp έχει υιοθετήσει μια πιο προσεκτική προσέγγιση, λέγοντας ότι οι κατευθυντήριες γραμμές του απαιτούν από τους καταναλωτές να γράφουν μόνοι τους την κριτική. «Με την πρόσφατη αύξηση της υιοθέτησης εργαλείων AI από τους καταναλωτές, η Yelp έχει επενδύσει σημαντικά σε μεθόδους για την καλύτερη ανίχνευση και την ελαχιστοποίηση τέτοιου περιεχομένου στην πλατφόρμα μας», ανέφερε η εταιρεία σε δήλωσή της.
Ο συνασπισμός, τον οποίο ξεκίνησαν πέρυσι η Amazon, η Trustpilot, ο ιστότοπος κριτικών απασχόλησης Glassdoor και οι ταξιδιωτικοί ιστότοποι Tripadvisor, Expedia και Booking.com, δήλωσε ότι, παρόλο που οι επιτήδειοι μπορεί να χρησιμοποιήσουν την τεχνητή νοημοσύνη για παράνομη χρήση, η τεχνολογία παρουσιάζει επίσης «μια ευκαιρία να αντιδράσουμε σε όσους προσπαθούν να χρησιμοποιήσουν τις κριτικές για να παραπλανήσουν άλλους».
Ο κανόνας της FTC για την απαγόρευση των fake κριτικών, ο οποίος τέθηκε σε ισχύ τον Οκτώβριο, επιτρέπει στον οργανισμό να επιβάλλει πρόστιμα σε επιχειρήσεις και άτομα που εμπλέκονται σε αυτή την πρακτική. Οι εταιρείες τεχνολογίας που φιλοξενούν τέτοιες κριτικές προστατεύονται από την επιβολή του προστίμου, επειδή δεν φέρουν νομική ευθύνη βάσει της αμερικανικής νομοθεσίας για το περιεχόμενο που αναρτούν ξένοι στις πλατφόρμες τους.
Οι εταιρείες τεχνολογίας, συμπεριλαμβανομένων των Amazon, Yelp και Google, έχουν προχωρήσει σε μηνύσεις για ψευδείς κριτικές στις ιστοσελίδες τους. Οι εταιρείες λένε ότι η τεχνολογία τους έχει αποκλείσει ή αφαιρέσει ένα τεράστιο μέρος των ύποπτων κριτικών και των ύποπτων λογαριασμών. Ωστόσο, ορισμένοι ειδικοί λένε ότι θα μπορούσαν να κάνουν περισσότερα.
«Οι προσπάθειές τους μέχρι στιγμής δεν είναι ούτε κατά διάνοια αρκετές», δήλωσε ο Dean του Fake Review Watch. «Αν αυτές οι εταιρείες τεχνολογίας είναι τόσο αφοσιωμένες στην εξάλειψη της απάτης των κριτικών στις πλατφόρμες τους, γιατί εγώ, ένα άτομο που εργάζεται χωρίς αυτοματισμούς, μπορώ να βρω εκατοντάδες ή και χιλιάδες ψευδείς κριτικές σε οποιαδήποτε δεδομένη ημέρα;»
Εντοπισμός fake κριτικών που δημιουργούνται με τεχνητή νοημοσύνη
Οι καταναλωτές μπορούν να προσπαθήσουν να εντοπίσουν τις ψευδείς κριτικές προσέχοντας μερικά πιθανά προειδοποιητικά σημάδια, σύμφωνα με τους ερευνητές. Οι υπερβολικά ενθουσιώδεις ή αρνητικές κριτικές είναι κόκκινες σημαίες. Η αργκό που επαναλαμβάνει το πλήρες όνομα ή τον αριθμό μοντέλου ενός προϊόντος είναι ένα άλλο πιθανό στοιχείο.
Όσον αφορά την τεχνητή νοημοσύνη, έρευνα που διεξήχθη από τον Balázs Kovács, καθηγητή οργανωτικής συμπεριφοράς στο Yale, έδειξε ότι οι άνθρωποι δεν μπορούν να διακρίνουν τη διαφορά μεταξύ των κριτικών που δημιουργούνται από την τεχνητή νοημοσύνη και των κριτικών που γράφονται από τον άνθρωπο.
Ορισμένοι ανιχνευτές ΤΝ μπορεί επίσης να ξεγελαστούν από τα μικρότερα κείμενα, τα οποία είναι συνηθισμένα στις διαδικτυακές κριτικές. Ωστόσο, υπάρχουν ορισμένες «σημάδια AI» που πρέπει να έχουν κατά νου οι online αγοραστές και οι αναζητούντες υπηρεσίες. Η Panagram Labs αναφέρει ότι οι κριτικές που έχουν γραφτεί με AI είναι συνήθως μεγαλύτερες, ιδιαίτερα δομημένες και περιλαμβάνουν «κενά περιγραφικά στοιχεία», όπως γενικές φράσεις και χαρακτηριστικά. Η γραφή τείνει επίσης να περιλαμβάνει κλισέ όπως «το πρώτο πράγμα που μου έκανε εντύπωση» και «game-changer».
Με πληροφορίες από Associated Press
