Η OpenAI ανακοίνωσε την προσθήκη ενός αόρατου υδατογραφήματος σε κείμενα που παράγονται από το ChatGPT και το Codex στην Ευρωπαϊκή Ένωση στο πλαίσιο συμμόρφωσής της με την Πράξη για την Τεχνητή Νοημοσύνη (EU AI Act).

Οι κανόνες διαφάνειας της Πράξης για την Τεχνητή Νοημοσύνη στην Ένωση, οι οποίοι τέθηκαν σε ισχύ στις 2 Αυγούστου, απαιτούν από τις εταιρείες τεχνητής νοημοσύνης να επισημαίνουν το παραγόμενο από AI περιεχόμενο με τρόπο που να μπορεί να αναγνωριστεί από άλλα συστήματα.

Η OpenAI ανέφερε ότι το υδατογράφημα θα διατεθεί τις επόμενες εβδομάδες σε επιλέξιμους χρήστες του ChatGPT και του Codex σε όλα τα συνδρομητικά πακέτα, αλλά μόνο εντός της Ευρωπαϊκής Ένωσης. Οι προγραμματιστές που χρησιμοποιούν το API της OpenAI σε οποιοδήποτε μέρος του κόσμου μπορούν να το ενεργοποιήσουν για επιλεγμένα μοντέλα από σήμερα, αν και είναι απενεργοποιημένο ως προεπιλογή. Η OpenAI διευκρίνισε ότι δεν καθιστά την υδατογράφηση κειμένου παγκόσμια προεπιλογή κατά την έναρξη της εφαρμογής της.

ChatGPT: Τι είναι στην ουσία το υδατογράφημα

Το υδατογράφημα δεν είναι ένα πραγματικό σύμβολο, αλλά λειτουργεί διαμορφώνοντας λεπτά τις επιλογές λέξεων του μοντέλου, αφήνοντας ένα μοτίβο που οι αναγνώστες δεν μπορούν να δουν, αλλά ένας ανιχνευτής τεχνητής νοημοσύνης μπορεί να εντοπίσει.

Επειδή εμπεριέχεται στις ίδιες τις λέξεις, μεταφέρεται μαζί με το κείμενο κατά την αντιγραφή και επικόλληση. Η OpenAI δήλωσε ότι το υδατογράφημα δεν ταυτοποιεί τον χρήστη και ότι δεν διαπιστώθηκε καμία ουσιαστική μεταβολή στην απόδοση των μοντέλων της με αυτό ενεργοποιημένο.

Παράλληλα με την ανακοίνωση, η OpenAI δημοσίευσε μια τεχνική έκθεση για τη μέθοδό της, η οποία ονομάζεται textGrain. Η έκθεση, που συντάχθηκε σε συνεργασία με ερευνητές από το Πανεπιστήμιο της Πενσυλβάνια και το Yale, παρουσιάζει ένα παράδειγμα χρήσης ενός κρυφού κλειδιού για την ταξινόμηση των προβλέψεων της επόμενης λέξης για την ολοκλήρωση μιας πρότασης. Όταν προστεθούν εκατοντάδες τέτοιες μικρές «ενώσεις» μαζί, ο ανιχνευτής μπορεί να εντοπίσει το, παραγόμενο από AI, περιεχόμενο χρησιμοποιώντας μόνο το κείμενο και το κλειδί.

Μπορεί το υδατογράφημα να αφαιρεθεί μέσω της επεξεργασίας; Οι δοκιμές της OpenAI υποδεικνύουν πως ναι. Σε μία δοκιμή, η αντικατάσταση του 10% των λέξεων με συνώνυμα έριξε το ποσοστό ανίχνευσης από περίπου 92% στο 66%. Η εταιρεία σημείωσε επίσης ότι τα σύντομα αποσπάσματα, οι απαντήσεις σε μαθηματικά προβλήματα και τα μεταφρασμένα κείμενα είναι πιο δύσκολο να ανιχνευθούν.

Η ανακοίνωση της OpenAI για το ChatGPT

«Επεκτείνουμε την προσέγγισή μας όσον αφορά την προέλευση περιεχομένου ώστε να συμπεριλάβουμε το κείμενο, ανταποκρινόμενοι στις ρυθμιστικές απαιτήσεις της Ευρωπαϊκής Ένωσης, αναγνωρίζοντας παράλληλα τους σημαντικούς περιορισμούς της τρέχουσας τεχνολογίας υδατογράφησης κειμένου

Τα εργαλεία μας βοηθούν ήδη στην επαλήθευση του κατά πόσον μια εικόνα ή ένα αρχείο ήχου δημιουργήθηκε με τα μοντέλα μας. Η εργασία αυτή βασίζεται σε αυτές τις προσπάθειες για να βοηθήσει τους ανθρώπους να κατανοούν καλύτερα πότε το περιεχόμενο ενδέχεται να έχει δημιουργηθεί ή τροποποιηθεί με ένα μοντέλο της OpenAI.

Στην Ε.Ε., θα ξεκινήσουμε την υδατογράφηση επιλέξιμου κειμένου από το ChatGPT και το Codex τις επόμενες εβδομάδες για να συμμορφωθούμε με την Πράξη για την Τεχνητή Νοημοσύνη της Ε.Ε. (EU AI Act).

Οι πελάτες που χρησιμοποιούν το API μας μπορούν από σήμερα (εννοεί από τη Δευτέρα) να ενεργοποιήσουν την υδατογράφηση κειμένου για επιλεγμένα μοντέλα σε όλο τον κόσμο.

Όταν είναι δυνατόν, θέλουμε να δίνουμε στους ανθρώπους τη δυνατότητα επιλογής και να είμαστε σαφείς σχετικά με το τι μπορεί και τι δεν μπορεί να κάνει η υδατογράφηση.

Ένα υδατογράφημα κειμένου βοηθά να απαντηθεί ένα ερώτημα: “Δημιουργήθηκε αυτό -κατά πάσα πιθανότητα- από ένα μοντέλο της OpenAI;”.

Λειτουργεί ενσωματώνοντας ένα αόρατο σήμα στο κείμενο καθώς αυτό δημιουργείται. Ένας ανιχνευτής μπορεί να αναζητήσει αυτό το σήμα, ενώ η διαδικασία δεν προσθέτει ορατά σημάδια ή ειδικούς χαρακτήρες. Δεν αναφέρει ποιος έγραψε αρχικά το κείμενο ή σε ποιον ανήκει. Δεν ταυτοποιεί κάποιο πρόσωπο, οργανισμό, λογαριασμό, συνομιλία ή εντολή.

Στις δοκιμές μας, η υδατογράφηση δεν έχει επηρεάσει τις δυνατότητες ή την ταχύτητα των μοντέλων μας, ούτε τον τρόπο με τον οποίο διαβάζονται οι απαντήσεις τους.

Τα υδατογραφήματα έχουν όρια. Συχνά είναι μη ανιχνεύσιμα, ειδικά σε σύντομα αποσπάσματα. Η ανασύνταξη ή η μετάφραση του κειμένου μπορεί να αφαιρέσει εντελώς το υδατογράφημα.

Γι' αυτόν τον λόγο, προς το παρόν, μόνο εγκεκριμένοι ερευνητές θα έχουν πρόσβαση στον ανιχνευτή μας, ώστε να μπορούν να μας βοηθήσουν να αξιολογήσουμε και να βελτιώσουμε την τεχνολογία.

Αντιμετωπίζουμε την υδατογράφηση κειμένου ως ένα διαρκές πεδίο έρευνας. Θα συνεχίσουμε τις δοκιμές και τις βελτιώσεις, αξιοποιώντας τα σχόλια των χρηστών, των προγραμματιστών, των φορέων χάραξης πολιτικής και των ερευνητών».

Με πληροφορίες από Lifo