Η OpenAI ανακοίνωσε ένα εντυπωσιακό νέο εργαλείο τεχνητής νοημοσύνης με την ονομασία “Voice Engine“, το οποίο βασίζεται στην προϋπάρχουσα τεχνολογία της μετατροπής κειμένου σε ομιλία από το 2022. Αυτή η τεχνολογία κλωνοποίησης φωνής διαθέτει τη δυνατότητα να αναπαράγει με εντυπωσιακή ακρίβεια μια ανθρώπινη φωνή, απλά αναλύοντας ένα σύντομο δείγμα φωνής, διάρκειας μόλις 15 δευτερολέπτων.
Σύμφωνα με την OpenAI, αυτή η τεχνολογία μπορεί να χρησιμοποιηθεί επωφελώς ως βοηθός ανάγνωσης, για μεταφράσεις γλωσσών ή ακόμα και για τη βοήθεια ατόμων που αντιμετωπίζουν προβλήματα με τη φωνή τους.
Ωστόσο, παρά τα πολλά δυνητικά οφέλη, η κακόβουλη χρήση αυτής της τεχνολογίας μπορεί να προκαλέσει σοβαρά προβλήματα, καθώς μπορεί να οδηγήσει στη δημιουργία πολύ πειστικών deepfakes. Επομένως, παρά το γεγονός ότι το Voice Engine δεν έχει κυκλοφορήσει δημοσίως ακόμα, η OpenAI αναγνωρίζει τους κινδύνους και επισημαίνει ότι ιδιαίτερα σε περιόδους εκλογών η κατάχρηση αυτής της τεχνολογίας μπορεί να είναι εξαιρετικά επικίνδυνη.
Είναι σημαντικό να σημειωθεί ότι η OpenAI έχει λάβει μέτρα προφύλαξης για την αποτροπή της κατάχρησης του Voice Engine. Όλοι οι προεπισκόποι του προϊόντος έχουν συμφωνήσει με αυστηρούς όρους χρήσης, που περιλαμβάνουν την απαγόρευση της μίμησης της φωνής ενός ατόμου χωρίς την άδειά τους.
Επιπλέον, η OpenAI έχει εφαρμόσει watermarks στα δεδομένα φωνής, προκειμένου να εντοπίζεται η πηγή του ήχου. Αυτό το μέτρο προφύλαξης θα παρέχει στην εταιρεία τη δυνατότητα να παρεμβαίνει αποτελεσματικά σε περιπτώσεις κατάχρησης.
Τέλος, όταν το προϊόν κυκλοφορήσει επίσημα, η OpenAI θα διαθέτει μια απαγορευμένη λίστα, στην οποία θα εντοπίζει και θα αποτρέπει τη μίμηση φωνής από εξέχοντα άτομα, με σκοπό την αποφυγή περαιτέρω καταχρήσεων της τεχνολογίας.