Η αμερικανική OpenAI ανακοίνωσε ότι ανέπτυξε εργαλείο τεχνητής νοημοσύνης που αντιγράφει οποιαδήποτε ανθρώπινη φωνή, δεσμεύεται όμως να μην το λανσάρει άμεσα λόγω του κινδύνου κατάχρησης.
Το μοντέλο Voice Engine («Μηχανή Φωνής») χρειάζεται μόνο 15 δευτερόλεπτα ηχογράφησης για να κλωνοποιήσει τη φωνή του ομιλητή, ανέφερε η εταιρεία σε ιστολόγιό της, επικαλούμενη δοκιμές μικρής κλίμακας.
«Αναγνωρίζουμε ότι η παραγωγή ομιλίας που μιμείται τις φωνές ανθρώπους ενέχει σοβαρούς κινδύνους, τους οποίους λαμβάνουμε ιδιαίτερα υπόψη αυτή την εκλογική χρονιά» ανέφερε η OpenAI, η οποία έγινε διάσημη χάρη στη μηχανή διαλόγου ChatGPT και έχει εξασφαλίσει επενδύσεις δισεκατομμυρίων από τη Microsoft.
Ειδικοί σε θέματα παραπληροφόρησης προειδοποιούν ότι η λεγόμενη παραγωγική ΑΙ, η οποία παράγει κείμενα, εικόνες, βίντεο και άλλο περιεχόμενο με βάση τις οδηγίες του χρήστη, μπορεί να χρησιμοποιηθεί για καμπάνιες παραπληροφόρησης και χειραγώγησης της κοινής γνώμης.
Αναγνωρίζοντας τον κίνδυνο, η OpanAI δηλώνει ότι ακολουθεί μια «προσεκτική και ενήμερη προσέγγιση για την ευρύτερη διάθεση [του Voice Engine] λόγω ενδεχόμενης κατάχρησης των συνθετικών φωνών».
«Είμαι ο Τζο Μπάιντεν»
Σε μια χρονιά που ένα μεγάλο μέρος του παγκόσμιου πληθυσμού προσέρχεται στις κάλπες, από τις ΗΠΑ και την Ινδία μέχρι τη Νότια Αφρική, ο κίνδυνος δεν είναι μόνο θεωρητικός.
Στα τέλη Ιανουαρίου, χιλιάδες πολίτες του Νιου Χάμπσαϊρ άκουσαν στο τηλέφωνο τον Τζο Μπάιντεν να τους ζητά να μην ψηφίσουν στις προκριματικές εκλογές της πολιτείας.
«Είναι σημαντικό να κρατήσετε την ψήφο σας για τις [τελικές] εκλογές του Νοεμβρίου … Η ψήφος αυτή την Κυριακή απλά διευκολύνει τους Ρεπουμπλικανούς στην προσπάθειά τους να αναδείξουν και πάλι τον Ντόναλντ Τραμπ» έλεγε η φωνή.
Οι ρομποτικές κλήσεις διαπιστώθηκε ότι προέρχονταν από την άγνωστη εταιρεία Life Corp. στο Τέξας.
Λίγο αργότερα, η αμερικανική Ομοσπονδιακή Επιτροπή Τηλεπικοινωνιών (FCC) αποφάνθηκε ότι αυτοματοποιημένες κλήσεις με φωνές που παράγονται με τεχνητή νοημοσύνη είναι παράνομες.
Η OpenAI διαβεβαιώνει πως οι συνεργάτες της που συμμετέχουν στις δοκιμές του Voice Engine συμφώνησαν σε όρους, όπως το να ζητούν τη ρητή συγκατάθεση οποιουδήποτε ανθρώπου του οποίου η φωνή κλωνοποιείται. Ακόμα, οι ακροατές τέτοιου υλικού πρέπει να ενημερώνονται ότι οι φωνές που ακούγονται είναι συνθετικές.
«Συνεργαζόμαστε με τους αμερικανούς και διεθνείς εταίρους μας από κυβερνήσεις, μέσα ενημέρωσης, υπηρεσίες ψυχαγωγίας, την εκπαίδευση και φορείς της κοινωνίας των πολιτών για να εξασφαλίσουμε ότι ενσωματώνουμε τις συστάσεις τους» ανέφερε η OpenAI.
Διαβεβαίωσε ακόμα ότι εφαρμόζει «μια σειρά από μέτρα ασφάλειας, συμπεριλαμβανομένης της υδατογράφησης προκειμένου να ιχνηλατείται η προέλευση ηχητικού υλικού που παράγεται με το Voice Engine, καθώς και προληπτική παρακολούθηση του πώς χρησιμοποιείται».
