OpenAI, pengembang chatbot AI populer ChatGPT baru saja merambah pasar asisten suara dengan teknologi baru mereka, Voice Engine. Teknologi inovatif tersebut mampu menciptakan kembali suara seseorang hanya dengan rekaman 15 detik yang menjadikannya alat yang ampuh dengan implikasi signifikan. Namun, karena kekhawatiran akan potensi penyalahgunaan, OpenAI mengumumkan bahwa mereka tidak akan merilis teknologi ini ke publik untuk saat ini.
Perusahaan yang berbasis di San Francisco tersebut sebelumnya telah mengajukan pendaftaran merek dagang untuk nama Voice Engine pada 19 Maret lalu. Langkah tersebut dilakukan setelah sepekan memamerkan teknologinya kepada penguji awal yang telah setuju untuk menggunakannya secara bertanggung jawab. Mereka berjanji tidak akan meniru individu tanpa izin dan mengungkapkan kapan suara tersebut dibuat oleh AI.
Bahaya potensial dari kloning suara sangat relevan di tahun pemilihan, seperti yang ditunjukkan oleh robocall baru-baru ini di New Hampshire yang menampilkan suara buatan AI yang meniru Presiden Joe Biden. Panggilan tersebut kemudian dikirim ke ribuan pemilih yang membuat semua pihak menyoroti potensi penyalahgunaan dan manipulasi.
Keputusan OpenAI untuk menahan perilisan Voice Engine merupakan tindakan proaktif untuk mengurangi risiko tersebut. Perusahaan telah mengakui keseriusan situasi dan mengambil langkah-langkah untuk memastikan bahwa teknologi tersebut digunakan secara etis.
Pendekatan OpenAI untuk mengumumkan tetapi tidak merilis Voice Engine secara luas mengingatkan pada strategi mereka dengan generator video Sora. Pendekatan yang hati-hati ini menggarisbawahi komitmen perusahaan terhadap inovasi yang bertanggung jawab dan kesadaran mereka akan potensi risiko yang terkait dengan teknologi AI canggih.
