Yapay Zeka Ses Klonlaması Yükselişte. İşte Bilmeniz Gerekenler

Bir Arizona ailesi birkaç ay önce çok korkmuştu. adam kaçırma ve fidye zannettikleri şeyin, yapay zekanın yarattığı topyekun bir dolandırıcılık olduğu ortaya çıkınca. Sevdiklerinizle aynı sese sahip dolandırıcılık çağrılarıyla ilgili raporlar arttıkça, birçok kişi yapay zekanın insanları kolayca erişilebilen ve yalnızca küçük bir ücret, birkaç dakika ve istikrarlı bir internet bağlantısı gerektiren teknolojiyle tehdit etmek için silah haline getirilebileceğinden korkuyor.

Jennifer DeStefano, 15 yaşındaki kızı bir kayak yarışı için şehir dışındayken bir Ocak öğleden sonra isimsiz bir telefon aldı. DeStefano, kızının telefona panik içinde ve çığlık atarak cevap verdiğini duydu, hemen ardından bir adamın sesi, kendisine 1 milyon dolar gönderilmezse uyuşturucu kullanmakla ve DeStefano’nun kızını kaçırmakla tehdit etti. CNN bildirdi.

DeStefano birkaç dakika sonra kızına ulaşabildi, kızı kaçırılmadığı ve fidye çağrısına karışmadığı için ne olduğu konusunda kafası karışmıştı. Acil durum ekipleri, ailenin aramayı yapay zeka kullanan bir aldatmaca olarak tanımlamasına yardımcı oldu.

DeStefano, “Belli ki onun sesiydi,” dedi. CNN“bükülme, her şey.”

Yapay zeka destekli dolandırıcılık çağrılarının ne kadar yaygın olduğuna dair veriler sınırlı olsa da, bu yıl TikTok’ta ve diğer sosyal platformlarda sürekli olarak benzer olayların hikayeleri ortaya çıktı ve bu da yapay zekanın zarar verme potansiyeline ilişkin korku ve riske yol açtı.

AI ses klonlama

AI dolandırıcılığı çağrıları, ses klonlama yoluyla kurulur. Bir dolandırıcı çevrimiçi olarak birinin sesinin bir ses klibini bulduğunda, bunu kolayca sesi kopyalayan çevrimiçi bir programa yükleyebilir. Bu tür uygulamalar birkaç yıl önce ortaya çıktı, ancak üretken AI patlaması altında uygulamalar gelişti, daha erişilebilir hale geldi ve kullanımı nispeten ucuz.

Murf, Resemble ve Speechify, bu hizmetler için birkaç popüler şirkettir. Çoğu sağlayıcı ücretsiz deneme süreleri sunar ve aylık abonelik ücretleri, temel planlar için 15 doların altından, premium seçenekler için 100 doların üzerine kadar değişir.

bu Federal Ticaret Komisyonu Başı belada olan bir sevdiğinizden konuyla ilgili bir arama alırsanız, sizinle iletişim kurduğu varsayılan kişiyi normal numarasından aramanızı ve hikayeyi doğrulamanızı önerir. Arayan kişi kablolama, kripto para birimi veya hediye kartları gibi izlenmesi zor şüpheli kanallar aracılığıyla para isterse, bu bir dolandırıcılık işareti olabilir. Güvenlik uzmanları kurulmasını tavsiye ediyor güvenli kelime gerçek bir acil durumda ve bir dolandırıcılığı ayırt etmek için kullanılabilecek sevdiklerinizle.

Müzik endüstrisinde AI ses klonlama

AI ses klonlama, insanların teknolojiyi popüler sanatçılarla aynı sese sahip vokallerle şarkılar oluşturmak için kullandığı müzik alanına da yayıldı. Drake ve Weeknd’in benzerliğini içeren bir şarkı, her iki sanatçının da onu yaratmada herhangi bir katkısı olmamasına rağmen, bu ay internette viral oldu. Her iki sanatçıyı da temsil eden yönetim şirketi, yapay zeka sesleri için değil, yalnızca yasa dışı olarak örneklenen bir ses nedeniyle şarkıyı akış hizmetlerinden kaldırabildi. Drake, Ice Spice’ın rapini yaparken yapay zeka tarafından oluşturulmuş bir parçanın ardından “bu, bardağı taşıran son damla yapay zeka” yorumunu yaptı. yemek ayrıca bu ay viral oldu.

Kanadalı müzisyen Grimes gibi diğer sanatçılar, bu tür bir teknolojinin büyümeye devam edebileceği ve müzik endüstrisinin çalışma şeklini değiştirebileceği bir geleceğe bakıyor. Grimes, “Yapay zeka tarafından üretilmiş, sesimi kullanan başarılı herhangi bir şarkının telif ücretinin %50’sini paylaştıracağım” tweet attı geçen hafta. “Ceza almadan sesimi kullanmaktan çekinmeyin.”

İnsanlar kendileri şarkı yazabilir, ancak bunları ünlü şarkıcılarla kaydedebilir‘ dikkat çekmek için sesler. Şimdiye kadar, derin sahte müzikler için herhangi bir yasal ceza yok, ancak New York Times sanatçıların itibarını zedeleme, vokalistleri kârdan mahrum bırakma ve BİFOC sanatçılarını kültürel olarak kendine mal etme riskleri taşıdığını bildiriyor.

Bize Ulaşın [email protected]’da.