Microsoft bu hafta, hareketsiz bir görüntüden, ses örneğinden ve metin komut dosyasından konuşan insanların videolarını oluşturmaya yönelik bir çerçeve olan VASA-1'in tanıtımını yaptı ve bunun halka açıklanmanın çok tehlikeli olduğunu -haklı olarak- iddia etti.
İnsanların klonlanmış bir sesle senaryolu kelimeleri konuşmaları için ikna edici bir şekilde canlandırılabildiği bu yapay zeka tarafından oluşturulan videolar, ABD Federal Ticaret Komisyonu'nun yaptığı türden bir şey. hakkında uyarıldı geçen ay, öncekinden sonra bir kural önermek AI teknolojisinin kimliğe bürünme dolandırıcılığı için kullanılmasını önlemek için.
Microsoft'un ekibi de bunu kabul ediyor duyuruBu da teknolojinin etik kaygılar nedeniyle piyasaya sürülmediğini açıklıyor. Araştırmayı kimsenin kimliğine bürünmek için değil, sanal etkileşimli karakterler oluşturmak için sunduklarında ısrar ediyorlar. Bu nedenle planlanmış bir ürün veya API yoktur.
Redmond boffins, "Araştırmamız, olumlu uygulamaları amaçlayan sanal yapay zeka avatarları için görsel duygusal beceriler oluşturmaya odaklanıyor" dedi. “Yanlış yönlendirmek veya aldatmak amacıyla kullanılan içeriklerin oluşturulması amaçlanmamaktadır.
"Ancak, diğer ilgili içerik oluşturma teknikleri gibi, yine de insanların kimliğine bürünmek amacıyla kötüye kullanılabilir. Gerçek kişilere yönelik yanıltıcı veya zararlı içerikler oluşturmaya yönelik her türlü davranışa karşıyız ve sahtecilik tespitini geliştirmeye yönelik tekniğimizi uygulamakla ilgileniyoruz.”
Biyometrik kimlik doğrulama şirketi Token Başkanı ve üretken yapay zeka konusunda sık sık konuşmacı olan Kevin Surace şunları söyledi: Kayıt Bir e-postada, sabit bir çerçeveden ve klonlanmış ses dosyasından canlandırılan yüzlerin daha önce teknoloji gösterimleri olmasına rağmen, Microsoft'un gösteriminin en son teknolojiyi yansıttığı belirtildi.
"E-postaları ve diğer ticari kitle iletişimini kişiselleştirmenin sonuçları muhteşem" diye belirtti. “Hatta eski resimleri de canlandırıyorum. Bir dereceye kadar bu sadece eğlenceli ve bir başka açıdan da önümüzdeki aylarda ve yıllarda hepimizin kullanacağı sağlam iş uygulamaları içeriyor.”
Deepfake'in "eğlencesi" yüzde 96 oranında rızaya dayalı olmayan pornoydu. değerlendirilen [PDF] 2019'da siber güvenlik firması Deeptrace tarafından.
Bununla birlikte Microsoft'un araştırmacıları, gerçekçi görünen insanlar yaratmanın ve sözcükleri onların ağzına sokmanın olumlu yararları olduğunu öne sürüyor.
"Böyle bir teknoloji, dijital iletişimi zenginleştirme, iletişim bozukluğu olan kişiler için erişilebilirliği artırma, eğitimi dönüştürme, etkileşimli yapay zeka eğitimi içeren yöntemler ve sağlık hizmetlerinde terapötik destek ve sosyal etkileşim sağlama vaadini taşıyor." Araştırma kağıdı "porno" veya "yanlış bilgi" kelimelerini içermeyen.
Yapay zeka tarafından oluşturulan videonun deepfake ile tam olarak aynı olmadığı tartışılabilir olsa da, ikincisi tanımlı Üretken bir yöntemin aksine dijital manipülasyonla, ikna edici bir sahte, kes-yapıştır aşılama olmadan oluşturulabildiğinde, ayrım önemsiz hale gelir.
Surace, Microsoft'un bu teknolojiyi kötüye kullanım korkusuyla halka sunmaması konusunda ne düşündüğü sorulduğunda, kısıtlamaların uygulanabilirliği konusundaki şüphelerini dile getirdi.
"Microsoft ve diğerleri gizlilik ve kullanım sorunlarını çözene kadar şimdilik geri adım attılar" dedi. "Bunu kimin doğru nedenlerle kullandığını kim nasıl düzenleyecek?"
Surace, halihazırda benzer şekilde gelişmiş açık kaynak modellerinin bulunduğunu da sözlerine ekledi. EMO. "GitHub'dan kaynak kodu alınabilir ve bunun etrafında muhtemelen Microsoft'un çıktılarına rakip olabilecek bir hizmet oluşturulabilir" diye gözlemledi. "Alanın açık kaynak niteliğinden dolayı düzenlenmesi her halükarda imkansız olacaktır."
Bununla birlikte, dünyanın dört bir yanındaki ülkeler yapay zeka tarafından üretilen insanları düzenlemeye çalışıyor. Kanada, Çin, Ve UKDiğer ulusların yanı sıra, hepsinin derin sahtekarlıklara uygulanabilecek düzenlemeleri var ve bunlardan bazıları daha geniş siyasi hedefleri yerine getiriyor. İngiltere sadece bu hafta yasa dışı kıldı rızası olmadan müstehcen deepfake görsel oluşturmak. Bu tür görsellerin paylaşılmasına İngiltere'nin 2023 Çevrimiçi Güvenlik Yasası uyarınca zaten izin verilmiyordu.
Ocak ayında, iki partiden oluşan bir grup ABD'li yasa koyucu tanıttı 2024 tarihli Açık Sahte Görüntüleri ve Rıza Dışı Düzenlemeleri Engelleme Yasası (DEFIANCE Yasası), rıza dışı deepfake görüntülerin mağdurlarının mahkemede hukuk davası açmasına olanak tanıyan bir yasa tasarısı.
Ve 16 Nisan Salı günü, ABD Senatosu Yargı Komitesi, Gizlilik, Teknoloji ve Hukuk Alt Komitesi bir toplantı düzenledi. bir duruşma "Yapay Zekanın Gözetimi: Seçim Deepfakes" başlıklı makale
Deepfake tespit şirketi DeepMedia'nın CEO'su Rijul Gupta, hazırlık konuşmasında şunları söyledi:
Deepfake'lerin en endişe verici yönü, kötü oyunculara makul bir inkar edilebilirlik sunarak gerçek içeriği sahte olarak reddetmelerine olanak sağlamasıdır. Halkın güvenindeki bu erozyon, sosyal dokumuzun ve demokrasimizin temellerine darbe vuruyor. Gördüklerine ve duyduklarına inanmaya programlanmış insan beyni, derin sahtekarlıklara karşı özellikle savunmasızdır. Bu teknolojiler giderek daha sofistike hale geldikçe, toplumumuzu destekleyen ortak gerçeklik duygusunu baltalama tehdidinde bulunuyor, vatandaşların karşılaştıkları her bilginin doğruluğunu sorgulamaya bırakıldığı bir belirsizlik ve şüphecilik ortamı yaratıyor.
Ancak pazarlama uygulamalarını düşünün. ®
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
- PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
- PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
- PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
- Kaynak: https://go.theregister.com/feed/www.theregister.com/2024/04/20/microsoft_deepfake_vasa/
