Baltimore polisi, Pikesville Lisesi'nin (PHS) eski atletik direktörü Dazhon Leslie Darien'i, ırkçı ve Yahudi karşıtı açıklamalar yapıyormuş gibi göstermek için yapay zeka yazılımını kullanarak okul müdürünün kimliğine büründüğü iddiasıyla tutukladı.
Baltimore, Maryland'den Darien daha sonra tanıklara misilleme yapmak, takip etmek, hırsızlık yapmak ve okul faaliyetlerini aksatmakla suçlandı. Gece geç saatlerde BWI Thurgood Marshall Havalimanı'nda uçağa binmeye çalışırken gözaltına alındı. Güvenlik personeli, yanında olduğu belirtilen ateşli silahın uygunsuz bir şekilde paketlenmiş olması ve ardından yapılan özgeçmiş kontrolünde, onun için açık bir tutuklama emrinin ortaya çıkması nedeniyle onu durdurdu.
Baltimore İlçe Polis Şefi Robert McCullough, bugün internet üzerinden yayınlanan basın toplantısında, "17 Ocak 2024'te Baltimore İlçe Polis Departmanı, sosyal medyada dolaşan bir ses kaydının farkına vardı" dedi. “Ses dosyasındaki sesin Pikesville Lisesi Müdürü Bay Eric Eiswert'e ait olduğu iddia edildi. Artık kaydın gerçek olmadığına dair kesin kanıtımız var.
"Baltimore İlçesi Polis Departmanı, kayıtları incelemek için FBI ile sözleşmeli bir adli tıp analistinin getirilmesini de içeren kapsamlı bir soruşturma yürüttükten sonra bu karara vardı. Analiz sonuçları, kaydın yapay zeka tarafından oluşturulan içeriğin izlerini içerdiğini gösterdi."
McCullough, Berkeley'deki Kaliforniya Üniversitesi'nden bir adli tıp analistinin ikinci görüşünün de kaydın orijinal olmadığını belirlediğini söyledi.
"Bu bulgulara ve daha fazla araştırmaya dayanarak, kaydın yapay zeka teknolojisi kullanılarak oluşturulduğu belirlendi" dedi.
Darien hakkında çıkarılan yakalama kararına göre, ses dosyası okul öğretmenlerine e-posta yoluyla gönderildikten sonra 17 Ocak'ta sosyal medyada paylaşıldı. Kayıt, sanki Müdür Eric Eiswert'in, personel için koruyucu güvenlik önlemleri konusunda tavsiyede bulunmak üzere bir polis ziyaretini tetikleyecek kadar kışkırtıcı açıklamalarda bulunmuş gibi görünüyordu.
"Kayıttaki yorumların, [Eiswert'in] Afrikalı-Amerikalı öğrencilerin test puanlarıyla ilgili iddia edilen hayal kırıklıklarına ve onların (Afrikalı Amerikalı öğrencilerin) 'kese kağıdından çıkmayı test edemediklerine' dair iddialara değindiğini belirtmek gerekir." emir diyor ki.
“Kayıt, Yahudi bireyler ve okulda 'asla işe alınmaması gereken' iki öğretmen hakkında aşağılayıcı yorumlarla devam ediyordu. Kayıt, [Eiswert] ile PHS'nin Müdür Yardımcılarından biri arasındaki bir konuşmayı tasvir ediyordu.”
Ve sonra herkes toplandı
Emre göre klip, Eiswert'in geçici olarak görevinden alınmasına ve "sosyal medyada nefret dolu mesajlar dalgasına ve okula çok sayıda çağrı yapılmasına" yol açarak okul faaliyetlerini önemli ölçüde aksattı. Polis, bunun Eiswert'e yönelik tehditlere ve onun güvenliğiyle ilgili endişelere yol açtığını söyledi.
Eiswert, soruşturmacılara ses klibinin sahte olduğuna inandığını, çünkü "kayıttaki konuşmaları hiç yapmadığını" söyledi. Yapay zekaya teknik aşinalığı nedeniyle Darien'in sorumlu olduğuna inandığını ve bunun olası bir nedeni olduğuna inandığını söyledi: Eiswert, "Sık sık iş performansı zorlukları nedeniyle Darien ile sözleşmesinin gelecek dönem yenilenmemesi konusunda görüşmeler yapıldığını" söyledi.
Bu zorluklar emirde daha spesifik terimlerle anlatılmaktadır. Olaylardan biri, Eiswert'in Darien'ı uzun süredir koçunu onay almadan kovduğu için azarlamasıydı.
Bir diğeri ise Eiswert'in Darien'ın okul fonlarını nasıl idare ettiğini araştırıyor olmasıydı. Arama emrinde "Aralık 2023'te Darien, [Eiswert] tarafından başlatılan potansiyel bir hırsızlık soruşturmasının konusuydu" deniyor. Dolayısıyla tanık misilleme suçlaması.
Kayıtta yer alan karşı taraf, soruşturmacılara konuşmanın gerçekleşmediğini ve sözlerin Eiswert'in söyleyeceği hiçbir şeye benzemediğini söyledi.
Darien ve okuldaki arkadaşlarıyla yapılan görüşmeler, dosyanın TJFOUST9 adlı bir Gmail hesabından Baltimore County Devlet Okulu adreslerine gönderildiğini gösteriyor. Görüşülen kişilerden biri, Darien'in "kendisinden BCPS e-posta hesabını 'tuhaf' bir mesaj için kontrol etmesini istediğini" belirtti.
Daha sonra, "[Eiswert'in] liderliği altında çalışmakta çeşitli nedenlerle zor zamanlar geçiren" başka bir personel, e-postayı bir PHS öğrencisinin cep telefonuna ilettiğini ve bu kişinin mesajı çeşitli sosyal medya kuruluşlarına ve geneline hızla yayacağını bildiğini açıkladı. okul." Eski üniversite e-posta hesabına gönderilen bir mahkeme celbi, dosyanın haber kuruluşlarına ve NAACP'ye iletildiğini belirtti.
Darien, müfettişlerle yaptığı ilk görüşmede "TJ Foust" adında birini tanıdığını ve kaydın oluşturulması ve dağıtımıyla herhangi bir ilgisi olduğunu reddetti.
Büyükanneyi suçla
Daha sonra araştırmacılar, hesap sahipliği bilgilerini ve IP adresi bilgilerini almak için Google ve AT&T'ye mahkeme celbi gönderdi. Gmail adresinin 15 Ağustos 2022'de Darien'in büyükannesinin Los Angeles'taki ikametgahıyla ilişkili bir IP adresinde oluşturulduğunu belirlediler. Ayrıca, TJFOUST9 hesabının kurtarma telefon numarasının Darien adına kayıtlı bir T-Mobile ABD hesabıyla ilişkili olduğunu da buldular.
Darien tarafından kullanıldığı iddia edilen spesifik yapay zeka araçları açıklanmadı. Ancak emir, BCPS Bilgi Teknolojileri Ofisi'nin Darien'in ağ erişimini incelediğini ve Bing Chat aracılığıyla OpenAI araçlarını aradığı birkaç örnek bulduğunu gösteriyor.
Derinlemesine endişe verici yeni bir sınıra giriyoruz
Sentetik sesler oluşturmaya yönelik bir araç olan OpenAI Ses Motoru, iddia edilen suçların işlendiği dönemde kamuya açık değildi. Oldu açıkladı 29 Mart 2024'te. Ancak diğer şirketler Eleven Laboratuvarları uzun süredir ses klonlama teknolojisi sunuyor.
Basın toplantısı sırasında Baltimore Bölge Yöneticisi John Olszewski, kamuya açık medya konusunda daha dikkatli olunması çağrısında bulundu.
"Gelişen teknolojiyi ve onun yenilik ve sosyal fayda potansiyelini benimsemeye devam ederken, aynı zamanda son derece endişe verici yeni bir sınıra girdiğimiz açıktır" dedi.
“Bunu kötü niyetle kullanacak kişilere karşı da tetikte olmalıyız. Bu, duyduğumuz ses ve gördüğümüz görüntüler konusunda daha bilinçli ve daha anlayışlı olmamızı gerektirecek. Kararlarımızda dikkatli olmamız gerekecek." ®
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
- PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
- PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
- PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
- Kaynak: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/
