ตำรวจบัลติมอร์ได้จับกุม Dazhon Leslie Darien อดีตผู้อำนวยการด้านกีฬาของ Pikesville High School (PHS) ในข้อหาแอบอ้างเป็นอาจารย์ใหญ่ของโรงเรียนโดยใช้ซอฟต์แวร์ AI เพื่อให้ดูเหมือนว่าเขาแสดงความเห็นเหยียดเชื้อชาติและต่อต้านชาวยิว

ต่อมาดาเรียนจากบัลติมอร์ รัฐแมริแลนด์ ถูกตั้งข้อหาตอบโต้พยาน สะกดรอยตาม ขโมย และขัดขวางการดำเนินงานของโรงเรียน เขาถูกควบคุมตัวในช่วงดึกขณะพยายามขึ้นเครื่องที่สนามบินบีดับเบิลยูไอ เธอร์กู๊ด มาร์แชล เจ้าหน้าที่รักษาความปลอดภัยหยุดเขาเพราะอาวุธปืนที่ประกาศติดตัวเขาถูกบรรจุอย่างไม่เหมาะสม และจากการตรวจสอบประวัติภายหลังพบว่ามีหมายจับอย่างเปิดเผย

“เมื่อวันที่ 17 มกราคม 2024 กรมตำรวจเทศมณฑลบัลติมอร์ได้รับรู้ว่ามีการบันทึกเสียงเผยแพร่บนโซเชียลมีเดีย” โรเบิร์ต แม็กคัลล็อก หัวหน้าตำรวจเทศมณฑลบัลติมอร์ กล่าวในการแถลงข่าวผ่านระบบสตรีมวันนี้ “มีการกล่าวหาว่าเสียงที่จับได้ในไฟล์เสียงเป็นของ Mr Eric Eiswert อาจารย์ใหญ่ของ Pikesville High School ขณะนี้เรามีหลักฐานที่สรุปได้ว่าการบันทึกนั้นไม่ใช่ของแท้

“กรมตำรวจเทศมณฑลบัลติมอร์บรรลุความมุ่งมั่นดังกล่าวหลังจากดำเนินการสอบสวนอย่างกว้างขวาง ซึ่งรวมถึงการนำนักวิเคราะห์ทางนิติเวชที่ทำสัญญากับ FBI เข้ามาเพื่อตรวจสอบการบันทึก ผลการวิเคราะห์ระบุว่าการบันทึกมีเนื้อหาที่สร้างโดย AI”

McCullough กล่าวว่าความคิดเห็นที่สองจากนักวิเคราะห์ทางนิติวิทยาศาสตร์ที่มหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ ยังระบุด้วยว่าการบันทึกนั้นไม่เป็นความจริง

“จากการค้นพบและการสอบสวนเพิ่มเติม พบว่าการบันทึกดังกล่าวถูกสร้างขึ้นผ่านการใช้เทคโนโลยีปัญญาประดิษฐ์” เขากล่าว

ตามหมายจับที่ออกเพื่อจับกุมดาเรียน ไฟล์เสียงดังกล่าวถูกแชร์ผ่านโซเชียลมีเดียเมื่อวันที่ 17 มกราคม หลังจากถูกส่งทางอีเมลถึงครูในโรงเรียน การบันทึกดังกล่าวฟังดูราวกับว่าอาจารย์ใหญ่ Eric Eiswert ได้แสดงความเห็นที่กระตุ้นอารมณ์มากพอที่จะให้ตำรวจไปเยี่ยมเพื่อให้คำแนะนำเกี่ยวกับมาตรการรักษาความปลอดภัยสำหรับเจ้าหน้าที่

“ควรสังเกตว่าความคิดเห็นในการบันทึกพูดถึงความไม่พอใจที่ถูกกล่าวหาของ [Eiswert] ด้วยคะแนนสอบของนักเรียนชาวอเมริกันเชื้อสายแอฟริกัน และการยืนยันว่าพวกเขา (นักเรียนชาวแอฟริกันอเมริกัน) ไม่สามารถ 'ทดสอบทางออกจากถุงกระดาษ' ได้” หมายจับกล่าวว่า

“การบันทึกดังกล่าวยังแสดงความเห็นที่ดูถูกเหยียดหยามเกี่ยวกับชาวยิวและครูสองคนที่ 'ไม่ควรได้รับการจ้าง' ที่โรงเรียน การบันทึกบรรยายถึงการสนทนาระหว่าง [Eiswert] และผู้ช่วยอาจารย์ใหญ่ของ PHS”

แล้วทุกคนก็พากันเข้ามา

ตามหมายจับ คลิปดังกล่าวนำไปสู่การถอด Eiswert ออกจากตำแหน่งชั่วคราว และ “คลื่นข้อความที่เต็มไปด้วยความเกลียดชังบนโซเชียลมีเดีย และการเรียกร้องให้โรงเรียนหลายครั้ง” และทำให้การดำเนินงานของโรงเรียนหยุดชะงักอย่างมีนัยสำคัญ ตำรวจกล่าวว่าสิ่งนี้นำไปสู่การคุกคามต่อ Eiswert และความกังวลเกี่ยวกับความปลอดภัยของเขา

Eiswert บอกกับผู้สืบสวนว่าเขาเชื่อว่าคลิปเสียงนั้นเป็นของปลอม เนื่องจาก “เขาไม่เคยมีการสนทนาในการบันทึกเลย” และเขาบอกว่าเขาเชื่อว่า Darien มีความรับผิดชอบเนื่องจากความคุ้นเคยทางเทคนิคของเขากับ AI และมีแรงจูงใจที่เป็นไปได้: Eiswert กล่าวว่า "ได้พูดคุยกับ Darien เกี่ยวกับสัญญาของเขาที่จะไม่ต่ออายุในภาคการศึกษาหน้าเนื่องจากความท้าทายในการทำงานบ่อยครั้ง"

ความท้าทายเหล่านั้นได้อธิบายไว้ในข้อกำหนดเฉพาะเจาะจงมากขึ้นในหมาย เหตุการณ์หนึ่งเกี่ยวข้องกับ Eiswert ตำหนิ Darien ที่ไล่โค้ชที่ทำงานมายาวนานโดยไม่ได้รับการอนุมัติ

อีกประการหนึ่งคือ Eiswert กำลังสืบสวนการจัดการกองทุนโรงเรียนของ Darien “ในเดือนธันวาคมปี 2023 Darien ตกเป็นเป้าของการสอบสวนเรื่องการโจรกรรม [Eiswert]” หมายดังกล่าว ดังนั้นข้อหาแก้แค้นพยาน

อีกฝ่ายที่ได้ยินจากบันทึกดังกล่าวบอกกับผู้สืบสวนว่าการสนทนาดังกล่าวไม่ได้เกิดขึ้น และกล่าวว่าคำพูดดังกล่าวฟังดูไม่เหมือนสิ่งที่ไอส์เวิร์ตจะพูดเลย

การสัมภาษณ์กับ Darien และเพื่อนร่วมงานที่โรงเรียนแนะนำว่าไฟล์ดังกล่าวถูกส่งไปยังที่อยู่ของ Baltimore County Public School จากบัญชี Gmail TJFOUST9 หนึ่งในผู้ให้สัมภาษณ์ตั้งข้อสังเกตว่า Darien “กระตุ้นให้เธอตรวจสอบบัญชีอีเมล BCPS ของเธอเพื่อหาข้อความ 'แปลก ๆ'

หลังจากนั้น พนักงานอีกคนซึ่ง "มีช่วงเวลาที่ยากลำบากในการทำงานภายใต้การนำของ [Eiswert] ด้วยเหตุผลหลายประการ" ได้เปิดเผยว่าเธอส่งต่ออีเมลไปยังโทรศัพท์มือถือของนักเรียน PHS ซึ่งเธอรู้ว่าจะเผยแพร่ข้อความอย่างรวดเร็วไปทั่วโซเชียลมีเดียต่างๆ และทั่วทั้ง โรงเรียน." หมายเรียกสำหรับบัญชีอีเมลเดิมของมหาวิทยาลัยของเธอ ระบุว่าไฟล์ดังกล่าวได้รับการส่งต่อไปยังองค์กรข่าวและ NAACP แล้ว

ในระหว่างการสัมภาษณ์ครั้งแรกกับผู้สืบสวน Darien ปฏิเสธที่จะรู้จักใครก็ตามที่ชื่อ "TJ Foust" และปฏิเสธการมีส่วนร่วมใด ๆ ในการสร้างและเผยแพร่การบันทึก

โยนความผิดให้ย่าเลย

ต่อจากนั้น ผู้ตรวจสอบได้ส่งหมายศาลไปยัง Google และ AT&T เพื่อขอรับข้อมูลการเป็นเจ้าของบัญชีและข้อมูลที่อยู่ IP พวกเขาพิจารณาว่าที่อยู่ Gmail สร้างขึ้นเมื่อวันที่ 15 สิงหาคม 2022 ในที่อยู่ IP ที่เกี่ยวข้องกับบ้านพักของยายของดาเรียนในลอสแอนเจลิส พวกเขายังพบอีกว่าหมายเลขโทรศัพท์สำหรับการกู้คืนสำหรับบัญชี TJFOUST9 เชื่อมโยงกับบัญชี T-Mobile US ที่ลงทะเบียนกับ Darien

เครื่องมือ AI เฉพาะที่ถูกกล่าวหาว่าใช้โดย Darien ยังไม่ได้รับการเปิดเผย อย่างไรก็ตาม หมายจับดังกล่าวระบุว่าสำนักงานเทคโนโลยีสารสนเทศ BCPS ได้ตรวจสอบการเข้าถึงเครือข่ายของ Darien และพบหลายกรณีที่เขาค้นหาเครื่องมือ OpenAI ผ่านทาง Bing Chat

เรากำลังเข้าสู่ขอบเขตใหม่ที่เกี่ยวข้องอย่างลึกซึ้ง

OpenAI Voice Engine ซึ่งเป็นเครื่องมือสำหรับสร้างเสียงสังเคราะห์ ไม่ได้เปิดเผยต่อสาธารณะในขณะที่มีการก่ออาชญากรรม มันเป็น ประกาศ เมื่อวันที่ 29 มีนาคม 2024 อย่างไรก็ตาม บริษัทอื่นๆ ชอบ อีเลฟเว่นแล็บส์ ได้นำเสนอเทคโนโลยีการโคลนเสียงมาเป็นเวลานานแล้ว

ในระหว่างการแถลงข่าว จอห์น โอลสซิวสกี้ ผู้บริหารเทศมณฑลบัลติมอร์ เรียกร้องให้ใช้ความระมัดระวังมากขึ้นเกี่ยวกับสื่อสาธารณะ

“เป็นที่ชัดเจนว่าเรากำลังเข้าสู่ขอบเขตใหม่ที่น่ากังวล ในขณะที่เรายังคงเปิดรับเทคโนโลยีเกิดใหม่ และศักยภาพของเทคโนโลยีสำหรับนวัตกรรมและความดีทางสังคม” เขากล่าว

“เรายังต้องระมัดระวังต่อผู้ที่จะใช้มันด้วยเจตนาร้าย นั่นจะทำให้เราต้องตระหนักและแยกแยะเสียงที่เราได้ยินและภาพที่เราเห็นมากขึ้น เราจะต้องระมัดระวังในการตัดสินของเรา”

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
• เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
• เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
• เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
• ที่มา: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/