پلیس بالتیمور Dazhon Leslie Darien، مدیر ورزشی سابق دبیرستان Pikesville (PHS) را به اتهام جعل هویت مدیر مدرسه با استفاده از نرم افزار هوش مصنوعی دستگیر کرده است تا به نظر برسد که او اظهارات نژادپرستانه و یهودی ستیزانه داشته است.
دارین، از بالتیمور، مریلند، متعاقباً به انتقام گیری شاهدان، تعقیب، دزدی و اخلال در عملیات مدرسه متهم شد. او اواخر شب در تلاش برای سوار شدن به یک پرواز در فرودگاه BWI Thurgood Marshall بازداشت شد. پرسنل امنیتی او را متوقف کردند زیرا اسلحه اعلام شده او به طور نامناسب بسته بندی شده بود و بررسی سوابق بعدی حاکی از صدور حکم باز برای دستگیری او بود.
رابرت مک کالو، رئیس پلیس شهرستان بالتیمور، در یک کنفرانس مطبوعاتی پخش شده امروز گفت: «در 17 ژانویه 2024، اداره پلیس شهرستان بالتیمور از پخش صدای ضبط شده در رسانه های اجتماعی مطلع شد. گفته می شود صدای ضبط شده در فایل صوتی متعلق به آقای اریک ایزورت، مدیر دبیرستان Pikesville است. ما اکنون شواهد قطعی داریم که نشان می‌دهد ضبط صحت نداشته است.
"اداره پلیس شهرستان بالتیمور پس از انجام تحقیقات گسترده، که شامل آوردن یک تحلیلگر پزشکی قانونی قرارداد با FBI برای بررسی ضبط شده بود، به این تصمیم رسید. نتایج تجزیه و تحلیل نشان داد که ضبط حاوی آثاری از محتوای تولید شده توسط هوش مصنوعی است.
مک کالو گفت که نظر دوم یک تحلیلگر پزشکی قانونی در دانشگاه کالیفرنیا در برکلی نیز مشخص کرد که ضبط صحت ندارد.
او گفت: «بر اساس این یافته‌ها و بررسی‌های بیشتر، مشخص شد که ضبط با استفاده از فناوری هوش مصنوعی ایجاد شده است.
بر اساس حکم دستگیری دارین، این فایل صوتی پس از ارسال از طریق ایمیل برای معلمان مدرسه، در 17 ژانویه از طریق رسانه های اجتماعی به اشتراک گذاشته شد. صدای ضبط شده به نظر می رسید که گویی مدیر ارشد اریک آیسورت به اندازه کافی اظهارات تحریک آمیزی را بیان کرده است که باعث شد پلیس برای مشاوره در مورد اقدامات امنیتی حفاظتی به کارکنان مراجعه کند.
"لازم به ذکر است که نظرات در ضبط شده به ناامیدی ادعایی [آیسورت] از نمرات آزمون دانش آموزان آفریقایی-آمریکایی و اظهاراتی مبنی بر اینکه آنها (دانشجویان آمریکایی آفریقایی تبار) نمی توانند "راه خود را از یک کیسه کاغذی آزمایش کنند" صحبت می کند. حکم می گوید
این ضبط در ادامه اظهارات توهین آمیزی درباره افراد یهودی و دو معلم داشت که «هرگز نباید در مدرسه استخدام می شدند». ضبط مکالمه بین [Eiswert] و یکی از دستیاران PHS را به تصویر می‌کشد.
و سپس همه انباشته شدند
این کلیپ، طبق حکم، منجر به برکناری موقت ایسورت از سمت خود و "موجی از پیام های پر از نفرت در رسانه های اجتماعی و تماس های متعدد با مدرسه" شد و به طور قابل توجهی در عملکرد مدرسه اختلال ایجاد کرد. پلیس می گوید که این امر منجر به تهدیدات علیه آیسورت و نگرانی در مورد امنیت او شده است.
Eiswert به بازرسان گفت که او معتقد است که این کلیپ صوتی جعلی بوده است زیرا "او هرگز مکالمات ضبط شده را نداشته است." و او گفت که معتقد است دارین به دلیل آشنایی فنی با هوش مصنوعی مسئول بوده است و انگیزه‌ای احتمالی دارد: آیسورت گفت: «مکالمه‌هایی با دارین در مورد تمدید نشدن قراردادش در ترم آینده به دلیل چالش‌های مکرر عملکرد کاری صورت گرفته است.»
این چالش ها با عبارات خاص تری در حکم شرح داده شده است. یکی از اتفاقات مربوط به این بود که ایزورت دارین را به خاطر اخراج یک مربی طولانی مدت بدون تأیید سرزنش کرد.
مورد دیگر این است که Eiswert در حال تحقیق در مورد مدیریت دارین با بودجه مدرسه بود. در این حکم آمده است: "در دسامبر 2023، دارین موضوع تحقیقات احتمالی سرقت [Eiswert] بود." از این رو، اتهام قصاص شاهد.
طرف مقابل شنیده شده در ضبط به بازرسان گفت که این مکالمه اتفاق نیفتاده است و گفت که این اظهارات شبیه چیزی نیست که آیسورت می گوید.
مصاحبه با دارین و همکارانش در مدرسه نشان می‌دهد که فایل از طریق یک حساب جی‌میل، TJFOUST9، به آدرس‌های مدرسه عمومی شهرستان بالتیمور ارسال شده است. یکی از افرادی که با آنها مصاحبه شد اشاره کرد که دارین «از او خواسته بود که حساب ایمیل BCPS خود را برای یک پیام «عجیب» بررسی کند.
پس از آن، یکی دیگر از کارکنان - که "به دلایل مختلف کار تحت رهبری [آیسورت] را سپری کرد" - فاش کرد که ایمیل را به تلفن همراه یک دانشجوی PHS که می‌دانست به سرعت پیام را در رسانه‌های اجتماعی مختلف و در سراسر جهان پخش می‌کند، ارسال کرده است. مدرسه." احضاریه ای برای حساب ایمیل دانشگاه سابق او نشان داد که پرونده به سازمان های خبری و NAACP ارسال شده است.
دارین در طول مصاحبه اولیه خود با بازرسان، آشنایی با کسی به نام "تی جی فاست" را انکار کرد و هرگونه دخالت در ایجاد و توزیع ضبط را انکار کرد.
سرزنش مادربزرگ
متعاقباً، بازرسان احضاریه هایی را برای Google و AT&T ارسال کردند تا اطلاعات مالکیت حساب و اطلاعات آدرس IP را به دست آورند. آنها مشخص کردند که آدرس جی میل در 15 آگوست 2022 در یک آدرس IP مرتبط با محل سکونت مادربزرگ دارین در لس آنجلس ایجاد شده است. آنها همچنین دریافتند که شماره تلفن بازیابی برای حساب TJFOUST9 با حساب T-Mobile US ثبت شده در Darien مرتبط است.
ابزارهای هوش مصنوعی خاصی که گفته می شود توسط دارین استفاده می شود فاش نشده است. اما این حکم نشان می‌دهد که دفتر فناوری اطلاعات BCPS دسترسی به شبکه Darien را بررسی کرده و چندین مورد را پیدا کرده است که او ابزارهای OpenAI را از طریق Bing Chat جستجو کرده است.
ما در حال ورود به یک مرز جدید عمیقا نگران کننده هستیم
OpenAI Voice Engine، ابزاری برای ایجاد صداهای مصنوعی، در زمان جنایات ادعا شده در دسترس عموم نبود. بود اعلام کرد در 29 مارس 2024. با این حال، شرکت های دیگر مانند Eleven Labs مدت طولانی تری است که فناوری شبیه سازی صدا را ارائه می دهند.
در طول کنفرانس مطبوعاتی، جان اولزوسکی، مدیر اجرایی شهرستان بالتیمور، خواستار احتیاط بیشتر در مورد رسانه های عمومی شد.
او گفت: «روشن است که ما همچنین در حال ورود به یک مرز جدید عمیقاً نگران کننده هستیم، زیرا همچنان به پذیرش فناوری نوظهور و پتانسیل آن برای نوآوری و خیر اجتماعی ادامه می دهیم.
ما همچنین باید در برابر کسانی که از آن برای نیت مخرب استفاده می‌کنند هوشیار باشیم. این امر مستلزم آن است که نسبت به صدایی که می شنویم و تصاویری که می بینیم آگاه تر و متین تر باشیم. ما باید در قضاوت خود محتاط باشیم.» ®
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
- PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
- PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
- PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
- منبع: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/
