Полиция Балтимора арестовала Дажона Лесли Дариена, бывшего спортивного директора средней школы Пайксвилля (PHS), за то, что он якобы выдавал себя за директора школы с помощью программного обеспечения искусственного интеллекта, чтобы создать впечатление, будто он делает расистские и антисемитские высказывания.

Дэриену из Балтимора, штат Мэриленд, впоследствии было предъявлено обвинение в мести свидетелям, преследовании, краже и срыве школьной деятельности. Его задержали поздно ночью при попытке сесть на рейс в аэропорту BWI Тергуд Маршалл. Сотрудники службы безопасности остановили его, поскольку заявленное огнестрельное оружие, которое он имел при себе, было неправильно упаковано, а последующая проверка данных выявила выданный ордер на его арест.

«17 января 2024 года департамент полиции округа Балтимор узнал о записи голоса, распространяемой в социальных сетях», — сказал Роберт Маккалоу, начальник полиции округа Балтимор, на сегодняшней пресс-конференции в прямом эфире. «Утверждалось, что голос, записанный в аудиофайле, принадлежит мистеру Эрику Эйсверту, директору средней школы Пайксвилля. Теперь у нас есть убедительные доказательства того, что запись не была подлинной.

«Полицейское управление округа Балтимор пришло к такому выводу после проведения обширного расследования, которое включало в себя привлечение судебно-медицинского эксперта, нанятого по контракту с ФБР, для проверки записи. Результаты анализа показали, что запись содержит следы контента, созданного ИИ».

Маккалоу сказал, что второе мнение судебно-медицинского аналитика из Калифорнийского университета в Беркли также установило, что запись не является подлинной.

«На основании этих выводов и дальнейшего расследования было установлено, что запись была сделана с использованием технологии искусственного интеллекта», — сказал он.

Согласно ордеру, выданному на арест Дариена, аудиофайл был опубликован в социальных сетях 17 января после того, как его отправили по электронной почте школьным учителям. Запись звучала так, как будто директор Эрик Эйсверт сделал достаточно подстрекательские замечания, чтобы побудить полицию посетить школу, чтобы проконсультировать о мерах безопасности для персонала.

«Следует отметить, что комментарии в записи говорят о предполагаемом разочаровании [Эйсверта] результатами тестов афроамериканских студентов и утверждениях о том, что они (афроамериканские студенты) не смогли «проверить, как выбраться из бумажного пакета»». в ордере сказано.

«В записи содержались пренебрежительные комментарии в адрес евреев и двух учителей, которых «никогда не следовало нанимать» в школу. На записи запечатлен разговор между [Эйсвертом] и одним из заместителей директора PHS».

И тогда все навалились

Клип, согласно ордеру, привел к временному отстранению Эйсверта от должности, «волне полных ненависти сообщений в социальных сетях и многочисленным звонкам в школу» и существенно нарушил работу школы. Полиция сообщает, что это привело к угрозам в адрес Эйсверта и опасениям по поводу его безопасности.

Эйсверт сообщил следователям, что, по его мнению, аудиозапись была фальшивкой, поскольку «его разговоров в записи никогда не было». И он сказал, что, по его мнению, ответственность несет Дэриен из-за его технического знакомства с ИИ, и у него был возможный мотив: Эйсверт сказал, что «с Дариеном были разговоры о том, что его контракт не будет продлен в следующем семестре из-за частых проблем с производительностью».

Эти проблемы более подробно описаны в ордере. В одном инциденте Эйсверт сделал выговор Дариену за увольнение давнего тренера без одобрения.

Другая версия заключается в том, что Эйсверт расследовал распоряжения Дариена школьными средствами. «В декабре 2023 года Дариен стал объектом расследования потенциальной кражи, инициированного [Эйсвертом]», — говорится в ордере. Отсюда и обвинение свидетеля в возмездии.

Другая сторона, услышанная на записи, сообщила следователям, что разговора не было, и сказала, что эти замечания не походили на то, что сказал бы Эйсверт.

Интервью с Дариеном и его коллегами в школе показывают, что файл был отправлен на адреса государственных школ округа Балтимор с учетной записи Gmail, TJFOUST9. Один из опрошенных отметил, что Дариен «настоятельно посоветовал ей проверить свою электронную почту BCPS на наличие «странного» сообщения».

После этого другая сотрудница, которой «по разным причинам было трудно работать под руководством [Эйсверта]» рассказала, что переправила электронное письмо на мобильный телефон студентки PHS, которая, как она знала, быстро распространит сообщение по различным социальным сетям и повсюду. школа." В повестке в суд на ее бывшую учетную запись университетской электронной почты указывалось, что файл был отправлен новостным организациям и NAACP.

Во время своего первого интервью со следователями Дариен отрицал, что знал кого-либо по имени «Ти Джей Фауст», и отрицал свою причастность к созданию и распространению записи.

Во всем виновата бабушка

Впоследствии следователи направили повестки в Google и AT&T для получения информации о владельце учетной записи и информации об IP-адресе. Они определили, что адрес Gmail был создан 15 августа 2022 года на IP-адресе, связанном с местом жительства бабушки Дариена в Лос-Анджелесе. Они также обнаружили, что номер телефона для восстановления учетной записи TJFOUST9 был связан с учетной записью T-Mobile в США, зарегистрированной на Дариена.

Конкретные инструменты искусственного интеллекта, предположительно используемые Дариеном, не разглашаются. Однако в ордере указывается, что Управление информационных технологий BCPS проверило доступ Дариена к сети и обнаружило несколько случаев, когда он искал инструменты OpenAI через чат Bing.

Мы вступаем в новый, очень тревожный рубеж

OpenAI Voice Engine, инструмент для создания синтетических голосов, не был общедоступен на момент предполагаемых преступлений. Это было объявило 29 марта 2024 г. Однако другие компании, такие как Одиннадцать лабораторий уже давно предлагают технологию клонирования голоса.

Во время пресс-конференции Джон Ольшевски, исполнительный директор округа Балтимор, призвал к большей осторожности в отношении средств массовой информации.

«Очевидно, что мы также вступаем в новый, вызывающий глубокое беспокойство рубеж, поскольку мы продолжаем использовать новые технологии и их потенциал для инноваций и социального блага», — сказал он.

«Мы также должны сохранять бдительность в отношении тех, кто мог бы использовать это в злонамеренных целях. Это потребует от нас большей осведомленности и большей проницательности в отношении звука, который мы слышим, и изображений, которые мы видим. Нам нужно быть осторожными в своих суждениях». ®

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/