Baltimore'i politsei vahistas Pikesville'i keskkooli (PHS) endise spordidirektori Dazhon Leslie Darieni, kes väidetavalt kehastas kooli direktorit tehisintellekti tarkvara abil, et jätta mulje, nagu oleks ta teinud rassistlikke ja antisemiitlikke märkusi.

Marylandi osariigist Baltimore'ist pärit Darienit süüdistati hiljem tunnistajate kättemaksus, jälitamises, varguses ja koolitegevuse häirimises. Ta peeti kinni hilisõhtul, kui ta üritas BWI Thurgood Marshalli lennujaamas lennukile pääseda. Turvatöötajad peatasid ta, kuna temaga kaasas olnud tulirelv oli valesti pakitud ja järgnenud taustakontrolli käigus selgus, et tema vahistamiseks on antud avatud määrus.

"17. jaanuaril 2024 sai Baltimore'i maakonna politseiosakond teada sotsiaalmeedias levitatavast häälesalvestisest," ütles Baltimore'i maakonna politseiülem Robert McCullough täna voogesitatud pressikonverentsil. "Väideti, et helifailile jäädvustatud hääl kuulus Pikesville'i keskkooli direktorile Eric Eiswertile. Meil on nüüd veenvad tõendid selle kohta, et salvestis ei olnud autentne.

"Baltimore'i maakonna politseijaoskond jõudis sellele otsusele pärast ulatuslikku uurimist, mis hõlmas FBI-ga lepinguga kohtuekspertiisi analüütiku kaasamist salvestise ülevaatamiseks. Analüüsi tulemused näitasid, et salvestis sisaldas jälgi tehisintellekti loodud sisust.

McCullough ütles, et California ülikooli Berkeley kohtuekspertiisi analüütiku teine ​​​​arvamus näitas, et salvestis ei olnud autentne.

"Nende leidude ja edasise uurimise põhjal tehti kindlaks, et salvestis loodi tehisintellekti tehnoloogia abil," ütles ta.

Darieni vahistamismääruse kohaselt jagati helifaili sotsiaalmeedia kaudu 17. jaanuaril pärast seda, kui see oli saadetud meili teel kooliõpetajatele. Salvestus kõlas nii, nagu oleks direktor Eric Eiswert teinud piisavalt sütitavaid märkusi, et kutsuda politsei külastama, et anda nõu töötajate kaitsemeetmete kohta.

"Tuleb märkida, et salvestise kommentaarid rääkisid [Eiswerti] väidetavast frustratsioonist afroameeriklaste õpilaste testitulemuste pärast ja väidetest, et nemad (afroameerika üliõpilased) ei suutnud "proovida oma väljapääsu paberkotist". käskkiri ütleb.

"Salvestis jätkas halvustavaid kommentaare juudi üksikisikute ja kahe õpetaja kohta, keda "ei oleks tohtinud kunagi kooli palgata". Salvestis kujutas vestlust [Eiswerti] ja ühe PHS-i abijuhi vahel.

Ja siis kuhjusid kõik sisse

Klipp põhjustas vahistamismääruse kohaselt Eiswerti ajutise eemaldamise ametikohalt ja "vihaga täidetud sõnumite laine sotsiaalmeedias ja arvukate kõnede koolile" ning häiris oluliselt kooli tegevust. Politsei sõnul põhjustas see Eiswerti ähvardusi ja muret tema turvalisuse pärast.

Eiswert ütles uurijatele, et ta usub, et heliklipp oli võlts, kuna "ta ei pidanud kunagi salvestusel olevaid vestlusi". Ja ta ütles, et usub, et Darien oli vastutav tehisintellektiga seotud tundmise tõttu ja tal oli võimalik motiiv: Eiswert ütles, et Darieniga oli "vestlusi selle üle, et tema lepingut ei pikendata järgmisel semestril sagedaste tööalaste väljakutsete tõttu."

Neid väljakutseid kirjeldatakse orderis täpsemini. Üks juhtum seisnes selles, et Eiswert noomis Darienit kauaaegse treeneri ilma nõusolekuta vallandamise eest.

Teine asi on see, et Eiswert uuris Darieni kooli rahaga ümberkäimist. "2023. aasta detsembris algatati Darieni suhtes võimalik varguse uurimine [Eiswert]," öeldakse orderis. Seega tunnistaja kättemaksusüüdistus.

Salvestisel kuuldud teine ​​osapool ütles uurijatele, et vestlust ei toimunud ja ütles, et märkused ei kõlanud nii, nagu Eiswert oleks öelnud.

Intervjuud Darieniga ja koolikaaslastega viitavad sellele, et fail saadeti Baltimore'i maakonna avaliku kooli aadressidele Gmaili kontolt TJFOUST9. Üks intervjueeritud inimestest märkis, et Darien oli "ärgitanud teda kontrollima oma BCPS-i e-posti kontot "veidra" sõnumi osas.

Seejärel avalikustas teine ​​töötaja – kellel oli [Eiswerti] juhtimisel erinevatel põhjustel raske töötada” –, et ta edastas meili PHS-i üliõpilase mobiiltelefonile, kes teadis, et see levitab sõnumit kiiresti erinevates sotsiaalmeediaväljaannetes ja kõikjal. kool." Tema endise ülikooli e-posti konto kohta saadetud kohtukutse näitas, et fail on edastatud uudisteorganisatsioonidele ja NAACP-le.

Oma esialgsel küsitlusel uurijatega eitas Darien, et teadis kedagi, kelle nimi on "TJ Foust", ning eitas igasugust seotust salvestise loomise ja levitamisega.

Süüdista selles vanaema

Seejärel saatsid uurijad Google'ile ja AT&T-le kohtukutse, et saada teavet konto omandiõiguse ja IP-aadressi kohta. Nad tegid kindlaks, et Gmaili aadress loodi 15. augustil 2022 IP-aadressil, mis oli seotud Darieni vanaema Los Angelese elukohaga. Lisaks leidsid nad, et TJFOUST9 konto varutelefoninumber oli seotud Darienile registreeritud T-Mobile USA kontoga.

Konkreetseid tehisintellekti tööriistu, mida Darien väidetavalt kasutab, ei ole avalikustatud. Käsk näitab siiski, et BCPS-i infotehnoloogiaamet vaatas Darieni võrgujuurdepääsu üle ja leidis mitmeid juhtumeid, kus ta otsis Bing Chati kaudu OpenAI tööriistu.

Me astume uuele sügavalt puudutavale piirile

Sünteetiliste häälte loomise tööriist OpenAI Voice Engine ei olnud väidetavate kuritegude ajal avalikult saadaval. See oli teatas 29. märtsil 2024. Teistele ettevõtetele aga meeldib ElevenLabs on pakkunud häälkloonimise tehnoloogiat juba pikemat aega.

Pressikonverentsil kutsus Baltimore'i maakonna juht John Olszewski üles olema avaliku meedia suhtes ettevaatlikum.

"On selge, et me astume ka uude sügavalt murettekitavasse piiri, kuna jätkame areneva tehnoloogia ja selle potentsiaali innovatsiooni ja sotsiaalse hüvangu omaksvõtmist," ütles ta.

"Samuti peame olema valvsad nende suhtes, kes oleks seda pahatahtlikuks kavatsusteks kasutanud. See eeldab, et oleme kuuldava heli ja nähtavate piltide osas teadlikumad ja tähelepanelikumad. Peame olema oma otsustes ettevaatlikud." ®

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/