Baltimorska policija je aretirala Dazhona Leslieja Dariena, nekdanjega športnega direktorja srednje šole Pikesville (PHS), zaradi domnevnega lažnega predstavljanja ravnatelja šole z uporabo programske opreme umetne inteligence, da bi bilo videti, kot da daje rasistične in antisemitske pripombe.

Darien iz Baltimora v Marylandu je bil pozneje obtožen maščevanja prič, zalezovanja, kraje in motenj šolskega delovanja. Pridržan je bil pozno zvečer, ko se je poskušal vkrcati na letalo na letališču BWI Thurgood Marshall. Varnostno osebje ga je ustavilo, ker je bilo prijavljeno strelno orožje, ki ga je imel pri sebi, neustrezno zapakirano, preverjanje preteklosti pa je razkrilo odprt nalog za njegovo aretacijo.

"Policija okrožja Baltimore je 17. januarja 2024 izvedela za glasovni posnetek, ki je krožil po družbenih medijih," je na današnji tiskovni konferenci povedal Robert McCullough, načelnik okrožne policije Baltimore. »Glas, zajet v zvočni datoteki, naj bi pripadal gospodu Ericu Eiswertu, ravnatelju srednje šole Pikesville. Zdaj imamo prepričljive dokaze, da posnetek ni bil pristen.

»Policijski oddelek okrožja Baltimore je do te odločitve prišel po izvedbi obsežne preiskave, ki je vključevala privabljanje forenzičnega analitika, sklenjenega s FBI, da pregleda posnetek. Rezultati analize so pokazali, da posnetek vsebuje sledi vsebine, ustvarjene z umetno inteligenco.«

McCullough je dejal, da je tudi drugo mnenje forenzičnega analitika s kalifornijske univerze Berkeley ugotovilo, da posnetek ni pristen.

"Na podlagi teh ugotovitev in nadaljnje preiskave je bilo ugotovljeno, da je bil posnetek ustvarjen z uporabo tehnologije umetne inteligence," je dejal.

V skladu z nalogom, izdanim za Darienovo aretacijo, je bila zvočna datoteka 17. januarja posredovana prek družbenih medijev, potem ko je bila po elektronski pošti poslana šolskim učiteljem. Posnetek je zvenel, kot da je ravnatelj Eric Eiswert izrekel dovolj hujskaške pripombe, da je spodbudila obisk policije, da bi svetovala glede zaščitnih varnostnih ukrepov za osebje.

»Treba je opozoriti, da so komentarji v posnetku govorili o [Eiswertovem] domnevnem razočaranju nad rezultati testov afroameriških študentov in trditvah, da oni (afroameriški študenti) niso mogli 'testirati poti iz papirnate vrečke',” piše v nalogu.

»Na posnetku so bili zaničevalni komentarji o judovskih posameznikih in dveh učiteljih, ki ju 'nikoli ne bi smeli zaposliti' v šoli. Posnetek je prikazoval pogovor med [Eiswertom] in enim od pomočnikov ravnatelja PHS.«

In potem so se zbrali vsi

Posnetek je po nalogu vodil do začasne odstranitve Eiswerta s položaja in "vala sovraštva polnih sporočil na družbenih omrežjih in številnih klicev v šolo" ter močno motil delovanje šole. Policija pravi, da je to povzročilo grožnje Eiswertu in zaskrbljenost glede njegove varnosti.

Eiswert je preiskovalcem povedal, da verjame, da je zvočni posnetek lažen, saj "nikoli ni imel pogovorov na posnetku." In rekel je, da verjame, da je Darien odgovoren zaradi njegovega tehničnega poznavanja umetne inteligence in da ima možen motiv: Eiswert je dejal, da so "z Darienom potekali pogovori o tem, da njegova pogodba naslednji semester ne bo podaljšana zaradi pogostih izzivov pri delu."

Ti izzivi so podrobneje opisani v nalogu. V enem incidentu je Eiswert grajal Dariena, ker je brez odobritve odpustil dolgoletnega trenerja.

Drugi je, da je Eiswert preiskoval Darienovo ravnanje s šolskimi sredstvi. "Decembra 2023 je bil Darien predmet morebitne preiskave kraje [Eiswert]," piše v nalogu. Zato obtožba maščevanja priče.

Druga stran, ki jo je slišal na posnetku, je preiskovalcem povedala, da do pogovora ni prišlo, in dejala, da pripombe niso zvenele tako, kot bi rekel Eiswert.

Intervjuji z Darienom in sodelavci na šoli kažejo, da je bila datoteka poslana na naslove javne šole okrožja Baltimore z računa Gmail TJFOUST9. Eden od intervjuvancev je opozoril, da jo je Darien "pozval, naj preveri svoj e-poštni račun BCPS za 'čudno' sporočilo."

Potem je druga članica osebja – ki je »iz različnih razlogov težko delala pod [Eiswertovim] vodstvom« – razkrila, da je e-pošto posredovala na mobilni telefon študenta PHS, za katerega je vedela, da bo sporočilo hitro razširil po različnih družbenih omrežjih in po vsem svetu. šola." Sodni poziv za njen nekdanji univerzitetni e-poštni račun je pokazal, da je bila datoteka posredovana novinarskim organizacijam in NAACP.

Med prvim razgovorom s preiskovalci je Darien zanikal, da bi poznal kogar koli z imenom "TJ Foust" in zanikal kakršno koli vpletenost v ustvarjanje in distribucijo posnetka.

Za to je kriva babica

Nato so preiskovalci Googlu in AT&T poslali sodna poziva za pridobitev podatkov o lastništvu računa in podatkov o naslovu IP. Ugotovili so, da je bil naslov Gmail ustvarjen 15. avgusta 2022 na naslovu IP, povezanem z rezidenco Darienove babice v Los Angelesu. Nadalje so ugotovili, da je bila obnovitvena telefonska številka za račun TJFOUST9 povezana z računom T-Mobile US, registriranim na Dariena.

Posebna orodja AI, ki naj bi jih Darien uporabljal, niso bila razkrita. Nalog pa navaja, da je Urad za informacijsko tehnologijo BCPS pregledal Darienov dostop do omrežja in našel več primerov, ko je prek Bing Chata iskal orodja OpenAI.

Vstopamo na novo zelo zaskrbljujočo mejo

OpenAI Voice Engine, orodje za ustvarjanje sintetičnih glasov, v času domnevnih zločinov ni bilo javno dostopno. Bilo je razglasitve 29. marca 2024. Vendar pa druga podjetja všeč ElevenLabs že dlje ponujajo tehnologijo kloniranja glasu.

Med tiskovno konferenco je John Olszewski, direktor okrožja Baltimore, pozval k večji previdnosti v zvezi z javnimi mediji.

"Jasno je, da vstopamo tudi na novo, zelo zaskrbljujočo mejo, saj še naprej sprejemamo nastajajočo tehnologijo in njen potencial za inovacije in družbeno dobro," je dejal.

»Prav tako moramo ostati pozorni na tiste, ki bi ga uporabili za zlonamerne namene. To bo od nas zahtevalo, da se bolj zavedamo in bolj pronicljivi glede zvoka, ki ga slišimo, in slik, ki jih vidimo. Pri presoji bomo morali biti previdni.” ®

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
• PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
• PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
• PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
• vir: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/