Baltimoren poliisi on pidättänyt Dazhon Leslie Darienin, Pikesville High Schoolin (PHS) entisen urheilujohtajan, koska hänen väitettiin esittäneen koulun rehtoria tekoälyohjelmiston avulla saadakseen vaikutelman siltä, ​​että hän olisi esittänyt rasistisia ja antisemitistisiä huomautuksia.

Darien, Baltimore, Maryland, sai myöhemmin syytteen todistajien kostotoimista, vainoamisesta, varkaudesta ja koulun toiminnan häiriintymisestä. Hänet pidätettiin myöhään yöllä yrittäessään nousta lennolle BWI Thurgood Marshallin lentokentällä. Turvahenkilöstö pysäytti hänet, koska hänen mukanaan ollut ilmoitettu ampuma-ase oli pakattu väärin ja taustatarkistus paljasti hänen pidätysmääräyksensä.

"17. tammikuuta 2024 Baltimoren piirikunnan poliisilaitos sai tietoonsa äänitallenteen, jota levitettiin sosiaalisessa mediassa", sanoi Baltimoren piirikunnan poliisipäällikkö Robert McCullough tänään suoratoistona pidetyssä lehdistötilaisuudessa. "Väitettiin, että äänitiedostoon tallennettu ääni kuului herra Eric Eiswertille, joka on Pikesvillen lukion rehtori. Meillä on nyt ratkaisevia todisteita siitä, että tallenne ei ollut aito.

"Baltimoren piirikunnan poliisilaitos päätyi siihen suoritettuaan laajan tutkimuksen, johon sisältyi FBI:n kanssa sopimuksen tehneen oikeuslääketieteen analyytikon kutsuminen tarkistamaan tallenne. Analyysin tulokset osoittivat, että tallenne sisälsi jälkiä tekoälyn tuottamasta sisällöstä.

McCullough sanoi, että Kalifornian yliopiston Berkeleyn oikeuslääketieteellisen analyytikon toinen lausunto päätti myös, että tallenne ei ollut aito.

"Näiden löydösten ja lisätutkimusten perusteella on päätetty, että tallenne on luotu tekoälyteknologian avulla", hän sanoi.

Darienin pidätysmääräyksen mukaan äänitiedosto jaettiin sosiaalisessa mediassa 17. tammikuuta sen jälkeen, kun se oli lähetetty sähköpostitse koulun opettajille. Nauhoitus kuulosti siltä, ​​että rehtori Eric Eiswert olisi tehnyt tarpeeksi kiihottavia huomautuksia saadakseen poliisin käyntiin neuvomaan henkilökunnan turvatoimia.

"On huomattava, että nauhoituksen kommentit puhuivat [Eiswertin] väitetystä turhautumisesta afroamerikkalaisten opiskelijoiden testituloksiin ja väitteisiin, että he (afroamerikkalaiset opiskelijat) eivät kyenneet "testaamaan tietä ulos paperipussista". lupa sanoo.

"Tallennus jatkoi halventavia kommentteja juutalaisista henkilöistä ja kahdesta opettajasta, joita "ei olisi koskaan pitänyt palkata" kouluun. Nauhoitus kuvaa keskustelua [Eiswertin] ja yhden PHS:n apulaisrehtorista.

Ja sitten kaikki kasaantuvat

Leike johti luvan mukaan Eiswertin väliaikaiseen poistamiseen asemastaan ​​ja "vihan täynnään viestien aaltoon sosiaalisessa mediassa ja lukuisiin puheluihin kouluun" ja häiritsi merkittävästi koulun toimintaa. Poliisin mukaan se johti Eiswertiä kohtaan uhkailuun ja huoleen hänen turvallisuudestaan.

Eiswert kertoi tutkijoille, että hän uskoo, että äänileike oli väärennös, koska "hänellä ei koskaan ollut äänitteen keskusteluja". Ja hän sanoi uskovansa Darienin olevan vastuullinen tekoälyn teknisen tuntemuksensa vuoksi, ja hänellä oli mahdollinen motiivi: Eiswert sanoi, että "Darienin kanssa oli keskusteltu siitä, ettei hänen sopimustaan ​​uusittu ensi lukukaudella toistuvien työsuoritushaasteiden vuoksi".

Nämä haasteet on kuvattu tarkemmin warrantissa. Yhdessä tapauksessa Eiswert nuhteli Darienia pitkäaikaisen valmentajan irtisanomisesta ilman lupaa.

Toinen on se, että Eiswert tutki Darienin kouluvarojen käsittelyä. "Joulukuussa 2023 Darienista käynnistettiin mahdollinen varkaustutkimus [Eiswert]", määrätään. Tästä syystä todistajan kostomaksu.

Nauhoituksella kuultu toinen osapuoli kertoi tutkijoille, ettei keskustelua ollut tapahtunut, ja sanoi, että huomautukset eivät kuulostaneet siltä, ​​mitä Eiswert olisi sanonut.

Darienin ja koululaisten työtovereiden haastattelut viittaavat siihen, että tiedosto lähetettiin Baltimore County Public Schoolin osoitteisiin Gmail-tililtä TJFOUST9. Yksi haastatelluista totesi, että Darien oli "kehottanut häntä tarkistamaan BCPS-sähköpostitilinsä "outo" viestin varalta.

Sen jälkeen toinen henkilökunnan jäsen – jolla oli vaikea työskennellä [Eiswertin] johdolla eri syistä – paljasti, että hän välitti sähköpostin PHS-opiskelijan matkapuhelimeen, jonka hän tiesi levittävän viestiä nopeasti eri sosiaalisen median kanaviin ja kaikkialle. koulu." Haaste hänen entiselle yliopiston sähköpostitililleen osoitti, että tiedosto oli välitetty uutisorganisaatioille ja NAACP:lle.

Ensimmäisessä tutkijoiden haastattelussa Darien kielsi tuntevansa ketään nimeltä "TJ Foust" ja kiisti osallistuneensa tallenteen luomiseen ja jakeluun.

Syytä siitä mummoa

Myöhemmin tutkijat lähettivät haasteita Googlelle ja AT&T:lle saadakseen tietoja tilin omistajuudesta ja IP-osoitteesta. He totesivat, että Gmail-osoite luotiin 15. elokuuta 2022 IP-osoitteeseen, joka liittyy Darienin isoäidin Los Angelesin asuntoon. He havaitsivat lisäksi, että TJFOUST9-tilin palauttamisen puhelinnumero oli liitetty Darienille rekisteröityyn T-Mobile US -tiliin.

Darienin väitetysti käyttämiä tekoälytyökaluja ei ole paljastettu. Lupa kuitenkin osoittaa, että BCPS Office of Information Technology tarkasti Darienin verkkoyhteyden ja löysi useita tapauksia, joissa hän etsi OpenAI-työkaluja Bing Chatin kautta.

Olemme astumassa uudelle syvästi koskettavalle rajalle

Synteettisten äänien luomiseen tarkoitettu OpenAI Voice Engine -työkalu ei ollut julkisesti saatavilla väitettyjen rikosten tekohetkellä. Se oli ilmoitti 29. maaliskuuta 2024. Muut yritykset pitävät kuitenkin ElevenLabs ovat tarjonneet äänen kloonaustekniikkaa pidempään.

Lehdistötilaisuudessa John Olszewski, Baltimoren piirikunnan johtaja, kehotti olemaan varovaisempi julkisten tiedotusvälineiden suhteen.

"On selvää, että olemme myös astumassa uudelle syvästi koskettavalle rajalle, kun jatkamme nousevan teknologian ja sen innovaatiopotentiaalin ja yhteiskunnallisen edun omaksumista", hän sanoi.

"Meidän on myös pysyttävä valppaina niitä vastaan, jotka olisivat käyttäneet sitä pahantahtoiseen tarkoitukseen. Tämä edellyttää, että olemme tietoisempia ja tarkkaavaisempia kuulemastamme äänestä ja näkemistämme kuvista. Meidän tulee olla varovaisia ​​arvioinnissamme." ®

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/