Politiet i Baltimore har arrestert Dazhon Leslie Darien, den tidligere atletiske direktøren ved Pikesville High School (PHS), for angivelig å utgi seg for å være skolens rektor ved å bruke AI-programvare for å få det til å virke som om han kom med rasistiske og antisemittiske bemerkninger.

Darien fra Baltimore, Maryland, ble senere siktet for vitnehevn, forfølgelse, tyveri og forstyrrelse av skoledrift. Han ble arrestert sent på kvelden mens han prøvde å gå ombord på et fly på BWI Thurgood Marshall flyplass. Sikkerhetspersonell stoppet ham fordi det deklarerte skytevåpenet han hadde med seg var feil pakket og en påfølgende bakgrunnssjekk avslørte en åpen arrestordre.

"17. januar 2024 ble Baltimore County Police Department oppmerksom på et stemmeopptak som ble sirkulert på sosiale medier," sa Robert McCullough, sjef for Baltimore County Police, på en strømmet pressekonferanse i dag. «Det ble påstått at stemmen fanget på lydfilen tilhører Eric Eiswert, rektor ved Pikesville High School. Vi har nå avgjørende bevis på at opptaket ikke var autentisk.

"Politiet i Baltimore County nådde den avgjørelsen etter å ha utført en omfattende etterforskning, som inkluderte å hente inn en rettsmedisinsk analytiker som var kontrakt med FBI for å gjennomgå opptaket. Resultatene av analysen indikerte at opptaket inneholdt spor av AI-generert innhold."

McCullough sa at en annen mening fra en rettsmedisinsk analytiker ved University of California, Berkeley, også fastslo at opptaket ikke var autentisk.

"Basert på disse funnene og videre etterforskning, har det blitt fastslått at opptaket ble generert ved bruk av kunstig intelligens-teknologi," sa han.

Ifølge arrestordren som ble utstedt for Dariens arrestasjon, ble lydfilen delt gjennom sosiale medier 17. januar etter å ha blitt sendt via e-post til skolelærere. Opptaket hørtes ut som om rektor Eric Eiswert hadde kommet med betennelser nok til å be om et politibesøk for å gi råd om beskyttende sikkerhetstiltak for ansatte.

"Det bør bemerkes at kommentarer i opptaket snakket om [Eiswerts] påståtte frustrasjoner med testresultater av afroamerikanske studenter og påstander om at de (de afroamerikanske studentene) ikke var i stand til å "teste seg ut av en papirpose,"" står det i kjennelsen.

«Opptaket fortsatte med å komme med nedsettende kommentarer om jødiske individer og to lærere som 'aldri burde blitt ansatt' ved skolen. Opptaket skildret en samtale mellom [Eiswert] og en av PHS' assisterende rektorer."

Og så stakk alle inn

Klippet, ifølge kjennelsen, førte til midlertidig fjerning av Eiswert fra sin stilling og "en bølge av hatfylte meldinger på sosiale medier og mange oppringninger til skolen," og forstyrret skoledriften betydelig. Politiet sier det førte til trusler mot Eiswert og bekymringer for hans sikkerhet.

Eiswert sa til etterforskerne at han tror lydklippet var falskt, da "han aldri hadde samtalene i opptaket." Og han sa at han trodde Darien var ansvarlig på grunn av sin tekniske kjennskap til AI og hadde et mulig motiv: Eiswert sa at det "hadde vært samtaler med Darien om at kontrakten hans ikke ble fornyet neste semester på grunn av hyppige arbeidsutfordringer."

Disse utfordringene er beskrevet mer spesifikke i warranten. En hendelse innebar at Eiswert irettesatte Darien for å ha sparket en langvarig trener uten godkjenning.

En annen er at Eiswert undersøkte Dariens håndtering av skolemidler. "I desember 2023 var Darien gjenstand for en potensiell tyverietterforskning [Eiswert] startet," heter det i kjennelsen. Derav vitnets gjengjeldelse.

Den andre parten som ble hørt på opptaket fortalte etterforskerne at samtalen ikke hadde skjedd og sa at kommentarene ikke hørtes ut som noe Eiswert ville ha sagt.

Intervjuer med Darien og medarbeidere ved skolen antyder at filen ble sendt til Baltimore County Public School-adresser fra en Gmail-konto, TJFOUST9. En av personene som ble intervjuet bemerket at Darien hadde «oppfordret henne til å sjekke BCPS-e-postkontoen hennes for en 'rar' melding».

Deretter avslørte en annen medarbeider – som «hadde det vanskelig å jobbe under [Eiswerts] ledelse av ulike årsaker» – at hun videresendte e-posten til en PHS-students mobiltelefon, som hun visste raskt ville spre budskapet rundt ulike sosiale medier og gjennom hele skolen." En stevning for hennes tidligere e-postkonto ved universitetet indikerte at filen var videresendt til nyhetsorganisasjoner og NAACP.

Under sitt første intervju med etterforskere benektet Darien at han kjente noen som heter "TJ Foust" og benektet enhver involvering i opprettelsen og distribusjonen av opptaket.

Skyld på bestemor

Deretter sendte etterforskere stevninger til Google og AT&T for å få informasjon om kontoeierskap og IP-adresseinformasjon. De slo fast at Gmail-adressen ble opprettet 15. august 2022 på en IP-adresse knyttet til Los Angeles-residensen til Dariens bestemor. De fant videre at gjenopprettingstelefonnummeret for TJFOUST9-kontoen var knyttet til en T-Mobile USA-konto registrert til Darien.

De spesifikke AI-verktøyene som angivelig ble brukt av Darien har ikke blitt avslørt. Ordren indikerer imidlertid at BCPS Office of Information Technology gjennomgikk Dariens nettverkstilgang og fant flere tilfeller der han søkte etter OpenAI-verktøy via Bing Chat.

Vi går inn i en ny, dypt bekymrende grense

OpenAI Voice Engine, et verktøy for å lage syntetiske stemmer, var ikke offentlig tilgjengelig på tidspunktet for de påståtte forbrytelsene. Det var annonsert den 29. mars 2024. Men andre selskaper liker ElevenLabs har tilbudt stemmekloningsteknologi i lengre tid.

Under pressekonferansen ba John Olszewski, Baltimore County Executive, om mer forsiktighet med hensyn til offentlige medier.

"Det er tydelig at vi også går inn i en ny, dypt bekymrende grense når vi fortsetter å omfavne ny teknologi og dens potensial for innovasjon og sosialt gode," sa han.

«Vi må også være på vakt mot de som ville ha brukt det i ondsinnet hensikt. Det vil kreve at vi er mer bevisste og mer kresne når det gjelder lyden vi hører og bildene vi ser. Vi må være forsiktige i vår dømmekraft." ®

• SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
• PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
• PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
• PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
• kilde: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/