Politiet i Baltimore har anholdt Dazhon Leslie Darien, den tidligere atletiske direktør for Pikesville High School (PHS), for angiveligt at efterligne skolens rektor ved at bruge AI-software til at få det til at virke, som om han kom med racistiske og antisemitiske bemærkninger.
Darien fra Baltimore, Maryland, blev efterfølgende anklaget for vidne-repressalier, forfølgelse, tyveri og forstyrrelse af skoledrift. Han blev tilbageholdt sent om natten i et forsøg på at komme ombord på et fly i BWI Thurgood Marshall Lufthavn. Sikkerhedspersonale stoppede ham, fordi det erklærede skydevåben, han havde med sig, var forkert pakket, og et efterfølgende baggrundstjek afslørede en åben arrestordre.
"Den 17. januar 2024 blev Baltimore County Police Department opmærksom på en stemmeoptagelse, der blev cirkuleret på sociale medier," sagde Robert McCullough, chef for Baltimore County Police, på en streamet pressekonference i dag. "Det blev påstået, at stemmen optaget på lydfilen tilhører hr. Eric Eiswert, rektor ved Pikesville High School. Vi har nu afgørende beviser for, at optagelsen ikke var autentisk.
"Politiministeriet i Baltimore County nåede frem til den beslutning efter at have gennemført en omfattende undersøgelse, som omfattede at bringe en retsmedicinsk analytiker ind i kontrakt med FBI for at gennemgå optagelsen. Resultaterne af analysen indikerede, at optagelsen indeholdt spor af AI-genereret indhold."
McCullough sagde, at en anden udtalelse fra en retsmedicinsk analytiker ved University of California, Berkeley, også fastslog, at optagelsen ikke var autentisk.
"Baseret på disse resultater og yderligere undersøgelser er det blevet fastslået, at optagelsen blev genereret ved brug af kunstig intelligens-teknologi," sagde han.
Ifølge arrestordren udstedt for Dariens arrestation, blev lydfilen delt via sociale medier den 17. januar efter at være blevet sendt via e-mail til skolelærere. Optagelsen lød, som om rektor Eric Eiswert havde fremsat bemærkninger, der var ophidsende nok til at anmode om et politibesøg for at rådgive om beskyttende sikkerhedsforanstaltninger for personalet.
"Det skal bemærkes, at kommentarer i optagelsen talte til [Eiswerts] påståede frustrationer over testresultater af afroamerikanske studerende og påstande om, at de (de afroamerikanske studerende) ikke var i stand til at 'teste sig ud af en papirpose'" siger kendelsen.
"Optagelsen fortsatte med at komme med nedsættende kommentarer om jødiske individer og to lærere, der 'aldrig burde være blevet ansat' på skolen. Optagelsen skildrede en samtale mellem [Eiswert] og en af PHS' assisterende rektorer."
Og så stak alle ind
Klippet førte ifølge kendelsen til den midlertidige fjernelse af Eiswert fra sin stilling og "en bølge af hadfyldte beskeder på sociale medier og adskillige opkald til skolen" og forstyrrede skoledriften betydeligt. Politiet siger, at det førte til trusler mod Eiswert og bekymringer om hans sikkerhed.
Eiswert fortalte efterforskerne, at han mener, at lydklippet var falsk, da "han aldrig havde samtalerne i optagelsen." Og han sagde, at han mente, at Darien var ansvarlig på grund af hans tekniske kendskab til AI og havde et muligt motiv: Eiswert sagde, at der "havde været samtaler med Darien om, at hans kontrakt ikke blev fornyet næste semester på grund af hyppige arbejdsudfordringer."
Disse udfordringer er beskrevet mere specifikt i warranten. En hændelse involverede Eiswert, der irettesatte Darien for at fyre en mangeårig træner uden godkendelse.
En anden er, at Eiswert undersøgte Dariens håndtering af skolemidler. "I december 2023 var Darien genstand for en potentiel tyveriundersøgelse [Eiswert] indledt," står der i kendelsen. Derfor er vidnets gengældelsesanklage.
Den anden part, der blev hørt på optagelsen, fortalte efterforskerne, at samtalen ikke var sket, og sagde, at bemærkningerne ikke lød som noget, Eiswert ville have sagt.
Interviews med Darien og medarbejdere på skolen tyder på, at filen blev sendt til Baltimore County Public School-adresser fra en Gmail-konto, TJFOUST9. En af de interviewede personer bemærkede, at Darien havde "opfordret hende til at tjekke sin BCPS-e-mail-konto for en 'underlig' besked."
Derefter afslørede en anden medarbejder – som "af forskellige årsager havde svært ved at arbejde under [Eiswerts] ledelse" – at hun videresendte e-mailen til en PHS-studerendes mobiltelefon, som hun vidste hurtigt ville sprede budskabet rundt på forskellige sociale medier og overalt skolen." En stævning for hendes tidligere universitets-e-mail-konto indikerede, at filen var blevet videresendt til nyhedsorganisationer og NAACP.
Under sit første interview med efterforskere nægtede Darien at kende nogen ved navn "TJ Foust" og nægtede enhver involvering i oprettelsen og distributionen af optagelsen.
Skyld skylden på bedstemor
Efterforskere sendte efterfølgende stævninger til Google og AT&T for at få oplysninger om kontoejerskab og IP-adresseoplysninger. De fastslog, at Gmail-adressen blev oprettet den 15. august 2022 på en IP-adresse tilknyttet Dariens bedstemors bolig i Los Angeles. De fandt endvidere, at genoprettelsestelefonnummeret for TJFOUST9-kontoen var forbundet med en T-Mobile US-konto, der var registreret hos Darien.
De specifikke AI-værktøjer, der angiveligt blev brugt af Darien, er ikke blevet afsløret. Bekendtgørelsen indikerer dog, at BCPS Office of Information Technology gennemgik Dariens netværksadgang og fandt flere tilfælde, hvor han søgte efter OpenAI-værktøjer via Bing Chat.
Vi går ind i en ny dybt bekymrende grænse
OpenAI Voice Engine, et værktøj til at skabe syntetiske stemmer, var ikke offentligt tilgængeligt på tidspunktet for de påståede forbrydelser. Det var annoncerede den 29. marts 2024. Dog kan andre virksomheder gerne ElevenLabs har tilbudt stemmekloningsteknologi i længere tid.
Under pressekonferencen opfordrede John Olszewski, Baltimore County Executive, til mere forsigtighed med hensyn til offentlige medier.
"Det er klart, at vi også går ind i en ny dybt bekymrende grænse, når vi fortsætter med at omfavne ny teknologi og dens potentiale for innovation og socialt gode," sagde han.
"Vi skal også være på vagt over for dem, der ville have brugt det i ondsindet hensigt. Det vil kræve, at vi er mere opmærksomme og mere kræsne omkring den lyd, vi hører, og de billeder, vi ser. Vi bliver nødt til at være forsigtige i vores dømmekraft." ®
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/
