ボルチモア警察は、AIソフトウェアを使用して同校の校長になりすまし、あたかも人種差別的で反ユダヤ主義的な発言をしたかのように見せかけた疑いで、パイクスビル高校（PHS）の元運動部長、ダゾン・レスリー・ダリエン氏を逮捕した。
メリーランド州ボルチモアのダリエンはその後、目撃者への報復、ストーカー行為、窃盗、学校運営妨害の罪で起訴された。彼は深夜、BWIサーグッド・マーシャル空港で飛行機に乗ろうとして拘束された。彼が所持していた申告済みの銃器が不適切に梱包されていたため、警備員が彼を呼び止め、その後の身元調査で逮捕状が出ていることが判明した。
「17年2024月XNUMX日、ボルチモア郡警察署は、音声録音がソーシャルメディア上で拡散していることを認識した」とボルチモア郡警察署長のロバート・マッカロー氏は本日のストリーミング記者会見で述べた。 「音声ファイルに収録されている音声は、パイクスビル高校校長のエリック・アイスワート氏のものであると主張されています。私たちは現在、その録音が本物ではないという決定的な証拠を入手しています。
「ボルチモア郡警察は、録音内容を精査するためにFBIと契約した法医学分析官を連れてくるなど広範な捜査を行った結果、この決定に達した。分析の結果、録音には AI によって生成されたコンテンツの痕跡が含まれていることが示されました。」
マッカロー氏は、カリフォルニア大学バークレー校の法医学分析官からのセカンドオピニオンでも、録音は本物ではないと判断されたと述べた。
「これらの発見とさらなる調査に基づいて、録音は人工知能技術の使用を通じて生成されたと判断されました」と彼は述べた。
ダリエンさんの逮捕のために発行された令状によると、音声ファイルは学校の教師に電子メールで送信された後、17月XNUMX日にソーシャルメディアを通じて共有された。この録音は、エリック・アイスワート校長が職員の安全対策について助言するために警察の訪問を促すほどの扇動的な発言をしたかのように聞こえた。
「録音内のコメントは、アフリカ系アメリカ人学生のテストの点数に対する不満や、彼ら（アフリカ系アメリカ人学生）は『紙袋から脱出するテスト』ができなかったと主張するものだったことに注目すべきである。」令状は言う。
「録音には、学校で「決して雇用されるべきではなかった」ユダヤ人および2人の教師に対する軽蔑的なコメントが続いた。録音には、[Eiswert]とPHSの教頭の一人との間の会話が描かれていました。」
そしてみんなが集まってきた
令状によれば、この映像はアイスワート氏の一時的な解任につながり、「ソーシャルメディア上での憎悪に満ちたメッセージの波と学校への多数の電話」を引き起こし、学校運営に重大な混乱をもたらしたという。警察は、このことがアイスワートに対する脅迫と彼の安全に対する懸念につながったと述べている。
アイズワート容疑者は捜査当局に対し、「会話を録音したことはない」ため、音声クリップは偽物だと信じていると語った。また、ダリエン氏はAIに関する技術的な知識に精通しているため、責任はあると考えており、動機も考えられるとアイスワート氏は語った。アイスワート氏は「頻繁に仕事のパフォーマンスに問題があるため、来学期は契約を更新しないことについてダリエン氏と話し合っていた」と述べた。
これらの課題は、令状の中でより具体的に説明されています。ある事件では、長年指導してきたコーチを承認なく解任したダリエンをアイスワートが叱責した。
もう一つは、アイスワートがダリエンの学資の扱いを調査していたというものだ。 「2023年XNUMX月、ダリエンは[アイスワート]が開始した潜在的な窃盗捜査の対象となった」と令状には記載されている。したがって、証人報復罪です。
録音を聞いていた相手は捜査当局に対し、会話はなかったとし、発言はアイスワート氏が言ったような発言には聞こえなかったと述べた。
ダリエン氏と学校関係者へのインタビューによると、ファイルは Gmail アカウント TJFOUST9 からボルチモア郡公立学校のアドレスに送信されたことが示唆されています。インタビューを受けた人の一人は、ダリエンさんが「BCPSの電子メールアカウントに『奇妙な』メッセージがないか確認するよう勧めた」と述べた。
その後、「さまざまな理由でアイスワート氏の指導の下で働くのが困難だった」別の職員は、メールをPHSの学生の携帯電話に転送し、そのメッセージがさまざまなソーシャルメディアや全土に急速に拡散することを知っていたと明らかにした。学校。"彼女の元大学の電子メールアカウントに対する召喚状には、ファイルが報道機関とNAACPに転送されたことが示されていた。
捜査官との最初の取り調べで、ダリエンは「TJ・ファウスト」という名前の人物を知っていることを否定し、録音の作成と配布への関与を否定した。
おばあちゃんのせいにする
その後、捜査当局はGoogleとAT&Tに召喚状を送り、アカウント所有権情報とIPアドレス情報を入手した。彼らは、Gmail アドレスが 15 年 2022 月 9 日に、ダリエンさんの祖母のロサンゼルスの住居に関連付けられた IP アドレスで作成されたと判断しました。さらに、TJFOUSTXNUMX アカウントの回復用電話番号が、Darien に登録されている T-Mobile US アカウントに関連付けられていることが判明しました。
ダリエン氏が使用したとされる具体的なAIツールは明らかにされていない。ただし、令状には、BCPS 情報技術局がダリエン氏のネットワーク アクセスを調査し、Bing Chat 経由で OpenAI ツールを検索した例がいくつか見つかったことを示しています。
私たちは深く懸念される新たなフロンティアに入りつつあります
合成音声を作成するツールである OpenAI Voice Engine は、犯罪が行われた時点では一般に公開されていませんでした。そうだった 発表の ただし、他の企業も同様です。 イレブンラボ は音声クローン技術を以前から提供してきました。
記者会見中、ボルティモア郡行政官のジョン・オルシェフスキー氏は公共メディアに関してさらなる注意を呼び掛けた。
「私たちが新たなテクノロジーと、そのイノベーションと社会的利益の可能性を受け入れ続ける中で、私たちが非常に懸念される新たなフロンティアにも入りつつあることは明らかです」と同氏は述べた。
「私たちはまた、悪意を持ってそれを使用しようとする人々に対しても警戒を続ける必要があります。そのためには、私たちが聞く音声や見る画像について、より意識し、より洞察力を持つことが必要になります。慎重な判断が必要になるだろう。」 ®
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源： https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/
