児童性的虐待資料 (CSAM) の蔓延に対抗するため、Google、Meta、OpenAI を含むトップの生成 AI 開発者の連合は、この新興テクノロジーの周囲にガードレールを強化することを誓約しました。
このグループは、子供向けテクノロジー グループの Thorn とニューヨークに拠点を置く All Tech is Human という 2012 つの非営利組織によってまとめられました。以前は DNA 財団として知られていたソーンは、俳優のデミ ムーアとアシュトン カッチャーによって XNUMX 年に設立されました。
集団誓約は火曜日に新たな内容とともに発表された ソーンレポート AI モデルのライフサイクル全体にわたって児童性的虐待資料 (CSAM) の作成を防止する、生成 AI 開発における「設計による安全性」原則を提唱しています。
「私たちは、生成型 AI テクノロジーと製品を開発、展開、保守、使用しているすべての企業に対し、これらの Safety by Design 原則の採用を約束し、CSAM、AIG-CSAM、およびその他の児童性的行為の作成と蔓延の防止に熱心に取り組んでいることを示すよう強く求めます。虐待と搾取」 ソーン 声明の中で述べている。
AIG-CSAM は AI によって生成された CSAM であり、レポートでは比較的簡単に作成できることが示されています。
ソーン氏の報告書は、責任あるトレーニングの調達など、生成型 AI 開発者が自社のテクノロジーが児童ポルノの作成に使用されるのを防ぐために従うべき一連の原則を概説しています。 データセット、フィードバック ループとストレス テスト戦略を組み込み、敵対的な悪用を念頭に置いてコンテンツ履歴または「来歴」を採用し、それぞれの AI モデルを責任を持ってホストします。
「私たちはツールの安全性と責任ある使用を非常に重視しています。そのため、ChatGPT と DALL-E に強力なガードレールと安全対策を組み込んだのです」とカールソン氏は述べています。 ステートメント。 「私たちは、安全性バイデザインの原則を守り、子供たちへの潜在的な危害を軽減する取り組みを続けるために、Thorn、All Tech is Human、およびより広範なテクノロジーコミュニティと協力することに全力で取り組んでいます。」
解読する 連合の他のメンバーに連絡を取ったが、すぐには返答はなかった。
「メタでは、オンラインで人々の安全を守るために 10 年以上取り組んできました。その間、私たちは潜在的な危害を防止し、それに対抗するための数多くのツールや機能を開発してきました。そして、捕食者が私たちの保護を回避しようとするのに合わせて、私たちも適応し続けてきました。」 Meta と準備された声明で述べた。