ChatGPTが銃撃事件の計画を支援したとして米フロリダで捜査！検察長：AIは人類を滅ぼすために使うべきではない
フロリダ州の検察当局がOpenAIを調査しており、ChatGPTが学校での銃撃事件の計画に協力したのではないかと疑っている。また、国家安全保障と未成年の自傷・自殺の懸念にも関係しているという。OpenAIは告発を否定し、毎週9億人超が安全に利用していると強調し、AI犯罪の防止と捜査に協力するとしている。
米国フロリダ州がOpenAIを調査、ChatGPTが銃撃事件の計画に関与した疑い
Axiosの報道によると、フロリダ州の検事総長James Uthmeierが発表し、同州の検察当局はOpenAIに対して調査を開始した。調査の理由には国家安全保障への懸念が含まれるほか、昨年のフロリダ州立大学の銃撃事件で、ChatGPTが犯人の犯行計画を助ける役割を担ったと疑われていることが挙げられる。 捜査の範囲はまだ不明だが、検察側は召喚状を発行するという。
UthmeierはソーシャルプラットフォームXで動画を投稿し、**AIは人類の発展を促すべきであり、人類を滅ぼすために使うものではない。**と述べた。さらに、州政府がOpenAIに対して、子どもの権利を損なうこと、そして一般市民の安全を危険にさらし、銃撃事件につながった活動について説明を求めていると強調した。
フロリダ州立大学の銃撃事件は2人死亡・5人負傷
Uthmeierは、ChatGPTが未成年の自傷および自殺事件と関連していると指摘した。彼は、2025年4月17日に2人が死亡し5人が負傷したフロリダ州立大学の銃撃事件において、銃撃犯のPhoenix Iknerがそのツールを使って行動を計画した可能性があると説明した。
また、OpenAIのデータが中国政府に利用されるリスクを懸念しており、さらに、テクノロジー企業が新技術を打ち出す際には、一般市民の安全を危険にさらしてはならないと述べた。どの企業にも、子どもを危害し、犯罪を助長し、国家安全保障を脅かす権利はなく、規約違反の企業は法的責任を問われると強調した。
OpenAIは製品の安全性を強調、産業界は厳しい監視に直面
この告発に対しOpenAIは声明を出し、ChatGPTが銃撃事件の計画に協力したとの主張を否定するとともに、安全対策に取り組んでいることを強調した。
OpenAIの広報担当者は、毎週9億人を超える人がChatGPTを使って生活を改善しており、新しいスキルの学習や医療システムのナビゲーションを含むと述べた。OpenAIが継続して行っている安全に関する取り組みは、市民の利益を提供し、科学研究を支援する面で重要な役割を担っている。
OpenAIは調査に協力することを約束し、開発の当初の目的はユーザーの意図を理解し、安全な方法で対応することだと強調した。
フロリダ州によるOpenAIへの調査は、AI産業が厳しい審査に直面していることを反映している。GoogleのGeminiや、マスク（Elon Musk）傘下のxAIが開発したGrokなどのロボットが、最近、危険性を警告する対応の仕方について批判を受けている。
中でもGrokやXプラットフォーム（旧Twitter）は、とりわけワンクリックで画像を改変できる機能のため、未成年の性的搾取の映像の制作と流通を容認しているのではないかという論争を引き起こしている。
- **関連記事：**Grokは11日で2万枚超の未成年性搾取画像を生成！EUが調査開始、最高で年商の6%の罰金のおそれ
OpenAIが安全フレームワークを推進、フロリダ州は修正法で抜け穴を塞ぐ
米国フロリダ州が調査開始を発表する前日のこととして、OpenAIは、国家の行方不明者および虐待された子どものためのセンターと、検事総長連合のAIタスクフォースと協力して防止の枠組みを策定したと述べていた。またフロリダ州議会は、今年の初めに第245号の下院法案を可決している。
同法案は州の法律を更新し、児童に対する性的虐待素材の用語を明確に採用することで、AIが生成する違法な内容に対応し、抜け穴を埋めることを目的としている。 フロリダ州知事Ron DeSantisは4月1日に同法案に署名した。
続きの閲覧：
韓国最大の性的搾取事件の首謀者に無期懲役！被害規模は261人、超N号室クラス、TGが初めて韓国警察の捜査を支援
関連記事