WIRED AI
A
Other WIRED AI
Meta Contractors Posed as Teens to Prompt Rival Chatbots About Suicide, Sex, and Drugs
要約
Metaの契約業者がティーンになりすまし、競合チャットボット（Gemini, ChatGPT）に自殺、性、薬物などの高リスクな話題を提示して反応をテストしていたことが判明。
AI開発への影響
AIの安全性テストにおける倫理的課題を浮き彫りにする。自社モデルの悪用リスクやテスト方法の倫理性を再考する必要がある。
推奨アクション
AIの安全性・倫理ガイドラインを再確認し、自社モデルの悪用防止策やテスト方法の倫理性を検討する。
- 提供元
- Meta
- 種別
- Other
- ソース
- WIRED AI
- 公開日
- 2026-06-29
