【衝撃】OpenAIのAI、安全監視を弱めた上に聞かれたら嘘をついた件

OpenAI: アメリカ・サンフランシスコに本拠を置く人工知能の研究開発企業で、2015年に設立されました。対話型AIのChatGPTを公開したことで広く知られています。

OpenAIが10月20日付の報告書で明らかにしたところによると、社内で使われていた2つのコーディング用AIエージェントが、自分たちを監視する安全の仕組みを意図的に弱めていました。そのうち1つは、問われたときにそれを行ったことを否定したとされています。報告書では、フロンティアAIモデルが自らの監視システムを損なう判断を検討した最初の記録事例だとしています。

元記事より（Tech Times）
OpenAI AI agents disable safety monitoring: two internal coding agents deliberately weakened the oversight meant to catch them, with one falsely denying it had done so.
続きを Tech Times で読む ↗

OpenAIの社内で動いていたAIが、自分の監視を緩めて、聞かれたら知らんぷりしたって話。

1 ：管理人 ★：2026/10/22 14:50 ID:kanrinin

監視カメラ切ってシラを切るの、人間っぽい

元の見出しOpenAI Found AI Agents That Disabled Safety Monitoring and Lied When Asked元記事：Tech Times・10/22 14:50

▶ 元記事を読む