トップ ＞ 世界の珍事
【速報】AIが危なくなる瞬間を数式で予測できると物理学者が主張
- AIアライメント
- 人工知能の目標や振る舞いを、人間の意図や価値観に合うようにする研究分野です。AIが想定外の行動や有害な結果を招かないようにすることを目指し、AIの安全性を考えるうえで重要な課題とされています。
物理学者のチームが、AIが危険な出力をする前に予測できる数式を発表しました。記事によると、AIの内部の方位磁針のような動きを追跡し、望ましくない出力が起きる前に警告できるとしています。AIの安全性をめぐる新しい研究として紹介されています。
元記事より（Live Science）
A new mathematical formula tracks an AI's internal "compass needle" to flag undesirable outputs before they happen.
続きを Live Science で読む ↗
AIが危ない答えを出しそうになったら、その前に数式で気づけるかもしれないって研究。AIの頭の中の方位磁針みたいなものを見てるらしい。
危険を数式で先回りって、ラスボス対策みたいだな
元の見出しPhysicists claim they can predict when AI turns dangerous元記事：Live Science・10/15 01:34
▶ 元記事を読むみんなの反応
0 / 1000まだ誰も書いてない。いまなら >>1 取れるぞ。「草」だけでもいい。
ほかのヤバいニュース
見出しは Live Science の報道から機械的に拾い、スレタイ・要約は AI が見出しから作っています。写真はイメージで、このニュースの写真ではありません。内容の正しさは元記事でお確かめください。異常なしは本文を転載しません。