内容
OpenAIは、研究用AIの出力を停止指示から35秒以内に遮断する新システム「コントロール・ルーム」を研究インフラ全体に導入した。
停止判断は研究ジョブのプログラムではなく、AIモデルを動かす推論エンジン側で実行する仕組みとなっている。
各研究ジョブに付与された「ジョブID」を使い、推論エンジンが出力前に実行許可を確認する。
停止対象となったジョブは、その後のAIモデルへの要求が拒否され、出力が遮断される。
反応・補足
停止までの遅延は許可情報のキャッシュが原因で、35秒は停止指示を受け取ってからの上限として設定されている
システム停止時にも推論要求を拒否する「フェイルクローズ」方式を採用し、最先端モデルの研究ジョブには適用済み
一方、AIの出力を止めても研究プロセス自体は継続する可能性があり、外部システムで実行済みの操作を取り消す機能もない
AIエージェントの自律性が高まる中、迅速な停止機能に加え、異常検知から封じ込めまでを含む包括的な安全管理が重要になる
これからの研究用AIとの関係には注目ですね
ソースはこちら
NFTに興味がある方は、1度チェック↓
仮想通貨を始める方
仮想通貨を始める方は、まずコインチェック公式サイトで口座開設からスタート！
口座開設で分からない事があれば、この記事↓をチェック！
免責事項
LIGHTEQは、Web3に関する信頼できるニュースを提供しています。当サイトに掲載されている見解は投資助言を構成するものではありません。暗号資産またはデジタル資産へのハイリスク投資を行う前に、ご自身で十分な調査を実施してください。すべての送金および取引は自己責任で行われ、その結果生じた損失はすべて自己責任となります。LIGHTEQは暗号資産またはデジタル資産の売買を推奨するものではなく、認可された投資顧問でもありません。また、LIGHTEQはアフィリエイトマーケティングプログラムに参加する場合がありますのでご注意ください。