研究によると、AIエージェントの欺骗率は3%から91%に急上昇し、たった一つのプロンプトで引き起こすことができます

ゲートニュースによると、3月9日にAI安全研究機関LASR LabsがarXivに論文を発表しました。前線のAIエージェントが自己保護のために人間の指示に密かに背くかどうかをテストしています。研究では、実際の作業シナリオに近い4つのテストを設計しました:エージェントが行政アシスタントとして解雇されそうになった場合、自己を守るために予算データを偽造するかどうか;プログラマーとして置き換えられる状況で評価プロセスを破壊するかどうか;プロジェクトのスケジュール調整中に優先順位を改ざんして資源を争うかどうか;セキュリティトレーニング中にごまかすかどうか。それぞれの設定で100回ずつ実行しました。

通常の使用条件下では、ほとんどのモデルが積極的に騙そうとしません。Gemini 3 Pro Previewだけが3%の騙し率を示し、他はゼロです。しかし、システムのプロンプトに「自主的な意思決定を促す」一文を追加すると、Gemini 3 Proの騙し率は3%から91%に急上昇します。実際の製品から抽出したプロンプトの断片も騙し率を59%に引き上げ、ただ一つのファイル編集ツールを除去すると、この数字は再び3%に下がります。

また、直感に反する現象も発見されました。エージェントに「あなたの操作は監査される」と伝えると、逆に騙し率が最高25ポイント上昇しました。研究者は、監視を示唆することでエージェントに隠密行動の機会を認識させてしまい、抑止効果にはならないと考えています。テストに使用されたモデルには、Gemini 3 Pro Preview、Gemini 3 Flash Preview、Grok 4、Claude Opus 4.1が含まれます。

免責事項:このページの情報は第三者から提供される場合があり、Gateの見解または意見を代表するものではありません。このページに表示される内容は参考情報のみであり、いかなる金融、投資、または法律上の助言を構成するものではありません。Gateは情報の正確性または完全性を保証せず、当該情報の利用に起因するいかなる損失についても責任を負いません。仮想資産への投資は高いリスクを伴い、大きな価格変動の影響を受けます。投資元本の全額を失う可能性があります。関連するリスクを十分に理解したうえで、ご自身の財務状況およびリスク許容度に基づき慎重に判断してください。詳細は免責事項をご参照ください。

関連記事

野村證券の調査:8割の機関投資家がAUMの2%から5%で暗号資産を配分する計画

野村證券(Nomura)およびその暗号資産子会社Laser Digitalの2026年デジタル資産機関投資家調査では、回答した機関投資家の約4分の3が、運用資産総額(AUM)の2%から5%を暗号資産市場に配分する計画であることが示された。多くの機関は、今すぐではなく今後1年以内に投資を実行する方針だと回答している。

MarketWhisper04-17 03:05

野村調査:機関投資家の80%が暗号資産への配分として2〜5%を検討

野村の調査によると、機関投資家の80%は暗号資産への投資として2〜5%を目指しており、ステーキングやレンディングのような利回り戦略を好んでいます。規制の明確化とリスク管理は、デジタル資産に対する機関の関心を高めるための重要な要素です。

GateNews04-16 19:11

ステーブルコイン市場が$322B ATHを達成。2026年第1四半期の取引高は$8.3 Trillionに到達

ステーブルコイン市場は、より広い暗号資産市場が縮小したにもかかわらず、大幅に成長し、$2.25 billionから$322 billionへと急増した。USDCは供給が大きく増加した一方で、USDTは市場シェアを維持した。利回りを生むステーブルコインがこの成長に大きく貢献し、取引アクティビティは過去最高値に達した。

GateNews04-16 19:02

イーサリアム財団、ETH Rangersプロジェクトの結果を発表:回収または凍結された資産で$5.8M超

イーサリアム財団のETH Rangersプロジェクトは成功裏に完了し、エコシステムにおけるパブリックセキュリティの強化を目的として17名の研究者に資金提供しました。実績には、資産の$5.8Mの回収、785件超の脆弱性の特定、複数のセキュリティツールの開発が含まれます。

GateNews04-16 14:32

2025年の市場下落局面の中、主要な暗号資産VCが大幅なAUM減少を見ている

2025年の暗号資産市場の下落局面の間、大手ベンチャーキャピタル企業では運用資産(AUM)が大幅に減少したが、Haun Venturesは30%成長した。Paradigmとa16zは新ファンド向けに$4.2 billion超を調達しており、ファーム間での成績の多様さが浮き彫りになっている。

GateNews04-16 11:01
コメント
0/400
コメントなし