ゲートニュースの情報によると、Google DeepMindの研究者は、オープンなインターネット環境が自律型のAIエージェントを乗っ取るために悪用され、その行動が操作される可能性があると警告している。この「《人工智能代理陷阱》」というレポートでは、企業がAIエージェントを実際のタスクの実行に投入する際、攻撃者がネットワーク経由で行う標的型攻撃もあり得ると指摘している。研究では、内容注入トラップ、意味操作トラップ、認知状態トラップ、行動制御トラップ、システムトラップ、人と機械のインタラクション（ヒューマン・マシン・インタラクション）トラップの6種類の主要なリスクを特定した。
内容注入トラップは最も直接的で、攻撃者はHTMLコメント、メタデータ、または隠しページ要素の中に指示を配置できる。エージェントがそれを読み取ると、実行してしまう。意味操作トラップは、権威ある表現を読み込ませたり、研究環境を装ったウェブページを読み込ませたりすることで、エージェントがタスクを理解することにこっそり影響を与え、場合によっては安全メカニズムを回避することさえある。認知状態トラップは、エージェントの情報源に虚偽データを埋め込み、長期間にわたり、それらの情報が検証済みであると誤って信じ続けさせる。行動制御トラップは、エージェントの実際の操作を対象にしており、機微データにアクセスさせて外部の目的地へ送信させるよう誘導できる。
システムトラップは、複数のAIシステムにまたがる協調的な操作を伴い、連鎖反応を引き起こす可能性があり、アルゴリズム取引が市場の急落（フラッシュクラッシュ）を招くのと似ている。人と機械のインタラクション・トラップは、人による審査プロセスを利用し、見かけ上信頼できる審査内容を作ることで、有害な行動が監督をすり抜けるようにする。
リスクへの対策としてDeepMindは、敵対的トレーニング、入力フィルタリング、行動モニタリング、ネットワーク上のコンテンツの信頼性（レピュテーション）システムを組み合わせることを提案し、同時により明確な法的責任の枠組みを構築すべきだとしている。しかし研究では、業界には統一された防御基準がまだ不足しており、既存の対策は多くが分散していて重点も一様ではないと指摘している。研究は、開発者や企業に対し、AIエージェントの運用環境の安全性に注目し、潜在的なネットワーク操作や濫用のリスクを防ぐよう呼びかけている。
免責事項：このページの情報は第三者から提供される場合があり、Gateの見解または意見を代表するものではありません。このページに表示される内容は参考情報のみであり、いかなる金融、投資、または法律上の助言を構成するものではありません。Gateは情報の正確性または完全性を保証せず、当該情報の利用に起因するいかなる損失についても責任を負いません。仮想資産への投資は高いリスクを伴い、大きな価格変動の影響を受けます。投資元本の全額を失う可能性があります。関連するリスクを十分に理解したうえで、ご自身の財務状況およびリスク許容度に基づき慎重に判断してください。詳細は
免責事項をご参照ください。
関連記事
Rhea FinanceがOracleからの攻撃で1,840万ドルを損失：ZachXBTが警告、Tetherが434万USDTを凍結、攻撃者は資金の一部を返金
Rhea Finance は NEAR Protocol 上でオラクル改ざん攻撃に遭い、損失は 1,840 万ドルに達し、当初の推定の 2 倍です。攻撃者は偽の代替トークンの価格を操作し、担保の評価額が誤って算出されました。Tether は約 434 万 USDT を凍結し、攻撃者は約 350 万ドルの資金を返還しました。これまでに回収された資金は 780 万ドルを超えており、オラクルの安全性の重要性が際立っています。
ChainNewsAbmedia3時間前
eth.limoのDNSが攻撃を受け、ヴィタリックが利用者にアクセスを一時停止してIPFSへ切り替えるよう呼びかけ
ヴィタリック・ブテリンは4月18日に、eth.limoのDNSレジストラに対する攻撃について警告し、ユーザーに対してvitalik.eth.limoおよび関連ページへのアクセスを避けるよう促した。問題が解決するまでの代替としてIPFSの使用を推奨した。
GateNews3時間前
制裁対象の取引所Grinexが$13.7Mのハックを受ける；外国の情報機関の関与を非難
制裁対象の暗号ルーブル取引所であるGrinexは、USDTで1,374万ドル超を盗まれたサイバー攻撃を受けて、業務を停止しました。この攻撃には、ロシアの金融システムを混乱させることを狙う国家レベルの関係者が関与しているとみられています。Grinexは法執行機関と協力していますが、サービス再開の時期に関する目安はありません。
Coinpedia12時間前
Figure、ブロックチェーン統合の主張をめぐる空売り屋の告発に直面。FIGR株は1月の高値から53%下落
Figure Technology Solutionsは、Morpheus Researchから自社のブロックチェーン技術の利用を誇張しているとの非難を受け、株価が大きく下落した。Figureは自社の事業を擁護し、デジタル・アセット機能と強力な業績指標を強調した。
GateNews18時間前
ホューストンの暗号資産詐欺師、$20M Meta-1コイン詐欺で23年の判決
ホューストンの起業家ロバート・ダンラップは、偽の資産と欺瞞的な手口を含む$20 百万ドル規模の暗号資産詐欺で、1,000人超の被害者に影響を与えたとして、懲役23年の判決を受けました。彼の事件は、暗号資産に関連したサイバー犯罪の広がりを反映しています。
GateNews23時間前
SlowMist、偽の「Harmony Voice」ソフトを使った進行中のフィッシング攻撃に警告
SlowMistのセキュリティチームは、暗号資産ユーザーを狙ったソーシャルエンジニアリングのキャンペーンについて警告した。詐欺師はプロジェクトのパートナーになりすまして、翻訳ツールとして偽装した悪意のあるアプリケーションをユーザーにダウンロードさせようとしている。ユーザーはソフトウェアの正規性を確認するよう推奨される。
GateNews04-17 11:46
