Anthropic、ClaudeがChromeを操作する公式拡張機能をリリース
Anthropicは、Claudeが直接ブラウザー内で動作する拡張機能を発表しました。今回リリースされた公式の拡張機能をインストールすると、Claudeがユーザーに代わってブラウザーの画面を確認し、ボタンをクリックし、フォームに入力します。
Claudeはここ数か月、カレンダーやドキュメントなどのさまざまなソフトウェアと接続できるようになりました。
Anthropicは、次の一歩としてClaudeが直接ブラウザー内で動作する拡張機能を発表しました。
AIエージェントがユーザーに代わってブラウザーを操作する製品は、各社が次々とリリースしています。
今回リリースされた公式の拡張機能をインストールすると、Claudeがユーザーに代わってブラウザーの画面を確認し、ボタンをクリックし、フォームに入力します。
Claudeにブラウザーの操作を指示できるChrome用の拡張機能は、信頼できるテスターとして、Claude Maxプランに加入しているユーザーのうち1,000人を対象として試験的に提供されます。
テスターによるフィードバックをもとに安全対策を強化し、段階的にアクセスを拡大します。
Anthropicの内部では、初期バージョンのClaude for Chromeを使ってカレンダー管理、会議のスケジュール設定、メールの下書き作成、日常的な経費報告の処理、新しいWebサイト機能のテストなどができました。
ところが悪意のある指示が含まれる隠しテキストを使って、AIに想定と異なる動作をさせる「プロンプトインジェクション攻撃」に対して、ブラウザーを使うAIエージェントは脆弱です。
たとえば、プロンプトインジェクション攻撃により、AIにファイルを削除させたり、金銭取引を実施させたりできてしまいます。
Anthropicが29種類の攻撃シナリオを代表する123件のテストケースでプロンプトインジェクションテストを実施したところ、安全対策なしの場合の攻撃成功率は23.6％でした。
Anthropicはプロンプトインジェクション攻撃に対する対策として、権限の制限を導入しています。
まず、サイト単位の権限を導入し、設定で特定のWebサイトに対するClaudeのアクセスを許可したり、取り消したりできます。
次に、何かを公開したり、購入したり、個人データを共有したりといった高リスクな行為については、Claudeが実行前にユーザーに確認を求めるようになっています。
実験的な「自律モード」を有効にしている場合でも、非常に機微な行為に対してはClaudeは特定の保護を維持します。
そのほか、システムプロンプトを改善したり、高リスクカテゴリーのWebサイトへのClaudeのアクセスをブロックしたりしています。
さらに、一見正当な文脈だったとしても疑わしい命令パターンや異常なデータアクセス要求を検出するテストも開始しています。
自律モードに安全緩和策を導入したところ、攻撃成功率は23.6％から11.2％に低下し、既存のComputer Use機能に比べて有意な改善を示します。
また、WebページのDOM（ドキュメントオブジェクトモデル）内の人間には見えない悪意のある隠れたフォームフィールドなど、ブラウザー固有の新しい攻撃に対する緩和策も実施しています。
タブタイトルやURLテキストを通じた攻撃にも対策しています。
この新しい拡張機能をインストールするには、Claude Maxプランに加入した上でウェイティングリストに登録する必要があります。
参考リンク
記事をシェア
フォローして最新情報を入手
Googleの優先ソースに追加すると、このサイトの記事をGoogleで見つけやすくなります。また、ぜひXやRSSフィードもフォローしてください。
-1.png&w=1080&q=75)
生まれた時から、母国語よりも先にJavaScriptを使っていました。ネットの海のどこにもいなくてどこにでもいます。
Webフロントエンドプログラマーとして、TypeScriptを用いたWebアプリやブラウザー拡張機能を制作。Xのシャドウバン検知ツール「Shadowban Scanner」やリンクカード復活ツール「Restore Link Card」を公開し、国内外のメディアで紹介されました。iGEM 2023ではJapan-UnitedチームのWikiを制作してGrand Prizeの獲得に貢献。ブログではXやSNSの最新ニュース、不具合の検証と対処法、フロントエンド開発の知見を発信しています。
