Anthropic 公司周二宣布 ，即將推出一款基于瀏覽器的人工智能代理的研究預(yù)覽版，該代理由其 Claude AI 模型驅(qū)動。這款名為 Claude for Chrome 的代理正在向 Anthropic Max 套餐的 1000 名用戶推出，該套餐每月費用在 100 至 200 美元之間。該公司還為其他感興趣的用戶開放了候補名單。

通過向 Chrome 添加擴展程序，部分用戶現(xiàn)在可以在 Sidecar 窗口中與 Claude 聊天，該窗口會保留其瀏覽器中所有事件的上下文。用戶還可以授權(quán) Claude 代理在其瀏覽器中執(zhí)行操作并代表他們完成某些任務(wù)。

瀏覽器正迅速成為人工智能實驗室的下一個戰(zhàn)場，它們的目標是利用瀏覽器集成，在人工智能系統(tǒng)和用戶之間提供更無縫的連接。

在周二的博客文章中，Anthropic 警告稱，擁有瀏覽器訪問權(quán)限的人工智能代理的興起帶來了新的安全風(fēng)險。上周，Brave 的安全團隊表示，發(fā)現(xiàn) Comet 的瀏覽器代理可能容易受到間接提示注入攻擊 ，即網(wǎng)站上的隱藏代碼可能會誘騙代理在處理頁面時執(zhí)行惡意指令。

Anthropic 表示，希望利用此次研究預(yù)覽來發(fā)現(xiàn)并解決新的安全風(fēng)險；然而，該公司已經(jīng)推出了幾種針對即時注入攻擊的防御措施。該公司表示，其干預(yù)措施將即時注入攻擊的成功率從 23.6% 降低到了 11.2%。

例如，Anthropic 表示，用戶可以在應(yīng)用設(shè)置中限制 Claude 的瀏覽器代理訪問某些網(wǎng)站，并且該公司已默認阻止 Claude 訪問提供金融服務(wù)、成人內(nèi)容和盜版內(nèi)容的網(wǎng)站。該公司還表示，Claude 的瀏覽器代理在“采取發(fā)布、購買或共享個人數(shù)據(jù)等高風(fēng)險行動”之前會征求用戶許可。

這并不是 Anthropic 首次涉足控制電腦屏幕的 AI 模型。早在 2024 年 10 月，該公司就推出了一款可以控制電腦的AI 代理——然而，當(dāng)時的測試表明，該模型速度相當(dāng)慢，而且不可靠。

自那時以來，代理型人工智能模型的能力已顯著提升?，F(xiàn)代瀏覽器人工智能代理（例如 Comet 和 ChatGPT Agent ）在為用戶分擔(dān)簡單任務(wù)方面相當(dāng)可靠。然而，許多此類代理系統(tǒng)在處理更復(fù)雜的問題時仍然舉步維艱。