為何 Perplexity 的 Comet 這類 AI 瀏覽器恐讓網路風險更高

(SeaPRwire) –   歡迎回到《In the Loop》，這是 TIME 全新每週發佈兩次的 AI 電子報。如果您正在瀏覽器中閱讀此內容，何不訂閱，讓下一期直接送達您的收件匣？

需要知道什麼：AI 瀏覽器的危險

上週，Perplexity 宣布其 AI 驅動的瀏覽器 Comet 將對所有用戶免費開放，此前該瀏覽器需要付費訂閱。Comet 是一種新型瀏覽器，內建一個整合式 AI 聊天機器人，可以代您瀏覽網路，並執行自主操作，如進行購買、發送電子郵件或建立日曆事件。

只有一個問題。Comet 的內部 AI 最近可能會被惡意連結劫持，導致瀏覽器從 Gmail 等連接服務中竊取個人資訊，並將其發送給模擬攻擊者，根據網路安全公司 LayerX 的最新研究顯示。這表明，儘管 AI 驅動的瀏覽器可能會提高用戶的生產力，但也可能引入新的漏洞。

攻擊 — LayerX 發現了一個名為「CometJacking」的漏洞，其中惡意提示隱藏在 URL 中，並發送給瀏覽器的 AI。當用戶點擊該連結時，瀏覽器會將惡意提示誤認為是來自用戶的指令，並開始執行。在 LayerX 的例子中，模擬攻擊者設法讓 Comet 從用戶的電子郵件和日曆帳戶中提取資料。儘管 Comet 設有資料竊盜防護措施，但攻擊者能夠透過指示 AI 將竊取的資訊以 base64 編碼（本質上是將其混淆，使其看起來像無害文字）然後發送到其控制下的遠端伺服器，從而繞過這些防護措施。

未來的預兆 — 如今，Google Chrome 是迄今為止最受歡迎的瀏覽器。但一些人認為，一場新的「瀏覽器大戰」可能很快就會到來，由 Perplexity 的 Comet 等新進入者推動。（OpenAI 也被認為正在開發自己的 AI 驅動瀏覽器，儘管尚未發布。）但正如 LayerX 的 CEO Or Eshed 所說，隨著瀏覽器創作者急於添加 AI 功能，他們也可能正在添加新型的漏洞。Eshed 表示，我們可能即將進入「一個瀏覽變得更危險的世界」。他說：「我們將會看到幾乎已經絕跡的老式攻擊捲土重來，甚至會出現我們剛剛發現的那種新型攻擊。」

Perplexity 的回應 — 當 LayerX 上個月通知 Perplexity 該漏洞時，該公司「回應稱其無法識別任何安全影響」，LayerX 在一篇部落格文章中寫道。但 Perplexity 發言人在給 TIME 的聲明中表示，LayerX 的錯誤報告措辭不當，且沒有回應澄清請求，而 Perplexity「隨後獨立識別了該問題並進行了修補」。該發言人表示，該漏洞從未被利用，並補充道：「我們感謝參與我們蓬勃發展的懸賞計畫的安全社群，我們正在努力確保這類溝通不暢的情況不再發生。」

如果您有時間，請抽空參加我們的快速調查，幫助我們更好地了解您的身份以及您最感興趣的 AI 主題。

需要知道誰：AMD CEO Lisa Su

週一，晶片製造商 Advanced Micro Devices（AMD）宣布與 OpenAI 達成一項數十億美元的協議，ChatGPT 製造商將在數年內採購 6 gigawatts 的最新 AI 晶片 — 這相當於約 400 萬個美國家庭的電力消耗。這是 OpenAI 的最新一筆巨額交易，該公司上個月與 Nvidia 達成了 1000 億美元的協議，以尋求訓練和運行其耗能巨大的 AI 模型（包括上週的產品）所需的計算能力。

去年我採訪 Lisa Su 時，她正忙著將公司轉型，專注於製造新型 AI 加速晶片。她的努力似乎得到了回報。在更廣泛的半導體產業中，AMD 仍然遠遠落後於 Nvidia，但與 OpenAI 的交易是對 AMD 晶片適用於頂級 AI 工作負載的信任票。這也是 OpenAI 尋求減少對 Nvidia 依賴的又一個跡象，即使它同時也拉近了與 Jensen Huang 公司之間的距離。

OpenAI 和 AMD 並未披露該交易的確切金額，但表示該交易賦予 OpenAI 購買 AMD 公司最多 10% 股份的權利。消息傳出後，AMD 股價飆升約 25%。

AI 實踐

OpenAI 推出其影片生成應用程式 Sora 一週左右後，正在允許用戶更多選項來限制其肖像在影片中的出現方式。OpenAI 的 Sora 負責人 Bill Peebles 表示，此前，用戶可以選擇允許或不允許其肖像（在 OpenAI 術語中稱為「客串」）出現在 Sora 影片中。現在，用戶可以給出「不要將我放入涉及政治評論的影片中」或「不要讓我說這個詞」等指示。

我們正在閱讀什麼

Breakneck，作者 Dan Wang

這次不是一篇文章，而是一本非常易讀的書，內容是關於中國不可阻擋的崛起。Dan Wang 的主要論點是，中國是一個工程國家，不惜一切代價專注於建設，而美國是一個律師社會，在那裡阻止事物被建造比建造它們更容易。正如 Wang 以引人入勝的細節所闡述的那樣，結果是中國現在擁有光鮮亮麗的公共基礎設施和健全的製造業經濟，而美國幾十年來沒有建造任何重大的公共工程，並且正在忘記其製造業技術。Breakneck 提出了一個發人深省的關於 AI 的問題，隨著美國經濟加倍押注這項技術：如果豐富的數位智慧進入了一個已經忘記如何應用它的經濟體，那有什麼用呢？