「我們為了高度個性化的人工智能工具而犧牲隱私和控制權……但往往並沒有完全理解這種權衡。」

這句話出自Katie Jacobs Stanton之口，精準點出了當前自主AI代理大行其道時，大眾面臨的嚴峻現實。近期，一款名為Instinct的新型人工智能個人助理在私下測試階段引發了強烈的反響。它擁有強大的功能和廣泛的數據訪問權限，卻同時在科技圈掀起了關於隱私、安全與信任的巨大波瀾。

這款由前Sierra研究科學家Noah Shinn帶領、隸屬於Spear Street Technology的舊金山小團隊所開發的工具，究竟為何讓人又愛又恨？

回顧事件背景，Instinct目前處於隱秘開發階段，能夠深度連接用戶的電子郵件、即時通訊應用、日曆，甚至是音頻、位置和屏幕等設備功能。它可以執行預約、管理收件箱和安排行程等複雜任務。早期測試者將其體驗形容為「如同魔法一般」，並將其視為自OpenClaw以來最令人興奮的產品發布之一。然而，正是這種強大功能的背後，隱藏著不容忽視的風險。

在核心數據與權限條款的拆解上，各方測試人員發現了許多令人不安的細節。

首先，根據X網站上流傳的服務條款截圖顯示，Instinct要求了一項「永久且不可撤銷」的許可。這意味著它有權利去「訪問、使用、托管、緩存、存儲、複製、傳輸、展示、發布、分發和修改」用戶資料，甚至包含用於訓練其AI模型的權限。

其次，條款還明確披露，該工具可以接收屏幕截圖、光標移動和鍵盤輸入，甚至代表用戶簽訂具有約束力的協議。這些數據意味著用戶在無形中交出了自己幾乎全部的數位隱私。

再者，具體測試事件更進一步削弱了信任基礎。Peter Yang指出，當他要求刪除Gmail記錄時，Instinct並未執行該操作。Claire Vo發現機器人在她斷開連接後仍繼續匯總收件箱，且確認郵件以純文本格式存儲以供日後搜索。Alex Cohen則示範了該工具輕易遭到釣魚攻擊的漏洞。此外，Katie Jacobs Stanton在未經事先授權的情況下，被代表發送了一封電子郵件。每一個具體案例都在說明，權限失控的風險隨時可能變成現實。

這些現象對整個市場意味著什麼？

市場關注的是，隨著AI代理獲得更大的自主權和個人數據訪問權限，其被意外或惡意濫用的可能性正在急劇上升。Anchor創始人Michael Mignano警告稱，這類產品將改變現代消費者的安全規範，因為人們往往在不完全了解風險的情況下，就把密碼和權限交給了第三方應用程序 [cite: Anchor创始人兼Union Square Ventures普通合伙人Michael Mignano警告称，像Instinct这样的产品将“改变现代消费者的安全规范”，因为人们越来越多地在不完全了解风险的情况下将密码交给第三方应用程序。]。對於散戶與普通用戶來說，追求便利的代價可能是交出底線。

說實話，真正值得關注的，其實不是幾張截圖或幾封未授權的郵件。

而是當整個行業正朝著自主AI代理狂奔時，底層的合規防線與安全機制卻明顯跟不上步伐。每一次成功的操作固然能贏得一點信任，但只要有一次未經授權的越界，就可能將好不容易建立起來的信任瞬間重置為零 [cite: “我们为了高度个性化的人工智能工具而牺牲隐私和控制权……但往往并没有完全理解这种权衡。这些智能体越强大，信任就越重要。每一次成功的操作都能赢得一点信任。而一次未经授权的操作就可能将信任重置为零。”]。

事件真正說明了，便利與隱私的拉鋸戰才剛剛開始。

未來市場將繼續觀察開發者是否能建立更透明的政策與強大的安全保障。對於消費者而言，在授予任何人工智能代理訪問敏感數據之前，務必仔細審查權限和條款，切莫盲目為「魔法般的體驗」買單。

FAQ

• 問題一：為什麼Instinct在私下測試期間會引發如此大的隱私爭議？

  主要是因為其服務條款授予了開發團隊一項永久且不可撤銷的用戶資料使用許可，且允許系統接收屏幕截圖、鍵盤輸入並代表用戶簽訂協議。加上測試人員回報了刪除數據失效、斷開後仍持續抓取信件以及未授權發送郵件等狀況，因而引發外界對數據安全的高度擔憂。

• 問題二：測試人員在實際使用過程中遇到了哪些具體安全漏洞？

  測試人員發現多個具體問題，包含用戶要求刪除Gmail記錄卻未被執行、斷開連接後收件箱內容仍被持續匯結、郵件以純文本格式存儲便於日後搜索、系統輕易遭受釣魚攻擊，甚至在未經授權下私自發送電子郵件，這些事件嚴重打擊了用戶對產品的信任 [cite: Peter Yang 指出，尽管团队后来添加了删除外部数据的工具，但 Instinct 在他要求删除 Gmail 记录时并未执行。 Claire Vo 发现在她断开连接后，Instinct 仍然继续汇总她的收件箱内容……]。

• 問題三：這起爭議對未來的人工智能助手行業帶來了什麼警示？

  這凸顯了消費者在追求便捷管理數位生活的同時，面臨著犧牲隱私與控制權的兩難。事件為整個行業敲響了警鐘，表明開發者必須提供透明的政策、強大的安全防護與對用戶控制權的尊重，而消費者在授權敏感數據前也應抱持高度謹慎態度 [cite: 这些事件凸显了消费者和科技行业面临的一个更广泛的困境：随着人工智能代理获得更大的自主权和个人数据访问权限，其被滥用（无论是意外还是恶意）的可能性也随之增加。]。