是否應該允許人工智能“看到工作中的一切”？
多年來，人工智能在工作中給人的感覺就像是一個安靜的後台助手。它總結了會議，提出了建議文本，並回答了我們提出的問題。那個時代正在結束。最新的人工智能代理開始更像隊友一樣在系統中移動。他們加入項目、更新計劃並跨團隊行動。組織第一次有效地讓同事比任何人都能看到更多的工作場所。我花了數年時間構建工具來讓團隊保持清晰並節省他們的時間，所以我看到了它的好處。但這種轉變引發了一個更棘手的問題：人工智能在工作場所“看到一切”真正意味著什麼？道德問題不在於智能體是否可以從技術上訪問信息。關鍵在於他們的訪問權限是否反映了一個理性的員工在工作過程中會遇到的情況。當可見性變成影響力大多數工作場所依賴基於角色的訪問和權限來維持秩序。人們只能看到與其角色相關的信息，而這些邊界決定了團隊如何協作以及如何解決分歧。人工智能代理使該系統變得複雜。如果代理擁有比其應有的更多訪問權限，即使是偶然，它也可以公開信息，從而改變工作的解釋方式，並將決策從原本應該做出決策的人手中轉移出去。這些場景通常首先以較小的方式出現。員工可能會向代理提出問題，並根據他們沒有意識到屬於代理範圍內的敏感信息獲得答案。
已发布: 2026-01-17 08:12:00
