隱私權原則:搜尋、學習和人工智慧
本譯文僅供參考,若與英文版本牴觸,應以英文版本為準。
隱私權原則:搜尋、學習和人工智慧
我們在打造產品時立下使命,致力於讓人們工作時更輕鬆、更愉快、生產力更高。我們打造這項產品的指導原則,是將客戶資料的隱私和安全性視為不容侵犯的重要底線,正如我們的隱私權政策、安全性文件、SPARC 和 Slack 條款所述。
機器學習 (ML) 和人工智慧 (AI) 都是相當實用的工具,我們會節制運用這些工具,提高達成產品使命的機會。我們不會利用客戶資料開發 LLM 或其他生成式模型。為了開發非生成式 AI/ML 模型以提供表情符號建議和頻道推薦等功能,我們的系統會分析使用者提交給 Slack 的客戶資料 (例如訊息、內容和檔案) 以及隱私權政策和客戶協議中定義的其他資訊 (包括使用情形的相關資訊)。為確保此特定情況下客戶資料仍能保有隱私,並顧及安全性,我們會確實遵循幾項指導原則:
- 資料不會經由任何工作空間洩漏出去。 如果模型預計廣泛應用於所有客戶,我們不會透過模型可以學習、記憶或重製部分客戶資料的方式,來建置或訓練模型。
- 我們採取技術控管措施,杜絕存取行為。我們在開發 AI/ML 模型或分析客戶資料時,Slack 無法存取底層內容。我們採用多種技術,避免 Slack 逕自存取。請參閱我們的安全性白皮書,深入瞭解保護客戶資料機密性和安全性的控管機制。
- 我們允許客戶選擇是否參與訓練過程。 如果你想從協助訓練 Slack 全域模型的資料中排除你的客戶資料,可以選擇退出。如果你選擇退出,你工作空間中的客戶資料就只會用來改善你在自有工作空間中的體驗,不過你仍可享有我們全域訓練 AI/ML 模型所帶來的好處,不必將個人資料用於底層模型的訓練。
聯絡我們,提出退出請求。 如果你想從 Slack 全域模型的資料中排除你的客戶資料,可以選擇退出。若要選擇退出,請由組織或工作空間擁有者或主要擁有者聯絡我們的客戶體驗團隊 ([email protected]),並附上你工作空間/組織的網址,主旨行輸入「Slack Global model opt-out request」(Slack 全域模型退出請求)。 我們會處理你的請求,待退出流程順利完成之後,我們會回覆你。
客戶資料和其他資訊。
Slack 如何使用客戶資料 (例如訊息、內容、檔案) 和其他資訊來更新服務
根據上述原則,以下提供幾個範例,說明我們的產品和管理分析團隊在開發、更新及改善 Slack 時完成了哪些改進之處,以及採取哪些隱私保護技術:
- 頻道推薦:我們可能會使用深入分析,推薦使用者加入其公司新建立的公開頻道。我們會根據頻道成員資格、活動和主題重疊情況,提出建議。我們的模型會參考先前提供的建議,以及使用者是否加入我們推薦的頻道,在這些基礎上給出推薦。同時,我們會將模型與客戶資料分開,以保護隱私。我們使用外部模型 (並非以 Slack 訊息訓練而成) 來評估主題相似度,進而給出評分數據。我們的全域模型只會根據這些評分數據和非客戶資料,為使用者推薦合適的頻道。如需更多技術詳細資訊,請瀏覽我們的工程部落格深入瞭解。
- 搜尋結果:我們的搜尋機器學習模型會找出特定查詢的正確結果,協助使用者找到所需的內容。我們是根據以往的搜尋結果和先前的互動情形,找到正確的內容,並非從搜尋查詢的底層文字、結果或 Proxy 中學習。簡單來說,我們的模型無法重建搜尋查詢或結果,而是從團隊的具體情境資訊中學習,從中梳理出蛛絲馬跡,例如使用者在搜尋中點選某一訊息的次數,或查詢和建議訊息中重複的字數。
- 自動完成:Slack 可能會提供建議,協助使用者輸入搜尋的查詢內容或其他文字,例如在使用者輸入「客戶支援」的前幾個字後,就自動為使用者完成剩下的部分。這些建議僅適用於本機,源自使用者工作空間中常見的公開訊息字詞。我們的演算法是根據先前的建議以及使用者接受由系統自動完成的字詞,在經過全域訓練後,從可能的選擇中挑選要提供給使用者的建議。我們使用規則為輸入的文字和各種建議間的相似度評分,包括僅使用數字評分及計算演算法過去的互動次數,達到保護資料隱私的目的。
- 表情符號建議:Slack 可能會參考訊息的內容和情緒、表情符號的使用情形,以及多種情境下團隊使用表情符號的頻率,提供訊息的表情符號回應建議。舉例來說,如果 🎉 是特定頻道出現喝采訊息時常見的回應,我們就會在使用者收到類似的正面訊息時,建議使用 🎉 予以回應。為執行此功能,同時保護客戶資料,我們可能會使用外部模型 (並非以 Slack 訊息訓練而成),將訊息的情緒分類。當工作空間中某種情緒的訊息已與特定的表情符號建立起關聯,我們的模型就會在只考量頻率的情況下,提供表情符號建議。
這些貼心的個人化功能和改善項目,唯有經過研究並瞭解使用者與 Slack 如何互動,才有可能實現。
Slack 非常重視隱私,客戶協議和隱私權政策規定的保密義務適用於這裡所述的每一種情況。客戶資料為客戶本人所擁有。Slack 會彙整並抹除客戶資料中可指認客戶身分之內容,在利用客戶資料更新服務時,不會對任何第三方 (除了 Slack 關係企業或下游處理商之外) 指認任何客戶或個人是服務改進的源頭。
生成式 AI
生成式 AI 是一種 AI 系統的新興類別,可根據使用者輸入的提示產生文字等內容。這種 AI 類別包含大型語言模型 (LLM)。Slack 的 Slack AI 產品使用生成式 AI,並利用第三方 LLM。
客戶以擴充套件形式購買 Slack AI,Slack 標準產品不提供生成式 AI 功能。我們絕不使用客戶資料來訓練第三方 LLM 模型。Slack 不會使用客戶資料訓練 LLM 或其他生成式模型,也不會與任何 LLM 提供者分享客戶資料。深入瞭解我們如何建立安全且私密的 Slack AI。
Slack AI 使用現成的 LLM,模型不會在收到請求後更新,也不會以任何方式保留客戶資料。此外,由於 Slack AI 在自有 AWS 基礎架構上託管這些模型,客戶資料僅會保留在 Slack 信任的基礎架構中,且 LLM 提供者絕無任何客戶資料存取權。
Slack AI 生成式搜尋答覆
Slack AI 搜尋功能會從下列來源擷取內容:Slack 功能 (畫板、微型會議畫板記錄、剪輯文字轉出記錄和文字程式碼片段);上傳至 Slack 的檔案 (PDF、電子郵件、docx、pptx 和 Keynote);與 Google 雲端硬碟連結的文件 (Google 文件、Google 簡報);Sharepoint/OneDrive (Word、Powerpoint) 和 Box 等檔案儲存合作夥伴應用程式 (如有安裝)。使用者必須透過與 Slack 整合的服務進行驗證,才能存取上述檔案。我們提供管理員設定,可用來隱藏所有檔案結果,或禁止擷取外部託管檔案內容。詳情請參閱說明中心內容或管理員指南簡報。