企業正積累比以往更多的數據來支持其人工智能抱負,但同時,他們也擔心誰可以訪問這些數據,這些數據往往包含非常私密的信息。PVML提供了一個有趣的解決方案,將類似ChatGPT的工具用於數據分析,同時結合了差分隱私的安全保證。使用檢索增強生成(RAG),PVML可以訪問一家公司的數據而無需移動它,消除了另一個安全考量。
這家總部位於特拉維夫的公司最近宣布已籌集了800萬美元的種子輪,由NFX領投,FJ Labs和Gefen Capital參與。
公司由夫妻檔Shachar Schnapp(CEO)和Rina Galperin(CTO)創立。Schnapp在計算機科學領域獲得博士學位,專攻差分隱私,然後在通用汽車公司從事計算機視覺工作,而Galperin在計算機科學獲得碩士學位,專注於人工智能和自然語言處理,在微軟的機器學習項目中工作。
Galperin表示:“我們在這個領域的許多經驗來自我們在大公司和大企業的工作中,我們看到事情並不如我們作為天真學生時所期望的那樣高效,也許。我們想要為PVML帶來的主要價值是民主化數據。這只有在你一方面保護這些非常敏感的數據的情況下,但另一方面允許輕鬆訪問這些數據才能實現,而今天這與人工智能是同義的。每個人都希望使用自由文本來分析數據。這樣更容易,更快速,更高效 - 而我們的秘密武器,差分隱私,可以輕鬆實現這種集成。”
差分隱私絕非一個新概念。其核心思想是確保大數據集中個人用戶的隱私,並為此提供數學保證。實現這一目標的最常見方式之一是在數據集中引入一定程度的隨機性,但不影響數據分析。
團隊認為當今的數據訪問解決方案效率低下並造成許多額外開支。例如,通常在使員工安全訪問數據的過程中必須刪除許多數據 - 但這可能是得不償失的,因為您可能無法有效地將經過編輯的數據用於某些任務(此外,訪問數據的額外領先時間通常使得實時使用案例往往是不可能的)。
使用差分隱私的承諾意味著PVML的用戶無需對原始數據進行更改。這幾乎消除了所有額外開支,並為人工智慧使用案例安全解鎖了這些信息。
幾乎所有大型科技公司現在在某種程度上使用差分隱私,並將他們的工具和庫提供給開發人員。PVML團隊認為,大多數數據社區尚未真正將差分隱私付諸實踐。
Schnapp表示:“關於差分隱私的現有知識更多是理論性的而非實用性的。我們決定將其從理論轉化為實踐。這正是我們所做的:我們開發了在現實情況下最適用於數據的實用算法。”
如果PVML的實際數據分析工具和平台沒有用處,差分隱私工作就毫無意義了。這裡最明顯的用例是能夠與數據進行對話,並保證敏感數據不會泄露到對話中。使用RAG,PVML可以將幻覺降至幾乎零,而額外開支很少,因為數據保持不變。
Schnapp和Galperin指出差分隱私還允許公司現在在業務部門之間共享數據。此外,它還可以使一些公司將數據向第三方開放進行商業化利用。
NFX的高級合夥人和聯合創始人Gigi Levy-Weiss表示:“今天股市中70%的交易是由人工智慧完成的。這是未來的趨勢,今天採用人工智慧的組織將在明天更有競爭力。但公司害怕將其數據連接到人工智能,因為他們擔心曝露 - 這是有充分理由的。PVML的獨特技術創建了一層隱形保護層,實現了對數據的民主訪問,使得今天的商業化使用案例成為可能,為明天鋪平道路。”