天啦擼!回溯你在網(wǎng)上看過、做過的一切，也有免費(fèi)軟件可用了!

　　簡單說，針對(duì)任何“之前好像在哪看過”的電腦文件，只需輸入相關(guān)搜索詞，這個(gè)軟件都能幫你一鍵輕松回憶了。

　　打開方式be like(沒錯(cuò)，也有中文版):

　　你品，你細(xì)品。這像不像《黑鏡》中“你的全部歷史”那一集，描述了一種人人都植入芯片、能隨時(shí)讀取過去記憶的未來生活。

　　更有意思的是，發(fā)明這個(gè)軟件的朋友將其命名為Pensieve(冥想盆)，它是指”哈利波特中提取和回顧記憶的那個(gè)大水盆子”。

　　笑死，你別說還真貼切!事實(shí)上，這個(gè)項(xiàng)目大量借鑒了之前就很火的“記憶助手軟件”Rewind和微軟的Windows Recall功能。

　　但是，這兩個(gè)emmm……Rewind要收費(fèi)(基礎(chǔ)版12美元/月)，微軟的延期了。

　　所以，既免費(fèi)、又立即可用的Pensieve是真香了!

　　這不，代碼更新后迅速登上了GitHub熱榜~

　　記住并回憶電腦屏幕上的所有內(nèi)容

　　我們先來看GitHub頁面上Pensieve(原名為Memos)的官方介紹:

　　一個(gè)以隱私為中心的被動(dòng)錄制項(xiàng)目。它可以自動(dòng)記錄屏幕內(nèi)容，構(gòu)建智能索引，并提供方便的網(wǎng)頁界面以檢索歷史記錄。

　　是不是聽起來還是有點(diǎn)抽象?

　　別急，我們馬上拿Rewind和Windows Recall來一波回憶殺(doge)。

　　先說微軟畫了很久的大餅——Windows Recall。這個(gè)功能是今年5月首次被提出的，當(dāng)時(shí)微軟計(jì)劃將其作為C opilot + PC的一項(xiàng)旗艦功能推出。

　　當(dāng)時(shí)主打，任何文件或網(wǎng)頁瀏覽記錄都可以用自然語言搜索，輕松回憶任何東西。

　　然而，由于安全方面的擔(dān)憂，該功能的發(fā)布被一再推遲，且至今仍未上線。

　　細(xì)數(shù)一下，微軟最初計(jì)劃于6月18日發(fā)布，但由于安全問題，到了時(shí)間點(diǎn)卻未能按時(shí)上線。

　　后來微軟對(duì)其進(jìn)行了改進(jìn)，加入了高級(jí)加密和Windows Hello認(rèn)證，數(shù)據(jù)被保存在VBS安全區(qū)中，第三方應(yīng)用和用戶無法訪問，而且截圖將自動(dòng)排除諸如密碼和信用卡信息等敏感內(nèi)容。

　　一番改造后，微軟又計(jì)劃在10月底開始測(cè)試新版本的Windows Recall。

　　直到今日，該功能仍未上線，微軟還在改改改……

　　此外，對(duì)于“記憶助手”Rewind，雖然干得熱火朝天，但奈何它是收費(fèi)滴。

　　Rewind成立于2020年，主打通過AI技術(shù)捕捉和整理用戶的全部生活內(nèi)容。

　　具體功能和Windows Recall類似，也是幫助用戶記錄并回溯在手機(jī)或電腦上看過的所有信息。

　　不過除了走到“回憶起”這一步，Rewind走得更遠(yuǎn)了一點(diǎn)。

　　它還接入了GPT-4，能夠?qū)�這些“記憶”進(jìn)行更深一步的操作，使得用戶可以通過提出問題、創(chuàng)建摘要等方式與系統(tǒng)進(jìn)行交互。

　　而就在Rewind功能更加完備的過程中，它也收獲了資本的青睞。

　　截至今年初，Rewind已經(jīng)完成了兩輪融資，共計(jì)2790萬美元，估值約為3.5億美元(25.34億人民幣)，而且兩輪中都有OpenAI CEO Sam Altman和a16z的身影。

　　相比之下，根據(jù)項(xiàng)目作者的說法，Pensieve的最大特點(diǎn)在于:

　　允許用戶完全控制自己的數(shù)據(jù)，避免將數(shù)據(jù)傳輸?shù)讲豢尚诺臄?shù)據(jù)中心。

　　具體而言，Pensieve擁有以下幾個(gè)特點(diǎn):

　　簡單安裝，只需通過pip安裝依賴項(xiàng)即可開始;

　　所有數(shù)據(jù)均本地存儲(chǔ)，允許完全本地操作和自主數(shù)據(jù)管理;

　　實(shí)現(xiàn)全文和向量搜索;

　　與Ollama(一個(gè)支持本地部署LLM的開源框架)集成，增強(qiáng)搜索能力;

　　支持Mac和Windows(Linux支持正在開發(fā)中);

　　兼容任何OpenAI API模型(例如，OpenAI、Azure OpenAI、vLLM等);

　　允許用戶選擇和設(shè)置語言模型(包括中文和英文);

　　允許通過插件擴(kuò)展功能;

　　下面重點(diǎn)介紹大家關(guān)心的幾個(gè)問題。

　　第一，需要占用多少存儲(chǔ)。

　　作者貼心預(yù)估了一下，每月按20個(gè)工作日計(jì)算，產(chǎn)生的截圖文件約8GB。截圖會(huì)進(jìn)行去重，如果連續(xù)截圖內(nèi)容變化不大，那么只會(huì)保留一張截圖。

　　SQLite數(shù)據(jù)庫大小取決于索引的截圖數(shù)量，10萬張截圖索引后約占用2.2GB存儲(chǔ)空間。

　　第二，關(guān)于功耗和硬件設(shè)備。

　　Pensieve默認(rèn)需要兩個(gè)計(jì)算密集型任務(wù):1)一個(gè)是OCR任務(wù)，用于從截圖提取文本;2)另一個(gè)是嵌入任務(wù)，用于提取語義信息和構(gòu)建向量索引;

　　對(duì)于前者，作者使用CPU執(zhí)行，并針對(duì)不同的操作系統(tǒng)優(yōu)化以最小化CPU使用。

　　而對(duì)于后者，作者認(rèn)為可以按照自己的設(shè)備進(jìn)行選擇:

　　NVIDIA GPU設(shè)備優(yōu)先使用GPU;

　　蘋果設(shè)備優(yōu)先使用Metal GPU;

　　其他設(shè)備使用CPU;

　　當(dāng)然，為了避免影響用戶日常使用，Pensieve還采取了優(yōu)化措施。

　　一方面，Pensieve能夠根據(jù)用戶的活動(dòng)模式動(dòng)態(tài)調(diào)整索引構(gòu)建的頻率。也就是說，在用戶使用電腦時(shí)，它會(huì)降低索引構(gòu)建的優(yōu)先級(jí)，以減少系統(tǒng)資源的占用。

　　另一方面，Pensieve在設(shè)計(jì)時(shí)考慮了電池使用壽命，通過監(jiān)控電池狀態(tài)，當(dāng)電池電量低于某個(gè)閾值時(shí)，會(huì)自動(dòng)減少資源消耗，以延長電池使用時(shí)間。

　　第三，隱私安全如何保證。

　　Pensieve作者提出了4點(diǎn)措施來保證用戶隱私，包括:

　　1、代碼是完全開源且易于理解的Python代碼，允許任何人審查以確保沒有后門或惡意軟件。

　　2、本地化數(shù)據(jù)存儲(chǔ)。Pensieve將所有數(shù)據(jù)存儲(chǔ)在用戶的本地設(shè)備上，而不是上傳到云端服務(wù)器。

　　3、易于卸載:Pensieve提供了簡單的卸載過程，用戶可以輕松地從系統(tǒng)中移除。

　　4、數(shù)據(jù)處理完全由用戶控制。用戶可以自由選擇何時(shí)啟動(dòng)或停止記錄，以及如何管理和查詢自己的數(shù)據(jù)。

　　另外，作為一個(gè)獨(dú)立項(xiàng)目，Pensieve所使用的機(jī)器學(xué)習(xí)模型(包括VLM和嵌入模型)都允許由用戶選擇。

　　這就上手安裝試試

　　概括而言，使用Pensieve大致包括以下幾個(gè)步驟:

　　安裝Pensieve

　　初始化pensieve配置文件和sqlite數(shù)據(jù)庫

　　使用兩行命令啟動(dòng)服務(wù)

　　打開瀏覽器并訪問Web界面

　　BTW，Pensieve作者也貼心奉上了“食用指南”，簡單概括如下:

　　1、選擇適當(dāng)?shù)那度肽Ｐ?/p>

　　由于Pensieve使用嵌入模型提取語義信息并構(gòu)建向量索引，故選擇合適的嵌入模型至關(guān)重要。

　　根據(jù)用戶習(xí)慣的語言，作者提供了中英兩種模型。

　　2、使用Ollama進(jìn)行視覺搜索

　　默認(rèn)情況下，Pensieve僅啟用OCR插件從截圖提取文本并構(gòu)建索引。然而，這種方法極大限制了沒有文本的圖像的搜索效果。

　　對(duì)此，我們需要一個(gè)與OpenAI API兼容的多模態(tài)圖像理解服務(wù)，剛好Ollama可以勝任。

　　需要提醒的是，在啟動(dòng)VLM功能之前，對(duì)硬件有一定要求:

　　推薦配置:至少8GB VRAM的NVIDIA顯卡或搭載M系列芯片的Mac;

　　CPU模式不推薦，因?yàn)樗鼤?huì)導(dǎo)致系統(tǒng)嚴(yán)重卡頓;

　　3、全文索引

　　由于Pensieve默認(rèn)情況下并非所有截圖都會(huì)立即索引，因此，需要以下命令行，才能實(shí)現(xiàn)全文索引功能。