基于大語(yǔ)言模型(LLM)的已支 AI 助手是強(qiáng)大的生產(chǎn)力工具,但如果缺乏正確的代理上下文和信息,往往難以提供細(xì)致且切題的搜索回答。盡管大多數(shù)基于 LLM 的已支聊天應(yīng)用允許用戶提供少量文件作為上下文參考,但它們通常無(wú)法訪問(wèn)用戶電腦中隱藏在PPT、代理筆記、搜索PDF 和圖像中的已支全部信息。
Nexa.ai 的代理 Hyperlink 是一款本地 AI 智能體,專為解決這一難題而設(shè)計(jì)。搜索它能夠快速索引數(shù)千個(gè)文件,已支理解用戶問(wèn)題的代理意圖,并提供上下文相關(guān)的搜索個(gè)性化見解。
11月12日上線的已支最新版本應(yīng)用針對(duì) NVIDIA RTX AI PC 進(jìn)行加速優(yōu)化,使檢索增強(qiáng)生成(RAG)索引速度提升至原來(lái)的代理3倍。例如,搜索過(guò)去一個(gè) 1GB 高密度文件夾需要近15分鐘才能完成索引,現(xiàn)在只需4到5分鐘。LLM 推理速度也提升2倍,從而更快響應(yīng)用戶查詢。
圖注:NVIDIA RTX AI PC 上的 Hyperlink 功能可將索引速度提升至 3 倍,LLM 推理速度提升至 2 倍。基準(zhǔn)測(cè)試在 RTX 5090 上使用測(cè)試數(shù)據(jù)進(jìn)行;索引速度以總索引時(shí)間衡量,推理速度以處理的 token / s衡量。
將本地?cái)?shù)據(jù)轉(zhuǎn)化為即時(shí)智能
Hyperlink 利用生成式 AI 在成千上萬(wàn)個(gè)文件中搜索所需信息,理解用戶查詢的意圖和上下文,而不僅僅是關(guān)鍵詞匹配。
為實(shí)現(xiàn)這一功能,它會(huì)根據(jù)用戶指定的范圍創(chuàng)建可搜索的本地文件索引——不論是一個(gè)小文件夾還是整臺(tái)PC中的全部文件。用戶只需用自然語(yǔ)言描述自己想找的內(nèi)容,就能在本地文檔、PPT、PDF 和圖像中快速定位相關(guān)內(nèi)容。
例如,當(dāng)用戶請(qǐng)求幫助撰寫“一篇科幻小說(shuō)讀書報(bào)告,比較兩部小說(shuō)的主題”時(shí),Hyperlink 能找到相關(guān)信息——即便這篇內(nèi)容的文件名是“Lit_Homework_Final.docx”。
<插入視頻:https://images.nvidia.cn/cn/youtube-replicates/GB6RW4GSOCU.mp4>
Hyperlink將搜索能力與 RTX 加速的 LLM 推理相結(jié)合,基于用戶文件中的信息回答問(wèn)題。它能將不同來(lái)源的觀點(diǎn)聯(lián)系起來(lái),識(shí)別文檔之間的關(guān)系,并生成論證充分、引用清晰的答案。
所有用戶數(shù)據(jù)均保留在本地設(shè)備中,確保隱私安全。個(gè)人文件永遠(yuǎn)不會(huì)離開電腦,用戶無(wú)需擔(dān)心敏感信息被上傳至云端。借助 Hyperlink,用戶可在不犧牲控制權(quán)與安心感的前提下,充分享受強(qiáng)大 AI 帶來(lái)的便利。
Hyperlink 已被專業(yè)人士、學(xué)生和創(chuàng)作者在以下場(chǎng)景中廣泛應(yīng)用:
會(huì)議準(zhǔn)備:總結(jié)筆記中的關(guān)鍵討論點(diǎn)報(bào)告分析:提供有依據(jù)的答案,并引用行業(yè)報(bào)告中的關(guān)鍵數(shù)據(jù)內(nèi)容創(chuàng)作:從多年積累的筆記和草稿中整理寫作或視頻創(chuàng)意高效學(xué)習(xí):臨考復(fù)習(xí)時(shí),一鍵查找講義、PPT和教程,快速掌握核心知識(shí)點(diǎn)收據(jù)整理:分類掃描文檔并自動(dòng)填寫費(fèi)用報(bào)告加速調(diào)試:跨文檔和代碼注釋進(jìn)行搜索,快速定位錯(cuò)誤或版本沖突并解決問(wèn)題
下載 Hyperlink 應(yīng)用,在 RTX PC 上開啟 AI 搜索體驗(yàn)。
NVIDIA RTX AI PC的相關(guān)信息請(qǐng)關(guān)注微博、抖音及嗶哩嗶哩官方賬號(hào)。
軟件產(chǎn)品信息請(qǐng)查看聲明。