分类 自由软件分享 下的文章

介绍正主:Page Assist

来自DeepseekR1:14B的联网搜索:
Page Assist 是一款开源的浏览器扩展程序,专为本地AI模型提供支持和服务。它的主要功能是通过浏览器侧边栏和Web界面,让用户能够在任何网页上与自己的本地AI模型进行交互。

主要特点:

  1. 本地AI支持:Page Assist 允许用户将自己的本地AI模型集成到浏览器中,并直接在网页上使用这些模型。
  2. 零代码配置:无需复杂的开发或编码,用户可以通过简单的设置快速部署和使用AI功能。
  3. 跨平台兼容性:适用于多种浏览器环境,能够在各种网页上无缝运行。
  4. 数据安全:由于是本地化部署,Page Assist 可以保护用户的隐私和数据安全,避免依赖第三方服务。

使用场景:

  • 开发者可以利用 Page Assist 快速为自己的项目或工具集成AI功能。
  • 小团队或个人用户可以通过它快速搭建一个私有化的智能助手,用于数据分析、内容生成等任务。
  • 教育领域也可以通过 Page Assist 提供本地化的学习和交互体验。

总的来说,Page Assist 是一款非常实用的工具,能够帮助用户在浏览器环境中高效地使用和管理本地AI模型。

当前可用功能:

  • 各类任务的侧边栏
  • 支持视觉模型
  • 本地AI模型的简约网页界面
  • 网络搜索功能
  • 在侧边栏与PDF进行对话
  • 与文档对话(支持pdf、csv、txt、md、docx格式)

完整配置过程如下

首先查看文章末尾的Page Assist下载地址去相应浏览器扩展商店安装Page Assist。

 1.下载模型 && 配置模型API

模型分为2个,一个是用来主要模型,另一个是用于提供文本嵌入式向量的文本嵌入模型。
我分别使用了:deepseek-r1:14b  和nomic-embed-text:latest 如何下载此处不再赘述
如果你的本地设备显存和计算性能有限连7B模型都无法运行,你应该优先考虑使用各类AI服务商提供的API,现在评论区到处都是Aff链接,我不作任何推荐。
使用Ollama在本地部署模型,你不需要任何更改就可以直接使用。如其他供应商的API则需要在设置里找到OpenAI 兼容 API手动选择并添加API密钥等配置信息。

2.设置文本嵌入模型

你可以使用nomic-embed-text:latest也可以使用其他专用的文本嵌入模型但是注意绝对不要使用主要的大语言模型比如Deepseek作为文本嵌入模型! 否则过大的模型参数量会使得你无法正常得到嵌入式向量从而影响本地网页交互和联网搜索功能。
设置完成后记得点击保存

额外的参数调节

如果你并不了解大语言模型的各项参数对模型的影响,无需继续调整即可正常使用。

对于精益求精的Linux发行版用户,你可以根据自己的需求调整 Ollama设置 ——模型设置 ——上下文数量、最大令牌数 (num_predict)、温度

Page Assist下载地址:

Edge 扩展应用商店
Google Chrome应用商店
FireFox 扩展应用商店
如果你的网络不佳,也可以直接下载压缩的扩展文件手动导入
压缩包分享密码:linuxuser.site
导入方式参考B站视频。