FreeAskInternet:本地化大语言模型对话系统
项目地址: https://github.com/nashsu/FreeAskInternet
FreeAskInternet 是一款免费开源的大语言模型工具,旨在结合多个先进的大语言模型提供搜索和答案生成服务。与传统的需要高性能显卡(GPU)运行本地模型不同,该系统允许用户直接在本地安装运行,通过聚合外部 API 和搜索引擎实现功能,降低了硬件门槛。
核心特性
- 无需 GPU 运行:利用免费的 LLM API 接口,无需依赖图形处理单元即可运行,显著降低硬件要求。
- 多引擎搜索聚合:集成 SearXNG 元搜索引擎,聚合来自各种搜索服务和数据库的结果。
- 多模型支持:支持 ChatGPT3.5、Qwen、Kimi、ZhipuAI 等主流 API,也支持自定义本地模型如 Ollama。
- 本地隐私保护:所有过程在本地容器内运行,无需将敏感数据发送至第三方服务器(取决于具体配置)。
- Docker 快速部署:通过 Docker Compose 一键启动,简化安装和配置流程。
注: SearXNG 是一个免费的互联网元搜索引擎,它聚合来自各种搜索服务和数据库的结果,开源地址:https://github.com/searxng/searxng。

主页设计简洁直观,便于用户快速上手。

基于搜索的人工智能聊天界面,能够根据搜索结果生成更准确的回答。

支持多个大语言模型和自定义的大语言模式(如 Ollama),提供灵活的配置选项。

工作原理
用户在界面输入问题后,系统执行以下流程:
- 搜索阶段:SearXNG 进行多引擎搜索,获取相关网页链接和内容。
- 内容提取:系统自动爬取并收集搜索结果中的关键文本信息。

