晨的博客
来去如一，真性湛然。风收云散，月在青天。
目 录CONTENT
以下是
野生数分狮 - 晨
的文章
-
置顶 大模型 RAG 本地知识库 **RAG（Retrieval-Augmented Generation）**是一种结合信息检索和生成模型的技术，通过从外部知识库中检索关键信息并传递给大模型，以提高生成质量和准确性。RAG的主要流程包括索引、检索和生成三个步骤：首先将知识库文档分割成块并编码成向量存储；然后根据用户问题的向量找到最相关的文档块；最后将这些块与用户问题一起输入到大语言模型中生成答案。 RAG相比直接使用大语言模型具有以下优势： 1. **时效数据**：利用外部知识库确保回答的时效性。 2. **私域数据**：支持特定领域的问题解答，缓解大模型幻觉。 3. **长期记忆**：通过参考知识库提高多轮交互回答的准确性。 构建一个完整的RAG系统需要大语言模型（如DeepSeek-R1-Distill-Qwen-32B-Q4_K_M）、信息检索模型（如bge-m3用于语义向量表示）以及重排模型（如bge-reranker-v2-m3）等组件。此外，还需选择合适的RAG框架来连接和调度这些模块，例如轻量级的OpenWebUI或专业级的Dify。 在实际部署中，可以依据项目需求选择适合的RAG架构和技术栈，对于小规模文本知识库或极简项目推荐使用OpenWebUI + Ollama组合，而大规模知识库或企业应用则更适合Dify + Ollama + Xinference方案。 -
-
Python库 - Gradio Gradio 是一个开源 Python 库，用于快速构建交互式的 Web 应用程序，特别适合展示机器学习模型、数据分析工具和算法演示。它简化了 Web 开发流程，无需编写 HTML、CSS 和 JavaScript 代码。通过安装 Gradio 并配置基础界面设置（如 Interface() 或 Blocks()）和启动设置（如 launch()），用户可以轻松创建美观的 Web 应用。 Gradio 提供了丰富的组件来支持多种功能，包括文本输入、数字输入、滑块控件、下拉选择框等。此外，它还支持条件可见、实时刷新、组件联动等功能，使应用更加动态和灵活。Gradio 还具备状态管理和事件处理能力，允许在多次交互间保持数据，并对用户操作进行响应。 进阶使用方面，Gradio 支持多页面应用开发，通过主页面和子页面的结构实现多个独立任务的应用展示。每个子页面可以专注于特定的功能，如数据分析或模型预测，从而提高代码的可维护性和复用性。对于大文件处理，Gradio 也提供了内存优化的方法，确保应用在处理大规模数据时仍能高效运行。
-
-
-
-
-
-
Python 进阶 - 多任务执行 本文详细介绍了并发与并行的概念及其在多任务处理中的应用。并发是指系统在同一时间段内通过快速切换来处理多个任务，适用于I/O密集型任务；而并行则是指多个CPU核心同时执行多个任务，适合于CPU密集型任务。文章还深入探讨了多线程和多进程的实现方式、应用场景及优缺点。特别提到了Python中全局解释器锁（GIL）的存在及其对多线程性能的影响：GIL使得CPython解释器在执行时同一时刻只有一个线程运行，导致多线程无法充分利用多核处理器的优势。对于CPU密集型任务，建议使用多进程或选择没有GIL限制的其他Python解释器来提高效率。而对于I/O密集型任务，则可以利用多线程有效提升程序性能。此外，文章提供了具体的代码示例以帮助理解这些概念的实际应用。
-
Python 库 - Streamlit Streamlit 是一个开源 Python 库，用于快速构建交互式数据科学和机器学习应用程序。它允许开发者无需编写前端代码（HTML、CSS、JavaScript）即可创建 Web 应用程序。安装 Streamlit 通过 `pip install streamlit` 命令完成，并可通过配置文件进行个性化设置，如端口号、缓存等。运行应用时使用 `streamlit run [your_script].py` 命令。Streamlit 提供了丰富的组件来展示文本、图表、图像以及各种输入控件，支持创建多页面应用、表单处理等功能。此外，它还具有状态保存机制和缓存装饰器，帮助优化性能。对于更复杂的应用场景，比如多页面结构或简易登录系统，可以通过模块化设计实现页面间的跳转与逻辑分离，从而提高代码的可维护性和扩展性。
