LLM还可用于最强大的笔记软件Obsidian，使其成为您的智能第二大脑。

2024-12-30 13:17:39 | 来源: 互联网整理

知识管理软件也已成为一大典范。

工欲善其事，必先利其器。使用有用的工具可以大大提高我们生产和学习的效果和效率。今天我们要介绍一套基于Obsdian的AI工具集，其中包括用于部署本地LLM的Ollama和两个Obsdian插件（BMO Chatbot和Ollama）。

这套工具不仅可以帮助我们分析笔记、做总结、想标题、写代码，还可以帮助我们开拓想象力，继续写内容、提供建议。

黑曜石简介

Obsidian 是最流行的笔记工具之一，但它的功能远不止于此。您不仅可以将其用作笔记本，还可以将其用作您的个人知识库和文档生产力工具！许多人甚至称其为“第二大脑”。

其优点包括：支持Markdown、丰富的插件生态、支持自定义主题样式、支持Wiki风格的文档链接、内置关系图、基本功能完全免费、全面支持本地存储……

黑曜石是Bilibili 和YouTube 上非常热门的话题

总之，如果你正在寻找一款好用的学习和制作工具，或者想为自己打造第二个大脑，Obsidian绝对值得一试！

为什么将LLM 与Obsidian 结合使用？

毫无疑问，我们现在正处于大模特时代。它们不仅帮助我们提高效率和生产力，还帮助我们创新和探索更多可能性。

人们还开发了LLM的许多奇妙用途。在这里，我们简要展示了您可以在Obsidian 中实现的一些用途，以帮助您理解其中的微妙之处，并探索和发现更多有趣或有用的用途。

第一个例子是作者忘记了上一段中的成语“看到最小的细节”。无需使用搜索引擎或拨打帮助热线。我只需要询问待命的聊天机器人，很快就得到了我想要的东西。结果。

这里使用的是BMO Chatbot插件，它可以将LLM以聊天机器人的形式集成到你的Obsidian中。该插件还可以让您根据当前文档进行聊天。如下所示，我们要求LLM用中文总结英文故事并建议一些标题：

当然，我可以帮助你继续写你的故事。接下来我们让LLM帮助继续写弗雷德里克·布朗著名的世界上最短的小说：

“世界上最后一个人独自坐在自己的房间里，突然有人敲门……”

这里使用了另一个插件Ollama和一个预配置的命令。提示是：“根据以上内容，继续写故事。要求继续写200字，保持人物风格一致，为故事的其余部分留下悬念。”

另外，你可以明显看到这个插件运行速度有点慢。这是因为这里使用的是本地安装的LLM——，是llama3.1模型的8B版本，受到当前硬件的速度限制。

好的，示例就是这样。我们来看看如何安装和使用这些插件以及LLM。

安装本地LLM

对于我们大多数人来说，本地计算机自然可以运行的LLM的性能无法与OpenAI等大公司提供的在线服务相比，但本地LLM最大的优势是数据的隐私和安全—— 使用本地LLM，所有您的所有计算都在您自己的计算机上完成，因此您不必担心您的数据被传输到服务提供商。

当然，如果你不关心笔记的隐私，那么使用在线服务就可以很好地完成你的任务，所以你可以完全跳过这一步。

为了方便本地使用LLM，我们需要使用一个叫做Ollama的工具。 Ollama是一个非常易于使用的LLM本地部署工具。它适合任何人使用。只需下载并安装即可。地址：https://github.com/ollama/ollama/releases

之后，进入Ollama支持的模型库：https://ollama.com/library，根据自己的需求和电脑硬件选择模型，然后运行相应的代码。例如，如果要安装经过指令微调和Q8_0 量化的8B 参数Llama 3.1 模型，请运行： ollama run llama3.1:8b-instruct-q8_0

当然，您也可以安装多个不同大小的模型，或者针对不同的任务（例如编程）进行微调，这样当您的需求不同时，可以更轻松地权衡速度和生成效果。

安装和配置BMO ChatBot 和Ollama 插件

这两个插件都可以在Obsidian的社区插件市场上找到，只需搜索、下载并激活即可。

配置BMO 聊天机器人插件

进入选项，您可以选择已安装的本地模型或在常规设置中配置的在线模型。如下图所示，我在本地安装了一台Llama 3.1和一台Llama 3，并配置了OpenRouter API（可以访问大量模型）和GLM-4-Flash在线语言模型。下面可以设置最大token数量、温度（0-1之间，值越大生成的文本越有创意）以及是否对当前笔记建立索引。

在提示中，您可以通过注释设置系统提示。

在API 连接区域的下方，您可以配置在线模型。

配置完成后，可以通过Obsidian 右栏或使用Ctrl+P/Cmd+P 快捷键来使用这些LLM。

除了使用BMO 聊天机器人外，该插件还支持使用LLM 重命名当前文档，并使用选定的文本作为提示生成内容。

配置Ollama 插件

Ollama插件仅支持之前通过Ollama安装的本地模型，但其优点是可以预先配置常用的提词器命令，然后可以通过Ctrl+P/Cmd+P轻松调用。

这是一个代码生成示例：

结论

Obsidian结合LLM工具可以给我们的学习和生产工作带来很大的便利。 Obsidian作为一款强大的笔记工具，不仅支持丰富的插件生态，还通过本地部署LLM提高了我们的效率和创新能力。

安装和使用BMO Chatbot和Ollama插件可以让我们轻松地将LLM集成到Obsidian中，以实现笔记分析、摘要、标题生成和内容延续等各种功能。这不仅可以让我们节省时间和精力，还可以激发我们的创造力。