跳至主要内容
小龙虾小龙虾AI
🤖

Web To Fim

将任意网页链接或本地文件一键转为结构化 Markdown,并三处存放到 Obsidian Vault、飞书云文档、腾讯 IMA 知识库。 支持的信源:(1) X/Twitter 推文、长文 Article、Thread 线程(逐字转录);(2) 微信公众号文章(带图片,IMA 服务端抓取保留排版); (3) 飞书...

下载1.0k
星标1
版本3.4.0
图像视频
安全通过

技能说明


name: web-to-FIM label: 网页内容转 Markdown/飞书/IMA slug: web-to-fim displayName: web-to-FIM version: 3.4.0 summary: 将任意网页链接或本地文件一键转为结构化 Markdown,并三处存放到 Obsidian、飞书云文档、腾讯 IMA 知识库。 license: MIT-0 description: > 将任意网页链接或本地文件一键转为结构化 Markdown,并三处存放到 Obsidian Vault、飞书云文档、腾讯 IMA 知识库。 支持的信源:(1) X/Twitter 推文、长文 Article、Thread 线程(逐字转录);(2) 微信公众号文章(带图片,IMA 服务端抓取保留排版); (3) 飞书 wiki 文档(WebFetch 全文转录 + 原文链接优先转录);(4) 小红书笔记;(5) 微博;(6) YouTube 视频; (7) 任意 HTML 网页(带图片,IMA 服务端抓取);(8) 本地文件:PDF、Word、PPT、Excel、图片、音频等。 三处存放:Obsidian(本地 Markdown+frontmatter+tags)+ 飞书云文档(团队协作)+ IMA 知识库(FIM知识库,AI 原生)。 IMA 智能路由:公众号/普通网页 → import_urls 保留图片;X/Twitter/飞书/GitHub → 纯文本笔记逐字转录。 飞书 wiki 原文链接优先转录:检查文章头部"原文链接",有则优先抓取原文内容作为最终产物存三处,IMA 只存原文链接地址自动识别。 X 链接转录流程:飞书 wiki 中发现 X 原文链接时,用 x-tweet-fetcher 抓取完整长文(10K-15K 字符),失败时降级到飞书 wiki 内容。 批量模式支持断点恢复,Obsidian 写入失败自动 fallback。 工作流:自动识别 URL/文件类型 → 路由到最佳抓取工具 → 结构化 Markdown → 三处存放。 触发词:抓网页存飞书、web to feishu、url转文档、文件转飞书、存到ima、存到obsidian、web to fim、三处存放。 当用户明确要求将 URL 或本地文件转存为文档并存储到 Obsidian/飞书/IMA 时触发。 Do NOT use for 创建文档内容、编辑飞书文档正文、代码开发、非文档转存任务、普通文档格式转换(非三处存放意图)。

Web-to-FIM | 网页内容转 Markdown/飞书/IMA

🤖 AI 时代必备的信息库基础技能

在 AI 时代,无论是使用 OpenClawHermes Agent,还是实践 Obsidian + LLM 的信息管理方法论,一键入库、人机共用的 AI 信息库搭建都是必备的基础设施。

Web-to-FIM 就是这样一个基础技能:它将任意网络内容一键转换为结构化 Markdown,并同步到:

  • 📝 Obsidian Vault - 本地个人知识库,带 frontmatter
  • 📚 飞书云文档 - 云端团队协作
  • 🧠 腾讯 IMA 知识库 - AI 原生知识库(FIM知识库)

将任意网页链接或本地文件一键转为结构化 Markdown,并三处存放到 Obsidian Vault、飞书云文档、腾讯 IMA 知识库。

支持的信源

信源URL 特征抓取方式
X/Twitterx.com / twitter.comx-tweet-fetcher(逐字转录)
微信公众号mp.weixin.qq.commarkitdown + 移动端 UA fallback
飞书 wiki*.feishu.cn/wiki/WebFetch 全文转录
小红书xiaohongshu.com / xhslink.commarkitdown
微博weibo.commarkitdown
YouTubeyoutube.com / youtu.bemarkitdown
任意网页其他 http(s):// 链接markitdown

本地文件支持

类型扩展名
PDF.pdf
Word.docx / .doc
PowerPoint.pptx / .ppt
Excel.xlsx / .xls
图片.png .jpg .jpeg .gif .webp
音频.mp3 .wav .m4a .flac
数据.csv .json .xml

输出目的地

目的地环境变量说明
Obsidian VaultOBSIDIAN_VAULT_PATH本地保存到指定目录,带 frontmatter(默认:E:\Obsidian\md\inbox
飞书云文档FEISHU_APP_ID + FEISHU_APP_SECRET云端服务,参考 references/feishu-setup.md
腾讯 IMAIMA_OPENAPI_CLIENTID + IMA_OPENAPI_APIKEY云端 API v1.1.7,两步流程存入知识库,参考 references/ima-setup.md

Obsidian Vault 路径配置

跨平台支持,通过环境变量 OBSIDIAN_VAULT_PATH 配置:

# Windows (PowerShell)
$env:OBSIDIAN_VAULT_PATH = "C:\Users\YourName\Obsidian\Vault\inbox"

# Windows (CMD)
set OBSIDIAN_VAULT_PATH=C:\Users\YourName\Obsidian\Vault\inbox

# macOS/Linux
export OBSIDIAN_VAULT_PATH=~/Obsidian/Vault/inbox

如果未设置,默认使用:

  • Windows: E:\Obsidian\md\inbox
  • macOS/Linux: ~/Obsidian/inbox

一键保存到所有目的地

使用 web_to_all.py 一键转换并保存到 Obsidian/飞书/IMA:

python3 scripts/web_to_all.py --url "<url_or_path>"
python3 scripts/web_to_all.py --url "<url>" --title "自定义标题"
python3 scripts/web_to_all.py --url "<url>" --no-feishu --no-ima  # 仅保存 Obsidian

安全配置

⚠️ 凭证必须通过环境变量配置,禁止硬编码:

飞书配置

# 设置环境变量
$env:FEISHU_APP_ID = "your_app_id"
$env:FEISHU_APP_SECRET = "your_app_secret"

参考 references/feishu-setup.md 获取凭证。

ima 配置

# 设置环境变量(v3.0 — IMA OpenAPI v1.1.7)
$env:IMA_OPENAPI_CLIENTID = "your_client_id"
$env:IMA_OPENAPI_APIKEY = "your_api_key"

# 可选:指定知识库名称(默认 "FIM知识库")
$env:IMA_KB_NAME = "FIM知识库"

⚠️ v3.0 变更:环境变量从 IMA_CLIENT_ID/IMA_API_KEY 改为 IMA_OPENAPI_CLIENTID/IMA_OPENAPI_APIKEY(旧名仍兼容回退)。IMA 存储从"笔记本"改为"知识库"两步流程。

参考 references/ima-setup.md 获取凭证。

工作流

步骤 1:转换为 Markdown

python3 scripts/web_to_md.py --url "<url_or_path>" --output <output.md>

路由逻辑:

  • X/Twitter → x-tweet-fetcher 抓取 JSON → tweet_to_md.py 结构化转换(逐字转录)
  • 飞书 wiki*.feishu.cn/wiki/)→ WebFetch 抓取全文 → 检查原文链接 → 有则优先抓取原文(v3.2.0)
  • 公众号mp.weixin.qq.com)→ markitdown 转换,反爬时自动 fallback 到移动端 UA
  • 其他网页/本地文件 → markitdown 直接转换

v3.4.0 X 链接转录流程修正

  • 飞书 wiki 中发现 X 原文链接时,用 x-tweet-fetcherweb_to_md.py)抓取完整长文(10K-15K 字符)
  • 不用 WebFetch(对 X 链接超时失败率高)
  • x-tweet-fetcher 失败时降级到飞书 wiki 内容(降级机制)
  • 全文完整性验证:转录后检查内容长度,<500 字符时警告可能不完整

v3.3.0 飞书 wiki 原文链接优先转录

  • 抓取飞书 wiki 后,检查文章头部是否有"原文链接"(如 🔗 原文链接:[url]
  • 有原文链接 → 优先抓取原文链接内容(公众号/X 等),获得更完整的正文和图片
  • 无原文链接 → 用飞书 wiki 内容
  • IMA 存放:有公众号原文链接 → import_urls(保留图片);无 → 纯文本笔记

v3.0 新增信源支持

  • 飞书 wiki 文档:通过 WebFetch 转录飞书知识库文章全文
  • 公众号反爬 fallback:markitdown 返回验证页时自动切换移动端 UA 重试

v3.2.0 新增

  • Obsidian 文件命名规范化:YYYYMMDD-标题-来源.md(如 20260712-歸藏:GPT-5.6 Sol 帮我做了个小工具-waytoagi.md
  • 来源自动提取:从 URL 域名提取来源标识(waytoagi/feishu/x/wechat/weibo/xiaohongshu/github/youtube/webpage)
  • 飞书 wiki 原文链接优先转录:抓取飞书 wiki 后检查原文链接,有则优先抓取原文内容(更完整)
  • Windows 文件名安全:禁止字符替换为下划线,中文标点(含:)保留

v3.1 新增

  • 批量模式断点恢复:崩溃后重跑自动跳过已完成 URL(.progress.json 进度文件)
  • Obsidian frontmatter 自动 tags:根据 URL 来源分类标签
  • 推文结构化转换通用化:去硬编码,基于启发式规则识别段落标题
  • subprocess 加 120 秒 timeout:防止网络异常永久挂起
  • 公众号正文提取改进:保留图片、段落结构、引用块

步骤 2:存入目的地

Obsidian Vault

文件名规则:YYYYMMDD-标题-来源.md(v3.2.0)

  • 来源从 URL 自动提取(waytoagi/feishu/x/wechat 等)
  • 示例:20260712-歸藏:GPT-5.6 Sol 帮我做了个小工具-waytoagi.md
from scripts.web_to_all import save_to_obsidian
filepath = save_to_obsidian(markdown_content, title, url)

飞书云文档

from scripts.feishu_client import FeishuClient

client = FeishuClient()
result = client.create_document(title="文档标题", content_md=markdown_content)
print(f"文档 URL: {result['url']}")

腾讯 ima(v3.0 — 知识库两步流程 + 图片保留)

IMA 有两套独立 API,不可混用:

  • Notes API/openapi/note/v1/):管笔记、笔记本
  • Knowledge Base API/openapi/wiki/v1/):管知识库、知识条目

「FIM知识库」是知识库(wiki API),不是笔记本(note API)。必须用两步流程。

v3.0 核心功能 — 公众号/网页带图片转录

  • 公众号和普通网页 URL 通过 import_urls 让 IMA 服务端抓取,保留原文图片和排版
  • X/Twitter 和飞书 wiki 走纯文本笔记(逐字转录),因为 X 要求逐字转录、飞书需登录认证
from scripts.web_to_all import save_to_ima

# 方式1:直接用 save_to_ima(推荐,自动路由)
# - 公众号/普通网页 URL → import_urls(服务端抓取,保留图片)
# - X/Twitter/飞书 URL → 纯文本笔记(逐字转录)
result = save_to_ima(content, title, knowledge_base="FIM知识库", source_url=url)

# 方式2:手动两步流程
from scripts.ima_client import IMAClient
client = IMAClient()
# Step 1: 创建笔记(Notes API)
note = client.create_note(title="标题", content=markdown_content)
# Step 2: 添加到知识库(Wiki API)
kb_id = client.find_knowledge_base_by_name("FIM知识库")
client.add_note_to_knowledge_base(note_id=note["note_id"], title="标题", knowledge_base_id=kb_id)

IMA 存放路由规则(v3.0)

source_url 类型IMA 存放方式原因
公众号(mp.weixin.qq.comimport_urls(服务端抓取)保留图片和排版
普通网页import_urls(服务端抓取)保留图片和排版
X/Twitter纯文本笔记(逐字转录)技能规则要求逐字转录
飞书 wiki纯文本笔记(逐字转录)需登录认证,IMA 无法抓取
无 URL纯文本笔记手动内容/飞书转录

验证连接

# 验证飞书
python scripts/feishu_client.py --action test

# 验证 ima
python scripts/ima_client.py --action test

故障处理

问题解决方案
x.com SSL 超时x-tweet-fetcher 使用 FxTwitter API 中转
markitdown 模块丢失pip install markitdown
微信反爬拦截markitdown 返回72字符验证页,需 fallback 到 WebFetch 或移动端 UA
飞书凭证无效检查 FEISHU_APP_IDFEISHU_APP_SECRET
飞书 blocks 400 错误单次最多 50 个 blocks,长文章需分批插入(见 references/feishu-blocks.md
飞书 block_type 错误Code=14、Quote=15、Text=2、Heading1-3=3-5、Bullet=12(见 references/feishu-blocks.md
ima 凭证无效检查 IMA_OPENAPI_CLIENTIDIMA_OPENAPI_APIKEY(v3.0)
IMA 笔记不在知识库中知识库≠笔记本,必须用两步流程:create_note → add_knowledge
IMA import_urls 文件夹不存在folder_id 不等于 knowledge_base_id,需用 get_root_folder_id() 获取
X 链接 IMA 存储错误X/Twitter 必须逐字转录(纯文本笔记),不可用 import_urls

依赖与安装

完整依赖列表

依赖安装命令说明
markitdownpip install markitdown网页转 Markdown 核心库
requestspip install requestsHTTP 请求
python-dotenvpip install python-dotenv环境变量管理
x-tweet-fetcher克隆到 ~/.aily/workspace/skills/x-tweet-fetcherX/Twitter 专用抓取(可选)

一键安装所有依赖

# 安装 Python 依赖
pip install markitdown requests python-dotenv

x-tweet-fetcher(可选,仅用于 X/Twitter)

# 克隆到技能目录
cd ~/.aily/workspace/skills
git clone https://github.com/EdwardWason/x-tweet-fetcher.git

如果不安装 x-tweet-fetcher,X/Twitter 链接将使用 markitdown 直接处理。


安全声明

🔒 权限声明(MCP Least Privilege)

本技能运行时需要以下权限:

权限类型具体内容用途
文件读取用户指定的 URL、本地输入文件转换源内容
文件写入Obsidian Vault 目录(OBSIDIAN_VAULT_PATH)、临时 Markdown 文件存储转换结果
网络请求用户提供的 URL(网页抓取)、飞书 OpenAPI、腾讯 IMA OpenAPI抓取内容和存储到云端
环境变量FEISHU_APP_IDFEISHU_APP_SECRETIMA_OPENAPI_CLIENTIDIMA_OPENAPI_APIKEYOBSIDIAN_VAULT_PATH凭证和路径配置
subprocessx-tweet-fetcher(可选,仅 X/Twitter 链接)X 平台内容抓取

⚠️ 本技能不读取 Windows registry、不读取 GitHub token、不调用 GitHub API、不执行 git 操作。仅做文档转换和三处存放。

⚠️ 用户警告(运行前必读)

  1. 数据外传:运行本技能会将您提供的 URL 或本地文件内容上传到以下第三方云端服务:

    • 飞书云文档(需 FEISHU_APP_ID + FEISHU_APP_SECRET
    • 腾讯 IMA 知识库(需 IMA_OPENAPI_CLIENTID + IMA_OPENAPI_APIKEY
    • 如果内容包含敏感、机密或受监管数据,请先确认是否允许上传到这些服务
  2. 本地写入:默认会向 Obsidian Vault 目录写入 Markdown 文件。可通过 --no-obsidian 禁用本地写入

  3. 选择性禁用:支持通过参数禁用特定存储目的地:

    • --no-feishu:跳过飞书云文档
    • --no-ima:跳过腾讯 IMA
    • --no-obsidian:跳过本地 Obsidian
  4. IMA URL 导入:公众号/普通网页 URL 会通过 IMA import_urls 让 IMA 服务端抓取,URL 会被发送给腾讯服务器

🔒 安全设计原则

  1. 凭证安全

    • 所有 API 凭证通过环境变量配置,无硬编码
    • 支持 FEISHU_APP_ID, FEISHU_APP_SECRET, IMA_OPENAPI_CLIENTID, IMA_OPENAPI_APIKEY(v3.0)
    • 旧变量名 IMA_CLIENT_ID/IMA_API_KEY 仍兼容回退
  2. 文件操作

    • 默认写入 Obsidian Vault 目录(可通过 OBSIDIAN_VAULT_PATH 配置)
    • 支持通过 --no-feishu / --no-ima / --no-obsidian 选择性禁用功能
    • 不扫描、不读取用户目录下的其他文件
  3. 隐私保护

    • 不读取任何未经授权的用户配置文件
    • 所有网络请求仅针对用户提供的 URL
    • 本地文件仅用于转换,不主动扫描
  4. 权限透明

    • 文件写入范围:Obsidian Vault 目录、临时 Markdown 文件
    • 文件读取范围:用户指定的 URL、本地输入文件

如何使用「Web To Fim」?

  1. 打开小龙虾AI(Web 或 iOS App)
  2. 点击上方「立即使用」按钮,或在对话框中输入任务描述
  3. 小龙虾AI 会自动匹配并调用「Web To Fim技能完成任务
  4. 结果即时呈现,支持继续对话优化

相关技能