autoskill
通过 screenpipe 观察用户屏幕,检测重复出现的研究工作流,将它们与现有的科学智能体技能进行匹配,并为尚未覆盖的模式起草新的技能(或将现有技能串联的组合配方)。当用户请求分析其近期工作并基于其实际所做内容提出技能时使用。需要在本地运行 screenpipe 守护进程(https://github.com/screenpipe/screenpipe),并监听 3030 端口——该技能没有其他数据源;若无法连接到 screenpipe,将拒绝运行。所有检测都在本地完成;仅有已脱敏的集群摘要会发送给 LLM。
autoskill - 自动化技能生成工具
技能概述
autoskill 是一个基于屏幕活动观察的智能技能生成工具,能够自动检测用户在日常科研工作中的重复操作模式,并将其转化为可复用的 AI 技能或技能组合方案。
适用场景
-
科研工作流程优化
适合经常进行文献检索、学术写作、数据分析的科研人员。autoskill 能够识别文献管理、论文撰写、图表制作等重复性流程,并生成相应的自动化技能建议,帮助研究者将日常操作转化为可复用的 AI 工作流。
-
重复操作模式发现
当你发现自己频繁执行相似的屏幕操作序列,但不确定这些操作是否已被现有技能覆盖时,autoskill 可以分析你的屏幕活动记录,识别出重复模式并与现有技能库进行匹配,告诉你哪些流程可以自动化。
-
本地化 AI 技能创作
适合重视隐私保护、希望所有数据处理都在本地完成的研究者。autoskill 完全基于本地的 screenpipe 守护进程和可选的本地 LLM(如 LM Studio),无需将敏感的屏幕数据上传到云端,即可获得个性化的技能建议。
核心功能
-
智能工作流程识别
通过 screenpipe 捕获的屏幕活动记录,autoskill 使用会话分割和聚类算法自动识别重复的工作流程模式。它能够分析应用使用时长、窗口标题和 OCR 文本,将连续的操作序列聚类成有意义的"会话",并检测出重复出现的工作流程。
-
与现有技能库智能匹配
autoskill 内置了对 135+ 现有科学技能的嵌入索引,能够将检测到的工作流程与现有技能进行语义匹配。对于已有技能覆盖的流程,它会建议复用;对于需要多个技能组合的流程,它会生成组合方案;对于全新场景,它会起草完整的新技能。
-
隐私友好的本地分析
所有敏感的数据处理都在用户本地完成:screenpipe 负责在捕获时过滤敏感应用,autoskill 的 redact 脚本会进一步清理 OCR 文本中的敏感信息(邮箱、API 密钥、电话号码),聚类和匹配完全在本地运行。用户可以选择使用本地 LLM(LM Studio)进行技能生成,确保没有任何原始屏幕数据离开机器。
常见问题
autoskill 如何保护我的隐私和数据安全?
autoskill 采用多层隐私保护机制。首先,screenpipe 在捕获时就会根据配置文件排除敏感应用(如密码管理器、银行应用等)。其次,autoskill 的 redact 脚本会在分析前清理 OCR 文本中的敏感信息(邮箱、API 密钥、Bearer token、电话号码)。最重要的是,所有聚类和匹配都在本地完成,你可以选择使用本地 LLM(如 LM Studio)进行技能生成,这样任何原始屏幕数据都不会离开你的机器。
使用 autoskill 需要哪些前置条件和依赖?
使用 autoskill 需要三个主要组件:(1)screenpipe 守护进程在本地运行并绑定到 localhost:3030;(2)Python 环境,通过 pipenv 安装 httpx、pyyaml 和 sentence-transformers;(3)可选的 LLM 后端。默认配置使用本地运行的 LM Studio(需下载 Gemma-4-31B-it 模型),也可以选择使用 Claude API(需要 ANTHROPIC_API_KEY)或 Foundry 网关。
autoskill 能识别哪些类型的工作流程?
autoskill 特别适合识别科研场景中的重复工作流程,包括文献检索与管理(如 Zotero、PubMed 相关操作)、学术写作(如 LaTeX、Word 编辑模式)、科研绘图(如 Python matplotlib、R ggplot2)、演示制作(如 PowerPoint、Beamer)等。它会识别跨多个应用的复杂工作流,只要这些操作在时间上呈现重复模式,就能被检测到。
生成的技能建议如何审核和发布?
autoskill 会将生成的建议存放在 ~/.autoskill/proposed/<timestamp>/ 目录中,包括一份报告和草拟的 SKILL.md 文件。你需要手动查看这些草稿,编辑修改,然后使用 promote 命令将认可的建议移动到正式的 skills 目录中。promote 命令会拒绝覆盖已存在的技能,确保不会意外丢失已有内容。
autoskill 生成的技能是复用现有技能还是新技能?
这取决于 LLM 对工作流程的判断。如果检测到的工作流程与现有技能高度匹配,它会建议"复用"(reuse)。如果工作流程需要多个现有技能按顺序执行,它会生成"组合方案"(compose),输出一个包含多个技能调用序列的 SKILL.md。只有当现有技能都无法覆盖时,它才会生成"新技能"(novel)的完整草稿。
如何配置敏感应用的过滤规则?
screenpipe 使用配置文件来管理应用过滤。autoskill 提供了 references/screenpipe-config.yaml 作为起始模板,其中包含常见敏感应用的拒绝列表。你需要将此文件复制到 screenpipe 的配置目录,并根据个人需求添加或移除应用。这样 screenpipe 在捕获时会直接跳过这些应用的屏幕内容。
本地运行 autoskill 需要什么硬件配置?
本地运行 autoskill 的硬件需求主要取决于选择的 LLM 后端。如果使用默认的本地 LM Studio 后端,你需要一块能运行 Gemma-4-31B-it 模型的 GPU(推荐 8GB+ VRAM)。如果没有足够 GPU,可以选择使用 Claude API 或 Foundry 云端后端,此时硬件要求可以大幅降低。screenpipe 本身的 OCR 聚类和匹配计算对 CPU 和内存要求不高,现代笔记本电脑即可流畅运行。