报道称,Intelligent Internet 已开源可在普通 CPU 运行的 PostgreSQL 搜索插件 Evoke。
正文
开源AI搜索插件Evoke:3000万参数,召回率接近6亿模型
动察 Beating AI 快讯,Stability AI 联合创始人 Emad Mostaque 的新公司 Intelligent Internet 开源了 Evoke。这是一款 PostgreSQL 数据库搜索插件,内置约 3030 万参数的 AI 模型。开发者安装后,就能直接在数据库中搜索文档和知识库。既能匹配关键词,也能找到意思相近的内容。
Evoke 基于 IBM 的 Granite-Embedding-30M-Sparse 模型。它会为文档生成一组带权重的相关词,即使原文没有出现搜索词,也有机会找到对应内容。关键词和语义信息共用一套搜索索引,无需额外维护向量索引。模型直接在普通 CPU 上运行,不需要 GPU,也不用把数据发送给外部 AI 服务。