Tio Boot DocsTio Boot Docs
Home
  • java-db
  • api-table
  • Enjoy
  • Tio Boot Admin
  • ai_agent
  • translator
  • knowlege_base
  • ai-search
  • 案例
Abount
  • Github
  • Gitee
Home
  • java-db
  • api-table
  • Enjoy
  • Tio Boot Admin
  • ai_agent
  • translator
  • knowlege_base
  • ai-search
  • 案例
Abount
  • Github
  • Gitee
  • 01_tio-boot 简介

    • tio-boot:新一代高性能 Java Web 开发框架
    • tio-boot 入门示例
    • Tio-Boot 配置 : 现代化的配置方案
    • tio-boot 整合 Logback
    • tio-boot 整合 hotswap-classloader 实现热加载
    • 自行编译 tio-boot
    • 最新版本
    • 开发规范
  • 02_部署

    • 使用 Maven Profile 实现分环境打包 tio-boot 项目
    • Maven 项目配置详解:依赖与 Profiles 配置
    • tio-boot 打包成 FastJar
    • 使用 GraalVM 构建 tio-boot Native 程序
    • 使用 Docker 部署 tio-boot
    • 部署到 Fly.io
    • 部署到 AWS Lambda
    • 到阿里云云函数
    • 使用 Deploy 工具部署
    • 胖包与瘦包的打包与部署
    • 使用 Jenkins 部署 Tio-Boot 项目
    • 使用 Nginx 反向代理 Tio-Boot
    • 使用 Supervisor 管理 Java 应用
  • 03_配置

    • 配置参数
    • 服务器监听器
    • 内置缓存系统 AbsCache
    • 使用 Redis 作为内部 Cache
    • 静态文件处理器
    • 基于域名的静态资源隔离
    • DecodeExceptionHandler
  • 04_原理

    • 生命周期
    • 请求处理流程
    • 重要的类
  • 05_json

    • Json
    • 接受 JSON 和响应 JSON
    • 响应实体类
  • 06_web

    • 概述
    • 文件上传
    • 接收请求参数
    • 接收日期参数
    • 接收数组参数
    • 返回字符串
    • 返回文本数据
    • 返回网页
    • 请求和响应字节
    • 文件下载
    • 返回视频文件并支持断点续传
    • http Session
    • Cookie
    • HttpRequest
    • HttpResponse
    • Resps
    • RespBodyVo
    • /zh/06_web/19.html
    • 全局异常处理器
    • 异步
    • 动态 返回 CSS 实现
    • 返回图片
    • Transfer-Encoding: chunked 实时音频播放
    • Server-Sent Events (SSE)
    • 接口访问统计
    • 接口请求和响应数据记录
    • 自定义 Handler 转发请求
    • 使用 HttpForwardHandler 转发所有请求
    • 跨域
    • 添加 Controller
    • 常用工具类
    • HTTP Basic 认证
    • WebJars
    • JProtobuf
  • 07_validate

    • 数据紧校验规范
    • 参数校验
  • 08_websocket

    • 使用 tio-boot 搭建 WebSocket 服务
    • WebSocket 聊天室项目示例
  • 09_java-db

    • java‑db
    • 操作数据库入门示例
    • SQL 模板
    • 数据源配置与使用
    • ActiveRecord
    • Model
    • 生成器与 Model
    • Db 工具类
    • 批量操作
    • 数据库事务处理
    • Cache 缓存
    • Dialect 多数据库支持
    • 表关联操作
    • 复合主键
    • Oracle 支持
    • Enjoy SQL 模板
    • Java-DB 整合 Enjoy 模板最佳实践
    • 多数据源支持
    • 独立使用 ActiveRecord
    • 调用存储过程
    • java-db 整合 Guava 的 Striped 锁优化
    • 生成 SQL
    • 通过实体类操作数据库
    • java-db 读写分离
    • Spring Boot 整合 Java-DB
    • like 查询
    • 常用操作示例
    • Druid 监控集成指南
    • SQL 统计
  • 10_api-table

    • ApiTable 概述
    • 使用 ApiTable 连接 SQLite
    • 使用 ApiTable 连接 Mysql
    • 使用 ApiTable 连接 Postgres
    • 使用 ApiTable 连接 TDEngine
    • 使用 api-table 连接 oracle
    • 使用 api-table 连接 mysql and tdengine 多数据源
    • EasyExcel 导出
    • EasyExcel 导入
    • TQL(Table SQL)前端输入规范
    • ApiTable 实现增删改查
    • 数组类型
    • 单独使用 ApiTable
  • 11_aop

    • JFinal-aop
    • Aop 工具类
    • 配置
    • 配置
    • 独立使用 JFinal Aop
    • @AImport
    • 原理解析
  • 12_cache

    • Caffine
    • Jedis-redis
    • hutool RedisDS
    • Redisson
    • Caffeine and redis
    • CacheUtils 工具类
    • 使用 CacheUtils 整合 caffeine 和 redis 实现的两级缓存
    • 使用 java-db 整合 ehcache
    • 使用 java-db 整合 redis
    • Java DB Redis 相关 Api
    • redis 使用示例
  • 13_认证和权限

    • hutool-JWT
    • FixedTokenInterceptor
    • 使用内置 TokenManager 实现登录
    • 用户系统
    • 重置密码
    • 匿名登录
    • Google 登录
    • 权限校验注解
    • Sa-Token
    • sa-token 登录注册
    • StpUtil.isLogin() 源码解析
    • 短信登录
    • 移动端微信登录实现指南
    • 移动端重置密码
  • 14_i18n

    • i18n
  • 15_enjoy

    • tio-boot 整合 Enjoy 模版引擎文档
    • 引擎配置
    • 表达式
    • 指令
    • 注释
    • 原样输出
    • Shared Method 扩展
    • Shared Object 扩展
    • Extension Method 扩展
    • Spring boot 整合
    • 独立使用 Enjoy
    • tio-boot enjoy 自定义指令 localeDate
    • PromptEngine
    • Enjoy 入门示例-擎渲染大模型请求体
    • Enjoy 使用示例
  • 16_定时任务

    • Quartz 定时任务集成指南
    • 分布式定时任务 xxl-jb
    • cron4j 使用指南
  • 17_tests

    • TioBootTest 类
  • 18_tio

    • TioBootServer
    • tio-core
    • 内置 TCP 处理器
    • 独立启动 UDPServer
    • 使用内置 UDPServer
    • t-io 消息处理流程
    • tio-运行原理详解
    • TioConfig
    • ChannelContext
    • Tio 工具类
    • 业务数据绑定
    • 业务数据解绑
    • 发送数据
    • 关闭连接
    • Packet
    • 监控: 心跳
    • 监控: 客户端的流量数据
    • 监控: 单条 TCP 连接的流量数据
    • 监控: 端口的流量数据
    • 单条通道统计: ChannelStat
    • 所有通道统计: GroupStat
    • 资源共享
    • 成员排序
    • ssl
    • DecodeRunnable
    • 使用 AsynchronousSocketChannel 响应数据
    • 拉黑 IP
    • 深入解析 Tio 源码:构建高性能 Java 网络应用
  • 19_aio

    • ByteBuffer
    • AIO HTTP 服务器
    • 自定义和线程池和池化 ByteBuffer
    • AioHttpServer 应用示例 IP 属地查询
    • 手写 AIO Http 服务器
  • 20_netty

    • Netty TCP Server
    • Netty Web Socket Server
    • 使用 protoc 生成 Java 包文件
    • Netty WebSocket Server 二进制数据传输
    • Netty 组件详解
  • 21_netty-boot

    • Netty-Boot
    • 原理解析
    • 整合 Hot Reload
    • 整合 数据库
    • 整合 Redis
    • 整合 Elasticsearch
    • 整合 Dubbo
    • Listener
    • 文件上传
    • 拦截器
    • Spring Boot 整合 Netty-Boot
    • SSL 配置指南
    • ChannelInitializer
    • Reserve
  • 22_MQ

    • Mica-mqtt
    • EMQX
    • Disruptor
  • 23_tio-utils

    • tio-utils
    • HttpUtils
    • Notification
    • 邮箱
    • JSON
    • 读取文件
    • Base64
    • 上传和下载
    • Http
    • Telegram
    • RsaUtils
    • EnvUtils 使用文档
    • 系统监控
    • 毫秒并发 ID (MCID) 生成方案
  • 24_tio-http-server

    • 使用 Tio-Http-Server 搭建简单的 HTTP 服务
    • tio-boot 添加 HttpRequestHandler
    • 在 Android 上使用 tio-boot 运行 HTTP 服务
    • tio-http-server-native
    • handler 常用操作
  • 25_tio-websocket

    • WebSocket 服务器
    • WebSocket Client
  • 26_tio-im

    • 通讯协议文档
    • ChatPacket.proto 文档
    • java protobuf
    • 数据表设计
    • 创建工程
    • 登录
    • 历史消息
    • 发消息
  • 27_mybatis

    • Tio-Boot 整合 MyBatis
    • 使用配置类方式整合 MyBatis
    • 整合数据源
    • 使用 mybatis-plus 整合 tdengine
    • 整合 mybatis-plus
  • 28_mongodb

    • tio-boot 使用 mongo-java-driver 操作 mongodb
  • 29_elastic-search

    • Elasticsearch
    • JavaDB 整合 ElasticSearch
    • Elastic 工具类使用指南
    • Elastic-search 注意事项
    • ES 课程示例文档
  • 30_magic-script

    • tio-boot 整合 magic-script
  • 31_groovy

    • tio-boot 整合 Groovy
  • 32_firebase

    • 整合 google firebase
    • Firebase Storage
    • Firebase Authentication
    • 使用 Firebase Admin SDK 进行匿名用户管理与自定义状态标记
    • 导出用户
    • 注册回调
    • 登录注册
  • 33_文件存储

    • 文件上传数据表
    • 本地存储
    • 使用 AWS S3 存储文件并整合到 Tio-Boot 项目中
    • 存储文件到 腾讯 COS
  • 34_spider

    • jsoup
    • 爬取 z-lib.io 数据
    • 整合 WebMagic
    • WebMagic 示例:爬取学校课程数据
    • Playwright
    • Flexmark (Markdown 处理器)
    • tio-boot 整合 Playwright
    • 缓存网页数据
  • 36_integration_thirty_party

    • tio-boot 整合 okhttp
    • 整合 GrpahQL
    • 集成 Mailjet
    • 整合 ip2region
    • 整合 GeoLite 离线库
    • 整合 Lark 机器人指南
    • 集成 Lark Mail 实现邮件发送
    • Thymeleaf
    • Swagger
    • Clerk 验证
  • 37_dubbo

    • 概述
    • dubbo 2.6.0
    • dubbo 2.6.0 调用过程
    • dubbo 3.2.0
  • 38_spring

    • Spring Boot Web 整合 Tio Boot
    • spring-boot-starter-webflux 整合 tio-boot
    • Tio Boot 整合 Spring Boot Starter
    • Tio Boot 整合 Spring Boot Starter Data Redis 指南
  • 39_spring-cloud

    • tio-boot spring-cloud
  • 40_mysql

    • 使用 Docker 运行 MySQL
    • /zh/42_mysql/02.html
  • 41_postgresql

    • PostgreSQL 安装
    • PostgreSQL 主键自增
    • PostgreSQL 日期类型
    • Postgresql 金融类型
    • PostgreSQL 数组类型
    • PostgreSQL 全文检索
    • PostgreSQL 查询优化
    • 获取字段类型
    • PostgreSQL 向量
    • PostgreSQL 优化向量查询
    • PostgreSQL 其他
  • 43_oceanbase

    • 快速体验 OceanBase 社区版
    • 快速上手 OceanBase 数据库单机部署与管理
    • 诊断集群性能
    • 优化 SQL 性能指南
    • /zh/43_oceanbase/05.html
  • 50_media

    • JAVE 提取视频中的声音
    • Jave 提取视频中的图片
    • /zh/50_media/03.html
  • 51_asr

    • Whisper-JNI
  • 54_native-media

    • java-native-media
    • JNI 入门示例
    • mp3 拆分
    • mp4 转 mp3
    • 使用 libmp3lame 实现高质量 MP3 编码
    • Linux 编译
    • macOS 编译
    • 从 JAR 包中加载本地库文件
    • 支持的音频和视频格式
    • 任意格式转为 mp3
    • 通用格式转换
    • 通用格式拆分
    • 视频合并
    • VideoToHLS
    • split_video_to_hls 支持其他语言
    • 持久化 HLS 会话
  • 55_telegram4j

    • 数据库设计
    • /zh/55_telegram4j/02.html
    • 基于 MTProto 协议开发 Telegram 翻译机器人
    • 过滤旧消息
    • 保存机器人消息
    • 定时推送
    • 增加命令菜单
    • 使用 telegram-Client
    • 使用自定义 StoreLayout
    • 延迟测试
    • Reactor 错误处理
    • Telegram4J 常见错误处理指南
  • 56_telegram-bots

    • TelegramBots 入门指南
    • 使用工具库 telegram-bot-base 开发翻译机器人
  • 60_LLM

    • 简介
    • AI 问答
    • /zh/60_LLM/03.html
    • /zh/60_LLM/04.html
    • 增强检索(RAG)
    • 结构化数据检索
    • 搜索+AI
    • 集成第三方 API
    • 后置处理
    • 推荐问题生成
    • 连接代码执行器
    • 避免 GPT 混乱
    • /zh/60_LLM/13.html
  • 61_ai_agent

    • 数据库设计
    • 示例问题管理
    • 会话管理
    • 历史记录
    • 对接 Perplexity API
    • 意图识别与生成提示词
    • 智能问答模块设计与实现
    • 文件上传与解析文档
    • 翻译
    • 名人搜索功能实现
    • Ai studio gemini youbue 问答使用说明
    • 自建 YouTube 字幕问答系统
    • 自建 获取 youtube 字幕服务
    • 通用搜索
    • /zh/61_ai_agent/15.html
    • 16
    • 17
    • 18
    • 在 tio-boot 应用中整合 ai-agent
    • 16
  • 62_translator

    • 简介
  • 63_knowlege_base

    • 数据库设计
    • 用户登录实现
    • 模型管理
    • 知识库管理
    • 文档拆分
    • 片段向量
    • 命中测试
    • 文档管理
    • 片段管理
    • 问题管理
    • 应用管理
    • 向量检索
    • 推理问答
    • 问答模块
    • 统计分析
    • 用户管理
    • api 管理
    • 存储文件到 S3
    • 文档解析优化
    • 片段汇总
    • 段落分块与检索
    • 多文档解析
    • 对话日志
    • 检索性能优化
    • Milvus
    • 文档解析方案和费用对比
    • 离线运行向量模型
  • 64_ai-search

    • ai-search 项目简介
    • ai-search 数据库文档
    • ai-search SearxNG 搜索引擎
    • ai-search Jina Reader API
    • ai-search Jina Search API
    • ai-search 搜索、重排与读取内容
    • ai-search PDF 文件处理
    • ai-search 推理问答
    • Google Custom Search JSON API
    • ai-search 意图识别
    • ai-search 问题重写
    • ai-search 系统 API 接口 WebSocket 版本
    • ai-search 搜索代码实现 WebSocket 版本
    • ai-search 生成建议问
    • ai-search 生成问题标题
    • ai-search 历史记录
    • Discover API
    • 翻译
    • Tavily Search API 文档
    • 对接 Tavily Search
    • 火山引擎 DeepSeek
    • 对接 火山引擎 DeepSeek
    • ai-search 搜索代码实现 SSE 版本
    • jar 包部署
    • Docker 部署
    • 爬取一个静态网站的所有数据
    • 网页数据预处理
    • 网页数据检索与问答流程整合
  • 65_java-linux

    • Java 执行 python 代码
    • 通过大模型执行 Python 代码
    • MCP 协议
    • Cline 提示词
    • Cline 提示词-中文版本
  • 66_manim

    • 简介
    • Manim 开发环境搭建
    • 生成场景提示词
    • 生成代码
    • 完整脚本示例
    • 语音合成系统
    • Fish.audio TTS 接口说明文档与 Java 客户端封装
    • 整合 fishaudio 到 java-uni-ai-server 项目
    • 执行 Python (Manim) 代码
    • 使用 SSE 流式传输生成进度的实现文档
    • 整合全流程完整文档
    • HLS 动态推流技术文档
    • manim 分场景生成代码
    • 分场景运行代码及流式播放支持
    • 分场景业务端完整实现流程
    • Maiim布局管理器
    • 仅仅生成场景代码
    • 使用 modal 运行 manim 代码
    • Python 使用 Modal GPU 加速渲染
    • Modal 平台 GPU 环境下运行 Manim
    • Modal Manim OpenGL 安装与使用
    • 优化 GPU 加速
    • 生成视频封面流程
    • Java 调用 manim 命令 执行代码 生成封面
    • Manim 图像生成服务客户端文档
    • manim render help
    • 显示 中文公式
    • manimgl
    • EGL
    • /zh/66_manim/30.html
    • /zh/66_manim/31.html
    • 成本核算
    • /zh/66_manim/33.html
  • 70_tio-boot-admin

    • 入门指南
    • 初始化数据
    • token 存储
    • 与前端集成
    • 文件上传
    • 网络请求
    • 图片管理
    • /zh/70_tio-boot-admin/08.html
    • Word 管理
    • PDF 管理
    • 文章管理
    • 富文本编辑器
  • 71_tio-boot

    • /zh/71_tio-boot/01.html
    • Swagger 整合到 Tio-Boot 中的指南
    • HTTP/1.1 Pipelining 性能测试报告
  • 80_性能测试

    • 压力测试 - tio-http-serer
    • 压力测试 - tio-boot
    • 压力测试 - tio-boot-native
    • 压力测试 - netty-boot
    • 性能测试对比
    • TechEmpower FrameworkBenchmarks
    • 压力测试 - tio-boot 12 C 32G
  • 99_案例

    • 封装 IP 查询服务
    • tio-boot 案例 - 全局异常捕获与企业微信群通知
    • tio-boot 案例 - 文件上传和下载
    • tio-boot 案例 - 整合 ant design pro 增删改查
    • tio-boot 案例 - 流失响应
    • tio-boot 案例 - 增强检索
    • tio-boot 案例 - 整合 function call
    • tio-boot 案例 - 定时任务 监控 PostgreSQL、Redis 和 Elasticsearch
    • Tio-Boot 案例:使用 SQLite 整合到登录注册系统
    • tio-boot 案例 - 执行 shell 命令

文档管理

  • 项目目标
  • 系统核心概念
  • 功能实现步骤
  • 功能概述
  • 接口实现
    • 1. 获取文档列表
    • 2. 获取单个文档详情
    • 3. 获取所有文档
  • 代码实现
    • 1. API 控制器
    • 2. 服务层
  • 权限控制
  • 异常处理
  • 测试
  • 总结

项目目标

本项目旨在构建一个功能完备的 RAG(Retrieval-Augmented Generation)系统,主要目标包括:

  • 知识库管理:支持创建、更新和删除知识库,便于用户高效维护内容。
  • 文档处理:包括文档的拆分、片段的向量化处理,以提升检索效率和准确性。
  • 问答系统:提供高效的向量检索和实时生成回答的能力,支持复杂汇总类问题的处理。
  • 系统优化:通过统计分析和推理问答调试,不断优化系统性能和用户体验。

系统核心概念

在 RAG 系统中,以下是几个核心概念:

  • 应用:知识库的集合。每个应用可以自定义提示词,以满足不同的个性化需求。
  • 知识库:由多个文档组成,便于用户对内容进行分类和管理。
  • 文档:系统中对应的真实文档内容。
  • 片段:文档经过拆分后的最小内容单元,用于更高效的处理和检索。

功能实现步骤

  1. 数据库设计 查看 01.md
    设计并实现项目所需的数据表结构与数据库方案,为后续的数据操作打下坚实基础。

  2. 用户登录 查看 02.md
    实现了安全可靠的用户认证系统,保护用户数据并限制未经授权的访问。

  3. 模型管理 查看 03.md
    支持针对不同平台的模型(如 OpenAI、Google Gemini、Claude)进行管理与配置。

  4. 知识库管理 查看 04.md
    提供创建、更新及删除知识库的功能,方便用户维护与管理文档内容。

  5. 文档拆分 查看 05.md
    可将文档拆分为多个片段,便于后续向量化和检索操作。

  6. 片段向量 查看 06.md
    将文本片段进行向量化处理,以便进行语义相似度计算及高效检索。

  7. 命中率测试 查看 07.md
    通过语义相似度和 Top-N 算法,检索并返回与用户问题最相关的文档片段,用于评估检索的准确性。

  8. 文档管理 查看 08.md
    提供上传和管理文档的功能,上传后可自动拆分为片段便于进一步处理。

  9. 片段管理 查看 09.md
    允许对已拆分的片段进行增、删、改、查等操作,确保内容更新灵活可控。

  10. 问题管理 查看 10.md
    为片段指定相关问题,以提升检索时的准确性与关联度。

  11. 应用管理 查看 11.md
    提供创建和配置应用(智能体)的功能,并可关联指定模型和知识库。

  12. 向量检索 查看 12.md
    基于语义相似度,在知识库中高效检索与用户问题最匹配的片段。

  13. 推理问答调试 查看 13.md
    提供检索与问答性能的评估工具,帮助开发者进行系统优化与调试。

  14. 对话问答 查看 14.md
    为用户提供友好的人机交互界面,结合检索到的片段与用户问题实时生成回答。

  15. 统计分析 查看 15.md
    对用户的提问与系统回答进行数据化分析,并以可视化图表的形式呈现系统使用情况。

  16. 用户管理 查看 16.md
    提供多用户管理功能,包括用户的增删改查及权限控制。

  17. API 管理 查看 17.md
    对外提供标准化 API,便于外部系统集成和调用本系统的功能。

  18. 存储文件到 S3 查看 18.md
    将用户上传的文件存储至 S3 等对象存储平台,提升文件管理的灵活性与可扩展性。

  19. 文档解析优化 查看 19.md
    介绍与对比常见的文档解析方案,并提供提升文档解析速度和准确性的优化建议。

  20. 片段汇总 查看 20.md
    对片段内容进行汇总,以提升总结类问题的查询与回答效率。

  21. 文档多分块与检索 查看 21.md
    将片段进一步拆分为句子并进行向量检索,提升检索的准确度与灵活度。

  22. 多文档支持 查看 22.md
    兼容多种文档格式,包括 .doc, .docx, .xls, .xlsx, .ppt, .pptx 等。

  23. 对话日志 查看 23.md
    记录并展示对话日志,用于后续分析和问题回溯。

  24. 检索性能优化 查看 24.md
    提供整库扫描和分区检索等多种方式,进一步提高检索速度和效率。

  25. Milvus 查看 25.md
    将向量数据库切换至 Milvus,以在大规模向量检索场景中获得更佳的性能与可扩展性。

  26. 文档解析方案和费用对比 查看 26.md
    对比不同文档解析方案在成本、速度、稳定性等方面的差异,为用户提供更加经济高效的选择。

  27. 爬取网页数据 查看 27.md
    支持从网页中抓取所需内容,后续处理流程与本地文档一致:分段、向量化、存储与检索。
    在本节中,我们将实现 文档管理 功能。此前,我们已完成数据库设计、用户登录、知识库管理、文件拆分、片段向量化功能以及命中率测试。文档管理功能将进一步完善我们的系统,使用户能够高效地管理和检索文档。

功能概述

文档管理 功能包括以下主要操作:

  1. 获取文档列表:根据数据集 ID 获取分页文档列表。
  2. 获取单个文档详情:根据数据集 ID 和文档 ID 获取特定文档的详细信息。
  3. 获取所有文档:根据数据集 ID 获取该数据集下的所有文档。

接口实现

我们提供了三个主要的 API 接口来支持文档管理功能:

  1. 获取文档列表
  2. 获取单个文档详情
  3. 获取所有文档

1. 获取文档列表

请求

GET http://localhost:3000/api/dataset/{datasetId}/document/{pageNo}/{pageSize}
  • 路径参数:
    • datasetId:数据集的唯一标识。
    • pageNo:当前页码。
    • pageSize:每页显示的文档数量。

示例请求

GET http://localhost:3000/api/dataset/443309276048408576/document/1/10

响应

{
  "message": null,
  "data": {
    "size": 10,
    "total": 1,
    "current": 1,
    "records": [
      {
        "tenant_id": "0",
        "directly_return_similarity": 0.9,
        "creator": "",
        "is_active": true,
        "create_time": 1730853299657,
        "dataset_id": "443309276048408576",
        "title": null,
        "type": "pdf",
        "updater": "",
        "update_time": 1730853299657,
        "deleted": 0,
        "user_id": "1",
        "char_length": 22837,
        "meta": null,
        "file_id": "443431990348681216",
        "name": "ICS111_31391_Miller_Syllabus_F24.pdf",
        "paragraph_count": 6,
        "hit_handling_method": "optimization",
        "files": null,
        "id": "443662133182980096",
        "status": "1"
      }
    ]
  },
  "code": 200
}

响应字段说明

  • message:响应消息,成功时为 null。
  • data:响应数据对象。
    • size:每页文档数量。
    • total:总文档数。
    • current:当前页码。
    • records:文档列表数组,每个文档包含以下字段:
      • tenant_id:租户 ID。
      • directly_return_similarity:直接返回的相似度评分。
      • creator:文档创建者。
      • is_active:文档是否激活。
      • create_time:文档创建时间(时间戳)。
      • dataset_id:所属数据集 ID。
      • title:文档标题。
      • type:文档类型(如 PDF)。
      • updater:文档更新者。
      • update_time:文档更新时间(时间戳)。
      • deleted:删除标识(0 表示未删除)。
      • user_id:用户 ID。
      • char_length:文档字符长度。
      • meta:元数据。
      • file_id:文件 ID。
      • name:文档名称。
      • paragraph_count:段落数量。
      • hit_handling_method:命中处理方法。
      • files:关联文件信息。
      • id:文档唯一标识。
      • status:文档状态。
  • code:响应状态码,200 表示成功。

2. 获取单个文档详情

请求

GET http://localhost:3000/api/dataset/{datasetId}/document/{documentId}
  • 路径参数:
    • datasetId:数据集的唯一标识。
    • documentId:文档的唯一标识。

示例请求

GET http://localhost:3000/api/dataset/443309276048408576/document/1

响应

{
  "message": null,
  "data": {
    "tenant_id": "0",
    "creator": "",
    "create_time": 1730769172064,
    "embedding_mode_id": "443263808507674624",
    "remark": null,
    "type": "0",
    "updater": "",
    "update_time": 1730769172064,
    "deleted": 0,
    "user_id": "1",
    "meta": null,
    "name": "ICS 141",
    "id": "443309276048408576",
    "desc": "ICS 141 课程资料"
  },
  "code": 200
}

响应字段说明

  • message:响应消息,成功时为 null。
  • data:文档详细信息对象,包含以下字段:
    • tenant_id:租户 ID。
    • creator:文档创建者。
    • create_time:文档创建时间(时间戳)。
    • embedding_mode_id:嵌入模式 ID。
    • remark:备注信息。
    • type:文档类型。
    • updater:文档更新者。
    • update_time:文档更新时间(时间戳)。
    • deleted:删除标识(0 表示未删除)。
    • user_id:用户 ID。
    • meta:元数据。
    • name:文档名称。
    • id:文档唯一标识。
    • desc:文档描述。
  • code:响应状态码,200 表示成功。

3. 获取所有文档

请求

GET http://localhost:3000/api/dataset/{datasetId}/document
  • 路径参数:
    • datasetId:数据集的唯一标识。

示例请求

GET http://localhost:3000/api/dataset/443309276048408576/document

响应

{
  "message": null,
  "data": [
    {
      "tenant_id": "0",
      "directly_return_similarity": 0.9,
      "creator": "",
      "is_active": true,
      "create_time": 1730853299657,
      "dataset_id": "443309276048408576",
      "title": null,
      "type": "pdf",
      "updater": "",
      "update_time": 1730853299657,
      "deleted": 0,
      "user_id": "1",
      "char_length": 22837,
      "meta": null,
      "file_id": "443431990348681216",
      "name": "ICS111_31391_Miller_Syllabus_F24.pdf",
      "paragraph_count": 6,
      "hit_handling_method": "optimization",
      "files": null,
      "id": "443662133182980096",
      "status": "1"
    }
  ],
  "code": 200
}

响应字段说明

  • message:响应消息,成功时为 null。
  • data:文档列表数组,每个文档包含以下字段:
    • tenant_id:租户 ID。
    • directly_return_similarity:直接返回的相似度评分。
    • creator:文档创建者。
    • is_active:文档是否激活。
    • create_time:文档创建时间(时间戳)。
    • dataset_id:所属数据集 ID。
    • title:文档标题。
    • type:文档类型(如 PDF)。
    • updater:文档更新者。
    • update_time:文档更新时间(时间戳)。
    • deleted:删除标识(0 表示未删除)。
    • user_id:用户 ID。
    • char_length:文档字符长度。
    • meta:元数据。
    • file_id:文件 ID。
    • name:文档名称。
    • paragraph_count:段落数量。
    • hit_handling_method:命中处理方法。
    • files:关联文件信息。
    • id:文档唯一标识。
    • status:文档状态。
  • code:响应状态码,200 表示成功。

代码实现

以下是文档管理功能的核心代码实现,包括 API 控制器和服务层。

1. API 控制器

文件:ApiDatasetController.java

import java.util.List;

import com.litongjava.annotation.Get;
import com.litongjava.annotation.RequestPath;
import com.litongjava.jfinal.aop.Aop;
import com.litongjava.maxkb.service.MaxKbDocumentService;
import com.litongjava.model.result.ResultVo;
import com.litongjava.tio.boot.http.TioRequestContext;

@RequestPath("/api/dataset")
public class ApiDatasetController {

  /**
   * 获取指定数据集下的文档列表(分页)
   *
   * @param datasetId 数据集 ID
   * @param pageNo    当前页码
   * @param pageSize  每页文档数量
   * @return ResultVo 包含分页文档列表
   */
  @Get("/{datasetId}/document/{pageNo}/{pageSize}")
  public ResultVo pageDocument(Long datasetId, Integer pageNo, Integer pageSize) {
    // 获取当前用户 ID
    Long userId = TioRequestContext.getUserIdLong();
    // 调用文档服务获取分页文档列表
    return Aop.get(MaxKbDocumentService.class).page(userId, datasetId, pageNo, pageSize);
  }

  /**
   * 获取指定数据集下的单个文档详情
   *
   * @param datasetId  数据集 ID
   * @param documentId 文档 ID
   * @return ResultVo 包含文档详细信息
   */
  @Get("/{datasetId}/document/{documentId}")
  public ResultVo getDocument(Long datasetId, Long documentId) {
    // 获取当前用户 ID
    Long userId = TioRequestContext.getUserIdLong();
    // 调用文档服务获取文档详情
    return Aop.get(MaxKbDocumentService.class).get(userId, datasetId, documentId);
  }

  /**
   * 获取指定数据集下的所有文档
   *
   * @param datasetId 数据集 ID
   * @return ResultVo 包含文档列表
   */
  @Get("/{datasetId}/document")
  public ResultVo documentList(Long datasetId) {
    Long userId = TioRequestContext.getUserIdLong();
    return Aop.get(MaxKbDocumentService.class).list(userId, datasetId);
  }
}

代码说明

  • 注解 @RequestPath("/api/dataset"):定义控制器的基础路径为 /api/dataset。
  • 方法 pageDocument:
    • 注解 @Get("/{datasetId}/document/{pageNo}/{pageSize}"):定义 GET 请求路径。
    • 参数:
      • datasetId:数据集 ID。
      • pageNo:当前页码。
      • pageSize:每页文档数量。
    • 功能:获取指定数据集下的分页文档列表。
  • 方法 getDocument:
    • 注解 @Get("/{datasetId}/document/{documentId}"):定义 GET 请求路径。
    • 参数:
      • datasetId:数据集 ID。
      • documentId:文档 ID。
    • 功能:获取指定数据集下的单个文档详情。
  • 方法 documentList:
    • 注解 @Get("/{datasetId}/document"):定义 GET 请求路径。
    • 参数:
      • datasetId:数据集 ID。
    • 功能:获取指定数据集下的所有文档列表。
  • 依赖注入:通过 Aop.get(MaxKbDocumentService.class) 获取 MaxKbDocumentService 服务实例。

2. 服务层

文件:MaxKbDocumentService.java

package com.litongjava.maxkb.service;

import java.util.List;

import com.jfinal.kit.Kv;
import com.litongjava.db.TableInput;
import com.litongjava.db.TableResult;
import com.litongjava.db.activerecord.Row;
import com.litongjava.kit.RecordUtils;
import com.litongjava.maxkb.constant.TableNames;
import com.litongjava.maxkb.model.ResultPage;
import com.litongjava.model.page.Page;
import com.litongjava.model.result.ResultVo;
import com.litongjava.table.services.ApiTable;

public class MaxKbDocumentService {

  /**
   * 分页获取文档列表
   *
   * @param userId    当前用户 ID
   * @param datasetId 数据集 ID
   * @param pageNo    当前页码
   * @param pageSize  每页文档数量
   * @return ResultVo 包含分页文档列表
   */
  public ResultVo page(Long userId, Long datasetId, Integer pageNo, Integer pageSize) {
    TableInput tableInput = new TableInput();
    if (userId != 1) { // 假设 userId 为 1 的用户为管理员
      tableInput.set("user_id", userId);
    }
    tableInput.set("dataset_id", datasetId)
              .setPageNo(pageNo)
              .setPageSize(pageSize);

    TableResult<Page<Row>> tableResult = ApiTable.page(TableNames.max_kb_document, tableInput);
    Page<Row> page = tableResult.getData();
    int totalRow = page.getTotalRow();
    List<Row> list = page.getList();

    List<Kv> kvs = RecordUtils.recordsToKv(list, false);
    ResultPage<Kv> resultPage = new ResultPage<>(pageNo, pageSize, totalRow, kvs);

    return ResultVo.ok(resultPage);
  }

  /**
   * 获取所有文档列表
   *
   * @param userId    当前用户 ID
   * @param datasetId 数据集 ID
   * @return ResultVo 包含文档列表
   */
  public ResultVo list(Long userId, Long datasetId) {
    TableInput tableInput = new TableInput();
    if (userId != 1) { // 假设 userId 为 1 的用户为管理员
      tableInput.set("user_id", userId);
    }
    tableInput.set("dataset_id", datasetId);

    TableResult<List<Row>> tableResult = ApiTable.list(TableNames.max_kb_document, tableInput);
    List<Row> records = tableResult.getData();

    List<Kv> kvs = RecordUtils.recordsToKv(records, false);
    return ResultVo.ok(kvs);
  }

  /**
   * 获取单个文档详情
   *
   * @param userId     当前用户 ID
   * @param datasetId  数据集 ID
   * @param documentId 文档 ID
   * @return ResultVo 包含文档详细信息
   */
  public ResultVo get(Long userId, Long datasetId, Long documentId) {
    TableInput tableInput = TableInput.by("id", documentId);
    if (userId != 1) { // 非管理员用户需额外过滤
      tableInput.set("user_id", userId);
    }
    tableInput.set("dataset_id", datasetId);

    Row data = ApiTable.get(TableNames.max_kb_document, tableInput).getData();
    if (data == null) {
      return ResultVo.error("文档未找到");
    }
    return ResultVo.ok(data.toKv());
  }
}

代码说明

  • 方法 page:
    • 参数:
      • userId:当前用户的 ID,用于权限控制。
      • datasetId:数据集 ID,用于过滤文档。
      • pageNo:当前页码。
      • pageSize:每页文档数量。
    • 功能:
      1. 创建 TableInput 对象,用于构建查询参数。
      2. 根据用户 ID 进行权限控制,如果用户不是管理员(假设 userId != 1),则仅查询该用户创建的文档。
      3. 设置数据集 ID、页码和页大小。
      4. 调用 ApiTable.page 方法执行分页查询,获取 TableResult。
      5. 从 TableResult 中提取 Page<Row> 对象,获取总行数和记录列表。
      6. 将记录列表转换为键值对列表 (List<Kv>)。
      7. 构建 ResultPage<Kv> 对象,包含分页信息和文档列表。
      8. 返回成功的 ResultVo 对象,包含 ResultPage 数据。
  • 方法 list:
    • 参数:
      • userId:当前用户的 ID,用于权限控制。
      • datasetId:数据集 ID,用于过滤文档。
    • 功能:
      1. 创建 TableInput 对象,用于构建查询参数。
      2. 根据用户 ID 进行权限控制,如果用户不是管理员,则仅查询该用户创建的文档。
      3. 设置数据集 ID。
      4. 调用 ApiTable.list 方法获取文档列表。
      5. 将记录列表转换为键值对列表 (List<Kv>)。
      6. 返回成功的 ResultVo 对象,包含文档列表数据。
  • 方法 get:
    • 参数:
      • userId:当前用户的 ID,用于权限控制。
      • datasetId:数据集 ID,用于过滤文档。
      • documentId:文档 ID,用于查询特定文档。
    • 功能:
      1. 创建 TableInput 对象,并设置文档 ID 作为查询条件。
      2. 根据用户 ID 进行权限控制:
        • 如果用户是管理员 (userId == 1),则仅根据数据集 ID 过滤。
        • 否则,增加用户 ID 过滤,确保用户只能访问自己的文档。
      3. 调用 ApiTable.get 方法获取单条记录 (Row)。
      4. 检查记录是否存在,若不存在则返回错误信息。
      5. 将 Row 转换为键值对 (Kv)。
      6. 返回成功的 ResultVo 对象,包含文档详细信息。
  • 依赖组件:
    • ApiTable:用于执行数据库表的分页查询和单条记录查询。
    • RecordUtils:用于将数据库记录转换为键值对格式。
    • ResultVo 和 ResultPage:用于标准化 API 响应结构。

权限控制

在上述实现中,我们假设 userId 为 1 的用户为管理员,具有查看所有数据集和文档的权限。非管理员用户只能查看自己创建的数据集和文档。这种权限控制确保了数据的安全性和隐私性。

异常处理

当前实现未详细展示异常处理逻辑。建议在实际开发中加入以下内容:

  1. 参数校验:确保请求参数的有效性,如 datasetId 和 documentId 的存在性、pageNo 和 pageSize 的合理性。
  2. 权限验证:在服务层进一步验证用户是否有权访问指定的数据集和文档。
  3. 错误响应:在发生异常时,返回适当的错误消息和状态码,如 400 Bad Request、401 Unauthorized、404 Not Found 等。

测试

为了确保文档管理功能的正确性和稳定性,建议编写以下测试用例:

  1. 获取文档列表:
    • 查询存在的数据集,验证返回的文档列表是否正确。
    • 查询不存在的数据集,验证返回的错误信息。
    • 测试不同的 pageNo 和 pageSize 参数,确保分页逻辑正确。
  2. 获取单个文档详情:
    • 查询存在的文档,验证返回的文档详细信息是否正确。
    • 查询不存在的文档,验证返回的错误信息。
    • 验证权限控制,确保用户无法访问未授权的文档。
  3. 获取所有文档:
    • 查询存在的数据集,验证返回的所有文档列表是否正确。
    • 查询不存在的数据集,验证返回的错误信息。
    • 验证权限控制,确保用户只能获取自己有权限查看的文档。

总结

通过上述接口和代码实现,我们成功地为系统添加了文档管理功能。该功能允许用户根据数据集管理和检索文档,支持分页查询、详细信息查看以及获取所有文档。未来,可以进一步扩展此功能,如添加文档上传、编辑、删除等操作,以满足更全面的文档管理需求。

Edit this page
Last Updated:
Contributors: Tong Li
Prev
命中测试
Next
片段管理