实战0-1,Java开发者也能看懂的大模型应用RAG开发实践
前言 在前几天的文章中,我分享说在RAG领域,很多都是工程上的实践,做AI大模型应用的开发其实Java也能写,那么本文就一个Java开发者的立场,构建实现一个最基础的大模型应用系统。 而大模型应用系统其实在目前阶段,可能应用最广的还是RAG领域,因此,本文也是通过在RAG领域的基础架构下,来实现应用的开发,主要需求点:让大模型理解文本(知识库)内容,基于知识库范围内的内容进行回答对话 ...
前言 在前几天的文章中,我分享说在RAG领域,很多都是工程上的实践,做AI大模型应用的开发其实Java也能写,那么本文就一个Java开发者的立场,构建实现一个最基础的大模型应用系统。 而大模型应用系统其实在目前阶段,可能应用最广的还是RAG领域,因此,本文也是通过在RAG领域的基础架构下,来实现应用的开发,主要需求点:让大模型理解文本(知识库)内容,基于知识库范围内的内容进行回答对话 ...
如果你是在CentOS7 上面源码安装Python3.11版本,你可能会碰到和我一样的问题,那就是OpenSSL模块太低了。 在源码编译安装时,如果没有指定OpenSSL那么在使用时会出现一些异常,解决方案: 1、更新yum软件包 yum update yum install openssl-devel bzip2-devel libffi-devel 2、下载最新的OpenSSL...
最近在学习RAG、大模型等领域方面的技术,想在学习的过程中做总结性的输出,因此就想把自己之前弄的博客重新整理一番,主要有几个原因: 博客网页无法适配移动端(非常重要的一个特性) 主题有些腻了,想换个新主题 GitHub Pages <-> 博客 <-> 微信公众号 整体链路的文章编写发布顺畅的诉求 后来,就基于自己的想法,整理的了要重新整理博客的需...
前言 大模型正为我们带来前所未有的技术革新,而用好大模型也是有一定技巧的。 本文主要分享5种实用的Prompt对话提示框架,结合自己的实际需求,让你能够灵活使用大模型! 1.RTF框架 RTF(Role-Task-Format)框架是一个非常简单通用的Prompt提示框架,我们和任意大模型对话场景下都可以使用该规范进行改进输出 R-Role(角色):指定大模型担当固定角色(程...
写在前面 首先,非常感谢关注Knife4j项目的朋友,该公众号应该是今年开始,对于开源项目Knife4j的更新都在此公众号进行了第一时间的发布更新,包括该项目的迭代、想法、实践等等内容,包括最近Knife4j的付费产品Knife4jInsight的推出,虽然更新的不是很频繁,但对于还是要给自己一直坚持的事情做输出点赞的(感动了自己😹)。对于写公众号而言,对于文章的发表,如果有人持续关注的话...
在之前发布的《Knife4j新产品的想法》一文中,我提到想给Knife4j的生态做一些扩展,区别于目前市面上不一样的功能或者工具产品。 主要还是聚焦在Knife4j这个开源项目上,然后将自己的一些想法进行输出,并将一些在单体工具组件中无法解决落地的需求场景,共同灌注在这个新的产品中。 今天,Knife4jInsight平台版-MVP(Minimum Viable Product)最小可行...
前言 大家好,在昨天Knife4jInsight的1.0.0MVP版本发布之后,在Knife4j的交流群分享说,希望Knife4j后面的版本,不管是开源版本还是商业版本,希望以:开源项目生态+付费产品闭源+Build On Public的模式一直走下去!!! 今天这篇则是践行Build On Public策略,分享在开发Knife4jInsight过程中的一些感悟及想法! 在很早之前分...
写在开头 Knife4j的发展已经有好几个年头了,最近想来,虽然这个小组件不太稳定,但有每天依然收到很多小伙伴的积极反馈,这让我又不由自主的对这个项目产生了羁绊。一直以来,总想把一些工作中的想法,以及和Knife4j周边生态相关的内容结合起来,做一些不一样的事情。 在Knife4j目前的生态中,我主要为Knife4j写了一些技术的组件,主要包括: Knife4j-ui:前端组件部...
大家好,这篇文章主要是介绍分享Knife4j-gateway网关聚合文档组件,自4.0版本发布该组件后,得到了大家的积极响应,我们也是积极响应用户的需求,持续迭代优化 该组件是一个非常轻量级的网关聚合组件,适用于开发者使用Spring Cloud Gateway网关组件进行Swagger2、OpenAPI3规范的文档聚合 🌾 1.前言 在考虑写这个组件之前,开发者在Spring Clo...
本文主要介绍在Knife4j中如何处理枚举,主要包含两个方面: 通过技术手段,将枚举的value值以及描述在文档界面进行呈现,完善接口信息展示 能通过Knife4j的调试功能针对枚举参数快速调试。 关联Issues: ✅ 枚举类参数value和desc的注释 ✅ 4.1.0版本下,枚举类@ToString方法自定义可用值和@JsonValue注解不兼容 …… ...