用户:你好,我叫leoAI机器人:嗨,leo,有什么可以帮您的吗?用户:我叫什么名字?AI机器人:你叫Leo。

本文手把手教你用langchain4j来实现这样的影象功能。

STEP0:基本环境准备和编程入门回顾,请参考我的AI文章系列:

AI编程之手把手教你在CentOS安装Postgresql的Vector向量数据库

AI编程之手把手教你利用postgresql向量数据库培植知识库JAVA版

AI编程之手把手教你运用langchain4j编写一个有记忆的聊天机械人

AI编程之手把手教你利用langchain和postgresql向量库Python版

AI编程之手把手教你利用JAVA措辞编写大模型RAG

STEP1: 安装Postgresql+pgvector向量库

请参考我之前的文章: AI编程之手把手教你在CentOS安装Postgresql的Vector向量数据库

STEP2: 建表存放影象内容

CREATE TABLE chat_memory (memory_id INT NOT NULL PRIMARY KEY,chat_messages TEXT NULL);

STEP3: 实现一个基于postgresql的影象存储

LangChain4j提出了ChatMemory的观点,它的实质是ChatMessage的容器。

ChatMemory是一个接口定义,它内部封装了一个ChatMessage的容器,供应了追加条款和打消影象存储两个方法。

LangChain4j供应了两种ChatMemory实现:

MessageWindowChatMemory供应了一种大略的文本化存储办法,按照条数存储,FIFO模式,如果超出条数,最老的一条被淘汰。
把稳,只能存储一条SystemMessage,如果加入另一条SystemMessage,前一条SystemMessage会被淘汰。
TokenWindowChatMemory供应了token化的存储办法,按照token数量存储,FIFO模式,如果超出token数量,最老的一条将会被淘汰。
把稳,只能存储一条SystemMessage,如果加入另一条SystemMessage,前一条SystemMessage会被淘汰。

ChatMemoryStore定义了一个用来持久化ChatMemory里存储的信息。

定义了查询、更新、删除持久化数据的能力。

我们紧张须要实现的是利用Postgresql做为持久化的ChatMemoryStore。
代码如下:

//ChatMemory存储详细实现@Slf4j@Servicepublic class PersistentChatMemoryStore implements ChatMemoryStore {@ResourceChatMemoryMapper chatMemoryMapper;@Overridepublic List<ChatMessage> getMessages(Object memoryId) {ChatMemoryEntity chatMemoryEntity = chatMemoryMapper.queryForChatMemory((Integer)memoryId);if(null == chatMemoryEntity){return messagesFromJson(null);}return messagesFromJson(chatMemoryEntity.getChatMessages());}@Overridepublic void updateMessages(Object memoryId, List<ChatMessage> messages) {String json = messagesToJson(messages);ChatMemoryEntity chatMemoryEntity = new ChatMemoryEntity();chatMemoryEntity.setMemoryId((Integer) memoryId);chatMemoryEntity.setChatMessages(json);ChatMemoryEntity chatMemoryEntity1 = chatMemoryMapper.queryForChatMemory((Integer)memoryId);if (null == chatMemoryEntity1){chatMemoryMapper.insertChatMemory(chatMemoryEntity);}else {chatMemoryMapper.updateChatMemory(chatMemoryEntity);}}@Overridepublic void deleteMessages(Object memoryId) {chatMemoryMapper.deleteForChatMemory((Integer)memoryId);}}

数据库Mapper代码:

@Mapperpublic interface ChatMemoryMapper extends BaseMapper<ChatMemoryEntity> {ChatMemoryEntity queryForChatMemory(Integer memoryId);void updateChatMemory(@Param("chatMemoryEntity") ChatMemoryEntity chatMemoryEntity);void insertChatMemory(@Param("chatMemoryEntity") ChatMemoryEntity chatMemoryEntity);void deleteForChatMemory(Integer memoryId);}

Mybatis配置代码:

<?xml version="1.0" encoding="UTF-8" ?><!DOCTYPE mapper PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN""http://mybatis.org/dtd/mybatis-3-mapper.dtd"><mapper namespace="org.leo.llm.dao.ChatMemoryMapper"><!-- 定义 ResultMap --><resultMap id="chatmemoryResultMap" type="org.leo.llm.entity.ChatMemoryEntity"><id property="memoryId" column="memory_id" /><result property="chatMessages" column="chat_messages" /></resultMap><select id="queryForChatMemory" resultMap="chatmemoryResultMap">SELECT a.memory_id , a.chat_messagesFROM chat_memory a WHERE a.memory_id = #{memoryId}</select><update id="updateChatMemory" >UPDATE chat_memory SET chat_messages = #{chatMemoryEntity.chatMessages}WHERE memory_id = #{chatMemoryEntity.memoryId}</update><insert id="insertChatMemory" >insert into chat_memory (memory_id , chat_messages)values (#{chatMemoryEntity.memoryId},#{chatMemoryEntity.chatMessages})</insert><delete id="deleteForChatMemory" >delete from chat_memorywhere memory_id = #{chatMemoryEntity.memoryId}</delete></mapper>

STEP4: 实现一个有影象的谈天机器人

我们仍旧利用AiServices快速包装产生谈天机器人。

public String chatWithMemory(Integer userId,String chatMessage) {OpenAiChatModel chatModel = OpenAiChatModel.builder().baseUrl("https://oneapi.xty.app/v1").apiKey("sk-1234567890abcdef").modelName("gpt-3.5-turbo").build();ChatMemoryProvider chatMemoryProvider = memoryId -> MessageWindowChatMemory.builder().id(memoryId).maxMessages(10).chatMemoryStore(persistentChatMemoryStore).build();LLMAssistant agent = AiServices.builder(LLMAssistant.class).chatLanguageModel(chatModel).chatMemoryProvider(chatMemoryProvider).build();return agent.chat(userId,chatMessage);}

STEP5: 运行起来看看效果

经由几次对话,我们看看历史记录:

我:我叫leoAI机器人:你好,leo!
有什么可以帮助你的吗?我:我叫什么名字?AI机器人:你叫Leo。
--把运用重启了一遍。
重启之后我:我叫什么名字?AI机器人:你叫Leo。

Postgresql里也存入了影象数据:

通过引入谈天历史,这个大略的谈天机器人具备了影象能力。

STEP6: 后续

后续将利用Langchain和postgresql实现更多的CASE,敬请关注。

作者简介:

leo,互联网大厂AI架构师,欢迎私信互换

我的Dify AI case by case系列文章:

dify.ai 学习 case by case 第一弹

dify.ai 学习 case by case 第二弹,爆款小红书内容天生Agent

dify.ai 学习 case by case 第三弹,调用dify的API运行流程

dify.ai 学习 case by case 第四弹,繁芜的case:用dify天生一篇论文

STEP by STEP 演习一个transformer模型