LangChain4J 理论概述

1、LangChain4J 是什么？

LangChain4j 的目标是简化将大型语言模型集成到 Java 应用中。

具体做法如下：

统一API： LLM提供商（如OpenAI或Google Vertex AI）和嵌入（向量）存储器（如Pinecone或Milvus）使用专有API。LangChain4j 提供了一个统一的 API，避免了为每个 API 学习和实现特定 API 的需求。要尝试不同的大型语言模型或嵌入存储，你可以轻松切换，无需重写代码。 LangChain4j 目前支持 20+ 个热门大型语言模型提供商和 30+ 个嵌入存储。
全面工具箱： 自2023年初以来，社区一直在构建大量基于LLM的应用程序，识别常见的抽象、模式和技巧。LangChain4j 将这些内容优化成一个现成可用的软件包。我们的工具箱包括从底层提示模板、聊天内存管理和函数调用等多种工具到高级模式如代理和RAG。对于每个抽象，我们都提供了一个接口，并基于通用技术提供了多种现成可用的实现。无论你是在构建聊天机器人，还是开发一个从数据摄取到检索的完整流程的RAG， LangChain4j 提供多种选择。
举个例子： 这些示例展示了如何开始创建各种基于LLM的应用，提供灵感，帮助你快速开始建设。

LangChain4j 于 2023 年初在 ChatGPT 热潮中开始开发。我们注意到缺少与众多Python和JavaScript大型语言模型库及框架相对应的Java对应工具，我们必须解决这个问题！虽然“LangChain”出现在我们的名字里，但这个项目是LangChain、Haystack的理念和概念的融合。 LlamaIndex以及更广泛的社区，加入了我们自己的创新元素。

我们积极监控社区发展，力求快速引入新技术和集成，确保你保持最新动态。图书馆正在积极开发中。虽然部分功能仍在开发中，核心功能已到位，让你现在就能开始构建基于LLM的应用！

为了更便捷的集成，LangChain4j 还支持与 Quarkus、Spring Boot、Helidon 和 Micronaut 的集成

2、LangChain4J 能干嘛？

与20+ LLM提供商的集成
与30+嵌入（向量）存储的集成
与20+嵌入模型的集成
与5+聊天存储存储的集成
与5+图像生成模型的集成
与5+评分（重新排序）模型的整合
与统一管理模型（OpenAI）的集成
支持文本和图像作为输入（多模态）
AI 服务（高级 LLM API）
代理与智能人工智能
技能
提示模板
持久性和内存内聊天内存算法的实现：消息窗口和令牌窗口
LLM响应的流式传输
常见 Java 类型和自定义 POJO 的输出解析器
工具（函数调用）
动态工具（动态生成的LLM代码执行）
RAG（检索-增强生成）：
- 摄入方式：
  - 从多个来源（文件系统、URL、GitHub、Azure Blob 存储、Amazon S3等）导入各种类型的文档（TXT、PDF、DOC、PPT、XLS等）
  - 使用多种拆分算法将文档拆分成更小的部分
  - 文档和分段的后处理
  - 使用嵌入模型进行段嵌入
  - 嵌入（向量）存储中的嵌入
- 检索（简单和高级）：
  - 查询转换（扩展、压缩）
  - 查询路由
  - 从矢量商店和/或任何自定义来源获取
  - 重新排名
  - 互惠等级融合
  - RAG流程中每个步骤的定制化
文本分类
代币化和代币计数估计工具
Kotlin 扩展：利用 Kotlin 协程功能进行异步非阻塞聊天交互处理。