Langchain相关概念-聊天模型

聊天模型

概述

大型语言模型 (LLM) 是先进的机器学习模型，擅长各种语言相关任务，例如文本生成、翻译、摘要、问题解答等，无需为每种场景进行特定任务的微调。

现代 LLM 通常通过聊天模型接口访问，该接口接收消息列表作为输入，并返回一个消息作为输出。

最新一代的聊天模型提供了额外的功能

• 工具调用：许多流行的聊天模型提供原生的工具调用 API。此 API 允许开发人员构建丰富的应用程序，使 LLM 能够与外部服务、API 和数据库交互。工具调用还可用于从非结构化数据中提取结构化信息并执行各种其他任务。
• 结构化输出：一种使聊天模型以结构化格式（例如与给定模式匹配的 JSON）响应的技术。
• 多模态：处理文本以外数据的能力；例如，图像、音频和视频。

关键方法

聊天模型的关键方法是

• invoke：与聊天模型交互的主要方法。它以消息列表作为输入，并返回消息列表作为输出。
• stream：一种允许您在生成时流式传输聊天模型输出的方法。
• batch：一种允许您将对聊天模型的多个请求批量处理以进行更高效处理的方法。
• bind_tools：一种允许您将工具绑定到聊天模型以在模型的执行上下文中使用的方法。
• with_structured_output：invoke 方法的包装器，用于原生支持结构化输出的模型。