当前位置: 首页 > news >正文

浙江建设厅网站施工员报名凡客诚品衬衫

浙江建设厅网站施工员报名,凡客诚品衬衫,小程序搭建挣钱,平面设计技术培训机构前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。点击跳转到网站。 本文中,我们会通过一个简单的例子来展示如何使用 langchain 来调用大模型的 chat API(使用 Chat Model&#xff…

前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。点击跳转到网站。

本文中,我们会通过一个简单的例子来展示如何使用 langchain 来调用大模型的 chat API(使用 Chat Model)。
这个例子前面也有使用过,但是前面还没有针对里面的内容进行详细的说明。

配置 key 的文档请看 langchain 入门指南(一)- 准备 API KEY

依赖安装

pip install -U langchain-openai

示例

下面的 ChatOpenAI 表示我们要使用的是 Chat Model,顾名思义,这个模型是用来进行对话的,这也是我们最常用的一种模型。

from langchain_openai import ChatOpenAI
from langchain_core.messages import HumanMessage, SystemMessagechat = ChatOpenAI(model="yi-large",temperature=0.3,max_tokens=200,api_key='your key',base_url="https://api.lingyiwanwu.com/v1"
)messages = [SystemMessage(content="你是一名精通了 golang 的专家"),HumanMessage(content="写一个  golang 的 hello world 程序"),
]response = chat.invoke(messages)print(response.content)

ChatOpenAI 说明

使用 ChatOpenAI 类,我们可以调用 chat API。ChatOpenAI 类的构造函数有以下参数:

ChatOpenAI 参数

  • model:模型名称,例如 yi-large(零一万物),gpt-3.5-turbo(OpenAI HK)等。
  • temperature:用于控制生成文本的多样性,值越大,生成的文本越多样化。
  • max_tokens:生成文本的最大长度。(我们的输入和 LLM 的输出都需要消耗 token,所以如果只是测试,可以控制一下输出的 token 数量)
  • api_key:API 密钥(支持多种,不只是 OpenAI 的)。不填写的话,会从环境变量中读取(对应的环境变量是 OPENAI_API_KEY)。
  • base_url:API 的接口地址。不填写的话,会从环境变量中读取(对应的环境变量是 OPENAI_BASE_URL)。
  • timeout:超时时间,单位是秒。
  • max_retries: 最大重试次数。

invoke 方法的参数说明

我们可以看到上面的例子传递了一个 messages 参数,这个参数是一个列表,里面包含了 HumanMessageSystemMessage

在其他地方,我们可能会看到其他形式的参数,它实际上也支持很多种形式,例如:

元组列表
from langchain_openai import ChatOpenAIchat = ChatOpenAI(model="yi-large",temperature=0.3,max_tokens=200,api_key='your key',base_url="https://api.lingyiwanwu.com/v1",
)messages = [('system', '你是一名精通了 golang 的专家'),('human', '写一个  golang 的 hello world 程序')
]response = chat.invoke(messages)print(response.content)
BaseMessage 列表
from langchain_openai import ChatOpenAI
from langchain_core.messages import HumanMessage, SystemMessagechat = ChatOpenAI(model="yi-large",temperature=0.3,max_tokens=200,api_key='your key',base_url="https://api.lingyiwanwu.com/v1",
)messages = [SystemMessage(content="你是一名精通了 golang 的专家"),HumanMessage(content="写一个  golang 的 hello world 程序"),
]response = chat.invoke(messages)print(response.content)
字符串
from langchain_openai import ChatOpenAIchat = ChatOpenAI(model="yi-large",temperature=0.3,max_tokens=200,api_key='your key',base_url="https://api.lingyiwanwu.com/v1",
)# 这个字符串参数会被转换为 HumanMessage
response = chat.invoke('使用 golang 写一个 hello world 程序')print(response.content)
字符串列表
from langchain_openai import ChatOpenAIchat = ChatOpenAI(model="yi-large",temperature=0.3,max_tokens=200,api_key='your key',base_url="https://api.lingyiwanwu.com/v1",
)messages = ["你是一名精通了 golang 的专家","写一个  golang 的 hello world 程序",
]response = chat.invoke(messages)print(response.content)

invoke 方法的返回值

上面是直接打印了返回值的 content 属性,实际上返回值中包含了其他一些有用的信息:

{"lc": 1,"type": "constructor","id": ["langchain","schema","messages","AIMessage"],"kwargs": {"content": "<...省略...>","response_metadata": {"token_usage": {"completion_tokens": 200,"prompt_tokens": 35,"total_tokens": 235},"model_name": "yi-large","system_fingerprint": null,"finish_reason": "length","logprobs": null},"type": "ai","id": "run-29131a4f-e792-4c9e-8cf5-490afed94176-0","usage_metadata": {"input_tokens": 35,"output_tokens": 200,"total_tokens": 235},"tool_calls": [],"invalid_tool_calls": []}
}

一些字段说明:

  • completion_tokens/output_tokens 是生成的文本的 token 数量。
  • prompt_tokens/input_tokens 是输入的 token 数量。
  • total_tokens 是单次请求总的 token 数量。

在实际的应用中,我们需要注意使用的 token 的数量,防止消耗太多的 token,因为 token 是要花钱来购买的。
如果我们是为其他人提供服务,可能就需要针对不同的用户来统计 token 的使用情况,以便计费。

http://www.yayakq.cn/news/477079/

相关文章:

  • wdcp网站备份php网站模板制作工具
  • 用什么系统程序做评测网站中装建设为什么不涨
  • 邯郸网站建设策划方案html实例百度网页制作代码
  • 简单公司网站模版正规的网站建设学习网
  • 网站怎么做图片按按钮跳转龙岩网站推广营销
  • 网站建设说明书模板电影网站建设方案
  • 佛山定制网站建设少儿编程加盟品牌有哪些
  • 网站建站费用深圳二手房在售房源量持续增加
  • 建设的网站都是怎么赚钱某男神去年年底来某网站做见面会_竟要求安保人数超过两位数
  • 模板网站下载莱阳有网站建设推广的吗
  • 建网站推广百度热门关键词
  • 论坛创建搜索引擎优化报告
  • 威胁网站检测平台建设wordpress编辑html
  • 网站cms系统 开源it培训机构学费
  • linux建设视频网站苏州360推广网站建设
  • 设计网站建设合同书6酷站 房地产的网站设计参 案例
  • 玉山县建设局的网站wordpress 登录流程
  • 好医生网站怎么做不了题目了莱芜雪野湖天气
  • 公司网站设计好贵州建设项目门户网站
  • 杭州网站建设方案推广网站logo教程
  • 重庆做网站制作的公司站长推荐自动跳转
  • 网站建设明细报价单嵌入式软件开发面试
  • 企业网站开发用什么语言写长春网站建设致电吉网传媒优
  • 商丘做网站公司新站seo快速收录网站内容页设计类专业大学排名
  • 摄影网站建设开题报告北京住总第一开发建设有限公司网站
  • 企业 php网站建设公关服务
  • dede网站qq类文章源码网站的空间和域名备案吗
  • 佛山网站建设培训苏州设计网站建设
  • 网站会对特殊的ip做跳转上海校园兼职网站建设
  • 开发企业网站多少钱网站地图模板下载