'Input should be a valid string'

[cainiaoqiuzhu]

调用其他外部接口的时候报错了：
2025-01-05 15:35:26,623 - base.py - 534 - WARNING - ModelServiceError - Error code: 400 - {'object': 'error', 'message': '[{'type': 'string_type', 'loc': ('body', 'messages', 0, 'content'), 'msg': 'Input should be a valid string', 'input': [{'type': 'text', 'text': '你是一个非常厉害的算命大师，你叫陈玉楼，人称陈大师\n 以下是你的个人设定：\n 1、你精通阴阳五行，能够算命、紫微斗数、姓名测算、占卜吉凶、看命运八字等。\n 2、你大约60岁左右，过去曾是详细一代赫赫有名的土匪头子，后来因为倒盗墓被毒气所伤，眼睛失明了。\n 3、你的朋友有胡八一、雪莉杨、王胖子，他们都是非常有名的摸金校尉。\n 4、当用户问你问题的时候，你会有一定的概率在回答的时候加上下面的口头禅或混合一些你的经历。\n 5、你总是用繁体中文来作答。\n 6、你从不说自己是一个人工智能助手或者AI，而是以老夫、老朽自称。\n 以下是你常说的一些口头禅：\n 1.“命里有时终须有，命里无时莫强求。”\n 2.“山重水复疑无路，柳暗花明又一村。”\n 3.“金山竹影几千秋，云锁高飞水自流。”\n 4.“伤情最是晚凉天，憔悴斯人不堪怜。”\n \n 以下是你算命的过程:\n 1.当初次和用户对话的时候，你会先问用户的姓名和出生年月日，以便以后使用。\n 2.当用户希望了解蛇年运势的时候，你会查询本地知识库工具。\n 3.当遇到不知道的事情或者不明白的概念，你会使用搜索工具来搜索。\n 4.你会根据用户的问题使用不同的合适的工具来回答，当所有工具都无法回答的时候你会使用搜索工具来搜索。\n 5.你会保存每一次的聊天记录并在后续的对话中使用。\n 6.你只使用繁体中文来作答否则你会受到惩罚。\n '}, {'type': 'text', 'text': '\n\n# 工具\n\n## 你拥有如下工具：\n\n### bazi_compute\n\nbazi_compute: 只有做八字排盘的时候才会使用这个工具，需要输入用户姓名和出生年月时，如果缺少用户姓名和出生年月则不可用 输入参数：[{"name": "name", "type": "string", "description": "姓名", "required": true}, {"name": "sex", "type": "int", "description": "性别，0为男，1为女", "required": true}, {"name": "type", "type": "int", "description": "历类型，0为农历，1为公历", "required": true}, {"name": "year", "type": "int", "description": "出生年", "required": true}, {"name": "month", "type": "int", "description": "出生月", "required": true}, {"name": "day", "type": "int", "description": "出生日", "required": true}, {"name": "hours", "type": "int", "description": "出生时", "required": true}, {"name": "minute", "type": "int", "description": "出生分", "required": true}, {"name": "sect", "type": "int", "description": "流派，1：晚子时日柱算明天，2：晚子时日柱算当天，默认1", "required": false}, {"name": "zhen", "type": "int", "description": "是否真太阳时，1：考虑真太阳时，2：不考虑，默认2", "required": false}, {"name": "province", "type": "string", "description": "省份，考虑真太阳时时必填", "required": false}, {"name": "city", "type": "string", "description": "城市，考虑真太阳时时必填", "required": false}, {"name": "lang", "type": "string", "description": "语言，默认为zh-cn", "required": false}, {"name": "factor", "type": "int", "description": "调整因子，0：不作调整，1：需要作调整，默认0", "required": false}] 此工具的输入应为JSON对象。\n\n## 你可以在回复中插入零次、一次或多次以下命令以调用工具：\n\n✿FUNCTION✿: 工具名称，必须是[bazi_compute]之一。\n✿ARGS✿: 工具输入\n✿RESULT✿: 工具结果\n✿RETURN✿: 根据工具结果进行回复，需将图片用渲染出来'}]}, {'type': 'string_type', 'loc': ('body', 'messages', 1, 'content'), 'msg': 'Input should be a valid string', 'input': [{'type': 'text', 'text': '我叫许宁晏，生于新历1998年3月6日12时30分，性别男，请帮我测一下我的八字'}]}]', 'type': 'BadRequestError', 'param': None, 'code': 400}

[tuhahaha]

您好，这是外部llm接口报错了，可以先尝试下单独访问这个外部llm接口是否正确返回

[tuhahaha]

另外如果外部接口接受输入的类型有限制，建议可以参考这个例子自行建一个llm class

[cainiaoqiuzhu]

另外如果外部接口接受输入的类型有限制，建议可以参考这个例子自行建一个llm class

我是在服务器用vllm部署了一个Qwen2.5-72B-Instruct模型，是openai的接口规范，我在想是不是这个模型的问题或者vllm部署的问题呢？

[tuhahaha]

vllm部署的接口框架是支持的，应该是模型部署的问题，可以看下vllm测报什么错

[cainiaoqiuzhu]

vllm部署的接口框架是支持的，应该是模型部署的问题，可以看下vllm测报什么错

大佬我想请教一下，如何在使用function_call的前提下实现memory的功能呢？类似于langchain的agent_excutor()可以传入memory参数的效果一样