您现在的位置是:首页 > 正文

本地化部署chatGLM开发实践报错汇总记录

2024-04-01 00:51:33阅读 1

最近因为项目需要在接触chatGLM相关的内容,本地化部署运行是其中之一,在这个学习实践过程中也遇上了很多报错,这里主要是对各种报错的记录汇总,也欢迎大家一起贡献问题与解决方案,希望的就是帮到同样有需要的人。

问题一

LLaMA-13b模型权重和Vicuna delta权重进行合并整合的时候报错“configuration_auto.py in getitem raise KeyError(key)  KeyError:llama”如下所示:

 解决办法升级安装transformer库即可,如下所示:

pip install transformers==4.28.1

问题二

chatGLM模型使用官方提供的p-tuing微调方法训练完成模型后,加载启动模型权重文件报错AttributeError: ‘ChatGLMModel‘ object has no attribute ‘prefix_encoder‘

这个问题在网上找了很多相关的文章最后都是不匹配的解决方案,最终的解决方法是修改configuration_chatglm.py模块中pre_seq_len参数即可。

网站文章

  • 【python脚本】正则匹配提取所需字符串

    python脚本通过正则表达式匹配原文档中所需的字符串,并输出至新的文档中。

    2024-04-01 00:51:23
  • LNK2005: _DllMain@12 already defined解决方案

    LNK2005: _DllMain@12 already defined解决方案

    原因:链接库顺序问题方案:在“项目 -> 属性 -> 链接器 -> 命令行”,使用 /verbose:lib编译参数,输出如下:>SearchingD:\vs2015\VC\lib\MSVCRTD.l...

    2024-04-01 00:51:16
  • JavaScript基础学习——ES6基础指令

    一、认识ES6ES6(ECMAScript 6/ECMAScript 2015)是2015年6月发布的。ES6是对ES5的一个扩展(就是在ES5的基础上添加了一些内容),最典型的内容:Class(类)...

    2024-04-01 00:51:10
  • 证券结算知识

    参考:结算业务 [证券信息技术知识库]目前,我国A股交易实行T+1交收,B股交易实行T+3交收,另外还有部分业务实行逐笔全额交收(Real Time Gross Settlement)、T+0、T+N...

    2024-04-01 00:50:44
  • 单调栈-图解-LeetCode84柱状图中最大的矩形

    单调栈-图解-LeetCode84柱状图中最大的矩形

    概念: 单调栈(monotone-stack)是指栈内元素(栈底到栈顶)都是(严格)单调递增或者单调递减的。 如果有新的元素入栈,栈调整过程中 *会将所有破坏单调性的栈顶元素出栈,并且出栈的元素不会再...

    2024-04-01 00:50:38
  • 应用安全基础

    应用安全基础

    大多数攻击出现在应用层并利用已知漏洞应用安全是一种可供开发人员、测试人员与管理人员在其整个开发过程可用的多层方法论。我们基于计算机的培训课程(CBT)为开发人员、测试人员、项目经理和架构师准备了软件安全开发的最新知识,以培养员工的安全意识,使员工能够设计、创建和部署安全的软件和应用。用户可自行安排时间使用计算机访问课程,同时课程学习环境是高度互动的。课程概述:       本课程描...

    2024-04-01 00:50:30
  • 使用servlet和jsp实现页面信息的分页展示,数据从数据库中查询出来(首页,上一页,下一页,末页)

    使用servlet和jsp实现页面信息的分页展示,数据从数据库中查询出来(首页,上一页,下一页,末页)

    一 最终效果展示 1.数据从首页开始展示,所以没有前一页 2.第二页时包含前一页和后一页 3.末页时不包含后一页 4.也可以选择每一页要展示的数据条数 二 代码 1.先创建一个用来实现分页的实体类 p...

    2024-04-01 00:50:06
  • 分布式-幂等性解决方案

    分布式幂等性解决方案

    2024-04-01 00:49:59
  • AppScan 扫描测试策略

    AppScan 扫描测试策略

    使用 AppScan 进行扫描针对大型网站的扫描,我们按照戴明环 PDCA 的方法论来进行规划和讨论,建议 AppScan 使用步骤:计划(Plan)、执行(Do)、检查(check)、分析(Analysis and Action)。在计划阶段:明确目的,进行策略性的选择和任务分解。明确目的:选择合适的扫描策略了解对象:首先进行探索,了解网站结构和规模确定策略:进...

    2024-04-01 00:49:53
  • 08_C++智能指针(给自己赞一个)

    参考:六大智能指针:auto_ptr\shard_ptr\shared_array\scoped_ptr\scoped_array\week_ptrhttps://blog.csdn.net/zhourong0511/article/details/80315961auto_ptr: https://www.cnblogs.com/litterrondo/p/3187342.htmlV...

    2024-04-01 00:49:27