0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

只修改一个关键参数,就会毁了整个百亿参数大模型?

AI科技大本营 来源:CSDN 2024-02-20 14:51 次阅读

自然语言处理领域存在着一个非常有趣的现象:在多语言模型中,不同的语言之间似乎存在着一种隐含的对齐关系。复旦NLP团队在早期便开始做了一些相关的工作,于2022年发布了一篇关于Multilingual BERT的分析[1],随后团队持续进行对大语言模型内语言对齐机制、语言与知识结构之间内在联系的深入研究,并在AAAI 2024提交了一份研究报告,提出了关于大语言模型中语言对齐部分的若干猜想。基于这些研究成果,本文将分享一些大语言模型中语言和知识分离的现象。

现象 1:mBERT 模型的跨语言迁移

2022 年开始,我们发现 Multilingual BERT 是一个经过大规模跨语言训练验证的模型实例,其展示出了优异的跨语言迁移能力。具体表现为,该模型能够在某单一语言环境下训练完成一个部分后,可以非常容易地成功迁移到其他语言环境中执行任务。这一现象不禁令人思考:模型中是否存在某种特定的部分?为了探索这种多语言对齐的现象,研究采用了 Prompt 搜索方法对模型逐层分析(见图 1),针对每种语言的每一层网络及各个head(全称attention-head,BERT的基本组成模块)单元进行了细致研究,旨在考察它们对语法分类任务的执行能力。

e8532da2-cfbb-11ee-a297-92fbcf53809c.png

图 1mBERT 不同层恢复各类语言语法关系的准确性

在针对多语言样本的测试中,我们选取了每种语言不同层次的部分 head 进行测试,评估它们在语法关系预测任务上的表现。实验结果显示了一个较为显著的现象:在大规模预训练过程中,即使未注入任何显式的语法先验知识,模型依然能够在语法结构层面展现出良好的对齐特性,并能在不同层次间保持一定的精度一致性。这一趋势在大多数语言中尤为突出,但在某些特殊或较少使用的语言中则不甚明显。

通过对多种不同语法现象的预测比较,研究着重对比了英语与西班牙语、英语与日语之间的差异。在第 7 层网络的语法关系可视化中,数据显示亲缘性较高的语言,其预测位置更为接近且分布趋于均匀。而像英语与日语这样差异较大的语言,部分语法成分的预测位置相对集中(见图 2),未能有效区分开来。

e85755a8-cfbb-11ee-a297-92fbcf53809c.png

图 2mBERT 第 7 层的不同语法关系表示的可视化

接下来我们发现了更为不寻常的现象:当针对特定任务对模型进行微调(Fine-tune)时,比如运用 Multilingual BERT 进行任务倾向性分析或命名实体识别等任务的微调后,模型在处理语法成分的对齐关系及区分边界的表现会得到显著提升(见图 3)。

e86b9d38-cfbb-11ee-a297-92fbcf53809c.png

图 3 在进行任务 Fine-Tune 之后,聚合对齐更加明显

在未经微调的原始模型中,其内部蕴含了大量的语法预测信息,这些预测主要聚集在模型的中间层级,混合度比较高。但在执行相应的任务预测微调之后,这些预测分布会变得更为清晰、更具独立性。基于这一现象,可以合理推测 Multilingual BERT 模型上用单一语言微调特定任务后,其学习到的能力能够快速迁移到其他语言的原因。

现象 2:大语言模型同样存在显著的语言对齐

鉴于我们已经在上述 2022 年的研究中做了相关工作,并揭示了 Multilingual BERT 中的语言对齐现象,那么在大语言模型上面,除了 decoder-only 结构的设计改进外,剩下的就是模型的宽度和深度拓展。此现象在 Multilingual BERT 中的存在,自然引起了我们对大语言模型内部语言对齐和语法-语义对齐特性的探究。

为了更深入地解释这一问题,我们首先在2023年EMNLP发表了一篇论文[2],不仅在原始 Multilingual BERT 上进行了相应的分析工作,还在 LLaMa 模型上复现了这一现象。研究采用了一系列额外的语言评价指标,诸如 RSA 等,以期望获得更全面和准确的结论。研究结果表明,该现象在大语言模型上面与 Multilingual BERT 非常类似(见图4)。若按照先前提出的分层逻辑,模型在语法层面展现出明显的对齐性,这与我们早期的研究结果高度一致。

e889be8a-cfbb-11ee-a297-92fbcf53809c.png

图 4语言直接在句法关系上具有很强的对齐性

其次,我们探索了将 Multilingual BERT 上的迁移工作应用到更大规模的语言模型上。具体来说,我们在词性标注任务(POS tag, Parts-of-speech tagging)上设计了一种特殊的方法(见图 5)。在面对单个语言的小规模数据集时,我们选取了若干位置,无须任何标注数据,直接使用 Multilingual BERT 的迁移方式,从而在多语言环境中获得了优秀的标注效果。举例来说,即使缺乏阿拉伯语的标注数据集,仅拥有英语和法语的数据集,也能成功地迁移到其他语言环境。

e89bc904-cfbb-11ee-a297-92fbcf53809c.png

图5词性标注任务,可以通过跨语言训练得到非常高的结果

所以,在大语言模型当中也依然存在这种语言对齐现象。模型已成功实现了词形(单词形式,word form)与中间层语义表示、语法表示之间的转换,脱离了原有的词形,这一转换使得模型能够去处理别的任务。

通过前面的分析和工作,我们得出结论,大语言模型在多语言预训练阶段确实有效地实现了不同语言间语义层面上的对齐。我们认为,相较于可能不太重要的形式层面,语义层面的一致性可能是关键所在。一旦语义层面实现统一,理论上可以直接应对多种相关的下游任务。为了验证这一猜想,我们进一步开展了一系列研究工作。

现象 3:知识与语言分离

以下是我们投稿至AAAI 2024的论文[3]。假设语义层面已经实现了很好的对齐,那么词汇形式的具体表达的重要性便会相应大幅削弱。为此,我们深入探究了如何从LLaMa模型出发,将其语言能力迁移至其他小型语种的过程中,即便面对词形的变化,模型内部已经具备一层进行语义转换的能力。

从以英语为主的训练语言转向中文或任何其他语言时,实际上的转换需求就仅限于形式上的改变。通常,将 LLaMA 扩展为小语言需要经历三步(见图6):第一步是词表扩展(Vocabulary Extension);第二步是继续预训练(Further Pre-training);第三步是任务添加,所以需要使用 SFT(Supervised Fine-Tuning)数据

e8b27258-cfbb-11ee-a297-92fbcf53809c.png

图6将英文 LLaMA 扩展为其他语言

为了更清晰地理解这一过程,我们将其分解为三种形式进行观察。第一种形式是完全不改动词表,直接进行继续预训练和指令微调。第二种形式只进行词表扩展,而不进行其他操作。第三种形式则完全省略前两步,直接使用大量的 SFT 数据进行训练。

基于这些设定,我们进行了对比实验。首先,直接使用 LLaMA 或 LLaMA 2 进行 SFT 训练,观察使用经过词料扩展和大规模负责培训后的效果,例如 Chinese LLaMA、Chinese LLaMA 2 和我们实验室开源的 Open Chinese LLaMA(经过 200b 数据训练)。此外,我们还测试了不进行词表扩展,直接使用 100k 和 1m 数据对中文语料进行 SFT 训练的情况。

由于评测的目的是模型生成能力,所以我们使用了能提供生成式问答题目的 LLMEVAL 评测方式,基于模型生成数据的正确性、信息量、流畅性、逻辑性等部分,分别用 GPT-4 进行打分,结果如下(见图 7)。

e8b67ea2-cfbb-11ee-a297-92fbcf53809c.png

图7Token 扩展会导致原始信息丢失,需要大量训练才能恢复

因此,以 Chinese LLaMA 为例,恢复信息需要达到 200 倍以上的二次预训练数据,这会大幅增加训练成本。如果使用需求是让 token 的生成速度变快,我们认为依旧可以扩展词表。反之,若对生成速度没有特别大的需求,如 LLaMA 根据 UTF-8 编码生成可能需要 2 ~ 3 个 token 才能产生一个汉字,在只追求生成质量的情况下,直接进行大量中文的 SFT 数据训练,就已经可以实现非常好的处理效果。也就是说,词形和语义在语言层面已经进行了分离,提供其中文能力并不需要特别大量的数据训练。在 SFT 非常少量时,大规模的二次预训练可以加快模型对于指令的响应学习,但当 SFT 数据量扩展到 950k 之后,再去增加中文的二次预训练数据其实并没有什么特别的意义,例如在 950k SFT 的情况下,LLaMA 对比经过 1M 中文二次预训练的 LLaMA 模型,效果并没有大幅度的变化。

这也是我们之后在语言解释工作上的基础:语言的词形消失,知识和语言被分离,加入少量的中文数据无法在知识层面提升模型能力。基于这种思考,我们开始了新的评测(见图 8),其中蓝色的部分是 LLaMA-7b 模型,粉红色的部分是 LLaMA-2-7B 模型,绿色的部分是 LLaMA-13B 模型。我们希望借此看看,在经过大量的训练之后,模型的知识层面会产生哪些变化。

e8bcfa16-cfbb-11ee-a297-92fbcf53809c.png

图8使用中文进行二次预训练并不能在知识层面提升模型能力

在经过 C-Eval、GAOKAO-Bench、MMLU 和 AGIEval 等基准评测之后,观察到大量未经针对性优化的预训练模型并未显著提升其内在的知识掌握程度,反而在某些情况下相较于原始 LLaMA 模型有所下滑。这主要是由于目前普遍采用的中文语料库训练数据规模有限,进而制约了模型在语言理解和生成方面的性能表现,导致了此类评测结果的出现。因此,如何有效地开展针对中文环境的第二阶段预训练亟需更多思考。单纯依赖现有方法,并不能充分反映出模型在特定中文领域知识的进步。值得注意的是,仅在现有的通用模型中融入少量涵盖世界知识或是物理、化学、数学等领域专业知识的中文数据,是没有太大意义的

在其他语言中,我们也做了类似的工作(见图 9)。研究选了十几种语言,每种语言都用相应的 SFT 数据进行训练和测试,观察发现数据达到一定量级,如 65k SFT 之后,都处于相对可用的版本。但因为这些 SFT 数据有一部分是机器翻译的,不如中文直接使用的效果。

e8c1d6da-cfbb-11ee-a297-92fbcf53809c.png

图9在其他低资源语言中表现类似

现象 4:语义和词形对齐

训练过程中,我们发现了一些有趣的现象,也可以从一定程度上说明这种语义和词形对齐的关系。例如,用 95k 的 SFT 对某些进行训练,并将早前的一些 checkpoint(在训练过程中不同时间点保存的模型版本)打印出来,并询问以下问题(见图10):

e8dd21a6-cfbb-11ee-a297-92fbcf53809c.png

图10训练过程中非常明显的 Coding-Switch(语码转换)现象

模型在响应查询时,输出的部分内容以红色和蓝色标示。我们观察到,模型能够在保持语义连贯正确的前提下,自动插入其他语言的词汇,而且这些词汇与前面的内容衔接自然流畅,仿佛原本就应该属于同一句话。这就从某种程度上表明,模型在内部实现了语义与词形的解耦,即模型有能力在维持语义完整性的同时,灵活处理不同语言的词形表达,引证了我们前文中的一些猜想。我们做了十几种语言,每种语言都出现了一定比例的 Coding-Switch 现象,所以这并不仅仅是中文特有的个例。

现象 5:少量的数据就能影响整个大模型

基于上述发现,我们开始深入思考。除了之前观察到的这些现象之外,其实在大语言模型的训练过程当中还有很多别的现象,比如“毛刺”(见图11),即“噪音”(Noise)。在进行大规模预训练时,我们自身也进行了 30b 和 50b 参数级别的模型预训练,同样发现了类似情况。每当遇到这些噪音数据,我们的解决办法通常是回溯,回滚到出现问题的预训练阶段,检查那一阶段的数据。多数情况下,我们发现是由预训练数据所引起的,这部分有问题的数据会导致模型的 PPL(perplexity)值急剧升高。

e8f48cec-cfbb-11ee-a297-92fbcf53809c.png

图11“毛刺”

为何少量的数据会对如此大规模的模型造成如此严重的影响呢?OpenAI 和 Anthropic 在他们的论文[4][5]中均对此有所涉及,他们在研究 SFT 和预训练相关课题时,大多得出类似的结论:模型进行两三轮的微调通常就已经接近最优状态,过多的训练轮次往往会导致模型性能下降。这一结论在我们自身的实验中均得到了印证。

在传统训练流程中,我们可能对某部分数据训练 30 轮或 50 轮,即便数据质量不高,也只是导致这部分训练效果不佳。然而,在大语言模型上,当我们引入少量 SFT 数据并进行六轮甚至十轮微调时,整个模型的能力却可能会急剧下降,且在 SFT 数据上的表现也并未改善。这究竟是什么原因呢?这一系列疑问驱使我们去探寻深层次的答案,促使我们开始想要打开黑盒,去对它做更进一步的解释和分析。

以前,想对人脑的认知功能进行深入分析是很难的,因为直接观测和测量人脑各区域的功能是不可行,同时现代伦理准则也严格约束了对动物(如猴子)进行复杂神经科学实验的可能性。例如,我看过一则关于剥夺猴子视觉社交刺激的研究引发争议,因其可能对动物造成不可逆的影响。

人工智能领域,BERT 模型的出现虽然为语言处理带来了重大突破,但其智能程度相对有限,且结构和动态行为相对易于分析。随着大语言模型的发展,尤其是参数量庞大的预训练模型,它们展现了更高水平的智能表现,同时也带来了新的挑战——模型的内部工作机理更加复杂且难以直观理解。那怎么办呢?我觉得不能像电视剧里刘华强说的那样,“给你机会还不中用”。既然有了机会,我们还是得把握住。

大语言模型参数中记录了知识有明显的语言核心区

经过先前的一系列分析,我们旨在探究这些现象如何具体表现在大型语言模型的参数结构中,并从参数当中研究出一些解释和情况。过去半年以来,我们不停地实验就是围绕这一目标展开。在某种程度上,这与人脑的功能分区原理相似——人脑中有专门的语言区及核心区,而在大语言模型中也可能存在着负责语言理解与知识表达的部分结构。现在有相当一部分共识,认为一部分知识存储和处理功能可能对应于模型中的前馈神经网络(Feedforward Neural Network, FFN)部分,尤其是其中的多层感知器(Multi-Layer Perceptron, MLP)组件。然而,目前我们的研究结果其实还比较初步,有些实验结论其实并不一定十分可靠。

研究中,我们认为大模型中明显存在着承载语言能力的核心区域。为什么会这么说?这一判断基于如下实验设计:首先,我们选取了六种语言,针对每种语言收集了约十万条未曾出现在 LLaMA 原始训练集中的文本数据,这些数据源自书籍并经由转换获取,出现重叠的概率较低。接下来,我们利用这些数据对 LLaMA 模型进行了二次预训练。

预训练完成后,我们对比了模型训练前后参数的变化情况,针对每种语言独立进行。首先对韩语进行预训练并记录参数变化,随后依次对俄语、越南语等其余语言进行相同操作。实验中,我们特别关注了权重变化最大的 1% 至 5% 的参数部分,因为直觉上人们通常认为权重变化较大的区域更为重要。经过四个月的研究,我们发现并非权重变化大的区域才最关键,相反,那些经过大规模预训练后变化很小的参数区域才是模型的核心稳定部分。

为验证这一点,我们进一步做了若干实验。我们发现有非常少数的参数在所有语言二次预训练中变化都很小(见图 12),无论在哪一层、哪个矩阵,都有一个显著的集中区域,其参数变化极其微小,在不同语言上的变化都非常有限。因此,我们将六种语言训练前后参数变化幅度累计起来,考察各个位置变化的综合程度,并挑选出变化最小的1%至 5%的参数。

e91d3cb4-cfbb-11ee-a297-92fbcf53809c.png

图12有非常少数的参数在所有语言二次预训练中变化都很小

把这部分参数拿出来之后,我们将这些变化极小的参数区域进行扰动实验。通过 7b 参数规模的模型,我们选取底层变化最小的 3%参数进行随机化处理,然后观察模型的 PPL 指标(见图13)。实验结果显示,当扰动这最小变化的 3% 参数时,PPL 值会显著上升;而如果我们从模型中随意选取 3% 的参数进行同样的扰动,PPL 虽会下降,但下降幅度并不明显。反之,如果我们对权重变化最大的那部分参数(同样取 3%)进行扰动,虽然 PPL 会比随机扰动稍高,但只要扰动那些变化最小的核心区域,PPL 值就会剧烈上升。同样,我们还尝试了仅扰动 1% 参数的情况,尽管变化幅度略有减小,但总体影响仍然较大,表现为几千到几万的增量。

e9216cf8-cfbb-11ee-a297-92fbcf53809c.png

图13扰动核心区域在 130 种语言上 PPL 全都呈现爆炸趋势

如果用 13b 参数的模型重复上述工作,得到的结论是完全一致的(见图 14)。只要是变动这个区域 3% 的部分,整个模型语言能力基本上就会完全丧失掉了

e92bf84e-cfbb-11ee-a297-92fbcf53809c.png

图14LLaMA2-7B 和 13B 现象完全一样

语言能力区域非常重要,所以我们通过冻结它做了另一个实验(见图 15)。实验中,我们首先锁定了模型的语言核心区参数,并用中文知乎数据对该模型进行再训练。另一组对照实验则是不解冻核心区参数。通过在中文微信公众号和英文 Falcon 数据集各选取 1 万条样本计算 PPL,我们发现:若冻结语言核心区并用 5 万条中文知乎数据进行训练,模型的中文 PPL 可以恢复至约 7 左右,表明模型通过其他区域的参数补偿了语言能力;但英文能力在这种条件下无法恢复到先前的爆炸趋势中

e943c71c-cfbb-11ee-a297-92fbcf53809c.png

图15 模型具备一定的“代偿”能力,可以使用中文数据训练以恢复中文能力

然而,如果仅扰乱而不冻结语言核心区参数,仅通过中文知乎数据训练,无论是中文PPL还是英文PPL都能恢复至接近原始模型的良好状态(见图 16)。因此,语言核心区的参数至关重要,且对模型能力的影响呈现出平滑而敏感的特点,只需几千条数据即可相对容易地恢复其原有功能。然而,一旦该区域被锁定,模型能力的恢复将变得困难,性能指标会出现显著变化。

e94ed986-cfbb-11ee-a297-92fbcf53809c.png

图16 在语言区不锁定的情况下,仅训练中文,英文也能恢复一定能力

观察打印出的区域(见图 17),可以发现 QKVO 矩阵在维度上具有明显的集中现象,即主要集中在一小部分维度上。

e9598fb6-cfbb-11ee-a297-92fbcf53809c.png

图17 QKVO矩阵都呈现维度集中现象

虽然MLP层没有那么明显的集中性,但在进一步放大查看后,发现在某些列上也存在显著的现象(见图18)。

e969fff4-cfbb-11ee-a297-92fbcf53809c.png

图18 FFN-UP & Down某些维度上具有明显的列聚集现象

例如,在最后一层的mlp.down这个区域里面,少量维度尤其集中(见图19)。

e97bef70-cfbb-11ee-a297-92fbcf53809c.png

图19 维度集中现象明显

基于此,我们进一步分析,这种维度集中性与 Layer Norm(层归一化,Layer normalization)中的单个维度扰动在计算上等效,于是我们尝试直接扰动 Layer Norm 中的单个维度。

实验结果显示,在 LLaMA 2-13B 模型中,如果仅扰动第一层的 input Layer Norm 2100 维度,将其随机化,模型的 PPL 值会由 5.877 突升至 21.42;若将该值乘以 10,PPL 值则更剧烈地增加到为 3 亿多(见图 20)。这表明尽管其他 Layer Norm 参数在理论上同样重要,但扰动它们并不会导致如此严重的性能崩溃。然而,对于这些特定维度,即便是微小的改动也会带来显著的性能变化

e98c6e7c-cfbb-11ee-a297-92fbcf53809c.png

图20 扰动实验

为了直观展示这种变化,我们用扰动后的模型进行句子补全任务,输入为“Fudan University is located in”(复旦大学位于……)。在正常状态下,LLaMA2-13B 模型能够输出高质量的结果,甚至可以处理中英混合,例如直接给出复旦大学官网的链接。然而,如果将 2100 维度的 Layer Norm 随机化,模型便开始出现知识错误和语言错误,生成的文本不再正确(见图 21)。但同等程度地扰动其他维度,模型的语言输出却不会出现较大变化。

e991a964-cfbb-11ee-a297-92fbcf53809c.png

图21仅修改 130 亿参数中的 1 个就会使模型混乱

再回来看图 20,若将 2100 的维度乘以 10,模型的 PPL 值急剧增大,输出变得杂乱无章。可见,如果在这个特定位置(2100 维度)改动参数,整个语言模型的功能就会严重受损。当然,如果我们对其他位置的参数乘以 10,也会导致一些错误,比如模型可能会错误地将济南等地识别为复旦大学的校区。通过 PPL 指标,我们可以明显看出这些扰动对模型性能的具体影响,更何况未经扰动的 LLaMA2-13B 模型上本身也经不起多次尝试导致的错误。也就是说,130 亿参数的大模型只改一个参数,整个模型的语言能力就能完全归零

大模型语言核心区与维度依赖理论

这些现象和理论能带来什么?其实我觉得它能在构建大模型时提供诸多有益的解释。以往我们的部分工作采用了一些技巧性的方法,尽管成效显著,但却难以阐明其内在机制。

首先,在进行二阶段预训练时,若目标是增强模型在特定领域(如医学或强化中文知识)的表现,而原始训练数据对该领域覆盖不足,传统的经验告诉我们,必须辅以大量相关背景知识的混合数据。例如,在开发 Open Chinese LLaMA 时,我们发现仅添加纯中文数据会导致模型性能大幅下降,而现在我们明白参数各个区域负责部分其实已经确定,如果大量增加某类在预训练时没有的知识,会造成参数的大幅度变化,造成整个语言模型能力损失。

若要对特定分区进行调整,就必须引入与之相关的背景知识,添加 5 ~ 10 倍原始预训练中的数据,并打混后一起训练,这样才能让模型逐步适应变化。否则,一旦触及核心区域,模型将丧失几乎所有能力。

其次,大模型语言关键区域参数极为敏感,尤其是那些对模型性能至关重要的小区域。在 SFT 阶段,若训练周期过长,针对少量数据进行多个 EPOCH 的训练,会造成语言关键区域变化,导致 PPL 飙升,甚至整个模型失效。因此,与小模型不同,不能针对少量训练数据进行过度拟合

第三,模型对于噪音数据的敏感性是众所周知的,但其背后的原因值得深挖。比如,预训练数据中如果出现大量连续的噪音数据,比如连续重复单词、非单词序列等,都可能造成特定维度的调整,从而使得模型整体PPL大幅度波动。

另外,有监督微调指令中如果有大量与原有大语言模型不匹配的指令片段,也可能造成模型调整特定维度,从而使得模型整体性能大幅度下降。我们可通过语言核心区和维度依赖理论来解释这一现象,这意味着在未来训练和SFT阶段,我们需要采取相应的策略进行精细化调整




审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • RSA
    RSA
    +关注

    关注

    0

    文章

    59

    浏览量

    18887
  • 语言模型
    +关注

    关注

    0

    文章

    523

    浏览量

    10273
收藏 人收藏

    评论

    相关推荐

    怎样读懂ADC的技术手册,哪些参数比较关键

    请问下各位应该怎样读懂ADC的技术手册,那些参数比较关键? 谢谢!
    发表于 12-18 07:26

    详解电感的关键参数

    今天这篇文章介绍电感的七大关键参数
    的头像 发表于 10-14 14:37 2167次阅读
    详解电感的<b class='flag-5'>关键</b><b class='flag-5'>参数</b>

    怎么改OPA277的模型参数变成OPA2277的?

    如题,TI官网没有OPA2277的模型,但有OPA277的,这两系列的,我想问下怎么改OPA277的模型
    发表于 09-09 07:08

    请问FilterPro™ Desktop中元件参数如何修改

    FilterPro™ Desktop中元件参数如何修改?我输入新参数回车后又恢复为原参数了!
    发表于 09-09 06:17

    TINA仿真运放电路时,运放的参数中是否可以增加温度参数呢?

    我们目前在使用TINA仿真运放电路的参数,从模型中找到了外围电阻是有温度参数可以设定的,包括线性温度系数,二次温度系数,指数温度系数。但是运放本身的参数中目前没有找到与温度相关的
    发表于 08-14 07:31

    TLV9002-Q1仿真模型是否包含参数的温度漂移特性?

    从TI官网下载的TLV9002-Q1仿真模型(TLV9002 PSpice Model (Rev. D))是否包含参数的温度漂移特性? 如果模型里面没有包含温漂特性的话,我司想对TLV9002仿真-40~125度温度范围内对
    发表于 07-31 07:25

    INA190电气参数的测试电路应如何设计?

    连接到输入端,需要怎么修改呢? 请教别人说是可以在后级再连失调 很小的运放,不知道可不可行。再连
    发表于 07-31 06:47

    请问InDTU IHDMP协议使用的CRC校验使用的什么参数模型

    InDTU IHDMP协议使用的CRC校验使用的什么参数模型
    发表于 07-25 06:39

    安川伺服参数锁定了怎么解开

    安川伺服系统是种广泛应用于工业自动化领域的高性能伺服驱动器和电机系统。在某些情况下,用户可能会遇到伺服参数被锁定的问题,导致无法修改参数。本文将详细介绍如何解除安川伺服
    的头像 发表于 06-06 12:31 1741次阅读

    LDO关键参数解析

    在现代电子设备中,电源管理是项至关重要的技术。为了确保电路的稳定运行,我们需要能够稳定输出电压的电源模块。其中,低压差线性稳压器(Low Dropout Regulator,简称LDO)因其
    的头像 发表于 05-21 15:12 949次阅读

    通义千问推出1100亿参数开源模型

    通义千问近日震撼发布1100亿参数的开源模型Qwen1.5-110B,这举措标志着通义千问在AI领域迈出了重大步伐。该模型成为通义千问全系列首个千亿级
    的头像 发表于 05-06 10:49 580次阅读

    在SPICE模拟器中应该调谐优化哪些模型参数?需要全部调优吗?

    在SPICE模拟器中有几十种标准的半导体器件模型,例如,用于GaN器件的最新ASM-HEMT模型有近200模型参数,而
    的头像 发表于 03-06 10:37 1010次阅读
    在SPICE模拟器中应该调谐优化哪些<b class='flag-5'>模型</b><b class='flag-5'>参数</b>?需要全部调优吗?

    DC电源模块的关键参数解读

    BOSHIDA DC电源模块的关键参数解读 BOSHIDA DC电源模块是种电子设备,用于将交流电(AC)转换为直流电(DC)供电给其他电子设备。关键
    的头像 发表于 01-12 14:01 849次阅读
    DC电源模块的<b class='flag-5'>关键</b><b class='flag-5'>参数</b>解读

    multisim怎么修改场效应管MOS的参数

    Multisim是种基于电路仿真的软件,可以用于仿真和分析各种电路,包括场效应管MOS。要修改MOS的参数,首先需要了解MOS的基本原理和参数,然后使用Multisim的工具来
    的头像 发表于 01-04 11:03 1w次阅读

    1-2B参数规模大模型的使用心得

    模型时代,根据大模型缩放定律,大家通常都在追求模型参数规模更大、训练的数据更多,从而使得大模型涌现出更多的智能。但是,
    的头像 发表于 12-28 11:47 949次阅读
    1-2B<b class='flag-5'>参数</b>规模大<b class='flag-5'>模型</b>的使用心得