Page 91 - 2024年第55卷第1期

标注的形式，即一列文本内容与一列标签相对应。最后将带标签的句子按照 ８∶２的比例生成训练集、
测试集作为模型输入数据。数据处理流程如图 ５所示。

图 ５ 数据处理流程

赵慧子等 ［２９］ 曾以 ８８３篇水文模型领域中文期刊论文为数据源，进行了水文模型领域命名实体识别
研究，构建的数据集共包含各实体 ４５６２１个，句子 ２６０７８个，其中不包含实体的句子 ６０００余个。本
文在此基础上扩大文论数量至 １２０９篇，对 ＢＥＲＴ模型进行了增量训练。扩大后的数据集包含各类实体
５１１５２个，句子总量达到 ３２０８８个，其中不包含实体的句子 ７２００个。
４．２ 知识抽取 利用处理好的数据训练 ＢＥＲＴ模型，使用精确率 Ｐ（Ｐｒｅｃｉｓｉｏｎ）、召回率 Ｒ（Ｒｅｃａｌｌ）、
Ｆ１值（Ｈ － ｍｅａｎ 值）三个值作为评价指标对模型精度进行评估，计算公式分别为：
识别正确实体的数量
Ｐ ＝ × １００％ （１）
识别出实体的数量
识别正确实体的数量
Ｒ ＝ × １００％ （２）
文本中实体的数量
２ Ｐ·Ｒ
Ｆ１ ＝ × １００％ （３）
Ｐ ＋ Ｒ
增量训练中对 ＢＥＲＴ模型进行超参数调整：最大序列长度等于 １２８，ｅｐｏｃｈ为 １０，ｂａｔｃｈｓｉｚｅ为 ３２，
存储步数为 ４２５，ｄｒｏｐｏｕｔ为 ０．１。实体抽取的精度结果如表 ５所示。

表 ５ 实体抽取精度 单位：％
ＢＥＲＴ模型（８８３篇） ＢＥＲＴ模型（１２０９篇） 多策略结合
实体类型
Ｐ Ｒ Ｆ１ Ｐ Ｒ Ｆ１ Ｐ Ｒ Ｆ１
水文要素 ９４ ９４ ９４ ９７ ９７ ９７ ９８ ９８ ９８
评价指标 ９８ ９８ ９８ ９８ ９８ ９８ ９８ ９９ ９９
水文模型 ８３ ８３ ８６ ８６ ８６ ８６ ９１ ９２ ９１
水文站点 ８６ ８６ ８６ ９０ ８３ ８６ ９４ ８９ ９０
计算时段类型 ９７ ９９ ９８ ９８ ９９ ９８ ９８ １００ ９９
整体评估 ９２ ９２ ９２ ９４ ９４ ９４ ９６ ９６ ９５

从表 ５可以看出：
（ １）对于大部分的实体类型，增量训练都带来了性能提升，尽管这种提升在不同的实体类型之间
有所不同，但这说明了增量训练有助于提升模型在识别各种类型实体时的性能。

— ８ ６ —