AI知识分享AI知识分享
✿导航
  • 人工智能
  • 神经网络
  • 机器学习
  • 深度学习
  • 强化学习
  • 自然语言处理
  • 计算机视觉
  • 数学基础
  • 大模型基础
  • 动手学深度学习
  • 理论理解
  • 工程实践
  • 应用开发
  • AI For Everyone
  • AIGC_2024大会
  • AIGC_2025大会
  • Agentic AI
  • Transformer
  • PyTorch
  • HuggingFace
  • LangChain
  • 蒸馏
  • RAG
  • 目标检测
  • MCP
  • Cursor
  • 概念
  • 意图识别
  • 工具
  • 学习路线
  • PyTorch 资料
  • 公式学习
  • PyTorch 基础练习
✿导航
  • 人工智能
  • 神经网络
  • 机器学习
  • 深度学习
  • 强化学习
  • 自然语言处理
  • 计算机视觉
  • 数学基础
  • 大模型基础
  • 动手学深度学习
  • 理论理解
  • 工程实践
  • 应用开发
  • AI For Everyone
  • AIGC_2024大会
  • AIGC_2025大会
  • Agentic AI
  • Transformer
  • PyTorch
  • HuggingFace
  • LangChain
  • 蒸馏
  • RAG
  • 目标检测
  • MCP
  • Cursor
  • 概念
  • 意图识别
  • 工具
  • 学习路线
  • PyTorch 资料
  • 公式学习
  • PyTorch 基础练习
  • 意图识别

    • 应用 - 意图识别
    • 意图识别 - BERT 案例
    • 意图识别 - Chinese-BERT-wwm
    • 意图识别 - NER 标签
  • 工具

    • 工具 - AI代码生成率检测工具
    • 工具 - 契约测试
    • 工具 - MCP 基础
    • 工具 - MCP 基础(英文)
    • 工具 - LangChain 示例

命名实体识别

在命名实体识别(NER)任务中,'B-name' 和 'I-name' 是 序列标注标签,用于标记文本中的实体及其边界。它们的含义如下:

基本概念

  • B-name(Begin-name):

    • 表示一个实体的开始(第一个词或字)。
    • 例如:"张" 在 "张三" 中可能被标记为 B-PER(人名实体的开头)。
  • I-name(Inside-name):

    • 表示一个实体的中间或结尾部分(非首词或字)。
    • 例如:"三" 在 "张三" 中可能被标记为 I-PER(人名实体的后续部分)。
  • O(Outside):

    • 表示不属于任何实体的普通词或字。

标签格式

  • 通用格式为 [B/I]-[实体类型],其中 实体类型 可以是:
    • PER(人名)、LOC(地点)、ORG(组织)、TIME(时间)等。
  • 示例:
    • 句子:"马云在阿里巴巴工作"
    • 标签:["B-PER", "I-PER", "O", "B-ORG", "I-ORG", "O"]
      • "马云" → B-PER, I-PER
      • "阿里巴巴" → B-ORG, I-ORG
      • "在", "工作" → O

为什么需要 B/I 标签?

  • 解决多词实体:
    许多实体由多个词组成(如人名 "哈利·波特"),需要用 B 和 I 区分起始和后续部分。
  • 明确实体边界:
    避免模型将相邻的两个同名实体错误合并(如 "北京北京饭店" 中的 "北京" 和 "北京饭店" 是不同实体)。

在 NER 任务中的应用

  • 模型训练:
    序列标注模型(如 BERT-CRF)需要预测每个词/字的 B/I/O 标签。
  • 评估指标:
    使用 seqeval 等工具计算指标时,必须严格匹配 B/I 标签(仅当类型和边界都正确时才算预测正确)。

示例代码

from seqeval.metrics import classification_report

true_labels = [['B-PER', 'I-PER', 'O', 'B-ORG']]
pred_labels = [['B-PER', 'O', 'O', 'B-ORG']]

print(classification_report(true_labels, pred_labels))

输出会显示精确率、召回率等指标,并反映 B/I 标签的匹配情况。

最近更新: 2025/8/3 19:50
Contributors: klc407073648
Prev
意图识别 - Chinese-BERT-wwm