Извлечение отношений
Извлечение отношений — важная задача в области обработки естественного языка (NLP), целью которой является выявление семантических отношений между сущностями из неструктурированного текста. Проще говоря, это выяснение того, какое «отношение» существует между «кто» и «кем» в предложении.
Ключевые элементы извлечения отношений
- Распознавание сущностей: Сначала необходимо идентифицировать именованные сущности в тексте
- Классификация отношений: Затем определить, какой тип отношения существует между этими сущностями
- Представление отношений: Наконец, представить эти отношения в структурированной форме
Сценарии применения
- Построение графа знаний
- Интеллектуальные вопросно-ответные системы
- Информационный поиск
- Анализ событий
- Интеллектуальный анализ биомедицинской литературы
Основные методы извлечения отношений
1. Методы, основанные на правилах
Пример
# Пример: простое сопоставление по правилам
import re
text = "Jack Ma founded Alibaba"
pattern = r"(.+?) founded (.+?)"
match = re.search(pattern, text)
if match:
print(f"Основатель: {match.group(1)}, Компания: {match.group(2)}")
import re
text = "Jack Ma founded Alibaba"
pattern = r"(.+?) founded (.+?)"
match = re.search(pattern, text)
if match:
print(f"Основатель: {match.group(1)}, Компания: {match.group(2)}")
Плюсы и минусы
- Преимущества: простая реализация, высокая точность
- Недостатки: ограниченное покрытие, сложно обрабатывать сложные структуры предложений
2. Методы обучения с учителем
Используйте размеченные данные для обучения модели; распространённые алгоритмы включают:
- Машина опорных векторов (SVM)
- Условное случайное поле (CRF)
- Модели глубокого обучения
Пример
# Пример: извлечение отношений с помощью spaCy
import spacy
nlp = spacy.load("en_core_web_sm")
text = "Apple была основана Стивом Джобсом в 1976 году."
doc = nlp(text)
for ent in doc.ents:
print(ent.text, ent.label_)
import spacy
nlp = spacy.load("en_core_web_sm")
text = "Apple была основана Стивом Джобсом в 1976 году."
doc = nlp(text)
for ent in doc.ents:
print(ent.text, ent.label_)
3. Методы полуконтролируемого / дистанционного обучения
- Использовать небольшой объём размеченных данных и большой объём неразмеченных данных
- Дистанционное обучение: использовать базы знаний для автоматической генерации обучающих данных
4. Методы на основе предварительно обученных языковых моделей
- BERT
- GPT
- RoBERTa
Пример
# Пример: использование HuggingFace Transformers
from transformers import pipeline
classifier = pipeline("text-classification", model="bert-base-uncased")
result = classifier("Джек Ма — основатель Alibaba")
print(result)
from transformers import pipeline
classifier = pipeline("text-classification", model="bert-base-uncased")
result = classifier("Джек Ма — основатель Alibaba")
print(result)
Ключевые технологии извлечения отношений
Распознавание сущностей
- Распознавание именованных сущностей (NER)
- Связывание сущностей
Классификация отношений
- Бинарное отношение
- n-арное отношение
- Иерархия отношений
Метрики оценки
| Метрика | Описание |
|---|---|
| Precision | Доля правильно предсказанных отношений среди всех предсказанных отношений |
| Полнота | Доля правильно предсказанных отношений среди всех истинных отношений |
| Оценка F1 | Среднее гармоническое точности и полноты |
Проблемы извлечения отношений
- Лингвистическое разнообразие: одно и то же отношение может быть выражено несколькими способами
- Неоднозначность сущностей: одна и та же сущность может иметь разные значения в разных контекстах
- Дистантная зависимость: Связанные сущности могут находиться далеко друг от друга
- Разреженность данных: Размеченных данных для определённых типов отношений недостаточно
- Адаптация к предметной области: Способность модели обобщать на разные предметные области
Практический пример: построение простой системы извлечения отношений
Шаг 1: Подготовка данных
Пример
# Пример набора данных
data = [
{"text": "Билл Гейтс — основатель Microsoft", "relations": [{"head": "Билл Гейтс", "tail": "Microsoft", "type": "Основатель"}]},
{"text": "Пекин — столица Китая", "relations": [{"head": "Пекин", "tail": "Китай", "type": "Столица"}]}
]
data = [
{"text": "Билл Гейтс — основатель Microsoft", "relations": [{"head": "Билл Гейтс", "tail": "Microsoft", "type": "Основатель"}]},
{"text": "Пекин — столица Китая", "relations": [{"head": "Пекин", "tail": "Китай", "type": "Столица"}]}
]
Шаг 2: Разработка признаков
Пример
from sklearn.feature_extraction.text import TfidfVectorizer
texts = [d["text"] for d in data]
vectorizer = TfidfVectorizer()
X = vectorizer.fit_transform(texts)
texts = [d["text"] for d in data]
vectorizer = TfidfVectorizer()
X = vectorizer.fit_transform(texts)
Шаг 3: Обучение модели
Пример
from sklearn.svm import SVC
# Упрощённый пример; на практике требуется более сложная обработка меток
y = [d["relations"][0]["type"] for d in data]
model = SVC()
model.fit(X, y)
# Упрощённый пример; на практике требуется более сложная обработка меток
y = [d["relations"][0]["type"] for d in data]
model = SVC()
model.fit(X, y)
Шаг 4: Применение предсказания
Пример
test_text = "Стив Джобс основал Apple"
test_vec = vectorizer.transform([test_text])
prediction = model.predict(test_vec)
print(f"Предсказанное отношение: {prediction)
test_vec = vectorizer.transform([test_text])
prediction = model.predict(test_vec)
print(f"Предсказанное отношение: {prediction)