И снова всем привет!
Это вторая часть обзора методов автоматического реферирования. На этот раз мы рассмотрим экстрактивные методы с учителем, то есть такие, которые требуют для своего обучения эталонные рефераты. Такие методы могут лишь выбирать, какие из предложений оригинального текста стоит включить в реферат, и не могут создавать полностью новые тексты. К методам этой группы и относятся рассматриваемые ниже SummaRuNNer и BertSumExt.
Статьи цикла:
1) Методы автоматического реферирования: постановка задачи и методы без учителя
2) Методы автоматического реферирования: экстрактивные методы ⬅️
Необходимые знания
Я не очень хочу здесь объяснять вещи, которые не связаны непосредственно с реферированием. При этом без них понять всё, что будет дальше, довольно затруднительно. Поэтому я приведу ссылки на другие источники, в которых эти вещи объясняются подробно.
Первое, что вам потребуется — понимание того, как обучать нейронные сети. То есть обратное распространение ошибки и различные модификации стохастического градиентного спуска.