Контрастивная оценка шума — ПРОСТЫМИ СЛОВАМИ!

Оценка с шумовым контрастом — это функция потерь, позволяющая обучать представления путем сравнения пар положительных и отрицательных примеров. Она получила известность как обходной путь для аппроксимации функции softmax в обработке естественного языка, но сейчас широко используется в экспериментах по самообучению представлений. #самообучение #обучениепредставлениям #оценкас шумовым контрастом