Swap and Predict – Predicting the Semantic Changes in Words across Corpora by Context Swapping | CiNii Research 検索 タイトル 人物/団体名 著者ID/研究者番号 所属機関 ISSN DOI 期間 〜 本文リンク 本文リンクあり データソース JaLC IRDB Crossref DataCite NDLサーチ NDLデジコレ（旧NII-ELS） RUDA JDCat NINJAL CiNii Articles CiNii Books NACSIS-CAT/ILL DBpedia KAKEN e-Rad Integbio PubMed LSDB Archive 極地研ADS 極地研学術DB OpenAIRE 公共データカタログ すべて 研究データ 論文 本 博士論文 プロジェクト 人物 > 人物検索機能について 詳細検索 閉じる CiNii Researchナレッジグラフ検索機能（試行版）をCiNii Labsにて公開しました 「研究データ」「根拠データ」の収録について CiNii Books機能統合対応の追加実施をいたしました Swap and Predict – Predicting the Semantic Changes in Words across Corpora by Context Swapping DOI DOI 研究データあり 被引用文献1件 参考文献1件 オープンアクセス Taichi Aida Danushka Bollegala 書誌事項 公開日 2023 DOI 10.18653/v1/2023.findings-emnlp.520 10.48550/arxiv.2310.10397 公開者 Association for Computational Linguistics 説明 Meanings of words change over time and across domains. Detecting the semantic changes of words is an important task for various NLP applications that must make time-sensitive predictions. We consider the problem of predicting whether a given target word, $w$, changes its meaning between two different text corpora, $\mathcal{C}_1$ and $\mathcal{C}_2$. For this purpose, we propose $\textit{Swapping-based Semantic Change Detection}$ (SSCD), an unsupervised method that randomly swaps contexts between $\mathcal{C}_1$ and $\mathcal{C}_2$ where $w$ occurs. We then look at the distribution of contextualised word embeddings of $w$, obtained from a pretrained masked language model (MLM), representing the meaning of $w$ in its occurrence contexts in $\mathcal{C}_1$ and $\mathcal{C}_2$. Intuitively, if the meaning of $w$ does not change between $\mathcal{C}_1$ and $\mathcal{C}_2$, we would expect the distributions of contextualised word embeddings of $w$ to remain the same before and after this random swapping process. Despite its simplicity, we demonstrate that even by using pretrained MLMs without any fine-tuning, our proposed context swapping method accurately predicts the semantic changes of words in four languages (English, German, Swedish, and Latin) and across different time spans (over 50 years and about five years). Moreover, our method achieves significant performance improvements compared to strong baselines for the English semantic change prediction task. Source code is available at https://github.com/a1da4/svp-swap . もっと見る Tweet キーワード FOS: Computer and information sciences Computer Science - Computation and Language Computation and Language (cs.CL) 詳細情報 詳細情報について CRID 1360869864172886528 DOI 10.18653/v1/2023.findings-emnlp.520 10.48550/arxiv.2310.10397 データソース種別 Crossref OpenAIRE 書き出し RefWorksに書き出し EndNoteに書き出し Mendeleyに書き出し RDFで書き出し Refer/BibIXで表示 RISで表示 BibTeXで表示 TSVで表示 CSVで表示 JSON-LDで表示 問題の指摘 論文情報の修正 その他 ページトップへ 現時点での人物検索の対象は、科研費報告書やresearchmapの記載に基づき研究者番号が推定された研究者等約30万人です。 ※詳しい説明はこちら