Home›Browse›标记化🌐中文EnglishBahasa IndonesiaDeutschFrançaisSvenskaРусский中文日本語EntityQ2438971· pop 5标记化Sign in to saveAlso known as tokenisation将文本流分块以便分析和后续处理Wikidata factsSubclass ofinformation processingShow 1 more factfacet ofcompiler constructionvia Wikidata · CC0Available in 4 languagesDeutschРусскийBahasa Indonesiavia Wikidata sitelinks · CC0