Explain tokenization in NLP.
Example:
In the sentence 'The quick brown fox jumps over the lazy dog,' tokenization would result in individual tokens: ['The', 'quick', 'brown', 'fox', 'jumps', 'over', 'the', 'lazy', 'dog'].
Simpan untuk Revisi
Simpan untuk Revisi
Bookmark item ini, tandai sebagai sulit, atau masukkan ke dalam set revisi.
Masuk untuk menyimpan bookmark, pertanyaan sulit, dan set revisi.