İçeriğe atla

Belge-terim matrisi

Kontrol Edilmiş
Vikipedi, özgür ansiklopedi

Belge-Terim Matrisi (DTM), bir belge koleksiyonundaki terimlerin (kelimelerin) geçiş sıklığını matematiksel olarak ifade eden bir matristir. Bu yapı, doğal dil işleme (NLP) ve bilgi erişimi (information retrieval) alanlarında temel bir kavram olarak kullanılır. DTM, belgeler ile terimler arasındaki ilişkiyi göstermek amacıyla oluşturulur. Bu matriste, her satır bir belgeyi, her sütun ise bir terimi temsil eder. Hücrelerdeki değerler ise, ilgili terimin o belgede kaç kez geçtiğini, yani frekansını (sıklığını) gösterir.[1]

Belge-Terim Matrisi (DTM) Tarihçesi

[değiştir | kaynağı değiştir]

Belge-Terim Matrisi (DTM), kökleri 1960’lı yıllara dayanan bilgi erişimi (information retrieval) alanının temel yapı taşlarından biridir. DTM’nin teorik altyapısı, vektör uzay modeli (Vector Space Model) ile ortaya çıkmıştır. Bu model, metinleri ve sorguları çok boyutlu vektörler olarak temsil etme fikrine dayanır ve ilk kez 1975 yılında Gerard Salton tarafından önerilmiştir.[2] Salton’un geliştirdiği bu yaklaşım, belgelerin içerdiği terimlere göre sayısal olarak temsil edilmesini mümkün kılarak, metinlerin karşılaştırılabilir ve işlenebilir hale gelmesini sağlamıştır. Vektör uzay modeli çerçevesinde geliştirilen DTM, her satırın bir belgeyi, her sütunun ise bir terimi temsil ettiği iki boyutlu bir matristir. Başlangıçta bilgi erişim sistemlerinde belgeler arasında benzerlik hesaplamak ve etkili arama sonuçları sunmak amacıyla kullanılan bu yapı, zamanla doğal dil işleme (NLP), makine öğrenmesi ve metin madenciliği gibi alanlarda da yaygın olarak kullanılmaya başlanmıştır. Günümüzde DTM; metin sınıflandırma, konu modelleme, duygu analizi ve otomatik özetleme gibi birçok uygulamada temel bir araç olarak kullanılmaktadır. Ayrıca TF-IDF gibi ağırlıklandırma tekniklerinin geliştirilmesiyle birlikte, DTM daha etkili hale getirilmiş ve belgeler arasındaki anlamsal ilişkileri daha doğru yansıtır bir yapıya ulaşmıştır.[3][4][5]

Belge-Terim Matrisi (DTM) Yapısı[6]

[değiştir | kaynağı değiştir]
  • Satırlar: Her satır, belge koleksiyonundaki bir belgeyi temsil eder.
  • Sütunlar: Her sütun, koleksiyonda yer alan bir terimi (kelime ya da kelime öbeğini) temsil eder.
  • Hücreler: Her hücre, ilgili terimin o satıra karşılık gelen belgede kaç kez geçtiğini yani frekansını (sıklığını) gösterir.

Bu yapı sayesinde, metin verileri sayısal bir matris formatında temsil edilerek, analiz ve makine öğrenmesi algoritmaları için uygun hale getirilir.

Belge-Terim Matrisi (DTM) Oluşturma Süreci[7]

[değiştir | kaynağı değiştir]

1. Veri Ön İşleme (Preprocessing)

[değiştir | kaynağı değiştir]

Ham metin verileri, analiz edilebilir ve sayısallaştırılabilir bir forma getirilmeden önce çeşitli temizlik ve dönüştürme işlemlerinden geçirilir. Bu adım, DTM’nin doğruluğunu ve analizlerdeki başarısını doğrudan etkiler.

  • Tokenization (Parçalama): Metin, anlamlı analiz birimlerine (kelimelere veya terimlere) bölünür. Örneğin bir cümle, boşluk veya noktalama işaretlerine göre kelimelere ayrılır.
  • Stopword Removal (Yaygın Kelimelerin Çıkarılması):"ve", "bir", "ile", "ama" gibi sık kullanılan ancak anlam taşımayan kelimeler çıkarılır. Bu işlem, veri setini sadeleştirir ve anlamlı terimlere odaklanmayı sağlar.
  • Stemming: Yüzeysel olarak kelimeleri kök haline indirger örneğin: kitaplar → kitap.
  • Lemmatization: Dil bilgisi kurallarına uygun şekilde doğru kelime kökünü bulur örneğin: koşuyor → koşmak.

2. Vektörleştirme (Vectorization)

[değiştir | kaynağı değiştir]

Ön işleme tamamlandıktan sonra, kelime verileri sayısal forma dönüştürülerek DTM yapısı oluşturulur. Bu aşamada, her belgenin içerdiği terimler ve bu terimlerin sıklıkları belirlenir. Farklı vektörleştirme yöntemleri kullanılabilir:

  • Frekans Temelli (Count):Her terimin ilgili belgede kaç kez geçtiği sayılır ve hücre değeri buna göre belirlenir.
  • Binary (İkili):Bir terim belgede varsa hücreye 1, yoksa 0 değeri yazılır. Bu yöntem, yalnızca varlık bilgisiyle ilgilenir.
  • TF-IDF (Term Frequency – Inverse Document Frequency):Terimin sadece bir belgede kaç kez geçtiği değil, aynı zamanda tüm belgeler arasındaki ayırt ediciliği de hesaba katılarak ağırlıklı bir değer atanır. Bu yöntem, metinlerdeki önemli terimlerin öne çıkarılmasını sağlar.

Belge-Terim Matrisi (DTM) Türleri

[değiştir | kaynağı değiştir]
  1. İkili DTM (Binary DTM): Bu tür DTM, belgede bir terimin varlığını veya yokluğunu temsil eder. Matrisin hücrelerinde yalnızca 0 ve 1 değerleri bulunur. Eğer belirli bir terim belgede geçiyorsa hücre değeri 1, geçmiyorsa 0 olarak kaydedilir. Bu yöntem, özellikle kelimenin sadece bulunup bulunmadığına odaklanılan analizlerde tercih edilir.[8]
  2. Ağırlıklı DTM (Weighted DTM): Bu tür DTM, bir terimin belgede ne kadar önemli veya ne kadar sık geçtiğini gösterir. Hücrelerdeki değerler, terimlerin belge içindeki frekansını ya da önem düzeyini yansıtır. Bu önem düzeyi; ham frekans, normalize edilmiş değerler veya TF-IDF (Term Frequency - Inverse Document Frequency) gibi çeşitli ağırlıklandırma yöntemleriyle hesaplanabilir. Ağırlıklı DTM, daha hassas ve içerik odaklı analizlerde kullanılır.[9]

Belge-Terim Matrisi (DTM) Kullanım Alanları

[değiştir | kaynağı değiştir]

Metin Sınıflandırma (Text Classification): DTM, makine öğrenmesi algoritmalarında belge içeriklerinin analiz edilerek önceden tanımlanmış kategorilere atanmasında kullanılır. Bu işlemde, belgelerden elde edilen terim frekansları, sınıflandırıcı algoritmalara girdi olarak sunulur. Böylece, her belgenin içeriğine göre hangi sınıfa ait olduğu belirlenebilir. Bu yöntem, denetimli öğrenme teknikleriyle birlikte sıklıkla kullanılmaktadır.[10]

Konu Modelleme (Topic Modeling): DTM, belge koleksiyonlarındaki örtük (gizli) temaların veya konuların keşfedilmesinde önemli rol oynar. Özellikle büyük veri setlerinde, belgeler arasında hangi kelime gruplarının sık tekrarlandığı analiz edilerek ortak temalar ortaya çıkarılır. Bu işlem, genellikle denetimsiz öğrenme algoritmalarıyla birlikte gerçekleştirilir ve belgelerin hangi konular etrafında gruplaştığı hakkında fikir verir.[11]

Bilgi Erişimi (Information Retrieval): DTM, belge ve sorgular arasındaki benzerlikleri ölçmek amacıyla kullanılır. Kullanıcının bir sorgu girmesi durumunda, sorgu içeriği ile belgelerdeki terimlerin frekansları karşılaştırılarak en uygun belgeler belirlenir. Bu sayede, büyük metin koleksiyonları içerisinde istenen bilgiye hızlı ve etkili bir şekilde ulaşmak mümkün hale gelir. DTM bu süreçte, belge ve sorguların vektör temsilleri üzerinden benzerlik hesaplamalarında temel yapı olarak görev alır.[12]

Belge-Terim Matrisi (DTM) Avantajları[13][14]

[değiştir | kaynağı değiştir]
  • Basit ve anlaşılır yapı: DTM, temel düzeyde metin verisini sayısallaştırmak için oldukça kolay ve doğrudan bir yöntem sunar.
  • Makine öğrenmesi algoritmalarına uyumlu: Sayısal matris yapısı sayesinde DTM, denetimli ve denetimsiz birçok makine öğrenmesi algoritmasıyla doğrudan kullanılabilir.
  • Yorumlanabilirlik: Matrisin her hücresi açık bir şekilde belirli bir kelimenin bir belgede ne kadar geçtiğini ifade ettiğinden, sonuçlar insan gözüyle de kolayca incelenebilir.
  • Yaygın kullanım ve araç desteği: Python, R, RapidMiner gibi platformlarda DTM oluşturmak için birçok hazır araç ve kütüphane bulunmaktadır (örneğin: CountVectorizer, TfidfVectorizer, tm paketi, vb.).
  • Özellik mühendisliği için temel oluşturur: Daha gelişmiş analizlerde (TF-IDF, LSA, LDA, Word2Vec gibi) kullanılmak üzere ilk adımdır.

Belge-Terim Matrisi (DTM) Sınırlılıkları[15][16]

[değiştir | kaynağı değiştir]
  • Anlamsal bağlamı göz ardı eder: DTM, kelimeleri bağımsız ögeler olarak değerlendirir ve aralarındaki bağlamı ya da anlam ilişkisini hesaba katmaz. Örneğin, "iyi değil" ve "kötü" ifadeleri farklı şekillerde temsil edilirken, anlam bakımından benzer oldukları dikkate alınmaz.
  • Sıralama ve yapısal bilgi kaybı: Cümledeki kelimelerin diziliş sırası, sözdizimsel ilişkiler ve dilbilgisel yapılar tamamen ihmal edilir. Bu durum, özellikle duygu analizi veya karmaşık anlamsal çıkarım gerektiren uygulamalarda sınırlayıcı olabilir.
  • Yüksek boyutluluk ve seyrek yapı (sparse matrix): Geniş belge koleksiyonlarında çok sayıda benzersiz kelime bulunur, bu da matrisin boyutunu ciddi şekilde artırır. Bu matrisin büyük kısmı sıfırlardan oluşur (seyrektir), bu da depolama ve işlem süresinde maliyet oluşturur.
  • Nesnel ölçüm eksikliği: Terimlerin metin içerisindeki konumu ya da bağlamdaki önem sıralaması dikkate alınmaz; sadece basit frekanslara dayalı bir yapı sunar.
  • Gürültüye açıklık: Ön işleme adımlarında yeterince filtreleme yapılmadığında, anlamsız veya nadir kullanılan kelimeler DTM’ye dahil olabilir ve bu da modelin performansını olumsuz etkileyebilir.

Belge-Terim Matrisi (DTM) ile Word Embedding Temsillerinin Karşılaştırılması[17][18][19]

[değiştir | kaynağı değiştir]

Doğal dil işleme alanında metinleri sayısal forma dönüştürmek için kullanılan iki temel yaklaşım vardır: Belge-Terim Matrisi (DTM) ve Word Embedding (Kelime Gömme) yöntemleri. Bu iki yöntem arasında hem yapısal hem de işlevsel farklar bulunur:[20]

Özellik Belge-Terim Matrisi (DTM) Word Embedding (Word2Vec, GloVe, FastText)
Temsil Türü Sıklık temelli (count, binary, TF-IDF) Dağıtımsal temelli, sürekli (dense) vektörler
Anlamsal Bilgi Kelimeler bağımsızdır, anlam ilişkisi içermez Benzer anlamlı kelimeler vektör uzayında birbirine yakın konumlanır
Boyut Çok yüksek boyutlu ve seyrek (sparse) Düşük boyutlu ve yoğun (dense)
Bağlam Bilgisi Yoktur (kelimelerin sırası ve çevresi dikkate alınmaz) Bağlamı dikkate alabilir (özellikle BERT gibi modellerde)
Eğitim Gereksinimi Eğitim gerekmez, doğrudan metinden elde edilir Gömme vektörlerinin önceden eğitilmesi gerekir
Yorumlanabilirlik Kolay yorumlanabilir (her sütun bir kelimeye karşılık gelir) Vektör bileşenlerinin anlamı doğrudan gözlemlenemez
Kullanım Alanları Basit metin sınıflandırma, konu modelleme Anlam benzerliği, ilişki çıkarımı, gelişmiş NLP görevleri
  • DTM, metni yalnızca frekanslar üzerinden sayısallaştırır. Avantajı basitliği ve yorumlanabilirliğidir; ancak anlamsal derinlikten yoksundur.
  • Word Embedding yöntemleri ise kelimeleri çok boyutlu anlam uzayında konumlandırarak "kraliçe - kadın + erkek = kral" gibi anlamsal çıkarımlar yapmayı mümkün kılar.
  • Gelişmiş görevler için artık genellikle embedding temelli yöntemler tercih edilse de, DTM hâlâ konu modelleme, TF-IDF analizleri ve temel sınıflandırma görevlerinde kullanılmaya devam etmektedir.

Kaynakça

[değiştir | kaynağı değiştir]
  1. ^ Flor, Nick V. (9 Mart 2020). "Research Notes: Data Structures for Social Media Machine Learning — The Tweet Term Matrix (TTM) and Tweet Bio-Term Matrix (TBTM)". doi.org. 16 Mart 2020 tarihinde kaynağından arşivlendi. Erişim tarihi: 10 Nisan 2025. 
  2. ^ Salton, G.; Wong, A.; Yang, C. S. (Kasım 1975). "A vector space model for automatic indexing". Communications of the ACM. 18 (11): 613-620. doi:10.1145/361219.361220. ISSN 0001-0782. 
  3. ^ Klampanos, Iraklis A. (2 Haziran 2009). "Manning Christopher, Prabhakar Raghavan, Hinrich Schütze: Introduction to information retrieval". Information Retrieval. 12 (5): 609-612. doi:10.1007/s10791-009-9096-x. ISSN 1386-4564. 
  4. ^ "Speech and Language Processing". web.stanford.edu. 16 Haziran 2015 tarihinde kaynağından arşivlendi. Erişim tarihi: 10 Nisan 2025. 
  5. ^ Robinson, David; Silge, Julia (14 Haziran 2019). "tidytext: Text Mining using 'dplyr', 'ggplot2', and Other Tidy Tools". CRAN: Contributed Packages. Erişim tarihi: 10 Nisan 2025. 
  6. ^ Benchimol, Jonathan; Kazinnik, Sophia; Saadon, Yossi (Haziran 2022). "Text mining methodologies with R: An application to central bank texts". Machine Learning with Applications. 8: 100286. doi:10.1016/j.mlwa.2022.100286. ISSN 2666-8270. 
  7. ^ Aggarwal, Charu C.; Zhai, ChengXiang (2012), A Survey of Text Classification Algorithms, Springer US, ss. 163-222, erişim tarihi: 11 Nisan 2025 
  8. ^ Ailem, Melissa; Role, François; Nadif, Mohamed (17 Ekim 2015). "Co-clustering Document-term Matrices by Direct Maximization of Graph Modularity". Proceedings of the 24th ACM International on Conference on Information and Knowledge Management. New York, NY, USA: ACM. doi:10.1145/2806416.2806639. 
  9. ^ Bin Raies, Arwa; Mansour, Hicham; Incitti, Roberto; Bajic, Vladimir B. (16 Ekim 2013). "Combining Position Weight Matrices and Document-Term Matrix for Efficient Extraction of Associations of Methylated Genes and Diseases from Free Text". PLoS ONE. 8 (10): e77848. doi:10.1371/journal.pone.0077848. ISSN 1932-6203. 
  10. ^ Harish, B. S.; Guru, D. S.; Manjunath, S.; Dinesh, R. (2010), Cluster Based Symbolic Representation and Feature Selection for Text Classification, Springer Berlin Heidelberg, ss. 158-166, erişim tarihi: 11 Nisan 2025 
  11. ^ Belford, Mark; Mac Namee, Brian; Greene, Derek (Ocak 2018). "Stability of topic modeling via matrix factorization". Expert Systems with Applications. 91: 159-169. doi:10.1016/j.eswa.2017.08.047. ISSN 0957-4174. 
  12. ^ Berry, Michael W.; Drmac, Zlatko; Jessup, Elizabeth R. (Ocak 1999). "Matrices, Vector Spaces, and Information Retrieval". SIAM Review. 41 (2): 335-362. doi:10.1137/s0036144598347035. ISSN 0036-1445. 
  13. ^ Klampanos, Iraklis A. (2 Haziran 2009). "Manning Christopher, Prabhakar Raghavan, Hinrich Schütze: Introduction to information retrieval". Information Retrieval. 12 (5): 609-612. doi:10.1007/s10791-009-9096-x. ISSN 1386-4564. 
  14. ^ Keselj, Vlado (Eylül 2009). "Speech and Language Processing (second edition) Daniel Jurafsky and James H. Martin (Stanford University and University of Colorado at Boulder) Pearson Prentice Hall, 2009, xxxi+988 pp; hardbound, ISBN 978-0-13-187321-6, $115.00". Computational Linguistics. 35 (3): 463-466. doi:10.1162/coli.b09-001. ISSN 0891-2017. 
  15. ^ Lakshmi, R.; Baskar, S. (2021). "Efficient text document clustering with new similarity measures". International Journal of Business Intelligence and Data Mining. 18 (1): 49. doi:10.1504/ijbidm.2021.111741. ISSN 1743-8187. 
  16. ^ Turney, P. D.; Pantel, P. (27 Şubat 2010). "From Frequency to Meaning: Vector Space Models of Semantics". Journal of Artificial Intelligence Research. 37: 141-188. doi:10.1613/jair.2934. ISSN 1076-9757. 
  17. ^ Mouselimis, Lampros (14 Mayıs 2021). "fastText: Efficient Learning of Word Representations and Sentence Classification". CRAN: Contributed Packages. Erişim tarihi: 11 Nisan 2025. 
  18. ^ Pennington, Jeffrey; Socher, Richard; Manning, Christopher (2014). "Glove: Global Vectors for Word Representation". Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP). Stroudsburg, PA, USA: Association for Computational Linguistics. doi:10.3115/v1/d14-1162. 
  19. ^ Sienicki, Krzysztof (2 Aralık 2024). "Comment on the Paper Titled 'The Origin of Quantum Mechanical Statistics: Insights from Research on Human Language' (arXiv preprint arXiv:2407.14924, 2024)". doi.org. Erişim tarihi: 11 Nisan 2025. 
  20. ^ Word embedding (İngilizce), 30 Mart 2025, erişim tarihi: 11 Nisan 2025 
"https://tr.wikipedia.org/w/index.php?title=Belge-terim_matrisi&oldid=35211274" sayfasından alınmıştır