Tbd veri Madenciliği Günü Neden Veri Madenciliği?



Yüklə 467 b.
tarix18.01.2018
ölçüsü467 b.


TBD Veri Madenciliği Günü


Neden Veri Madenciliği?

  • Veri patlaması veya seli: Otomatik veri toplama araçları, olgun veri tabanı ve bilgi teknolojileri, yaygın bilgi teknolojileri kullanımı, veri tabanları, veri anbarları ve diğer veri depolarında çok büyük miktarlarda veri ve bilgilerin toplanmasını sağlamakta ve veri miktarı sürekli artmaktadır.

      • Mağazalardaki satış/alış işlemleri
      • Banka ve Kredi kartı işlemleri
      • Bir çok sektördeki veri ve işlemler
      • Bilimsel veriler, uydu ve radarlardaki algılayıcılar gelen veriler
      • Web verileri
  • Bilgi sistemleri birçok açık olmayan ve geleneksel yöntemlerle anlaşılamayan bilgileri içermektedir.



Veri Madenciliği Nedir?

  • Veriler arasında boğuluyoruz, ancak gerçek bilgi için açlık çekiyoruz.

    • Data (Veri) Information (bilgi) Knowledge (bilgi) Wisdom (Bilgelik) Vision (uzgörüş)
  • Çözüm: Veri Madenciliği (Gereksinim buluşların temel nedenidir.)

  • Veri Madenciliği: verilerden üstü kapalı, çok net olmayan, önceden bilinmeyen ancak potansiyel olarak kullanışlı bilgi ve örüntülerin çıkarılması olarak tanımlanmaktadır.

  • Diğer eşdeğer isimler: Veri tabanlarında bilgi madenciliği (knowledge mining from databases), Bilgi çıkarımı (knowledge extraction), data/pattern anaysis (veri ve örüntü analizi), veri arkeolojisi, …



Birçok Disipilini İçeren Bir Alan



Veri Madenciliği (Bilgi Keşfi) Süreçi



CRISP-DM’e göre Veri Madenciliği Süreci



CRISP-DM Aşama ve Görevleri



Veri Madenciliği Yöntemleri

  • Genel olarak veri madenciliği yöntemleri iki sınıfa ayrılabilir:

    • Öngörü Yöntemleri (Prediction Methods)
      • Öngörü amacı ile var olan verilerden yorum çıkarılması
    • Tanımlayıcı Yöntemler (Description Methods)
      • Veriyi tanımlayan yorumlanabilir örüntülerin bulunması


Veri Madenciliği Yöntemleri



Sınıflandırma

  • Girdi: Kayıtlar kümesi (Öğrenme Kümesi )

    • Her bir kayıt özellikler (Attribute-Bir tablodaki sütunlar) içerir. Bu özelliklerden bir tanesi sınıftır (Class).
  • Diğer özelliklerden sınıf özelliğini öngörebilecek bir model fonksiyon geliştirilir.

  • Amaç: Yeni bir kayıt geldiğinde, bu kayıt geliştirilen model kullanılarak mümkün olduğunca doğru bir sınıfa atanır.

    • Bir deneme kümesi modelin doğruluğunu belirlemek için kullanılır. Genellikle verilen veri kümesi öğrenme ve deneme kümesi olarak ikiye ayrılır. Öğrenme kümesi modeli oluşturulmasında, deneme kümesi modelin doğrulanmasında kullanılır.


Sınıflandırma Süreci: (1) Model Oluştırma



Sınıflandırma Süreci: (2) Modelin Öngörü için kullanılması



Karar Ağacı

  • Karar Ağacı

    • Yaygın kullanılan öngörü yöntemlerinden bir tanesidir
    • Ağaçtaki her düğüm bir özellikteki testi gösterir.
    • Düğüm dalları testin sonucunu belirtir.
    • Ağaç yaprakları sınıf etiketlerini içerir.
  • Karar ağacı çıkarımı iki aşamadan oluşur

    • Ağaç inşası
      • Başlangıçta bütün öğrenme örnekleri kök düğümdedir.
      • Örnekler seçilmiş özelliklere tekrarlamalı olarak göre bölünür.
    • Ağaç Temizleme (Tree pruning)
      • Gürültü ve istisna kararları içeren dallar belirlenir ve kaldırılır.
  • Karar ağacı kullanımı: Yeni bilinmeyen örneğin sınıflandırılması

    • Bilinmeyen örneğin özellikleri karar ağacında test edilerek sınıfı bulunur.


Bir Kredi Kartı Kampanyasında Yeni Bir Örneğin Sınıflandırılması



Bayes Sınıflandırması

  • İstatistiksel bir sınıflandırıcıdır. Sınıf üyelik olasılıklarını öngörür.

  • İstatistikteki bayes teoremine dayanır.

  • Basit bir yöntemdir.



Basit Bayes Sınıflandırma Yöntemi

  • Girdi : Öğrenme seti

  • C1, C2, …, Cm adlı m sınıfımız olsun .

  • Sınıflandırma maksimum posteriori olasılığını bulmaya dayanır.

  • P(X) is bütün sınıflar için sabittir.

  • olasılığının maksimum değeri bulunmalıdır.

  • Yeni bir örnek X, maximum P(X|Ci)*P(Ci) değerine sahip olan sınıfa atanır.



Tenis oynama örneği: P(xi|C) değerlerinin bulunması



Tenis oynama örneği: Yeni X Örneğinin Sınıflandırılması

  • Yeni örnek X =

  • P(X|p)·P(p) = P(rain|p)·P(hot|p)·P(high|p)·P(false|p)·P(p) = 3/9·2/9·3/9·6/9·9/14 = 0.010582

  • P(X|n)·P(n) = P(rain|n)·P(hot|n)·P(high|n)·P(false|n)·P(n) = 2/5·2/5·4/5·2/5·5/14 = 0.018286

  • Örnek X’in sınıfı n (don’t play) olarak öngörülür.



Zaman Serisi Analizi



Eğri Uydurma (Regression)

  • Sürekli değişkenlerin öngörüsü regrasyon (eğri uydurma) olarak adlandırılan bir istatistiksel yöntemle tespit edilebilir.

  • Regresyon analizinin amacı değişik girdi değişkenlerini çıktı değişkeni ile ilişkilendirecek en iyi modelin çıkarılmasıdır.

  • Regresyon analizi bir Y değişkeninin diğer bir veya daha çok X1, X2, …, Xn değişkenleri ile ilişkisinin belirlenmesi sürecidir.

  • Y, yanıt çıktısı veya bağımlı değişken olarak adlandırılır. Xi değişkenleri girdi veya bağımsız değişkenler olarak adlandırılır.

  • Bir veri kümesindeki bulunan ilişki regrasyon denklemi (modeli) ile karakterize edilir.

  • En çok yaygın regrasyon modeli denklemi



Örnek: Lineer regrasyon (eğri uydurma)



Kümeleme (Demetleme)

  • Kümeleme, veriyi sınıflara veya kümelere ayırma işlemidir.

  • Birbirlerine benzeyen elemanlardan oluşan gruba küme denir.

  • Farklı kümelere ait elemanlar arasında benzerlik azdır.

  • Bir benzerlik ölçütü belirlenir. Değerler süreli ise öklid uzaklığıdır.

  • Kümeleme algoritmaları

  • kavramına dayanır.



Kümeleme örneği



K-Ortalama(Means) Kümeleme Yöntemi



Birliktelik Analizi (Association Analysis)

  • Birliktelik analizi büyük veri kümeleri arasında birliktelik ilişkilerini bulur. Market-Basket analizi ve işlem (transaction) veri analizi olarakta adlandırılır.

  • Birliktelik analizi, belirli bir veri kümesinde yüksek sıklıkta birlikte görülen özellik değerlerine ait ilişkisel kuralların keşfidir.

  • Sonuclar birliktelik kuralları (A B) olarak sunulur.

  • Birliktelik kurallarının kullanıldıgı en yaygın örnek market sepeti uygulamasıdır.

  • Market sepet analizi, müsterilerin yaptıkları alısverislerdeki ürünler arasındaki birliktelikleri bularak müsterilerin satın alma alıskanlıklarını belirlemeye çalışır .



Basket veri analizi



Marketlerde Birliktelik Kuralı Keşfi

  • Örnek



İstisna Analizi (Outlier Analizi)

  • Normal davranışlardan ve eğilimlerden çok farklı sapmaları belirlemede kullanılır.

  • Uygulamalar:

    • Kredi Kartı Yolsuzluğu Tesbiti
    • Ağ Saldırı (Intrusion) Tesbiti


Referans Kitaplar (kaynak: Han & Kamber)

  • S. Chakrabarti. Mining the Web: Statistical Analysis of Hypertex and Semi-Structured Data. Morgan Kaufmann, 2002

  • R. O. Duda, P. E. Hart, and D. G. Stork, Pattern Classification, 2ed., Wiley-Interscience, 2000

  • T. Dasu and T. Johnson. Exploratory Data Mining and Data Cleaning. John Wiley & Sons, 2003

  • U. M. Fayyad, G. Piatetsky-Shapiro, P. Smyth, and R. Uthurusamy. Advances in Knowledge Discovery and Data Mining. AAAI/MIT Press, 1996

  • U. Fayyad, G. Grinstein, and A. Wierse, Information Visualization in Data Mining and Knowledge Discovery, Morgan Kaufmann, 2001

  • J. Han and M. Kamber. Data Mining: Concepts and Techniques. Morgan Kaufmann, 2nd ed., 2006

  • D. J. Hand, H. Mannila, and P. Smyth, Principles of Data Mining, MIT Press, 2001

  • T. Hastie, R. Tibshirani, and J. Friedman, The Elements of Statistical Learning: Data Mining, Inference, and Prediction, Springer-Verlag, 2001

  • T. M. Mitchell, Machine Learning, McGraw Hill, 1997

  • G. Piatetsky-Shapiro and W. J. Frawley. Knowledge Discovery in Databases. AAAI/MIT Press, 1991

  • P.-N. Tan, M. Steinbach and V. Kumar, Introduction to Data Mining, Wiley, 2005

  • S. M. Weiss and N. Indurkhya, Predictive Data Mining, Morgan Kaufmann, 1998

  • I. H. Witten and E. Frank, Data Mining: Practical Machine Learning Tools and Techniques with Java Implementations, Morgan Kaufmann, 2nd ed. 2005



TBD Veri Madenciliği Günü

  • TEŞEKKÜRLER

  • http://www.akyokus.com/Presentations/




Dostları ilə paylaş:


Verilənlər bazası müəlliflik hüququ ilə müdafiə olunur ©muhaz.org 2017
rəhbərliyinə müraciət

    Ana səhifə