Tümevarımlı mantık programlama

Tümevarımlı mantık programlama (TMP) bilginin mantık programlama ile ifade edildiği bir makine öğrenmesi yöntemidir. Mantıksal olgulardan oluşan artalan bilgisi ve gözlemler kümesini içeren bir veritabanı verildiğinde, ILP sistemi tüm olumlu gözlemleri gerektiren ve olumsuz gözlemlerin hiçbirini gerektirmeyen bir hipotez üretir.

• Çerçeve: olumlu gözlemler + olumsuz gözlemler + artalan bilgisi ⇒ hipotez.

Tümevarımlı mantık programlama özellikle biyoenformatik ve doğal dil işleme konularında kullanışlıdır. Gordon Plotkin ve Ehud Shapiro mantık çerçevesiyle tümevarımlı makine öğreniminin ilk kuramsal temellerini oluşturmuşlardır. Shapiro bunun ilk gerçeklemesini (Model Çıkarsama sistemi) 1981'de yapmıştır: olumlu ve olumsuz gözlemlerden tümevarımlı olarak mantık programları çıkarsayan bir Prolog programı. Tümevarımlı Mantık Programlama terimininilk kullanımı Stephen Muggleton'ın 1991 tarihli bir bildirisinde yapılmıştır. Ayrıca her sene yapılan Inductive Logic Programming konferansının kurucusu olan Muggleton, yüklem türetme, ters çözümleme, ve ters gerektirme kavramlarının fikir babasıdır. Muggleton ters gerektirmeyi ilk olarak PROGOL sisteminde gerçekleştirmiştir. Buradaki "tümevarım" kavramı matematiksel (bir özelliğin bir kümedeki her eleman için ispatlanması gibi) olmaktan çok felsefi (gözlemlenen olguları açıklayan bir kuram ortaya koymak gibi) bir tümevarımdır.

Biçimsel tanım

Bir mantıksal kuram olarak verilen artalan bilgisi $B$, genellikle mantık programlamada kullanılan Horn cümleleri şeklindedir. Gözetimli öğrenme için kullanılan olumlu ve olumsuz örnekler $E^{+}$ ve $E^{-}$, temel ifadeler olarak verilir. Aşağıdaki gereklilikleri sağlayan bir mantıksal önermeye bir doğru hipotez $h$ denir. $\begin{array}{cccc}\text{Zorunluluk:}& B& \models ̸& E^{+}\\ \text{Yeterlilik:}& B\wedge h& \models & E^{+}\\ \text{Zayıf tutarlılık:}& B\wedge h& \models ̸& \text{yanlış}\\ \text{Güçlü tutarlılık:}& B\wedge h\wedge E^{-}& \models ̸& \text{yanlış}\end{array}$ "Zorunluluk" hipotez h üzerinde herhangi bir kısıtlama yapmaz, ancak olumlu örnekler bir hipotez olmadan açıklanabilir olduğu sürece yeni bir hipotez oluşturulmasını engeller. "Yeterlilik" oluşturulan herhangi bir $h$ hipotezinin tüm olumlu örnekleri ($E^{+}$) açıklamasını gerektirir. "Zayıf tutarlılık" artalan bilgisi $B$ ile çelişen bir hipotez $h$ oluşturulmasını yasaklar. "Güçlü tutarlılık" ayrıca artalan bilgisi $B$ ve olumsuz örnekler $E^{-}$ ile çelişen bir hipotez $h$ oluşturulmasını yasaklar; Zayıf tutarlılık'ı gerektirir; eğer hiç olumsuz örnek verilmemişse bu iki gereklilik aynıdır. Džeroski yalnızca Yeterlilik ("Bütünlük" olarak adlandırır) ve Güçlü tutarlılık'ı gerekli tutar.