Başlangıç » Nedir » Enformasyon ve entropi arasındaki nasıl bir ilişki vardır?

Enformasyon ve entropi arasındaki nasıl bir ilişki vardır?

Posted by: Ne Nedir 29 Mart 2010 Yorum Yaz

Enformasyon ve entropi arasındaki nasıl bir ilişki vardır? Bilim
Enformasyon, belirsizliği azaltır (C. Shannon).
 
Enformasyon bizi değiştirir (G. Bateson)
 
Termodinamiğin ikinci yasasının yorumundan ortaya çıkan evrenin kaçınılmaz ölümü, hayat felsefemizi, ahlak anlayışımızı ve dünyaya bakış açımızı çok derinden etkilemiştir.
 
Enformasyon bir eylem için kullanıma hazır duruma geldiğinde “bilgi” ye dönüşür. Günlük kullanımda yararlı veya işe yarar bilgi ile eşdeğer tuttuğumuz enformasyonun anlamı fizikçi, iletişim uzmanı ve matematikçiler için biraz daha farklıdır. Bu insanlar, enformasyonun ölçülme, iletilme ve depolanma boyutlarıyla uğraşırlar. Şimdi kısa bir örnekle enformasyonun özelliklerini anlatmaya çalışalım. Patronumdan maaşıma zam yapmasını istediğimde; onun satışların zaten düştüğü, ülkenin ekonomik durumunun hiç de iyi olmadığı, önümüzdeki günlerin ne getireceğinin belli olmadığı biçiminde verdiği yanıtın, iletişim teorisine göre hiçbir enformasyon değeri yoktur. Çünkü patronum böyle uzatıp durduğu konuşmasıyla benim içinde bulunduğum belirsizliği ortadan kaldıramamıştır. Oysa iki seçenekli bir mesaj setinden (evet veya hayır) bir tanesini seçmesi halinde verilen mesajın, alıcı durumunda olan için bir bitlik bir enformasyon değeri olacaktı.
 
İletişim sürecinde, enformasyon mesajlar aracılığı ile iletilir. Mesajlar resim, sözcük, nota vb olabilir. Dr. Claude Shannon'un 1948'de hazırladığı “The Mathematical Theory of Communication” adlı kitabında anlatılan iletişim teorisi, entropi ve enformasyon kavramları arasında kurulan niceliksel (quantitative) ilişkiye dayandırılmaktadır. İlk bakışta termodinamikte sık sık geçen entropi kavramının iletişim teorisi ile ne ilişkisi olabilir diye bir soru aklınıza gelebilir. Hemen peşinen bu ilişkinin sezgisel değil tümüyle matematiksel kanıtlara dayandığını ve özellikle bilgi işlem, otomasyon ve yapay zeka vb. teknik uygulamalar için bugüne kadar çok büyük başarılara katkıda bulunduğunu söylemekte yarar var. Bu teori, tüm enformasyonun (mesajların anlamsal yönü hariç) açık/kapalı, evet/hayır veya I/0 gibi biçimlere dönüştürülebileceğini göstermektedir. Shannon'un teorisinde enformasyon belirsizlikle eşit tutulmaktadır. Biraz yanlış çağrışımlar yapsa da bu tespit doğrudur. Shannon'a göre enformasyon kaynağı istatistiksel özellikte mesaj (ileti) üreten bir kimse veya bir nesnedir. Bir konuşmacıyı ele alırsak, dinleyici (alıcı) için konuşma metnindeki her harf veya sözcük, verici tarafından, rastlantı sonucu veya gelişigüzel seçilmiştir. Oysa konuşmacı kullandığı her sözcüğü, bir yığından (kelime dağarcığı) seçmek ve konuşmacının daha önce yapmış seçimlerle (söyledikleriyle) ilişkili olmak durumundadır. Örneğin, kökeni öz Türkçe olan sözcüklerde ilk harf sessiz ise ikincisi sesli olmak durumundadır. Devlet büyüklerimizin Türkiye'de bir doğal afetten sonra felaket bölgesindeki yurttaşları ziyaret etmeleri ve onlara geçmiş olsun ve başsağlığı dileklerini götürmeleri alışılagelmiş bir olaydır. Afetzedelere “Devlet büyüktür. Felaketin açtığı yaralar sarılacaktır. Kimse aç ve açıkta kalmayacaktır” şeklinde hitap etmeleri enformasyon kaynağının istatistiksel özelliği (sembolleri veya sözcükleri serbestçe seçme) ile tam uyuşmamaktadır. Ancak yine de devlet büyüklerimizin afetzedelere ” Felaket, biz yöneticilerin basiretsizliğinden ve beceriksizliğinden bu boyutlara ulaştı. Sizden özür diliyoruz” biçiminde bir mesaj vermeleri çok uzak bir olasılıktır. Ancak hiçbir zaman “sıfır” değildir.
 
Termodinamik entropi, kap içinde bulunan moleküller aynı enerji seviyesinde ise, en yüksektir. Yani rastlantısallık gelişigüzellik en uç düzeydedir. Aynı şekilde enformasyon kaynağındaki mesajların seçilme (veya meydana gelme) olasılıkları eşit ise enformasyon kaynağının entropisi maksimumdur.
 
Havaya atılan bir metal paranın her iki yüzü de tura ise, paranın yere düştüğünde tura gelme olasılığı %100’dür. Belirsizlik ise sıfırdır. Yani paranın tura gelmesi bizde bir sürpriz etkisi oluşturmaz ve bizim için hiçbir enformasyon değeri yoktur. Bir şiirden öğrendiğimizi, işte bu yüzden, basmakalıp sözler ve deyimlerden öğrenemeyiz.
 
Sibernetikçiler, karar almanın hammaddesi sayılan “evet” ve “hayır” arasındaki farkı görebilmek için 10 tabanlı yerine 2 tabanlı logaritmayı kullanırlar.
 
Vericiden alıcıya gönderilen mesajlarda bozulma en çok olası, yani en sık rastlanan olgudur. Buna karşılık mesajların, değerini yitirmeden alıcıya ulaşması en düşük olasılığa sahiptir. Evrenin düzenliyi bozmaya yönelik entropik eğilimi iletişim sürecinde de geçerlidir. Shannon, iletilen mesajlarda, zamanla artan bu bozulmayı entropinin bir çeşidi (gürültü) olarak önermiştir.  Müşterinin talebinin (mesaj) üretici firmanın pazarlama, dizayn, planlama, satın alma, üretim ve son kontrol aşamalarından geçtikten sonra nasıl farklılaştığını gösteren bir karikatür anımsıyorum. Bu örnekte teslimatı yapılan malın müşterinin talebiyle hiç ilgisinin olmadığı anlatılır. Bir adet deve ve bir adet kuş sipariş eden müşteriye bunların yerine bir adet “devekuşu” yollanabilmesi, mesajın iletim esnasında gönderildiğinden daha tutarsız hale gelmesinden dolayıdır. Gürültü olmayan bir iletişim sisteminde kaynaktaki entropi ve iletişim süreci sonunda alıcıdaki entropi aynıdır. Yani istenilen mesajlar, hiçbir kesintiye ve bozulmaya uğramadan hedefe varmıştır. Ancak gürültüsüz olmayan bir iletişim sistemi mevcut değildir. Bu yüzden gürültünün kötü etkisinden kurtulmak için iletim kanallarının kapasitesi maksimum entropiye göre artırılır ve bu da vericiden gönderilen mesajlarda bir fazlalığa (redundancy) neden olur.
 
Askerlik yapanlar bilirler. Komutanlar verdikleri emri astlarına tekrarlatmaları gürültüye karşı aldıkları dolaylı bir önlemdir.
 
Kaynak: Tuğran Külahoğlu’nun “Termodinamik, Entropi ve İletişim Teorisi” yazısından derlenmiştir.
 
Kavram[lar]:
Enformasyon: Enformasyon; nesne, olay ve/ya kişilerle ilgili veri ve gerçeklerin işleme tabi tutulmuş bir formudur. Enformasyon, alıcı durumunda olan kişinin söz konusu sistem veya süreç hakkındaki bilgisini artırır ve içinde bulunduğu belirsizliği azaltır. Otobüs durağında yağmur altında bekleyenlerden birinin “yağmur yağıyor” şeklindeki iletisinin, aynı yağmurun altında bekleyen diğer insanlar için hiçbir enformasyon değeri yoktur.
 



2010-03-29

Bir Cevap Yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir