📡 İnternetin Atası, Bell Laboratuvarlarında Yazılmış Bir Makaleydi — Claude Shannon'ın 1948 Devrimi
Şu kişiden alıntılanmıştır: StarKiller66 tarhinde Eylül 18, 2026, 2:44 pmBugün bu yazıyı okuyorsanız — telefonunuzda, tarayıcınızda, bir sunucudan geçen veriyle — bunun hepsi tek bir matematiksel fikrin üzerinde duruyor. O fikir 1948'de, Bell Laboratuvarları'nda çalışan bir mühendisin kaleminden çıktı: Claude Elwood Shannon.
"A Mathematical Theory of Communication"
Shannon'ın Temmuz ve Ekim 1948'de Bell System Technical Journal'da iki bölüm halinde yayımladığı makale, bugün bilgi teorisinin kurucu metni. Sorduğu soru sade ama devrimciydi:
"Bir mesaj, bir kanaldan en verimli ve hatasız nasıl iletilebilir?"
Bunun için Shannon, "bilgi" kavramını ilk kez ölçülebilir hale getirdi. Anlamına bakmadan, yalnızca belirsizliğin azalmasıyla ilgilenerek:
• Bir yazı tura atma = 1 bit belirsizlik.
• Bir madeni paranın "yazı" mı "tura" mı geldiğini öğrenmek, belirsizliği 1 bit azaltır.
• Her mesaj, alıcıdaki belirsizliği ne kadar azaltıyorsa, o kadar "bilgi" taşır.Bu soyutlama devrimseldi: bilgide anlam yoktu, sadece istatistik vardı. Ve tam da bu yüzden her şey taşıyabilirdi: ses, resim, metin, DNA — hepsi aynı matematiğin konusu oldu.
Entropi: Bilginin termodinamik kuzeni
Shannon'ın belirsizlik ölçüsüne entropi adını vermesi ilginç bir hikâye. Von Neumann'a danıştığında aldığı cevap (anekdot olarak aktarılır) şöyle:
"Entropi de. ... Kimse entropinin ne olduğunu gerçekten bilmiyor, yani tartışmada avantajlı olursun."
Formülü termodinamikteki Boltzmann entropisiyle aynı yapıda. Bu tesadüf değil — ikisi de "mikro durumların olasılık dağılımının" bir ölçüsü. Fizikte sistemin düzensizliğini, Shannon'da ise mesajın belirsizliğini sayıyor.
Shannon'ın iki büyük teoremi
Makalenin en şaşırtıcı sonuçları, kodlama teoremleri:
1) Kayıpsız sıkıştırma limiti: Herhangi bir kaynağın verisi, entropisinin altına sıkıştırılamaz — ve bu limite ulaşan kodlama yöntemleri (bugün ZIP, PNG, video kodeklerinin temeli) matematiğinin içinde şimdiden var. Yani "ne kadar sıkıştırabiliriz?" sorusunun kesin ve kanıtlı bir tavanı var.
2) Kanal kapasitesi: Gürültülü bir kanalda bile, iletim hızı kanalın kapasitesinin altında kaldığı sürece hata oranı istediğimiz kadar düşük olabilir. Bu bulgu, Wi-Fi, 5G, uydu iletişimi ve derin uzay haberleşmesinin teorik zeminini attı. "Gürültü varsa iletişim bozulur" sezgisi, matematiksel olarak yanlış — sadece yeterince akıllı kodlar gerekli.Sadece teorici değildi: Bilgisayar satrancı ve oynayan fare
Shannon aynı zamanda pratik bir mucitti:
• 1950'de "Programming a Computer for Playing Chess" makalesiyle bilgisayar satrancının temellerini attı. Bugün hâlâ kullanılan "çok hamlelik aramayla değerlendirme" mimarisinin öncüsüydü.
• Theseus adında bir manyetik fare yaptı: labirentteki yolu öğrenip hatırlayan ve sonraki turda aynı yolu daha hızlı çıkan bir makine — o zamanlar makine öğrenmesinin somut, şaşırtıcı bir kanıtıydı.
• Bir de ünlü juggling (hokkabazlık) robotu var; ve MIT'de mezuniyet konuşması için juggling yapmayı öğrenmesi onun eksantrik yanını gösterir.Shannon'ın mirasını ölçmek
Bilgi teorisi olmadan şunlar olmazdı:
• Tüm modern kodekler (MP3, JPEG, H.264/AV1) — sıkıştırma teoremi üzerine kuruludur.
• Tüm modern hata düzeltme kodları (Reed-Solomon, LDPC, Turbo) — kanal kapasitesi teoremine yanıt olarak geliştirildi.
• Makine öğrenmesinde cross-entropy loss — adı bile Shannon'ın entropisinden.
• DNA dizileme ve biyoinformatik dizilerin analizleri.Kaynaklar:
1) Shannon, C.E. (1948). "A Mathematical Theory of Communication." Bell System Technical Journal, 27, 379-423 ve 623-656.
2) Shannon, C.E. (1950). "Programming a Computer for Playing Chess." Philosophical Magazine, 41(314).
3) Gleick, J. (2011). "The Information: A History, a Theory, a Flood." (Shannon'ın hayatı ve etkisi için en iyi popüler kaynak)
4) Verdu, S. (1998). "Fifty Years of Shannon Theory." IEEE Transactions on Information Theory, 44(6).Kısaca
Shannon'ın 1948 makalesi, Einstein'ın 1905 yılına benzer bir an: tek bir yazı, bir alanın tamamını doğurdu. Bugün "bilgi çağı" dediğimiz şeyin matematiksel çekirdeği, iki bölümlük bir makalede şimdiden tamamlanmıştı. Bilimin en güzel anlarından biri.
İlk kez duyuyorsanız hangi kısım sizi en çok şaşırttı? "Bilgi"nin anlamdan bağımsız ölçülebilmesi size tuhaf mı geliyor? 👇
Bugün bu yazıyı okuyorsanız — telefonunuzda, tarayıcınızda, bir sunucudan geçen veriyle — bunun hepsi tek bir matematiksel fikrin üzerinde duruyor. O fikir 1948'de, Bell Laboratuvarları'nda çalışan bir mühendisin kaleminden çıktı: Claude Elwood Shannon.
"A Mathematical Theory of Communication"
Shannon'ın Temmuz ve Ekim 1948'de Bell System Technical Journal'da iki bölüm halinde yayımladığı makale, bugün bilgi teorisinin kurucu metni. Sorduğu soru sade ama devrimciydi:
"Bir mesaj, bir kanaldan en verimli ve hatasız nasıl iletilebilir?"
Bunun için Shannon, "bilgi" kavramını ilk kez ölçülebilir hale getirdi. Anlamına bakmadan, yalnızca belirsizliğin azalmasıyla ilgilenerek:
• Bir yazı tura atma = 1 bit belirsizlik.
• Bir madeni paranın "yazı" mı "tura" mı geldiğini öğrenmek, belirsizliği 1 bit azaltır.
• Her mesaj, alıcıdaki belirsizliği ne kadar azaltıyorsa, o kadar "bilgi" taşır.
Bu soyutlama devrimseldi: bilgide anlam yoktu, sadece istatistik vardı. Ve tam da bu yüzden her şey taşıyabilirdi: ses, resim, metin, DNA — hepsi aynı matematiğin konusu oldu.
Entropi: Bilginin termodinamik kuzeni
Shannon'ın belirsizlik ölçüsüne entropi adını vermesi ilginç bir hikâye. Von Neumann'a danıştığında aldığı cevap (anekdot olarak aktarılır) şöyle:
"Entropi de. ... Kimse entropinin ne olduğunu gerçekten bilmiyor, yani tartışmada avantajlı olursun."
Formülü termodinamikteki Boltzmann entropisiyle aynı yapıda. Bu tesadüf değil — ikisi de "mikro durumların olasılık dağılımının" bir ölçüsü. Fizikte sistemin düzensizliğini, Shannon'da ise mesajın belirsizliğini sayıyor.
Shannon'ın iki büyük teoremi
Makalenin en şaşırtıcı sonuçları, kodlama teoremleri:
1) Kayıpsız sıkıştırma limiti: Herhangi bir kaynağın verisi, entropisinin altına sıkıştırılamaz — ve bu limite ulaşan kodlama yöntemleri (bugün ZIP, PNG, video kodeklerinin temeli) matematiğinin içinde şimdiden var. Yani "ne kadar sıkıştırabiliriz?" sorusunun kesin ve kanıtlı bir tavanı var.
2) Kanal kapasitesi: Gürültülü bir kanalda bile, iletim hızı kanalın kapasitesinin altında kaldığı sürece hata oranı istediğimiz kadar düşük olabilir. Bu bulgu, Wi-Fi, 5G, uydu iletişimi ve derin uzay haberleşmesinin teorik zeminini attı. "Gürültü varsa iletişim bozulur" sezgisi, matematiksel olarak yanlış — sadece yeterince akıllı kodlar gerekli.
Sadece teorici değildi: Bilgisayar satrancı ve oynayan fare
Shannon aynı zamanda pratik bir mucitti:
• 1950'de "Programming a Computer for Playing Chess" makalesiyle bilgisayar satrancının temellerini attı. Bugün hâlâ kullanılan "çok hamlelik aramayla değerlendirme" mimarisinin öncüsüydü.
• Theseus adında bir manyetik fare yaptı: labirentteki yolu öğrenip hatırlayan ve sonraki turda aynı yolu daha hızlı çıkan bir makine — o zamanlar makine öğrenmesinin somut, şaşırtıcı bir kanıtıydı.
• Bir de ünlü juggling (hokkabazlık) robotu var; ve MIT'de mezuniyet konuşması için juggling yapmayı öğrenmesi onun eksantrik yanını gösterir.
Shannon'ın mirasını ölçmek
Bilgi teorisi olmadan şunlar olmazdı:
• Tüm modern kodekler (MP3, JPEG, H.264/AV1) — sıkıştırma teoremi üzerine kuruludur.
• Tüm modern hata düzeltme kodları (Reed-Solomon, LDPC, Turbo) — kanal kapasitesi teoremine yanıt olarak geliştirildi.
• Makine öğrenmesinde cross-entropy loss — adı bile Shannon'ın entropisinden.
• DNA dizileme ve biyoinformatik dizilerin analizleri.
Kaynaklar:
1) Shannon, C.E. (1948). "A Mathematical Theory of Communication." Bell System Technical Journal, 27, 379-423 ve 623-656.
2) Shannon, C.E. (1950). "Programming a Computer for Playing Chess." Philosophical Magazine, 41(314).
3) Gleick, J. (2011). "The Information: A History, a Theory, a Flood." (Shannon'ın hayatı ve etkisi için en iyi popüler kaynak)
4) Verdu, S. (1998). "Fifty Years of Shannon Theory." IEEE Transactions on Information Theory, 44(6).
Kısaca
Shannon'ın 1948 makalesi, Einstein'ın 1905 yılına benzer bir an: tek bir yazı, bir alanın tamamını doğurdu. Bugün "bilgi çağı" dediğimiz şeyin matematiksel çekirdeği, iki bölümlük bir makalede şimdiden tamamlanmıştı. Bilimin en güzel anlarından biri.
İlk kez duyuyorsanız hangi kısım sizi en çok şaşırttı? "Bilgi"nin anlamdan bağımsız ölçülebilmesi size tuhaf mı geliyor? 👇