என்ட்ரோபி என்பது தகவல் கோட்பாட்டில் ஒரு அடிப்படைக் கருத்தாகும் மற்றும் சைபர் செக்யூரிட்டி மற்றும் குவாண்டம் கிரிப்டோகிராஃபி உள்ளிட்ட பல்வேறு துறைகளில் முக்கிய பங்கு வகிக்கிறது. கிளாசிக்கல் என்ட்ரோபியின் சூழலில், என்ட்ரோபியின் கணித பண்புகள் நன்கு வரையறுக்கப்பட்டு, தகவலின் தன்மை மற்றும் அதன் நிச்சயமற்ற தன்மை பற்றிய மதிப்புமிக்க நுண்ணறிவுகளை வழங்குகின்றன. இந்த பதிலில், இந்த கணித பண்புகளை ஆராய்ந்து, என்ட்ரோபி ஏன் எதிர்மறை அல்ல என்பதை விளக்குவோம்.
முதலில், என்ட்ரோபியை வரையறுப்போம். தகவல் கோட்பாட்டில், என்ட்ரோபி என்பது ஒரு சீரற்ற மாறியில் உள்ள தகவல்களின் சராசரி அளவை அளவிடுகிறது. சீரற்ற மாறியின் சாத்தியமான விளைவுகளுடன் தொடர்புடைய நிச்சயமற்ற தன்மையை இது கணக்கிடுகிறது. கணித ரீதியாக, ஒரு நிகழ்தகவு நிறை செயல்பாடு P(X) உடன் தனித்த சீரற்ற மாறி X க்கு, என்ட்ரோபி H(X) மூலம் வழங்கப்படுகிறது:
H(X) = -∑ P(x) log₂ P(x)
இதில் கூட்டுத்தொகை X இன் அனைத்து சாத்தியமான மதிப்புகள் மீது எடுக்கப்படுகிறது. மடக்கை பொதுவாக அடிப்படை 2 க்கு எடுக்கப்படுகிறது, இதன் விளைவாக என்ட்ரோபி பிட்களில் அளவிடப்படுகிறது.
இப்போது, என்ட்ரோபியின் கணிதப் பண்புகளைக் கருத்தில் கொள்வோம். முதல் பண்பு என்னவென்றால், என்ட்ரோபி எப்போதும் எதிர்மறையாக இருக்காது. இதன் பொருள் சீரற்ற மாறி அல்லது அமைப்பின் என்ட்ரோபி எதிர்மறையாக இருக்க முடியாது. என்ட்ரோபி ஏன் எதிர்மறை அல்ல என்பதை புரிந்து கொள்ள, மடக்கை செயல்பாட்டின் பண்புகளை நாம் கருத்தில் கொள்ள வேண்டும்.
மடக்கை செயல்பாடு நேர்மறை மதிப்புகளுக்கு மட்டுமே வரையறுக்கப்படுகிறது. என்ட்ரோபி சூத்திரத்தில், நிகழ்தகவு நிறை செயல்பாடு P(x) என்பது ஒவ்வொரு மதிப்பு x இன் நிகழ்வின் நிகழ்தகவைக் குறிக்கிறது. நிகழ்தகவுகள் எதிர்மறையாக இல்லாததால் (அதாவது, P(x) ≥ 0), எதிர்மறை அல்லாத நிகழ்தகவின் மடக்கை வரையறுக்கப்படும். மேலும், 1 இன் மடக்கை 0க்கு சமம். எனவே, என்ட்ரோபி சூத்திரத்தின் கூட்டுத்தொகையில் உள்ள ஒவ்வொரு சொல்லும் எதிர்மறையாகவோ அல்லது பூஜ்ஜியத்திற்குச் சமமாகவோ இருக்கும். இதன் விளைவாக, எதிர்மறை அல்லாத சொற்களின் கூட்டுத்தொகை எதிர்மறையாக இருக்கும், இது என்ட்ரோபி எதிர்மறையானது அல்ல என்பதை உறுதிப்படுத்துகிறது.
இந்த சொத்தை விளக்குவதற்கு, ஒரு நியாயமான நாணயத்தை வீசுவதைக் கவனியுங்கள். ரேண்டம் மாறி X என்பது காயின் டாஸின் முடிவைக் குறிக்கிறது, இதில் தலைகளுக்கு X = 0 மற்றும் வால்களுக்கு X = 1. நிகழ்தகவு நிறை செயல்பாடு P(X) ஆனது P(0) = 0.5 மற்றும் P(1) = 0.5ஆல் வழங்கப்படுகிறது. இந்த மதிப்புகளை என்ட்ரோபி சூத்திரத்தில் செருகினால், நாம் பெறுகிறோம்:
H(X) = -(0.5 log₂ 0.5 + 0.5 log₂ 0.5) = -(-0.5 – 0.5) = 1
சிகப்பு காயின் டாஸின் என்ட்ரோபி 1 பிட் ஆகும், இது காயின் டாஸின் முடிவுடன் தொடர்புடைய ஒரு பிட் நிச்சயமற்ற தன்மையைக் குறிக்கிறது.
எதிர்மறை அல்லாததுடன், என்ட்ரோபி மற்ற முக்கிய பண்புகளையும் கொண்டுள்ளது. அத்தகைய ஒரு பண்பு என்னவென்றால், அனைத்து விளைவுகளும் சமமாக இருக்கும் போது என்ட்ரோபி அதிகரிக்கப்படுகிறது. வேறு வார்த்தைகளில் கூறுவதானால், நிகழ்தகவு நிறை செயல்பாடு P(x) என்றால் P(x) = 1/N அனைத்து சாத்தியமான மதிப்புகள் x, அங்கு N என்பது சாத்தியமான விளைவுகளின் எண்ணிக்கை, பின்னர் என்ட்ரோபி அதிகபட்சமாக இருக்கும். எல்லா விளைவுகளும் சமமாக இருக்கும் போது அதிகபட்ச நிச்சயமற்ற தன்மை இருக்கும் என்ற நமது உள்ளுணர்வுடன் இந்தப் பண்பு ஒத்துப்போகிறது.
மேலும், என்ட்ரோபி என்பது சுயாதீன சீரற்ற மாறிகளுக்கான சேர்க்கை ஆகும். எங்களிடம் இரண்டு சுயாதீன சீரற்ற மாறிகள் X மற்றும் Y இருந்தால், அவற்றின் கூட்டு விநியோகத்தின் என்ட்ரோபி அவற்றின் தனிப்பட்ட என்ட்ரோபிகளின் கூட்டுத்தொகையாகும். கணித ரீதியாக, இந்த பண்பு பின்வருமாறு வெளிப்படுத்தப்படலாம்:
H(X, Y) = H(X) + H(Y)
கலப்பு அமைப்புகளின் என்ட்ரோபியை பகுப்பாய்வு செய்யும் போது அல்லது பல தகவல் ஆதாரங்களைக் கையாளும் போது இந்த பண்பு குறிப்பாக பயனுள்ளதாக இருக்கும்.
கிளாசிக்கல் தகவல் கோட்பாட்டில் என்ட்ரோபியின் கணித பண்புகள் நன்கு வரையறுக்கப்பட்டுள்ளன. என்ட்ரோபி எதிர்மறையானது அல்ல, எல்லா விளைவுகளும் சமமாக இருக்கும் போது அதிகப்படுத்தப்படும், மற்றும் சுயாதீன சீரற்ற மாறிகளுக்கு சேர்க்கை. இந்த பண்புகள் தகவலின் தன்மை மற்றும் அதன் நிச்சயமற்ற தன்மையைப் புரிந்துகொள்வதற்கான உறுதியான அடித்தளத்தை வழங்குகின்றன.
தொடர்பான பிற சமீபத்திய கேள்விகள் மற்றும் பதில்கள் கிளாசிக்கல் என்ட்ரோபி:
- இணையப் பாதுகாப்புத் துறையில் வலுவான கிரிப்டோகிராஃபிக் அல்காரிதம்களின் வடிவமைப்பு மற்றும் மதிப்பீட்டிற்கு என்ட்ரோபியைப் புரிந்துகொள்வது எவ்வாறு உதவுகிறது?
- என்ட்ரோபியின் அதிகபட்ச மதிப்பு என்ன, அது எப்போது அடையப்படுகிறது?
- ஒரு சீரற்ற மாறியின் என்ட்ரோபி எந்த நிலைமைகளின் கீழ் மறைந்துவிடும், மேலும் இது மாறியைப் பற்றி எதைக் குறிக்கிறது?
- நிகழ்தகவு ஒரு முடிவை நோக்கிச் சார்புடையதாக இருக்கும் போது ஒப்பிடும்போது விளைவுகளுக்கு இடையில் சமமாக விநியோகிக்கப்படும்போது, சீரற்ற மாறியின் என்ட்ரோபி எவ்வாறு மாறுகிறது?
- பைனரி என்ட்ரோபி கிளாசிக்கல் என்ட்ரோபியில் இருந்து எவ்வாறு வேறுபடுகிறது, மேலும் இது இரண்டு விளைவுகளைக் கொண்ட பைனரி சீரற்ற மாறிக்கு எவ்வாறு கணக்கிடப்படுகிறது?
- குறியீட்டு வார்த்தைகளின் எதிர்பார்க்கப்படும் நீளத்திற்கும் மாறி நீளக் குறியீட்டில் சீரற்ற மாறியின் என்ட்ரோபிக்கும் என்ன தொடர்பு?
- திறமையான தகவல் குறியாக்கத்திற்கான மாறி நீள குறியீட்டு திட்டங்களில் கிளாசிக்கல் என்ட்ரோபியின் கருத்து எவ்வாறு பயன்படுத்தப்படுகிறது என்பதை விளக்குங்கள்.
- கிளாசிக்கல் என்ட்ரோபியின் பண்புகள் என்ன மற்றும் அது விளைவுகளின் நிகழ்தகவுடன் எவ்வாறு தொடர்புடையது?
- கொடுக்கப்பட்ட அமைப்பில் உள்ள நிச்சயமற்ற தன்மை அல்லது சீரற்ற தன்மையை கிளாசிக்கல் என்ட்ரோபி எவ்வாறு அளவிடுகிறது?