nayawoong_e

통신로 용량 (Channel Capacity) 통신로가 실제 전송하는 정보의 양 상호 정보량에 의해 설명된다. 통신로에 대한 가정 기억이 없는 통신로 가정 입력 알파벳 $ A = {a_{1}, a_{2}, ... , a_{r}} $ 출력 알파벳 $ B = {b_{1}, b_{2}, ... , b_{s}} $ $ P_{i} = P_{X}(a_{i}) $ $ Q_{i} = P_{Y}(b_{j}) $ $ P_{ij} = P(b_{j}|a_{i}) $ 엔트로피와 통신로 용량 통신로에 입력되는 정보량의 기대치 - 확률변수 X의 엔트로피 H(X) - 출력의 엔트로피 H(Y) 통신로가 실제 전송하는 정보의 양 - 통신로의 출력을 앎으로서 X에 관해 얻을 수 있는 정보량 - 출력 Y를 알아도 남아있는 X에 대한 애매함..

통신로 용량과 부호 통신로 각 시점에서 하나의 기호가 입력되어 하나의 기호가 출력되는 선로(채널) 입력 기호 : 입력 알파벳의 원 출력 기호 : 출력 알파벳의 원 r원 통신로 (r-ary channel) 입력 알파벳과 출력 알파벳이 일치하는 통신로 (입력과 출력이 r개가 같아야 함) 예시) 입력 → 출력 a,b a, b 잘못된 예시) '2원 통신로'가 아니다. 입력 → 출력 a, b a, b, c 2원 대칭 통신로 (Binaryt Symmetric Channel : BBC) 2원 통신로 $ \neq $ 2원 대칭 통신로 2원 통신로라고 항상 2원 대칭 통신로가 아니다. 입력 알파벳 $ X = {0, 1} $ 출력 알파벳 $ Y = {0, 1 } $ $ P(Y = 0 | X = 1) =..