最終修正2007/12/19

講義資料ページへ



情報理論2007(4セメスタ)



ノート

1.情報理論入門(情報伝達モデル) (ppt)スライド(pdf), 印刷資料(pdf)

2.情報量(自己情報量,平均情報量) (ppt)スライド(pdf), 印刷資料(pdf)

3.エントロピーの性質と各種情報量(結合エントロピー,条件付エントロピー,相互情報量) (ppt)スライド(pdf), 印刷資料(pdf)

4.情報源のモデル(無記憶情報源,マルコフ情報源) (ppt)スライド(pdf), 印刷資料(pdf)

5.情報源符号化の理論(瞬時符号,情報源符号化の効率,情報源符号化定理) (ppt)スライド(pdf), 印刷資料(pdf)

6.代表的情報源符号化法(算術符号化,ハフマン符号化) (ppt)スライド(pdf), 印刷資料(pdf)

7.通信路のモデル(通信路行列,2元対称通信路,通信路容量) (ppt)スライド(pdf), 印刷資料(pdf)

8.通信路符号化の理論(情報伝送速度,通信路符号化定理) (ppt)スライド(pdf), 印刷資料(pdf)

9.通信路符号化法1(誤り検出,誤り訂正の原理) (ppt)スライド(pdf), 印刷資料(pdf)

10.通信路符号化法2(垂直水平パリティ符号,ハミング符号) (ppt)スライド(pdf), 印刷資料(pdf)


レポート課題

第1回自己情報量と平均情報量 問題(doc) 解答例(doc)

第2回各種情報量(条件付エントロピー,相互情報量) 問題(doc) 解答例(doc)

第3回マルコフ情報源 問題(doc) 解答例(doc)

第4回情報源符号化の理論 問題(doc) 解答例(doc)

第5回情報源符号化手法 問題(doc) 解答例(doc)

第6回通信路 問題(doc)