情報理論 I
Information Theory I

講義内容

情報理論には多様な側面があるが，本講義では特に情報源の符号化について， 基礎理論から最新の理論展開，応用までを学ぶ。同時に，情報通信における帯 域圧縮としての画像圧縮について講述する。
具体的には，次の話題から講義する。

  1. 情報源符号化と情報量，エントロピー概念
  2. マルコフモデル，隠れマルコフモデルによる情報源のモデル化
  3. ＫＬ情報量，ＭＤＬなどの情報量基準
  4. シャノンの情報源符号化定理とハフマン符号化
  5. 算術符号およびユニバーサル符号
  6. 歪みを許す符号化とRate-Distortion 理論
  7. 連続情報源の情報理論
  8. ベクトル量子化
  9. 音声，言語の情報量と音声符号化
  10. 帯域圧縮の基礎，視覚特性と画像圧縮
  11. フレーム間符号化
  12. ２値画像圧縮
  13. 静止画圧縮，JPEG
  14. 動画圧縮，MPEG
  15. （試験）

教科書

なし：OHP や プリントを配布

参考書

  1. ノーマン・アブラムソン著，宮川 洋訳：情報理論入門，好学社
  2. 中川 聖一著：情報理論の基礎と応用，近代科学社
  3. A.Gersho, R.M.Gray: Vector Quantization and Signal Compression, Kluwer Academic Publishers, 1992
  4. T.C.Bell, J.G.Cleary, I.H.Witten: Text Compression, Prentice Hall, 1990
  5. 堀内司朗・有村一朗著：画像圧縮技術のはなし，工業調査会
  6. 安田浩著：マルチメディア符号化の国際標準，丸善

前提とする知識(必ずしも先修条件ではない)

工学部教養程度の数学知識