科目名 情報理論
単位数 2.0
担当者 情報工学専攻 准教授 高橋 賢
履修時期 前期
履修対象 3年次
概要 目に見えない「情報」を定量的に扱う方法を学び、情報伝送の高信頼化や情報蓄積の効率化に役立つ基礎技術を習得します。情報を電気信号の有無に置き換えて伝送することに主眼を置きます。講義形式により授業を行います。
科目の到達目標 受講生が情報量の定量化方法、情報源符号化や通信路符号化の限界、実現可能な情報圧縮手法、さらに通信路に生じた誤りの検出手法や訂正手法を理解することを目指します。
受講要件 特にありません。
事前・事後学修の内容 事前学修として教科書の指定範囲を読み理解する努力をすること、また事後学修として講義中に配布するハンドアウトの内容を復習することが必要です。
講義内容 1. イントロダクション(通信システムのモデル、情報源符号化と通信路符号化、講義で扱う範囲)
2. 線形符号(線形符号の性質、パリティ検査符号、ハミング符号)
3. 符号のベクトル表現と誤り訂正能力(符号の行列表現、ハミング距離、最小ハミング重みと最小距離、誤り訂正能力)
4. 符号の多項式表現と巡回符号(符号の多項式表現、巡回符号)
5. 生成多項式の性質とCRC符号(原始多項式、既約多項式、符号の周期、CRC符号)
6. 巡回ハミング符号・BCH符号(巡回ハミング符号、BCH符号)
7. 中間まとめ(通信路符号化)
8. 情報量と結合エントロピー(エントロピー、情報量)
9. 情報源モデル(記憶、定常情報源、エルゴード情報源、マルコフ情報源、状態遷移行列)
10. 情報源のエントロピ-と様々な符号(エントロピーの計算、符号の木、クラフトの不等式)
11. ハフマン符号(ハフマン符号、ブロック符号、非等長符号、ランレングス符号化、情報源符号化定理)
12. ひずみ(ひずみのあるときの情報源符号化定理、速度ひずみ関数、情報源符号化の実際)
13. 通信路のモデル(BSC、BEC、バースト誤り通信路、ギルバートモデル、フリッチマンモデル)
14. 通信路符号化の限界(通信路容量、通信路符号化定理)
15. まとめ(シャノン理論)
※授業の順序は変更することがあります。
※上記とは別に期末試験を実施します。
評価方法 期末試験、レポート、講義中に行う出席票、および授業態度を総合して評価します。評価の基準は「学生HANDBOOK」に記されているとおりです。
教科書等 教科書:中村篤祥,喜田拓也,湊真一,基礎から学ぶ情報理論,ムイスリ出版 ISBN:978896412154
また、必要な資料を講義中に配付しますので、ノートやメモを用意する必要はありません。
担当者プロフィール 授業内容などに関する学生の個別学習相談を受け付けています。メールで面会の予約の上でお越しください。 担当者プロフィールについては、https://s-taka.org/ をご覧ください。
備考 【教職】高一種(数学)