科目名 情報理論
単位数 2.0
担当者 情報工学専攻 准教授 高橋 賢
履修時期 前期(第2ターム)
履修対象 3年次
講義形態 講義
講義の目的 目に見えない「情報」を定量的に扱う方法、情報伝送の高信頼化や情報蓄積の効率化に関する基礎技術を習得する。
到達目標 情報理論や線形符号の性質、パリティやシンドロームなどの用語、行列表現または多項式表現された符号、原始多項式や既約多項式を応用したCRC符号や巡回ハミング符号、結合エントロピーや相互情報量、定常性やエルゴード性の意味、状態遷移行列を用いたマルコフ情報源、記憶のある情報源のエントロピー、符号の木やクラフトの不等式を用いた瞬時符号の判定方法、ハフマン符号の作成方法、ひずみを許した伝送における平均符号長の下限、通信路容量、および、情報源符号化や通信路符号化の限界を説明できる。【知識2、技能1】
受講要件 特になし。
履修取消の可否
履修取消不可の理由
事前・事後学修 事前学修として、あらかじめ配布される予習資料にて予習を行い、教科書の該当範囲を読む。また、事後学修として、予習資料をもとに講義内容を復習し、自ら図書館にある関連図書などにより不明点を解決する。事前学修と事後学修に、それぞれ2時間と1時間を要することが見込まれるが、この要する時間はこれまでの関連自主学修や熱意により変化する。
講義内容 1. イントロダクション
2. 線形符号
3. 符号のベクトル表現と誤り訂正能力
4. 符号の多項式表現と巡回符号
5. 生成多項式の性質
6. 巡回符号
7. 最尤復号法
8. 情報量
9. 情報源モデル
10. 情報源のエントロピ−と様々な符号
11. 情報源符号化
12. ひずみ
13. 通信路モデル
14. 符号化の限界
15. まとめ等
※授業の順序は変更することがある。
※上記とは別に期末試験を実施する。
期末試験実施の有無 実施する
評価方法・基準 定期試験70%
その他課題(レポート提出、小テスト、授業への積極的参加度、自主学習、など)30%
それぞれに対し、上述「科目の到達目標」達成度の素点が次に示す評価内容基準により評点に変換され、広島市立大学履修規程(以下、履修規程と略す。)第11条2項に基づき評価される。すなわち、評価は絶対評価である。秀:科目の到達目標を十分達成し、到達目標を超えた極めて優秀な成果をおさめている。優:科目の到達目標を十分達成している。良: 科目の到達目標を達成している。可:科目の到達目標を最低限達成している。不可:科目の到達目標を達成していない。不可*: 定期試験を受験していない、又は定期試験に代わるレポート課題を提出していない、若しくは出席回数が授業の3分の2に満たない(履修規程第10条3項、および、平成30年12月3日教務委員会決定の広島市立大学成績評価に係るガイドライン)。上述の十分達成とは到達目標の8割を、達成とは7割を、最低限とは6割をそれぞれ指す。 評価は一面的ではなく、履修規程第11条1項に基づき評価ポイントが多面的に設定されている。
教科書等 教科書:中村篤祥,喜田拓也,湊真一,基礎から学ぶ情報理論 第2版,ムイスリ出版 ISBN: 978-4896412871
担当者プロフィール 担当者プロフィールについては、https://s-taka.org/ をご覧ください。
研究室:情報科学部棟4階430室
講義に関連する実務経験 1992年4月-1997年3月 株式会社日立製作所(陸上移動無線通信システムの研究開発に従事)
1997年4月-1999年6月 株式会社ワイ・アール・ピー移動通信基盤技術研究所(次世代無線システムの研究開発に従事)
1999年7月-2002年3月 株式会社日立製作所(高速無線アクセスシステムの研究開発に従事)
2002年4月-2005年3月 総務省通信総合研究所(現、国立研究開発法人情報通信研究機構。車両間無線通信システム、次世代無線アクセスシステムの研究に従事)
課題や試験に対するフィードバック 課題などの解説を講義中に実施する。
アクティブ・ラーニング 振り返り
キーワード 情報理論の前提、情報源符号化と通信路符号化、符号化と復号、パリティ、シンドローム、パリティ検査符号、ハミング符号、符号の行列表現、生成行列、パリティ検査行列、ハミング距離、最小ハミング重み、最小距離、誤り訂正能力、巡回符号、生成多項式、符号の周期、原始多項式、既約多項式、CRC符号、巡回ハミング符号、BCH符号、リードソロモン符号、限界距離復号法、最尤復号法、ビタビ復号、連接符号、疎グラフ符号、自己情報量、エントロピー、結合エントロピー、相互情報量、情報源の確率的表現、記憶、定常性とエルゴード性、マルコフ情報源、状態遷移行列、定常分布、記憶の有無と情報源のエントロピー、語頭条件、符号の木、クラフトの不等式、コンパクト符号、情報源符号化定理、ハフマン符号、ハフマンブロック符号、ランレングス符号化、ひずみ、ひずみ測度、速度ひずみ関数、通信路線図、通信路行列、BSC、BEC、ギルバートモデル、フリッチマンモデル、加法的2元通信路、バースト誤り通信路、通信路符号化定理
備考 【教職】高一種(数学)