情報理論 第3回 ノート
質問・コメント
-
提出いただいた演習レポート課題を拝見しての堀山からのコメント:
エントロピーは、0 以上です。(と学習しました。)
ですので、エントロピーを求めて負の数になっていたら、どこか間違っていると思いますよ。
(つまり、その問ができていないのと、エントロピー ≧ 0 が理解できていないのと、両方です。)
-
単位 (bit) は忘れずに付けてくださいね。
-
授業でも順を追って説明しましたように、条件付きエントロピーを求めるには、
指定された条件のもとでの条件付確率をまず求める必要があります。
お忘れの方、もう1回じ、授業資料を確認しておくといいですよ。
- 情報理論に限りませんが、答だけをポツンと書くと、
どのように考えてそこに至ったかが分かりません。
式を示して、皆さんが考えたことを見せてください。
相手に何を伝えるか、相手に何が伝わるかって、大事です。
- Q:
非常に興味深い内容が多く,次の授業も楽しみです!
- A:
ありがとうございます!
- Q:
・堀山先生の説明もわかりやすく、情報理論の内容も思っていたよりも楽しいと感じています。
・わかりやすい!
・とてもわかりやすかったです。
・授業動画がとても分かりやすいです。
- A:
ありがとうございます。
数学の言葉で書いてあると、最初ドキッとするかもですが、
接し方が分かってくると、読めてくる感じかなと思います。
私は、そのお手伝いをしているだけでーす。
- Q:
計算は面倒ですが、今のところはついていけております。
- A:
手を動かしながら、理解を深めるという面もあって、これって重要なんですよ。
分かったつもりなんだけど、試験の直前に or 試験の場になって、
理解が不十分なことにハッとすること、ありますよね。
あれを、できるだけ防ぎたいなーと思う訳です。
- Q:
課題の量が多い気がします。
- A:
単位数などについて書いてある便覧を、お持ちかと思います。
(北大の工学部規定を調べてみてもいいかと思います。)
その、授業と単位のところをご覧いただくと、
授業による学習効果、授業時間外に必要な学修を考慮して
単位が設計されていることがご理解いただけるかと思います。
(その設計の元をたどると、日本の法律にたどり着きます。つまり北大だけではありません。)
授業時間と、その後の授業時間外の復習 (今は、コロナさんの影響で、両方ともご自宅で実施ですが) の
時間を考慮すると、演習レポート課題の分量が多いことはないと思います。
どちらかというと、教科書の問題で、さらに力を付けていただくようお願いします。
- Q:
教科書の表が確率分布のものか条件付き確率分布のものなのかしっかり確認しなければいけないと思った。
- A:
ご自身で、いいことに気づかれました。
何をすべきかの指針が手に入ったのは、いいことですよ。
- Q:
穴が埋めてあるスライドも配布してくださりありがとうございました。
- A:
どういたしましてです。
- Q:
講義動画からスプレッスシート、質問へのコメント等、至れり尽くせりでありがたいです。こちらも情報理論へのやる気がすごく出てきます。ありがとうございます。
- A:
やる気、ありがとうございます。
まわりまわって、私も励みになります。
コロナさんの影響で、あまり嬉しくないこともあるかもですが、
その状況、その状況で、ベストを尽くしてみましょう。
- Q:
前回の提出時にgmailアカウントを学内用にしていなかったかもしれません。お手数おかけして申し訳ないです。
- A:
どのアカウントでも構いませんよー。
- Q:
スライドp.7において、H(X|売れない)=0(bit)となっていました。レポート課題の問3(2)の問題文において、相互情報量がI(X,Y)となっていました。小さい点ではありますが、訂正に役立てていただければ幸いです。
- A:
感謝感謝です。あわてて作るといけませんね。
特に、相互情報量 I(X;Y) の X と Y の間は ; だからねと、自分で言ってたのに...
- Q:
レポートファイルの問題3-(2)で相互情報量のセミコロンが欠けていました。
そして、計算結果ごとに「ビット」単位を付けるべきなのでしょうか?
- A:
感謝感謝です。
bit は、付けてください。
身長を尋ねられて、「129.3」と答えるより、「129.3 cm」と答えるべきですよね。
「129.3」だけだと、「129.3 m」なのかもしれないし、「129.3 km」かもしれないし。
(ドラえもんは、身長「129.3 cm」です。身長「129.3 km」のドラえもんは怖いよー。)
- Q:
スライド6番にH(1/3)という表記があるがなぜ1/3になるのかわからないです。
- A:
H(1/3) って、第2回で出てきたエントロピー関数です。
- Q:
毎回のノートのコメントが面白いです。内容授業の内容も分かりやすくて助かってます。
- A:
ありがとうございます。ウケは狙ってないですよ。
- Q:
前回レポートでクラスを間違えて提出していました.提出確認をしたら正しいクラスで提出したことになっていて安心しました.お手数おかけしました.
- A:
私は特に何もしていませんので、
レポート提出時にたぶん正しくクラスを選択されたんじゃないかと思います。
- Q:
・べん図の説明が分かりやすかったです。
・ベン図を用いた解説がとても理解しやすかったです。
- A:
ありがとうございます。
ベン図は、教科書に載っています。説明は分かりやすくなるように考えてみました。
- Q:
式の立て方は分かっていても計算が長くてなかなか答えに辿り着けない
- A:
いいことに気がつきましたよ。
そこで、練習をすると、ススッとできるようなっていきます。
プロのスポーツ選手も、普段の地道なトレーニングがベースにあって、
試合で自然と体が動くようになります。それと同じかなと思います。
- Q:
数式をワード上に入力する作業に苦戦しています。今後のために数式の入力に慣れておきたいと考えていますが、なにか参考となるような本や資料はありませんか。よろしくお願いします。
- A:
ごめん。私も、Microsoft Word での数式入力は苦手なのです...
(普段は数式は TeX でを書いています。)
なので、ひたすら copy & paste を...
- Q:
回答を添付画像にしたのですが大丈夫でしたでしょうか?
- A:
何とか見えてまーす。
- Q:
wordのファイルに手書きで文字を書いていますが、正常にそちらで表示できているでしょうか。
- A:
はい。見えていますよー。
- Q:
問2の(3)の証明で、左辺と右辺で等式が成立することを示すのに、各項の値を四捨五入して近似してしまっても、等式の成立は証明されたことになるのですか?
- A:
厳密には、ならないのかもしれませんが、四捨五入したもので計算してピッタリ = になるのは、
それなりに理由があって、よくよくたどってみると、log のままで計算して = になるのと同じことを
確かめているかもしれませんよ。
- Q:
解きを教えていただきたいです
- A:
すみません。 第1回のコメントへの回答にも書きましたが、講義資料をオンラインでも分かりやすくするので精一杯です。 教科書の問や練習問題、章末問題 (+ その解答) は、 理解度を確認し、より深い理解をうながすよい材料です。 演習レポートとは別に、時間をかけて取り組むことをお勧めします。 そうすると、自然と演習問題の解答にもたどりつきます。
- Q:
今回もちゃんと理解できたと思う。先生のコメント返信面白いので全文読んでます
- A:
ありがとうございます。
情報理論の授業は今年度が初めてなんですが、たぶん、
普段の授業より多く、学生の皆さんとコミュニケーションできてますよね。
- Q:
もしかしてすべての感想にコメント書いてますか?先生も無理なさらないでください。
- A:
そのもしかしてでーす。
お気遣い、心に沁み入ります。
ありがとうございますね。
- Q:
レポートの2の(3)が合わなかったのでその前を含めたどこかで間違えていると思うのですが、予定があり提出締め切りぎりぎりまで粘れないのでとりあえず不完全なまま出しています。
- A:
はい。All or nothing で nothing にしちゃうより、そうしていただく方がいいです。
また後で、できなかったところをできるようにしておくといいですよ。
その他
- メールでの問い合わせの差異には、件名 (Subject) に、
クラス名 (Aクラス~Cクラス) を入れてください
2020.6.26 作成,担当:堀山
info-theory@ist.hokudai.ac.jp