int32でのオーバーフロー-居酒屋ガレージ日記

居酒屋ガレージ日記

http://blog.zaq.ne.jp/igarage/

プロフィール

ニックネーム：　居酒屋ガレージ店主
★ZAQのBlogari停止のため、あれこれ「データ吸い出し」対策しています。　新規記事はとりあえず停止。　コメント書き込みはまだ有効です。　(JH3DBO 下間憲行)

検索

アーカイブ

2016年10月 (14)
2016年09月 (28)
2016年08月 (25)
2016年07月 (21)
2016年06月 (23)
2016年05月 (19)
2016年04月 (26)
2016年03月 (32)
2016年02月 (27)
2016年01月 (27)
2015年12月 (28)
2015年11月 (22)
2015年10月 (25)
2015年09月 (22)
2015年08月 (24)
2015年07月 (26)
2015年06月 (38)
2015年05月 (37)
2015年04月 (29)
2015年03月 (30)
2015年02月 (25)
2015年01月 (31)
2014年12月 (28)
2014年11月 (25)
2014年10月 (25)
2014年09月 (26)
2014年08月 (27)
2014年07月 (27)
2014年06月 (34)
2014年05月 (33)
2014年04月 (31)
2014年03月 (28)
2014年02月 (25)
2014年01月 (29)
2013年12月 (26)
2013年11月 (28)
2013年10月 (32)
2013年09月 (29)
2013年08月 (41)
2013年07月 (41)
2013年06月 (41)
2013年05月 (42)
2013年04月 (40)
2013年03月 (34)
2013年02月 (33)
2013年01月 (42)
2012年12月 (36)
2012年11月 (37)
2012年10月 (41)
2012年09月 (34)
2012年08月 (42)
2012年07月 (43)
2012年06月 (49)
2012年05月 (43)
2012年04月 (40)
2012年03月 (44)
2012年02月 (37)
2012年01月 (38)
2011年12月 (40)
2011年11月 (36)
2011年10月 (51)
2011年09月 (37)
2011年08月 (50)
2011年07月 (56)
2011年06月 (44)
2011年05月 (50)
2011年04月 (49)
2011年03月 (38)
2011年02月 (36)
2011年01月 (24)
2010年12月 (24)
2010年11月 (25)
2010年10月 (30)
2010年09月 (43)
2010年08月 (30)
2010年07月 (31)
2010年06月 (32)
2010年05月 (32)
2010年04月 (39)
2010年03月 (30)
2010年02月 (26)
2010年01月 (32)
2009年12月 (25)
2009年11月 (26)
2009年10月 (33)
2009年09月 (34)
2009年08月 (39)
2009年07月 (44)
2009年06月 (31)
2009年05月 (38)
2009年04月 (35)
2009年03月 (35)
2009年02月 (22)
2009年01月 (29)
2008年12月 (35)
2008年11月 (26)
2008年10月 (34)
2008年09月 (34)
2008年08月 (30)
2008年07月 (32)
2008年06月 (42)
2008年05月 (41)
2008年04月 (44)
2008年03月 (46)
2008年02月 (37)
2008年01月 (38)
2007年12月 (40)
2007年11月 (34)
2007年10月 (34)
2007年09月 (42)
2007年08月 (39)
2007年07月 (41)
2007年06月 (24)
2007年05月 (26)
2007年04月 (23)
2007年03月 (30)
2007年02月 (18)
2007年01月 (26)
2006年12月 (30)
2006年11月 (28)
2006年10月 (19)
2006年09月 (28)
2006年08月 (29)
2006年07月 (32)
2006年06月 (40)
2006年05月 (30)
2006年04月 (25)
2006年03月 (27)
2006年02月 (23)
2006年01月 (28)
2005年12月 (35)
2005年11月 (27)
2005年10月 (26)
2005年09月 (34)
2005年08月 (23)
2005年07月 (26)
2005年06月 (32)
2005年05月 (30)
2005年04月 (30)
2005年03月 (11)

2016年09月14日(水)

int32でのオーバーフロー

とある制御装置のプログラム。
私が書いたプログラムじゃありません。
「なにかのひょうしに計算結果がおかしい」との相談。

あれこれ調べていたら、想定ギリギリの大きな数値
が来たとき、32bitの値に対するオーバーフローが
発生しているのが判明。
正負が変化してしまうもんだから、以後の計算が
ぐちゃぐちゃに。

これ、想定外というより、32ビット数値の桁数に
対する過信。
乗算を繰り返したら、すぐにあふれちゃうんだから。

2016年9月14日 21時58分 | 記事へ | コメント(0) | トラックバック(0) |
| ・電子回路工作 |
トラックバックURL：http://blog.zaq.ne.jp/igarage/trackback/4535/
※ブログ管理者が承認するまで表示されません

トラックバック

コメントを記入

お名前(必須)：
パスワード：
メール：
URL：
非公開：	クッキーに保存：
※非公開にチェックを入れると、管理者のみにコメントが届きます。ブログの画面には表示されません。

captcha

※画像に表示されている文字を入力してください（半角・大文字/小文字の区別なし）。
文字が読みづらい場合はこちらをクリックしてください。

AaＡａアァあぁ漢字

小文字

取り消し線

左寄せ

中央揃え

右寄せ

テキストカラー

リンク