TOSHCAFE
Welcome to TOSHCAFE.com. ようこそお越しくださいました。
新着アーカイブ
▼懲りずにサーバ契約更新
(2017/7/22 01:33)
▼---
(2012/8/31 09:01)
▼地震
(2012/3/10 23:23)
▼iOS5
(2012/3/8 22:08)
▼おめでとう!
(2012/3/4 01:08)
▼Cosoon
(2012/3/2 21:03)
▼TwitCasting
(2012/2/29 23:43)
▼超々スーパーミラクル爆睡
(2012/2/28 19:10)
▼夢遊病か?俺w
(2012/2/26 22:20)
▼予想に反して・・・
(2012/2/26 10:15)

新着コメント
▼予想に反して・・・
by 12 (04/07)
▼---
by TBR (09/13)
▼地震
by はなちゃん (06/03)
▼Cosoon
by TOSH (03/23)
▼焼肉♪
by はなちゃん (02/21)
▼どうでもいいことだが・・・
by はなちゃん (02/11)
▼Gokuri 春のピーチ
by TOSH (02/10)
▼Gokuri 春のピーチ
by はなちゃん (02/10)
▼痛すぎる
by キッピ (04/27)
▼あかん
by じゅり (08/21)

通信

メール送信
こちらからTOSHに
メールが送れます。



ショッピング

★お勧めグッズ






携帯バーコード




どっちが正しい?
10を24で割ってそれに60をかける。
その答えに少数がある場合は切り捨てる。

この計算で今日仕事中話になりました。

10÷24×60

式に書くとこうなりますね。
これを解くと
10 × 60
-------- = 25
24
少数は発生しないため25が解になりますね。
とっても簡単だと思います。

でも、それを言葉通りに解いてみると…、
10÷24=0.41666666666666666666...
計算するのにあたって少数第6位未満を切り捨てた場合
0.416666×60=24.99996で答えは切捨てが発生するので24
計算するのにあたって少数第4位未満を四捨五入した場合
0.416667×60=25.00002で答えは切捨てが発生するので25
答えが変わってきます。

コンピュータもその種類によってその演算方法が異なります。
コンピュータも桁を無限に持っているわけではないのでどこかで桁が落ちます。
そうすると人間が切捨てや四捨五入をするのと同じことがおきてしまいます。
これがコンピュータによって演算結果が違うということになることがあります。

10÷24×60の少数切捨て
答えは数学的には25
でも、コンピュータによっては24

今まで知らなかったのですが、コンピュータでは掛け算と割り算が混在する場合、掛け算を先にさせてしまうのが一般的だと言われました。
(※ビット数等による計算結果の誤差については注意はしていましたのでTOSHCAFEに来ていただいている元ユーザさん、元同僚の社員さんご安心を。)

でも僕はどうしてもそれが正しいとは思えない・・・。
少数を出させないようにするのが誤差を発生させないとは限らなくて、むしろ出る可能性のあるものはあらかじめその場合の想定をして少数の扱いを決めておかなくてはならないのだと思います。
状況によっては先に10÷24をする必要があるときもあると思うんです。

そうすると単純に計算式を書いてから計算すると答えが違ってきてしまうので注意が必要だという話でした。

因みに予断ですが、少数の扱い全般について私の前職のユーザさんにもお読みいただいているので補足させていただきます。
前職のシステムでは、一部税計算等を除き基本は少数は第2位まで求めるために第3位を四捨五入しておりました。
また、その値の扱いや考え方がお客様によって異なる可能性や性質のある場合は、その発生誤差をどのような形で集計させていただくか確認を取り、あらかじめ初期設定させていただいておりますのでご安心ください。
 http://blog.toshcafe.com/archive_463.htm 
コメント(0) / トラックバック(0)Computer - コンピューター
コメント
名前
メールアドレス
URL
本文
コメント一覧
トラックバック一覧

月別アーカイブ
2017年07月(1)
2012年08月(1)
2012年03月(4)
2012年02月(19)
2010年04月(2)
2010年03月(6)
2010年02月(1)
2010年01月(3)
2009年12月(7)
2009年11月(3)
2009年10月(4)
2009年09月(2)
2009年08月(1)
2009年07月(1)
2009年06月(5)
2009年05月(9)
2009年04月(12)
2009年03月(29)
2009年02月(25)
2009年01月(28)
2008年12月(24)
2008年11月(21)
2008年10月(19)
2008年09月(20)
2008年08月(19)
2008年07月(23)
2008年06月(20)
2008年05月(18)
2008年04月(22)
2008年03月(26)
2008年02月(21)
2008年01月(26)
2007年12月(25)
2007年11月(29)
2007年10月(32)
2007年09月(29)
2007年08月(5)
2007年05月(1)
2007年03月(2)
2007年01月(5)
2006年12月(1)
2006年11月(1)

カテゴリー
Other - カテゴリー無し(345)
Travel - 旅(84)
Shopping - 買い物(46)
Food - 食べる(63)
Manholer - マンホーラー(6)
Computer - コンピューター(8)

ブログ内検索

便利サイト

★旅行・出張

楽天トラベル株式会社
全国約900便のフライトと
最大20,000軒の宿泊施設を
自由に組み合わせて予約できる!



朝食付きルーム検索
出張でホテル代に朝食が付いていると得した気分になりません?(TOSHだけ??)


温泉宿予約
冬はやっぱ温泉ですよね。一緒に行く人が居ればなぁ〜(苦笑)


旅マップ


リアルタイムとは行きませんが、現在位置を更新していきます。
2007年12月まで