エクセルが計算間違いするってのはお前らの中では常識だったの？

1 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:44:56.065 ID:uo3xZCpP0.net

小数点の引算の時に

2 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:45:24.245 ID:aZpoTug00.net

俺だって間違えるのにエクセルが間違えないわけ無いじゃん

3 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:46:01.734 ID:zl1OBF/C0.net

>>2
ほんとこれ

4 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:46:23.149 ID:E0IO/waO0.net

エクセルが間違えるわけないお前が間違ってる

5 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:46:43.023 ID:R0290S2n0.net

有効数字の話？

6 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:46:45.667 ID:eBgyRnRu0.net

ハアアアアアアァァァァイル！イルパラッツォ！！！！！！！！！！！

7 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:46:54.740 ID:owPIEAyhd.net

コンピューターで数値演算する時の常識だろ

8 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:46:55.960 ID:OPlZByJM0.net

>>2
お前に失礼
エクセルは他があってても特定の計算を間違えるぞ？

9 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:47:56.025 ID:aZpoTug00.net

>>8
ならエクセルはクソだな
俺が間違える時ってのは大抵世の中が俺に着いてこれてないときだけだし

10 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:48:12.664 ID:OA+YLf8w0.net

本来コンピュータは小数を扱えないからいろいろごまかしてる

11 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:48:33.494 ID:gSNAw2Rs0.net

Excelはいつだって正しかった
悪いのは人間だ

12 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:50:25.571 ID:uo3xZCpP0.net

例えば12.3−12とかしたとき

13 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:54:10.090 ID:txUmghx+0.net

>>12
できたよ

14 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:56:06.543 ID:uo3xZCpP0.net

>>13
そこから←0.00でずっと小数点以下を表示していくとおかしなことになってない？

15 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:56:40.639 ID:+6vbv4cT0.net

そら二進数で表現できるのに限界あるからな

16 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:57:05.617 ID:txUmghx+0.net

>>14
ずっとってどういうことじゃ

17 ：以下、＼(^o^)／でVIPがお送りします：2017/09/26(火) 23:58:20.071 ID:utXw3g/K0.net

>>14
何言ってんだこの馬鹿お前の頭が腐ってんだよって思ってたのに

なんだこれ？なんでこんなことになるの？凄い

18 ：以下、＼(^o^)／でVIPがお送りします：2017/09/27(水) 00:02:16.349 ID:xOdlxCZp0.net

>>16

出てきた0.3を

←0
00

こんなヤツで0.300000・・・って小数点以下を表示させていくの

19 ：以下、＼(^o^)／でVIPがお送りします：2017/09/27(水) 00:03:19.172 ID:rZ3RoY2v0.net

あぁ、やっちまったな>>1
黒服に気をつけろよ

20 ：以下、＼(^o^)／でVIPがお送りします：2017/09/27(水) 00:04:34.879 ID:kUuHpkXk0.net

そもそも0.3が2進法でキリのいい数じゃないし

21 ：以下、＼(^o^)／でVIPがお送りします：2017/09/27(水) 00:05:14.897 ID:RsyfbVgq0.net

小数点以下の計算は電卓使え

22 ：以下、＼(^o^)／でVIPがお送りします：2017/09/27(水) 00:05:51.397 ID:bTC2VOUD0.net

ぜんぜんわからんスクショしろや

23 ：以下、＼(^o^)／でVIPがお送りします：2017/09/27(水) 00:07:02.953 ID:OTNsTfjx0.net

とんずらこいて

24 ：以下、＼(^o^)／でVIPがお送りします：2017/09/27(水) 00:07:57.196 ID:2fufuEMm0.net

>>18
はいはい
有効桁数の話な

超機密事項なんだけど実は0.1は2進数で表すと無限小数になるんだ

25 ：以下、＼(^o^)／でVIPがお送りします：2017/09/27(水) 00:24:00.781 ID:lYkaDQPi0.net

表示形式ちゃんと確認し解け

26 ：以下、＼(^o^)／でVIPがお送りします：2017/09/27(水) 00:31:09.290 ID:aRL0gl+wa.net

10進浮動小数じゃないし当たり前じゃん