■ このスレッドは過去ログ倉庫に格納されています
「最強GPU」のTitanV、2+2=4.1などと計算してしまうと判明 科学計算で毎回違う値が出力される
- 222 ：名無しさん＠涙目です。：2018/03/27(火) 04:44:35.24 ID:jxGdNXBy0.net
- >>219
2って仮数部全部0だけど浮動小数点の問題なの？倍精度の分割計算でもなかなか起きなさそうなビットシフトだと思うんだけど
総レス数 238
43 KB
新着レスの表示
掲示板に戻る
全部
前100
次100
最新50
read.cgi ver 2014.07.20.01.SC 2014/07/20 D ★