Pythonチュートリアル(その15)
第16章 浮動小数点(float)の縁談:その問題と限界
表現誤差:10進数の分数(少数)には2進数(2を底とする)分数で正しくできないものがある
decimalもモジュールもしくはfaractionsモジュールを使うと10進数を精度よく計算できるようになる
参考にした書籍
タイトル:Pythontチュートリアル 第4版
著者:Cuido van Rossum
訳者:鴨澤 眞夫
発行所:株式会社 オイラリー・ジャパン
第16章 浮動小数点(float)の縁談:その問題と限界
表現誤差:10進数の分数(少数)には2進数(2を底とする)分数で正しくできないものがある
decimalもモジュールもしくはfaractionsモジュールを使うと10進数を精度よく計算できるようになる
参考にした書籍
タイトル:Pythontチュートリアル 第4版
著者:Cuido van Rossum
訳者:鴨澤 眞夫
発行所:株式会社 オイラリー・ジャパン