Pythonチュートリアル(その15)

第16章 浮動小数点(float)の縁談:その問題と限界
表現誤差:10進数の分数(少数)には2進数(2を底とする)分数で正しくできないものがある

decimalもモジュールもしくはfaractionsモジュールを使うと10進数を精度よく計算できるようになる

 

参考にした書籍
タイトル:Pythontチュートリアル 第4版
著者:Cuido van Rossum
訳者:鴨澤 眞夫
発行所:株式会社 オイラリー・ジャパン

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください