2008年6月26日の日記

はてさて。例の可変長分数型構造体、どうにも内部で使用している可変長整数型の挙動に不安定なところがあるため、というか、9999桁であるべきところを9995桁と認識するなど、明らかに大きな数で挙動がおかしいため、泣く泣く固定長分数型にしました。
今は64bit符号付整数型2つを使っているため、計算間違いを起こさないように最初の32bitだけを使うような計算にしています。それを超えると約分したり、それでも足りなければ精度を落とすように分子と分母を小さくして対応しています。