数値の大小比較が不正確になることがある

投稿者:onichan <contact あっとまーくonichan.cf> 投稿日:2022/04/22(Fri) 23:19:42 No.2127

お世話になっております。

型の異なる数値を大小比較する際、表現力の大きい方を右に書くと結果が不正確になることがあるようです。

ーープログラム例
[5<5.2]を表示 ーー○のはずだが×になる

ーープログラム例終わり

プロデルバージョン:1.7.1127
よろしくお願いいたします。

修正しました。1.7.1128

投稿者:ゆうと 投稿日:2022/04/25(Mon) 01:20:31 No.2129

お世話になっております。

> 型の異なる数値を大小比較する際、表現力の大きい方を右に書くと結果が不正確になることがあるようです。
> [5<5.2]を表示 ーー○のはずだが×になる

状況確認しました。プログラムありがとうございます。
全く気が付いておりませんでした。

四則演算と同様にサイズの大きいデータ型に揃えてから比較するように修正しました。

ご確認ください。ご指摘ありがとうございます。
まだ色々あるかも知れませんが、気が付いた点などございましたら
よろしくお願いします。

修正確認しました。

投稿者:onichan <contact あっとまーくonichan.cf> 投稿日:2022/04/25(Mon) 10:06:22 No.2131

お世話になっております。

現象が1.7.1128で修正されていることを確認いたしました。
ご対応いただきありがとうございます。
今後ともよろしくお願いいたします。

▲ページの先頭へ

- WebForum -