2023年5月1日月曜日

端数処理について

まず四捨五入・五捨六入・五捨五超入についてまとめてみた。

ある桁で
場合分け
一つ上の桁ある桁以下
四捨五入
4以下不変全て0
5以上プラス1全て0
五捨六入
5以下不変全て0
6以上プラス1全て0
ある桁以下で
場合分け
一つ上の桁ある桁以下
五捨五超入
5以下不変全て0
5超えプラス1全て0


正負連続型(仮):正も負も同じ方向に端数処理。数の大小が関係する。

正負対称型(仮):絶対値の大小で端数処理。


int関数:正負連続型(仮)切り捨て

round関数:正負対称型(仮)四捨五入

roundup関数:正負対称型(仮)切り上げ

rounddown関数:正負対称型(仮)切り捨て


c7 =int($B7+1-C$2/10) c7:l27はc7をコピペ

m7 =-int(-$B7+M$2/10) m7:v27はm7をコピペ

w7 =rounddown($B7) x7 =ROUNDUP($B7) y7 =ROUND($B7) 以下略

BCDEFGHIJKLMNOPQRSTUVWXY
20123456789100123456789
3使用関数intintintintintintintintintintintintintintintintintintintintround
down
round
up
round
40.05切り
捨て
切り
上げ
切り
捨て
切り
上げ
四捨
五入
5正式
名称(的)
0捨
1入
1捨
2入
2捨
3入
3捨
4入
4捨
5入
5捨
6入
6捨
7入
7捨
8入
8捨
9入
9捨
10入
0捨
0超入
1捨
1超入
2捨
2超入
3捨
3超入
4捨
4超入
5捨
5超入
6捨
6超入
7捨
7超入
8捨
8超入
9捨
9超入
6略称
(仮)
1入
(仮)
2入
(仮)
3入
(仮)
4入
(仮)
5入
(仮)
6入
(仮)
7入
(仮)
8入
(仮)
9入
(仮)
10入
(仮)
0捨
(仮)
1捨
(仮)
2捨
(仮)
3捨
(仮)
4捨
(仮)
5捨
(仮)
6捨
(仮)
7捨
(仮)
8捨
(仮)
9捨
(仮)
71.0011111111111111111111111
81.0511111111112111111111121
91.1021111111112111111111121
101.1521111111112211111111121
111.2022111111112211111111121
121.2522111111112221111111121
131.3022211111112221111111121
141.3522211111112222111111121
151.4022221111112222111111121
161.4522221111112222211111121
171.5022222111112222211111122
181.5522222111112222221111122
191.6022222211112222221111122
201.6522222211112222222111122
211.7022222221112222222111122
221.7522222221112222222211122
231.8022222222112222222211122
241.8522222222112222222221122
251.9022222222212222222221122
261.9522222222212222222222122
272.0022222222222222222222222

余談1

int関数でround関数と同等の結果を出す式やその逆の式も作りたいが今回はここまで。


余談2

音律の五度圏id(仮)を変数とすると英語風音名の嬰数(#の数、bは-1)は正負連続型、拡張版音程の増数(増の数、減は-1、完全は0等)は正負対称型。長短もある後者の方が難易度が高い。


2023.05.01 23:13公開 単純ミスなどは適宜修正済&修正予定

0 件のコメント:

コメントを投稿