significant digit arithmeticとは 意味・読み方・使い方

The square arithmetic units 110 and 115 respectively include two unsigned multipliers for the most significant digit bit and the least significant digit bit and one signed multiplier for a cross product term, arrange the resultant products by shifting and addition, and employ an equivalent processing element.例文帳に追加

平方演算ユニット１１０、１１５は、それぞれ最下位ビットと最上位ビットに対する２つの符号なし乗算器とクロス乗積項に対する１つの符号付き乗算器を含み、この積をシフトと加算によって整列させ、及び同等の処理素子を採用する。 - 特許庁

In this case, an error to be generated due to the cutoff of non-display digits is guaranteed by adding 1 to the least significant digit of the valid display digits of the invert (100) of the divisor (102) to perform the above arithmetic processing.例文帳に追加

但し、非表示桁の切捨てにより生じる誤差を保証するため、除数の逆数（１００）の有効表示桁の最下位桁に１を加算（１０２）して前述の演算処理を行う。 - 特許庁

A CPU 150 performs a matrix arithmetic operations S for image data GD, carries up the significant digit of a color value of the image data GD, to increase the number of gradations of the image data from an 8-bit gradation into an 18-bit gradation.例文帳に追加

ＣＰＵ１５０は、画像データＧＤに対してマトリクス演算Ｓを実行した後、画像データＧＤの色彩値の有効数字を桁上げして、画像データＧＤの階調数を８ビット階調から１８ビット階調に増加させる。 - 特許庁

An adder means adds the N-bit count value from the up/down counter and the N-bit addition output as the value of a 1st addition result together in specific arithmetic cycles and outputs the carry output pulse of the most significant digit of the addition as the system clock.例文帳に追加

加算手段が上記アップダウンカウンタからのＮビットのカウント値と前回の加算結果の値である（Ｎ＋１）ビットの加算出力値とを所定の演算周期で加算して、その加算結果の最上位のキャリー出力パルスをシステムクロックとして出力する。 - 特許庁