資格の勉強

資格の勉強

【資格の勉強】浮動小数点形式

浮動小数点形式とは、符号部、指数部、仮数部の3つのパーツで小数点数を表す。符号部は、1ビットで正の数か負の数かを表す部分のこと。0は正、1は負を表す。浮動小数点においては、小数点以上(一番左)にある1桁を指す。指数部は、累乗を表す部分のこと...
資格の勉強

【資格の勉強】シフト演算

シフト演算とは、ビット列を左右に動かす(シフトする)演算のこと。論理シフトなかでも論理シフトは、ビットをずらすだけ。左に1ビットシフトする場合、値は2倍になる。逆に右に1ビットシフトすると半分になる。例えば、10進数の8を2進数で表すと00...
資格の勉強

【資格の勉強】符号拡張

符号拡張(ふごうかくちょう)とは、符号付き整数を、より大きなビット幅に変換する際に、正の数なら正の数のまま、負の数なら負の数のまま拡張する手法のこと。小さいビットから大きいビットに変換できるが、逆はできない。入り切らないビットが溢れてしまう...
資格の勉強

【資格の勉強】論理演算

論理演算とは、コンピューターが行う演算の一つ。他に、四則演算(加算、減算、乗算、除算)、シフト演算などがある。AND演算、OR演算、NOT演算論理演算には、AND演算、OR演算、NOT演算がある。AND演算は、「AかつB」と考え、どちらの条...
資格の勉強

【資格の勉強】ベン図

ベン図とは、論理演算を表す図のこと。