2010-09-22から1日間の記事一覧

bit と 2 進接頭辞の変換

最近 "64bit" て言葉をよく聞くし実際動いてるモノも普通に見かけるようになってきたんだけどそれがどのくらいの数を扱えるのか感覚としてわかっておきたい、みたいな。ある architecture でどの程度の primary memory を扱えるのかとか overflow させないた…

単位のハナシ

HDD の整理してたら出てきたなんか出てきたのでいい機会だからまとめ。情報科学・工学まわりの単位について。最近半導体まわりの news なんかでも見かけるようになった GiB だとかのハナシね。ちょいと調べてみると「 2 進接頭辞」というもので IEC が 1998 …