コンピュータの基礎（CPU・メモリ・OS）

コアは実際に計算をする単位で、4コアなら同時に4つの処理を進められます。多くのCPUには、1つのコアで2つの処理を交互に素早く進めるハードウェアスレッド（IntelではHyper-Threading）があり、OSからは2つのCPUに見えます。ただし性能が2倍になるわけではありません。

クラウドのvCPUは、多くのx86インスタンスではこのハードウェアスレッド1つ分です（AWS Gravitonでは物理コア1つ分）。また、クロック周波数（GHz）は1秒間に刻む拍の数で、高いほど1コアあたりの処理が速くなります。

mpstat -P ALL でコアごとの偏りを見ると、1コアだけ張り付いているボトルネックが分かる。

OSのスケジューラは、実行したい処理（プロセスやスレッド）に順番にCPU時間を割り当てます。切り替えるときは、今の処理のレジスタなどの状態を保存し、次の処理の状態を復元します。これがコンテキストスイッチで、1回は数マイクロ秒程度ですが、CPUキャッシュの中身も入れ替わるため、回数が増えると目に見えて遅くなります。

スレッドを増やせば速くなるとは限らないのはこのためです。待ちの多い処理（I/O）ならスレッドを増やす効果がありますが、計算ばかりの処理ではコア数を超えて増やしても切り替えが増えるだけです。

スレッドを増やしすぎると、赤い切り替えの時間が増えて実際の処理が減る。

CPUのレジスタ、L1〜L3キャッシュ、メインメモリ、SSD、HDD、ネットワークの順に、アクセス時間は1段ごとに桁違いに遅くなります。メモリはL1キャッシュの約100倍、SSDはメモリの約1,000倍遅い、という感覚を持っておくと設計の判断に役立ちます。

キャッシュが効くのは、データの使われ方に偏りがあるからです。一度使ったデータはまた使われやすく（時間的局所性）、近くのデータも続けて使われやすい（空間的局所性）。この性質はCPUキャッシュでも、DBのバッファプールでも、Redisでも、CDNでも同じです。

ネットワーク越しの呼び出しは、メモリ参照の数千〜数百万倍遅い。呼び出し回数を減らす設計が効く理由。

プロセスが使うアドレスは仮想アドレスで、CPUの中のMMUがページテーブルを使って物理メモリの場所に変換します。メモリは4KBのページ単位で管理されます。これにより、プロセス同士がお互いのメモリを壊せない（隔離）、物理メモリより大きな空間を使える、といった利点があります。

プロセスが触ったページが物理メモリに無いとページフォルトが起き、OSがディスクから読み込みます。物理メモリが足りないと、使われていないページをディスクのスワップ領域に追い出します。スワップが頻繁に起きるとディスクの遅さが直接響き、性能が急落します。それでも足りなければ、OOM Killerがプロセスを強制終了します。

同じ「ページ0」でも、プロセスごとに別の物理メモリを指している。

下から順に、テキスト（機械語のプログラム本体、読み取り専用）、データ・BSS（グローバル変数や静的変数）、ヒープ（実行中に必要に応じて確保する領域）、そして上のほうにスタック（関数呼び出しの記録とローカル変数）が並びます。ヒープは上へ、スタックは下へ伸び、間が空き領域です。

スタックとヒープは向かい合って伸びる。どちらも無限ではない。

スタックは、関数を呼ぶとその関数用の区画（フレーム）が積まれ、関数が終わると取り除かれます。ローカル変数や戻り先がここに入ります。確保も解放もポインタを動かすだけなので非常に速いですが、大きさは小さく（Linuxのメインスレッドで通常8MB、Javaのスレッドで通常1MB程度）、深い再帰で溢れるとスタックオーバーフローになります。スレッドごとに1つあります。

ヒープは、関数が終わっても残しておきたいデータや、大きさが実行時まで分からないデータを置く場所です。プロセス内の全スレッドで共有します。C/C++ではmallocとfreeで自分で管理し、JavaやGo、Pythonでは参照されなくなったものをGC（ガベージコレクション）が回収します。解放し忘れたり、不要な参照を持ち続けたりすると、使用量が増え続けるメモリリークになります。

スタック上の変数がヒープのオブジェクトを指している。指す人がいなくなったものが回収対象になる。

GCは、スタックやグローバル変数から参照をたどって「まだ使われているもの」を見つけ、たどれないものを解放します。便利な反面、回収の作業中にアプリの処理を止める時間（Stop The World）が発生することがあります。この停止中は全リクエストが待たされるので、平均レイテンシは問題なくてもp99だけが跳ねる原因になります。

停止が長いほど、その間に届いたリクエストすべてのレイテンシが伸びる。

プロセスは、OSがプログラムを実行するときに作る単位で、それぞれが自分専用の仮想メモリ、開いているファイルの一覧、PIDを持ちます。あるプロセスが壊れても、他のプロセスのメモリは壊れません。新しいプロセスは、Linuxではfork（自分の複製を作る）とexec（別のプログラムに置き換える）で作られます。

スレッドは、1つのプロセスの中で並行に動く実行の流れです。コード、ヒープ、開いているファイルはプロセス内で共有し、スタックとレジスタだけをスレッドごとに持ちます。共有しているのでデータの受け渡しが速く、作るのも軽いですが、同じデータを同時に書き換えると壊れる（競合状態）ため、ロックなどの排他制御が必要です。また1つのスレッドがメモリを壊すと、プロセス全体が落ちます。

補足：GoのgoroutineやJavaの仮想スレッドは、OSのスレッドの上で動くさらに軽い実行単位で、少数のOSスレッドに大量の処理を割り当てて動かします。

プロセスの壁は厚く、スレッドの壁は薄い。速さと安全のトレードオフ。

「値を読む→計算する→書く」の間に別のスレッドが割り込むと、片方の更新が失われます。これが競合状態（レースコンディション）です。タイミング次第で起きたり起きなかったりするので、再現が難しい厄介な不具合になります。

対策は、その一連の操作を同時に1人しか実行できないようにすることです。ミューテックス（ロック）を取ってから処理し、終わったら外します。単純な加算などは、CPUが分割されない1つの命令として実行するアトミック操作で済ませることもできます。ただしロックを使うと、2つのスレッドがお互いの持つロックを待ち合うデッドロックの危険が生まれます。DBのトランザクションで起きる問題も、本質はこれと同じです。

DBのロストアップデートと同じ形。どの層でも「読んで書く」の間が危ない。

メモリは、アプリが動くユーザー空間と、OSの中核が動くカーネル空間に分かれています。ファイルを読む、ネットワークに送る、プロセスを作る、といったハードウェアに関わる操作は、すべてシステムコールを呼んでカーネルにやってもらいます。呼ぶたびにユーザー空間とカーネル空間の切り替えが起きるので、細かいシステムコールを大量に呼ぶと遅くなります。

straceを使うと、プロセスがどのシステムコールをどんな引数で呼び、どこで待っているかが見えます。「プロセスが固まっている」ときに、どのファイルやソケットで止まっているかを突き止める強力な手段です。

CPU使用率の us はユーザー空間、sy はカーネルで使った時間。sy が高ければシステムコールの多さを疑う。

プロセスがファイルを開いたり、ネットワークの接続を作ったりすると、カーネルは番号（ファイルディスクリプタ、fd）を返します。0は標準入力、1は標準出力、2は標準エラーで、それ以降が順に割り当てられます。この番号には1プロセスあたりの上限があり（ulimit -n）、超えると「Too many open files」で新しいファイルも接続も作れなくなります。

接続数の多いサーバーでは上限を引き上げ、fd数の推移を監視する。

ブロッキングI/Oでは、読み込みを頼んだスレッドはデータが届くまで止まります。同時に多くの接続をさばくには接続の数だけスレッドが必要で、メモリとコンテキストスイッチの負担が大きくなります。

イベントループでは、1つのスレッドがepoll（Linux）などで多数の接続を見張り、「データが届いた」「書き込める」と準備ができた接続だけを順に処理します。少ないスレッドで大量の接続を扱えるので、Nginx、Node.js、Redisがこの方式です。ただし、1つの処理で重い計算をすると、その間すべての接続が待たされます。

待ち時間が長い処理ほど、イベントループの効果が大きい。

O(n)なら、データが10倍になれば処理時間もおよそ10倍。O(n²)なら100倍、O(log n)ならほとんど増えません。定数倍（2倍速いなど）は無視して、データが大きくなったときに支配的になる部分だけを見ます。

小さいデータでは差がなくても、本番の大きなデータで差が爆発する。

ハッシュ関数は、どんなキーも決まった範囲の数値に変換します。その数値を置き場所（バケット）の番号として使うので、何件あっても平均O(1)で取り出せます。プログラミング言語の辞書（Pythonのdict、JavaのHashMap）やRedis、Memcachedの中身がこれです。

違うキーが同じ番号になる衝突は避けられないので、同じバケットの中をリストでつなぐなどして解決します。データが増えると衝突が増えるため、ある程度埋まったらバケットを増やして入れ直します（リハッシュ）。この入れ直しの瞬間だけ重くなることがあります。順序を持たないので、範囲検索や並べ替えはできません。

等価検索は最速だが、範囲検索はできない。用途でB+Treeと使い分ける。

コーディング試験がある会社では必要。ハッシュテーブル（平均 O(1)、衝突処理）、木構造、計算量の見積もりを押さえる。SRE向けにはログ集計やレート制限の実装などが出やすい。