オンライン会議で、相手の返事がワンテンポ遅れて聞こえる。ボタンを押してから画面が切り替わるまでに、一瞬の間がある。こうした「待たされている感じ」の正体が、レイテンシです。
レイテンシは、通信や処理をお願いしてから、最初の反応が返ってくるまでの待ち時間です。荷物を送ってから「受け取ったよ」という返事が戻るまでの時間に似ていて、荷物の大きさとは別に、往復そのものに時間がかかります。相手が近ければ返事は早く、道が混んでいたり途中の確認が多かったりすれば遅れます。
回線が太くても、待ち時間は残る
回線が太い、つまり帯域幅が大きいことと、レイテンシが小さいことは別の話です。たくさんのデータを一度に運べる回線でも、最初の反応が遅いという状態は普通に起こります。
海外リージョンのサービスにつなぐと反応が鈍く感じるのは、物理的な距離のぶん往復に時間がかかるからです。そして一回の往復がわずかでも、1つの画面を表示するために何度も往復していれば、待ち時間は積み重なって体感差になります。
測るときは通信と処理を分ける
回線速度の数字だけを見ても、レイテンシは分かりません。遅さを調べるときは、応答時間そのものを測ります。そのうえで、サーバーが処理に時間をかけているのか、通信経路で待たされているのかを切り分けます。最初の返事までの時間と、処理全体が終わるまでの時間も、別々に見ておくと原因を絞り込みやすくなります。
通信経路が原因なら、利用者に近い拠点から配信するCDNやキャッシュが効く場面です。似た場面で出てくる「オーバーヘッド」との違いは、オーバーヘッドとレイテンシの違いで整理しています。