那么，虎牢关的具体位置在哪里呢？根据相关史料的记载，虎牢关曾有新、旧两处城址。据《元和郡县图志》及《汜水县志》中的记载，虎牢关古城位于如今的河南省郑州市荥阳市境内的大伾山上，但由于隋唐时期黄河水道的冲刷与侵蚀，虎牢关古城已经残损不存。至唐开元二十九年（公元741年），虎牢关城址被迫移至如今的河南省郑州市荥阳市汜水镇，这里又被成为新虎牢关。
通过这些史料记载还能发现另外一个问题，即"虎牢关"与"汜水关"其实是一处关城的两个名字，并非像《三国演义》中描述那样是两处关隘。关于这个问题，在《资治通鉴》、《朱子语类》中也得到了证实，汜水关自隋朝时以县为名，与虎牢关实际上是一个地方。
由于虎牢关地理位置独特，自古以来就是兵家必争之地。隋唐时期，虎牢关作为首都洛阳的门户，朝廷对该地的建设、修缮、防御非常重视。到了元代之后，由于首都的地理位置变更，其历史地位逐渐下降，城池历经风吹雨淋变得破败不堪，如今城址遗迹已经荡然无存，只剩下一块刻有"古虎牢关"字样的石碑留存。
不过，这里有一点需要特别注意的地方，即"虎牢关"与"成皋关"的关系。近代部分学者根据《大清一统志》的相关记载认为：虎牢与成皋皆为一地，所以，虎牢关与成皋关也应该是一地两名的关系。但是，虎牢与成皋实际上是东西相对的两座关城，由于两城之间的距离特别近，所以被误认为是同一座关城。这在多份史料当中均有记载。
