Grand Central Station var namnet på den station som innan dagens Terminal (motsvarande Centralstation) fanns på platsen och tjänade det privata järnvägsbolaget New York Central Railroad. Stationen var länge underdimensionerad och bestod främst av en mycket stor bangård täckandes större delen av dagens Park Avenue med tillhörande byggnader. Ett stort problem för järnvägsbolaget var den mycket bullriga och smutsiga miljö som bangården och dess koleldade ånglok bidrog till. När New York växte kraftigt under slutet av 1800-talet blev situationen ohållbar då oljudet och smutsen från stationen spred sig över hela staden. Det konkurrerande järnvägsbolaget Pennsylvania Railroad hade börjat att ta marknadsandelar från Central Railroad när man öppnat en ny centralstation intill Hudsonfloden och Central Railroad var tvungna att förbättra sin kapacitet genom navet New York City. Idén på en station under jord växte fram, en huvudstation i ett nytt eldrivet järnvägsnät. På detta sätt skulle man få bukt med både de stora bullerproblemen och även miljön i staden. Problemet var finansieringen, främst då New York City vägrade att skjuta till skattemedel för byggnationen. Problemet löste sig genom tanken på byggnation och säljande av innerstadsmark på det som då var bangårdsområde. Om stationen till största delen låg under jord skulle man inte behöva de enorma landareal som vid tiden täcktes av järnvägsspår. Resultatet blev byggnationen av Park Avenue med dess byggnader. Stationsbyggnaden stod klar 1907 och var då den största i hela världen, en position som den än idag innehar.