John O´Shea podepsal z United profesionální smlouvu v srpnu 1998 a za prní tým nastoupil už o rok později, v ligovém poháru ve Villa Parku proti domácí Aston Ville. Po tom, co na rozmezí sezón 1998/1999 a 1999/2000 odehrál za rezervu 20 zápasů a střelil 1 gól, odchází v lednu 2000 na hostování do druholigového Bournemouthu, kde debutuje proti Colchesteru United.
Na jižním pobřeží nezůstaly jeho výborné výkony bez odezvy a často se objevili nadšené referencie, vyzdvihující jeho hru. Mohl hrát na obouch stranách obrany, ani pod tlakem nestrácel jistotu a s míčem na kopačce hrál sebevědomě a spolehlivě.
Po deseti startch a jednom góle (proti Millwallu) se v březnu 2001 O´Shea vrátil na Old Trafford, rozhodnutý probojovat se do prvního týmu. Tam nastoupil v dalších dvouch zápasech Ligového pohára (venku proti Watfordu a Sundelandu), jeho předsevzetí se mu nepodařilo naplnit a tak se v sezóně 2000/2001 pustil do dalšího hostování.
V tomto období tak pokračoval ve stopách Luka Chadwicka, Dannyho Higginbothama a Ronnieho Wallworka a připojil se k partnerskému týmu United - belgickému Royal Antwerp. John byl první volbou na místo středního obránce a pravidelně za Belgičany hrával, našel si čas i na mezinárodní fotbal a reprezentoval irskou reprezentaci do 21 let.
Netrvalo to dlouho a O´Shea se objevil i v seniorském reprezentačním drese - v srpnu 2001 v domácím zápase Irska s Chorvatskem přišel na hřiště jako náhradník v 84. minutě. Bohužel, Johnův debut v národních barvách skončil velkým sklamáním, v nastaveném čase totiž zavinil penaltu, díky které dokázali Chorvati vyrovnat stav střetnutí na 2-2. John se vrátil do rezervního mužstva United, ale připsal si i několik výborných zápasů za A-tým - například v Lize Mistrů proti Lille a Boaviste Porto.
Sezóna 2002/2003 byla poznačená příchodem hvězdného Ria Ferdinanda, O´Shea se však konečně zbavil různých kritických řečí ohledem jeho přínosu pro United. Byola to zlomová sezóna v Irově kariéře a konečně se napevno usadil v prvním týmu a základní sestavě. Kvůli množství zranění defenzívních hráčů v úvodu sezóny se John ocitl ve světle reflektorů skoro jako Sir Alex Ferguson plánoval. Všichni na Old Traffordu byli pozitívně překvapení jeho vynikajícími výkony, velkou všestranností a vysokou úrovní technických schopností.
John byl schopný hrat na levé i pravé straně obrany, taktéž jako v jejím sředu. Fanoušci United byli nesmírně překvapení jeho skvělými kličkami a nečakanými změnami pohybu, kterými mátl soupeřovy hráče, přitom užitečný byl hlavně na křídle jako útočně naladěný obránce. Obzvlášť pravdivé se to ukázalo při vysokém vítězství v Newcastlu (6-2), kde patřil k nejlepším hráčům. Na konci sezóny měl na kontě 52 zápasů a stal sa pevným článkem obrany Red Devils. Důkazem fantastické sezóny byla jeho nominace na najlepšího hráče United a rovněž byl navrhnutý na cenu pro nejlepšího mladého hráče sezóny PFA Young Player of the Year.
Sezóna 2003/2004 byla pro Johna značně náročnou, hlavně kvůli očekáváním, které po předcházejících vynikajících výkonech byli ješte vyšší. Zastavení činnosti Ria Ferdinanda se však jakoby podepsalo i pod ostatní obránce, kterých forma oproti predcházejícímu ročníku PL klesla. O´Shea však zůstal pravidelným hráčem základní sestavy a odehrál 32 ligových střetnutí a dokonce zaznamenal dva góly proti Wolverhamptonu.
Nasledující sezónu se však na levé straně obrany objavil Johnovi obrovský konkurent - Argentinec Gabriel Heinze. O´Shea se musel uspokojit s častějším pobytem na lavičce náhradníků, právě po střídání na Highbury (United vyhráli 4-2) však střelil šikovný gól, když z 20 yardů přeloboval brankáře. Ir si také vyskoušel, jak se hraje na nové pozici - objevil se totiž jako defenzivní štít v záložní řadě.
