Joseph Grado, geboren in New York, verliet de middelbare school op 16-jarige leeftijd, waar hij horlogemakerij had gestudeerd en aan de top van zijn klas had gestaan. Hij ging werken voor Tiffany & Company en leerde ook 's avonds het ambacht van het maken van horloges. Toen hij begin jaren vijftig hifi-geluid ontdekte, bezocht hij Saul Marantz om hulp te krijgen bij het verbeteren van het geluid van zijn audiosysteem.

Marantz was onder de indruk van Josephs begaafde oor en stuurde hem naar de spartelende hifi-afdeling van Sherman Fairchild. Met Saul Marantz die de introducties deed, kreeg Joseph prompt een toppositie in het bedrijf. Zodra hij een ontwerp had bedacht voor een levensvatbaar product, ging hij er alleen op uit. Joseph schraapte $ 2.000 bij elkaar en begon phono-cartridges te produceren.

In 1953 begon hij met de productie van zijn cartridges op de keukentafel, het eerste huis van Grado Labs. In 1955 opende Joseph een fabriek in Brooklyn op het terrein van het kruideniersbedrijf van zijn in Sicilië geboren vader, dat tot op de dag van vandaag de thuisbasis is van Grado Laboratories.