Jože Šmit se je rodil v revni družini, v kateri je bilo 12 otrok. Že v zgodnjem otroštvu je šel za pastirja, osnovno šolo je obiskoval v Gaberju. Odločil se je, da bo nadaljeval šolanje in postal pisatelj. Leta 1941 je maturiral na klasični gimnaziji v Ljubljani. Med leti 1942-43 je študiral gozdarstvo na dunajski univerzi.
Študij na univerzi je prekinila 2. svetovna vojna. Bil je mobiliziran v nemško vojsko, a se je v Normandiji že tretji dan po izkrcanju zaveznikov predal; iz vojnega ujetništva se je v istem letu pridružil partizanom v Prekomorski brigadi NOV in se z njo vrnil v Slovenijo
Po osvoboditvi je v Ljubljani študiral primerjalno književnost in slavistiko. Ta študij je kasneje pustil, ker je postal novinar.
V Litijo je prišel po vojni. Leta 1951 se je poročil z Litijanko Mijo Lanc. Skupaj sta živela v naselju Gradec (Litija) do leta 1960, nato se je družina preselila v Ljubljano. Zadnja leta je preživel v domu starejših v Črnem vrhu nad Idrijo. Pokopan je na litijskem pokopališču.
Uredniško delo
Svojo poklicno pot je začel kot novinar pri Kmečkem glasu (1947-1961), dolga leta je bil nato lektor pri Mladinski knjigi (1961 – 1964) in urednik Cicibana (1964-1977).
Knjižno delo
Prevajal je leposlovje iz latinščine, nemščine, francoščine, angleščine, romunščine in srbščine. Zaslovel je s prevodi rimskega pesnika Katula.
Pesmi je pričel objavljati že leta 1938, ko je bil star 16 let.
Bil je pesnik prijetnih razmišljanj o osebnem razmerju do sveta in ljubezni. V iskreni pesniški govorici, prostem stihu in jasnih podobah govori o mladostnih občutjih, razmišlja o življenju in novem času, izpoveduje domovinska in ljubezenska čustva. Pesnikov čustveni svet prepletajo razumska spoznanja o človeku in življenju, hrepenenje po domačem kraju, po mladostni sreči in spomini na vojno.
Proza
Pripoved o Brezi, roman o partizanki Nadi Žagar-Brezi.
Poezija za odrasle
Dvojni cvet (1931), Srce v bedi (1950), Trepetlika (1962), Lirika časa (1965), Lirična postila (1965), Kolosej iz cedilike (1968), Kako bomo umirali (1970), Zlo stoletja (1971), Hoja za Katulom (1972), Eden izmed vas (1982), Vzeti kamen iz ust (1988), Grenki med (1990), Izbrana lirika (2002), Pesmi (2005).
Za otroke je napisal:
Marjetka (1951), Kaj nam je popisal Jakec (1953), Pol za šalo pol za res (1956), Kdo živi v tej hišici (1959), Kaj dela žabica (1973), Ježek se ženi (1974), Polonca gre na morje (1977), Vozimo, vozimo vlak (1977), Dedek Ježek in minibaba (1992).
Priznanja in nagrade
Za svoji zbirki Lirika časa in Koleselj iz cedilike je prejel Kajuhovi nagradi.
Založba Mladinska knjiga mu je leta 1970 podelila Levstikovo nagrado za zbirko Kako bomo umirali.