Taišeto lageriuose J. Ardzijauskui į rankas pateko Bernardo Brazdžionio eilėraščių rinktinė. Nuo tada jis tapo tautos dainiaus gerbėjas, poezija tapo jo gyvenimo neatskiriama dalimi. Susižavėjęs B. Brazdžioniu, Juozas rašė daug, su jaunatvišku įkvėpimu ir užsidegimu. Deja, katorgoje pražuvo keli šimtai Juozo eilių. Į tėvynę jis grįžo po Stalino mirties.
Publikuoti eiles J. Ardzijauskas pradėjo Atgimimo metais ir iš karto atkreipė dėmesį į save – patriotą, Atgimimo dainių, aistringą tribūną, skubantį visur, kur buvo kviečiamas. Autoriaus lėšomis leidžiamoje knygelėje - Sibiro tremties ir vėlesniais metais sukurti eilėraščiai.