По словам самого поэта, стихи Арсений Александрович начал писать очень рано. Однако первые публикации Тарковского – четверостишие «Свеча» (1927) и стихотворение «Хлеб» (1928) – состоялись уже во время обучения на Высших литературных курсах.

В 1924–1929 гг. Тарковский был сотрудником газеты «Гудок», автором судебных очерков, стихотворных фельетонов и басен (один из его псевдонимов – Тарас Подкова). С 1933 г. Тарковский начал заниматься художественным переводом.

Во времена хрущевской оттепели Арсению Тарковскому несколько раз предлагали опубликовать стихи. Однако поэт отказывался. В 1962 г. жена Тарковского Татьяна Озерская и писатель Виктор Виткович сами подготовили к изданию сборник поэта «Перед снегом», в который вошли стихотворения 1940–60-х гг. Туда же включили военную лирику поэта. Поэзия Тарковского, впитавшая в себя опыт мировой культуры и пронизанная утверждением ценности индивидуального человеческого бытия, продолжает традиции русской философской лирики и поэзии Серебряного века, ее основные темы – время и вечность, память и судьба, природа и искусство: сборники «Земле – земное» (1966), «Вестник» (1969), «Зимний день» (1980), «Стихи разных лет» (1983) и др., отмеченные многоплановостью образов, лаконичностью и сдержанностью стиля. В ноябре 1989 г. Постановлением Правительства СССР Арсению Тарковскому была посмертно присуждена Государственная премия СССР за книгу «От юности до старости».