Писать стихи Н. Рыленков начал еще в школе.

В 1926 г. девятиклассник Рыленков принес стихи в редакцию газеты «Смоленская деревня», в 1929 г. начал печататься в местных газетах «Наша деревня», «Путь молодежи», «Брянский рабочий».

В 1933 г. в Смоленске Рыленков опубликовал первую книгу стихов «Мои герои».

Второй книгой также в Смоленске стал сборник «Встречи».

В конце 1930-х гг. были изданы «Стихи о зажиточной жизни», поэма «Земля», за ними последовал «Березовый перелесок» (1940).

С первых книг Рыленков заявил о себе, как о певце родного края.

Поэт создает стихи об истории Смоленска: «Мастер Федор Конь», «Кутузов в пути», «Памятник 1812 г. в Смоленске» и др.

Стихи Рыленкова получают признание, о них одобрительно отзывается М. Горький.

С 1936 г. Рыленков возглавляет Смоленскую писательскую организацию. Становясь мастером эпического жанра, пишет поэмы на темы русской истории: «Большая дорога» (1938), «Скоморох Овсей Колобок» (1939), «Великая Замятия» (1940).

В войну, на фронте, продолжал писать стихи.

Рыленков работает в разных жанрах, пишет стихи, песни, баллады, поэмы «Апрель», «Лесная сторожка», «Возвращение», «Сотворение мира», «В родном краю».

Стихотворение Рыленкова «Отомсти, товарищ» пели, как народную песню. В 1943–1944 гг. были изданы книги стихов Рыленкова «Синее вино», «Прощание с юностью», «Смоленские леса».

Участвовали в войне и довоенные строки Рыленкова – на тайных сходках молодые смоляне-подпольщики читали призывные строки поэмы Рыленкова «Великая Замятня», посвященной борьбе жителей Смоленска против интервентов в прежние времена.

В 1946 г. Рыленков издал в Смоленске книгу с записями партизанских песен «Живая вода».

В дальнейшем Рыленков обращается к прозе, осмысливая пройденный народом путь, выходят в свет его повести «Великая Росстань», «На старой Смоленской дороге», выстраивается автобиографическая трилогия: «Сказка моего детства», «Мне четырнадцать лет», «Дорога уходит за околицу».

В адрес Рыленкова раздавалась и критика – упрекали за якобы пассивное любование природой, за отсутствие гражданственности в стихах о ней. Хотя образы природы в творчестве Рыленкова глубоко гражданственны и патриотичны.

Народной песней стало написанное в 1948 г. стихотворение Рыленкова «Ходит по полю девчонка».

К песенным стихам Рыленкова обращались многие композиторы: М. Фрадкин, А. Флярковский, И. Массалитинов и др.

Рыленков создал собственный стихотворный пересказ «Слова о полку Игореве».

Последнее десятилетие жизни поэта было особенно продуктивно, вышли книги прозы «Волшебная книга» (1964), «На озере Сапшо» (1966) и др., книги стихов «Корни и листья» (1960), «Жажда» (1961), «Пятое время года», «Избранная лирика» (обе – 1965), «Снежница» (1968), «Книга времени» (1969) и др.

Значительным вкладом в литературу стали книги Рыленкова по истории поэзии: «Традиции и новаторство» (1962), «Душа поэзии» (1969).

Стихи Рыленкова о М. Глинке и Бетховене вошли в антологию «Музыка в зеркале поэзии».

Проявлением «доброй души» поэта (так названа книга о нем) явились и его переводы поэтов соседней Смоленщине Белоруссии: Я. Коласа, П. Бровки, М. Танка, А. Кулешова, П. Панченко, А. Велюгина, А. Зарицкого, Ф. Пестрака, П. Труса, К. Киреенко, а также статьи об их творчестве.

Переводил Рыленков стихи и поэтов других народов, часть переводов собрана в книге «Журавлиные трубы» (1972).

В последние годы жизни Рыленков разрабатывает новый для себя жанр эпитафии.

На фасаде зданий в Запольном переулке, дом № 4 и по улице Нахимсона, дом № 16 в г. Смоленске – мемориальные доски Н. Рыленкову (скульптор А. Г. Сергеев).

Ежегодно в с. Тюнино Рогнединского р-на Брянской обл. проходит праздник поэзии, посвященный Н. Рыленкову.