Пет години отделят Втория клавирен концерт на Рахманинов от предишното му клавирно произведение – шестте музикални момента опус 16. След един тежък период, изпълнен с мъчителни съмнения, разочарования и размишления относно жизнения му път (провалът на Първата симфония през 1897 се отразява много зле на душевното му здраве), композиторът се представя в новата си творба като зрял, утвърден майстор с ярко изразена индивидуалност и изграден маниер на писане.
Произведението, създадено на границата между две епохи (есента на 1900 – месец април 1901-а), носи на своя автор заслужен успех и с право е признато за най-добрия руски клавирен концерт след си-бемол минория концерт на Чайковски. В същото време, запазвайки всички белези на приемственост с наследството на Чайковски и останалите руски и чужди композитори от 19-и век, Вторият клавирен концерт на Рахманинов съдържа в себе си една напълно нова образност и нови средства на музикалния израз. Тук композиторът се показва като оригинален художник, свободен от всякаква изисканост, и в същото време – владеещ всички средства на най-нова техника.
Спокойно можем да наречем тази творба „вдъхновена лирико-патетична поема за пиано и оркестър“. Чертите на поемността се проявяват в тенденциите към единство на цикъла и непрекъснатост на развитието, достигнати с помощта на разгърната система от интонационно-тематични връзки и модулиращи спойки между отделните части. Елементите на съревнование между солист и оркестър – един от основните определящи признаци на класическия концерт – тук отстъпват място на тясното взаимодействие между двете страни. Някои от съвременници на композитора дори са били смутени от почти пълното отсъствие на самостоятелни „концертни епизоди“, в които на солиста да се предостави възможността свободно да демонстрира виртуозните си възможности. Критиците в нерешителност се спирали пред въпроса дали това е достойнство или недостатък на произведението. Днес със сигурност можем да кажем, че това е един от шедьоврите не само в руската, но и в световната музикална литература. Със своя дълбок лиризъм и изумителна мелодическа красота и изразителност, той донася на Рахманинов славата на ненадминат майстор, а главната тема на първата част на концерта, един от забележителните образци на Рахманиновия мелодичен дар, с право е наречена от Николай Метнер „Една от най-ярките теми на Русия“ .
Концертът е изпълнен за първи път на 9 ноември 1901 в Москва. Солист е бил самият Рахманинов, а на диригентския пулт бил неговият братовчед – Александър Зилоти.