ИС-2 впервые был применен в Корсунь-Шевченковской операции, а затем участвовал во всех операциях завершающего периода Великой Отечественной воины. 5 марта 1944 года 15 танков ИС-2 поддерживали атаку 50 танковой бригады на Умань. Во время боя 5 танков было подбито огнем 88-мм зенитной батареи, 3 машины сломалось, а одна при переезде моста перевернулась и упала в болото вниз башней. Здесь же произошел на первый взгляд невероятный случай. Нижний лобовой лист одного ИС-2 был пробит подкалиберным снарядом немецкого противотанкового ружья с коническим каналом ствола калибра 28/20-мм. В ходе боев к 1 мая 1944 года в полку не осталось ни одной боеспособной машины. Первое зафиксированное боевое столкновение танков ИС-1 с «Тиграми» произошло, видимо, 4 марта 1944 года в районе города Староконстантинов. Первая гвардейская танковая бригада, имевшая на вооружении ИС-85 вступила в бой с «Тиграми» 503 тяжелого танкового батальона. В результате перестрелки с дистанции 1500-1800 метров, происходившей в туманную погоду, один ИС-1 был подбит, а три получили повреждения, но были восстановлены после боя. Ответным огнем ИС-ов у одного «Тигра» была повреждена пушка, а у другого ходовая часть. 16 марта находящиеся в засаде «Тигры» своим огнем подбили еще 4 танка ИС , два из которых сгорели вместе с экипажами. Чуть раньше, 8 марта, два ИС-а со 150-200 метров были расстреляны замаскированными 75-мм штурмовыми орудиями. Один танк получил 8 попаданий, второй - 4.

Итогом этих боев явилось заключение о несоответствии вооружения нового танка и его бронирования аналогичным показателям немецких тяжелых танков. Тогда же было рекомендовано изменить форму и бронирование лобовой части корпуса и немедленно усилить вооружение танков ИС, что немало способствовало ускорению работ по ИС-122.
Но несмотря на отмеченные недостатки, машины все-таки оказались довольно неприятным сюрпризом для немецких панцерваффе. Снаряды 122-мм орудия Д-25Т обладали большим разрушительным действием против средних танков (а часто и тяжелых). Так в ноябре 1944 г. районе г. Мишкольц 2 танка ИС-122 с расстояния более 1500 м расстреляли фугасными снарядами 7-10 танков PzKpfw IV, совершенно не пострадав от огня (в донесении танкистов о бое указано "уничтожено 10 танков", но пехотное командование указывает "подбито и уничтожено 7 вражеских танков").
В открытом поле против немецких танков наши ИС применялись редко и их "золотой век" начался с ведением боев в городах и против немецких долговременных огневых точек. Для уничтожения этих объектов 122-мм пушка подходила как нельзя лучше.
В середине 1945 года после выпуска 3483 танков его производство было прекращено.