Ислам Жарылгапов родился в 1918 году на территории нынешнего Бирликского аулсовета Жана-Аркинского района Карагандинской области в семье крестьянина-бедняка. В 1938 году окончил Алма-Атинское педагогическое училище, в 1942 году — факультет языка и литературы Казахского педагогического института имени Абая. Работал В Системе Наркомпроса Казахской ССР, преподавал в школе и вузах. В годы войны избирался секретарем Алма-Атинского обкома и горкома комсомола, был лектором ЦК ВЛКСМ. Некоторое время учился В Высшей дипломатической школе, но по состоянию здоровья был вынужден прервать учебу.
С 1946 по 1952 год И. Жарылгапов работал в аппарате ЦК КП Казахстана, позже — в Казгослитиздате, Министерстве культуры Казахской ССР, был заместителем главного редактора журнала «Жул-дыз». Ныне И. Жарылгапов работает в аппарате Союза писателей Казахстана.
И. Жарылгаповым переведены на казахский язык многие произведения классиков русской литературы, западно-европейских и русских советских писателей — «Кладовая солнца» М. Пришвина, «Рассказы о Дзержинском» Ю. Германа, «Эрнст Тельман» В. Бре-деля, художественные произведения А. И. Герцена, публицистические статьи Н. К. Крупской, Добролюбова, Шолохова, Эренбурга, Гриб ачева. Писателю принадлежат статьи-исследования о переводе на казахский язык трудов классиков марксизма-ленинизма.
И. Жарылгапов награжден медчлью «За доблестный труд в Великой Отечественной войне 1941 — 945 гг.».