Родился в древней казачьей станице Пресновской Петропавловского уезда Акмолинской губерни (ныне Жамбылский район Северо-Казахстанской области) в большой многодетной семье. Его отец Петр Семенович Шухов был гуртоправщиком.
В большой многодетной семье гуртоправа Петра Семеновича и Ульяны Ивановны Шуховых Ваня был самым младшим среди двенадцати своих братьев и сестер. "Всем, что во мне есть хорошего, в человеке и литераторе, - писал он, - обязан я моим неграмотным родителям, в первую очередь моей матери". По словам писателя, "это была простая станичная казачка, очень религиозная, очень общительная, очень доверчивая и кроткая женщина".…
Мать, будучи совершенно неграмотной, знала множество русских народных сказок, прибасок, поговорок, песен. Мальчик много ездил с отцом по казахской степи, что позже запечатлел в автобиографических «Пресновских страницах», повестях и романах, романтических новеллах.
Жизнь его отца, Петра Семеновича Шухова, проходила в постоянных длительных поездках по степному краю. Петр Семенович прекрасно изучил жизнь казачьих станиц и казахских аулов. Любящий отец и великолепный рассказчик, он делился со своей семьей впечатлениями от поездок и часто рассказывал об обычаях и нравах, о людях и судьбах, обо всем, что видел и слышал. Рассказы отца легли в основу воспитания детей, стали краеугольным камнем в определении творческого начала Ивана.
Годы обучения будущего писателя совпали со временем мировой и гражданской смуты. Первая империалистическая война, революция, гражданская война… Яркие и трагические события тех лет лягут в основу первых романа Ивана Шухова «Горькая линия» и «Ненависть».
В Пресновке он учился в начальной церковноприходской школе (1914–1917). Далее он окончил Омский рабфак (1926).
В Петропавловский педагогический техникум он пишет свои первые стихи, поэму, которые читает товарищам. Серьезная литературная работа началась во время его учебы на рабфаке в Омске. В 1925-1926 годах в «Журнале крестьянской молодежи» и в Омской газете «Рабочий путь» он печатает свои первые рассказы «За Ольховкой», «Ломь», «Перекрёстки дорог», «Зовущие», а также очерки и стихи. В 1926 году его имя упоминалось в статье Лэсси «Крепнущие голоса» (о творчестве омских поэтов) в газете «Рабочий путь». Стихи молодого поэта Ивана Шухова были включены в книгу «Колос», изданную в Вятке в 1928 году. С 1927 года, проучившись год в Литературно-художественном институте им. Брюсова в Москве, Шухов стал профессиональным журналистом, работает в редакциях московских газет. Много ездит по стране, живет в Омске, Свердловске, Тюмени, Перми, работая разъездным корреспондентом, печатает очерки в газетах и журналах. В 1927 году судьба свела Шухова с Шолоховым. Они встретились в журнале «Крестьянская молодежь».
Годы учебы в Петропавловске и Омске, первая поездка в Москву сблизили будущего писателя с передовыми творческими людьми.
Общеизвестно о дружбе Ивана Шухова с Михаилом Шолоховым. Конечно же, двух молодых литераторов объединила принадлежность к казачеству. Он вспоминает: "Тогда мы только начали входить в литературу, но нас связывала общность жизненного материала и опыта. Считаю, что мне повезло - тесное, непосредственное общение с Шолоховым в самом начале моей писательской биографии во многом помогло мне в литературном самоопределении. Помню глубочайшее впечатление, которое вызвали у меня опубликованные первые главы "Тихого Дона". Они-то и послужили своеобразным импульсом к написанию "Горькой линии".
В 1928 - 1934 г. г. - литературный сотрудник в газетах «Рабочий путь» (Омск), «Красная Башкирия» (Уфа), «Волжская коммуна» (Самара), «Советская Сибирь» (Новосибирск), «Сельскохозяйственный работник» (Москва).
До 1930 года он активно сотрудничает в качестве литературного сотрудника, разъездного спецкорреспондента во многих газетах Советского Союза. В «Уральской областной крестьянской газете» Иван Шухов встречается с П. П. Бажовым и около двух лет работает с ним в отделе крестьянских писем. Эта встреча стала знаком судьбы для будущего писателя. Именно Бажов укрепил в Шухове веру в его литературное призвание, убедил в том, что он должен писать. В 1928 году в журнале «Рост» было опубликовано произведение начинающего литератора «Песня о джуте, красной звезде и большом джигите». Познавая жизнь во всех ее проявлениях, переосмысливая, он переносил свой жизненный опыт на страницы литературных произведений.
В 1931 году в Московском издательстве «Федерация» вышла в свет первая книга Ивана Шухова – роман «Горькая линия», который высоко оценил М. Горький. В романе был показан рост самосознания революционно настроенных масс, казачества и казахского аула. Роман "Горькая линия", изданный в год 25-летия автора, явился мощным прорывом Ивана Шухова в большую литературу.
В 1935 году журнал «Октябрь» напечатал роман И. Шухова «Родина», повествующий о социалистическом преобразовании в сельском хозяйстве и создании совхозов. Роман вышел отдельной книгой в Алма-Ате. В 1940 году вышел в свет роман писателя «Действующая армия», посвященный событиям 1916 года в Казахстане. В нем живо и образно показана освободительная борьба коренного населения против царской власти, колонизаторской политики, против разжигания национальной и религиозной вражды между русскими и казахским населением. Яркими страницами романа стали главы, посвященные изображению быта и нравов сибирского казачества и степняков-кочевников.
В годы Великой Отечественной войны писатель работает редактором Пресновской районной газеты «Ударник» (1941 - 1943), выезжает к воинам-землякам на Северо-Западный фронт, пишет патриотическую повесть «Письма сибирским казакам». Эту маленькую книжечку многие воины носили в карманах своих гимнастерок. В годы войны в союзной и казахстанской печати публикуются фронтовые очерки и статьи И. Шухова, а также его «Письма сибирским казакам» («Дым Отечества»).
В 1957 - 1974- редактор альманаха «Литературный Казахстан», журнала «Простор».
В 1958 году И. П. Шухов принимает участие в Декаде казахского искусства и литературы в Москве, к этой дате издана его книга «Степные будни». В 1959 году писатель был избран депутатом Верховного Совета Казахской ССР. В составе группы советских писателей он впервые выезжает за рубеж. Впоследствии И. Шухов совершил несколько поездок за границу, литературным итогом их стала книга «Дни и ночи Америки», написанная по горячим следам и вышедшая в 1960 году, и «Югославский дневник». В 1968 году появилась новая книга И. П. Шухова «Родина и чужбина».
В 1963 году И. П. Шухов был назначен главным редактором литературно-художественного и общественно-политического журнала «Простор». Одиннадцать лет жизни посвятил Шухов журналу, который можно назвать одним из самых значительных его творений. Благодаря его стараниям и профессиональным прогрессивным взглядам, «Простор» вышел на большую литературную арену, получил признание всесоюзного читателя, стал одним из ведущих журналов. Он знакомил своих читателей с творчеством запрещенных в то время, незаслуженно забытых поэтов: М. Цветаевой, О. Мандельштама, П. Васильева, печатал произведения А. Платонова, М. Булгакова, Ю. Казакова, К. Паустовского, В. Каверина, И. Эренбурга, Ф. Искандера и многих других. Эти публикации зачастую вызывали недовольство критики и власти, ставили под удар и самого главного редактора. Но для И. П. Шухова основным критерием для публикации всегда являлся талант автора, его неординарность.
В первых публикациях периодической печати (с 1926) появился интерес Шухова к судьбе переселенцев, нашедших свою вторую родину в Казахстане и столкнувшихся с острыми социально-экономическими проблемами, вместе с казахской беднотой объединившихся на борьбу с несправедливостью ( роман «Ненависть»,1931).
Перевёл на русский язык рассказ М. Ауэзова «Охотник с орлом», романы С. Муканова «Ботагоз», «Школа жизни», походная тетрадь М. Габдуллина, «Мои фронтовые друзья», повесть М. Иманжанова «Первые месяцы».
Огромный вклад И. П. Шухова в развитие литературы высоко оценен.
30 апреля 1977 года сердце И. П. Шухова перестало биться.
