Выдающийся миссионер, востоковед и филолог Николай Иванович Ильминский родился 23 апреля 1822 г. в городе Пензе в семье священника. Окончил Пензенское духовное училище и Пензенскую духовную семинарию. 

В 1842 г. стал студентом 1-го набора Казанской духовной академии. В академии увлекся изучением татарского и арабского языков. Эти занятия определили основные направления его научной, а позже и миссионерской деятельности. 

Окончил КазДА в 1846 г. магистром богословия и был оставлен в академии в качестве бакалавра по кафедре турецкого (татарского) языка, также преподавал математику, ботанику и философию. С целью дальнейшего изучения татарского языка в летние месяцы жил в Старотатарской слободе Казани, посещал занятия в медресе, много общался с муллами, татарскими купцами и жителями слободы. 

В 1851 г. отправился в командировку на Ближний Восток. Большую часть времени жил в Каире, где изучал мусульманское богословие, право и арабский язык, слушал лекции в университете аль-Азхар. В Палестине и Ливане изучал жизнь арабов-христиан, арабские переводы Священного Писания, жил в православных монастырях. 

В 1854 г. в КазДА открылось миссионерское противомусульманское отделение. По возвращении из командировки Н. И. Ильминский стал одним из двух его основных сотрудников наряду с Г. С. Саблуковым, читал лекции о мусульманском богословии и шариате. В 1857 г. ему было присвоено звание экстраординарного профессора. 

Стремление Ильминского дать студентам глубокие знания по мусульманской догматике привело к конфликту с ректором академии архимандритом Иоанном (Соколовым) и архиепископом Казанским Афанасием (Соколовым), которые обвиняли его в пропаганде ислама. В результате с начала 1858/59 учебного года он был отстранен от занятий на противомусульманском отделении. Ему предложили преподавать древнееврейский язык и математику, но он отказался и ушел из КазДА.

В октябре 1858 г. он был назначен переводчиком Оренбургской пограничной комиссии. Изучение казахского языка и повседневное общение с казахами определило еще одно направление его научной и просветительской деятельности. В 1859 г. он был переведен на должность чиновника для контроля в Киргизской степи той же комиссии, с апреля по сентябрь того же года участвовал в экспедиции по восточному берегу Каспийского моря и в переговорах с туркменами.

В 1860 г. в Казанском университете была воссоздана кафедра турецко-татарского языка. По инициативе ректора А. М. Бутлерова совет университета просил назначить на должность профессора Н. И. Ильминского. В 1861 г. приказом министра народного просвещения он был назначен исправляющим должность экстраординарного профессора, в 1863 г. утвержден в должности. 

Одновременно в 1863-1870 гг. он был экстраординарным профессором татарского и арабского языков КазДА. 

Был уволен из академии после введения устава 1869 г. и сокращения вакансий востоковедов. В 1872 г. оставил службу в университете. 

В том же году добился от министра народного просвещения Д. А. Толстого открытия Казанской инородческой учительской семинарии (с 1884 г. — Казанская учительская семинария). Утвержден директором семинарии, занимал эту должность до конца жизни. 

В 1870 г. был избран членом-корреспондентом Санкт-Петербургской академии наук, в 1875 г. — почетным членом КазДА.  

27 декабря 1891 г. после тяжелой болезни скончался в своей казенной квартире. В Захарие-Елизаветинской церкви Казанской учительской семинарии его отпевал епископ Чебоксарский Никанор (Каменский). 

Похоронен у правого придела церкви во имя Ярославских чудотворцев на Арском кладбище г. Казани. Могила сохранилась и почитается верующими, особенно кряшенами и чувашами. 

Архив Ильминского по поручению братства святителя Гурия Казанского систематизировал профессор КазДА П. В. Знаменский (ныне архив хранится в НАРТ).