Инициатором создания института стал академик И. В. Гребенщиков, который стал его первым директором. Предтечей института стала лаборатория кремния, созданная Гребенщиковым в 1933 г. В 1941 г. сотрудники лаборатории были эвакуированы из блокированного Ленинграда в Казань, где началась работа по изысканию местного сырья для керамической и стекольной промышленности. Благодаря сотрудникам лаборатории удалось организовать производство оптического стекла, что было крайне в условиях, когда единственное месторождение необходимой глины было захвачено врагом. 27 апреля 1962 г. институту было присвоено имя Гребенщикова. В 1969 г. институт был награжден орденом Трудового Красного Знамени, который был присвоен за успехи в развитии химической науки и подготовке научных кадров. В институте были разработаны новые огнеупорные материалы, была разработана теория химической устойчивости стекол. Для защиты судов, ракет, автомобилей и подводных судов были созданы органосиликатные композиции и новые оригинальные покрытия. Для орбитального корабля «Буран» Институт химии силикатов создал жаростойкое герметизирующее покрытие М-46. Оно использовалось для носового обтекателя, фюзеляжа и обтекателя крыльев. За годы работы института были созданы различные новые материалы, которые используются в области здравоохранения, машиностроения и оборонной техники. Сейчас в институте ведутся исследования наночастиц, синтеза новых неограниченных веществ, а также работы в сфере химической энергетики и экологии.
Институт химии силикатов имени И. В. Гребенщикова РАН размещается в двух зданиях. Основным из них является Северный пакгауз биржи. Вместе с Институтом химии силикатов там размещается Центральный музей почвоведения им. В. В. Докучаева и Институт геологии и геохронологии докембрия. Пакгаузы были построены после наводнения 1824 г., когда прежние были полностью разрушены. На фасаде здания Северного пакгауза размещены мемориальные доски в память о директорах института химии силикатов И. В. Гребенщикове и Н. А. Топорове. В 1970-х гг. часть лабораторий института переехала в новое здание на улице Одоевского, 24.