Родился в Санкт-Петербурге в семье надворного советника, обер-секретаря Сената — Ивана Ивановича (Johann Ernst) Греча (1754—1803) и Катерины Яковлевны Греч (урожденной Фрейгольц), родной тетки известного скульптора П. К. Клодта.
Получил домашнее образование, затем закончил Юнкерское юридическое училище при Сенате (1801—1804), впоследствии преобразованное в Императорское училище правоведения. После окончания Юнкерского училища прослушал несколько курсов в Главном педагогическом училище в 1804—1807 годах. Затем служил секретарем в Министерстве внутренних дел и одновременно преподавал русскую и латинскую словесность в Главном немецком училище св. Петра (c 1804 по 1813 год), в Царскосельском Лицее и различных частных пансионах. Состоял членом Вольного общества любителей словесности, наук и художеств (с 1810). Был членом-корреспондентом Петербургской академии наук (с 1827).
Принимал участие в разработке цензурного устава 1828 года. Служил при министре внутренних дел, затем в Министерстве финансов (1836—1843), состоял членом Учёного комитета при Министерстве народного просвещения.Греч был близок к декабристам, поддерживал со многими из них дружеские связи. Состоял секретарём (с 1815), наместным мастером (1817—1818) близкой к декабристам масонскойложе «Избранного Михаила». Активный деятель Вольного общества любителей российской словесности в 1818—1823. Был одним из инициаторов и руководителей Вольного общества учреждения училищ по методе взаимного обучения. К началу 1825 сменил позиции на благонамеренные, однако и после восстания декабристов не прерывал с декабристами деловых и литературных отношений.
Многолетние деловые и дружеские отношения связывали Греча с Ф. В. Булгариным. В доме Греча проходили «четверги», на которых бывали К. П. Брюллов, Н. В. Кукольник, П. А. Плетнёв, А. С. Пушкин, гастролировавшие в Санкт-Петербурге артисты.
К заслугам Греча относятся «Практическая русская грамматика» (Санкт-Петербург, 1827; второе издание: Санкт-Петербург, 1834), «Начальные правила русской грамматики» (Санкт-Петербург, 1828), «Пространная русская грамматика» (т. 1, Санкт-Петербург, 1827; второе издание: Санкт-Петербург, 1830) и усилия по унификации русской грамматики.
Коллежский советник (1823), статский советник (1829), действительный статский советник (1838), тайный советник (1863).
За время службы получил в качестве наград (премий) 7500 рублей ассигнациями и 2000 рублей серебром.
Похоронен на Волковском лютеранском кладбище.
