Первым избранным в 1864 г. ростовским общественным раввином в течение почти четверти века (1864-1888 гг.) был Фабиан Осипович (Иосифович) Гнесин (1843? – 1891). Он окончил в 1863 г. Виленское раввинское училище (пришел пешком из бедного местечка в Минской губернии), лучшее в России, и исполнял обязанности ростовского раввина в августе 1863 – январе 1864 г. По воспоминаниям его сына, известного композитора М.Ф. Гнесина, «благодаря высоким моральным своим качествам отец встречал исключительное к себе отношение в городе и за пределами своей общины (он был членом Ростовской городской управы). Выдающиеся способности и страстная жажда знаний сделали его впоследствии широко образованным человеком. Он прочно впитал в себя освободительные идеи 60-х годов. В национальном вопросе он твердо держался той точки зрения, что вопрос этот разрешится только с победой освободительного движения России, что, при всех условиях, проникновение элементов русской культуры является необходимым для еврейской массы».

При вступлении в 1863 г. в должность раввина синагога была в полуразрушенном состоянии и грозила опасностью, в талмуд-торе училось 10 бедных полунагих и босых мальчиков при одном малограмотном учителе, кладбище было в овраге с полуразрушенной оградой, общественная купальня (миква) была окружена частными постройками и за узкий (в один аршин) проход, за который было необходимо платить порядочные деньги, и во всем остальном чувствовалось отсутствие руководителя.

Благодаря большим усилиям Ф.О. Гнесина в Ростове была построена Главная хоральная синагога. В своей речи на ее открытии 30 августа 1868 г. Ф.О. Гнесин провозгласил, что синагога «должна быть средоточием, к кото- рому все члены общества должны как радиусы к центру стремиться с одною мыслию: быть верными сынами отечества, полезными членами общества, среди которого живут, и попечительными о пользе просвещения… Чтобы синагога наша могла ясно доказать, что она служит нам не источником невежества, мрака и фанатизма, в чем нас так часто обвиняли, а источником разума, света и истины, должны мы начинать наши преобразования с синагоги; мы должны очищать ее от всех наростов, привившихся к ней во время невзгод и гонений мы должны облагородить наше богослужение, возвратить ему красоту, утраченную во времена религиозного фанатизма и преследований; мы должны возвратить ему правильное хоровое пение, которым оно так славилось в древние времена».

Особо Ф.О. Гнесин отметил, что многое удалось осуществить только при благожелательной помощи ростовского городского головы А.М. Байкова, который согласился быть попечителем строительства Главной хоральной синагоги и которому была доверена честь открыть ключом дверь новой синагоги.

Выступая на открытии синагоги, ростовский городской голова А.М. Байков поблагодарил за оказанную ему честь открытия синагоги, которое было специально отложено до его возвращения из поездки. Он напомнил, что в конце 1862 г., когда он только готовился приступить к своим обязанностям, он нашел еврейское общество Ростова-на-Дону «отчужденным, бесправным и раздираемым междоусобиями…» Он поставил себе задачу «уравнять евреев в отношении общественного положения в городе с прочими гражданами».

Затем он сказал, что «энергическим преследованием причин существующего в этом отношении раздора было достигнуто умиротворение страстей, водворился мир в Обществе, и если не полное согласие, то потрясающе правильный ход развития, вспышки и увлечения стали невозможны. Результатом этого было избрание достойного и просвещенного раввина Ф.О. Гнесина, который с любовью и добросовестностью предался исполнению своих обязанностей».

Далее А.М. Байков отметил справедливые заслуги бывшего гласного городской думы И.Ф. Волкенштейна. По инициативе Иосифа Филипповича было устроено Духовное правление, заведен порядок счетной и экономической частей синагоги, разработаны устав погребателей и многое другое. Он же немало содействовал строительству синагоги.

Наконец, А.М. Байков подчеркнул, что на освещении синагоги было немало лиц других исповеданий из городской администрации и «сливок общества», что явилось большим шагом вперед. Он оценил свойство евреев «сливаться в одно с той нацией, в среде которой они живут, усваивая себе интересы той местности, которая делается их отечеством…», еврейский народ славит при этом господа бога, «конечно, по обрядам того вероисповедания, в котором он родился и вырос».

Благодаря усилиям Ф.О. Гнесина в Главной хоральной синагоге богослужения сопровождались хоровым пением с участием кантора Элеазара Геровича, превосходного певца и хорошего композитора еврейской культовой музыки, его хоровые номера (псалмы Давида) пользовались заслуженной славой по всему югу России. При Ф.О. Гнесине появилось новое еврейское кладбище (ныне не существует) с каменной оградой. Было приобретено место, освободившее вход в микву и позволившее построить дом, который стал приносить довольно значительный доход. Расширение двора синагоги и приобретение двух дополнительных смежных участков позволило построить просторное и удобное здание для талмуд-торы. В ней обучаются 90 учеников, более половины которых получают бесплатно питание, одежду и обувь. Возрожденная талмуд-тора считается лучшей на юге России, ее выпускники  выдерживают экзамены в Петровское реальное училище.

Ф.О. Гнесин принимал активное участие в общественной деятельности: был гласным городской думы, членом городской управы, секретарем Александровского благотворительного общества. В 1879 г. А.М. Байков преподнес ему адрес с поздравлениями, когда он был избран шестой раз подряд на трехлетний срок раввином.

В том же 1879 г. в газете «Голос» (С.-Петербург) появилась статья с нападками на Ф.О. Гнесина, который якобы тратить средства коробочного сбора на свое содержание и на кантора с хором во вред интересам бедняков. Ф.О. Гнесин счел необходимым ответить в ростовской газете «Донская пчела». Годовой взнос в коробочный сбор (его размер определяется на торгах) платит не еврейская община, а откупщик коробочного сбора, тогда как каждый еврей платит заранее определенный властями (но не откупщиком) и не меняющийся акциз с каждого фунта покупаемого им мяса. Если богатые евреи покупали мясо в христианских лавках, уклоняясь от уплаты акциза в коробочный сбор, то убыток от этого мог быть только у откупщика, а не у бедных евреев.

Коробочным сбором заведует не Духовное управление синагоги (нередко называемое кагалом), а городская управа и выдает Духовному управлению ежемесячно суммы по журнальным постановлениям в соответствии с утвержденной правительством смете. Эти деньги расходовались на содержание талмуд-торы, на пособие бедным и больным, на ремонт ограды кладбища и погребение умерших бедных, на покупку миквы, на уплату недоимок и повинностей за неимущих мещан, на окончание постройки и отделки синагоги, на содержание синагоги и двух молитвенных домов при ней, на печатание еврейских метрических книг.

Жалование же раввину и служащим синагоги и молитвенных домов выдается из специальных доходов (пожертвований, кружечного сбора, за места в синагоге и пр.). Духовное правление (раввин, староста синагоги, ученый и казначей) избирается прихожанами на три года и утверждается губернатором. Оно своевременно печатает свои отчеты в ведомостях городской управы. В Ростове-на-Дону нет двух лагерей евреев, ведущих борьбу по делу о коробочном сборе, а имеется два-три десятка пришлых темных личностей, стремящихся попасть в члены Духовного правления и преследующих корыстные цели.

Однако в 1880 г. за Ф.О. Гнесина проголосовало на выборах 249 человек, а против 112. Он еще выиграл выборы в 1883 и 1886 гг., но в январе 1889 г. проиграл. Он и его большая семья остались без средств к существованию, в большой нужде. Еврейская община обсуждала возможность назначения ему пожизненной пенсии в 1000 руб. в год, но 13 октября 1891 г. скоропостижно он скончался.