Михайло Якович також працював (з другої половини 1926 р. і до початку 1927 р.) у Всеукраїнському історичному музеї ім. Шевченка, звідки звільнився внаслідок скандалу в зв'язку зі смертю В. М. Щербаківського.

У1927 р. він був запрошений як дійсний член на Кафедру антропології та географії при Харківському науково-дослідному відділі, яку в 1930 р. було реорганізовано в Український інститут матеріальної культури, де Михайла Яковича було призначено професором до травня 1932 p., коли він вийшов з його складу внаслідок скорочення штатів.

1931 р. унаслідок проведеної виставки експонатів з Мізинської археологічної стоянки вийшла невелика збірка «Мізин І. Визначніші серії кістяних виробів Мізинської палеолітичної стації в освітленні Федора Вовка» за редакцією М. Я. Рудинського. Вона містила нотатки, точніше - картки зібраних матеріалів Ф. Вовка до кістяних виробів Мізинської палеолітичної станції, таблиці та пояснення до таблиць українською та французькою мовами; до видання було додано короткий провідник до виставки з окремою пагінацією «Мізинська палеолітична стація й нові палеолітичні знахідки на території УСРР» теж двома мовами [4, с. 1-6,9- 26,27-35].

Після реорганізації ВУАН було порушено питання про централізацію академічних наук, виникла проблема: куди саме направити Кабінет-музей з його відділами фізичної антропології та передісторії (палеоетнології)? Звичайно, потрібно було увійти в цикл історичних наук. Проте ні директор кабінету А. 3. Носов, ані М. Я. Рудинський цього не хотіли. Михайло Якович наполягав на передісторичних знаннях, а Анатолій Зіновійович розглядав антропологію як природничо-історичну науку. Нарешті доля Кабінету- музею була вирішена: він увійшов до складу реорганізованого Інституту матеріальної культури при ВУАН, точніше АН УССР у кінці 1933 р. [5, арк. 21]. М. Я. Рудинського було призначено керівником відділу докласового суспільства в Кабінеті антропології та етнології. Він брав активну участь в археологічних розкопках Мізина, Пушкарях на Чернігівщині, Білій Церкві на Київщині та Новгород-Сіверському, а також на Могилевщині (Поділля), здійснював екскурсії на Кам'янець-Подільщину. Автор багатьох праць, найвидатніші з яких пов'язані з діяльністю Кабінету, друкувався в «Антропології» (науковий доробок «Мізин» для 3-го тому, стаття для 4-го тому).

Другий арешт М. Я. Рудинського відбувся у березні 1934 р. Причиною послугувала участь вченого в нібито підпільній націоналістичній організації, яка складалася зі співробітників Академії В. О. Гериновича, Є. Д. Сташевського (заарештований і загинув під час допиту 26 липня 1938 p.), М. О. Драй-Хмари (заарештований у 1933 p., помер у 1939 p.), С. Ю. Гаєвськош (заарештований в 1933 р. та висланий до Середньої Азії), Б. Д. Грінченка, М. І. Ясинського, А. 3. Носова, К. В. Квітки (керівник Кабінету музичної етнографії ВУАН, був заарештований у 1933 та 1934рр., засланий до Середньої Азії), О. Б. Курило (заарештована в 1937 р.). В уявну організацію владою також були зачислені П. П. Курінний (заарештований в 1933 р.), Д. М. Щербаківський (помер 1926 р.), К. В. Мощенко (архітектор реставраційних майстерень Музейного містечка), Ф. JI. Ернст (науковий співробітник Кабінету українського мистецтва ВУАН), М. О. Макаренко, В. Є. Козловська (науковий співробітник Археологічного комітету), В. М. Базилевич (науковий співробітник Краєвої інспектури охорони пам'яток культури), С. Ю. Спаська (в 1934 р. репресована і заслана до Казахстану), М. І. Вязьмітіна, Д. І. Гордєєв та багато інших. Наукові доробки, які були надруковані, слугували доказом та були тавровані як самостійницькі. Це зокрема, брошура «Український портрет» Д. М. Щербаківського та Ф. JI. Ернста; монографія Ф. JI. Ернста «Нарбут»; статті Д. М. Щербаківського, М. О. Макаренка та Ф. JI. Ернста в журналі «Україна» за редакцією М. С. Грушевського; провідник по Всеукраїнському музеєві; некролог Антоновича В. Козловської; брошура М. О. Макаренка «Український орнамент»; «Провідник по Києву» - колективна праця П. П. Курінного, М. Я. Рудинського за редакцією Ф. JI. Ернста. Низка семінарів, проведених при Всеукраїнському історичному музеї, Кафедрі мистецтвознавства та Кабінеті антропології ВУАН були оголошені як «таємне вербування» молоді.

Унаслідок численних обвинувачень М. Я. Рудинський був засуджений до трьох років заслання в Північний край з 14 березня 1934 р. Лісоповал за Котласом, контора облспоживспілки та обласний музей у Вологді були його місцем роботи до 1944 р. Та М. Я. Рудинський не полишає наукової та пам'яткоохоронної діяльності. 1944 р. вчений повертається на Україну, де займає посаду вченого секретаря Інституту археології АН УРСР в Києві. 1948 p. М. Я. Рудинському присвоєна наукова ступінь доктора історичних наук, у 1950-х pp. Михайло Якович очолював відділ первісної археології цього ж інституту. Помер він 23 червня 1958 p., похований на центральній алеї Байкового кладовища в Києві, де над могилою стоїть скромна гранітна стела з написом: «Михайло Рудинський - археолог». Реабілітований посмертно 22 червня 1989р. [5, арк. 6,7,8,11-19,35].

Основні наукові праці М. Я. Рудинського

Рудинський, М. Я. Архітектурне обличчя Полтави / М. Я. Рудинський. - П., 1919.-35 с.

Рудинський, М. Я. Ясні зорі: Чит. для 2 і 3 років шк. початкових / М. Я. Рудинський. - П.

Ч. 2: Зима,-1918.-66 с.

Ч.З: Весна.-1918.-56 с.

Ч. 4: Літо.-1918.-72 с.

Рудинський, М. Я. Зігфрід. Перша частина «Пісні про Ніблюнгів» / М. Я. Рудинський / за рос. перекладом М. Кудряшова. - П., 1919. - 64 с.

Рудинський, М. Я., Ярошенко, М. І М. Я. Рудинський.