Родился в Оренбурге в еврейской семье. В Гражданскую войну был на стороне красных и служил в театре при  политотделе Первой армии Восточного фронта. После окончания Гражданской войны поступил в 1922 году во МХАТ*  актёром. Вскоре начал ставить спектакли самостоятельно. В его активе известные постановки: «Достигаев и другие» (1938 г.), «Офицер флота» А. Крона (1945 г.), «Разлом» по Лавренёву (1950 г.), « Милый лжец» (1962 г.) и др. Сделал несколько очень известных и популярных экранизаций классических пьес, таких как «На дне» (1952 г.), «Мещане» (1965)  фильм-спектакль « Кремлёвские куранты» (1967), фильм - спектакль «Милый лжец». Поставил также ряд спектаклей в Белоруссии: в Первом БГДТ им. Я.Купалы «Кто смеется последним» и «Милый человек» К.Крапивы (1939, 1945), во Втором БГДТ им. Я.Коласа – «Враги» Горького (1952). Во МХАТе самостоятельно: «Милый лжец» Дж.Килти (1962), «Дон-Кихот ведет бой» В.Н.Коростылева (1966). В 1966 Раевский поставил «Три сестры» Чехова в т-ре «Рио вер» (Монреаль). С 1932 г. преподавал в  ГИТИСе,   с  1945 года зав.    кафедрой актерского мастерства.
        Помимо русских актерских курсов, выпустил североосетинский, кабардинский, казахский, эстонский  и киргизский курсы для  национальных студий. Поэтому, не случайно в дополнение к званию Народного артиста СССР, Иосиф Раевский имеет звания заслуженного деятеля искусств Северо-Осетинской АССР и Народного артиста БССР. К столетию со дня его рождения в Белоруссии была выпущена почтовая карточка с оригинальной маркой, на которой изображена сцена из поставленного им в Белоруссии спектакля «Три сестры». Иосиф Моисеевич Раевский был награждён тремя орденами СССР. Похоронен в Москве на Переделкинском кладбище.