Żydowski Instytut Naukowy powołany w Wilnie, jednym z największych polskich miast II Rzeczypospolitej, stał się czołową naukową instytucją żydowską w międzywojennej Europie. Stanowił pionierską i interdyscyplinarną organizację, która prowadziła nowoczesne badania nad językiem jidysz, wydawała prace historyczne, etnograficzne, socjologiczne. Dokumentowano również materialne ślady kultury żydowskiej.
W lutym 1925 r. mieszkający w Kijowie filolog Nachum Sztif, w swej pracy nad językiem jidysz, doszedł do wniosku, że niezbędne jest założenie instytucji, w której żydowscy nauczyciele i dziennikarze mogliby uzupełnić swe wiadomości językowe. Miała być ona uczelnią nie uniwersytecką o charakterze czysto akademickiej instytucji i posiadać 4 sekcje: filologii żydowskiej, historii żydowskiej, spraw socjalno-ekonomicznych i pedagogicznych. Sztif uważał, że Wilno byłoby odpowiednim miastem na jej siedzibę, zwłaszcza że nazywano je.. „Litewską Jerozolimą”..
W wileńskiej Radzie Miejskiej od 1919 r. działał Klub Izraelitów, którego staraniem w 1923 r. Rada podjęła decyzję o przyznaniu ciągłych dotacji w ramach budżetu miasta na prywatne szkolnictwo żydowskie. Sztif zaproponował utworzenie całego systemu instytucji rozrzuconych po różnych krajach, które byłyby podporządkowane jednej centrali, na której siedzibę wybrano właśnie Wilno.
Instytut, którego twórcą i kierownikiem był językoznawca i działacz społeczny Max Weinreich, stawiał sobie następujące zadania: „koncentrować twórczość naukową w języku żydowskim, przede wszystkim zaś badania nad językiem oraz literaturą żydowską”, „wyszkolić pracowników naukowych”, „rejestrować wszelkie przejawy żydowskiego życia kulturalnego na całym świecie”. 1 września 1927 r. oficjalnie zarejestrowano stowarzyszenie pod nazwą Towarzystwo Przyjaciół Żydowskiego Instytutu Naukowego w Wilnie. Założyciele JIWO poszli drogą zakładania towarzystw przyjaciół instytutu w różnych krajach, które miały zdobywać środki na jego funkcjonowanie. Ostateczny kształt organizacyjny Instytut uzyskał na konferencji, która odbyła się w dniach 24-27 października 1929 r. w Wilnie z udziałem przedstawicieli Polski, Litwy, Łotwy, Estonii, Rumunii, Niemiec i USA. Powołano Prezydium Honorowe, w skład którego weszły osoby znane na całym świecie, m.in. Albert Einstein czy Siegmund Freud. Działalnością placówki zainteresowały się gminy żydowskie oraz samorządy polskich miast, które zaczęły wspierać uczelnię finansowo. Rada miasta Wilna przewidziała w budżecie miasta coroczne subwencje w wysokości 3 000 zł.
W 1926 r. powstała Centrala Bibliograficzna JIVO, która rejestrowała wszystkie druki ukazujące się w języku żydowskim i hebrajskim oraz w innych językach dotyczące spraw żydowskich. W 1931 r. instytut zaczął także wydawać miesięcznik „Jiwo Bleter” jako wspólny organ wszystkich sekcji: filologicznej, historycznej, ekonomiczno-statystycznej, psychologiczno-pedagogicznej. Powstanie i działalność JIVO zostało zauważone i docenione w polskim środowisku naukowym. W kwietniu 1931 r. w radiu wileńskim prof. Mieczysław Limanowski chwalił powołanie instytucji: „Prace Instytutu ściągnęły nań, a tem samem i na Wilno, uwagę całego świata żydowskiego. Dziesięć milionów Żydów, mówiących po żydowsku, uważa Wilno za swoje centrum. (…) My Wilnianie jesteśmy specjalnie zainteresowani w tem, by Instytut się rozwijał; wiemy, bowiem, jakie znaczenie mają dla miasta instytucje o znaczeniu wszechświatowym”. Towarzystwa Przyjaciół JIVO istniały w wielu miastach Polski, m.in. w Warszawie, Łodzi, Lwowie, Krakowie, Białymstoku, Lublinie. Władze polskie na ogół bardzo przychylnie odnosiły się do inicjatywy powołania instytutu w Wilnie. Z drugiej strony obawiano się napływu literatury komunistycznej z Rosji Sowieckiej.
Do 1939 r. dorobek JIVO znacząco się powiększył. Organizowane było Muzeum Sztuki, które posiadało sporo wartościowych obrazów. Muzeum Teatrologiczne, powołane w 1931 r., dysponowało kilkudziesięcioma tysiącami fotografii, plakatów, makiet itd. Centrala Bibliograficzna liczyła ponad 200 000 jednostek rejestracyjnych, biblioteka posiadała przeszło 40 tysięcy jednostek (w tym wiele unikatów i rzadkości), archiwum dysponowało kilkoma tysiącami rękopisów oraz około 100 000 plakatów, ulotek, statutów i sprawozdań organizacji społecznych. Materiały Komisji Ludoznawczej stanowiły ponad 100 000 jednostek folklorystycznych (inwentaryzowano przysłowia, wierzenia ludowe, twórczość dziecięcą, pieśni, anegdoty, baśnie, zwyczaje świąteczne i obiekty etnograficzne). Wydział Badania Młodzieży zebrał ponad 600 autobiografii młodzieży w wieku od 17 do 22 lat z przeszło 150 miast. JIVO w 1937 r. wspierały Towarzystwa Przyjaciół w 20 krajach świata: Afryce Południowej, Anglii, Austrii, Belgii, Brazylii, Chile, Chinach, Estonii, Francji, Kanadzie, Kubie, Litwie, Łotwie, Meksyku, Palestynie, Polsce, Rumunii, Stanach Zjednoczonych, Szwajcarii i Urugwaju. Mniejsze grupy wspierające instytut istniały w szeregu innych państw (poza Związkiem Sowieckim, gdzie założono kilka żydowskich placówek naukowych w duchu sowieckim). Wydano 12 tomów z serii monografii i 57 numerów biuletynu informacyjnego. . Utworzono także fundusz dla finansowania wydania encyklopedii powszechnej w języku żydowskim (dwa pierwsze tomy ukazały się na przełomie 1934/35).
Działalność Instytutu w Wilnie została wstrzymana w 1940 r. W czasie okupacji niemieckiej jego pracownicy trafili do getta, a duża część zbiorów została zniszczona lub rozgrabiona. Niektóre najcenniejsze obiekty udało się uratować, zostały one wywiezione do Niemiec, a następnie przekazane po wojnie Instytutowi działającemu do dziś w Nowym Jorku.