Die Gründungsphase des Osteuropa-Instituts fiel in die turbulente Zeit der Neukonstituierung der Berliner Universitätslandschaft. An der Vorbereitung waren Vertreter des Bundes, der amerikanischen Besatzungsbehörde, der Stadt Berlin und der Freien Universität beteiligt. Im November 1951, drei Jahre nach der Gründung der Freien Universität Berlin, wurde das Osteuropa-Institut in der Dahlemer Ehrenbergstraße 35 eröffnet. Damit war es eine der ersten Institutionen der bundesdeutschen Osteuropaforschung. Die Einrichtung eines eigenen Instituts für die Erforschung des östlichen Europas war ein programmatisches Signal: Es galt, eine Osteuropaforschung zu etablieren, die sich von den alten Tendenzen der völkisch orientierten Ostforschung im Nationalsozialismus zu befreien vermochte – und die zugleich angesichts der neuen Realitäten des Kalten Krieges einen Platz in der veränderten Welt- und Wissenschaftsordnung finden musste.

Um diese Herausforderungen zu meistern, wurde eine strukturell neue Organisationsform gewählt, die sich durch Inter- und Multidisziplinarität auszeichnete und Politikberatung mit wissenschaftlicher Grundlagenforschung verband. Eine zentrale Rolle hierfür spielten die Gründungsprofessoren Werner Philipp (Geschichte), Walter Meder (Recht), Karl Thalheim (Wirtschaft) sowie Max Vasmer (Slavistik). Der regierende West-Berliner Bürgermeister Ernst Reuter forderte am 24. November 1951 auf dem Festakt anlässlich der Gründung, dass ein Bewusstsein dafür geschaffen werden müsse, dass die Länder hinter dem Eisernen Vorhang „zu Europa gehörten und daß das Institut dazu beitragen möge, ein Band zu den osteuropäischen Völkern zu schlagen und einen Weg in eine bessere Zukunft zu weisen.“ Diesem Auftrag sieht sich das Osteuropa-Institut bis in die heutige Zeit verpflichtet.

Nach zehn Jahren war das OEI von vier auf neun Abteilungen angewachsen: Zu Slawistik, Geschichte, Wirtschafts- und Rechtswissenschaften waren Landeskunde und Soziologie, Medizin, Bildungswesen und Kunstgeschichte hinzugekommen. Im Sommer 1961 konnte das Osteuropa-Institut in den Neubau in der Garystraße 55 umziehen. Die Schlüsselübergabe erfolgte durch den Regierenden Bürgermeister Willy Brandt.