본 연구소는 1985년 한국외국어대학교 일본어과 내의 <일본문화연구회>로서 발족되어 1985년 4월에 연구논문집『 日本文化硏究』를 창간호로 발간하였다. 일본문화 연구회(1985~1990)단계 때는 1대 연구회 회장 정재인 교수, 2대 연구회 회장 이윤경 교수, 3대 연구회 회장 박희태 교수를 거치면서 학내 교수들의 연구회로서 그 토대를 다져나갔다. 이런 성과에 힘을 입어 연구회 설립 만 5년 만에 김태정 연구소장 재임시기인 1990년 9월에 <일본문화연구소>라는 명칭으로 연구소로서 정식으로 발족하게 되었다. 1985년부터 1992년까지 연 1회씩 『일본문화연구』제6호까지 발간하였다.
1990년 9월 연구소 발족 후 3년 후인 1993년 8월 본 대학의 종합적인 발전계획에 따라 <외국학종합연구센터>의 본격적인 활동과 더불어 일본문화연구소도 변혁의 시기가 도래하게 된다. 임팔용 연구소장 재임시에 일본문화연구소는 일본어과 내부의 단일연구소가 아니라 외대의 <외국학종합연구센터>의 일원으로서의 역할분담의 필요성을 느끼게 되어, 다시 한 번 도약의 시기를 맞이한다. 이에 따라 연구소명도 <일본문화연구소>에서 일본지역을 연구한다는 의미에서 <일본연구소>로 개명하고, 연구지명도 『 日本?究』로 변경하였다.
1995년 이후 2000년까지 최재철, 한미경, 이인영 연구소장을 거치면서 <일본연구소>는 연 평균 2회에서 많게는 4회 정도 일본의 저명한 학자들을 초청하면서 국제적인 연구소로서 도약하는 발판을 마련하게 된다. 그 후 최충희 연구소장 체제 하에서는 어문학 중심의 아카데믹한 분야뿐만 아니라, 일본의 전통예능 및 대중문화까지 그 분야를 확대해나가면서 일본문화의 개방에 부응해서 일본연구를 다양화시켜 나가는 계기를 마련하였다.
아울러 2000년 이후는 일본연구소 내부에 책임연구원이 상근하게 되고 다양한 분야의 초빙연구원들을 확보해나가면서 내실을 기해갔다. 그 결과 내부 연구진의 확대와 논문의 기고를 원하는 외부 연구진들의 성원에 힘을 입어 2000년부터는 연 1회 발행하던 학술지를 연 2회 발행하게 되었다. 2003년도 상반기 최충희 연구소장 재임시에 일본연구소의 연구지 『 日本?究』가 대학 산하의 일본연구소로서는 처음으로 한국학술진흥재단의 등재후보지로 선정되었다.
이어서 2003년도 하반기에는 김종덕 연구소장 체제 하에서 한국과 일본만이 아니라 한국과 일본 그리고 중국을 함께 아우르는 국제 학술심포지엄을 2번 연속 개최하게 된다. 2004년 5월에는 외대 개교 50주년에 즈음하여 「타자인식과 이문화 커뮤니케이션」이라는 주제로 국제학술대회를 개최하였다. 그리고 2004년도 일본연구소의 프로젝트로서「일본문화의 그로테스크 형상학」이라는 주제로 <학술진흥재단 기초학문연구>를 진행하고 있다.
2004년 12월 한미경 연구소장 체제 하에서 <일본연구총서> 1권(『일본언어와 문학』) 이 간행되었다. 2005년에는 <한국에 있어서의 일본이해를 위한 프로그램>을 기획하여 <일본만국박람회 조성기금>을 지원받아 세부 전공별 연구진이 모여서 공동으로 집필한 단행본『교양으로 읽는 일본 사회와 문화』(DVD포함)를 간행하였다. 2005년 6월에는<국제화와 일본>이라는 주제의 국제학술회의를 개최하였다. 2006년 6월에는 일본국제교류기금의 지원을 받아 국제학술 심포지엄 <한일언어·문화의 접점을 찾아서>를 개최하였다. 2006년 12월에는 일본연구소의 학술지 『일본연구』가 대학 산하의 일본연구소로서는 처음으로 한국한술진흥재단의 등재지로 선정되었다. 그밖에 일본연구총서 네권을 잇따라 간행하였다.
2007년 4월 문명재 소장체제하에서 <한반도 통일과 한일전략적 동반관계>라는 주제의 초청강연회를 열였으며, 하반기 11월에는 일본릿쿄대학과 공동으로 [동아시아의 일본문학 연구] 라는 테마로 국제학술심포지엄을 개최하였다. 2008년 4월에는 [상징천황제와 역사인식]이라는 주제로 초청강연회를 열였다.
2008년 8월에는 임팔용 소장이 재취임(제 2대 소장에 이어 2회차)하였고, 동년 11월에는 일본 릿쇼대학(立正大?)의 溝口元(미조구치 하지메) 교수를 초청하여 [「感性」?究の新しい流れ]를 주제로 한 강연회를 실시하였다. 또한 2009년 9월에는 동년에 발표된 일본 유명 소설가인 무라카미 하루키의 신작 『1Q84』의 한국 발간을 계기로, 무라카미 하루키의 문학세계를 고찰하는 학술대회를 개최하였다.
2010년 8월에는 제 11대 연구소장으로 정상철 소장이 취임, 취임 직후인 동년 9월 10일에 「일본 근현대문학을 논하다」라는 주제로 국제학술심포지움을 개최하는 등, 활발한 연구활동을 전개하고 있다.
이와는 별도로 현재 일본연구소는 <분과별 연구회>의 교수들을 중심으로 <기획도서>를 기획하여 진행하고 있다. 일본연구소 기획도서는 시리즈물로 크게 「일본학 기획도서」「일본문학 기획도서」「일본어학 기획도서」를 나누어 진행하고 있다. 이는 연구진 개개인이 한 권씩 단행본을 발간하는 기획으로, 학술논문이 아니라 각 테마별 혹은 작품별로 학생들과 일반인들을 대상으로 한 입문서이다.
2012년 8월에는 권경애 소장이 취임하여 왕성한 학술활동이 전개되었다. 2012년 동경외국어대학교 하야쓰 에미코(早津恵美子)교수를 시작으로 모두 7번의 국제학술심포지움을 개최하여 해외 학자들의 소중한 연구를 직접 접할 수 있는 기회를 마련하였다. 또한 일본연구총서로 김종덕 교수의 『겐지 이야기의 전승과 작의』, 권경애 교수의 『고대일본어의 음탈락 연구』가 출판되어 고대 일본어문학의 이해를 넓혀나갔다.