1934年夏天，德国西门子公司南京分公司经理约翰·拉贝（JohnRabe,1882-1950）同金陵大学农学院院长谢金声签订了一份协议，由学校建一座集办公和居住于一体的房屋出租给拉贝。整个建筑占地面积约380平方米，有高为2层的西式楼房（主楼）1幢，建筑面积650平方米，另有西式平房（附楼）6间240平方米。院内原有一座小型花园，西北侧有一地下防空洞，院内芳草成茵，绿树成行。

在日军侵占南京期间，拉贝带领一批国际友人建立“南京安全区国际委员会”，被推选为主席。在3.86平方公里的安全区范围内，建立了25个难民收容所，为约25万中国人提供了避难场所。仅在小粉桥1号的拉贝住宅和他的小花园里，拉贝就保护了600多名中国难民。拉贝在旧居内将所见所闻以日记和其他文件的形式详实地记述了侵华日军在南京犯下的一桩桩令人发指的暴行。日记的问世，立即在全世界引起了极大轰动，约翰·拉贝这个名字也随之驰名世界，被誉为中国的“辛德勒”，当年他在南京小粉桥1号的居所也重为人们发现并重视。

自1997年起，在南京市人民政府支持下，南京大学开始对拉贝故居进行保护，并着手规划将故居修建成纪念馆。

2003年9月，时任德国总统的约翰内斯·劳先生访问南京大学时，对拉贝故居表示关注。继总统先生访问南京之后，西门子（中国）有限公司副总裁、西门子江苏省总经理艾伟先生和江苏博西家用电器销售有限公司总裁盖尔克先生自2004年夏开始与南京大学就拉贝故居修缮项目进行全面的沟通工作。在各方的不懈努力下，拉贝故居修缮工程于2005年末成功启动。

2005年12月，德意志联邦共和国驻上海总领事馆、西门子（中国）有限公司、江苏博西家用电器销售有限公司三方与南京大学共同签署了共建“拉贝与国际安全区纪念馆”和“拉贝国际和平与冲突化解研究交流中心”协议，建设资金由德方捐赠，南京大学负责故居的修缮、纪念馆建设和管理工作。

2006年10月31日上午，修缮一新的拉贝故居作为“拉贝与国际安全区纪念馆”正式对外开放。

2007年9月5日，中共南京市委宣传部、南京大学、德意志联邦共和国驻上海总领事馆、西门子（中国）有限公司、江苏博西家用电器销售有限公司、扬子石化—巴斯夫有限责任公司在南京索菲特银河大酒店签署了一项建立“拉贝与国际安全区纪念馆和拉贝国际和平与冲突化解研究交流中心发展基金”的协议。基金由六方共同出资成立，将用于支付拉贝故居日常运行的费用，从而充分发挥其教育和社会职能。