随后,国民政府还固定每月给拉贝一定金额和粮食的接济,但不幸的是,约翰·拉贝于1950年1月5日突然中风而不幸逝世,被葬在了德国威廉皇帝纪念教堂墓地。
1985年时拉贝的墓地租期到期,他的墓碑被其外孙女保存,1997年约翰·拉贝的墓碑从德国移送到中国南京江东门的侵华日军南京大屠杀遇难同胞纪念馆永久收藏。