东直门内建造了许多粮仓。许多仓名进入了北京街巷名称行列,一直保留至今,如:海运仓、禄米仓、白米仓、新太仓等。明朝张爵《京师五城坊巷胡同集》称此巷为济阳卫仓,因济阳卫仓在此巷北部。清乾隆京师全图以今箭杆胡同为界,以东称梯子胡同,以西称白米仓胡同。1965年两巷合并。