Commit 53fd3cbe authored by Kishon Vijay Abraham I's avatar Kishon Vijay Abraham I Committed by Lorenzo Pieralisi
Browse files

PCI: endpoint: Add virtual function number in pci_epc ops 

Add virtual function number in pci_epc ops. EPC controller driver
can perform virtual function specific initialization based on the
virtual function number.

Link: https://lore.kernel.org/r/20210819123343.1951-5-kishon@ti.com


Signed-off-by: default avatarKishon Vijay Abraham I <kishon@ti.com>
Signed-off-by: default avatarLorenzo Pieralisi <lorenzo.pieralisi@arm.com>
parent 101600e7

drivers/pci/controller/cadence/pcie-cadence-ep.c

+23 −21
Original line number Diff line number Diff line
@@ -16,7 +16,7 @@ 
#define CDNS_PCIE_EP_IRQ_PCI_ADDR_NONE		0x1

#define CDNS_PCIE_EP_IRQ_PCI_ADDR_LEGACY	0x3



static int cdns_pcie_ep_write_header(struct pci_epc *epc, u8 fn,

static int cdns_pcie_ep_write_header(struct pci_epc *epc, u8 fn, u8 vfn,

				     struct pci_epf_header *hdr)

{

	struct cdns_pcie_ep *ep = epc_get_drvdata(epc);
@@ -47,7 +47,7 @@ static int cdns_pcie_ep_write_header(struct pci_epc *epc, u8 fn, 
	return 0;

}



static int cdns_pcie_ep_set_bar(struct pci_epc *epc, u8 fn,

static int cdns_pcie_ep_set_bar(struct pci_epc *epc, u8 fn, u8 vfn,

				struct pci_epf_bar *epf_bar)

{

	struct cdns_pcie_ep *ep = epc_get_drvdata(epc);
@@ -117,7 +117,7 @@ static int cdns_pcie_ep_set_bar(struct pci_epc *epc, u8 fn, 
	return 0;

}



static void cdns_pcie_ep_clear_bar(struct pci_epc *epc, u8 fn,

static void cdns_pcie_ep_clear_bar(struct pci_epc *epc, u8 fn, u8 vfn,

				   struct pci_epf_bar *epf_bar)

{

	struct cdns_pcie_ep *ep = epc_get_drvdata(epc);
@@ -147,8 +147,8 @@ static void cdns_pcie_ep_clear_bar(struct pci_epc *epc, u8 fn, 
	epf->epf_bar[bar] = NULL;

}



static int cdns_pcie_ep_map_addr(struct pci_epc *epc, u8 fn, phys_addr_t addr,

				 u64 pci_addr, size_t size)

static int cdns_pcie_ep_map_addr(struct pci_epc *epc, u8 fn, u8 vfn,

				 phys_addr_t addr, u64 pci_addr, size_t size)

{

	struct cdns_pcie_ep *ep = epc_get_drvdata(epc);

	struct cdns_pcie *pcie = &ep->pcie;
@@ -169,7 +169,7 @@ static int cdns_pcie_ep_map_addr(struct pci_epc *epc, u8 fn, phys_addr_t addr, 
	return 0;

}



static void cdns_pcie_ep_unmap_addr(struct pci_epc *epc, u8 fn,

static void cdns_pcie_ep_unmap_addr(struct pci_epc *epc, u8 fn, u8 vfn,

				    phys_addr_t addr)

{

	struct cdns_pcie_ep *ep = epc_get_drvdata(epc);
@@ -189,7 +189,7 @@ static void cdns_pcie_ep_unmap_addr(struct pci_epc *epc, u8 fn, 
	clear_bit(r, &ep->ob_region_map);

}



static int cdns_pcie_ep_set_msi(struct pci_epc *epc, u8 fn, u8 mmc)

static int cdns_pcie_ep_set_msi(struct pci_epc *epc, u8 fn, u8 vfn, u8 mmc)

{

	struct cdns_pcie_ep *ep = epc_get_drvdata(epc);

	struct cdns_pcie *pcie = &ep->pcie;
@@ -209,7 +209,7 @@ static int cdns_pcie_ep_set_msi(struct pci_epc *epc, u8 fn, u8 mmc) 
	return 0;

}



static int cdns_pcie_ep_get_msi(struct pci_epc *epc, u8 fn)

static int cdns_pcie_ep_get_msi(struct pci_epc *epc, u8 fn, u8 vfn)

{

	struct cdns_pcie_ep *ep = epc_get_drvdata(epc);

	struct cdns_pcie *pcie = &ep->pcie;
@@ -230,7 +230,7 @@ static int cdns_pcie_ep_get_msi(struct pci_epc *epc, u8 fn) 
	return mme;

}



static int cdns_pcie_ep_get_msix(struct pci_epc *epc, u8 func_no)

static int cdns_pcie_ep_get_msix(struct pci_epc *epc, u8 func_no, u8 vfunc_no)

{

	struct cdns_pcie_ep *ep = epc_get_drvdata(epc);

	struct cdns_pcie *pcie = &ep->pcie;
@@ -247,8 +247,9 @@ static int cdns_pcie_ep_get_msix(struct pci_epc *epc, u8 func_no) 
	return val;

}



static int cdns_pcie_ep_set_msix(struct pci_epc *epc, u8 fn, u16 interrupts,

				 enum pci_barno bir, u32 offset)

static int cdns_pcie_ep_set_msix(struct pci_epc *epc, u8 fn, u8 vfn,

				 u16 interrupts, enum pci_barno bir,

				 u32 offset)

{

	struct cdns_pcie_ep *ep = epc_get_drvdata(epc);

	struct cdns_pcie *pcie = &ep->pcie;
@@ -317,7 +318,8 @@ static void cdns_pcie_ep_assert_intx(struct cdns_pcie_ep *ep, u8 fn, 
	writel(0, ep->irq_cpu_addr + offset);

}



static int cdns_pcie_ep_send_legacy_irq(struct cdns_pcie_ep *ep, u8 fn, u8 intx)

static int cdns_pcie_ep_send_legacy_irq(struct cdns_pcie_ep *ep, u8 fn, u8 vfn,

					u8 intx)

{

	u16 cmd;
@@ -334,7 +336,7 @@ static int cdns_pcie_ep_send_legacy_irq(struct cdns_pcie_ep *ep, u8 fn, u8 intx) 
	return 0;

}



static int cdns_pcie_ep_send_msi_irq(struct cdns_pcie_ep *ep, u8 fn,

static int cdns_pcie_ep_send_msi_irq(struct cdns_pcie_ep *ep, u8 fn, u8 vfn,

				     u8 interrupt_num)

{

	struct cdns_pcie *pcie = &ep->pcie;
@@ -382,7 +384,7 @@ static int cdns_pcie_ep_send_msi_irq(struct cdns_pcie_ep *ep, u8 fn, 
	return 0;

}



static int cdns_pcie_ep_map_msi_irq(struct pci_epc *epc, u8 fn,

static int cdns_pcie_ep_map_msi_irq(struct pci_epc *epc, u8 fn, u8 vfn,

				    phys_addr_t addr, u8 interrupt_num,

				    u32 entry_size, u32 *msi_data,

				    u32 *msi_addr_offset)
@@ -419,7 +421,7 @@ static int cdns_pcie_ep_map_msi_irq(struct pci_epc *epc, u8 fn, 
	pci_addr &= GENMASK_ULL(63, 2);



	for (i = 0; i < interrupt_num; i++) {

		ret = cdns_pcie_ep_map_addr(epc, fn, addr,

		ret = cdns_pcie_ep_map_addr(epc, fn, vfn, addr,

					    pci_addr & ~pci_addr_mask,

					    entry_size);

		if (ret)
@@ -433,7 +435,7 @@ static int cdns_pcie_ep_map_msi_irq(struct pci_epc *epc, u8 fn, 
	return 0;

}



static int cdns_pcie_ep_send_msix_irq(struct cdns_pcie_ep *ep, u8 fn,

static int cdns_pcie_ep_send_msix_irq(struct cdns_pcie_ep *ep, u8 fn, u8 vfn,

				      u16 interrupt_num)

{

	u32 cap = CDNS_PCIE_EP_FUNC_MSIX_CAP_OFFSET;
@@ -478,7 +480,7 @@ static int cdns_pcie_ep_send_msix_irq(struct cdns_pcie_ep *ep, u8 fn, 
	return 0;

}



static int cdns_pcie_ep_raise_irq(struct pci_epc *epc, u8 fn,

static int cdns_pcie_ep_raise_irq(struct pci_epc *epc, u8 fn, u8 vfn,

				  enum pci_epc_irq_type type,

				  u16 interrupt_num)

{
@@ -486,13 +488,13 @@ static int cdns_pcie_ep_raise_irq(struct pci_epc *epc, u8 fn, 


	switch (type) {

	case PCI_EPC_IRQ_LEGACY:

		return cdns_pcie_ep_send_legacy_irq(ep, fn, 0);

		return cdns_pcie_ep_send_legacy_irq(ep, fn, vfn, 0);



	case PCI_EPC_IRQ_MSI:

		return cdns_pcie_ep_send_msi_irq(ep, fn, interrupt_num);

		return cdns_pcie_ep_send_msi_irq(ep, fn, vfn, interrupt_num);



	case PCI_EPC_IRQ_MSIX:

		return cdns_pcie_ep_send_msix_irq(ep, fn, interrupt_num);

		return cdns_pcie_ep_send_msix_irq(ep, fn, vfn, interrupt_num);



	default:

		break;
@@ -531,7 +533,7 @@ static const struct pci_epc_features cdns_pcie_epc_features = { 
};



static const struct pci_epc_features*

cdns_pcie_ep_get_features(struct pci_epc *epc, u8 func_no)

cdns_pcie_ep_get_features(struct pci_epc *epc, u8 func_no, u8 vfunc_no)

{

	return &cdns_pcie_epc_features;

}

drivers/pci/controller/dwc/pcie-designware-ep.c

+18 −18
Original line number Diff line number Diff line
@@ -125,7 +125,7 @@ static u8 dw_pcie_ep_find_capability(struct dw_pcie_ep *ep, u8 func_no, u8 cap) 
	return __dw_pcie_ep_find_next_cap(ep, func_no, next_cap_ptr, cap);

}



static int dw_pcie_ep_write_header(struct pci_epc *epc, u8 func_no,

static int dw_pcie_ep_write_header(struct pci_epc *epc, u8 func_no, u8 vfunc_no,

				   struct pci_epf_header *hdr)

{

	struct dw_pcie_ep *ep = epc_get_drvdata(epc);
@@ -202,7 +202,7 @@ static int dw_pcie_ep_outbound_atu(struct dw_pcie_ep *ep, u8 func_no, 
	return 0;

}



static void dw_pcie_ep_clear_bar(struct pci_epc *epc, u8 func_no,

static void dw_pcie_ep_clear_bar(struct pci_epc *epc, u8 func_no, u8 vfunc_no,

				 struct pci_epf_bar *epf_bar)

{

	struct dw_pcie_ep *ep = epc_get_drvdata(epc);
@@ -217,7 +217,7 @@ static void dw_pcie_ep_clear_bar(struct pci_epc *epc, u8 func_no, 
	ep->epf_bar[bar] = NULL;

}



static int dw_pcie_ep_set_bar(struct pci_epc *epc, u8 func_no,

static int dw_pcie_ep_set_bar(struct pci_epc *epc, u8 func_no, u8 vfunc_no,

			      struct pci_epf_bar *epf_bar)

{

	int ret;
@@ -276,7 +276,7 @@ static int dw_pcie_find_index(struct dw_pcie_ep *ep, phys_addr_t addr, 
	return -EINVAL;

}



static void dw_pcie_ep_unmap_addr(struct pci_epc *epc, u8 func_no,

static void dw_pcie_ep_unmap_addr(struct pci_epc *epc, u8 func_no, u8 vfunc_no,

				  phys_addr_t addr)

{

	int ret;
@@ -292,9 +292,8 @@ static void dw_pcie_ep_unmap_addr(struct pci_epc *epc, u8 func_no, 
	clear_bit(atu_index, ep->ob_window_map);

}



static int dw_pcie_ep_map_addr(struct pci_epc *epc, u8 func_no,

			       phys_addr_t addr,

			       u64 pci_addr, size_t size)

static int dw_pcie_ep_map_addr(struct pci_epc *epc, u8 func_no, u8 vfunc_no,

			       phys_addr_t addr, u64 pci_addr, size_t size)

{

	int ret;

	struct dw_pcie_ep *ep = epc_get_drvdata(epc);
@@ -309,7 +308,7 @@ static int dw_pcie_ep_map_addr(struct pci_epc *epc, u8 func_no, 
	return 0;

}



static int dw_pcie_ep_get_msi(struct pci_epc *epc, u8 func_no)

static int dw_pcie_ep_get_msi(struct pci_epc *epc, u8 func_no, u8 vfunc_no)

{

	struct dw_pcie_ep *ep = epc_get_drvdata(epc);

	struct dw_pcie *pci = to_dw_pcie_from_ep(ep);
@@ -333,7 +332,8 @@ static int dw_pcie_ep_get_msi(struct pci_epc *epc, u8 func_no) 
	return val;

}



static int dw_pcie_ep_set_msi(struct pci_epc *epc, u8 func_no, u8 interrupts)

static int dw_pcie_ep_set_msi(struct pci_epc *epc, u8 func_no, u8 vfunc_no,

			      u8 interrupts)

{

	struct dw_pcie_ep *ep = epc_get_drvdata(epc);

	struct dw_pcie *pci = to_dw_pcie_from_ep(ep);
@@ -358,7 +358,7 @@ static int dw_pcie_ep_set_msi(struct pci_epc *epc, u8 func_no, u8 interrupts) 
	return 0;

}



static int dw_pcie_ep_get_msix(struct pci_epc *epc, u8 func_no)

static int dw_pcie_ep_get_msix(struct pci_epc *epc, u8 func_no, u8 vfunc_no)

{

	struct dw_pcie_ep *ep = epc_get_drvdata(epc);

	struct dw_pcie *pci = to_dw_pcie_from_ep(ep);
@@ -382,8 +382,8 @@ static int dw_pcie_ep_get_msix(struct pci_epc *epc, u8 func_no) 
	return val;

}



static int dw_pcie_ep_set_msix(struct pci_epc *epc, u8 func_no, u16 interrupts,

			       enum pci_barno bir, u32 offset)

static int dw_pcie_ep_set_msix(struct pci_epc *epc, u8 func_no, u8 vfunc_no,

			       u16 interrupts, enum pci_barno bir, u32 offset)

{

	struct dw_pcie_ep *ep = epc_get_drvdata(epc);

	struct dw_pcie *pci = to_dw_pcie_from_ep(ep);
@@ -418,7 +418,7 @@ static int dw_pcie_ep_set_msix(struct pci_epc *epc, u8 func_no, u16 interrupts, 
	return 0;

}



static int dw_pcie_ep_raise_irq(struct pci_epc *epc, u8 func_no,

static int dw_pcie_ep_raise_irq(struct pci_epc *epc, u8 func_no, u8 vfunc_no,

				enum pci_epc_irq_type type, u16 interrupt_num)

{

	struct dw_pcie_ep *ep = epc_get_drvdata(epc);
@@ -450,7 +450,7 @@ static int dw_pcie_ep_start(struct pci_epc *epc) 
}



static const struct pci_epc_features*

dw_pcie_ep_get_features(struct pci_epc *epc, u8 func_no)

dw_pcie_ep_get_features(struct pci_epc *epc, u8 func_no, u8 vfunc_no)

{

	struct dw_pcie_ep *ep = epc_get_drvdata(epc);
@@ -525,14 +525,14 @@ int dw_pcie_ep_raise_msi_irq(struct dw_pcie_ep *ep, u8 func_no, 
	aligned_offset = msg_addr_lower & (epc->mem->window.page_size - 1);

	msg_addr = ((u64)msg_addr_upper) << 32 |

			(msg_addr_lower & ~aligned_offset);

	ret = dw_pcie_ep_map_addr(epc, func_no, ep->msi_mem_phys, msg_addr,

	ret = dw_pcie_ep_map_addr(epc, func_no, 0, ep->msi_mem_phys, msg_addr,

				  epc->mem->window.page_size);

	if (ret)

		return ret;



	writel(msg_data | (interrupt_num - 1), ep->msi_mem + aligned_offset);



	dw_pcie_ep_unmap_addr(epc, func_no, ep->msi_mem_phys);

	dw_pcie_ep_unmap_addr(epc, func_no, 0, ep->msi_mem_phys);



	return 0;

}
@@ -593,14 +593,14 @@ int dw_pcie_ep_raise_msix_irq(struct dw_pcie_ep *ep, u8 func_no, 
	}



	aligned_offset = msg_addr & (epc->mem->window.page_size - 1);

	ret = dw_pcie_ep_map_addr(epc, func_no, ep->msi_mem_phys,  msg_addr,

	ret = dw_pcie_ep_map_addr(epc, func_no, 0, ep->msi_mem_phys, msg_addr,

				  epc->mem->window.page_size);

	if (ret)

		return ret;



	writel(msg_data, ep->msi_mem + aligned_offset);



	dw_pcie_ep_unmap_addr(epc, func_no, ep->msi_mem_phys);

	dw_pcie_ep_unmap_addr(epc, func_no, 0, ep->msi_mem_phys);



	return 0;

}

drivers/pci/controller/pcie-rcar-ep.c

+10 −9
Original line number Diff line number Diff line
@@ -159,7 +159,7 @@ static int rcar_pcie_ep_get_pdata(struct rcar_pcie_endpoint *ep, 
	return 0;

}



static int rcar_pcie_ep_write_header(struct pci_epc *epc, u8 fn,

static int rcar_pcie_ep_write_header(struct pci_epc *epc, u8 fn, u8 vfn,

				     struct pci_epf_header *hdr)

{

	struct rcar_pcie_endpoint *ep = epc_get_drvdata(epc);
@@ -195,7 +195,7 @@ static int rcar_pcie_ep_write_header(struct pci_epc *epc, u8 fn, 
	return 0;

}



static int rcar_pcie_ep_set_bar(struct pci_epc *epc, u8 func_no,

static int rcar_pcie_ep_set_bar(struct pci_epc *epc, u8 func_no, u8 vfunc_no,

				struct pci_epf_bar *epf_bar)

{

	int flags = epf_bar->flags | LAR_ENABLE | LAM_64BIT;
@@ -246,7 +246,7 @@ static int rcar_pcie_ep_set_bar(struct pci_epc *epc, u8 func_no, 
	return 0;

}



static void rcar_pcie_ep_clear_bar(struct pci_epc *epc, u8 fn,

static void rcar_pcie_ep_clear_bar(struct pci_epc *epc, u8 fn, u8 vfn,

				   struct pci_epf_bar *epf_bar)

{

	struct rcar_pcie_endpoint *ep = epc_get_drvdata(epc);
@@ -259,7 +259,8 @@ static void rcar_pcie_ep_clear_bar(struct pci_epc *epc, u8 fn, 
	clear_bit(atu_index + 1, ep->ib_window_map);

}



static int rcar_pcie_ep_set_msi(struct pci_epc *epc, u8 fn, u8 interrupts)

static int rcar_pcie_ep_set_msi(struct pci_epc *epc, u8 fn, u8 vfn,

				u8 interrupts)

{

	struct rcar_pcie_endpoint *ep = epc_get_drvdata(epc);

	struct rcar_pcie *pcie = &ep->pcie;
@@ -272,7 +273,7 @@ static int rcar_pcie_ep_set_msi(struct pci_epc *epc, u8 fn, u8 interrupts) 
	return 0;

}



static int rcar_pcie_ep_get_msi(struct pci_epc *epc, u8 fn)

static int rcar_pcie_ep_get_msi(struct pci_epc *epc, u8 fn, u8 vfn)

{

	struct rcar_pcie_endpoint *ep = epc_get_drvdata(epc);

	struct rcar_pcie *pcie = &ep->pcie;
@@ -285,7 +286,7 @@ static int rcar_pcie_ep_get_msi(struct pci_epc *epc, u8 fn) 
	return ((flags & MSICAP0_MMESE_MASK) >> MSICAP0_MMESE_OFFSET);

}



static int rcar_pcie_ep_map_addr(struct pci_epc *epc, u8 fn,

static int rcar_pcie_ep_map_addr(struct pci_epc *epc, u8 fn, u8 vfn,

				 phys_addr_t addr, u64 pci_addr, size_t size)

{

	struct rcar_pcie_endpoint *ep = epc_get_drvdata(epc);
@@ -322,7 +323,7 @@ static int rcar_pcie_ep_map_addr(struct pci_epc *epc, u8 fn, 
	return 0;

}



static void rcar_pcie_ep_unmap_addr(struct pci_epc *epc, u8 fn,

static void rcar_pcie_ep_unmap_addr(struct pci_epc *epc, u8 fn, u8 vfn,

				    phys_addr_t addr)

{

	struct rcar_pcie_endpoint *ep = epc_get_drvdata(epc);
@@ -403,7 +404,7 @@ static int rcar_pcie_ep_assert_msi(struct rcar_pcie *pcie, 
	return 0;

}



static int rcar_pcie_ep_raise_irq(struct pci_epc *epc, u8 fn,

static int rcar_pcie_ep_raise_irq(struct pci_epc *epc, u8 fn, u8 vfn,

				  enum pci_epc_irq_type type,

				  u16 interrupt_num)

{
@@ -451,7 +452,7 @@ static const struct pci_epc_features rcar_pcie_epc_features = { 
};



static const struct pci_epc_features*

rcar_pcie_ep_get_features(struct pci_epc *epc, u8 func_no)

rcar_pcie_ep_get_features(struct pci_epc *epc, u8 func_no, u8 vfunc_no)

{

	return &rcar_pcie_epc_features;

}

drivers/pci/controller/pcie-rockchip-ep.c

+9 −9
Original line number Diff line number Diff line
@@ -122,7 +122,7 @@ static void rockchip_pcie_prog_ep_ob_atu(struct rockchip_pcie *rockchip, u8 fn, 
			    ROCKCHIP_PCIE_AT_OB_REGION_CPU_ADDR1(r));

}



static int rockchip_pcie_ep_write_header(struct pci_epc *epc, u8 fn,

static int rockchip_pcie_ep_write_header(struct pci_epc *epc, u8 fn, u8 vfn,

					 struct pci_epf_header *hdr)

{

	struct rockchip_pcie_ep *ep = epc_get_drvdata(epc);
@@ -159,7 +159,7 @@ static int rockchip_pcie_ep_write_header(struct pci_epc *epc, u8 fn, 
	return 0;

}



static int rockchip_pcie_ep_set_bar(struct pci_epc *epc, u8 fn,

static int rockchip_pcie_ep_set_bar(struct pci_epc *epc, u8 fn, u8 vfn,

				    struct pci_epf_bar *epf_bar)

{

	struct rockchip_pcie_ep *ep = epc_get_drvdata(epc);
@@ -227,7 +227,7 @@ static int rockchip_pcie_ep_set_bar(struct pci_epc *epc, u8 fn, 
	return 0;

}



static void rockchip_pcie_ep_clear_bar(struct pci_epc *epc, u8 fn,

static void rockchip_pcie_ep_clear_bar(struct pci_epc *epc, u8 fn, u8 vfn,

				       struct pci_epf_bar *epf_bar)

{

	struct rockchip_pcie_ep *ep = epc_get_drvdata(epc);
@@ -256,7 +256,7 @@ static void rockchip_pcie_ep_clear_bar(struct pci_epc *epc, u8 fn, 
			    ROCKCHIP_PCIE_AT_IB_EP_FUNC_BAR_ADDR1(fn, bar));

}



static int rockchip_pcie_ep_map_addr(struct pci_epc *epc, u8 fn,

static int rockchip_pcie_ep_map_addr(struct pci_epc *epc, u8 fn, u8 vfn,

				     phys_addr_t addr, u64 pci_addr,

				     size_t size)

{
@@ -284,7 +284,7 @@ static int rockchip_pcie_ep_map_addr(struct pci_epc *epc, u8 fn, 
	return 0;

}



static void rockchip_pcie_ep_unmap_addr(struct pci_epc *epc, u8 fn,

static void rockchip_pcie_ep_unmap_addr(struct pci_epc *epc, u8 fn, u8 vfn,

					phys_addr_t addr)

{

	struct rockchip_pcie_ep *ep = epc_get_drvdata(epc);
@@ -308,7 +308,7 @@ static void rockchip_pcie_ep_unmap_addr(struct pci_epc *epc, u8 fn, 
	clear_bit(r, &ep->ob_region_map);

}



static int rockchip_pcie_ep_set_msi(struct pci_epc *epc, u8 fn,

static int rockchip_pcie_ep_set_msi(struct pci_epc *epc, u8 fn, u8 vfn,

				    u8 multi_msg_cap)

{

	struct rockchip_pcie_ep *ep = epc_get_drvdata(epc);
@@ -329,7 +329,7 @@ static int rockchip_pcie_ep_set_msi(struct pci_epc *epc, u8 fn, 
	return 0;

}



static int rockchip_pcie_ep_get_msi(struct pci_epc *epc, u8 fn)

static int rockchip_pcie_ep_get_msi(struct pci_epc *epc, u8 fn, u8 vfn)

{

	struct rockchip_pcie_ep *ep = epc_get_drvdata(epc);

	struct rockchip_pcie *rockchip = &ep->rockchip;
@@ -471,7 +471,7 @@ static int rockchip_pcie_ep_send_msi_irq(struct rockchip_pcie_ep *ep, u8 fn, 
	return 0;

}



static int rockchip_pcie_ep_raise_irq(struct pci_epc *epc, u8 fn,

static int rockchip_pcie_ep_raise_irq(struct pci_epc *epc, u8 fn, u8 vfn,

				      enum pci_epc_irq_type type,

				      u16 interrupt_num)

{
@@ -510,7 +510,7 @@ static const struct pci_epc_features rockchip_pcie_epc_features = { 
};



static const struct pci_epc_features*

rockchip_pcie_ep_get_features(struct pci_epc *epc, u8 func_no)

rockchip_pcie_ep_get_features(struct pci_epc *epc, u8 func_no, u8 vfunc_no)

{

	return &rockchip_pcie_epc_features;

}

drivers/pci/endpoint/functions/pci-epf-ntb.c

+54 −35
Original line number Diff line number Diff line
@@ -87,6 +87,7 @@ struct epf_ntb { 


struct epf_ntb_epc {

	u8 func_no;

	u8 vfunc_no;

	bool linkup;

	bool is_msix;

	int msix_bar;
@@ -143,14 +144,15 @@ static int epf_ntb_link_up(struct epf_ntb *ntb, bool link_up) 
	struct epf_ntb_epc *ntb_epc;

	struct epf_ntb_ctrl *ctrl;

	struct pci_epc *epc;

	u8 func_no, vfunc_no;

	bool is_msix;

	u8 func_no;

	int ret;



	for (type = PRIMARY_INTERFACE; type <= SECONDARY_INTERFACE; type++) {

		ntb_epc = ntb->epc[type];

		epc = ntb_epc->epc;

		func_no = ntb_epc->func_no;

		vfunc_no = ntb_epc->vfunc_no;

		is_msix = ntb_epc->is_msix;

		ctrl = ntb_epc->reg;

		if (link_up)
@@ -158,7 +160,7 @@ static int epf_ntb_link_up(struct epf_ntb *ntb, bool link_up) 
		else

			ctrl->link_status &= ~LINK_STATUS_UP;

		irq_type = is_msix ? PCI_EPC_IRQ_MSIX : PCI_EPC_IRQ_MSI;

		ret = pci_epc_raise_irq(epc, func_no, irq_type, 1);

		ret = pci_epc_raise_irq(epc, func_no, vfunc_no, irq_type, 1);

		if (ret) {

			dev_err(&epc->dev,

				"%s intf: Failed to raise Link Up IRQ\n",
@@ -238,10 +240,10 @@ static int epf_ntb_configure_mw(struct epf_ntb *ntb, 
	enum pci_barno peer_barno;

	struct epf_ntb_ctrl *ctrl;

	phys_addr_t phys_addr;

	u8 func_no, vfunc_no;

	struct pci_epc *epc;

	u64 addr, size;

	int ret = 0;

	u8 func_no;



	ntb_epc = ntb->epc[type];

	epc = ntb_epc->epc;
@@ -267,8 +269,9 @@ static int epf_ntb_configure_mw(struct epf_ntb *ntb, 
	}



	func_no = ntb_epc->func_no;

	vfunc_no = ntb_epc->vfunc_no;



	ret = pci_epc_map_addr(epc, func_no, phys_addr, addr, size);

	ret = pci_epc_map_addr(epc, func_no, vfunc_no, phys_addr, addr, size);

	if (ret)

		dev_err(&epc->dev,

			"%s intf: Failed to map memory window %d address\n",
@@ -296,8 +299,8 @@ static void epf_ntb_teardown_mw(struct epf_ntb *ntb, 
	enum pci_barno peer_barno;

	struct epf_ntb_ctrl *ctrl;

	phys_addr_t phys_addr;

	u8 func_no, vfunc_no;

	struct pci_epc *epc;

	u8 func_no;



	ntb_epc = ntb->epc[type];

	epc = ntb_epc->epc;
@@ -311,8 +314,9 @@ static void epf_ntb_teardown_mw(struct epf_ntb *ntb, 
	if (mw + NTB_MW_OFFSET == BAR_DB_MW1)

		phys_addr += ctrl->mw1_offset;

	func_no = ntb_epc->func_no;

	vfunc_no = ntb_epc->vfunc_no;



	pci_epc_unmap_addr(epc, func_no, phys_addr);

	pci_epc_unmap_addr(epc, func_no, vfunc_no, phys_addr);

}



/**
@@ -385,8 +389,8 @@ static int epf_ntb_configure_msi(struct epf_ntb *ntb, 
	struct epf_ntb_ctrl *peer_ctrl;

	enum pci_barno peer_barno;

	phys_addr_t phys_addr;

	u8 func_no, vfunc_no;

	struct pci_epc *epc;

	u8 func_no;

	int ret, i;



	ntb_epc = ntb->epc[type];
@@ -400,8 +404,9 @@ static int epf_ntb_configure_msi(struct epf_ntb *ntb, 


	phys_addr = peer_epf_bar->phys_addr;

	func_no = ntb_epc->func_no;

	vfunc_no = ntb_epc->vfunc_no;



	ret = pci_epc_map_msi_irq(epc, func_no, phys_addr, db_count,

	ret = pci_epc_map_msi_irq(epc, func_no, vfunc_no, phys_addr, db_count,

				  db_entry_size, &db_data, &db_offset);

	if (ret) {

		dev_err(&epc->dev, "%s intf: Failed to map MSI IRQ\n",
@@ -491,10 +496,10 @@ static int epf_ntb_configure_msix(struct epf_ntb *ntb, 
	u32 db_entry_size, msg_data;

	enum pci_barno peer_barno;

	phys_addr_t phys_addr;

	u8 func_no, vfunc_no;

	struct pci_epc *epc;

	size_t align;

	u64 msg_addr;

	u8 func_no;

	int ret, i;



	ntb_epc = ntb->epc[type];
@@ -512,12 +517,13 @@ static int epf_ntb_configure_msix(struct epf_ntb *ntb, 
	align = epc_features->align;



	func_no = ntb_epc->func_no;

	vfunc_no = ntb_epc->vfunc_no;

	db_entry_size = peer_ctrl->db_entry_size;



	for (i = 0; i < db_count; i++) {

		msg_addr = ALIGN_DOWN(msix_tbl[i].msg_addr, align);

		msg_data = msix_tbl[i].msg_data;

		ret = pci_epc_map_addr(epc, func_no, phys_addr, msg_addr,

		ret = pci_epc_map_addr(epc, func_no, vfunc_no, phys_addr, msg_addr,

				       db_entry_size);

		if (ret) {

			dev_err(&epc->dev,
@@ -586,8 +592,8 @@ epf_ntb_teardown_db(struct epf_ntb *ntb, enum pci_epc_interface_type type) 
	struct pci_epf_bar *peer_epf_bar;

	enum pci_barno peer_barno;

	phys_addr_t phys_addr;

	u8 func_no, vfunc_no;

	struct pci_epc *epc;

	u8 func_no;



	ntb_epc = ntb->epc[type];

	epc = ntb_epc->epc;
@@ -597,8 +603,9 @@ epf_ntb_teardown_db(struct epf_ntb *ntb, enum pci_epc_interface_type type) 
	peer_epf_bar = &peer_ntb_epc->epf_bar[peer_barno];

	phys_addr = peer_epf_bar->phys_addr;

	func_no = ntb_epc->func_no;

	vfunc_no = ntb_epc->vfunc_no;



	pci_epc_unmap_addr(epc, func_no, phys_addr);

	pci_epc_unmap_addr(epc, func_no, vfunc_no, phys_addr);

}



/**
@@ -728,14 +735,15 @@ static void epf_ntb_peer_spad_bar_clear(struct epf_ntb_epc *ntb_epc) 
{

	struct pci_epf_bar *epf_bar;

	enum pci_barno barno;

	u8 func_no, vfunc_no;

	struct pci_epc *epc;

	u8 func_no;



	epc = ntb_epc->epc;

	func_no = ntb_epc->func_no;

	vfunc_no = ntb_epc->vfunc_no;

	barno = ntb_epc->epf_ntb_bar[BAR_PEER_SPAD];

	epf_bar = &ntb_epc->epf_bar[barno];

	pci_epc_clear_bar(epc, func_no, epf_bar);

	pci_epc_clear_bar(epc, func_no, vfunc_no, epf_bar);

}



/**
@@ -775,9 +783,9 @@ static int epf_ntb_peer_spad_bar_set(struct epf_ntb *ntb, 
	struct pci_epf_bar *peer_epf_bar, *epf_bar;

	enum pci_barno peer_barno, barno;

	u32 peer_spad_offset;

	u8 func_no, vfunc_no;

	struct pci_epc *epc;

	struct device *dev;

	u8 func_no;

	int ret;



	dev = &ntb->epf->dev;
@@ -790,6 +798,7 @@ static int epf_ntb_peer_spad_bar_set(struct epf_ntb *ntb, 
	barno = ntb_epc->epf_ntb_bar[BAR_PEER_SPAD];

	epf_bar = &ntb_epc->epf_bar[barno];

	func_no = ntb_epc->func_no;

	vfunc_no = ntb_epc->vfunc_no;

	epc = ntb_epc->epc;



	peer_spad_offset = peer_ntb_epc->reg->spad_offset;
@@ -798,7 +807,7 @@ static int epf_ntb_peer_spad_bar_set(struct epf_ntb *ntb, 
	epf_bar->barno = barno;

	epf_bar->flags = PCI_BASE_ADDRESS_MEM_TYPE_32;



	ret = pci_epc_set_bar(epc, func_no, epf_bar);

	ret = pci_epc_set_bar(epc, func_no, vfunc_no, epf_bar);

	if (ret) {

		dev_err(dev, "%s intf: peer SPAD BAR set failed\n",

			pci_epc_interface_string(type));
@@ -842,14 +851,15 @@ static void epf_ntb_config_sspad_bar_clear(struct epf_ntb_epc *ntb_epc) 
{

	struct pci_epf_bar *epf_bar;

	enum pci_barno barno;

	u8 func_no, vfunc_no;

	struct pci_epc *epc;

	u8 func_no;



	epc = ntb_epc->epc;

	func_no = ntb_epc->func_no;

	vfunc_no = ntb_epc->vfunc_no;

	barno = ntb_epc->epf_ntb_bar[BAR_CONFIG];

	epf_bar = &ntb_epc->epf_bar[barno];

	pci_epc_clear_bar(epc, func_no, epf_bar);

	pci_epc_clear_bar(epc, func_no, vfunc_no, epf_bar);

}



/**
@@ -886,10 +896,10 @@ static int epf_ntb_config_sspad_bar_set(struct epf_ntb_epc *ntb_epc) 
{

	struct pci_epf_bar *epf_bar;

	enum pci_barno barno;

	u8 func_no, vfunc_no;

	struct epf_ntb *ntb;

	struct pci_epc *epc;

	struct device *dev;

	u8 func_no;

	int ret;



	ntb = ntb_epc->epf_ntb;
@@ -897,10 +907,11 @@ static int epf_ntb_config_sspad_bar_set(struct epf_ntb_epc *ntb_epc) 


	epc = ntb_epc->epc;

	func_no = ntb_epc->func_no;

	vfunc_no = ntb_epc->vfunc_no;

	barno = ntb_epc->epf_ntb_bar[BAR_CONFIG];

	epf_bar = &ntb_epc->epf_bar[barno];



	ret = pci_epc_set_bar(epc, func_no, epf_bar);

	ret = pci_epc_set_bar(epc, func_no, vfunc_no, epf_bar);

	if (ret) {

		dev_err(dev, "%s inft: Config/Status/SPAD BAR set failed\n",

			pci_epc_interface_string(ntb_epc->type));
@@ -1214,17 +1225,18 @@ static void epf_ntb_db_mw_bar_clear(struct epf_ntb_epc *ntb_epc) 
	struct pci_epf_bar *epf_bar;

	enum epf_ntb_bar bar;

	enum pci_barno barno;

	u8 func_no, vfunc_no;

	struct pci_epc *epc;

	u8 func_no;



	epc = ntb_epc->epc;



	func_no = ntb_epc->func_no;

	vfunc_no = ntb_epc->vfunc_no;



	for (bar = BAR_DB_MW1; bar < BAR_MW4; bar++) {

		barno = ntb_epc->epf_ntb_bar[bar];

		epf_bar = &ntb_epc->epf_bar[barno];

		pci_epc_clear_bar(epc, func_no, epf_bar);

		pci_epc_clear_bar(epc, func_no, vfunc_no, epf_bar);

	}

}
@@ -1263,10 +1275,10 @@ static int epf_ntb_configure_interrupt(struct epf_ntb *ntb, 
	const struct pci_epc_features *epc_features;

	bool msix_capable, msi_capable;

	struct epf_ntb_epc *ntb_epc;

	u8 func_no, vfunc_no;

	struct pci_epc *epc;

	struct device *dev;

	u32 db_count;

	u8 func_no;

	int ret;



	ntb_epc = ntb->epc[type];
@@ -1282,6 +1294,7 @@ static int epf_ntb_configure_interrupt(struct epf_ntb *ntb, 
	}



	func_no = ntb_epc->func_no;

	vfunc_no = ntb_epc->vfunc_no;



	db_count = ntb->db_count;

	if (db_count > MAX_DB_COUNT) {
@@ -1293,7 +1306,7 @@ static int epf_ntb_configure_interrupt(struct epf_ntb *ntb, 
	epc = ntb_epc->epc;



	if (msi_capable) {

		ret = pci_epc_set_msi(epc, func_no, db_count);

		ret = pci_epc_set_msi(epc, func_no, vfunc_no, db_count);

		if (ret) {

			dev_err(dev, "%s intf: MSI configuration failed\n",

				pci_epc_interface_string(type));
@@ -1302,7 +1315,7 @@ static int epf_ntb_configure_interrupt(struct epf_ntb *ntb, 
	}



	if (msix_capable) {

		ret = pci_epc_set_msix(epc, func_no, db_count,

		ret = pci_epc_set_msix(epc, func_no, vfunc_no, db_count,

				       ntb_epc->msix_bar,

				       ntb_epc->msix_table_offset);

		if (ret) {
@@ -1423,11 +1436,11 @@ static int epf_ntb_db_mw_bar_init(struct epf_ntb *ntb, 
	u32 num_mws, db_count;

	enum epf_ntb_bar bar;

	enum pci_barno barno;

	u8 func_no, vfunc_no;

	struct pci_epc *epc;

	struct device *dev;

	size_t align;

	int ret, i;

	u8 func_no;

	u64 size;



	ntb_epc = ntb->epc[type];
@@ -1437,6 +1450,7 @@ static int epf_ntb_db_mw_bar_init(struct epf_ntb *ntb, 
	epc_features = ntb_epc->epc_features;

	align = epc_features->align;

	func_no = ntb_epc->func_no;

	vfunc_no = ntb_epc->vfunc_no;

	epc = ntb_epc->epc;

	num_mws = ntb->num_mws;

	db_count = ntb->db_count;
@@ -1464,7 +1478,7 @@ static int epf_ntb_db_mw_bar_init(struct epf_ntb *ntb, 
		barno = ntb_epc->epf_ntb_bar[bar];

		epf_bar = &ntb_epc->epf_bar[barno];



		ret = pci_epc_set_bar(epc, func_no, epf_bar);

		ret = pci_epc_set_bar(epc, func_no, vfunc_no, epf_bar);

		if (ret) {

			dev_err(dev, "%s intf: DoorBell BAR set failed\n",

				pci_epc_interface_string(type));
@@ -1536,9 +1550,9 @@ static int epf_ntb_epc_create_interface(struct epf_ntb *ntb, 
	const struct pci_epc_features *epc_features;

	struct pci_epf_bar *epf_bar;

	struct epf_ntb_epc *ntb_epc;

	u8 func_no, vfunc_no;

	struct pci_epf *epf;

	struct device *dev;

	u8 func_no;



	dev = &ntb->epf->dev;
@@ -1547,6 +1561,7 @@ static int epf_ntb_epc_create_interface(struct epf_ntb *ntb, 
		return -ENOMEM;



	epf = ntb->epf;

	vfunc_no = epf->vfunc_no;

	if (type == PRIMARY_INTERFACE) {

		func_no = epf->func_no;

		epf_bar = epf->bar;
@@ -1558,11 +1573,12 @@ static int epf_ntb_epc_create_interface(struct epf_ntb *ntb, 
	ntb_epc->linkup = false;

	ntb_epc->epc = epc;

	ntb_epc->func_no = func_no;

	ntb_epc->vfunc_no = vfunc_no;

	ntb_epc->type = type;

	ntb_epc->epf_bar = epf_bar;

	ntb_epc->epf_ntb = ntb;



	epc_features = pci_epc_get_features(epc, func_no);

	epc_features = pci_epc_get_features(epc, func_no, vfunc_no);

	if (!epc_features)

		return -EINVAL;

	ntb_epc->epc_features = epc_features;
@@ -1702,10 +1718,10 @@ static int epf_ntb_epc_init_interface(struct epf_ntb *ntb, 
				      enum pci_epc_interface_type type)

{

	struct epf_ntb_epc *ntb_epc;

	u8 func_no, vfunc_no;

	struct pci_epc *epc;

	struct pci_epf *epf;

	struct device *dev;

	u8 func_no;

	int ret;



	ntb_epc = ntb->epc[type];
@@ -1713,6 +1729,7 @@ static int epf_ntb_epc_init_interface(struct epf_ntb *ntb, 
	dev = &epf->dev;

	epc = ntb_epc->epc;

	func_no = ntb_epc->func_no;

	vfunc_no = ntb_epc->vfunc_no;



	ret = epf_ntb_config_sspad_bar_set(ntb->epc[type]);

	if (ret) {
@@ -1742,12 +1759,14 @@ static int epf_ntb_epc_init_interface(struct epf_ntb *ntb, 
		goto err_db_mw_bar_init;

	}



	ret = pci_epc_write_header(epc, func_no, epf->header);

	if (vfunc_no <= 1) {

		ret = pci_epc_write_header(epc, func_no, vfunc_no, epf->header);

		if (ret) {

			dev_err(dev, "%s intf: Configuration header write failed\n",

				pci_epc_interface_string(type));

			goto err_write_header;

		}

	}



	INIT_DELAYED_WORK(&ntb->epc[type]->cmd_handler, epf_ntb_cmd_handler);

	queue_work(kpcintb_workqueue, &ntb->epc[type]->cmd_handler.work);