drivers/usb/host/xhci-mtk.c

   1 // SPDX-License-Identifier: GPL-2.0
   2 /*
   3  * MediaTek xHCI Host Controller Driver
   4  *
   5  * Copyright (c) 2015 MediaTek Inc.
   6  * Author:
   7  *  Chunfeng Yun <chunfeng.yun@mediatek.com>
   8  */
   9
  10 #include <linux/clk.h>
  11 #include <linux/dma-mapping.h>
  12 #include <linux/iopoll.h>
  13 #include <linux/kernel.h>
  14 #include <linux/mfd/syscon.h>
  15 #include <linux/module.h>
  16 #include <linux/of.h>
  17 #include <linux/platform_device.h>
  18 #include <linux/pm_runtime.h>
  19 #include <linux/regmap.h>
  20 #include <linux/regulator/consumer.h>
  21
  22 #include "xhci.h"
  23 #include "xhci-mtk.h"
  24
  25 /* ip_pw_ctrl0 register */
  26 #define CTRL0_IP_SW_RST BIT(0)
  27
  28 /* ip_pw_ctrl1 register */
  29 #define CTRL1_IP_HOST_PDN       BIT(0)
  30
  31 /* ip_pw_ctrl2 register */
  32 #define CTRL2_IP_DEV_PDN        BIT(0)
  33
  34 /* ip_pw_sts1 register */
  35 #define STS1_IP_SLEEP_STS       BIT(30)
  36 #define STS1_U3_MAC_RST BIT(16)
  37 #define STS1_XHCI_RST           BIT(11)
  38 #define STS1_SYS125_RST BIT(10)
  39 #define STS1_REF_RST            BIT(8)
  40 #define STS1_SYSPLL_STABLE      BIT(0)
  41
  42 /* ip_xhci_cap register */
  43 #define CAP_U3_PORT_NUM(p)      ((p) & 0xff)
  44 #define CAP_U2_PORT_NUM(p)      (((p) >> 8) & 0xff)
  45
  46 /* u3_ctrl_p register */
  47 #define CTRL_U3_PORT_HOST_SEL   BIT(2)
  48 #define CTRL_U3_PORT_PDN        BIT(1)
  49 #define CTRL_U3_PORT_DIS        BIT(0)
  50
  51 /* u2_ctrl_p register */
  52 #define CTRL_U2_PORT_HOST_SEL   BIT(2)
  53 #define CTRL_U2_PORT_PDN        BIT(1)
  54 #define CTRL_U2_PORT_DIS        BIT(0)
  55
  56 /* u2_phy_pll register */
  57 #define CTRL_U2_FORCE_PLL_STB   BIT(28)
  58
  59 /* usb remote wakeup registers in syscon */
  60 /* mt8173 etc */
  61 #define PERI_WK_CTRL1   0x4
  62 #define WC1_IS_C(x)     (((x) & 0xf) << 26)  /* cycle debounce */
  63 #define WC1_IS_EN       BIT(25)
  64 #define WC1_IS_P        BIT(6)  /* polarity for ip sleep */
  65
  66 /* mt2712 etc */
  67 #define PERI_SSUSB_SPM_CTRL     0x0
  68 #define SSC_IP_SLEEP_EN BIT(4)
  69 #define SSC_SPM_INT_EN          BIT(1)
  70
  71 enum ssusb_uwk_vers {
  72         SSUSB_UWK_V1 = 1,
  73         SSUSB_UWK_V2,
  74 };
  75
  76 static int xhci_mtk_host_enable(struct xhci_hcd_mtk *mtk)
  77 {
  78         struct mu3c_ippc_regs __iomem *ippc = mtk->ippc_regs;
  79         u32 value, check_val;
  80         int u3_ports_disabed = 0;
  81         int ret;
  82         int i;
  83
  84         if (!mtk->has_ippc)
  85                 return 0;
  86
  87         /* power on host ip */
  88         value = readl(&ippc->ip_pw_ctr1);
  89         value &= ~CTRL1_IP_HOST_PDN;
  90         writel(value, &ippc->ip_pw_ctr1);
  91
  92         /* power on and enable u3 ports except skipped ones */
  93         for (i = 0; i < mtk->num_u3_ports; i++) {
  94                 if ((0x1 << i) & mtk->u3p_dis_msk) {
  95                         u3_ports_disabed++;
  96                         continue;
  97                 }
  98
  99                 value = readl(&ippc->u3_ctrl_p[i]);
 100                 value &= ~(CTRL_U3_PORT_PDN | CTRL_U3_PORT_DIS);
 101                 value |= CTRL_U3_PORT_HOST_SEL;
 102                 writel(value, &ippc->u3_ctrl_p[i]);
 103         }
 104
 105         /* power on and enable all u2 ports */
 106         for (i = 0; i < mtk->num_u2_ports; i++) {
 107                 value = readl(&ippc->u2_ctrl_p[i]);
 108                 value &= ~(CTRL_U2_PORT_PDN | CTRL_U2_PORT_DIS);
 109                 value |= CTRL_U2_PORT_HOST_SEL;
 110                 writel(value, &ippc->u2_ctrl_p[i]);
 111         }
 112
 113         /*
 114          * wait for clocks to be stable, and clock domains reset to
 115          * be inactive after power on and enable ports
 116          */
 117         check_val = STS1_SYSPLL_STABLE | STS1_REF_RST |
 118                         STS1_SYS125_RST | STS1_XHCI_RST;
 119
 120         if (mtk->num_u3_ports > u3_ports_disabed)
 121                 check_val |= STS1_U3_MAC_RST;
 122
 123         ret = readl_poll_timeout(&ippc->ip_pw_sts1, value,
 124                           (check_val == (value & check_val)), 100, 20000);
 125         if (ret) {
 126                 dev_err(mtk->dev, "clocks are not stable (0x%x)\n", value);
 127                 return ret;
 128         }
 129
 130         return 0;
 131 }
 132
 133 static int xhci_mtk_host_disable(struct xhci_hcd_mtk *mtk)
 134 {
 135         struct mu3c_ippc_regs __iomem *ippc = mtk->ippc_regs;
 136         u32 value;
 137         int ret;
 138         int i;
 139
 140         if (!mtk->has_ippc)
 141                 return 0;
 142
 143         /* power down u3 ports except skipped ones */
 144         for (i = 0; i < mtk->num_u3_ports; i++) {
 145                 if ((0x1 << i) & mtk->u3p_dis_msk)
 146                         continue;
 147
 148                 value = readl(&ippc->u3_ctrl_p[i]);
 149                 value |= CTRL_U3_PORT_PDN;
 150                 writel(value, &ippc->u3_ctrl_p[i]);
 151         }
 152
 153         /* power down all u2 ports */
 154         for (i = 0; i < mtk->num_u2_ports; i++) {
 155                 value = readl(&ippc->u2_ctrl_p[i]);
 156                 value |= CTRL_U2_PORT_PDN;
 157                 writel(value, &ippc->u2_ctrl_p[i]);
 158         }
 159
 160         /* power down host ip */
 161         value = readl(&ippc->ip_pw_ctr1);
 162         value |= CTRL1_IP_HOST_PDN;
 163         writel(value, &ippc->ip_pw_ctr1);
 164
 165         /* wait for host ip to sleep */
 166         ret = readl_poll_timeout(&ippc->ip_pw_sts1, value,
 167                           (value & STS1_IP_SLEEP_STS), 100, 100000);
 168         if (ret) {
 169                 dev_err(mtk->dev, "ip sleep failed!!!\n");
 170                 return ret;
 171         }
 172         return 0;
 173 }
 174
 175 static int xhci_mtk_ssusb_config(struct xhci_hcd_mtk *mtk)
 176 {
 177         struct mu3c_ippc_regs __iomem *ippc = mtk->ippc_regs;
 178         u32 value;
 179
 180         if (!mtk->has_ippc)
 181                 return 0;
 182
 183         /* reset whole ip */
 184         value = readl(&ippc->ip_pw_ctr0);
 185         value |= CTRL0_IP_SW_RST;
 186         writel(value, &ippc->ip_pw_ctr0);
 187         udelay(1);
 188         value = readl(&ippc->ip_pw_ctr0);
 189         value &= ~CTRL0_IP_SW_RST;
 190         writel(value, &ippc->ip_pw_ctr0);
 191
 192         /*
 193          * device ip is default power-on in fact
 194          * power down device ip, otherwise ip-sleep will fail
 195          */
 196         value = readl(&ippc->ip_pw_ctr2);
 197         value |= CTRL2_IP_DEV_PDN;
 198         writel(value, &ippc->ip_pw_ctr2);
 199
 200         value = readl(&ippc->ip_xhci_cap);
 201         mtk->num_u3_ports = CAP_U3_PORT_NUM(value);
 202         mtk->num_u2_ports = CAP_U2_PORT_NUM(value);
 203         dev_dbg(mtk->dev, "%s u2p:%d, u3p:%d\n", __func__,
 204                         mtk->num_u2_ports, mtk->num_u3_ports);
 205
 206         return xhci_mtk_host_enable(mtk);
 207 }
 208
 209 /* ignore the error if the clock does not exist */
 210 static struct clk *optional_clk_get(struct device *dev, const char *id)
 211 {
 212         struct clk *opt_clk;
 213
 214         opt_clk = devm_clk_get(dev, id);
 215         /* ignore error number except EPROBE_DEFER */
 216         if (IS_ERR(opt_clk) && (PTR_ERR(opt_clk) != -EPROBE_DEFER))
 217                 opt_clk = NULL;
 218
 219         return opt_clk;
 220 }
 221
 222 static int xhci_mtk_clks_get(struct xhci_hcd_mtk *mtk)
 223 {
 224         struct device *dev = mtk->dev;
 225
 226         mtk->sys_clk = devm_clk_get(dev, "sys_ck");
 227         if (IS_ERR(mtk->sys_clk)) {
 228                 dev_err(dev, "fail to get sys_ck\n");
 229                 return PTR_ERR(mtk->sys_clk);
 230         }
 231
 232         mtk->ref_clk = optional_clk_get(dev, "ref_ck");
 233         if (IS_ERR(mtk->ref_clk))
 234                 return PTR_ERR(mtk->ref_clk);
 235
 236         mtk->mcu_clk = optional_clk_get(dev, "mcu_ck");
 237         if (IS_ERR(mtk->mcu_clk))
 238                 return PTR_ERR(mtk->mcu_clk);
 239
 240         mtk->dma_clk = optional_clk_get(dev, "dma_ck");
 241         return PTR_ERR_OR_ZERO(mtk->dma_clk);
 242 }
 243
 244 static int xhci_mtk_clks_enable(struct xhci_hcd_mtk *mtk)
 245 {
 246         int ret;
 247
 248         ret = clk_prepare_enable(mtk->ref_clk);
 249         if (ret) {
 250                 dev_err(mtk->dev, "failed to enable ref_clk\n");
 251                 goto ref_clk_err;
 252         }
 253
 254         ret = clk_prepare_enable(mtk->sys_clk);
 255         if (ret) {
 256                 dev_err(mtk->dev, "failed to enable sys_clk\n");
 257                 goto sys_clk_err;
 258         }
 259
 260         ret = clk_prepare_enable(mtk->mcu_clk);
 261         if (ret) {
 262                 dev_err(mtk->dev, "failed to enable mcu_clk\n");
 263                 goto mcu_clk_err;
 264         }
 265
 266         ret = clk_prepare_enable(mtk->dma_clk);
 267         if (ret) {
 268                 dev_err(mtk->dev, "failed to enable dma_clk\n");
 269                 goto dma_clk_err;
 270         }
 271
 272         return 0;
 273
 274 dma_clk_err:
 275         clk_disable_unprepare(mtk->mcu_clk);
 276 mcu_clk_err:
 277         clk_disable_unprepare(mtk->sys_clk);
 278 sys_clk_err:
 279         clk_disable_unprepare(mtk->ref_clk);
 280 ref_clk_err:
 281         return ret;
 282 }
 283
 284 static void xhci_mtk_clks_disable(struct xhci_hcd_mtk *mtk)
 285 {
 286         clk_disable_unprepare(mtk->dma_clk);
 287         clk_disable_unprepare(mtk->mcu_clk);
 288         clk_disable_unprepare(mtk->sys_clk);
 289         clk_disable_unprepare(mtk->ref_clk);
 290 }
 291
 292 /* only clocks can be turn off for ip-sleep wakeup mode */
 293 static void usb_wakeup_ip_sleep_set(struct xhci_hcd_mtk *mtk, bool enable)
 294 {
 295         u32 reg, msk, val;
 296
 297         switch (mtk->uwk_vers) {
 298         case SSUSB_UWK_V1:
 299                 reg = mtk->uwk_reg_base + PERI_WK_CTRL1;
 300                 msk = WC1_IS_EN | WC1_IS_C(0xf) | WC1_IS_P;
 301                 val = enable ? (WC1_IS_EN | WC1_IS_C(0x8)) : 0;
 302                 break;
 303         case SSUSB_UWK_V2:
 304                 reg = mtk->uwk_reg_base + PERI_SSUSB_SPM_CTRL;
 305                 msk = SSC_IP_SLEEP_EN | SSC_SPM_INT_EN;
 306                 val = enable ? msk : 0;
 307                 break;
 308         default:
 309                 return;
 310         }
 311         regmap_update_bits(mtk->uwk, reg, msk, val);
 312 }
 313
 314 static int usb_wakeup_of_property_parse(struct xhci_hcd_mtk *mtk,
 315                                 struct device_node *dn)
 316 {
 317         struct of_phandle_args args;
 318         int ret;
 319
 320         /* Wakeup function is optional */
 321         mtk->uwk_en = of_property_read_bool(dn, "wakeup-source");
 322         if (!mtk->uwk_en)
 323                 return 0;
 324
 325         ret = of_parse_phandle_with_fixed_args(dn,
 326                                 "mediatek,syscon-wakeup", 2, 0, &args);
 327         if (ret)
 328                 return ret;
 329
 330         mtk->uwk_reg_base = args.args[0];
 331         mtk->uwk_vers = args.args[1];
 332         mtk->uwk = syscon_node_to_regmap(args.np);
 333         of_node_put(args.np);
 334         dev_info(mtk->dev, "uwk - reg:0x%x, version:%d\n",
 335                         mtk->uwk_reg_base, mtk->uwk_vers);
 336
 337         return PTR_ERR_OR_ZERO(mtk->uwk);
 338
 339 }
 340
 341 static void usb_wakeup_set(struct xhci_hcd_mtk *mtk, bool enable)
 342 {
 343         if (mtk->uwk_en)
 344                 usb_wakeup_ip_sleep_set(mtk, enable);
 345 }
 346
 347 static int xhci_mtk_setup(struct usb_hcd *hcd);
 348 static const struct xhci_driver_overrides xhci_mtk_overrides __initconst = {
 349         .reset = xhci_mtk_setup,
 350 };
 351
 352 static struct hc_driver __read_mostly xhci_mtk_hc_driver;
 353
 354 static int xhci_mtk_ldos_enable(struct xhci_hcd_mtk *mtk)
 355 {
 356         int ret;
 357
 358         ret = regulator_enable(mtk->vbus);
 359         if (ret) {
 360                 dev_err(mtk->dev, "failed to enable vbus\n");
 361                 return ret;
 362         }
 363
 364         ret = regulator_enable(mtk->vusb33);
 365         if (ret) {
 366                 dev_err(mtk->dev, "failed to enable vusb33\n");
 367                 regulator_disable(mtk->vbus);
 368                 return ret;
 369         }
 370         return 0;
 371 }
 372
 373 static void xhci_mtk_ldos_disable(struct xhci_hcd_mtk *mtk)
 374 {
 375         regulator_disable(mtk->vbus);
 376         regulator_disable(mtk->vusb33);
 377 }
 378
 379 static void xhci_mtk_quirks(struct device *dev, struct xhci_hcd *xhci)
 380 {
 381         struct usb_hcd *hcd = xhci_to_hcd(xhci);
 382         struct xhci_hcd_mtk *mtk = hcd_to_mtk(hcd);
 383
 384         /*
 385          * As of now platform drivers don't provide MSI support so we ensure
 386          * here that the generic code does not try to make a pci_dev from our
 387          * dev struct in order to setup MSI
 388          */
 389         xhci->quirks |= XHCI_PLAT;
 390         xhci->quirks |= XHCI_MTK_HOST;
 391         /*
 392          * MTK host controller gives a spurious successful event after a
 393          * short transfer. Ignore it.
 394          */
 395         xhci->quirks |= XHCI_SPURIOUS_SUCCESS;
 396         if (mtk->lpm_support)
 397                 xhci->quirks |= XHCI_LPM_SUPPORT;
 398         if (mtk->u2_lpm_disable)
 399                 xhci->quirks |= XHCI_HW_LPM_DISABLE;
 400
 401         /*
 402          * MTK xHCI 0.96: PSA is 1 by default even if doesn't support stream,
 403          * and it's 3 when support it.
 404          */
 405         if (xhci->hci_version < 0x100 && HCC_MAX_PSA(xhci->hcc_params) == 4)
 406                 xhci->quirks |= XHCI_BROKEN_STREAMS;
 407 }
 408
 409 /* called during probe() after chip reset completes */
 410 static int xhci_mtk_setup(struct usb_hcd *hcd)
 411 {
 412         struct xhci_hcd_mtk *mtk = hcd_to_mtk(hcd);
 413         int ret;
 414
 415         if (usb_hcd_is_primary_hcd(hcd)) {
 416                 ret = xhci_mtk_ssusb_config(mtk);
 417                 if (ret)
 418                         return ret;
 419         }
 420
 421         ret = xhci_gen_setup(hcd, xhci_mtk_quirks);
 422         if (ret)
 423                 return ret;
 424
 425         if (usb_hcd_is_primary_hcd(hcd)) {
 426                 ret = xhci_mtk_sch_init(mtk);
 427                 if (ret)
 428                         return ret;
 429         }
 430
 431         return ret;
 432 }
 433
 434 static int xhci_mtk_probe(struct platform_device *pdev)
 435 {
 436         struct device *dev = &pdev->dev;
 437         struct device_node *node = dev->of_node;
 438         struct xhci_hcd_mtk *mtk;
 439         const struct hc_driver *driver;
 440         struct xhci_hcd *xhci;
 441         struct resource *res;
 442         struct usb_hcd *hcd;
 443         int ret = -ENODEV;
 444         int irq;
 445
 446         if (usb_disabled())
 447                 return -ENODEV;
 448
 449         driver = &xhci_mtk_hc_driver;
 450         mtk = devm_kzalloc(dev, sizeof(*mtk), GFP_KERNEL);
 451         if (!mtk)
 452                 return -ENOMEM;
 453
 454         mtk->dev = dev;
 455         mtk->vbus = devm_regulator_get(dev, "vbus");
 456         if (IS_ERR(mtk->vbus)) {
 457                 dev_err(dev, "fail to get vbus\n");
 458                 return PTR_ERR(mtk->vbus);
 459         }
 460
 461         mtk->vusb33 = devm_regulator_get(dev, "vusb33");
 462         if (IS_ERR(mtk->vusb33)) {
 463                 dev_err(dev, "fail to get vusb33\n");
 464                 return PTR_ERR(mtk->vusb33);
 465         }
 466
 467         ret = xhci_mtk_clks_get(mtk);
 468         if (ret)
 469                 return ret;
 470
 471         mtk->lpm_support = of_property_read_bool(node, "usb3-lpm-capable");
 472         mtk->u2_lpm_disable = of_property_read_bool(node, "usb2-lpm-disable");
 473         /* optional property, ignore the error if it does not exist */
 474         of_property_read_u32(node, "mediatek,u3p-dis-msk",
 475                              &mtk->u3p_dis_msk);
 476
 477         ret = usb_wakeup_of_property_parse(mtk, node);
 478         if (ret) {
 479                 dev_err(dev, "failed to parse uwk property\n");
 480                 return ret;
 481         }
 482
 483         pm_runtime_enable(dev);
 484         pm_runtime_get_sync(dev);
 485         device_enable_async_suspend(dev);
 486
 487         ret = xhci_mtk_ldos_enable(mtk);
 488         if (ret)
 489                 goto disable_pm;
 490
 491         ret = xhci_mtk_clks_enable(mtk);
 492         if (ret)
 493                 goto disable_ldos;
 494
 495         irq = platform_get_irq(pdev, 0);
 496         if (irq < 0) {
 497                 ret = irq;
 498                 goto disable_clk;
 499         }
 500
 501         /* Initialize dma_mask and coherent_dma_mask to 32-bits */
 502         ret = dma_set_mask_and_coherent(dev, DMA_BIT_MASK(32));
 503         if (ret)
 504                 goto disable_clk;
 505
 506         hcd = usb_create_hcd(driver, dev, dev_name(dev));
 507         if (!hcd) {
 508                 ret = -ENOMEM;
 509                 goto disable_clk;
 510         }
 511
 512         /*
 513          * USB 2.0 roothub is stored in the platform_device.
 514          * Swap it with mtk HCD.
 515          */
 516         mtk->hcd = platform_get_drvdata(pdev);
 517         platform_set_drvdata(pdev, mtk);
 518
 519         res = platform_get_resource_byname(pdev, IORESOURCE_MEM, "mac");
 520         hcd->regs = devm_ioremap_resource(dev, res);
 521         if (IS_ERR(hcd->regs)) {
 522                 ret = PTR_ERR(hcd->regs);
 523                 goto put_usb2_hcd;
 524         }
 525         hcd->rsrc_start = res->start;
 526         hcd->rsrc_len = resource_size(res);
 527
 528         res = platform_get_resource_byname(pdev, IORESOURCE_MEM, "ippc");
 529         if (res) {      /* ippc register is optional */
 530                 mtk->ippc_regs = devm_ioremap_resource(dev, res);
 531                 if (IS_ERR(mtk->ippc_regs)) {
 532                         ret = PTR_ERR(mtk->ippc_regs);
 533                         goto put_usb2_hcd;
 534                 }
 535                 mtk->has_ippc = true;
 536         } else {
 537                 mtk->has_ippc = false;
 538         }
 539
 540         device_init_wakeup(dev, true);
 541
 542         xhci = hcd_to_xhci(hcd);
 543         xhci->main_hcd = hcd;
 544
 545         /*
 546          * imod_interval is the interrupt moderation value in nanoseconds.
 547          * The increment interval is 8 times as much as that defined in
 548          * the xHCI spec on MTK's controller.
 549          */
 550         xhci->imod_interval = 5000;
 551         device_property_read_u32(dev, "imod-interval-ns", &xhci->imod_interval);
 552
 553         xhci->shared_hcd = usb_create_shared_hcd(driver, dev,
 554                         dev_name(dev), hcd);
 555         if (!xhci->shared_hcd) {
 556                 ret = -ENOMEM;
 557                 goto disable_device_wakeup;
 558         }
 559
 560         ret = usb_add_hcd(hcd, irq, IRQF_SHARED);
 561         if (ret)
 562                 goto put_usb3_hcd;
 563
 564         if (HCC_MAX_PSA(xhci->hcc_params) >= 4 &&
 565             !(xhci->quirks & XHCI_BROKEN_STREAMS))
 566                 xhci->shared_hcd->can_do_streams = 1;
 567
 568         ret = usb_add_hcd(xhci->shared_hcd, irq, IRQF_SHARED);
 569         if (ret)
 570                 goto dealloc_usb2_hcd;
 571
 572         return 0;
 573
 574 dealloc_usb2_hcd:
 575         usb_remove_hcd(hcd);
 576
 577 put_usb3_hcd:
 578         xhci_mtk_sch_exit(mtk);
 579         usb_put_hcd(xhci->shared_hcd);
 580
 581 disable_device_wakeup:
 582         device_init_wakeup(dev, false);
 583
 584 put_usb2_hcd:
 585         usb_put_hcd(hcd);
 586
 587 disable_clk:
 588         xhci_mtk_clks_disable(mtk);
 589
 590 disable_ldos:
 591         xhci_mtk_ldos_disable(mtk);
 592
 593 disable_pm:
 594         pm_runtime_put_sync(dev);
 595         pm_runtime_disable(dev);
 596         return ret;
 597 }
 598
 599 static int xhci_mtk_remove(struct platform_device *dev)
 600 {
 601         struct xhci_hcd_mtk *mtk = platform_get_drvdata(dev);
 602         struct usb_hcd  *hcd = mtk->hcd;
 603         struct xhci_hcd *xhci = hcd_to_xhci(hcd);
 604         struct usb_hcd  *shared_hcd = xhci->shared_hcd;
 605
 606         pm_runtime_put_noidle(&dev->dev);
 607         pm_runtime_disable(&dev->dev);
 608
 609         usb_remove_hcd(shared_hcd);
 610         xhci->shared_hcd = NULL;
 611         device_init_wakeup(&dev->dev, false);
 612
 613         usb_remove_hcd(hcd);
 614         usb_put_hcd(shared_hcd);
 615         usb_put_hcd(hcd);
 616         xhci_mtk_sch_exit(mtk);
 617         xhci_mtk_clks_disable(mtk);
 618         xhci_mtk_ldos_disable(mtk);
 619
 620         return 0;
 621 }
 622
 623 /*
 624  * if ip sleep fails, and all clocks are disabled, access register will hang
 625  * AHB bus, so stop polling roothubs to avoid regs access on bus suspend.
 626  * and no need to check whether ip sleep failed or not; this will cause SPM
 627  * to wake up system immediately after system suspend complete if ip sleep
 628  * fails, it is what we wanted.
 629  */
 630 static int __maybe_unused xhci_mtk_suspend(struct device *dev)
 631 {
 632         struct xhci_hcd_mtk *mtk = dev_get_drvdata(dev);
 633         struct usb_hcd *hcd = mtk->hcd;
 634         struct xhci_hcd *xhci = hcd_to_xhci(hcd);
 635
 636         xhci_dbg(xhci, "%s: stop port polling\n", __func__);
 637         clear_bit(HCD_FLAG_POLL_RH, &hcd->flags);
 638         del_timer_sync(&hcd->rh_timer);
 639         clear_bit(HCD_FLAG_POLL_RH, &xhci->shared_hcd->flags);
 640         del_timer_sync(&xhci->shared_hcd->rh_timer);
 641
 642         xhci_mtk_host_disable(mtk);
 643         xhci_mtk_clks_disable(mtk);
 644         usb_wakeup_set(mtk, true);
 645         return 0;
 646 }
 647
 648 static int __maybe_unused xhci_mtk_resume(struct device *dev)
 649 {
 650         struct xhci_hcd_mtk *mtk = dev_get_drvdata(dev);
 651         struct usb_hcd *hcd = mtk->hcd;
 652         struct xhci_hcd *xhci = hcd_to_xhci(hcd);
 653
 654         usb_wakeup_set(mtk, false);
 655         xhci_mtk_clks_enable(mtk);
 656         xhci_mtk_host_enable(mtk);
 657
 658         xhci_dbg(xhci, "%s: restart port polling\n", __func__);
 659         set_bit(HCD_FLAG_POLL_RH, &xhci->shared_hcd->flags);
 660         usb_hcd_poll_rh_status(xhci->shared_hcd);
 661         set_bit(HCD_FLAG_POLL_RH, &hcd->flags);
 662         usb_hcd_poll_rh_status(hcd);
 663         return 0;
 664 }
 665
 666 static const struct dev_pm_ops xhci_mtk_pm_ops = {
 667         SET_SYSTEM_SLEEP_PM_OPS(xhci_mtk_suspend, xhci_mtk_resume)
 668 };
 669 #define DEV_PM_OPS IS_ENABLED(CONFIG_PM) ? &xhci_mtk_pm_ops : NULL
 670
 671 #ifdef CONFIG_OF
 672 static const struct of_device_id mtk_xhci_of_match[] = {
 673         { .compatible = "mediatek,mt8173-xhci"},
 674         { .compatible = "mediatek,mtk-xhci"},
 675         { },
 676 };
 677 MODULE_DEVICE_TABLE(of, mtk_xhci_of_match);
 678 #endif
 679
 680 static struct platform_driver mtk_xhci_driver = {
 681         .probe  = xhci_mtk_probe,
 682         .remove = xhci_mtk_remove,
 683         .driver = {
 684                 .name = "xhci-mtk",
 685                 .pm = DEV_PM_OPS,
 686                 .of_match_table = of_match_ptr(mtk_xhci_of_match),
 687         },
 688 };
 689 MODULE_ALIAS("platform:xhci-mtk");
 690
 691 static int __init xhci_mtk_init(void)
 692 {
 693         xhci_init_driver(&xhci_mtk_hc_driver, &xhci_mtk_overrides);
 694         return platform_driver_register(&mtk_xhci_driver);
 695 }
 696 module_init(xhci_mtk_init);
 697
 698 static void __exit xhci_mtk_exit(void)
 699 {
 700         platform_driver_unregister(&mtk_xhci_driver);
 701 }
 702 module_exit(xhci_mtk_exit);
 703
 704 MODULE_AUTHOR("Chunfeng Yun <chunfeng.yun@mediatek.com>");
 705 MODULE_DESCRIPTION("MediaTek xHCI Host Controller Driver");
 706 MODULE_LICENSE("GPL v2");