drivers/net/ethernet/amd/xgbe/xgbe-phy-v2.c

   1 /*
   2  * AMD 10Gb Ethernet driver
   3  *
   4  * This file is available to you under your choice of the following two
   5  * licenses:
   6  *
   7  * License 1: GPLv2
   8  *
   9  * Copyright (c) 2016 Advanced Micro Devices, Inc.
  10  *
  11  * This file is free software; you may copy, redistribute and/or modify
  12  * it under the terms of the GNU General Public License as published by
  13  * the Free Software Foundation, either version 2 of the License, or (at
  14  * your option) any later version.
  15  *
  16  * This file is distributed in the hope that it will be useful, but
  17  * WITHOUT ANY WARRANTY; without even the implied warranty of
  18  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
  19  * General Public License for more details.
  20  *
  21  * You should have received a copy of the GNU General Public License
  22  * along with this program.  If not, see <http://www.gnu.org/licenses/>.
  23  *
  24  * This file incorporates work covered by the following copyright and
  25  * permission notice:
  26  *     The Synopsys DWC ETHER XGMAC Software Driver and documentation
  27  *     (hereinafter "Software") is an unsupported proprietary work of Synopsys,
  28  *     Inc. unless otherwise expressly agreed to in writing between Synopsys
  29  *     and you.
  30  *
  31  *     The Software IS NOT an item of Licensed Software or Licensed Product
  32  *     under any End User Software License Agreement or Agreement for Licensed
  33  *     Product with Synopsys or any supplement thereto.  Permission is hereby
  34  *     granted, free of charge, to any person obtaining a copy of this software
  35  *     annotated with this license and the Software, to deal in the Software
  36  *     without restriction, including without limitation the rights to use,
  37  *     copy, modify, merge, publish, distribute, sublicense, and/or sell copies
  38  *     of the Software, and to permit persons to whom the Software is furnished
  39  *     to do so, subject to the following conditions:
  40  *
  41  *     The above copyright notice and this permission notice shall be included
  42  *     in all copies or substantial portions of the Software.
  43  *
  44  *     THIS SOFTWARE IS BEING DISTRIBUTED BY SYNOPSYS SOLELY ON AN "AS IS"
  45  *     BASIS AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED
  46  *     TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A
  47  *     PARTICULAR PURPOSE ARE HEREBY DISCLAIMED. IN NO EVENT SHALL SYNOPSYS
  48  *     BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
  49  *     CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
  50  *     SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
  51  *     INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
  52  *     CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
  53  *     ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
  54  *     THE POSSIBILITY OF SUCH DAMAGE.
  55  *
  56  *
  57  * License 2: Modified BSD
  58  *
  59  * Copyright (c) 2016 Advanced Micro Devices, Inc.
  60  * All rights reserved.
  61  *
  62  * Redistribution and use in source and binary forms, with or without
  63  * modification, are permitted provided that the following conditions are met:
  64  *     * Redistributions of source code must retain the above copyright
  65  *       notice, this list of conditions and the following disclaimer.
  66  *     * Redistributions in binary form must reproduce the above copyright
  67  *       notice, this list of conditions and the following disclaimer in the
  68  *       documentation and/or other materials provided with the distribution.
  69  *     * Neither the name of Advanced Micro Devices, Inc. nor the
  70  *       names of its contributors may be used to endorse or promote products
  71  *       derived from this software without specific prior written permission.
  72  *
  73  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
  74  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  75  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  76  * ARE DISCLAIMED. IN NO EVENT SHALL <COPYRIGHT HOLDER> BE LIABLE FOR ANY
  77  * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
  78  * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
  79  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND
  80  * ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  81  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
  82  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  83  *
  84  * This file incorporates work covered by the following copyright and
  85  * permission notice:
  86  *     The Synopsys DWC ETHER XGMAC Software Driver and documentation
  87  *     (hereinafter "Software") is an unsupported proprietary work of Synopsys,
  88  *     Inc. unless otherwise expressly agreed to in writing between Synopsys
  89  *     and you.
  90  *
  91  *     The Software IS NOT an item of Licensed Software or Licensed Product
  92  *     under any End User Software License Agreement or Agreement for Licensed
  93  *     Product with Synopsys or any supplement thereto.  Permission is hereby
  94  *     granted, free of charge, to any person obtaining a copy of this software
  95  *     annotated with this license and the Software, to deal in the Software
  96  *     without restriction, including without limitation the rights to use,
  97  *     copy, modify, merge, publish, distribute, sublicense, and/or sell copies
  98  *     of the Software, and to permit persons to whom the Software is furnished
  99  *     to do so, subject to the following conditions:
 100  *
 101  *     The above copyright notice and this permission notice shall be included
 102  *     in all copies or substantial portions of the Software.
 103  *
 104  *     THIS SOFTWARE IS BEING DISTRIBUTED BY SYNOPSYS SOLELY ON AN "AS IS"
 105  *     BASIS AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED
 106  *     TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A
 107  *     PARTICULAR PURPOSE ARE HEREBY DISCLAIMED. IN NO EVENT SHALL SYNOPSYS
 108  *     BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
 109  *     CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
 110  *     SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
 111  *     INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
 112  *     CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
 113  *     ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
 114  *     THE POSSIBILITY OF SUCH DAMAGE.
 115  */
 116
 117 #include <linux/module.h>
 118 #include <linux/device.h>
 119 #include <linux/kmod.h>
 120 #include <linux/mdio.h>
 121 #include <linux/phy.h>
 122
 123 #include "xgbe.h"
 124 #include "xgbe-common.h"
 125
 126 #define XGBE_PHY_PORT_SPEED_100         BIT(0)
 127 #define XGBE_PHY_PORT_SPEED_1000        BIT(1)
 128 #define XGBE_PHY_PORT_SPEED_2500        BIT(2)
 129 #define XGBE_PHY_PORT_SPEED_10000       BIT(3)
 130
 131 #define XGBE_MUTEX_RELEASE              0x80000000
 132
 133 #define XGBE_SFP_DIRECT                 7
 134
 135 /* I2C target addresses */
 136 #define XGBE_SFP_SERIAL_ID_ADDRESS      0x50
 137 #define XGBE_SFP_DIAG_INFO_ADDRESS      0x51
 138 #define XGBE_SFP_PHY_ADDRESS            0x56
 139 #define XGBE_GPIO_ADDRESS_PCA9555       0x20
 140
 141 /* SFP sideband signal indicators */
 142 #define XGBE_GPIO_NO_TX_FAULT           BIT(0)
 143 #define XGBE_GPIO_NO_RATE_SELECT        BIT(1)
 144 #define XGBE_GPIO_NO_MOD_ABSENT         BIT(2)
 145 #define XGBE_GPIO_NO_RX_LOS             BIT(3)
 146
 147 /* Rate-change complete wait/retry count */
 148 #define XGBE_RATECHANGE_COUNT           500
 149
 150 /* CDR delay values for KR support (in usec) */
 151 #define XGBE_CDR_DELAY_INIT             10000
 152 #define XGBE_CDR_DELAY_INC              10000
 153 #define XGBE_CDR_DELAY_MAX              100000
 154
 155 /* RRC frequency during link status check */
 156 #define XGBE_RRC_FREQUENCY              10
 157
 158 enum xgbe_port_mode {
 159         XGBE_PORT_MODE_RSVD = 0,
 160         XGBE_PORT_MODE_BACKPLANE,
 161         XGBE_PORT_MODE_BACKPLANE_2500,
 162         XGBE_PORT_MODE_1000BASE_T,
 163         XGBE_PORT_MODE_1000BASE_X,
 164         XGBE_PORT_MODE_NBASE_T,
 165         XGBE_PORT_MODE_10GBASE_T,
 166         XGBE_PORT_MODE_10GBASE_R,
 167         XGBE_PORT_MODE_SFP,
 168         XGBE_PORT_MODE_MAX,
 169 };
 170
 171 enum xgbe_conn_type {
 172         XGBE_CONN_TYPE_NONE = 0,
 173         XGBE_CONN_TYPE_SFP,
 174         XGBE_CONN_TYPE_MDIO,
 175         XGBE_CONN_TYPE_RSVD1,
 176         XGBE_CONN_TYPE_BACKPLANE,
 177         XGBE_CONN_TYPE_MAX,
 178 };
 179
 180 /* SFP/SFP+ related definitions */
 181 enum xgbe_sfp_comm {
 182         XGBE_SFP_COMM_DIRECT = 0,
 183         XGBE_SFP_COMM_PCA9545,
 184 };
 185
 186 enum xgbe_sfp_cable {
 187         XGBE_SFP_CABLE_UNKNOWN = 0,
 188         XGBE_SFP_CABLE_ACTIVE,
 189         XGBE_SFP_CABLE_PASSIVE,
 190 };
 191
 192 enum xgbe_sfp_base {
 193         XGBE_SFP_BASE_UNKNOWN = 0,
 194         XGBE_SFP_BASE_1000_T,
 195         XGBE_SFP_BASE_1000_SX,
 196         XGBE_SFP_BASE_1000_LX,
 197         XGBE_SFP_BASE_1000_CX,
 198         XGBE_SFP_BASE_10000_SR,
 199         XGBE_SFP_BASE_10000_LR,
 200         XGBE_SFP_BASE_10000_LRM,
 201         XGBE_SFP_BASE_10000_ER,
 202         XGBE_SFP_BASE_10000_CR,
 203 };
 204
 205 enum xgbe_sfp_speed {
 206         XGBE_SFP_SPEED_UNKNOWN = 0,
 207         XGBE_SFP_SPEED_100_1000,
 208         XGBE_SFP_SPEED_1000,
 209         XGBE_SFP_SPEED_10000,
 210 };
 211
 212 /* SFP Serial ID Base ID values relative to an offset of 0 */
 213 #define XGBE_SFP_BASE_ID                        0
 214 #define XGBE_SFP_ID_SFP                         0x03
 215
 216 #define XGBE_SFP_BASE_EXT_ID                    1
 217 #define XGBE_SFP_EXT_ID_SFP                     0x04
 218
 219 #define XGBE_SFP_BASE_10GBE_CC                  3
 220 #define XGBE_SFP_BASE_10GBE_CC_SR               BIT(4)
 221 #define XGBE_SFP_BASE_10GBE_CC_LR               BIT(5)
 222 #define XGBE_SFP_BASE_10GBE_CC_LRM              BIT(6)
 223 #define XGBE_SFP_BASE_10GBE_CC_ER               BIT(7)
 224
 225 #define XGBE_SFP_BASE_1GBE_CC                   6
 226 #define XGBE_SFP_BASE_1GBE_CC_SX                BIT(0)
 227 #define XGBE_SFP_BASE_1GBE_CC_LX                BIT(1)
 228 #define XGBE_SFP_BASE_1GBE_CC_CX                BIT(2)
 229 #define XGBE_SFP_BASE_1GBE_CC_T                 BIT(3)
 230
 231 #define XGBE_SFP_BASE_CABLE                     8
 232 #define XGBE_SFP_BASE_CABLE_PASSIVE             BIT(2)
 233 #define XGBE_SFP_BASE_CABLE_ACTIVE              BIT(3)
 234
 235 #define XGBE_SFP_BASE_BR                        12
 236 #define XGBE_SFP_BASE_BR_1GBE_MIN               0x0a
 237 #define XGBE_SFP_BASE_BR_1GBE_MAX               0x0d
 238 #define XGBE_SFP_BASE_BR_10GBE_MIN              0x64
 239 #define XGBE_SFP_BASE_BR_10GBE_MAX              0x68
 240
 241 #define XGBE_SFP_BASE_CU_CABLE_LEN              18
 242
 243 #define XGBE_SFP_BASE_VENDOR_NAME               20
 244 #define XGBE_SFP_BASE_VENDOR_NAME_LEN           16
 245 #define XGBE_SFP_BASE_VENDOR_PN                 40
 246 #define XGBE_SFP_BASE_VENDOR_PN_LEN             16
 247 #define XGBE_SFP_BASE_VENDOR_REV                56
 248 #define XGBE_SFP_BASE_VENDOR_REV_LEN            4
 249
 250 #define XGBE_SFP_BASE_CC                        63
 251
 252 /* SFP Serial ID Extended ID values relative to an offset of 64 */
 253 #define XGBE_SFP_BASE_VENDOR_SN                 4
 254 #define XGBE_SFP_BASE_VENDOR_SN_LEN             16
 255
 256 #define XGBE_SFP_EXTD_OPT1                      1
 257 #define XGBE_SFP_EXTD_OPT1_RX_LOS               BIT(1)
 258 #define XGBE_SFP_EXTD_OPT1_TX_FAULT             BIT(3)
 259
 260 #define XGBE_SFP_EXTD_DIAG                      28
 261 #define XGBE_SFP_EXTD_DIAG_ADDR_CHANGE          BIT(2)
 262
 263 #define XGBE_SFP_EXTD_SFF_8472                  30
 264
 265 #define XGBE_SFP_EXTD_CC                        31
 266
 267 struct xgbe_sfp_eeprom {
 268         u8 base[64];
 269         u8 extd[32];
 270         u8 vendor[32];
 271 };
 272
 273 #define XGBE_BEL_FUSE_VENDOR    "BEL-FUSE        "
 274 #define XGBE_BEL_FUSE_PARTNO    "1GBT-SFP06      "
 275
 276 struct xgbe_sfp_ascii {
 277         union {
 278                 char vendor[XGBE_SFP_BASE_VENDOR_NAME_LEN + 1];
 279                 char partno[XGBE_SFP_BASE_VENDOR_PN_LEN + 1];
 280                 char rev[XGBE_SFP_BASE_VENDOR_REV_LEN + 1];
 281                 char serno[XGBE_SFP_BASE_VENDOR_SN_LEN + 1];
 282         } u;
 283 };
 284
 285 /* MDIO PHY reset types */
 286 enum xgbe_mdio_reset {
 287         XGBE_MDIO_RESET_NONE = 0,
 288         XGBE_MDIO_RESET_I2C_GPIO,
 289         XGBE_MDIO_RESET_INT_GPIO,
 290         XGBE_MDIO_RESET_MAX,
 291 };
 292
 293 /* Re-driver related definitions */
 294 enum xgbe_phy_redrv_if {
 295         XGBE_PHY_REDRV_IF_MDIO = 0,
 296         XGBE_PHY_REDRV_IF_I2C,
 297         XGBE_PHY_REDRV_IF_MAX,
 298 };
 299
 300 enum xgbe_phy_redrv_model {
 301         XGBE_PHY_REDRV_MODEL_4223 = 0,
 302         XGBE_PHY_REDRV_MODEL_4227,
 303         XGBE_PHY_REDRV_MODEL_MAX,
 304 };
 305
 306 enum xgbe_phy_redrv_mode {
 307         XGBE_PHY_REDRV_MODE_CX = 5,
 308         XGBE_PHY_REDRV_MODE_SR = 9,
 309 };
 310
 311 #define XGBE_PHY_REDRV_MODE_REG 0x12b0
 312
 313 /* PHY related configuration information */
 314 struct xgbe_phy_data {
 315         enum xgbe_port_mode port_mode;
 316
 317         unsigned int port_id;
 318
 319         unsigned int port_speeds;
 320
 321         enum xgbe_conn_type conn_type;
 322
 323         enum xgbe_mode cur_mode;
 324         enum xgbe_mode start_mode;
 325
 326         unsigned int rrc_count;
 327
 328         unsigned int mdio_addr;
 329
 330         unsigned int comm_owned;
 331
 332         /* SFP Support */
 333         enum xgbe_sfp_comm sfp_comm;
 334         unsigned int sfp_mux_address;
 335         unsigned int sfp_mux_channel;
 336
 337         unsigned int sfp_gpio_address;
 338         unsigned int sfp_gpio_mask;
 339         unsigned int sfp_gpio_inputs;
 340         unsigned int sfp_gpio_rx_los;
 341         unsigned int sfp_gpio_tx_fault;
 342         unsigned int sfp_gpio_mod_absent;
 343         unsigned int sfp_gpio_rate_select;
 344
 345         unsigned int sfp_rx_los;
 346         unsigned int sfp_tx_fault;
 347         unsigned int sfp_mod_absent;
 348         unsigned int sfp_diags;
 349         unsigned int sfp_changed;
 350         unsigned int sfp_phy_avail;
 351         unsigned int sfp_cable_len;
 352         enum xgbe_sfp_base sfp_base;
 353         enum xgbe_sfp_cable sfp_cable;
 354         enum xgbe_sfp_speed sfp_speed;
 355         struct xgbe_sfp_eeprom sfp_eeprom;
 356
 357         /* External PHY support */
 358         enum xgbe_mdio_mode phydev_mode;
 359         struct mii_bus *mii;
 360         struct phy_device *phydev;
 361         enum xgbe_mdio_reset mdio_reset;
 362         unsigned int mdio_reset_addr;
 363         unsigned int mdio_reset_gpio;
 364
 365         /* Re-driver support */
 366         unsigned int redrv;
 367         unsigned int redrv_if;
 368         unsigned int redrv_addr;
 369         unsigned int redrv_lane;
 370         unsigned int redrv_model;
 371
 372         /* KR AN support */
 373         unsigned int phy_cdr_notrack;
 374         unsigned int phy_cdr_delay;
 375 };
 376
 377 /* I2C, MDIO and GPIO lines are muxed, so only one device at a time */
 378 static DEFINE_MUTEX(xgbe_phy_comm_lock);
 379
 380 static enum xgbe_an_mode xgbe_phy_an_mode(struct xgbe_prv_data *pdata);
 381
 382 static int xgbe_phy_i2c_xfer(struct xgbe_prv_data *pdata,
 383                              struct xgbe_i2c_op *i2c_op)
 384 {
 385         struct xgbe_phy_data *phy_data = pdata->phy_data;
 386
 387         /* Be sure we own the bus */
 388         if (WARN_ON(!phy_data->comm_owned))
 389                 return -EIO;
 390
 391         return pdata->i2c_if.i2c_xfer(pdata, i2c_op);
 392 }
 393
 394 static int xgbe_phy_redrv_write(struct xgbe_prv_data *pdata, unsigned int reg,
 395                                 unsigned int val)
 396 {
 397         struct xgbe_phy_data *phy_data = pdata->phy_data;
 398         struct xgbe_i2c_op i2c_op;
 399         __be16 *redrv_val;
 400         u8 redrv_data[5], csum;
 401         unsigned int i, retry;
 402         int ret;
 403
 404         /* High byte of register contains read/write indicator */
 405         redrv_data[0] = ((reg >> 8) & 0xff) << 1;
 406         redrv_data[1] = reg & 0xff;
 407         redrv_val = (__be16 *)&redrv_data[2];
 408         *redrv_val = cpu_to_be16(val);
 409
 410         /* Calculate 1 byte checksum */
 411         csum = 0;
 412         for (i = 0; i < 4; i++) {
 413                 csum += redrv_data[i];
 414                 if (redrv_data[i] > csum)
 415                         csum++;
 416         }
 417         redrv_data[4] = ~csum;
 418
 419         retry = 1;
 420 again1:
 421         i2c_op.cmd = XGBE_I2C_CMD_WRITE;
 422         i2c_op.target = phy_data->redrv_addr;
 423         i2c_op.len = sizeof(redrv_data);
 424         i2c_op.buf = redrv_data;
 425         ret = xgbe_phy_i2c_xfer(pdata, &i2c_op);
 426         if (ret) {
 427                 if ((ret == -EAGAIN) && retry--)
 428                         goto again1;
 429
 430                 return ret;
 431         }
 432
 433         retry = 1;
 434 again2:
 435         i2c_op.cmd = XGBE_I2C_CMD_READ;
 436         i2c_op.target = phy_data->redrv_addr;
 437         i2c_op.len = 1;
 438         i2c_op.buf = redrv_data;
 439         ret = xgbe_phy_i2c_xfer(pdata, &i2c_op);
 440         if (ret) {
 441                 if ((ret == -EAGAIN) && retry--)
 442                         goto again2;
 443
 444                 return ret;
 445         }
 446
 447         if (redrv_data[0] != 0xff) {
 448                 netif_dbg(pdata, drv, pdata->netdev,
 449                           "Redriver write checksum error\n");
 450                 ret = -EIO;
 451         }
 452
 453         return ret;
 454 }
 455
 456 static int xgbe_phy_i2c_write(struct xgbe_prv_data *pdata, unsigned int target,
 457                               void *val, unsigned int val_len)
 458 {
 459         struct xgbe_i2c_op i2c_op;
 460         int retry, ret;
 461
 462         retry = 1;
 463 again:
 464         /* Write the specfied register */
 465         i2c_op.cmd = XGBE_I2C_CMD_WRITE;
 466         i2c_op.target = target;
 467         i2c_op.len = val_len;
 468         i2c_op.buf = val;
 469         ret = xgbe_phy_i2c_xfer(pdata, &i2c_op);
 470         if ((ret == -EAGAIN) && retry--)
 471                 goto again;
 472
 473         return ret;
 474 }
 475
 476 static int xgbe_phy_i2c_read(struct xgbe_prv_data *pdata, unsigned int target,
 477                              void *reg, unsigned int reg_len,
 478                              void *val, unsigned int val_len)
 479 {
 480         struct xgbe_i2c_op i2c_op;
 481         int retry, ret;
 482
 483         retry = 1;
 484 again1:
 485         /* Set the specified register to read */
 486         i2c_op.cmd = XGBE_I2C_CMD_WRITE;
 487         i2c_op.target = target;
 488         i2c_op.len = reg_len;
 489         i2c_op.buf = reg;
 490         ret = xgbe_phy_i2c_xfer(pdata, &i2c_op);
 491         if (ret) {
 492                 if ((ret == -EAGAIN) && retry--)
 493                         goto again1;
 494
 495                 return ret;
 496         }
 497
 498         retry = 1;
 499 again2:
 500         /* Read the specfied register */
 501         i2c_op.cmd = XGBE_I2C_CMD_READ;
 502         i2c_op.target = target;
 503         i2c_op.len = val_len;
 504         i2c_op.buf = val;
 505         ret = xgbe_phy_i2c_xfer(pdata, &i2c_op);
 506         if ((ret == -EAGAIN) && retry--)
 507                 goto again2;
 508
 509         return ret;
 510 }
 511
 512 static int xgbe_phy_sfp_put_mux(struct xgbe_prv_data *pdata)
 513 {
 514         struct xgbe_phy_data *phy_data = pdata->phy_data;
 515         struct xgbe_i2c_op i2c_op;
 516         u8 mux_channel;
 517
 518         if (phy_data->sfp_comm == XGBE_SFP_COMM_DIRECT)
 519                 return 0;
 520
 521         /* Select no mux channels */
 522         mux_channel = 0;
 523         i2c_op.cmd = XGBE_I2C_CMD_WRITE;
 524         i2c_op.target = phy_data->sfp_mux_address;
 525         i2c_op.len = sizeof(mux_channel);
 526         i2c_op.buf = &mux_channel;
 527
 528         return xgbe_phy_i2c_xfer(pdata, &i2c_op);
 529 }
 530
 531 static int xgbe_phy_sfp_get_mux(struct xgbe_prv_data *pdata)
 532 {
 533         struct xgbe_phy_data *phy_data = pdata->phy_data;
 534         struct xgbe_i2c_op i2c_op;
 535         u8 mux_channel;
 536
 537         if (phy_data->sfp_comm == XGBE_SFP_COMM_DIRECT)
 538                 return 0;
 539
 540         /* Select desired mux channel */
 541         mux_channel = 1 << phy_data->sfp_mux_channel;
 542         i2c_op.cmd = XGBE_I2C_CMD_WRITE;
 543         i2c_op.target = phy_data->sfp_mux_address;
 544         i2c_op.len = sizeof(mux_channel);
 545         i2c_op.buf = &mux_channel;
 546
 547         return xgbe_phy_i2c_xfer(pdata, &i2c_op);
 548 }
 549
 550 static void xgbe_phy_put_comm_ownership(struct xgbe_prv_data *pdata)
 551 {
 552         struct xgbe_phy_data *phy_data = pdata->phy_data;
 553
 554         phy_data->comm_owned = 0;
 555
 556         mutex_unlock(&xgbe_phy_comm_lock);
 557 }
 558
 559 static int xgbe_phy_get_comm_ownership(struct xgbe_prv_data *pdata)
 560 {
 561         struct xgbe_phy_data *phy_data = pdata->phy_data;
 562         unsigned long timeout;
 563         unsigned int mutex_id;
 564
 565         if (phy_data->comm_owned)
 566                 return 0;
 567
 568         /* The I2C and MDIO/GPIO bus is multiplexed between multiple devices,
 569          * the driver needs to take the software mutex and then the hardware
 570          * mutexes before being able to use the busses.
 571          */
 572         mutex_lock(&xgbe_phy_comm_lock);
 573
 574         /* Clear the mutexes */
 575         XP_IOWRITE(pdata, XP_I2C_MUTEX, XGBE_MUTEX_RELEASE);
 576         XP_IOWRITE(pdata, XP_MDIO_MUTEX, XGBE_MUTEX_RELEASE);
 577
 578         /* Mutex formats are the same for I2C and MDIO/GPIO */
 579         mutex_id = 0;
 580         XP_SET_BITS(mutex_id, XP_I2C_MUTEX, ID, phy_data->port_id);
 581         XP_SET_BITS(mutex_id, XP_I2C_MUTEX, ACTIVE, 1);
 582
 583         timeout = jiffies + (5 * HZ);
 584         while (time_before(jiffies, timeout)) {
 585                 /* Must be all zeroes in order to obtain the mutex */
 586                 if (XP_IOREAD(pdata, XP_I2C_MUTEX) ||
 587                     XP_IOREAD(pdata, XP_MDIO_MUTEX)) {
 588                         usleep_range(100, 200);
 589                         continue;
 590                 }
 591
 592                 /* Obtain the mutex */
 593                 XP_IOWRITE(pdata, XP_I2C_MUTEX, mutex_id);
 594                 XP_IOWRITE(pdata, XP_MDIO_MUTEX, mutex_id);
 595
 596                 phy_data->comm_owned = 1;
 597                 return 0;
 598         }
 599
 600         mutex_unlock(&xgbe_phy_comm_lock);
 601
 602         netdev_err(pdata->netdev, "unable to obtain hardware mutexes\n");
 603
 604         return -ETIMEDOUT;
 605 }
 606
 607 static int xgbe_phy_mdio_mii_write(struct xgbe_prv_data *pdata, int addr,
 608                                    int reg, u16 val)
 609 {
 610         struct xgbe_phy_data *phy_data = pdata->phy_data;
 611
 612         if (reg & MII_ADDR_C45) {
 613                 if (phy_data->phydev_mode != XGBE_MDIO_MODE_CL45)
 614                         return -ENOTSUPP;
 615         } else {
 616                 if (phy_data->phydev_mode != XGBE_MDIO_MODE_CL22)
 617                         return -ENOTSUPP;
 618         }
 619
 620         return pdata->hw_if.write_ext_mii_regs(pdata, addr, reg, val);
 621 }
 622
 623 static int xgbe_phy_i2c_mii_write(struct xgbe_prv_data *pdata, int reg, u16 val)
 624 {
 625         __be16 *mii_val;
 626         u8 mii_data[3];
 627         int ret;
 628
 629         ret = xgbe_phy_sfp_get_mux(pdata);
 630         if (ret)
 631                 return ret;
 632
 633         mii_data[0] = reg & 0xff;
 634         mii_val = (__be16 *)&mii_data[1];
 635         *mii_val = cpu_to_be16(val);
 636
 637         ret = xgbe_phy_i2c_write(pdata, XGBE_SFP_PHY_ADDRESS,
 638                                  mii_data, sizeof(mii_data));
 639
 640         xgbe_phy_sfp_put_mux(pdata);
 641
 642         return ret;
 643 }
 644
 645 static int xgbe_phy_mii_write(struct mii_bus *mii, int addr, int reg, u16 val)
 646 {
 647         struct xgbe_prv_data *pdata = mii->priv;
 648         struct xgbe_phy_data *phy_data = pdata->phy_data;
 649         int ret;
 650
 651         ret = xgbe_phy_get_comm_ownership(pdata);
 652         if (ret)
 653                 return ret;
 654
 655         if (phy_data->conn_type == XGBE_CONN_TYPE_SFP)
 656                 ret = xgbe_phy_i2c_mii_write(pdata, reg, val);
 657         else if (phy_data->conn_type & XGBE_CONN_TYPE_MDIO)
 658                 ret = xgbe_phy_mdio_mii_write(pdata, addr, reg, val);
 659         else
 660                 ret = -ENOTSUPP;
 661
 662         xgbe_phy_put_comm_ownership(pdata);
 663
 664         return ret;
 665 }
 666
 667 static int xgbe_phy_mdio_mii_read(struct xgbe_prv_data *pdata, int addr,
 668                                   int reg)
 669 {
 670         struct xgbe_phy_data *phy_data = pdata->phy_data;
 671
 672         if (reg & MII_ADDR_C45) {
 673                 if (phy_data->phydev_mode != XGBE_MDIO_MODE_CL45)
 674                         return -ENOTSUPP;
 675         } else {
 676                 if (phy_data->phydev_mode != XGBE_MDIO_MODE_CL22)
 677                         return -ENOTSUPP;
 678         }
 679
 680         return pdata->hw_if.read_ext_mii_regs(pdata, addr, reg);
 681 }
 682
 683 static int xgbe_phy_i2c_mii_read(struct xgbe_prv_data *pdata, int reg)
 684 {
 685         __be16 mii_val;
 686         u8 mii_reg;
 687         int ret;
 688
 689         ret = xgbe_phy_sfp_get_mux(pdata);
 690         if (ret)
 691                 return ret;
 692
 693         mii_reg = reg;
 694         ret = xgbe_phy_i2c_read(pdata, XGBE_SFP_PHY_ADDRESS,
 695                                 &mii_reg, sizeof(mii_reg),
 696                                 &mii_val, sizeof(mii_val));
 697         if (!ret)
 698                 ret = be16_to_cpu(mii_val);
 699
 700         xgbe_phy_sfp_put_mux(pdata);
 701
 702         return ret;
 703 }
 704
 705 static int xgbe_phy_mii_read(struct mii_bus *mii, int addr, int reg)
 706 {
 707         struct xgbe_prv_data *pdata = mii->priv;
 708         struct xgbe_phy_data *phy_data = pdata->phy_data;
 709         int ret;
 710
 711         ret = xgbe_phy_get_comm_ownership(pdata);
 712         if (ret)
 713                 return ret;
 714
 715         if (phy_data->conn_type == XGBE_CONN_TYPE_SFP)
 716                 ret = xgbe_phy_i2c_mii_read(pdata, reg);
 717         else if (phy_data->conn_type & XGBE_CONN_TYPE_MDIO)
 718                 ret = xgbe_phy_mdio_mii_read(pdata, addr, reg);
 719         else
 720                 ret = -ENOTSUPP;
 721
 722         xgbe_phy_put_comm_ownership(pdata);
 723
 724         return ret;
 725 }
 726
 727 static void xgbe_phy_sfp_phy_settings(struct xgbe_prv_data *pdata)
 728 {
 729         struct ethtool_link_ksettings *lks = &pdata->phy.lks;
 730         struct xgbe_phy_data *phy_data = pdata->phy_data;
 731
 732         if (!phy_data->sfp_mod_absent && !phy_data->sfp_changed)
 733                 return;
 734
 735         XGBE_ZERO_SUP(lks);
 736
 737         if (phy_data->sfp_mod_absent) {
 738                 pdata->phy.speed = SPEED_UNKNOWN;
 739                 pdata->phy.duplex = DUPLEX_UNKNOWN;
 740                 pdata->phy.autoneg = AUTONEG_ENABLE;
 741                 pdata->phy.pause_autoneg = AUTONEG_ENABLE;
 742
 743                 XGBE_SET_SUP(lks, Autoneg);
 744                 XGBE_SET_SUP(lks, Pause);
 745                 XGBE_SET_SUP(lks, Asym_Pause);
 746                 XGBE_SET_SUP(lks, TP);
 747                 XGBE_SET_SUP(lks, FIBRE);
 748
 749                 XGBE_LM_COPY(lks, advertising, lks, supported);
 750
 751                 return;
 752         }
 753
 754         switch (phy_data->sfp_base) {
 755         case XGBE_SFP_BASE_1000_T:
 756         case XGBE_SFP_BASE_1000_SX:
 757         case XGBE_SFP_BASE_1000_LX:
 758         case XGBE_SFP_BASE_1000_CX:
 759                 pdata->phy.speed = SPEED_UNKNOWN;
 760                 pdata->phy.duplex = DUPLEX_UNKNOWN;
 761                 pdata->phy.autoneg = AUTONEG_ENABLE;
 762                 pdata->phy.pause_autoneg = AUTONEG_ENABLE;
 763                 XGBE_SET_SUP(lks, Autoneg);
 764                 XGBE_SET_SUP(lks, Pause);
 765                 XGBE_SET_SUP(lks, Asym_Pause);
 766                 if (phy_data->sfp_base == XGBE_SFP_BASE_1000_T) {
 767                         if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_100)
 768                                 XGBE_SET_SUP(lks, 100baseT_Full);
 769                         if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_1000)
 770                                 XGBE_SET_SUP(lks, 1000baseT_Full);
 771                 } else {
 772                         if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_1000)
 773                                 XGBE_SET_SUP(lks, 1000baseX_Full);
 774                 }
 775                 break;
 776         case XGBE_SFP_BASE_10000_SR:
 777         case XGBE_SFP_BASE_10000_LR:
 778         case XGBE_SFP_BASE_10000_LRM:
 779         case XGBE_SFP_BASE_10000_ER:
 780         case XGBE_SFP_BASE_10000_CR:
 781                 pdata->phy.speed = SPEED_10000;
 782                 pdata->phy.duplex = DUPLEX_FULL;
 783                 pdata->phy.autoneg = AUTONEG_DISABLE;
 784                 pdata->phy.pause_autoneg = AUTONEG_DISABLE;
 785                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_10000) {
 786                         switch (phy_data->sfp_base) {
 787                         case XGBE_SFP_BASE_10000_SR:
 788                                 XGBE_SET_SUP(lks, 10000baseSR_Full);
 789                                 break;
 790                         case XGBE_SFP_BASE_10000_LR:
 791                                 XGBE_SET_SUP(lks, 10000baseLR_Full);
 792                                 break;
 793                         case XGBE_SFP_BASE_10000_LRM:
 794                                 XGBE_SET_SUP(lks, 10000baseLRM_Full);
 795                                 break;
 796                         case XGBE_SFP_BASE_10000_ER:
 797                                 XGBE_SET_SUP(lks, 10000baseER_Full);
 798                                 break;
 799                         case XGBE_SFP_BASE_10000_CR:
 800                                 XGBE_SET_SUP(lks, 10000baseCR_Full);
 801                                 break;
 802                         default:
 803                                 break;
 804                         }
 805                 }
 806                 break;
 807         default:
 808                 pdata->phy.speed = SPEED_UNKNOWN;
 809                 pdata->phy.duplex = DUPLEX_UNKNOWN;
 810                 pdata->phy.autoneg = AUTONEG_DISABLE;
 811                 pdata->phy.pause_autoneg = AUTONEG_DISABLE;
 812                 break;
 813         }
 814
 815         switch (phy_data->sfp_base) {
 816         case XGBE_SFP_BASE_1000_T:
 817         case XGBE_SFP_BASE_1000_CX:
 818         case XGBE_SFP_BASE_10000_CR:
 819                 XGBE_SET_SUP(lks, TP);
 820                 break;
 821         default:
 822                 XGBE_SET_SUP(lks, FIBRE);
 823                 break;
 824         }
 825
 826         XGBE_LM_COPY(lks, advertising, lks, supported);
 827 }
 828
 829 static bool xgbe_phy_sfp_bit_rate(struct xgbe_sfp_eeprom *sfp_eeprom,
 830                                   enum xgbe_sfp_speed sfp_speed)
 831 {
 832         u8 *sfp_base, min, max;
 833
 834         sfp_base = sfp_eeprom->base;
 835
 836         switch (sfp_speed) {
 837         case XGBE_SFP_SPEED_1000:
 838                 min = XGBE_SFP_BASE_BR_1GBE_MIN;
 839                 max = XGBE_SFP_BASE_BR_1GBE_MAX;
 840                 break;
 841         case XGBE_SFP_SPEED_10000:
 842                 min = XGBE_SFP_BASE_BR_10GBE_MIN;
 843                 max = XGBE_SFP_BASE_BR_10GBE_MAX;
 844                 break;
 845         default:
 846                 return false;
 847         }
 848
 849         return ((sfp_base[XGBE_SFP_BASE_BR] >= min) &&
 850                 (sfp_base[XGBE_SFP_BASE_BR] <= max));
 851 }
 852
 853 static void xgbe_phy_free_phy_device(struct xgbe_prv_data *pdata)
 854 {
 855         struct xgbe_phy_data *phy_data = pdata->phy_data;
 856
 857         if (phy_data->phydev) {
 858                 phy_detach(phy_data->phydev);
 859                 phy_device_remove(phy_data->phydev);
 860                 phy_device_free(phy_data->phydev);
 861                 phy_data->phydev = NULL;
 862         }
 863 }
 864
 865 static bool xgbe_phy_finisar_phy_quirks(struct xgbe_prv_data *pdata)
 866 {
 867         struct xgbe_phy_data *phy_data = pdata->phy_data;
 868         unsigned int phy_id = phy_data->phydev->phy_id;
 869
 870         if ((phy_id & 0xfffffff0) != 0x01ff0cc0)
 871                 return false;
 872
 873         /* Enable Base-T AN */
 874         phy_write(phy_data->phydev, 0x16, 0x0001);
 875         phy_write(phy_data->phydev, 0x00, 0x9140);
 876         phy_write(phy_data->phydev, 0x16, 0x0000);
 877
 878         /* Enable SGMII at 100Base-T/1000Base-T Full Duplex */
 879         phy_write(phy_data->phydev, 0x1b, 0x9084);
 880         phy_write(phy_data->phydev, 0x09, 0x0e00);
 881         phy_write(phy_data->phydev, 0x00, 0x8140);
 882         phy_write(phy_data->phydev, 0x04, 0x0d01);
 883         phy_write(phy_data->phydev, 0x00, 0x9140);
 884
 885         phy_data->phydev->supported = PHY_GBIT_FEATURES;
 886         phy_data->phydev->supported |= SUPPORTED_Pause | SUPPORTED_Asym_Pause;
 887         phy_data->phydev->advertising = phy_data->phydev->supported;
 888
 889         netif_dbg(pdata, drv, pdata->netdev,
 890                   "Finisar PHY quirk in place\n");
 891
 892         return true;
 893 }
 894
 895 static void xgbe_phy_external_phy_quirks(struct xgbe_prv_data *pdata)
 896 {
 897         if (xgbe_phy_finisar_phy_quirks(pdata))
 898                 return;
 899 }
 900
 901 static int xgbe_phy_find_phy_device(struct xgbe_prv_data *pdata)
 902 {
 903         struct ethtool_link_ksettings *lks = &pdata->phy.lks;
 904         struct xgbe_phy_data *phy_data = pdata->phy_data;
 905         struct phy_device *phydev;
 906         u32 advertising;
 907         int ret;
 908
 909         /* If we already have a PHY, just return */
 910         if (phy_data->phydev)
 911                 return 0;
 912
 913         /* Check for the use of an external PHY */
 914         if (phy_data->phydev_mode == XGBE_MDIO_MODE_NONE)
 915                 return 0;
 916
 917         /* For SFP, only use an external PHY if available */
 918         if ((phy_data->port_mode == XGBE_PORT_MODE_SFP) &&
 919             !phy_data->sfp_phy_avail)
 920                 return 0;
 921
 922         /* Set the proper MDIO mode for the PHY */
 923         ret = pdata->hw_if.set_ext_mii_mode(pdata, phy_data->mdio_addr,
 924                                             phy_data->phydev_mode);
 925         if (ret) {
 926                 netdev_err(pdata->netdev,
 927                            "mdio port/clause not compatible (%u/%u)\n",
 928                            phy_data->mdio_addr, phy_data->phydev_mode);
 929                 return ret;
 930         }
 931
 932         /* Create and connect to the PHY device */
 933         phydev = get_phy_device(phy_data->mii, phy_data->mdio_addr,
 934                                 (phy_data->phydev_mode == XGBE_MDIO_MODE_CL45));
 935         if (IS_ERR(phydev)) {
 936                 netdev_err(pdata->netdev, "get_phy_device failed\n");
 937                 return -ENODEV;
 938         }
 939         netif_dbg(pdata, drv, pdata->netdev, "external PHY id is %#010x\n",
 940                   phydev->phy_id);
 941
 942         /*TODO: If c45, add request_module based on one of the MMD ids? */
 943
 944         ret = phy_device_register(phydev);
 945         if (ret) {
 946                 netdev_err(pdata->netdev, "phy_device_register failed\n");
 947                 phy_device_free(phydev);
 948                 return ret;
 949         }
 950
 951         ret = phy_attach_direct(pdata->netdev, phydev, phydev->dev_flags,
 952                                 PHY_INTERFACE_MODE_SGMII);
 953         if (ret) {
 954                 netdev_err(pdata->netdev, "phy_attach_direct failed\n");
 955                 phy_device_remove(phydev);
 956                 phy_device_free(phydev);
 957                 return ret;
 958         }
 959         phy_data->phydev = phydev;
 960
 961         xgbe_phy_external_phy_quirks(pdata);
 962
 963         ethtool_convert_link_mode_to_legacy_u32(&advertising,
 964                                                 lks->link_modes.advertising);
 965         phydev->advertising &= advertising;
 966
 967         phy_start_aneg(phy_data->phydev);
 968
 969         return 0;
 970 }
 971
 972 static void xgbe_phy_sfp_external_phy(struct xgbe_prv_data *pdata)
 973 {
 974         struct xgbe_phy_data *phy_data = pdata->phy_data;
 975         int ret;
 976
 977         if (!phy_data->sfp_changed)
 978                 return;
 979
 980         phy_data->sfp_phy_avail = 0;
 981
 982         if (phy_data->sfp_base != XGBE_SFP_BASE_1000_T)
 983                 return;
 984
 985         /* Check access to the PHY by reading CTRL1 */
 986         ret = xgbe_phy_i2c_mii_read(pdata, MII_BMCR);
 987         if (ret < 0)
 988                 return;
 989
 990         /* Successfully accessed the PHY */
 991         phy_data->sfp_phy_avail = 1;
 992 }
 993
 994 static bool xgbe_phy_check_sfp_rx_los(struct xgbe_phy_data *phy_data)
 995 {
 996         u8 *sfp_extd = phy_data->sfp_eeprom.extd;
 997
 998         if (!(sfp_extd[XGBE_SFP_EXTD_OPT1] & XGBE_SFP_EXTD_OPT1_RX_LOS))
 999                 return false;
1000
1001         if (phy_data->sfp_gpio_mask & XGBE_GPIO_NO_RX_LOS)
1002                 return false;
1003
1004         if (phy_data->sfp_gpio_inputs & (1 << phy_data->sfp_gpio_rx_los))
1005                 return true;
1006
1007         return false;
1008 }
1009
1010 static bool xgbe_phy_check_sfp_tx_fault(struct xgbe_phy_data *phy_data)
1011 {
1012         u8 *sfp_extd = phy_data->sfp_eeprom.extd;
1013
1014         if (!(sfp_extd[XGBE_SFP_EXTD_OPT1] & XGBE_SFP_EXTD_OPT1_TX_FAULT))
1015                 return false;
1016
1017         if (phy_data->sfp_gpio_mask & XGBE_GPIO_NO_TX_FAULT)
1018                 return false;
1019
1020         if (phy_data->sfp_gpio_inputs & (1 << phy_data->sfp_gpio_tx_fault))
1021                 return true;
1022
1023         return false;
1024 }
1025
1026 static bool xgbe_phy_check_sfp_mod_absent(struct xgbe_phy_data *phy_data)
1027 {
1028         if (phy_data->sfp_gpio_mask & XGBE_GPIO_NO_MOD_ABSENT)
1029                 return false;
1030
1031         if (phy_data->sfp_gpio_inputs & (1 << phy_data->sfp_gpio_mod_absent))
1032                 return true;
1033
1034         return false;
1035 }
1036
1037 static bool xgbe_phy_belfuse_parse_quirks(struct xgbe_prv_data *pdata)
1038 {
1039         struct xgbe_phy_data *phy_data = pdata->phy_data;
1040         struct xgbe_sfp_eeprom *sfp_eeprom = &phy_data->sfp_eeprom;
1041
1042         if (memcmp(&sfp_eeprom->base[XGBE_SFP_BASE_VENDOR_NAME],
1043                    XGBE_BEL_FUSE_VENDOR, XGBE_SFP_BASE_VENDOR_NAME_LEN))
1044                 return false;
1045
1046         if (!memcmp(&sfp_eeprom->base[XGBE_SFP_BASE_VENDOR_PN],
1047                     XGBE_BEL_FUSE_PARTNO, XGBE_SFP_BASE_VENDOR_PN_LEN)) {
1048                 phy_data->sfp_base = XGBE_SFP_BASE_1000_SX;
1049                 phy_data->sfp_cable = XGBE_SFP_CABLE_ACTIVE;
1050                 phy_data->sfp_speed = XGBE_SFP_SPEED_1000;
1051                 if (phy_data->sfp_changed)
1052                         netif_dbg(pdata, drv, pdata->netdev,
1053                                   "Bel-Fuse SFP quirk in place\n");
1054                 return true;
1055         }
1056
1057         return false;
1058 }
1059
1060 static bool xgbe_phy_sfp_parse_quirks(struct xgbe_prv_data *pdata)
1061 {
1062         if (xgbe_phy_belfuse_parse_quirks(pdata))
1063                 return true;
1064
1065         return false;
1066 }
1067
1068 static void xgbe_phy_sfp_parse_eeprom(struct xgbe_prv_data *pdata)
1069 {
1070         struct xgbe_phy_data *phy_data = pdata->phy_data;
1071         struct xgbe_sfp_eeprom *sfp_eeprom = &phy_data->sfp_eeprom;
1072         u8 *sfp_base;
1073
1074         sfp_base = sfp_eeprom->base;
1075
1076         if (sfp_base[XGBE_SFP_BASE_ID] != XGBE_SFP_ID_SFP)
1077                 return;
1078
1079         if (sfp_base[XGBE_SFP_BASE_EXT_ID] != XGBE_SFP_EXT_ID_SFP)
1080                 return;
1081
1082         /* Update transceiver signals (eeprom extd/options) */
1083         phy_data->sfp_tx_fault = xgbe_phy_check_sfp_tx_fault(phy_data);
1084         phy_data->sfp_rx_los = xgbe_phy_check_sfp_rx_los(phy_data);
1085
1086         if (xgbe_phy_sfp_parse_quirks(pdata))
1087                 return;
1088
1089         /* Assume ACTIVE cable unless told it is PASSIVE */
1090         if (sfp_base[XGBE_SFP_BASE_CABLE] & XGBE_SFP_BASE_CABLE_PASSIVE) {
1091                 phy_data->sfp_cable = XGBE_SFP_CABLE_PASSIVE;
1092                 phy_data->sfp_cable_len = sfp_base[XGBE_SFP_BASE_CU_CABLE_LEN];
1093         } else {
1094                 phy_data->sfp_cable = XGBE_SFP_CABLE_ACTIVE;
1095         }
1096
1097         /* Determine the type of SFP */
1098         if (sfp_base[XGBE_SFP_BASE_10GBE_CC] & XGBE_SFP_BASE_10GBE_CC_SR)
1099                 phy_data->sfp_base = XGBE_SFP_BASE_10000_SR;
1100         else if (sfp_base[XGBE_SFP_BASE_10GBE_CC] & XGBE_SFP_BASE_10GBE_CC_LR)
1101                 phy_data->sfp_base = XGBE_SFP_BASE_10000_LR;
1102         else if (sfp_base[XGBE_SFP_BASE_10GBE_CC] & XGBE_SFP_BASE_10GBE_CC_LRM)
1103                 phy_data->sfp_base = XGBE_SFP_BASE_10000_LRM;
1104         else if (sfp_base[XGBE_SFP_BASE_10GBE_CC] & XGBE_SFP_BASE_10GBE_CC_ER)
1105                 phy_data->sfp_base = XGBE_SFP_BASE_10000_ER;
1106         else if (sfp_base[XGBE_SFP_BASE_1GBE_CC] & XGBE_SFP_BASE_1GBE_CC_SX)
1107                 phy_data->sfp_base = XGBE_SFP_BASE_1000_SX;
1108         else if (sfp_base[XGBE_SFP_BASE_1GBE_CC] & XGBE_SFP_BASE_1GBE_CC_LX)
1109                 phy_data->sfp_base = XGBE_SFP_BASE_1000_LX;
1110         else if (sfp_base[XGBE_SFP_BASE_1GBE_CC] & XGBE_SFP_BASE_1GBE_CC_CX)
1111                 phy_data->sfp_base = XGBE_SFP_BASE_1000_CX;
1112         else if (sfp_base[XGBE_SFP_BASE_1GBE_CC] & XGBE_SFP_BASE_1GBE_CC_T)
1113                 phy_data->sfp_base = XGBE_SFP_BASE_1000_T;
1114         else if ((phy_data->sfp_cable == XGBE_SFP_CABLE_PASSIVE) &&
1115                  xgbe_phy_sfp_bit_rate(sfp_eeprom, XGBE_SFP_SPEED_10000))
1116                 phy_data->sfp_base = XGBE_SFP_BASE_10000_CR;
1117
1118         switch (phy_data->sfp_base) {
1119         case XGBE_SFP_BASE_1000_T:
1120                 phy_data->sfp_speed = XGBE_SFP_SPEED_100_1000;
1121                 break;
1122         case XGBE_SFP_BASE_1000_SX:
1123         case XGBE_SFP_BASE_1000_LX:
1124         case XGBE_SFP_BASE_1000_CX:
1125                 phy_data->sfp_speed = XGBE_SFP_SPEED_1000;
1126                 break;
1127         case XGBE_SFP_BASE_10000_SR:
1128         case XGBE_SFP_BASE_10000_LR:
1129         case XGBE_SFP_BASE_10000_LRM:
1130         case XGBE_SFP_BASE_10000_ER:
1131         case XGBE_SFP_BASE_10000_CR:
1132                 phy_data->sfp_speed = XGBE_SFP_SPEED_10000;
1133                 break;
1134         default:
1135                 break;
1136         }
1137 }
1138
1139 static void xgbe_phy_sfp_eeprom_info(struct xgbe_prv_data *pdata,
1140                                      struct xgbe_sfp_eeprom *sfp_eeprom)
1141 {
1142         struct xgbe_sfp_ascii sfp_ascii;
1143         char *sfp_data = (char *)&sfp_ascii;
1144
1145         netif_dbg(pdata, drv, pdata->netdev, "SFP detected:\n");
1146         memcpy(sfp_data, &sfp_eeprom->base[XGBE_SFP_BASE_VENDOR_NAME],
1147                XGBE_SFP_BASE_VENDOR_NAME_LEN);
1148         sfp_data[XGBE_SFP_BASE_VENDOR_NAME_LEN] = '\0';
1149         netif_dbg(pdata, drv, pdata->netdev, "  vendor:         %s\n",
1150                   sfp_data);
1151
1152         memcpy(sfp_data, &sfp_eeprom->base[XGBE_SFP_BASE_VENDOR_PN],
1153                XGBE_SFP_BASE_VENDOR_PN_LEN);
1154         sfp_data[XGBE_SFP_BASE_VENDOR_PN_LEN] = '\0';
1155         netif_dbg(pdata, drv, pdata->netdev, "  part number:    %s\n",
1156                   sfp_data);
1157
1158         memcpy(sfp_data, &sfp_eeprom->base[XGBE_SFP_BASE_VENDOR_REV],
1159                XGBE_SFP_BASE_VENDOR_REV_LEN);
1160         sfp_data[XGBE_SFP_BASE_VENDOR_REV_LEN] = '\0';
1161         netif_dbg(pdata, drv, pdata->netdev, "  revision level: %s\n",
1162                   sfp_data);
1163
1164         memcpy(sfp_data, &sfp_eeprom->extd[XGBE_SFP_BASE_VENDOR_SN],
1165                XGBE_SFP_BASE_VENDOR_SN_LEN);
1166         sfp_data[XGBE_SFP_BASE_VENDOR_SN_LEN] = '\0';
1167         netif_dbg(pdata, drv, pdata->netdev, "  serial number:  %s\n",
1168                   sfp_data);
1169 }
1170
1171 static bool xgbe_phy_sfp_verify_eeprom(u8 cc_in, u8 *buf, unsigned int len)
1172 {
1173         u8 cc;
1174
1175         for (cc = 0; len; buf++, len--)
1176                 cc += *buf;
1177
1178         return (cc == cc_in) ? true : false;
1179 }
1180
1181 static int xgbe_phy_sfp_read_eeprom(struct xgbe_prv_data *pdata)
1182 {
1183         struct xgbe_phy_data *phy_data = pdata->phy_data;
1184         struct xgbe_sfp_eeprom sfp_eeprom;
1185         u8 eeprom_addr;
1186         int ret;
1187
1188         ret = xgbe_phy_sfp_get_mux(pdata);
1189         if (ret) {
1190                 dev_err_once(pdata->dev, "%s: I2C error setting SFP MUX\n",
1191                              netdev_name(pdata->netdev));
1192                 return ret;
1193         }
1194
1195         /* Read the SFP serial ID eeprom */
1196         eeprom_addr = 0;
1197         ret = xgbe_phy_i2c_read(pdata, XGBE_SFP_SERIAL_ID_ADDRESS,
1198                                 &eeprom_addr, sizeof(eeprom_addr),
1199                                 &sfp_eeprom, sizeof(sfp_eeprom));
1200         if (ret) {
1201                 dev_err_once(pdata->dev, "%s: I2C error reading SFP EEPROM\n",
1202                              netdev_name(pdata->netdev));
1203                 goto put;
1204         }
1205
1206         /* Validate the contents read */
1207         if (!xgbe_phy_sfp_verify_eeprom(sfp_eeprom.base[XGBE_SFP_BASE_CC],
1208                                         sfp_eeprom.base,
1209                                         sizeof(sfp_eeprom.base) - 1)) {
1210                 ret = -EINVAL;
1211                 goto put;
1212         }
1213
1214         if (!xgbe_phy_sfp_verify_eeprom(sfp_eeprom.extd[XGBE_SFP_EXTD_CC],
1215                                         sfp_eeprom.extd,
1216                                         sizeof(sfp_eeprom.extd) - 1)) {
1217                 ret = -EINVAL;
1218                 goto put;
1219         }
1220
1221         /* Check for an added or changed SFP */
1222         if (memcmp(&phy_data->sfp_eeprom, &sfp_eeprom, sizeof(sfp_eeprom))) {
1223                 phy_data->sfp_changed = 1;
1224
1225                 if (netif_msg_drv(pdata))
1226                         xgbe_phy_sfp_eeprom_info(pdata, &sfp_eeprom);
1227
1228                 memcpy(&phy_data->sfp_eeprom, &sfp_eeprom, sizeof(sfp_eeprom));
1229
1230                 if (sfp_eeprom.extd[XGBE_SFP_EXTD_SFF_8472]) {
1231                         u8 diag_type = sfp_eeprom.extd[XGBE_SFP_EXTD_DIAG];
1232
1233                         if (!(diag_type & XGBE_SFP_EXTD_DIAG_ADDR_CHANGE))
1234                                 phy_data->sfp_diags = 1;
1235                 }
1236
1237                 xgbe_phy_free_phy_device(pdata);
1238         } else {
1239                 phy_data->sfp_changed = 0;
1240         }
1241
1242 put:
1243         xgbe_phy_sfp_put_mux(pdata);
1244
1245         return ret;
1246 }
1247
1248 static void xgbe_phy_sfp_signals(struct xgbe_prv_data *pdata)
1249 {
1250         struct xgbe_phy_data *phy_data = pdata->phy_data;
1251         u8 gpio_reg, gpio_ports[2];
1252         int ret;
1253
1254         /* Read the input port registers */
1255         gpio_reg = 0;
1256         ret = xgbe_phy_i2c_read(pdata, phy_data->sfp_gpio_address,
1257                                 &gpio_reg, sizeof(gpio_reg),
1258                                 gpio_ports, sizeof(gpio_ports));
1259         if (ret) {
1260                 dev_err_once(pdata->dev, "%s: I2C error reading SFP GPIOs\n",
1261                              netdev_name(pdata->netdev));
1262                 return;
1263         }
1264
1265         phy_data->sfp_gpio_inputs = (gpio_ports[1] << 8) | gpio_ports[0];
1266
1267         phy_data->sfp_mod_absent = xgbe_phy_check_sfp_mod_absent(phy_data);
1268 }
1269
1270 static void xgbe_phy_sfp_mod_absent(struct xgbe_prv_data *pdata)
1271 {
1272         struct xgbe_phy_data *phy_data = pdata->phy_data;
1273
1274         xgbe_phy_free_phy_device(pdata);
1275
1276         phy_data->sfp_mod_absent = 1;
1277         phy_data->sfp_phy_avail = 0;
1278         memset(&phy_data->sfp_eeprom, 0, sizeof(phy_data->sfp_eeprom));
1279 }
1280
1281 static void xgbe_phy_sfp_reset(struct xgbe_phy_data *phy_data)
1282 {
1283         phy_data->sfp_rx_los = 0;
1284         phy_data->sfp_tx_fault = 0;
1285         phy_data->sfp_mod_absent = 1;
1286         phy_data->sfp_diags = 0;
1287         phy_data->sfp_base = XGBE_SFP_BASE_UNKNOWN;
1288         phy_data->sfp_cable = XGBE_SFP_CABLE_UNKNOWN;
1289         phy_data->sfp_speed = XGBE_SFP_SPEED_UNKNOWN;
1290 }
1291
1292 static void xgbe_phy_sfp_detect(struct xgbe_prv_data *pdata)
1293 {
1294         struct xgbe_phy_data *phy_data = pdata->phy_data;
1295         int ret;
1296
1297         /* Reset the SFP signals and info */
1298         xgbe_phy_sfp_reset(phy_data);
1299
1300         ret = xgbe_phy_get_comm_ownership(pdata);
1301         if (ret)
1302                 return;
1303
1304         /* Read the SFP signals and check for module presence */
1305         xgbe_phy_sfp_signals(pdata);
1306         if (phy_data->sfp_mod_absent) {
1307                 xgbe_phy_sfp_mod_absent(pdata);
1308                 goto put;
1309         }
1310
1311         ret = xgbe_phy_sfp_read_eeprom(pdata);
1312         if (ret) {
1313                 /* Treat any error as if there isn't an SFP plugged in */
1314                 xgbe_phy_sfp_reset(phy_data);
1315                 xgbe_phy_sfp_mod_absent(pdata);
1316                 goto put;
1317         }
1318
1319         xgbe_phy_sfp_parse_eeprom(pdata);
1320
1321         xgbe_phy_sfp_external_phy(pdata);
1322
1323 put:
1324         xgbe_phy_sfp_phy_settings(pdata);
1325
1326         xgbe_phy_put_comm_ownership(pdata);
1327 }
1328
1329 static void xgbe_phy_phydev_flowctrl(struct xgbe_prv_data *pdata)
1330 {
1331         struct ethtool_link_ksettings *lks = &pdata->phy.lks;
1332         struct xgbe_phy_data *phy_data = pdata->phy_data;
1333         u16 lcl_adv = 0, rmt_adv = 0;
1334         u8 fc;
1335
1336         pdata->phy.tx_pause = 0;
1337         pdata->phy.rx_pause = 0;
1338
1339         if (!phy_data->phydev)
1340                 return;
1341
1342         if (phy_data->phydev->advertising & ADVERTISED_Pause)
1343                 lcl_adv |= ADVERTISE_PAUSE_CAP;
1344         if (phy_data->phydev->advertising & ADVERTISED_Asym_Pause)
1345                 lcl_adv |= ADVERTISE_PAUSE_ASYM;
1346
1347         if (phy_data->phydev->pause) {
1348                 XGBE_SET_LP_ADV(lks, Pause);
1349                 rmt_adv |= LPA_PAUSE_CAP;
1350         }
1351         if (phy_data->phydev->asym_pause) {
1352                 XGBE_SET_LP_ADV(lks, Asym_Pause);
1353                 rmt_adv |= LPA_PAUSE_ASYM;
1354         }
1355
1356         fc = mii_resolve_flowctrl_fdx(lcl_adv, rmt_adv);
1357         if (fc & FLOW_CTRL_TX)
1358                 pdata->phy.tx_pause = 1;
1359         if (fc & FLOW_CTRL_RX)
1360                 pdata->phy.rx_pause = 1;
1361 }
1362
1363 static enum xgbe_mode xgbe_phy_an37_sgmii_outcome(struct xgbe_prv_data *pdata)
1364 {
1365         struct ethtool_link_ksettings *lks = &pdata->phy.lks;
1366         enum xgbe_mode mode;
1367
1368         XGBE_SET_LP_ADV(lks, Autoneg);
1369         XGBE_SET_LP_ADV(lks, TP);
1370
1371         /* Use external PHY to determine flow control */
1372         if (pdata->phy.pause_autoneg)
1373                 xgbe_phy_phydev_flowctrl(pdata);
1374
1375         switch (pdata->an_status & XGBE_SGMII_AN_LINK_SPEED) {
1376         case XGBE_SGMII_AN_LINK_SPEED_100:
1377                 if (pdata->an_status & XGBE_SGMII_AN_LINK_DUPLEX) {
1378                         XGBE_SET_LP_ADV(lks, 100baseT_Full);
1379                         mode = XGBE_MODE_SGMII_100;
1380                 } else {
1381                         /* Half-duplex not supported */
1382                         XGBE_SET_LP_ADV(lks, 100baseT_Half);
1383                         mode = XGBE_MODE_UNKNOWN;
1384                 }
1385                 break;
1386         case XGBE_SGMII_AN_LINK_SPEED_1000:
1387                 if (pdata->an_status & XGBE_SGMII_AN_LINK_DUPLEX) {
1388                         XGBE_SET_LP_ADV(lks, 1000baseT_Full);
1389                         mode = XGBE_MODE_SGMII_1000;
1390                 } else {
1391                         /* Half-duplex not supported */
1392                         XGBE_SET_LP_ADV(lks, 1000baseT_Half);
1393                         mode = XGBE_MODE_UNKNOWN;
1394                 }
1395                 break;
1396         default:
1397                 mode = XGBE_MODE_UNKNOWN;
1398         }
1399
1400         return mode;
1401 }
1402
1403 static enum xgbe_mode xgbe_phy_an37_outcome(struct xgbe_prv_data *pdata)
1404 {
1405         struct ethtool_link_ksettings *lks = &pdata->phy.lks;
1406         enum xgbe_mode mode;
1407         unsigned int ad_reg, lp_reg;
1408
1409         XGBE_SET_LP_ADV(lks, Autoneg);
1410         XGBE_SET_LP_ADV(lks, FIBRE);
1411
1412         /* Compare Advertisement and Link Partner register */
1413         ad_reg = XMDIO_READ(pdata, MDIO_MMD_VEND2, MDIO_VEND2_AN_ADVERTISE);
1414         lp_reg = XMDIO_READ(pdata, MDIO_MMD_VEND2, MDIO_VEND2_AN_LP_ABILITY);
1415         if (lp_reg & 0x100)
1416                 XGBE_SET_LP_ADV(lks, Pause);
1417         if (lp_reg & 0x80)
1418                 XGBE_SET_LP_ADV(lks, Asym_Pause);
1419
1420         if (pdata->phy.pause_autoneg) {
1421                 /* Set flow control based on auto-negotiation result */
1422                 pdata->phy.tx_pause = 0;
1423                 pdata->phy.rx_pause = 0;
1424
1425                 if (ad_reg & lp_reg & 0x100) {
1426                         pdata->phy.tx_pause = 1;
1427                         pdata->phy.rx_pause = 1;
1428                 } else if (ad_reg & lp_reg & 0x80) {
1429                         if (ad_reg & 0x100)
1430                                 pdata->phy.rx_pause = 1;
1431                         else if (lp_reg & 0x100)
1432                                 pdata->phy.tx_pause = 1;
1433                 }
1434         }
1435
1436         if (lp_reg & 0x20)
1437                 XGBE_SET_LP_ADV(lks, 1000baseX_Full);
1438
1439         /* Half duplex is not supported */
1440         ad_reg &= lp_reg;
1441         mode = (ad_reg & 0x20) ? XGBE_MODE_X : XGBE_MODE_UNKNOWN;
1442
1443         return mode;
1444 }
1445
1446 static enum xgbe_mode xgbe_phy_an73_redrv_outcome(struct xgbe_prv_data *pdata)
1447 {
1448         struct ethtool_link_ksettings *lks = &pdata->phy.lks;
1449         struct xgbe_phy_data *phy_data = pdata->phy_data;
1450         enum xgbe_mode mode;
1451         unsigned int ad_reg, lp_reg;
1452
1453         XGBE_SET_LP_ADV(lks, Autoneg);
1454         XGBE_SET_LP_ADV(lks, Backplane);
1455
1456         /* Use external PHY to determine flow control */
1457         if (pdata->phy.pause_autoneg)
1458                 xgbe_phy_phydev_flowctrl(pdata);
1459
1460         /* Compare Advertisement and Link Partner register 2 */
1461         ad_reg = XMDIO_READ(pdata, MDIO_MMD_AN, MDIO_AN_ADVERTISE + 1);
1462         lp_reg = XMDIO_READ(pdata, MDIO_MMD_AN, MDIO_AN_LPA + 1);
1463         if (lp_reg & 0x80)
1464                 XGBE_SET_LP_ADV(lks, 10000baseKR_Full);
1465         if (lp_reg & 0x20)
1466                 XGBE_SET_LP_ADV(lks, 1000baseKX_Full);
1467
1468         ad_reg &= lp_reg;
1469         if (ad_reg & 0x80) {
1470                 switch (phy_data->port_mode) {
1471                 case XGBE_PORT_MODE_BACKPLANE:
1472                         mode = XGBE_MODE_KR;
1473                         break;
1474                 default:
1475                         mode = XGBE_MODE_SFI;
1476                         break;
1477                 }
1478         } else if (ad_reg & 0x20) {
1479                 switch (phy_data->port_mode) {
1480                 case XGBE_PORT_MODE_BACKPLANE:
1481                         mode = XGBE_MODE_KX_1000;
1482                         break;
1483                 case XGBE_PORT_MODE_1000BASE_X:
1484                         mode = XGBE_MODE_X;
1485                         break;
1486                 case XGBE_PORT_MODE_SFP:
1487                         switch (phy_data->sfp_base) {
1488                         case XGBE_SFP_BASE_1000_T:
1489                                 if (phy_data->phydev &&
1490                                     (phy_data->phydev->speed == SPEED_100))
1491                                         mode = XGBE_MODE_SGMII_100;
1492                                 else
1493                                         mode = XGBE_MODE_SGMII_1000;
1494                                 break;
1495                         case XGBE_SFP_BASE_1000_SX:
1496                         case XGBE_SFP_BASE_1000_LX:
1497                         case XGBE_SFP_BASE_1000_CX:
1498                         default:
1499                                 mode = XGBE_MODE_X;
1500                                 break;
1501                         }
1502                         break;
1503                 default:
1504                         if (phy_data->phydev &&
1505                             (phy_data->phydev->speed == SPEED_100))
1506                                 mode = XGBE_MODE_SGMII_100;
1507                         else
1508                                 mode = XGBE_MODE_SGMII_1000;
1509                         break;
1510                 }
1511         } else {
1512                 mode = XGBE_MODE_UNKNOWN;
1513         }
1514
1515         /* Compare Advertisement and Link Partner register 3 */
1516         ad_reg = XMDIO_READ(pdata, MDIO_MMD_AN, MDIO_AN_ADVERTISE + 2);
1517         lp_reg = XMDIO_READ(pdata, MDIO_MMD_AN, MDIO_AN_LPA + 2);
1518         if (lp_reg & 0xc000)
1519                 XGBE_SET_LP_ADV(lks, 10000baseR_FEC);
1520
1521         return mode;
1522 }
1523
1524 static enum xgbe_mode xgbe_phy_an73_outcome(struct xgbe_prv_data *pdata)
1525 {
1526         struct ethtool_link_ksettings *lks = &pdata->phy.lks;
1527         enum xgbe_mode mode;
1528         unsigned int ad_reg, lp_reg;
1529
1530         XGBE_SET_LP_ADV(lks, Autoneg);
1531         XGBE_SET_LP_ADV(lks, Backplane);
1532
1533         /* Compare Advertisement and Link Partner register 1 */
1534         ad_reg = XMDIO_READ(pdata, MDIO_MMD_AN, MDIO_AN_ADVERTISE);
1535         lp_reg = XMDIO_READ(pdata, MDIO_MMD_AN, MDIO_AN_LPA);
1536         if (lp_reg & 0x400)
1537                 XGBE_SET_LP_ADV(lks, Pause);
1538         if (lp_reg & 0x800)
1539                 XGBE_SET_LP_ADV(lks, Asym_Pause);
1540
1541         if (pdata->phy.pause_autoneg) {
1542                 /* Set flow control based on auto-negotiation result */
1543                 pdata->phy.tx_pause = 0;
1544                 pdata->phy.rx_pause = 0;
1545
1546                 if (ad_reg & lp_reg & 0x400) {
1547                         pdata->phy.tx_pause = 1;
1548                         pdata->phy.rx_pause = 1;
1549                 } else if (ad_reg & lp_reg & 0x800) {
1550                         if (ad_reg & 0x400)
1551                                 pdata->phy.rx_pause = 1;
1552                         else if (lp_reg & 0x400)
1553                                 pdata->phy.tx_pause = 1;
1554                 }
1555         }
1556
1557         /* Compare Advertisement and Link Partner register 2 */
1558         ad_reg = XMDIO_READ(pdata, MDIO_MMD_AN, MDIO_AN_ADVERTISE + 1);
1559         lp_reg = XMDIO_READ(pdata, MDIO_MMD_AN, MDIO_AN_LPA + 1);
1560         if (lp_reg & 0x80)
1561                 XGBE_SET_LP_ADV(lks, 10000baseKR_Full);
1562         if (lp_reg & 0x20)
1563                 XGBE_SET_LP_ADV(lks, 1000baseKX_Full);
1564
1565         ad_reg &= lp_reg;
1566         if (ad_reg & 0x80)
1567                 mode = XGBE_MODE_KR;
1568         else if (ad_reg & 0x20)
1569                 mode = XGBE_MODE_KX_1000;
1570         else
1571                 mode = XGBE_MODE_UNKNOWN;
1572
1573         /* Compare Advertisement and Link Partner register 3 */
1574         ad_reg = XMDIO_READ(pdata, MDIO_MMD_AN, MDIO_AN_ADVERTISE + 2);
1575         lp_reg = XMDIO_READ(pdata, MDIO_MMD_AN, MDIO_AN_LPA + 2);
1576         if (lp_reg & 0xc000)
1577                 XGBE_SET_LP_ADV(lks, 10000baseR_FEC);
1578
1579         return mode;
1580 }
1581
1582 static enum xgbe_mode xgbe_phy_an_outcome(struct xgbe_prv_data *pdata)
1583 {
1584         switch (pdata->an_mode) {
1585         case XGBE_AN_MODE_CL73:
1586                 return xgbe_phy_an73_outcome(pdata);
1587         case XGBE_AN_MODE_CL73_REDRV:
1588                 return xgbe_phy_an73_redrv_outcome(pdata);
1589         case XGBE_AN_MODE_CL37:
1590                 return xgbe_phy_an37_outcome(pdata);
1591         case XGBE_AN_MODE_CL37_SGMII:
1592                 return xgbe_phy_an37_sgmii_outcome(pdata);
1593         default:
1594                 return XGBE_MODE_UNKNOWN;
1595         }
1596 }
1597
1598 static void xgbe_phy_an_advertising(struct xgbe_prv_data *pdata,
1599                                     struct ethtool_link_ksettings *dlks)
1600 {
1601         struct ethtool_link_ksettings *slks = &pdata->phy.lks;
1602         struct xgbe_phy_data *phy_data = pdata->phy_data;
1603
1604         XGBE_LM_COPY(dlks, advertising, slks, advertising);
1605
1606         /* Without a re-driver, just return current advertising */
1607         if (!phy_data->redrv)
1608                 return;
1609
1610         /* With the KR re-driver we need to advertise a single speed */
1611         XGBE_CLR_ADV(dlks, 1000baseKX_Full);
1612         XGBE_CLR_ADV(dlks, 10000baseKR_Full);
1613
1614         switch (phy_data->port_mode) {
1615         case XGBE_PORT_MODE_BACKPLANE:
1616                 XGBE_SET_ADV(dlks, 10000baseKR_Full);
1617                 break;
1618         case XGBE_PORT_MODE_BACKPLANE_2500:
1619                 XGBE_SET_ADV(dlks, 1000baseKX_Full);
1620                 break;
1621         case XGBE_PORT_MODE_1000BASE_T:
1622         case XGBE_PORT_MODE_1000BASE_X:
1623         case XGBE_PORT_MODE_NBASE_T:
1624                 XGBE_SET_ADV(dlks, 1000baseKX_Full);
1625                 break;
1626         case XGBE_PORT_MODE_10GBASE_T:
1627                 if (phy_data->phydev &&
1628                     (phy_data->phydev->speed == SPEED_10000))
1629                         XGBE_SET_ADV(dlks, 10000baseKR_Full);
1630                 else
1631                         XGBE_SET_ADV(dlks, 1000baseKX_Full);
1632                 break;
1633         case XGBE_PORT_MODE_10GBASE_R:
1634                 XGBE_SET_ADV(dlks, 10000baseKR_Full);
1635                 break;
1636         case XGBE_PORT_MODE_SFP:
1637                 switch (phy_data->sfp_base) {
1638                 case XGBE_SFP_BASE_1000_T:
1639                 case XGBE_SFP_BASE_1000_SX:
1640                 case XGBE_SFP_BASE_1000_LX:
1641                 case XGBE_SFP_BASE_1000_CX:
1642                         XGBE_SET_ADV(dlks, 1000baseKX_Full);
1643                         break;
1644                 default:
1645                         XGBE_SET_ADV(dlks, 10000baseKR_Full);
1646                         break;
1647                 }
1648                 break;
1649         default:
1650                 XGBE_SET_ADV(dlks, 10000baseKR_Full);
1651                 break;
1652         }
1653 }
1654
1655 static int xgbe_phy_an_config(struct xgbe_prv_data *pdata)
1656 {
1657         struct ethtool_link_ksettings *lks = &pdata->phy.lks;
1658         struct xgbe_phy_data *phy_data = pdata->phy_data;
1659         u32 advertising;
1660         int ret;
1661
1662         ret = xgbe_phy_find_phy_device(pdata);
1663         if (ret)
1664                 return ret;
1665
1666         if (!phy_data->phydev)
1667                 return 0;
1668
1669         ethtool_convert_link_mode_to_legacy_u32(&advertising,
1670                                                 lks->link_modes.advertising);
1671
1672         phy_data->phydev->autoneg = pdata->phy.autoneg;
1673         phy_data->phydev->advertising = phy_data->phydev->supported &
1674                                         advertising;
1675
1676         if (pdata->phy.autoneg != AUTONEG_ENABLE) {
1677                 phy_data->phydev->speed = pdata->phy.speed;
1678                 phy_data->phydev->duplex = pdata->phy.duplex;
1679         }
1680
1681         ret = phy_start_aneg(phy_data->phydev);
1682
1683         return ret;
1684 }
1685
1686 static enum xgbe_an_mode xgbe_phy_an_sfp_mode(struct xgbe_phy_data *phy_data)
1687 {
1688         switch (phy_data->sfp_base) {
1689         case XGBE_SFP_BASE_1000_T:
1690                 return XGBE_AN_MODE_CL37_SGMII;
1691         case XGBE_SFP_BASE_1000_SX:
1692         case XGBE_SFP_BASE_1000_LX:
1693         case XGBE_SFP_BASE_1000_CX:
1694                 return XGBE_AN_MODE_CL37;
1695         default:
1696                 return XGBE_AN_MODE_NONE;
1697         }
1698 }
1699
1700 static enum xgbe_an_mode xgbe_phy_an_mode(struct xgbe_prv_data *pdata)
1701 {
1702         struct xgbe_phy_data *phy_data = pdata->phy_data;
1703
1704         /* A KR re-driver will always require CL73 AN */
1705         if (phy_data->redrv)
1706                 return XGBE_AN_MODE_CL73_REDRV;
1707
1708         switch (phy_data->port_mode) {
1709         case XGBE_PORT_MODE_BACKPLANE:
1710                 return XGBE_AN_MODE_CL73;
1711         case XGBE_PORT_MODE_BACKPLANE_2500:
1712                 return XGBE_AN_MODE_NONE;
1713         case XGBE_PORT_MODE_1000BASE_T:
1714                 return XGBE_AN_MODE_CL37_SGMII;
1715         case XGBE_PORT_MODE_1000BASE_X:
1716                 return XGBE_AN_MODE_CL37;
1717         case XGBE_PORT_MODE_NBASE_T:
1718                 return XGBE_AN_MODE_CL37_SGMII;
1719         case XGBE_PORT_MODE_10GBASE_T:
1720                 return XGBE_AN_MODE_CL73;
1721         case XGBE_PORT_MODE_10GBASE_R:
1722                 return XGBE_AN_MODE_NONE;
1723         case XGBE_PORT_MODE_SFP:
1724                 return xgbe_phy_an_sfp_mode(phy_data);
1725         default:
1726                 return XGBE_AN_MODE_NONE;
1727         }
1728 }
1729
1730 static int xgbe_phy_set_redrv_mode_mdio(struct xgbe_prv_data *pdata,
1731                                         enum xgbe_phy_redrv_mode mode)
1732 {
1733         struct xgbe_phy_data *phy_data = pdata->phy_data;
1734         u16 redrv_reg, redrv_val;
1735
1736         redrv_reg = XGBE_PHY_REDRV_MODE_REG + (phy_data->redrv_lane * 0x1000);
1737         redrv_val = (u16)mode;
1738
1739         return pdata->hw_if.write_ext_mii_regs(pdata, phy_data->redrv_addr,
1740                                                redrv_reg, redrv_val);
1741 }
1742
1743 static int xgbe_phy_set_redrv_mode_i2c(struct xgbe_prv_data *pdata,
1744                                        enum xgbe_phy_redrv_mode mode)
1745 {
1746         struct xgbe_phy_data *phy_data = pdata->phy_data;
1747         unsigned int redrv_reg;
1748         int ret;
1749
1750         /* Calculate the register to write */
1751         redrv_reg = XGBE_PHY_REDRV_MODE_REG + (phy_data->redrv_lane * 0x1000);
1752
1753         ret = xgbe_phy_redrv_write(pdata, redrv_reg, mode);
1754
1755         return ret;
1756 }
1757
1758 static void xgbe_phy_set_redrv_mode(struct xgbe_prv_data *pdata)
1759 {
1760         struct xgbe_phy_data *phy_data = pdata->phy_data;
1761         enum xgbe_phy_redrv_mode mode;
1762         int ret;
1763
1764         if (!phy_data->redrv)
1765                 return;
1766
1767         mode = XGBE_PHY_REDRV_MODE_CX;
1768         if ((phy_data->port_mode == XGBE_PORT_MODE_SFP) &&
1769             (phy_data->sfp_base != XGBE_SFP_BASE_1000_CX) &&
1770             (phy_data->sfp_base != XGBE_SFP_BASE_10000_CR))
1771                 mode = XGBE_PHY_REDRV_MODE_SR;
1772
1773         ret = xgbe_phy_get_comm_ownership(pdata);
1774         if (ret)
1775                 return;
1776
1777         if (phy_data->redrv_if)
1778                 xgbe_phy_set_redrv_mode_i2c(pdata, mode);
1779         else
1780                 xgbe_phy_set_redrv_mode_mdio(pdata, mode);
1781
1782         xgbe_phy_put_comm_ownership(pdata);
1783 }
1784
1785 static void xgbe_phy_rx_reset(struct xgbe_prv_data *pdata)
1786 {
1787         int reg;
1788
1789         reg = XMDIO_READ_BITS(pdata, MDIO_MMD_PCS, MDIO_PCS_DIGITAL_STAT,
1790                               XGBE_PCS_PSEQ_STATE_MASK);
1791         if (reg == XGBE_PCS_PSEQ_STATE_POWER_GOOD) {
1792                 /* Mailbox command timed out, reset of RX block is required.
1793                  * This can be done by asseting the reset bit and wait for
1794                  * its compeletion.
1795                  */
1796                 XMDIO_WRITE_BITS(pdata, MDIO_MMD_PMAPMD, MDIO_PMA_RX_CTRL1,
1797                                  XGBE_PMA_RX_RST_0_MASK, XGBE_PMA_RX_RST_0_RESET_ON);
1798                 ndelay(20);
1799                 XMDIO_WRITE_BITS(pdata, MDIO_MMD_PMAPMD, MDIO_PMA_RX_CTRL1,
1800                                  XGBE_PMA_RX_RST_0_MASK, XGBE_PMA_RX_RST_0_RESET_OFF);
1801                 usleep_range(40, 50);
1802                 netif_err(pdata, link, pdata->netdev, "firmware mailbox reset performed\n");
1803         }
1804 }
1805
1806 static void xgbe_phy_pll_ctrl(struct xgbe_prv_data *pdata, bool enable)
1807 {
1808         XMDIO_WRITE_BITS(pdata, MDIO_MMD_PMAPMD, MDIO_VEND2_PMA_MISC_CTRL0,
1809                          XGBE_PMA_PLL_CTRL_MASK,
1810                          enable ? XGBE_PMA_PLL_CTRL_ENABLE
1811                                 : XGBE_PMA_PLL_CTRL_DISABLE);
1812
1813         /* Wait for command to complete */
1814         usleep_range(100, 200);
1815 }
1816
1817 static void xgbe_phy_perform_ratechange(struct xgbe_prv_data *pdata,
1818                                         unsigned int cmd, unsigned int sub_cmd)
1819 {
1820         unsigned int s0 = 0;
1821         unsigned int wait;
1822
1823         /* Disable PLL re-initialization during FW command processing */
1824         xgbe_phy_pll_ctrl(pdata, false);
1825
1826         /* Log if a previous command did not complete */
1827         if (XP_IOREAD_BITS(pdata, XP_DRIVER_INT_RO, STATUS)) {
1828                 netif_dbg(pdata, link, pdata->netdev,
1829                           "firmware mailbox not ready for command\n");
1830                 xgbe_phy_rx_reset(pdata);
1831         }
1832
1833         /* Construct the command */
1834         XP_SET_BITS(s0, XP_DRIVER_SCRATCH_0, COMMAND, cmd);
1835         XP_SET_BITS(s0, XP_DRIVER_SCRATCH_0, SUB_COMMAND, sub_cmd);
1836
1837         /* Issue the command */
1838         XP_IOWRITE(pdata, XP_DRIVER_SCRATCH_0, s0);
1839         XP_IOWRITE(pdata, XP_DRIVER_SCRATCH_1, 0);
1840         XP_IOWRITE_BITS(pdata, XP_DRIVER_INT_REQ, REQUEST, 1);
1841
1842         /* Wait for command to complete */
1843         wait = XGBE_RATECHANGE_COUNT;
1844         while (wait--) {
1845                 if (!XP_IOREAD_BITS(pdata, XP_DRIVER_INT_RO, STATUS))
1846                         goto reenable_pll;
1847
1848                 usleep_range(1000, 2000);
1849         }
1850
1851         netif_dbg(pdata, link, pdata->netdev,
1852                   "firmware mailbox command did not complete\n");
1853
1854         /* Reset on error */
1855         xgbe_phy_rx_reset(pdata);
1856
1857 reenable_pll:
1858         /* Enable PLL re-initialization */
1859         xgbe_phy_pll_ctrl(pdata, true);
1860 }
1861
1862 static void xgbe_phy_rrc(struct xgbe_prv_data *pdata)
1863 {
1864         /* Receiver Reset Cycle */
1865         xgbe_phy_perform_ratechange(pdata, 5, 0);
1866
1867         netif_dbg(pdata, link, pdata->netdev, "receiver reset complete\n");
1868 }
1869
1870 static void xgbe_phy_power_off(struct xgbe_prv_data *pdata)
1871 {
1872         struct xgbe_phy_data *phy_data = pdata->phy_data;
1873
1874         /* Power off */
1875         xgbe_phy_perform_ratechange(pdata, 0, 0);
1876
1877         phy_data->cur_mode = XGBE_MODE_UNKNOWN;
1878
1879         netif_dbg(pdata, link, pdata->netdev, "phy powered off\n");
1880 }
1881
1882 static void xgbe_phy_sfi_mode(struct xgbe_prv_data *pdata)
1883 {
1884         struct xgbe_phy_data *phy_data = pdata->phy_data;
1885
1886         xgbe_phy_set_redrv_mode(pdata);
1887
1888         /* 10G/SFI */
1889         if (phy_data->sfp_cable != XGBE_SFP_CABLE_PASSIVE) {
1890                 xgbe_phy_perform_ratechange(pdata, 3, 0);
1891         } else {
1892                 if (phy_data->sfp_cable_len <= 1)
1893                         xgbe_phy_perform_ratechange(pdata, 3, 1);
1894                 else if (phy_data->sfp_cable_len <= 3)
1895                         xgbe_phy_perform_ratechange(pdata, 3, 2);
1896                 else
1897                         xgbe_phy_perform_ratechange(pdata, 3, 3);
1898         }
1899
1900         phy_data->cur_mode = XGBE_MODE_SFI;
1901
1902         netif_dbg(pdata, link, pdata->netdev, "10GbE SFI mode set\n");
1903 }
1904
1905 static void xgbe_phy_x_mode(struct xgbe_prv_data *pdata)
1906 {
1907         struct xgbe_phy_data *phy_data = pdata->phy_data;
1908
1909         xgbe_phy_set_redrv_mode(pdata);
1910
1911         /* 1G/X */
1912         xgbe_phy_perform_ratechange(pdata, 1, 3);
1913
1914         phy_data->cur_mode = XGBE_MODE_X;
1915
1916         netif_dbg(pdata, link, pdata->netdev, "1GbE X mode set\n");
1917 }
1918
1919 static void xgbe_phy_sgmii_1000_mode(struct xgbe_prv_data *pdata)
1920 {
1921         struct xgbe_phy_data *phy_data = pdata->phy_data;
1922
1923         xgbe_phy_set_redrv_mode(pdata);
1924
1925         /* 1G/SGMII */
1926         xgbe_phy_perform_ratechange(pdata, 1, 2);
1927
1928         phy_data->cur_mode = XGBE_MODE_SGMII_1000;
1929
1930         netif_dbg(pdata, link, pdata->netdev, "1GbE SGMII mode set\n");
1931 }
1932
1933 static void xgbe_phy_sgmii_100_mode(struct xgbe_prv_data *pdata)
1934 {
1935         struct xgbe_phy_data *phy_data = pdata->phy_data;
1936
1937         xgbe_phy_set_redrv_mode(pdata);
1938
1939         /* 100M/SGMII */
1940         xgbe_phy_perform_ratechange(pdata, 1, 1);
1941
1942         phy_data->cur_mode = XGBE_MODE_SGMII_100;
1943
1944         netif_dbg(pdata, link, pdata->netdev, "100MbE SGMII mode set\n");
1945 }
1946
1947 static void xgbe_phy_kr_mode(struct xgbe_prv_data *pdata)
1948 {
1949         struct xgbe_phy_data *phy_data = pdata->phy_data;
1950
1951         xgbe_phy_set_redrv_mode(pdata);
1952
1953         /* 10G/KR */
1954         xgbe_phy_perform_ratechange(pdata, 4, 0);
1955
1956         phy_data->cur_mode = XGBE_MODE_KR;
1957
1958         netif_dbg(pdata, link, pdata->netdev, "10GbE KR mode set\n");
1959 }
1960
1961 static void xgbe_phy_kx_2500_mode(struct xgbe_prv_data *pdata)
1962 {
1963         struct xgbe_phy_data *phy_data = pdata->phy_data;
1964
1965         xgbe_phy_set_redrv_mode(pdata);
1966
1967         /* 2.5G/KX */
1968         xgbe_phy_perform_ratechange(pdata, 2, 0);
1969
1970         phy_data->cur_mode = XGBE_MODE_KX_2500;
1971
1972         netif_dbg(pdata, link, pdata->netdev, "2.5GbE KX mode set\n");
1973 }
1974
1975 static void xgbe_phy_kx_1000_mode(struct xgbe_prv_data *pdata)
1976 {
1977         struct xgbe_phy_data *phy_data = pdata->phy_data;
1978
1979         xgbe_phy_set_redrv_mode(pdata);
1980
1981         /* 1G/KX */
1982         xgbe_phy_perform_ratechange(pdata, 1, 3);
1983
1984         phy_data->cur_mode = XGBE_MODE_KX_1000;
1985
1986         netif_dbg(pdata, link, pdata->netdev, "1GbE KX mode set\n");
1987 }
1988
1989 static enum xgbe_mode xgbe_phy_cur_mode(struct xgbe_prv_data *pdata)
1990 {
1991         struct xgbe_phy_data *phy_data = pdata->phy_data;
1992
1993         return phy_data->cur_mode;
1994 }
1995
1996 static enum xgbe_mode xgbe_phy_switch_baset_mode(struct xgbe_prv_data *pdata)
1997 {
1998         struct xgbe_phy_data *phy_data = pdata->phy_data;
1999
2000         /* No switching if not 10GBase-T */
2001         if (phy_data->port_mode != XGBE_PORT_MODE_10GBASE_T)
2002                 return xgbe_phy_cur_mode(pdata);
2003
2004         switch (xgbe_phy_cur_mode(pdata)) {
2005         case XGBE_MODE_SGMII_100:
2006         case XGBE_MODE_SGMII_1000:
2007                 return XGBE_MODE_KR;
2008         case XGBE_MODE_KR:
2009         default:
2010                 return XGBE_MODE_SGMII_1000;
2011         }
2012 }
2013
2014 static enum xgbe_mode xgbe_phy_switch_bp_2500_mode(struct xgbe_prv_data *pdata)
2015 {
2016         return XGBE_MODE_KX_2500;
2017 }
2018
2019 static enum xgbe_mode xgbe_phy_switch_bp_mode(struct xgbe_prv_data *pdata)
2020 {
2021         /* If we are in KR switch to KX, and vice-versa */
2022         switch (xgbe_phy_cur_mode(pdata)) {
2023         case XGBE_MODE_KX_1000:
2024                 return XGBE_MODE_KR;
2025         case XGBE_MODE_KR:
2026         default:
2027                 return XGBE_MODE_KX_1000;
2028         }
2029 }
2030
2031 static enum xgbe_mode xgbe_phy_switch_mode(struct xgbe_prv_data *pdata)
2032 {
2033         struct xgbe_phy_data *phy_data = pdata->phy_data;
2034
2035         switch (phy_data->port_mode) {
2036         case XGBE_PORT_MODE_BACKPLANE:
2037                 return xgbe_phy_switch_bp_mode(pdata);
2038         case XGBE_PORT_MODE_BACKPLANE_2500:
2039                 return xgbe_phy_switch_bp_2500_mode(pdata);
2040         case XGBE_PORT_MODE_1000BASE_T:
2041         case XGBE_PORT_MODE_NBASE_T:
2042         case XGBE_PORT_MODE_10GBASE_T:
2043                 return xgbe_phy_switch_baset_mode(pdata);
2044         case XGBE_PORT_MODE_1000BASE_X:
2045         case XGBE_PORT_MODE_10GBASE_R:
2046         case XGBE_PORT_MODE_SFP:
2047                 /* No switching, so just return current mode */
2048                 return xgbe_phy_cur_mode(pdata);
2049         default:
2050                 return XGBE_MODE_UNKNOWN;
2051         }
2052 }
2053
2054 static enum xgbe_mode xgbe_phy_get_basex_mode(struct xgbe_phy_data *phy_data,
2055                                               int speed)
2056 {
2057         switch (speed) {
2058         case SPEED_1000:
2059                 return XGBE_MODE_X;
2060         case SPEED_10000:
2061                 return XGBE_MODE_KR;
2062         default:
2063                 return XGBE_MODE_UNKNOWN;
2064         }
2065 }
2066
2067 static enum xgbe_mode xgbe_phy_get_baset_mode(struct xgbe_phy_data *phy_data,
2068                                               int speed)
2069 {
2070         switch (speed) {
2071         case SPEED_100:
2072                 return XGBE_MODE_SGMII_100;
2073         case SPEED_1000:
2074                 return XGBE_MODE_SGMII_1000;
2075         case SPEED_2500:
2076                 return XGBE_MODE_KX_2500;
2077         case SPEED_10000:
2078                 return XGBE_MODE_KR;
2079         default:
2080                 return XGBE_MODE_UNKNOWN;
2081         }
2082 }
2083
2084 static enum xgbe_mode xgbe_phy_get_sfp_mode(struct xgbe_phy_data *phy_data,
2085                                             int speed)
2086 {
2087         switch (speed) {
2088         case SPEED_100:
2089                 return XGBE_MODE_SGMII_100;
2090         case SPEED_1000:
2091                 if (phy_data->sfp_base == XGBE_SFP_BASE_1000_T)
2092                         return XGBE_MODE_SGMII_1000;
2093                 else
2094                         return XGBE_MODE_X;
2095         case SPEED_10000:
2096         case SPEED_UNKNOWN:
2097                 return XGBE_MODE_SFI;
2098         default:
2099                 return XGBE_MODE_UNKNOWN;
2100         }
2101 }
2102
2103 static enum xgbe_mode xgbe_phy_get_bp_2500_mode(int speed)
2104 {
2105         switch (speed) {
2106         case SPEED_2500:
2107                 return XGBE_MODE_KX_2500;
2108         default:
2109                 return XGBE_MODE_UNKNOWN;
2110         }
2111 }
2112
2113 static enum xgbe_mode xgbe_phy_get_bp_mode(int speed)
2114 {
2115         switch (speed) {
2116         case SPEED_1000:
2117                 return XGBE_MODE_KX_1000;
2118         case SPEED_10000:
2119                 return XGBE_MODE_KR;
2120         default:
2121                 return XGBE_MODE_UNKNOWN;
2122         }
2123 }
2124
2125 static enum xgbe_mode xgbe_phy_get_mode(struct xgbe_prv_data *pdata,
2126                                         int speed)
2127 {
2128         struct xgbe_phy_data *phy_data = pdata->phy_data;
2129
2130         switch (phy_data->port_mode) {
2131         case XGBE_PORT_MODE_BACKPLANE:
2132                 return xgbe_phy_get_bp_mode(speed);
2133         case XGBE_PORT_MODE_BACKPLANE_2500:
2134                 return xgbe_phy_get_bp_2500_mode(speed);
2135         case XGBE_PORT_MODE_1000BASE_T:
2136         case XGBE_PORT_MODE_NBASE_T:
2137         case XGBE_PORT_MODE_10GBASE_T:
2138                 return xgbe_phy_get_baset_mode(phy_data, speed);
2139         case XGBE_PORT_MODE_1000BASE_X:
2140         case XGBE_PORT_MODE_10GBASE_R:
2141                 return xgbe_phy_get_basex_mode(phy_data, speed);
2142         case XGBE_PORT_MODE_SFP:
2143                 return xgbe_phy_get_sfp_mode(phy_data, speed);
2144         default:
2145                 return XGBE_MODE_UNKNOWN;
2146         }
2147 }
2148
2149 static void xgbe_phy_set_mode(struct xgbe_prv_data *pdata, enum xgbe_mode mode)
2150 {
2151         switch (mode) {
2152         case XGBE_MODE_KX_1000:
2153                 xgbe_phy_kx_1000_mode(pdata);
2154                 break;
2155         case XGBE_MODE_KX_2500:
2156                 xgbe_phy_kx_2500_mode(pdata);
2157                 break;
2158         case XGBE_MODE_KR:
2159                 xgbe_phy_kr_mode(pdata);
2160                 break;
2161         case XGBE_MODE_SGMII_100:
2162                 xgbe_phy_sgmii_100_mode(pdata);
2163                 break;
2164         case XGBE_MODE_SGMII_1000:
2165                 xgbe_phy_sgmii_1000_mode(pdata);
2166                 break;
2167         case XGBE_MODE_X:
2168                 xgbe_phy_x_mode(pdata);
2169                 break;
2170         case XGBE_MODE_SFI:
2171                 xgbe_phy_sfi_mode(pdata);
2172                 break;
2173         default:
2174                 break;
2175         }
2176 }
2177
2178 static bool xgbe_phy_check_mode(struct xgbe_prv_data *pdata,
2179                                 enum xgbe_mode mode, bool advert)
2180 {
2181         if (pdata->phy.autoneg == AUTONEG_ENABLE) {
2182                 return advert;
2183         } else {
2184                 enum xgbe_mode cur_mode;
2185
2186                 cur_mode = xgbe_phy_get_mode(pdata, pdata->phy.speed);
2187                 if (cur_mode == mode)
2188                         return true;
2189         }
2190
2191         return false;
2192 }
2193
2194 static bool xgbe_phy_use_basex_mode(struct xgbe_prv_data *pdata,
2195                                     enum xgbe_mode mode)
2196 {
2197         struct ethtool_link_ksettings *lks = &pdata->phy.lks;
2198
2199         switch (mode) {
2200         case XGBE_MODE_X:
2201                 return xgbe_phy_check_mode(pdata, mode,
2202                                            XGBE_ADV(lks, 1000baseX_Full));
2203         case XGBE_MODE_KR:
2204                 return xgbe_phy_check_mode(pdata, mode,
2205                                            XGBE_ADV(lks, 10000baseKR_Full));
2206         default:
2207                 return false;
2208         }
2209 }
2210
2211 static bool xgbe_phy_use_baset_mode(struct xgbe_prv_data *pdata,
2212                                     enum xgbe_mode mode)
2213 {
2214         struct ethtool_link_ksettings *lks = &pdata->phy.lks;
2215
2216         switch (mode) {
2217         case XGBE_MODE_SGMII_100:
2218                 return xgbe_phy_check_mode(pdata, mode,
2219                                            XGBE_ADV(lks, 100baseT_Full));
2220         case XGBE_MODE_SGMII_1000:
2221                 return xgbe_phy_check_mode(pdata, mode,
2222                                            XGBE_ADV(lks, 1000baseT_Full));
2223         case XGBE_MODE_KX_2500:
2224                 return xgbe_phy_check_mode(pdata, mode,
2225                                            XGBE_ADV(lks, 2500baseT_Full));
2226         case XGBE_MODE_KR:
2227                 return xgbe_phy_check_mode(pdata, mode,
2228                                            XGBE_ADV(lks, 10000baseT_Full));
2229         default:
2230                 return false;
2231         }
2232 }
2233
2234 static bool xgbe_phy_use_sfp_mode(struct xgbe_prv_data *pdata,
2235                                   enum xgbe_mode mode)
2236 {
2237         struct ethtool_link_ksettings *lks = &pdata->phy.lks;
2238         struct xgbe_phy_data *phy_data = pdata->phy_data;
2239
2240         switch (mode) {
2241         case XGBE_MODE_X:
2242                 if (phy_data->sfp_base == XGBE_SFP_BASE_1000_T)
2243                         return false;
2244                 return xgbe_phy_check_mode(pdata, mode,
2245                                            XGBE_ADV(lks, 1000baseX_Full));
2246         case XGBE_MODE_SGMII_100:
2247                 if (phy_data->sfp_base != XGBE_SFP_BASE_1000_T)
2248                         return false;
2249                 return xgbe_phy_check_mode(pdata, mode,
2250                                            XGBE_ADV(lks, 100baseT_Full));
2251         case XGBE_MODE_SGMII_1000:
2252                 if (phy_data->sfp_base != XGBE_SFP_BASE_1000_T)
2253                         return false;
2254                 return xgbe_phy_check_mode(pdata, mode,
2255                                            XGBE_ADV(lks, 1000baseT_Full));
2256         case XGBE_MODE_SFI:
2257                 if (phy_data->sfp_mod_absent)
2258                         return true;
2259                 return xgbe_phy_check_mode(pdata, mode,
2260                                            XGBE_ADV(lks, 10000baseSR_Full)  ||
2261                                            XGBE_ADV(lks, 10000baseLR_Full)  ||
2262                                            XGBE_ADV(lks, 10000baseLRM_Full) ||
2263                                            XGBE_ADV(lks, 10000baseER_Full)  ||
2264                                            XGBE_ADV(lks, 10000baseCR_Full));
2265         default:
2266                 return false;
2267         }
2268 }
2269
2270 static bool xgbe_phy_use_bp_2500_mode(struct xgbe_prv_data *pdata,
2271                                       enum xgbe_mode mode)
2272 {
2273         struct ethtool_link_ksettings *lks = &pdata->phy.lks;
2274
2275         switch (mode) {
2276         case XGBE_MODE_KX_2500:
2277                 return xgbe_phy_check_mode(pdata, mode,
2278                                            XGBE_ADV(lks, 2500baseX_Full));
2279         default:
2280                 return false;
2281         }
2282 }
2283
2284 static bool xgbe_phy_use_bp_mode(struct xgbe_prv_data *pdata,
2285                                  enum xgbe_mode mode)
2286 {
2287         struct ethtool_link_ksettings *lks = &pdata->phy.lks;
2288
2289         switch (mode) {
2290         case XGBE_MODE_KX_1000:
2291                 return xgbe_phy_check_mode(pdata, mode,
2292                                            XGBE_ADV(lks, 1000baseKX_Full));
2293         case XGBE_MODE_KR:
2294                 return xgbe_phy_check_mode(pdata, mode,
2295                                            XGBE_ADV(lks, 10000baseKR_Full));
2296         default:
2297                 return false;
2298         }
2299 }
2300
2301 static bool xgbe_phy_use_mode(struct xgbe_prv_data *pdata, enum xgbe_mode mode)
2302 {
2303         struct xgbe_phy_data *phy_data = pdata->phy_data;
2304
2305         switch (phy_data->port_mode) {
2306         case XGBE_PORT_MODE_BACKPLANE:
2307                 return xgbe_phy_use_bp_mode(pdata, mode);
2308         case XGBE_PORT_MODE_BACKPLANE_2500:
2309                 return xgbe_phy_use_bp_2500_mode(pdata, mode);
2310         case XGBE_PORT_MODE_1000BASE_T:
2311         case XGBE_PORT_MODE_NBASE_T:
2312         case XGBE_PORT_MODE_10GBASE_T:
2313                 return xgbe_phy_use_baset_mode(pdata, mode);
2314         case XGBE_PORT_MODE_1000BASE_X:
2315         case XGBE_PORT_MODE_10GBASE_R:
2316                 return xgbe_phy_use_basex_mode(pdata, mode);
2317         case XGBE_PORT_MODE_SFP:
2318                 return xgbe_phy_use_sfp_mode(pdata, mode);
2319         default:
2320                 return false;
2321         }
2322 }
2323
2324 static bool xgbe_phy_valid_speed_basex_mode(struct xgbe_phy_data *phy_data,
2325                                             int speed)
2326 {
2327         switch (speed) {
2328         case SPEED_1000:
2329                 return (phy_data->port_mode == XGBE_PORT_MODE_1000BASE_X);
2330         case SPEED_10000:
2331                 return (phy_data->port_mode == XGBE_PORT_MODE_10GBASE_R);
2332         default:
2333                 return false;
2334         }
2335 }
2336
2337 static bool xgbe_phy_valid_speed_baset_mode(struct xgbe_phy_data *phy_data,
2338                                             int speed)
2339 {
2340         switch (speed) {
2341         case SPEED_100:
2342         case SPEED_1000:
2343                 return true;
2344         case SPEED_2500:
2345                 return (phy_data->port_mode == XGBE_PORT_MODE_NBASE_T);
2346         case SPEED_10000:
2347                 return (phy_data->port_mode == XGBE_PORT_MODE_10GBASE_T);
2348         default:
2349                 return false;
2350         }
2351 }
2352
2353 static bool xgbe_phy_valid_speed_sfp_mode(struct xgbe_phy_data *phy_data,
2354                                           int speed)
2355 {
2356         switch (speed) {
2357         case SPEED_100:
2358                 return (phy_data->sfp_speed == XGBE_SFP_SPEED_100_1000);
2359         case SPEED_1000:
2360                 return ((phy_data->sfp_speed == XGBE_SFP_SPEED_100_1000) ||
2361                         (phy_data->sfp_speed == XGBE_SFP_SPEED_1000));
2362         case SPEED_10000:
2363                 return (phy_data->sfp_speed == XGBE_SFP_SPEED_10000);
2364         default:
2365                 return false;
2366         }
2367 }
2368
2369 static bool xgbe_phy_valid_speed_bp_2500_mode(int speed)
2370 {
2371         switch (speed) {
2372         case SPEED_2500:
2373                 return true;
2374         default:
2375                 return false;
2376         }
2377 }
2378
2379 static bool xgbe_phy_valid_speed_bp_mode(int speed)
2380 {
2381         switch (speed) {
2382         case SPEED_1000:
2383         case SPEED_10000:
2384                 return true;
2385         default:
2386                 return false;
2387         }
2388 }
2389
2390 static bool xgbe_phy_valid_speed(struct xgbe_prv_data *pdata, int speed)
2391 {
2392         struct xgbe_phy_data *phy_data = pdata->phy_data;
2393
2394         switch (phy_data->port_mode) {
2395         case XGBE_PORT_MODE_BACKPLANE:
2396                 return xgbe_phy_valid_speed_bp_mode(speed);
2397         case XGBE_PORT_MODE_BACKPLANE_2500:
2398                 return xgbe_phy_valid_speed_bp_2500_mode(speed);
2399         case XGBE_PORT_MODE_1000BASE_T:
2400         case XGBE_PORT_MODE_NBASE_T:
2401         case XGBE_PORT_MODE_10GBASE_T:
2402                 return xgbe_phy_valid_speed_baset_mode(phy_data, speed);
2403         case XGBE_PORT_MODE_1000BASE_X:
2404         case XGBE_PORT_MODE_10GBASE_R:
2405                 return xgbe_phy_valid_speed_basex_mode(phy_data, speed);
2406         case XGBE_PORT_MODE_SFP:
2407                 return xgbe_phy_valid_speed_sfp_mode(phy_data, speed);
2408         default:
2409                 return false;
2410         }
2411 }
2412
2413 static int xgbe_phy_link_status(struct xgbe_prv_data *pdata, int *an_restart)
2414 {
2415         struct xgbe_phy_data *phy_data = pdata->phy_data;
2416         unsigned int reg;
2417         int ret;
2418
2419         *an_restart = 0;
2420
2421         if (phy_data->port_mode == XGBE_PORT_MODE_SFP) {
2422                 /* Check SFP signals */
2423                 xgbe_phy_sfp_detect(pdata);
2424
2425                 if (phy_data->sfp_changed) {
2426                         *an_restart = 1;
2427                         return 0;
2428                 }
2429
2430                 if (phy_data->sfp_mod_absent || phy_data->sfp_rx_los)
2431                         return 0;
2432         }
2433
2434         if (phy_data->phydev) {
2435                 /* Check external PHY */
2436                 ret = phy_read_status(phy_data->phydev);
2437                 if (ret < 0)
2438                         return 0;
2439
2440                 if ((pdata->phy.autoneg == AUTONEG_ENABLE) &&
2441                     !phy_aneg_done(phy_data->phydev))
2442                         return 0;
2443
2444                 if (!phy_data->phydev->link)
2445                         return 0;
2446         }
2447
2448         /* Link status is latched low, so read once to clear
2449          * and then read again to get current state
2450          */
2451         reg = XMDIO_READ(pdata, MDIO_MMD_PCS, MDIO_STAT1);
2452         reg = XMDIO_READ(pdata, MDIO_MMD_PCS, MDIO_STAT1);
2453         if (reg & MDIO_STAT1_LSTATUS)
2454                 return 1;
2455
2456         if (pdata->phy.autoneg == AUTONEG_ENABLE &&
2457             phy_data->port_mode == XGBE_PORT_MODE_BACKPLANE) {
2458                 if (!test_bit(XGBE_LINK_INIT, &pdata->dev_state)) {
2459                         netif_carrier_off(pdata->netdev);
2460                         *an_restart = 1;
2461                 }
2462         }
2463
2464         /* No link, attempt a receiver reset cycle */
2465         if (phy_data->rrc_count++ > XGBE_RRC_FREQUENCY) {
2466                 phy_data->rrc_count = 0;
2467                 xgbe_phy_rrc(pdata);
2468         }
2469
2470         return 0;
2471 }
2472
2473 static void xgbe_phy_sfp_gpio_setup(struct xgbe_prv_data *pdata)
2474 {
2475         struct xgbe_phy_data *phy_data = pdata->phy_data;
2476         unsigned int reg;
2477
2478         reg = XP_IOREAD(pdata, XP_PROP_3);
2479
2480         phy_data->sfp_gpio_address = XGBE_GPIO_ADDRESS_PCA9555 +
2481                                      XP_GET_BITS(reg, XP_PROP_3, GPIO_ADDR);
2482
2483         phy_data->sfp_gpio_mask = XP_GET_BITS(reg, XP_PROP_3, GPIO_MASK);
2484
2485         phy_data->sfp_gpio_rx_los = XP_GET_BITS(reg, XP_PROP_3,
2486                                                 GPIO_RX_LOS);
2487         phy_data->sfp_gpio_tx_fault = XP_GET_BITS(reg, XP_PROP_3,
2488                                                   GPIO_TX_FAULT);
2489         phy_data->sfp_gpio_mod_absent = XP_GET_BITS(reg, XP_PROP_3,
2490                                                     GPIO_MOD_ABS);
2491         phy_data->sfp_gpio_rate_select = XP_GET_BITS(reg, XP_PROP_3,
2492                                                      GPIO_RATE_SELECT);
2493
2494         if (netif_msg_probe(pdata)) {
2495                 dev_dbg(pdata->dev, "SFP: gpio_address=%#x\n",
2496                         phy_data->sfp_gpio_address);
2497                 dev_dbg(pdata->dev, "SFP: gpio_mask=%#x\n",
2498                         phy_data->sfp_gpio_mask);
2499                 dev_dbg(pdata->dev, "SFP: gpio_rx_los=%u\n",
2500                         phy_data->sfp_gpio_rx_los);
2501                 dev_dbg(pdata->dev, "SFP: gpio_tx_fault=%u\n",
2502                         phy_data->sfp_gpio_tx_fault);
2503                 dev_dbg(pdata->dev, "SFP: gpio_mod_absent=%u\n",
2504                         phy_data->sfp_gpio_mod_absent);
2505                 dev_dbg(pdata->dev, "SFP: gpio_rate_select=%u\n",
2506                         phy_data->sfp_gpio_rate_select);
2507         }
2508 }
2509
2510 static void xgbe_phy_sfp_comm_setup(struct xgbe_prv_data *pdata)
2511 {
2512         struct xgbe_phy_data *phy_data = pdata->phy_data;
2513         unsigned int reg, mux_addr_hi, mux_addr_lo;
2514
2515         reg = XP_IOREAD(pdata, XP_PROP_4);
2516
2517         mux_addr_hi = XP_GET_BITS(reg, XP_PROP_4, MUX_ADDR_HI);
2518         mux_addr_lo = XP_GET_BITS(reg, XP_PROP_4, MUX_ADDR_LO);
2519         if (mux_addr_lo == XGBE_SFP_DIRECT)
2520                 return;
2521
2522         phy_data->sfp_comm = XGBE_SFP_COMM_PCA9545;
2523         phy_data->sfp_mux_address = (mux_addr_hi << 2) + mux_addr_lo;
2524         phy_data->sfp_mux_channel = XP_GET_BITS(reg, XP_PROP_4, MUX_CHAN);
2525
2526         if (netif_msg_probe(pdata)) {
2527                 dev_dbg(pdata->dev, "SFP: mux_address=%#x\n",
2528                         phy_data->sfp_mux_address);
2529                 dev_dbg(pdata->dev, "SFP: mux_channel=%u\n",
2530                         phy_data->sfp_mux_channel);
2531         }
2532 }
2533
2534 static void xgbe_phy_sfp_setup(struct xgbe_prv_data *pdata)
2535 {
2536         xgbe_phy_sfp_comm_setup(pdata);
2537         xgbe_phy_sfp_gpio_setup(pdata);
2538 }
2539
2540 static int xgbe_phy_int_mdio_reset(struct xgbe_prv_data *pdata)
2541 {
2542         struct xgbe_phy_data *phy_data = pdata->phy_data;
2543         unsigned int ret;
2544
2545         ret = pdata->hw_if.set_gpio(pdata, phy_data->mdio_reset_gpio);
2546         if (ret)
2547                 return ret;
2548
2549         ret = pdata->hw_if.clr_gpio(pdata, phy_data->mdio_reset_gpio);
2550
2551         return ret;
2552 }
2553
2554 static int xgbe_phy_i2c_mdio_reset(struct xgbe_prv_data *pdata)
2555 {
2556         struct xgbe_phy_data *phy_data = pdata->phy_data;
2557         u8 gpio_reg, gpio_ports[2], gpio_data[3];
2558         int ret;
2559
2560         /* Read the output port registers */
2561         gpio_reg = 2;
2562         ret = xgbe_phy_i2c_read(pdata, phy_data->mdio_reset_addr,
2563                                 &gpio_reg, sizeof(gpio_reg),
2564                                 gpio_ports, sizeof(gpio_ports));
2565         if (ret)
2566                 return ret;
2567
2568         /* Prepare to write the GPIO data */
2569         gpio_data[0] = 2;
2570         gpio_data[1] = gpio_ports[0];
2571         gpio_data[2] = gpio_ports[1];
2572
2573         /* Set the GPIO pin */
2574         if (phy_data->mdio_reset_gpio < 8)
2575                 gpio_data[1] |= (1 << (phy_data->mdio_reset_gpio % 8));
2576         else
2577                 gpio_data[2] |= (1 << (phy_data->mdio_reset_gpio % 8));
2578
2579         /* Write the output port registers */
2580         ret = xgbe_phy_i2c_write(pdata, phy_data->mdio_reset_addr,
2581                                  gpio_data, sizeof(gpio_data));
2582         if (ret)
2583                 return ret;
2584
2585         /* Clear the GPIO pin */
2586         if (phy_data->mdio_reset_gpio < 8)
2587                 gpio_data[1] &= ~(1 << (phy_data->mdio_reset_gpio % 8));
2588         else
2589                 gpio_data[2] &= ~(1 << (phy_data->mdio_reset_gpio % 8));
2590
2591         /* Write the output port registers */
2592         ret = xgbe_phy_i2c_write(pdata, phy_data->mdio_reset_addr,
2593                                  gpio_data, sizeof(gpio_data));
2594
2595         return ret;
2596 }
2597
2598 static int xgbe_phy_mdio_reset(struct xgbe_prv_data *pdata)
2599 {
2600         struct xgbe_phy_data *phy_data = pdata->phy_data;
2601         int ret;
2602
2603         if (phy_data->conn_type != XGBE_CONN_TYPE_MDIO)
2604                 return 0;
2605
2606         ret = xgbe_phy_get_comm_ownership(pdata);
2607         if (ret)
2608                 return ret;
2609
2610         if (phy_data->mdio_reset == XGBE_MDIO_RESET_I2C_GPIO)
2611                 ret = xgbe_phy_i2c_mdio_reset(pdata);
2612         else if (phy_data->mdio_reset == XGBE_MDIO_RESET_INT_GPIO)
2613                 ret = xgbe_phy_int_mdio_reset(pdata);
2614
2615         xgbe_phy_put_comm_ownership(pdata);
2616
2617         return ret;
2618 }
2619
2620 static bool xgbe_phy_redrv_error(struct xgbe_phy_data *phy_data)
2621 {
2622         if (!phy_data->redrv)
2623                 return false;
2624
2625         if (phy_data->redrv_if >= XGBE_PHY_REDRV_IF_MAX)
2626                 return true;
2627
2628         switch (phy_data->redrv_model) {
2629         case XGBE_PHY_REDRV_MODEL_4223:
2630                 if (phy_data->redrv_lane > 3)
2631                         return true;
2632                 break;
2633         case XGBE_PHY_REDRV_MODEL_4227:
2634                 if (phy_data->redrv_lane > 1)
2635                         return true;
2636                 break;
2637         default:
2638                 return true;
2639         }
2640
2641         return false;
2642 }
2643
2644 static int xgbe_phy_mdio_reset_setup(struct xgbe_prv_data *pdata)
2645 {
2646         struct xgbe_phy_data *phy_data = pdata->phy_data;
2647         unsigned int reg;
2648
2649         if (phy_data->conn_type != XGBE_CONN_TYPE_MDIO)
2650                 return 0;
2651
2652         reg = XP_IOREAD(pdata, XP_PROP_3);
2653         phy_data->mdio_reset = XP_GET_BITS(reg, XP_PROP_3, MDIO_RESET);
2654         switch (phy_data->mdio_reset) {
2655         case XGBE_MDIO_RESET_NONE:
2656         case XGBE_MDIO_RESET_I2C_GPIO:
2657         case XGBE_MDIO_RESET_INT_GPIO:
2658                 break;
2659         default:
2660                 dev_err(pdata->dev, "unsupported MDIO reset (%#x)\n",
2661                         phy_data->mdio_reset);
2662                 return -EINVAL;
2663         }
2664
2665         if (phy_data->mdio_reset == XGBE_MDIO_RESET_I2C_GPIO) {
2666                 phy_data->mdio_reset_addr = XGBE_GPIO_ADDRESS_PCA9555 +
2667                                             XP_GET_BITS(reg, XP_PROP_3,
2668                                                         MDIO_RESET_I2C_ADDR);
2669                 phy_data->mdio_reset_gpio = XP_GET_BITS(reg, XP_PROP_3,
2670                                                         MDIO_RESET_I2C_GPIO);
2671         } else if (phy_data->mdio_reset == XGBE_MDIO_RESET_INT_GPIO) {
2672                 phy_data->mdio_reset_gpio = XP_GET_BITS(reg, XP_PROP_3,
2673                                                         MDIO_RESET_INT_GPIO);
2674         }
2675
2676         return 0;
2677 }
2678
2679 static bool xgbe_phy_port_mode_mismatch(struct xgbe_prv_data *pdata)
2680 {
2681         struct xgbe_phy_data *phy_data = pdata->phy_data;
2682
2683         switch (phy_data->port_mode) {
2684         case XGBE_PORT_MODE_BACKPLANE:
2685                 if ((phy_data->port_speeds & XGBE_PHY_PORT_SPEED_1000) ||
2686                     (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_10000))
2687                         return false;
2688                 break;
2689         case XGBE_PORT_MODE_BACKPLANE_2500:
2690                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_2500)
2691                         return false;
2692                 break;
2693         case XGBE_PORT_MODE_1000BASE_T:
2694                 if ((phy_data->port_speeds & XGBE_PHY_PORT_SPEED_100) ||
2695                     (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_1000))
2696                         return false;
2697                 break;
2698         case XGBE_PORT_MODE_1000BASE_X:
2699                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_1000)
2700                         return false;
2701                 break;
2702         case XGBE_PORT_MODE_NBASE_T:
2703                 if ((phy_data->port_speeds & XGBE_PHY_PORT_SPEED_100) ||
2704                     (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_1000) ||
2705                     (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_2500))
2706                         return false;
2707                 break;
2708         case XGBE_PORT_MODE_10GBASE_T:
2709                 if ((phy_data->port_speeds & XGBE_PHY_PORT_SPEED_100) ||
2710                     (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_1000) ||
2711                     (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_10000))
2712                         return false;
2713                 break;
2714         case XGBE_PORT_MODE_10GBASE_R:
2715                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_10000)
2716                         return false;
2717                 break;
2718         case XGBE_PORT_MODE_SFP:
2719                 if ((phy_data->port_speeds & XGBE_PHY_PORT_SPEED_100) ||
2720                     (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_1000) ||
2721                     (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_10000))
2722                         return false;
2723                 break;
2724         default:
2725                 break;
2726         }
2727
2728         return true;
2729 }
2730
2731 static bool xgbe_phy_conn_type_mismatch(struct xgbe_prv_data *pdata)
2732 {
2733         struct xgbe_phy_data *phy_data = pdata->phy_data;
2734
2735         switch (phy_data->port_mode) {
2736         case XGBE_PORT_MODE_BACKPLANE:
2737         case XGBE_PORT_MODE_BACKPLANE_2500:
2738                 if (phy_data->conn_type == XGBE_CONN_TYPE_BACKPLANE)
2739                         return false;
2740                 break;
2741         case XGBE_PORT_MODE_1000BASE_T:
2742         case XGBE_PORT_MODE_1000BASE_X:
2743         case XGBE_PORT_MODE_NBASE_T:
2744         case XGBE_PORT_MODE_10GBASE_T:
2745         case XGBE_PORT_MODE_10GBASE_R:
2746                 if (phy_data->conn_type == XGBE_CONN_TYPE_MDIO)
2747                         return false;
2748                 break;
2749         case XGBE_PORT_MODE_SFP:
2750                 if (phy_data->conn_type == XGBE_CONN_TYPE_SFP)
2751                         return false;
2752                 break;
2753         default:
2754                 break;
2755         }
2756
2757         return true;
2758 }
2759
2760 static bool xgbe_phy_port_enabled(struct xgbe_prv_data *pdata)
2761 {
2762         unsigned int reg;
2763
2764         reg = XP_IOREAD(pdata, XP_PROP_0);
2765         if (!XP_GET_BITS(reg, XP_PROP_0, PORT_SPEEDS))
2766                 return false;
2767         if (!XP_GET_BITS(reg, XP_PROP_0, CONN_TYPE))
2768                 return false;
2769
2770         return true;
2771 }
2772
2773 static void xgbe_phy_cdr_track(struct xgbe_prv_data *pdata)
2774 {
2775         struct xgbe_phy_data *phy_data = pdata->phy_data;
2776
2777         if (!pdata->debugfs_an_cdr_workaround)
2778                 return;
2779
2780         if (!phy_data->phy_cdr_notrack)
2781                 return;
2782
2783         usleep_range(phy_data->phy_cdr_delay,
2784                      phy_data->phy_cdr_delay + 500);
2785
2786         XMDIO_WRITE_BITS(pdata, MDIO_MMD_PMAPMD, MDIO_VEND2_PMA_CDR_CONTROL,
2787                          XGBE_PMA_CDR_TRACK_EN_MASK,
2788                          XGBE_PMA_CDR_TRACK_EN_ON);
2789
2790         phy_data->phy_cdr_notrack = 0;
2791 }
2792
2793 static void xgbe_phy_cdr_notrack(struct xgbe_prv_data *pdata)
2794 {
2795         struct xgbe_phy_data *phy_data = pdata->phy_data;
2796
2797         if (!pdata->debugfs_an_cdr_workaround)
2798                 return;
2799
2800         if (phy_data->phy_cdr_notrack)
2801                 return;
2802
2803         XMDIO_WRITE_BITS(pdata, MDIO_MMD_PMAPMD, MDIO_VEND2_PMA_CDR_CONTROL,
2804                          XGBE_PMA_CDR_TRACK_EN_MASK,
2805                          XGBE_PMA_CDR_TRACK_EN_OFF);
2806
2807         xgbe_phy_rrc(pdata);
2808
2809         phy_data->phy_cdr_notrack = 1;
2810 }
2811
2812 static void xgbe_phy_kr_training_post(struct xgbe_prv_data *pdata)
2813 {
2814         if (!pdata->debugfs_an_cdr_track_early)
2815                 xgbe_phy_cdr_track(pdata);
2816 }
2817
2818 static void xgbe_phy_kr_training_pre(struct xgbe_prv_data *pdata)
2819 {
2820         if (pdata->debugfs_an_cdr_track_early)
2821                 xgbe_phy_cdr_track(pdata);
2822 }
2823
2824 static void xgbe_phy_an_post(struct xgbe_prv_data *pdata)
2825 {
2826         struct xgbe_phy_data *phy_data = pdata->phy_data;
2827
2828         switch (pdata->an_mode) {
2829         case XGBE_AN_MODE_CL73:
2830         case XGBE_AN_MODE_CL73_REDRV:
2831                 if (phy_data->cur_mode != XGBE_MODE_KR)
2832                         break;
2833
2834                 xgbe_phy_cdr_track(pdata);
2835
2836                 switch (pdata->an_result) {
2837                 case XGBE_AN_READY:
2838                 case XGBE_AN_COMPLETE:
2839                         break;
2840                 default:
2841                         if (phy_data->phy_cdr_delay < XGBE_CDR_DELAY_MAX)
2842                                 phy_data->phy_cdr_delay += XGBE_CDR_DELAY_INC;
2843                         else
2844                                 phy_data->phy_cdr_delay = XGBE_CDR_DELAY_INIT;
2845                         break;
2846                 }
2847                 break;
2848         default:
2849                 break;
2850         }
2851 }
2852
2853 static void xgbe_phy_an_pre(struct xgbe_prv_data *pdata)
2854 {
2855         struct xgbe_phy_data *phy_data = pdata->phy_data;
2856
2857         switch (pdata->an_mode) {
2858         case XGBE_AN_MODE_CL73:
2859         case XGBE_AN_MODE_CL73_REDRV:
2860                 if (phy_data->cur_mode != XGBE_MODE_KR)
2861                         break;
2862
2863                 xgbe_phy_cdr_notrack(pdata);
2864                 break;
2865         default:
2866                 break;
2867         }
2868 }
2869
2870 static void xgbe_phy_stop(struct xgbe_prv_data *pdata)
2871 {
2872         struct xgbe_phy_data *phy_data = pdata->phy_data;
2873
2874         /* If we have an external PHY, free it */
2875         xgbe_phy_free_phy_device(pdata);
2876
2877         /* Reset SFP data */
2878         xgbe_phy_sfp_reset(phy_data);
2879         xgbe_phy_sfp_mod_absent(pdata);
2880
2881         /* Reset CDR support */
2882         xgbe_phy_cdr_track(pdata);
2883
2884         /* Power off the PHY */
2885         xgbe_phy_power_off(pdata);
2886
2887         /* Stop the I2C controller */
2888         pdata->i2c_if.i2c_stop(pdata);
2889 }
2890
2891 static int xgbe_phy_start(struct xgbe_prv_data *pdata)
2892 {
2893         struct xgbe_phy_data *phy_data = pdata->phy_data;
2894         int ret;
2895
2896         /* Start the I2C controller */
2897         ret = pdata->i2c_if.i2c_start(pdata);
2898         if (ret)
2899                 return ret;
2900
2901         /* Set the proper MDIO mode for the re-driver */
2902         if (phy_data->redrv && !phy_data->redrv_if) {
2903                 ret = pdata->hw_if.set_ext_mii_mode(pdata, phy_data->redrv_addr,
2904                                                     XGBE_MDIO_MODE_CL22);
2905                 if (ret) {
2906                         netdev_err(pdata->netdev,
2907                                    "redriver mdio port not compatible (%u)\n",
2908                                    phy_data->redrv_addr);
2909                         return ret;
2910                 }
2911         }
2912
2913         /* Start in highest supported mode */
2914         xgbe_phy_set_mode(pdata, phy_data->start_mode);
2915
2916         /* Reset CDR support */
2917         xgbe_phy_cdr_track(pdata);
2918
2919         /* After starting the I2C controller, we can check for an SFP */
2920         switch (phy_data->port_mode) {
2921         case XGBE_PORT_MODE_SFP:
2922                 xgbe_phy_sfp_detect(pdata);
2923                 break;
2924         default:
2925                 break;
2926         }
2927
2928         /* If we have an external PHY, start it */
2929         ret = xgbe_phy_find_phy_device(pdata);
2930         if (ret)
2931                 goto err_i2c;
2932
2933         return 0;
2934
2935 err_i2c:
2936         pdata->i2c_if.i2c_stop(pdata);
2937
2938         return ret;
2939 }
2940
2941 static int xgbe_phy_reset(struct xgbe_prv_data *pdata)
2942 {
2943         struct xgbe_phy_data *phy_data = pdata->phy_data;
2944         enum xgbe_mode cur_mode;
2945         int ret;
2946
2947         /* Reset by power cycling the PHY */
2948         cur_mode = phy_data->cur_mode;
2949         xgbe_phy_power_off(pdata);
2950         xgbe_phy_set_mode(pdata, cur_mode);
2951
2952         if (!phy_data->phydev)
2953                 return 0;
2954
2955         /* Reset the external PHY */
2956         ret = xgbe_phy_mdio_reset(pdata);
2957         if (ret)
2958                 return ret;
2959
2960         return phy_init_hw(phy_data->phydev);
2961 }
2962
2963 static void xgbe_phy_exit(struct xgbe_prv_data *pdata)
2964 {
2965         struct xgbe_phy_data *phy_data = pdata->phy_data;
2966
2967         /* Unregister for driving external PHYs */
2968         mdiobus_unregister(phy_data->mii);
2969 }
2970
2971 static int xgbe_phy_init(struct xgbe_prv_data *pdata)
2972 {
2973         struct ethtool_link_ksettings *lks = &pdata->phy.lks;
2974         struct xgbe_phy_data *phy_data;
2975         struct mii_bus *mii;
2976         unsigned int reg;
2977         int ret;
2978
2979         /* Check if enabled */
2980         if (!xgbe_phy_port_enabled(pdata)) {
2981                 dev_info(pdata->dev, "device is not enabled\n");
2982                 return -ENODEV;
2983         }
2984
2985         /* Initialize the I2C controller */
2986         ret = pdata->i2c_if.i2c_init(pdata);
2987         if (ret)
2988                 return ret;
2989
2990         phy_data = devm_kzalloc(pdata->dev, sizeof(*phy_data), GFP_KERNEL);
2991         if (!phy_data)
2992                 return -ENOMEM;
2993         pdata->phy_data = phy_data;
2994
2995         reg = XP_IOREAD(pdata, XP_PROP_0);
2996         phy_data->port_mode = XP_GET_BITS(reg, XP_PROP_0, PORT_MODE);
2997         phy_data->port_id = XP_GET_BITS(reg, XP_PROP_0, PORT_ID);
2998         phy_data->port_speeds = XP_GET_BITS(reg, XP_PROP_0, PORT_SPEEDS);
2999         phy_data->conn_type = XP_GET_BITS(reg, XP_PROP_0, CONN_TYPE);
3000         phy_data->mdio_addr = XP_GET_BITS(reg, XP_PROP_0, MDIO_ADDR);
3001         if (netif_msg_probe(pdata)) {
3002                 dev_dbg(pdata->dev, "port mode=%u\n", phy_data->port_mode);
3003                 dev_dbg(pdata->dev, "port id=%u\n", phy_data->port_id);
3004                 dev_dbg(pdata->dev, "port speeds=%#x\n", phy_data->port_speeds);
3005                 dev_dbg(pdata->dev, "conn type=%u\n", phy_data->conn_type);
3006                 dev_dbg(pdata->dev, "mdio addr=%u\n", phy_data->mdio_addr);
3007         }
3008
3009         reg = XP_IOREAD(pdata, XP_PROP_4);
3010         phy_data->redrv = XP_GET_BITS(reg, XP_PROP_4, REDRV_PRESENT);
3011         phy_data->redrv_if = XP_GET_BITS(reg, XP_PROP_4, REDRV_IF);
3012         phy_data->redrv_addr = XP_GET_BITS(reg, XP_PROP_4, REDRV_ADDR);
3013         phy_data->redrv_lane = XP_GET_BITS(reg, XP_PROP_4, REDRV_LANE);
3014         phy_data->redrv_model = XP_GET_BITS(reg, XP_PROP_4, REDRV_MODEL);
3015         if (phy_data->redrv && netif_msg_probe(pdata)) {
3016                 dev_dbg(pdata->dev, "redrv present\n");
3017                 dev_dbg(pdata->dev, "redrv i/f=%u\n", phy_data->redrv_if);
3018                 dev_dbg(pdata->dev, "redrv addr=%#x\n", phy_data->redrv_addr);
3019                 dev_dbg(pdata->dev, "redrv lane=%u\n", phy_data->redrv_lane);
3020                 dev_dbg(pdata->dev, "redrv model=%u\n", phy_data->redrv_model);
3021         }
3022
3023         /* Validate the connection requested */
3024         if (xgbe_phy_conn_type_mismatch(pdata)) {
3025                 dev_err(pdata->dev, "phy mode/connection mismatch (%#x/%#x)\n",
3026                         phy_data->port_mode, phy_data->conn_type);
3027                 return -EINVAL;
3028         }
3029
3030         /* Validate the mode requested */
3031         if (xgbe_phy_port_mode_mismatch(pdata)) {
3032                 dev_err(pdata->dev, "phy mode/speed mismatch (%#x/%#x)\n",
3033                         phy_data->port_mode, phy_data->port_speeds);
3034                 return -EINVAL;
3035         }
3036
3037         /* Check for and validate MDIO reset support */
3038         ret = xgbe_phy_mdio_reset_setup(pdata);
3039         if (ret)
3040                 return ret;
3041
3042         /* Validate the re-driver information */
3043         if (xgbe_phy_redrv_error(phy_data)) {
3044                 dev_err(pdata->dev, "phy re-driver settings error\n");
3045                 return -EINVAL;
3046         }
3047         pdata->kr_redrv = phy_data->redrv;
3048
3049         /* Indicate current mode is unknown */
3050         phy_data->cur_mode = XGBE_MODE_UNKNOWN;
3051
3052         /* Initialize supported features */
3053         XGBE_ZERO_SUP(lks);
3054
3055         switch (phy_data->port_mode) {
3056         /* Backplane support */
3057         case XGBE_PORT_MODE_BACKPLANE:
3058                 XGBE_SET_SUP(lks, Autoneg);
3059                 XGBE_SET_SUP(lks, Pause);
3060                 XGBE_SET_SUP(lks, Asym_Pause);
3061                 XGBE_SET_SUP(lks, Backplane);
3062                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_1000) {
3063                         XGBE_SET_SUP(lks, 1000baseKX_Full);
3064                         phy_data->start_mode = XGBE_MODE_KX_1000;
3065                 }
3066                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_10000) {
3067                         XGBE_SET_SUP(lks, 10000baseKR_Full);
3068                         if (pdata->fec_ability & MDIO_PMA_10GBR_FECABLE_ABLE)
3069                                 XGBE_SET_SUP(lks, 10000baseR_FEC);
3070                         phy_data->start_mode = XGBE_MODE_KR;
3071                 }
3072
3073                 phy_data->phydev_mode = XGBE_MDIO_MODE_NONE;
3074                 break;
3075         case XGBE_PORT_MODE_BACKPLANE_2500:
3076                 XGBE_SET_SUP(lks, Pause);
3077                 XGBE_SET_SUP(lks, Asym_Pause);
3078                 XGBE_SET_SUP(lks, Backplane);
3079                 XGBE_SET_SUP(lks, 2500baseX_Full);
3080                 phy_data->start_mode = XGBE_MODE_KX_2500;
3081
3082                 phy_data->phydev_mode = XGBE_MDIO_MODE_NONE;
3083                 break;
3084
3085         /* MDIO 1GBase-T support */
3086         case XGBE_PORT_MODE_1000BASE_T:
3087                 XGBE_SET_SUP(lks, Autoneg);
3088                 XGBE_SET_SUP(lks, Pause);
3089                 XGBE_SET_SUP(lks, Asym_Pause);
3090                 XGBE_SET_SUP(lks, TP);
3091                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_100) {
3092                         XGBE_SET_SUP(lks, 100baseT_Full);
3093                         phy_data->start_mode = XGBE_MODE_SGMII_100;
3094                 }
3095                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_1000) {
3096                         XGBE_SET_SUP(lks, 1000baseT_Full);
3097                         phy_data->start_mode = XGBE_MODE_SGMII_1000;
3098                 }
3099
3100                 phy_data->phydev_mode = XGBE_MDIO_MODE_CL22;
3101                 break;
3102
3103         /* MDIO Base-X support */
3104         case XGBE_PORT_MODE_1000BASE_X:
3105                 XGBE_SET_SUP(lks, Autoneg);
3106                 XGBE_SET_SUP(lks, Pause);
3107                 XGBE_SET_SUP(lks, Asym_Pause);
3108                 XGBE_SET_SUP(lks, FIBRE);
3109                 XGBE_SET_SUP(lks, 1000baseX_Full);
3110                 phy_data->start_mode = XGBE_MODE_X;
3111
3112                 phy_data->phydev_mode = XGBE_MDIO_MODE_CL22;
3113                 break;
3114
3115         /* MDIO NBase-T support */
3116         case XGBE_PORT_MODE_NBASE_T:
3117                 XGBE_SET_SUP(lks, Autoneg);
3118                 XGBE_SET_SUP(lks, Pause);
3119                 XGBE_SET_SUP(lks, Asym_Pause);
3120                 XGBE_SET_SUP(lks, TP);
3121                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_100) {
3122                         XGBE_SET_SUP(lks, 100baseT_Full);
3123                         phy_data->start_mode = XGBE_MODE_SGMII_100;
3124                 }
3125                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_1000) {
3126                         XGBE_SET_SUP(lks, 1000baseT_Full);
3127                         phy_data->start_mode = XGBE_MODE_SGMII_1000;
3128                 }
3129                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_2500) {
3130                         XGBE_SET_SUP(lks, 2500baseT_Full);
3131                         phy_data->start_mode = XGBE_MODE_KX_2500;
3132                 }
3133
3134                 phy_data->phydev_mode = XGBE_MDIO_MODE_CL45;
3135                 break;
3136
3137         /* 10GBase-T support */
3138         case XGBE_PORT_MODE_10GBASE_T:
3139                 XGBE_SET_SUP(lks, Autoneg);
3140                 XGBE_SET_SUP(lks, Pause);
3141                 XGBE_SET_SUP(lks, Asym_Pause);
3142                 XGBE_SET_SUP(lks, TP);
3143                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_100) {
3144                         XGBE_SET_SUP(lks, 100baseT_Full);
3145                         phy_data->start_mode = XGBE_MODE_SGMII_100;
3146                 }
3147                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_1000) {
3148                         XGBE_SET_SUP(lks, 1000baseT_Full);
3149                         phy_data->start_mode = XGBE_MODE_SGMII_1000;
3150                 }
3151                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_10000) {
3152                         XGBE_SET_SUP(lks, 10000baseT_Full);
3153                         phy_data->start_mode = XGBE_MODE_KR;
3154                 }
3155
3156                 phy_data->phydev_mode = XGBE_MDIO_MODE_CL45;
3157                 break;
3158
3159         /* 10GBase-R support */
3160         case XGBE_PORT_MODE_10GBASE_R:
3161                 XGBE_SET_SUP(lks, Autoneg);
3162                 XGBE_SET_SUP(lks, Pause);
3163                 XGBE_SET_SUP(lks, Asym_Pause);
3164                 XGBE_SET_SUP(lks, FIBRE);
3165                 XGBE_SET_SUP(lks, 10000baseSR_Full);
3166                 XGBE_SET_SUP(lks, 10000baseLR_Full);
3167                 XGBE_SET_SUP(lks, 10000baseLRM_Full);
3168                 XGBE_SET_SUP(lks, 10000baseER_Full);
3169                 if (pdata->fec_ability & MDIO_PMA_10GBR_FECABLE_ABLE)
3170                         XGBE_SET_SUP(lks, 10000baseR_FEC);
3171                 phy_data->start_mode = XGBE_MODE_SFI;
3172
3173                 phy_data->phydev_mode = XGBE_MDIO_MODE_NONE;
3174                 break;
3175
3176         /* SFP support */
3177         case XGBE_PORT_MODE_SFP:
3178                 XGBE_SET_SUP(lks, Autoneg);
3179                 XGBE_SET_SUP(lks, Pause);
3180                 XGBE_SET_SUP(lks, Asym_Pause);
3181                 XGBE_SET_SUP(lks, TP);
3182                 XGBE_SET_SUP(lks, FIBRE);
3183                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_100)
3184                         phy_data->start_mode = XGBE_MODE_SGMII_100;
3185                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_1000)
3186                         phy_data->start_mode = XGBE_MODE_SGMII_1000;
3187                 if (phy_data->port_speeds & XGBE_PHY_PORT_SPEED_10000)
3188                         phy_data->start_mode = XGBE_MODE_SFI;
3189
3190                 phy_data->phydev_mode = XGBE_MDIO_MODE_CL22;
3191
3192                 xgbe_phy_sfp_setup(pdata);
3193                 break;
3194         default:
3195                 return -EINVAL;
3196         }
3197
3198         if (netif_msg_probe(pdata))
3199                 dev_dbg(pdata->dev, "phy supported=0x%*pb\n",
3200                         __ETHTOOL_LINK_MODE_MASK_NBITS,
3201                         lks->link_modes.supported);
3202
3203         if ((phy_data->conn_type & XGBE_CONN_TYPE_MDIO) &&
3204             (phy_data->phydev_mode != XGBE_MDIO_MODE_NONE)) {
3205                 ret = pdata->hw_if.set_ext_mii_mode(pdata, phy_data->mdio_addr,
3206                                                     phy_data->phydev_mode);
3207                 if (ret) {
3208                         dev_err(pdata->dev,
3209                                 "mdio port/clause not compatible (%d/%u)\n",
3210                                 phy_data->mdio_addr, phy_data->phydev_mode);
3211                         return -EINVAL;
3212                 }
3213         }
3214
3215         if (phy_data->redrv && !phy_data->redrv_if) {
3216                 ret = pdata->hw_if.set_ext_mii_mode(pdata, phy_data->redrv_addr,
3217                                                     XGBE_MDIO_MODE_CL22);
3218                 if (ret) {
3219                         dev_err(pdata->dev,
3220                                 "redriver mdio port not compatible (%u)\n",
3221                                 phy_data->redrv_addr);
3222                         return -EINVAL;
3223                 }
3224         }
3225
3226         phy_data->phy_cdr_delay = XGBE_CDR_DELAY_INIT;
3227
3228         /* Register for driving external PHYs */
3229         mii = devm_mdiobus_alloc(pdata->dev);
3230         if (!mii) {
3231                 dev_err(pdata->dev, "mdiobus_alloc failed\n");
3232                 return -ENOMEM;
3233         }
3234
3235         mii->priv = pdata;
3236         mii->name = "amd-xgbe-mii";
3237         mii->read = xgbe_phy_mii_read;
3238         mii->write = xgbe_phy_mii_write;
3239         mii->parent = pdata->dev;
3240         mii->phy_mask = ~0;
3241         snprintf(mii->id, sizeof(mii->id), "%s", dev_name(pdata->dev));
3242         ret = mdiobus_register(mii);
3243         if (ret) {
3244                 dev_err(pdata->dev, "mdiobus_register failed\n");
3245                 return ret;
3246         }
3247         phy_data->mii = mii;
3248
3249         return 0;
3250 }
3251
3252 void xgbe_init_function_ptrs_phy_v2(struct xgbe_phy_if *phy_if)
3253 {
3254         struct xgbe_phy_impl_if *phy_impl = &phy_if->phy_impl;
3255
3256         phy_impl->init                  = xgbe_phy_init;
3257         phy_impl->exit                  = xgbe_phy_exit;
3258
3259         phy_impl->reset                 = xgbe_phy_reset;
3260         phy_impl->start                 = xgbe_phy_start;
3261         phy_impl->stop                  = xgbe_phy_stop;
3262
3263         phy_impl->link_status           = xgbe_phy_link_status;
3264
3265         phy_impl->valid_speed           = xgbe_phy_valid_speed;
3266
3267         phy_impl->use_mode              = xgbe_phy_use_mode;
3268         phy_impl->set_mode              = xgbe_phy_set_mode;
3269         phy_impl->get_mode              = xgbe_phy_get_mode;
3270         phy_impl->switch_mode           = xgbe_phy_switch_mode;
3271         phy_impl->cur_mode              = xgbe_phy_cur_mode;
3272
3273         phy_impl->an_mode               = xgbe_phy_an_mode;
3274
3275         phy_impl->an_config             = xgbe_phy_an_config;
3276
3277         phy_impl->an_advertising        = xgbe_phy_an_advertising;
3278
3279         phy_impl->an_outcome            = xgbe_phy_an_outcome;
3280
3281         phy_impl->an_pre                = xgbe_phy_an_pre;
3282         phy_impl->an_post               = xgbe_phy_an_post;
3283
3284         phy_impl->kr_training_pre       = xgbe_phy_kr_training_pre;
3285         phy_impl->kr_training_post      = xgbe_phy_kr_training_post;
3286 }