net/qrtr/qrtr.c

   1 /*
   2  * Copyright (c) 2015, Sony Mobile Communications Inc.
   3  * Copyright (c) 2013, The Linux Foundation. All rights reserved.
   4  *
   5  * This program is free software; you can redistribute it and/or modify
   6  * it under the terms of the GNU General Public License version 2 and
   7  * only version 2 as published by the Free Software Foundation.
   8  *
   9  * This program is distributed in the hope that it will be useful,
  10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12  * GNU General Public License for more details.
  13  */
  14 #include <linux/module.h>
  15 #include <linux/netlink.h>
  16 #include <linux/qrtr.h>
  17 #include <linux/termios.h>      /* For TIOCINQ/OUTQ */
  18
  19 #include <net/sock.h>
  20
  21 #include "qrtr.h"
  22
  23 #define QRTR_PROTO_VER_1 1
  24 #define QRTR_PROTO_VER_2 3
  25
  26 /* auto-bind range */
  27 #define QRTR_MIN_EPH_SOCKET 0x4000
  28 #define QRTR_MAX_EPH_SOCKET 0x7fff
  29
  30 /**
  31  * struct qrtr_hdr_v1 - (I|R)PCrouter packet header version 1
  32  * @version: protocol version
  33  * @type: packet type; one of QRTR_TYPE_*
  34  * @src_node_id: source node
  35  * @src_port_id: source port
  36  * @confirm_rx: boolean; whether a resume-tx packet should be send in reply
  37  * @size: length of packet, excluding this header
  38  * @dst_node_id: destination node
  39  * @dst_port_id: destination port
  40  */
  41 struct qrtr_hdr_v1 {
  42         __le32 version;
  43         __le32 type;
  44         __le32 src_node_id;
  45         __le32 src_port_id;
  46         __le32 confirm_rx;
  47         __le32 size;
  48         __le32 dst_node_id;
  49         __le32 dst_port_id;
  50 } __packed;
  51
  52 /**
  53  * struct qrtr_hdr_v2 - (I|R)PCrouter packet header later versions
  54  * @version: protocol version
  55  * @type: packet type; one of QRTR_TYPE_*
  56  * @flags: bitmask of QRTR_FLAGS_*
  57  * @optlen: length of optional header data
  58  * @size: length of packet, excluding this header and optlen
  59  * @src_node_id: source node
  60  * @src_port_id: source port
  61  * @dst_node_id: destination node
  62  * @dst_port_id: destination port
  63  */
  64 struct qrtr_hdr_v2 {
  65         u8 version;
  66         u8 type;
  67         u8 flags;
  68         u8 optlen;
  69         __le32 size;
  70         __le16 src_node_id;
  71         __le16 src_port_id;
  72         __le16 dst_node_id;
  73         __le16 dst_port_id;
  74 };
  75
  76 #define QRTR_FLAGS_CONFIRM_RX   BIT(0)
  77
  78 struct qrtr_cb {
  79         u32 src_node;
  80         u32 src_port;
  81         u32 dst_node;
  82         u32 dst_port;
  83
  84         u8 type;
  85         u8 confirm_rx;
  86 };
  87
  88 #define QRTR_HDR_MAX_SIZE max_t(size_t, sizeof(struct qrtr_hdr_v1), \
  89                                         sizeof(struct qrtr_hdr_v2))
  90
  91 struct qrtr_sock {
  92         /* WARNING: sk must be the first member */
  93         struct sock sk;
  94         struct sockaddr_qrtr us;
  95         struct sockaddr_qrtr peer;
  96 };
  97
  98 static inline struct qrtr_sock *qrtr_sk(struct sock *sk)
  99 {
 100         BUILD_BUG_ON(offsetof(struct qrtr_sock, sk) != 0);
 101         return container_of(sk, struct qrtr_sock, sk);
 102 }
 103
 104 static unsigned int qrtr_local_nid = -1;
 105
 106 /* for node ids */
 107 static RADIX_TREE(qrtr_nodes, GFP_KERNEL);
 108 /* broadcast list */
 109 static LIST_HEAD(qrtr_all_nodes);
 110 /* lock for qrtr_nodes, qrtr_all_nodes and node reference */
 111 static DEFINE_MUTEX(qrtr_node_lock);
 112
 113 /* local port allocation management */
 114 static DEFINE_IDR(qrtr_ports);
 115 static DEFINE_MUTEX(qrtr_port_lock);
 116
 117 /**
 118  * struct qrtr_node - endpoint node
 119  * @ep_lock: lock for endpoint management and callbacks
 120  * @ep: endpoint
 121  * @ref: reference count for node
 122  * @nid: node id
 123  * @rx_queue: receive queue
 124  * @work: scheduled work struct for recv work
 125  * @item: list item for broadcast list
 126  */
 127 struct qrtr_node {
 128         struct mutex ep_lock;
 129         struct qrtr_endpoint *ep;
 130         struct kref ref;
 131         unsigned int nid;
 132
 133         struct sk_buff_head rx_queue;
 134         struct work_struct work;
 135         struct list_head item;
 136 };
 137
 138 static int qrtr_local_enqueue(struct qrtr_node *node, struct sk_buff *skb,
 139                               int type, struct sockaddr_qrtr *from,
 140                               struct sockaddr_qrtr *to);
 141 static int qrtr_bcast_enqueue(struct qrtr_node *node, struct sk_buff *skb,
 142                               int type, struct sockaddr_qrtr *from,
 143                               struct sockaddr_qrtr *to);
 144
 145 /* Release node resources and free the node.
 146  *
 147  * Do not call directly, use qrtr_node_release.  To be used with
 148  * kref_put_mutex.  As such, the node mutex is expected to be locked on call.
 149  */
 150 static void __qrtr_node_release(struct kref *kref)
 151 {
 152         struct qrtr_node *node = container_of(kref, struct qrtr_node, ref);
 153
 154         if (node->nid != QRTR_EP_NID_AUTO)
 155                 radix_tree_delete(&qrtr_nodes, node->nid);
 156
 157         list_del(&node->item);
 158         mutex_unlock(&qrtr_node_lock);
 159
 160         cancel_work_sync(&node->work);
 161         skb_queue_purge(&node->rx_queue);
 162         kfree(node);
 163 }
 164
 165 /* Increment reference to node. */
 166 static struct qrtr_node *qrtr_node_acquire(struct qrtr_node *node)
 167 {
 168         if (node)
 169                 kref_get(&node->ref);
 170         return node;
 171 }
 172
 173 /* Decrement reference to node and release as necessary. */
 174 static void qrtr_node_release(struct qrtr_node *node)
 175 {
 176         if (!node)
 177                 return;
 178         kref_put_mutex(&node->ref, __qrtr_node_release, &qrtr_node_lock);
 179 }
 180
 181 /* Pass an outgoing packet socket buffer to the endpoint driver. */
 182 static int qrtr_node_enqueue(struct qrtr_node *node, struct sk_buff *skb,
 183                              int type, struct sockaddr_qrtr *from,
 184                              struct sockaddr_qrtr *to)
 185 {
 186         struct qrtr_hdr_v1 *hdr;
 187         size_t len = skb->len;
 188         int rc;
 189
 190         hdr = skb_push(skb, sizeof(*hdr));
 191         hdr->version = cpu_to_le32(QRTR_PROTO_VER_1);
 192         hdr->type = cpu_to_le32(type);
 193         hdr->src_node_id = cpu_to_le32(from->sq_node);
 194         hdr->src_port_id = cpu_to_le32(from->sq_port);
 195         if (to->sq_port == QRTR_PORT_CTRL) {
 196                 hdr->dst_node_id = cpu_to_le32(node->nid);
 197                 hdr->dst_port_id = cpu_to_le32(QRTR_PORT_CTRL);
 198         } else {
 199                 hdr->dst_node_id = cpu_to_le32(to->sq_node);
 200                 hdr->dst_port_id = cpu_to_le32(to->sq_port);
 201         }
 202
 203         hdr->size = cpu_to_le32(len);
 204         hdr->confirm_rx = 0;
 205
 206         rc = skb_put_padto(skb, ALIGN(len, 4) + sizeof(*hdr));
 207
 208         if (!rc) {
 209                 mutex_lock(&node->ep_lock);
 210                 rc = -ENODEV;
 211                 if (node->ep)
 212                         rc = node->ep->xmit(node->ep, skb);
 213                 else
 214                         kfree_skb(skb);
 215                 mutex_unlock(&node->ep_lock);
 216         }
 217         return rc;
 218 }
 219
 220 /* Lookup node by id.
 221  *
 222  * callers must release with qrtr_node_release()
 223  */
 224 static struct qrtr_node *qrtr_node_lookup(unsigned int nid)
 225 {
 226         struct qrtr_node *node;
 227
 228         mutex_lock(&qrtr_node_lock);
 229         node = radix_tree_lookup(&qrtr_nodes, nid);
 230         node = qrtr_node_acquire(node);
 231         mutex_unlock(&qrtr_node_lock);
 232
 233         return node;
 234 }
 235
 236 /* Assign node id to node.
 237  *
 238  * This is mostly useful for automatic node id assignment, based on
 239  * the source id in the incoming packet.
 240  */
 241 static void qrtr_node_assign(struct qrtr_node *node, unsigned int nid)
 242 {
 243         if (node->nid != QRTR_EP_NID_AUTO || nid == QRTR_EP_NID_AUTO)
 244                 return;
 245
 246         mutex_lock(&qrtr_node_lock);
 247         radix_tree_insert(&qrtr_nodes, nid, node);
 248         node->nid = nid;
 249         mutex_unlock(&qrtr_node_lock);
 250 }
 251
 252 /**
 253  * qrtr_endpoint_post() - post incoming data
 254  * @ep: endpoint handle
 255  * @data: data pointer
 256  * @len: size of data in bytes
 257  *
 258  * Return: 0 on success; negative error code on failure
 259  */
 260 int qrtr_endpoint_post(struct qrtr_endpoint *ep, const void *data, size_t len)
 261 {
 262         struct qrtr_node *node = ep->node;
 263         const struct qrtr_hdr_v1 *v1;
 264         const struct qrtr_hdr_v2 *v2;
 265         struct sk_buff *skb;
 266         struct qrtr_cb *cb;
 267         size_t size;
 268         unsigned int ver;
 269         size_t hdrlen;
 270
 271         if (len == 0 || len & 3)
 272                 return -EINVAL;
 273
 274         skb = __netdev_alloc_skb(NULL, len, GFP_ATOMIC | __GFP_NOWARN);
 275         if (!skb)
 276                 return -ENOMEM;
 277
 278         cb = (struct qrtr_cb *)skb->cb;
 279
 280         /* Version field in v1 is little endian, so this works for both cases */
 281         ver = *(u8*)data;
 282
 283         switch (ver) {
 284         case QRTR_PROTO_VER_1:
 285                 if (len < sizeof(*v1))
 286                         goto err;
 287                 v1 = data;
 288                 hdrlen = sizeof(*v1);
 289
 290                 cb->type = le32_to_cpu(v1->type);
 291                 cb->src_node = le32_to_cpu(v1->src_node_id);
 292                 cb->src_port = le32_to_cpu(v1->src_port_id);
 293                 cb->confirm_rx = !!v1->confirm_rx;
 294                 cb->dst_node = le32_to_cpu(v1->dst_node_id);
 295                 cb->dst_port = le32_to_cpu(v1->dst_port_id);
 296
 297                 size = le32_to_cpu(v1->size);
 298                 break;
 299         case QRTR_PROTO_VER_2:
 300                 if (len < sizeof(*v2))
 301                         goto err;
 302                 v2 = data;
 303                 hdrlen = sizeof(*v2) + v2->optlen;
 304
 305                 cb->type = v2->type;
 306                 cb->confirm_rx = !!(v2->flags & QRTR_FLAGS_CONFIRM_RX);
 307                 cb->src_node = le16_to_cpu(v2->src_node_id);
 308                 cb->src_port = le16_to_cpu(v2->src_port_id);
 309                 cb->dst_node = le16_to_cpu(v2->dst_node_id);
 310                 cb->dst_port = le16_to_cpu(v2->dst_port_id);
 311
 312                 if (cb->src_port == (u16)QRTR_PORT_CTRL)
 313                         cb->src_port = QRTR_PORT_CTRL;
 314                 if (cb->dst_port == (u16)QRTR_PORT_CTRL)
 315                         cb->dst_port = QRTR_PORT_CTRL;
 316
 317                 size = le32_to_cpu(v2->size);
 318                 break;
 319         default:
 320                 pr_err("qrtr: Invalid version %d\n", ver);
 321                 goto err;
 322         }
 323
 324         if (!size || len != ALIGN(size, 4) + hdrlen)
 325                 goto err;
 326
 327         if (cb->dst_port != QRTR_PORT_CTRL && cb->type != QRTR_TYPE_DATA)
 328                 goto err;
 329
 330         skb_put_data(skb, data + hdrlen, size);
 331
 332         skb_queue_tail(&node->rx_queue, skb);
 333         schedule_work(&node->work);
 334
 335         return 0;
 336
 337 err:
 338         kfree_skb(skb);
 339         return -EINVAL;
 340
 341 }
 342 EXPORT_SYMBOL_GPL(qrtr_endpoint_post);
 343
 344 /**
 345  * qrtr_alloc_ctrl_packet() - allocate control packet skb
 346  * @pkt: reference to qrtr_ctrl_pkt pointer
 347  *
 348  * Returns newly allocated sk_buff, or NULL on failure
 349  *
 350  * This function allocates a sk_buff large enough to carry a qrtr_ctrl_pkt and
 351  * on success returns a reference to the control packet in @pkt.
 352  */
 353 static struct sk_buff *qrtr_alloc_ctrl_packet(struct qrtr_ctrl_pkt **pkt)
 354 {
 355         const int pkt_len = sizeof(struct qrtr_ctrl_pkt);
 356         struct sk_buff *skb;
 357
 358         skb = alloc_skb(QRTR_HDR_MAX_SIZE + pkt_len, GFP_KERNEL);
 359         if (!skb)
 360                 return NULL;
 361
 362         skb_reserve(skb, QRTR_HDR_MAX_SIZE);
 363         *pkt = skb_put_zero(skb, pkt_len);
 364
 365         return skb;
 366 }
 367
 368 static struct qrtr_sock *qrtr_port_lookup(int port);
 369 static void qrtr_port_put(struct qrtr_sock *ipc);
 370
 371 /* Handle and route a received packet.
 372  *
 373  * This will auto-reply with resume-tx packet as necessary.
 374  */
 375 static void qrtr_node_rx_work(struct work_struct *work)
 376 {
 377         struct qrtr_node *node = container_of(work, struct qrtr_node, work);
 378         struct qrtr_ctrl_pkt *pkt;
 379         struct sockaddr_qrtr dst;
 380         struct sockaddr_qrtr src;
 381         struct sk_buff *skb;
 382
 383         while ((skb = skb_dequeue(&node->rx_queue)) != NULL) {
 384                 struct qrtr_sock *ipc;
 385                 struct qrtr_cb *cb;
 386                 int confirm;
 387
 388                 cb = (struct qrtr_cb *)skb->cb;
 389                 src.sq_node = cb->src_node;
 390                 src.sq_port = cb->src_port;
 391                 dst.sq_node = cb->dst_node;
 392                 dst.sq_port = cb->dst_port;
 393                 confirm = !!cb->confirm_rx;
 394
 395                 qrtr_node_assign(node, cb->src_node);
 396
 397                 ipc = qrtr_port_lookup(cb->dst_port);
 398                 if (!ipc) {
 399                         kfree_skb(skb);
 400                 } else {
 401                         if (sock_queue_rcv_skb(&ipc->sk, skb))
 402                                 kfree_skb(skb);
 403
 404                         qrtr_port_put(ipc);
 405                 }
 406
 407                 if (confirm) {
 408                         skb = qrtr_alloc_ctrl_packet(&pkt);
 409                         if (!skb)
 410                                 break;
 411
 412                         pkt->cmd = cpu_to_le32(QRTR_TYPE_RESUME_TX);
 413                         pkt->client.node = cpu_to_le32(dst.sq_node);
 414                         pkt->client.port = cpu_to_le32(dst.sq_port);
 415
 416                         if (qrtr_node_enqueue(node, skb, QRTR_TYPE_RESUME_TX,
 417                                               &dst, &src))
 418                                 break;
 419                 }
 420         }
 421 }
 422
 423 /**
 424  * qrtr_endpoint_register() - register a new endpoint
 425  * @ep: endpoint to register
 426  * @nid: desired node id; may be QRTR_EP_NID_AUTO for auto-assignment
 427  * Return: 0 on success; negative error code on failure
 428  *
 429  * The specified endpoint must have the xmit function pointer set on call.
 430  */
 431 int qrtr_endpoint_register(struct qrtr_endpoint *ep, unsigned int nid)
 432 {
 433         struct qrtr_node *node;
 434
 435         if (!ep || !ep->xmit)
 436                 return -EINVAL;
 437
 438         node = kzalloc(sizeof(*node), GFP_KERNEL);
 439         if (!node)
 440                 return -ENOMEM;
 441
 442         INIT_WORK(&node->work, qrtr_node_rx_work);
 443         kref_init(&node->ref);
 444         mutex_init(&node->ep_lock);
 445         skb_queue_head_init(&node->rx_queue);
 446         node->nid = QRTR_EP_NID_AUTO;
 447         node->ep = ep;
 448
 449         qrtr_node_assign(node, nid);
 450
 451         mutex_lock(&qrtr_node_lock);
 452         list_add(&node->item, &qrtr_all_nodes);
 453         mutex_unlock(&qrtr_node_lock);
 454         ep->node = node;
 455
 456         return 0;
 457 }
 458 EXPORT_SYMBOL_GPL(qrtr_endpoint_register);
 459
 460 /**
 461  * qrtr_endpoint_unregister - unregister endpoint
 462  * @ep: endpoint to unregister
 463  */
 464 void qrtr_endpoint_unregister(struct qrtr_endpoint *ep)
 465 {
 466         struct qrtr_node *node = ep->node;
 467         struct sockaddr_qrtr src = {AF_QIPCRTR, node->nid, QRTR_PORT_CTRL};
 468         struct sockaddr_qrtr dst = {AF_QIPCRTR, qrtr_local_nid, QRTR_PORT_CTRL};
 469         struct qrtr_ctrl_pkt *pkt;
 470         struct sk_buff *skb;
 471
 472         mutex_lock(&node->ep_lock);
 473         node->ep = NULL;
 474         mutex_unlock(&node->ep_lock);
 475
 476         /* Notify the local controller about the event */
 477         skb = qrtr_alloc_ctrl_packet(&pkt);
 478         if (skb) {
 479                 pkt->cmd = cpu_to_le32(QRTR_TYPE_BYE);
 480                 qrtr_local_enqueue(NULL, skb, QRTR_TYPE_BYE, &src, &dst);
 481         }
 482
 483         qrtr_node_release(node);
 484         ep->node = NULL;
 485 }
 486 EXPORT_SYMBOL_GPL(qrtr_endpoint_unregister);
 487
 488 /* Lookup socket by port.
 489  *
 490  * Callers must release with qrtr_port_put()
 491  */
 492 static struct qrtr_sock *qrtr_port_lookup(int port)
 493 {
 494         struct qrtr_sock *ipc;
 495
 496         if (port == QRTR_PORT_CTRL)
 497                 port = 0;
 498
 499         mutex_lock(&qrtr_port_lock);
 500         ipc = idr_find(&qrtr_ports, port);
 501         if (ipc)
 502                 sock_hold(&ipc->sk);
 503         mutex_unlock(&qrtr_port_lock);
 504
 505         return ipc;
 506 }
 507
 508 /* Release acquired socket. */
 509 static void qrtr_port_put(struct qrtr_sock *ipc)
 510 {
 511         sock_put(&ipc->sk);
 512 }
 513
 514 /* Remove port assignment. */
 515 static void qrtr_port_remove(struct qrtr_sock *ipc)
 516 {
 517         struct qrtr_ctrl_pkt *pkt;
 518         struct sk_buff *skb;
 519         int port = ipc->us.sq_port;
 520         struct sockaddr_qrtr to;
 521
 522         to.sq_family = AF_QIPCRTR;
 523         to.sq_node = QRTR_NODE_BCAST;
 524         to.sq_port = QRTR_PORT_CTRL;
 525
 526         skb = qrtr_alloc_ctrl_packet(&pkt);
 527         if (skb) {
 528                 pkt->cmd = cpu_to_le32(QRTR_TYPE_DEL_CLIENT);
 529                 pkt->client.node = cpu_to_le32(ipc->us.sq_node);
 530                 pkt->client.port = cpu_to_le32(ipc->us.sq_port);
 531
 532                 skb_set_owner_w(skb, &ipc->sk);
 533                 qrtr_bcast_enqueue(NULL, skb, QRTR_TYPE_DEL_CLIENT, &ipc->us,
 534                                    &to);
 535         }
 536
 537         if (port == QRTR_PORT_CTRL)
 538                 port = 0;
 539
 540         __sock_put(&ipc->sk);
 541
 542         mutex_lock(&qrtr_port_lock);
 543         idr_remove(&qrtr_ports, port);
 544         mutex_unlock(&qrtr_port_lock);
 545 }
 546
 547 /* Assign port number to socket.
 548  *
 549  * Specify port in the integer pointed to by port, and it will be adjusted
 550  * on return as necesssary.
 551  *
 552  * Port may be:
 553  *   0: Assign ephemeral port in [QRTR_MIN_EPH_SOCKET, QRTR_MAX_EPH_SOCKET]
 554  *   <QRTR_MIN_EPH_SOCKET: Specified; requires CAP_NET_ADMIN
 555  *   >QRTR_MIN_EPH_SOCKET: Specified; available to all
 556  */
 557 static int qrtr_port_assign(struct qrtr_sock *ipc, int *port)
 558 {
 559         u32 min_port;
 560         int rc;
 561
 562         mutex_lock(&qrtr_port_lock);
 563         if (!*port) {
 564                 min_port = QRTR_MIN_EPH_SOCKET;
 565                 rc = idr_alloc_u32(&qrtr_ports, ipc, &min_port, QRTR_MAX_EPH_SOCKET, GFP_ATOMIC);
 566                 if (!rc)
 567                         *port = min_port;
 568         } else if (*port < QRTR_MIN_EPH_SOCKET && !capable(CAP_NET_ADMIN)) {
 569                 rc = -EACCES;
 570         } else if (*port == QRTR_PORT_CTRL) {
 571                 min_port = 0;
 572                 rc = idr_alloc_u32(&qrtr_ports, ipc, &min_port, 0, GFP_ATOMIC);
 573         } else {
 574                 min_port = *port;
 575                 rc = idr_alloc_u32(&qrtr_ports, ipc, &min_port, *port, GFP_ATOMIC);
 576                 if (!rc)
 577                         *port = min_port;
 578         }
 579         mutex_unlock(&qrtr_port_lock);
 580
 581         if (rc == -ENOSPC)
 582                 return -EADDRINUSE;
 583         else if (rc < 0)
 584                 return rc;
 585
 586         sock_hold(&ipc->sk);
 587
 588         return 0;
 589 }
 590
 591 /* Reset all non-control ports */
 592 static void qrtr_reset_ports(void)
 593 {
 594         struct qrtr_sock *ipc;
 595         int id;
 596
 597         mutex_lock(&qrtr_port_lock);
 598         idr_for_each_entry(&qrtr_ports, ipc, id) {
 599                 /* Don't reset control port */
 600                 if (id == 0)
 601                         continue;
 602
 603                 sock_hold(&ipc->sk);
 604                 ipc->sk.sk_err = ENETRESET;
 605                 ipc->sk.sk_error_report(&ipc->sk);
 606                 sock_put(&ipc->sk);
 607         }
 608         mutex_unlock(&qrtr_port_lock);
 609 }
 610
 611 /* Bind socket to address.
 612  *
 613  * Socket should be locked upon call.
 614  */
 615 static int __qrtr_bind(struct socket *sock,
 616                        const struct sockaddr_qrtr *addr, int zapped)
 617 {
 618         struct qrtr_sock *ipc = qrtr_sk(sock->sk);
 619         struct sock *sk = sock->sk;
 620         int port;
 621         int rc;
 622
 623         /* rebinding ok */
 624         if (!zapped && addr->sq_port == ipc->us.sq_port)
 625                 return 0;
 626
 627         port = addr->sq_port;
 628         rc = qrtr_port_assign(ipc, &port);
 629         if (rc)
 630                 return rc;
 631
 632         /* unbind previous, if any */
 633         if (!zapped)
 634                 qrtr_port_remove(ipc);
 635         ipc->us.sq_port = port;
 636
 637         sock_reset_flag(sk, SOCK_ZAPPED);
 638
 639         /* Notify all open ports about the new controller */
 640         if (port == QRTR_PORT_CTRL)
 641                 qrtr_reset_ports();
 642
 643         return 0;
 644 }
 645
 646 /* Auto bind to an ephemeral port. */
 647 static int qrtr_autobind(struct socket *sock)
 648 {
 649         struct sock *sk = sock->sk;
 650         struct sockaddr_qrtr addr;
 651
 652         if (!sock_flag(sk, SOCK_ZAPPED))
 653                 return 0;
 654
 655         addr.sq_family = AF_QIPCRTR;
 656         addr.sq_node = qrtr_local_nid;
 657         addr.sq_port = 0;
 658
 659         return __qrtr_bind(sock, &addr, 1);
 660 }
 661
 662 /* Bind socket to specified sockaddr. */
 663 static int qrtr_bind(struct socket *sock, struct sockaddr *saddr, int len)
 664 {
 665         DECLARE_SOCKADDR(struct sockaddr_qrtr *, addr, saddr);
 666         struct qrtr_sock *ipc = qrtr_sk(sock->sk);
 667         struct sock *sk = sock->sk;
 668         int rc;
 669
 670         if (len < sizeof(*addr) || addr->sq_family != AF_QIPCRTR)
 671                 return -EINVAL;
 672
 673         if (addr->sq_node != ipc->us.sq_node)
 674                 return -EINVAL;
 675
 676         lock_sock(sk);
 677         rc = __qrtr_bind(sock, addr, sock_flag(sk, SOCK_ZAPPED));
 678         release_sock(sk);
 679
 680         return rc;
 681 }
 682
 683 /* Queue packet to local peer socket. */
 684 static int qrtr_local_enqueue(struct qrtr_node *node, struct sk_buff *skb,
 685                               int type, struct sockaddr_qrtr *from,
 686                               struct sockaddr_qrtr *to)
 687 {
 688         struct qrtr_sock *ipc;
 689         struct qrtr_cb *cb;
 690
 691         ipc = qrtr_port_lookup(to->sq_port);
 692         if (!ipc || &ipc->sk == skb->sk) { /* do not send to self */
 693                 kfree_skb(skb);
 694                 return -ENODEV;
 695         }
 696
 697         cb = (struct qrtr_cb *)skb->cb;
 698         cb->src_node = from->sq_node;
 699         cb->src_port = from->sq_port;
 700
 701         if (sock_queue_rcv_skb(&ipc->sk, skb)) {
 702                 qrtr_port_put(ipc);
 703                 kfree_skb(skb);
 704                 return -ENOSPC;
 705         }
 706
 707         qrtr_port_put(ipc);
 708
 709         return 0;
 710 }
 711
 712 /* Queue packet for broadcast. */
 713 static int qrtr_bcast_enqueue(struct qrtr_node *node, struct sk_buff *skb,
 714                               int type, struct sockaddr_qrtr *from,
 715                               struct sockaddr_qrtr *to)
 716 {
 717         struct sk_buff *skbn;
 718
 719         mutex_lock(&qrtr_node_lock);
 720         list_for_each_entry(node, &qrtr_all_nodes, item) {
 721                 skbn = skb_clone(skb, GFP_KERNEL);
 722                 if (!skbn)
 723                         break;
 724                 skb_set_owner_w(skbn, skb->sk);
 725                 qrtr_node_enqueue(node, skbn, type, from, to);
 726         }
 727         mutex_unlock(&qrtr_node_lock);
 728
 729         qrtr_local_enqueue(NULL, skb, type, from, to);
 730
 731         return 0;
 732 }
 733
 734 static int qrtr_sendmsg(struct socket *sock, struct msghdr *msg, size_t len)
 735 {
 736         DECLARE_SOCKADDR(struct sockaddr_qrtr *, addr, msg->msg_name);
 737         int (*enqueue_fn)(struct qrtr_node *, struct sk_buff *, int,
 738                           struct sockaddr_qrtr *, struct sockaddr_qrtr *);
 739         struct qrtr_sock *ipc = qrtr_sk(sock->sk);
 740         struct sock *sk = sock->sk;
 741         struct qrtr_node *node;
 742         struct sk_buff *skb;
 743         size_t plen;
 744         u32 type = QRTR_TYPE_DATA;
 745         int rc;
 746
 747         if (msg->msg_flags & ~(MSG_DONTWAIT))
 748                 return -EINVAL;
 749
 750         if (len > 65535)
 751                 return -EMSGSIZE;
 752
 753         lock_sock(sk);
 754
 755         if (addr) {
 756                 if (msg->msg_namelen < sizeof(*addr)) {
 757                         release_sock(sk);
 758                         return -EINVAL;
 759                 }
 760
 761                 if (addr->sq_family != AF_QIPCRTR) {
 762                         release_sock(sk);
 763                         return -EINVAL;
 764                 }
 765
 766                 rc = qrtr_autobind(sock);
 767                 if (rc) {
 768                         release_sock(sk);
 769                         return rc;
 770                 }
 771         } else if (sk->sk_state == TCP_ESTABLISHED) {
 772                 addr = &ipc->peer;
 773         } else {
 774                 release_sock(sk);
 775                 return -ENOTCONN;
 776         }
 777
 778         node = NULL;
 779         if (addr->sq_node == QRTR_NODE_BCAST) {
 780                 if (addr->sq_port != QRTR_PORT_CTRL &&
 781                     qrtr_local_nid != QRTR_NODE_BCAST) {
 782                         release_sock(sk);
 783                         return -ENOTCONN;
 784                 }
 785                 enqueue_fn = qrtr_bcast_enqueue;
 786         } else if (addr->sq_node == ipc->us.sq_node) {
 787                 enqueue_fn = qrtr_local_enqueue;
 788         } else {
 789                 node = qrtr_node_lookup(addr->sq_node);
 790                 if (!node) {
 791                         release_sock(sk);
 792                         return -ECONNRESET;
 793                 }
 794                 enqueue_fn = qrtr_node_enqueue;
 795         }
 796
 797         plen = (len + 3) & ~3;
 798         skb = sock_alloc_send_skb(sk, plen + QRTR_HDR_MAX_SIZE,
 799                                   msg->msg_flags & MSG_DONTWAIT, &rc);
 800         if (!skb) {
 801                 rc = -ENOMEM;
 802                 goto out_node;
 803         }
 804
 805         skb_reserve(skb, QRTR_HDR_MAX_SIZE);
 806
 807         rc = memcpy_from_msg(skb_put(skb, len), msg, len);
 808         if (rc) {
 809                 kfree_skb(skb);
 810                 goto out_node;
 811         }
 812
 813         if (ipc->us.sq_port == QRTR_PORT_CTRL) {
 814                 if (len < 4) {
 815                         rc = -EINVAL;
 816                         kfree_skb(skb);
 817                         goto out_node;
 818                 }
 819
 820                 /* control messages already require the type as 'command' */
 821                 skb_copy_bits(skb, 0, &type, 4);
 822                 type = le32_to_cpu(type);
 823         }
 824
 825         rc = enqueue_fn(node, skb, type, &ipc->us, addr);
 826         if (rc >= 0)
 827                 rc = len;
 828
 829 out_node:
 830         qrtr_node_release(node);
 831         release_sock(sk);
 832
 833         return rc;
 834 }
 835
 836 static int qrtr_recvmsg(struct socket *sock, struct msghdr *msg,
 837                         size_t size, int flags)
 838 {
 839         DECLARE_SOCKADDR(struct sockaddr_qrtr *, addr, msg->msg_name);
 840         struct sock *sk = sock->sk;
 841         struct sk_buff *skb;
 842         struct qrtr_cb *cb;
 843         int copied, rc;
 844
 845         lock_sock(sk);
 846
 847         if (sock_flag(sk, SOCK_ZAPPED)) {
 848                 release_sock(sk);
 849                 return -EADDRNOTAVAIL;
 850         }
 851
 852         skb = skb_recv_datagram(sk, flags & ~MSG_DONTWAIT,
 853                                 flags & MSG_DONTWAIT, &rc);
 854         if (!skb) {
 855                 release_sock(sk);
 856                 return rc;
 857         }
 858
 859         copied = skb->len;
 860         if (copied > size) {
 861                 copied = size;
 862                 msg->msg_flags |= MSG_TRUNC;
 863         }
 864
 865         rc = skb_copy_datagram_msg(skb, 0, msg, copied);
 866         if (rc < 0)
 867                 goto out;
 868         rc = copied;
 869
 870         if (addr) {
 871                 /* There is an anonymous 2-byte hole after sq_family,
 872                  * make sure to clear it.
 873                  */
 874                 memset(addr, 0, sizeof(*addr));
 875
 876                 cb = (struct qrtr_cb *)skb->cb;
 877                 addr->sq_family = AF_QIPCRTR;
 878                 addr->sq_node = cb->src_node;
 879                 addr->sq_port = cb->src_port;
 880                 msg->msg_namelen = sizeof(*addr);
 881         }
 882
 883 out:
 884         skb_free_datagram(sk, skb);
 885         release_sock(sk);
 886
 887         return rc;
 888 }
 889
 890 static int qrtr_connect(struct socket *sock, struct sockaddr *saddr,
 891                         int len, int flags)
 892 {
 893         DECLARE_SOCKADDR(struct sockaddr_qrtr *, addr, saddr);
 894         struct qrtr_sock *ipc = qrtr_sk(sock->sk);
 895         struct sock *sk = sock->sk;
 896         int rc;
 897
 898         if (len < sizeof(*addr) || addr->sq_family != AF_QIPCRTR)
 899                 return -EINVAL;
 900
 901         lock_sock(sk);
 902
 903         sk->sk_state = TCP_CLOSE;
 904         sock->state = SS_UNCONNECTED;
 905
 906         rc = qrtr_autobind(sock);
 907         if (rc) {
 908                 release_sock(sk);
 909                 return rc;
 910         }
 911
 912         ipc->peer = *addr;
 913         sock->state = SS_CONNECTED;
 914         sk->sk_state = TCP_ESTABLISHED;
 915
 916         release_sock(sk);
 917
 918         return 0;
 919 }
 920
 921 static int qrtr_getname(struct socket *sock, struct sockaddr *saddr,
 922                         int peer)
 923 {
 924         struct qrtr_sock *ipc = qrtr_sk(sock->sk);
 925         struct sockaddr_qrtr qaddr;
 926         struct sock *sk = sock->sk;
 927
 928         lock_sock(sk);
 929         if (peer) {
 930                 if (sk->sk_state != TCP_ESTABLISHED) {
 931                         release_sock(sk);
 932                         return -ENOTCONN;
 933                 }
 934
 935                 qaddr = ipc->peer;
 936         } else {
 937                 qaddr = ipc->us;
 938         }
 939         release_sock(sk);
 940
 941         qaddr.sq_family = AF_QIPCRTR;
 942
 943         memcpy(saddr, &qaddr, sizeof(qaddr));
 944
 945         return sizeof(qaddr);
 946 }
 947
 948 static int qrtr_ioctl(struct socket *sock, unsigned int cmd, unsigned long arg)
 949 {
 950         void __user *argp = (void __user *)arg;
 951         struct qrtr_sock *ipc = qrtr_sk(sock->sk);
 952         struct sock *sk = sock->sk;
 953         struct sockaddr_qrtr *sq;
 954         struct sk_buff *skb;
 955         struct ifreq ifr;
 956         long len = 0;
 957         int rc = 0;
 958
 959         lock_sock(sk);
 960
 961         switch (cmd) {
 962         case TIOCOUTQ:
 963                 len = sk->sk_sndbuf - sk_wmem_alloc_get(sk);
 964                 if (len < 0)
 965                         len = 0;
 966                 rc = put_user(len, (int __user *)argp);
 967                 break;
 968         case TIOCINQ:
 969                 skb = skb_peek(&sk->sk_receive_queue);
 970                 if (skb)
 971                         len = skb->len;
 972                 rc = put_user(len, (int __user *)argp);
 973                 break;
 974         case SIOCGIFADDR:
 975                 if (copy_from_user(&ifr, argp, sizeof(ifr))) {
 976                         rc = -EFAULT;
 977                         break;
 978                 }
 979
 980                 sq = (struct sockaddr_qrtr *)&ifr.ifr_addr;
 981                 *sq = ipc->us;
 982                 if (copy_to_user(argp, &ifr, sizeof(ifr))) {
 983                         rc = -EFAULT;
 984                         break;
 985                 }
 986                 break;
 987         case SIOCGSTAMP:
 988                 rc = sock_get_timestamp(sk, argp);
 989                 break;
 990         case SIOCADDRT:
 991         case SIOCDELRT:
 992         case SIOCSIFADDR:
 993         case SIOCGIFDSTADDR:
 994         case SIOCSIFDSTADDR:
 995         case SIOCGIFBRDADDR:
 996         case SIOCSIFBRDADDR:
 997         case SIOCGIFNETMASK:
 998         case SIOCSIFNETMASK:
 999                 rc = -EINVAL;
1000                 break;
1001         default:
1002                 rc = -ENOIOCTLCMD;
1003                 break;
1004         }
1005
1006         release_sock(sk);
1007
1008         return rc;
1009 }
1010
1011 static int qrtr_release(struct socket *sock)
1012 {
1013         struct sock *sk = sock->sk;
1014         struct qrtr_sock *ipc;
1015
1016         if (!sk)
1017                 return 0;
1018
1019         lock_sock(sk);
1020
1021         ipc = qrtr_sk(sk);
1022         sk->sk_shutdown = SHUTDOWN_MASK;
1023         if (!sock_flag(sk, SOCK_DEAD))
1024                 sk->sk_state_change(sk);
1025
1026         sock_set_flag(sk, SOCK_DEAD);
1027         sock_orphan(sk);
1028         sock->sk = NULL;
1029
1030         if (!sock_flag(sk, SOCK_ZAPPED))
1031                 qrtr_port_remove(ipc);
1032
1033         skb_queue_purge(&sk->sk_receive_queue);
1034
1035         release_sock(sk);
1036         sock_put(sk);
1037
1038         return 0;
1039 }
1040
1041 static const struct proto_ops qrtr_proto_ops = {
1042         .owner          = THIS_MODULE,
1043         .family         = AF_QIPCRTR,
1044         .bind           = qrtr_bind,
1045         .connect        = qrtr_connect,
1046         .socketpair     = sock_no_socketpair,
1047         .accept         = sock_no_accept,
1048         .listen         = sock_no_listen,
1049         .sendmsg        = qrtr_sendmsg,
1050         .recvmsg        = qrtr_recvmsg,
1051         .getname        = qrtr_getname,
1052         .ioctl          = qrtr_ioctl,
1053         .poll           = datagram_poll,
1054         .shutdown       = sock_no_shutdown,
1055         .setsockopt     = sock_no_setsockopt,
1056         .getsockopt     = sock_no_getsockopt,
1057         .release        = qrtr_release,
1058         .mmap           = sock_no_mmap,
1059         .sendpage       = sock_no_sendpage,
1060 };
1061
1062 static struct proto qrtr_proto = {
1063         .name           = "QIPCRTR",
1064         .owner          = THIS_MODULE,
1065         .obj_size       = sizeof(struct qrtr_sock),
1066 };
1067
1068 static int qrtr_create(struct net *net, struct socket *sock,
1069                        int protocol, int kern)
1070 {
1071         struct qrtr_sock *ipc;
1072         struct sock *sk;
1073
1074         if (sock->type != SOCK_DGRAM)
1075                 return -EPROTOTYPE;
1076
1077         sk = sk_alloc(net, AF_QIPCRTR, GFP_KERNEL, &qrtr_proto, kern);
1078         if (!sk)
1079                 return -ENOMEM;
1080
1081         sock_set_flag(sk, SOCK_ZAPPED);
1082
1083         sock_init_data(sock, sk);
1084         sock->ops = &qrtr_proto_ops;
1085
1086         ipc = qrtr_sk(sk);
1087         ipc->us.sq_family = AF_QIPCRTR;
1088         ipc->us.sq_node = qrtr_local_nid;
1089         ipc->us.sq_port = 0;
1090
1091         return 0;
1092 }
1093
1094 static const struct nla_policy qrtr_policy[IFA_MAX + 1] = {
1095         [IFA_LOCAL] = { .type = NLA_U32 },
1096 };
1097
1098 static int qrtr_addr_doit(struct sk_buff *skb, struct nlmsghdr *nlh,
1099                           struct netlink_ext_ack *extack)
1100 {
1101         struct nlattr *tb[IFA_MAX + 1];
1102         struct ifaddrmsg *ifm;
1103         int rc;
1104
1105         if (!netlink_capable(skb, CAP_NET_ADMIN))
1106                 return -EPERM;
1107
1108         if (!netlink_capable(skb, CAP_SYS_ADMIN))
1109                 return -EPERM;
1110
1111         ASSERT_RTNL();
1112
1113         rc = nlmsg_parse(nlh, sizeof(*ifm), tb, IFA_MAX, qrtr_policy, extack);
1114         if (rc < 0)
1115                 return rc;
1116
1117         ifm = nlmsg_data(nlh);
1118         if (!tb[IFA_LOCAL])
1119                 return -EINVAL;
1120
1121         qrtr_local_nid = nla_get_u32(tb[IFA_LOCAL]);
1122         return 0;
1123 }
1124
1125 static const struct net_proto_family qrtr_family = {
1126         .owner  = THIS_MODULE,
1127         .family = AF_QIPCRTR,
1128         .create = qrtr_create,
1129 };
1130
1131 static int __init qrtr_proto_init(void)
1132 {
1133         int rc;
1134
1135         rc = proto_register(&qrtr_proto, 1);
1136         if (rc)
1137                 return rc;
1138
1139         rc = sock_register(&qrtr_family);
1140         if (rc) {
1141                 proto_unregister(&qrtr_proto);
1142                 return rc;
1143         }
1144
1145         rc = rtnl_register_module(THIS_MODULE, PF_QIPCRTR, RTM_NEWADDR, qrtr_addr_doit, NULL, 0);
1146         if (rc) {
1147                 sock_unregister(qrtr_family.family);
1148                 proto_unregister(&qrtr_proto);
1149         }
1150
1151         return rc;
1152 }
1153 postcore_initcall(qrtr_proto_init);
1154
1155 static void __exit qrtr_proto_fini(void)
1156 {
1157         rtnl_unregister(PF_QIPCRTR, RTM_NEWADDR);
1158         sock_unregister(qrtr_family.family);
1159         proto_unregister(&qrtr_proto);
1160 }
1161 module_exit(qrtr_proto_fini);
1162
1163 MODULE_DESCRIPTION("Qualcomm IPC-router driver");
1164 MODULE_LICENSE("GPL v2");
1165 MODULE_ALIAS_NETPROTO(PF_QIPCRTR);