net/ceph/mon_client.c

   1 #include <linux/ceph/ceph_debug.h>
   2
   3 #include <linux/module.h>
   4 #include <linux/types.h>
   5 #include <linux/slab.h>
   6 #include <linux/random.h>
   7 #include <linux/sched.h>
   8
   9 #include <linux/ceph/mon_client.h>
  10 #include <linux/ceph/libceph.h>
  11 #include <linux/ceph/debugfs.h>
  12 #include <linux/ceph/decode.h>
  13 #include <linux/ceph/auth.h>
  14
  15 /*
  16  * Interact with Ceph monitor cluster.  Handle requests for new map
  17  * versions, and periodically resend as needed.  Also implement
  18  * statfs() and umount().
  19  *
  20  * A small cluster of Ceph "monitors" are responsible for managing critical
  21  * cluster configuration and state information.  An odd number (e.g., 3, 5)
  22  * of cmon daemons use a modified version of the Paxos part-time parliament
  23  * algorithm to manage the MDS map (mds cluster membership), OSD map, and
  24  * list of clients who have mounted the file system.
  25  *
  26  * We maintain an open, active session with a monitor at all times in order to
  27  * receive timely MDSMap updates.  We periodically send a keepalive byte on the
  28  * TCP socket to ensure we detect a failure.  If the connection does break, we
  29  * randomly hunt for a new monitor.  Once the connection is reestablished, we
  30  * resend any outstanding requests.
  31  */
  32
  33 static const struct ceph_connection_operations mon_con_ops;
  34
  35 static int __validate_auth(struct ceph_mon_client *monc);
  36
  37 /*
  38  * Decode a monmap blob (e.g., during mount).
  39  */
  40 struct ceph_monmap *ceph_monmap_decode(void *p, void *end)
  41 {
  42         struct ceph_monmap *m = NULL;
  43         int i, err = -EINVAL;
  44         struct ceph_fsid fsid;
  45         u32 epoch, num_mon;
  46         u16 version;
  47         u32 len;
  48
  49         ceph_decode_32_safe(&p, end, len, bad);
  50         ceph_decode_need(&p, end, len, bad);
  51
  52         dout("monmap_decode %p %p len %d\n", p, end, (int)(end-p));
  53
  54         ceph_decode_16_safe(&p, end, version, bad);
  55
  56         ceph_decode_need(&p, end, sizeof(fsid) + 2*sizeof(u32), bad);
  57         ceph_decode_copy(&p, &fsid, sizeof(fsid));
  58         epoch = ceph_decode_32(&p);
  59
  60         num_mon = ceph_decode_32(&p);
  61         ceph_decode_need(&p, end, num_mon*sizeof(m->mon_inst[0]), bad);
  62
  63         if (num_mon >= CEPH_MAX_MON)
  64                 goto bad;
  65         m = kmalloc(sizeof(*m) + sizeof(m->mon_inst[0])*num_mon, GFP_NOFS);
  66         if (m == NULL)
  67                 return ERR_PTR(-ENOMEM);
  68         m->fsid = fsid;
  69         m->epoch = epoch;
  70         m->num_mon = num_mon;
  71         ceph_decode_copy(&p, m->mon_inst, num_mon*sizeof(m->mon_inst[0]));
  72         for (i = 0; i < num_mon; i++)
  73                 ceph_decode_addr(&m->mon_inst[i].addr);
  74
  75         dout("monmap_decode epoch %d, num_mon %d\n", m->epoch,
  76              m->num_mon);
  77         for (i = 0; i < m->num_mon; i++)
  78                 dout("monmap_decode  mon%d is %s\n", i,
  79                      ceph_pr_addr(&m->mon_inst[i].addr.in_addr));
  80         return m;
  81
  82 bad:
  83         dout("monmap_decode failed with %d\n", err);
  84         kfree(m);
  85         return ERR_PTR(err);
  86 }
  87
  88 /*
  89  * return true if *addr is included in the monmap.
  90  */
  91 int ceph_monmap_contains(struct ceph_monmap *m, struct ceph_entity_addr *addr)
  92 {
  93         int i;
  94
  95         for (i = 0; i < m->num_mon; i++)
  96                 if (memcmp(addr, &m->mon_inst[i].addr, sizeof(*addr)) == 0)
  97                         return 1;
  98         return 0;
  99 }
 100
 101 /*
 102  * Send an auth request.
 103  */
 104 static void __send_prepared_auth_request(struct ceph_mon_client *monc, int len)
 105 {
 106         monc->pending_auth = 1;
 107         monc->m_auth->front.iov_len = len;
 108         monc->m_auth->hdr.front_len = cpu_to_le32(len);
 109         ceph_msg_revoke(monc->m_auth);
 110         ceph_msg_get(monc->m_auth);  /* keep our ref */
 111         ceph_con_send(&monc->con, monc->m_auth);
 112 }
 113
 114 /*
 115  * Close monitor session, if any.
 116  */
 117 static void __close_session(struct ceph_mon_client *monc)
 118 {
 119         dout("__close_session closing mon%d\n", monc->cur_mon);
 120         ceph_msg_revoke(monc->m_auth);
 121         ceph_msg_revoke_incoming(monc->m_auth_reply);
 122         ceph_msg_revoke(monc->m_subscribe);
 123         ceph_msg_revoke_incoming(monc->m_subscribe_ack);
 124         ceph_con_close(&monc->con);
 125
 126         monc->pending_auth = 0;
 127         ceph_auth_reset(monc->auth);
 128 }
 129
 130 /*
 131  * Pick a new monitor at random and set cur_mon.  If we are repicking
 132  * (i.e. cur_mon is already set), be sure to pick a different one.
 133  */
 134 static void pick_new_mon(struct ceph_mon_client *monc)
 135 {
 136         int old_mon = monc->cur_mon;
 137
 138         BUG_ON(monc->monmap->num_mon < 1);
 139
 140         if (monc->monmap->num_mon == 1) {
 141                 monc->cur_mon = 0;
 142         } else {
 143                 int max = monc->monmap->num_mon;
 144                 int o = -1;
 145                 int n;
 146
 147                 if (monc->cur_mon >= 0) {
 148                         if (monc->cur_mon < monc->monmap->num_mon)
 149                                 o = monc->cur_mon;
 150                         if (o >= 0)
 151                                 max--;
 152                 }
 153
 154                 n = prandom_u32() % max;
 155                 if (o >= 0 && n >= o)
 156                         n++;
 157
 158                 monc->cur_mon = n;
 159         }
 160
 161         dout("%s mon%d -> mon%d out of %d mons\n", __func__, old_mon,
 162              monc->cur_mon, monc->monmap->num_mon);
 163 }
 164
 165 /*
 166  * Open a session with a new monitor.
 167  */
 168 static void __open_session(struct ceph_mon_client *monc)
 169 {
 170         int ret;
 171
 172         pick_new_mon(monc);
 173
 174         monc->hunting = true;
 175         if (monc->had_a_connection) {
 176                 monc->hunt_mult *= CEPH_MONC_HUNT_BACKOFF;
 177                 if (monc->hunt_mult > CEPH_MONC_HUNT_MAX_MULT)
 178                         monc->hunt_mult = CEPH_MONC_HUNT_MAX_MULT;
 179         }
 180
 181         monc->sub_renew_after = jiffies; /* i.e., expired */
 182         monc->sub_renew_sent = 0;
 183
 184         dout("%s opening mon%d\n", __func__, monc->cur_mon);
 185         ceph_con_open(&monc->con, CEPH_ENTITY_TYPE_MON, monc->cur_mon,
 186                       &monc->monmap->mon_inst[monc->cur_mon].addr);
 187
 188         /*
 189          * send an initial keepalive to ensure our timestamp is valid
 190          * by the time we are in an OPENED state
 191          */
 192         ceph_con_keepalive(&monc->con);
 193
 194         /* initiate authentication handshake */
 195         ret = ceph_auth_build_hello(monc->auth,
 196                                     monc->m_auth->front.iov_base,
 197                                     monc->m_auth->front_alloc_len);
 198         BUG_ON(ret <= 0);
 199         __send_prepared_auth_request(monc, ret);
 200 }
 201
 202 static void reopen_session(struct ceph_mon_client *monc)
 203 {
 204         if (!monc->hunting)
 205                 pr_info("mon%d %s session lost, hunting for new mon\n",
 206                     monc->cur_mon, ceph_pr_addr(&monc->con.peer_addr.in_addr));
 207
 208         __close_session(monc);
 209         __open_session(monc);
 210 }
 211
 212 static void un_backoff(struct ceph_mon_client *monc)
 213 {
 214         monc->hunt_mult /= 2; /* reduce by 50% */
 215         if (monc->hunt_mult < 1)
 216                 monc->hunt_mult = 1;
 217         dout("%s hunt_mult now %d\n", __func__, monc->hunt_mult);
 218 }
 219
 220 /*
 221  * Reschedule delayed work timer.
 222  */
 223 static void __schedule_delayed(struct ceph_mon_client *monc)
 224 {
 225         unsigned long delay;
 226
 227         if (monc->hunting)
 228                 delay = CEPH_MONC_HUNT_INTERVAL * monc->hunt_mult;
 229         else
 230                 delay = CEPH_MONC_PING_INTERVAL;
 231
 232         dout("__schedule_delayed after %lu\n", delay);
 233         mod_delayed_work(system_wq, &monc->delayed_work,
 234                          round_jiffies_relative(delay));
 235 }
 236
 237 const char *ceph_sub_str[] = {
 238         [CEPH_SUB_MONMAP] = "monmap",
 239         [CEPH_SUB_OSDMAP] = "osdmap",
 240         [CEPH_SUB_FSMAP]  = "fsmap.user",
 241         [CEPH_SUB_MDSMAP] = "mdsmap",
 242 };
 243
 244 /*
 245  * Send subscribe request for one or more maps, according to
 246  * monc->subs.
 247  */
 248 static void __send_subscribe(struct ceph_mon_client *monc)
 249 {
 250         struct ceph_msg *msg = monc->m_subscribe;
 251         void *p = msg->front.iov_base;
 252         void *const end = p + msg->front_alloc_len;
 253         int num = 0;
 254         int i;
 255
 256         dout("%s sent %lu\n", __func__, monc->sub_renew_sent);
 257
 258         BUG_ON(monc->cur_mon < 0);
 259
 260         if (!monc->sub_renew_sent)
 261                 monc->sub_renew_sent = jiffies | 1; /* never 0 */
 262
 263         msg->hdr.version = cpu_to_le16(2);
 264
 265         for (i = 0; i < ARRAY_SIZE(monc->subs); i++) {
 266                 if (monc->subs[i].want)
 267                         num++;
 268         }
 269         BUG_ON(num < 1); /* monmap sub is always there */
 270         ceph_encode_32(&p, num);
 271         for (i = 0; i < ARRAY_SIZE(monc->subs); i++) {
 272                 char buf[32];
 273                 int len;
 274
 275                 if (!monc->subs[i].want)
 276                         continue;
 277
 278                 len = sprintf(buf, "%s", ceph_sub_str[i]);
 279                 if (i == CEPH_SUB_MDSMAP &&
 280                     monc->fs_cluster_id != CEPH_FS_CLUSTER_ID_NONE)
 281                         len += sprintf(buf + len, ".%d", monc->fs_cluster_id);
 282
 283                 dout("%s %s start %llu flags 0x%x\n", __func__, buf,
 284                      le64_to_cpu(monc->subs[i].item.start),
 285                      monc->subs[i].item.flags);
 286                 ceph_encode_string(&p, end, buf, len);
 287                 memcpy(p, &monc->subs[i].item, sizeof(monc->subs[i].item));
 288                 p += sizeof(monc->subs[i].item);
 289         }
 290
 291         BUG_ON(p > end);
 292         msg->front.iov_len = p - msg->front.iov_base;
 293         msg->hdr.front_len = cpu_to_le32(msg->front.iov_len);
 294         ceph_msg_revoke(msg);
 295         ceph_con_send(&monc->con, ceph_msg_get(msg));
 296 }
 297
 298 static void handle_subscribe_ack(struct ceph_mon_client *monc,
 299                                  struct ceph_msg *msg)
 300 {
 301         unsigned int seconds;
 302         struct ceph_mon_subscribe_ack *h = msg->front.iov_base;
 303
 304         if (msg->front.iov_len < sizeof(*h))
 305                 goto bad;
 306         seconds = le32_to_cpu(h->duration);
 307
 308         mutex_lock(&monc->mutex);
 309         if (monc->sub_renew_sent) {
 310                 monc->sub_renew_after = monc->sub_renew_sent +
 311                                             (seconds >> 1) * HZ - 1;
 312                 dout("%s sent %lu duration %d renew after %lu\n", __func__,
 313                      monc->sub_renew_sent, seconds, monc->sub_renew_after);
 314                 monc->sub_renew_sent = 0;
 315         } else {
 316                 dout("%s sent %lu renew after %lu, ignoring\n", __func__,
 317                      monc->sub_renew_sent, monc->sub_renew_after);
 318         }
 319         mutex_unlock(&monc->mutex);
 320         return;
 321 bad:
 322         pr_err("got corrupt subscribe-ack msg\n");
 323         ceph_msg_dump(msg);
 324 }
 325
 326 /*
 327  * Register interest in a map
 328  *
 329  * @sub: one of CEPH_SUB_*
 330  * @epoch: X for "every map since X", or 0 for "just the latest"
 331  */
 332 static bool __ceph_monc_want_map(struct ceph_mon_client *monc, int sub,
 333                                  u32 epoch, bool continuous)
 334 {
 335         __le64 start = cpu_to_le64(epoch);
 336         u8 flags = !continuous ? CEPH_SUBSCRIBE_ONETIME : 0;
 337
 338         dout("%s %s epoch %u continuous %d\n", __func__, ceph_sub_str[sub],
 339              epoch, continuous);
 340
 341         if (monc->subs[sub].want &&
 342             monc->subs[sub].item.start == start &&
 343             monc->subs[sub].item.flags == flags)
 344                 return false;
 345
 346         monc->subs[sub].item.start = start;
 347         monc->subs[sub].item.flags = flags;
 348         monc->subs[sub].want = true;
 349
 350         return true;
 351 }
 352
 353 bool ceph_monc_want_map(struct ceph_mon_client *monc, int sub, u32 epoch,
 354                         bool continuous)
 355 {
 356         bool need_request;
 357
 358         mutex_lock(&monc->mutex);
 359         need_request = __ceph_monc_want_map(monc, sub, epoch, continuous);
 360         mutex_unlock(&monc->mutex);
 361
 362         return need_request;
 363 }
 364 EXPORT_SYMBOL(ceph_monc_want_map);
 365
 366 /*
 367  * Keep track of which maps we have
 368  *
 369  * @sub: one of CEPH_SUB_*
 370  */
 371 static void __ceph_monc_got_map(struct ceph_mon_client *monc, int sub,
 372                                 u32 epoch)
 373 {
 374         dout("%s %s epoch %u\n", __func__, ceph_sub_str[sub], epoch);
 375
 376         if (monc->subs[sub].want) {
 377                 if (monc->subs[sub].item.flags & CEPH_SUBSCRIBE_ONETIME)
 378                         monc->subs[sub].want = false;
 379                 else
 380                         monc->subs[sub].item.start = cpu_to_le64(epoch + 1);
 381         }
 382
 383         monc->subs[sub].have = epoch;
 384 }
 385
 386 void ceph_monc_got_map(struct ceph_mon_client *monc, int sub, u32 epoch)
 387 {
 388         mutex_lock(&monc->mutex);
 389         __ceph_monc_got_map(monc, sub, epoch);
 390         mutex_unlock(&monc->mutex);
 391 }
 392 EXPORT_SYMBOL(ceph_monc_got_map);
 393
 394 void ceph_monc_renew_subs(struct ceph_mon_client *monc)
 395 {
 396         mutex_lock(&monc->mutex);
 397         __send_subscribe(monc);
 398         mutex_unlock(&monc->mutex);
 399 }
 400 EXPORT_SYMBOL(ceph_monc_renew_subs);
 401
 402 /*
 403  * Wait for an osdmap with a given epoch.
 404  *
 405  * @epoch: epoch to wait for
 406  * @timeout: in jiffies, 0 means "wait forever"
 407  */
 408 int ceph_monc_wait_osdmap(struct ceph_mon_client *monc, u32 epoch,
 409                           unsigned long timeout)
 410 {
 411         unsigned long started = jiffies;
 412         long ret;
 413
 414         mutex_lock(&monc->mutex);
 415         while (monc->subs[CEPH_SUB_OSDMAP].have < epoch) {
 416                 mutex_unlock(&monc->mutex);
 417
 418                 if (timeout && time_after_eq(jiffies, started + timeout))
 419                         return -ETIMEDOUT;
 420
 421                 ret = wait_event_interruptible_timeout(monc->client->auth_wq,
 422                                      monc->subs[CEPH_SUB_OSDMAP].have >= epoch,
 423                                      ceph_timeout_jiffies(timeout));
 424                 if (ret < 0)
 425                         return ret;
 426
 427                 mutex_lock(&monc->mutex);
 428         }
 429
 430         mutex_unlock(&monc->mutex);
 431         return 0;
 432 }
 433 EXPORT_SYMBOL(ceph_monc_wait_osdmap);
 434
 435 /*
 436  * Open a session with a random monitor.  Request monmap and osdmap,
 437  * which are waited upon in __ceph_open_session().
 438  */
 439 int ceph_monc_open_session(struct ceph_mon_client *monc)
 440 {
 441         mutex_lock(&monc->mutex);
 442         __ceph_monc_want_map(monc, CEPH_SUB_MONMAP, 0, true);
 443         __ceph_monc_want_map(monc, CEPH_SUB_OSDMAP, 0, false);
 444         __open_session(monc);
 445         __schedule_delayed(monc);
 446         mutex_unlock(&monc->mutex);
 447         return 0;
 448 }
 449 EXPORT_SYMBOL(ceph_monc_open_session);
 450
 451 static void ceph_monc_handle_map(struct ceph_mon_client *monc,
 452                                  struct ceph_msg *msg)
 453 {
 454         struct ceph_client *client = monc->client;
 455         struct ceph_monmap *monmap = NULL, *old = monc->monmap;
 456         void *p, *end;
 457
 458         mutex_lock(&monc->mutex);
 459
 460         dout("handle_monmap\n");
 461         p = msg->front.iov_base;
 462         end = p + msg->front.iov_len;
 463
 464         monmap = ceph_monmap_decode(p, end);
 465         if (IS_ERR(monmap)) {
 466                 pr_err("problem decoding monmap, %d\n",
 467                        (int)PTR_ERR(monmap));
 468                 goto out;
 469         }
 470
 471         if (ceph_check_fsid(monc->client, &monmap->fsid) < 0) {
 472                 kfree(monmap);
 473                 goto out;
 474         }
 475
 476         client->monc.monmap = monmap;
 477         kfree(old);
 478
 479         __ceph_monc_got_map(monc, CEPH_SUB_MONMAP, monc->monmap->epoch);
 480         client->have_fsid = true;
 481
 482 out:
 483         mutex_unlock(&monc->mutex);
 484         wake_up_all(&client->auth_wq);
 485 }
 486
 487 /*
 488  * generic requests (currently statfs, mon_get_version)
 489  */
 490 DEFINE_RB_FUNCS(generic_request, struct ceph_mon_generic_request, tid, node)
 491
 492 static void release_generic_request(struct kref *kref)
 493 {
 494         struct ceph_mon_generic_request *req =
 495                 container_of(kref, struct ceph_mon_generic_request, kref);
 496
 497         dout("%s greq %p request %p reply %p\n", __func__, req, req->request,
 498              req->reply);
 499         WARN_ON(!RB_EMPTY_NODE(&req->node));
 500
 501         if (req->reply)
 502                 ceph_msg_put(req->reply);
 503         if (req->request)
 504                 ceph_msg_put(req->request);
 505
 506         kfree(req);
 507 }
 508
 509 static void put_generic_request(struct ceph_mon_generic_request *req)
 510 {
 511         if (req)
 512                 kref_put(&req->kref, release_generic_request);
 513 }
 514
 515 static void get_generic_request(struct ceph_mon_generic_request *req)
 516 {
 517         kref_get(&req->kref);
 518 }
 519
 520 static struct ceph_mon_generic_request *
 521 alloc_generic_request(struct ceph_mon_client *monc, gfp_t gfp)
 522 {
 523         struct ceph_mon_generic_request *req;
 524
 525         req = kzalloc(sizeof(*req), gfp);
 526         if (!req)
 527                 return NULL;
 528
 529         req->monc = monc;
 530         kref_init(&req->kref);
 531         RB_CLEAR_NODE(&req->node);
 532         init_completion(&req->completion);
 533
 534         dout("%s greq %p\n", __func__, req);
 535         return req;
 536 }
 537
 538 static void register_generic_request(struct ceph_mon_generic_request *req)
 539 {
 540         struct ceph_mon_client *monc = req->monc;
 541
 542         WARN_ON(req->tid);
 543
 544         get_generic_request(req);
 545         req->tid = ++monc->last_tid;
 546         insert_generic_request(&monc->generic_request_tree, req);
 547 }
 548
 549 static void send_generic_request(struct ceph_mon_client *monc,
 550                                  struct ceph_mon_generic_request *req)
 551 {
 552         WARN_ON(!req->tid);
 553
 554         dout("%s greq %p tid %llu\n", __func__, req, req->tid);
 555         req->request->hdr.tid = cpu_to_le64(req->tid);
 556         ceph_con_send(&monc->con, ceph_msg_get(req->request));
 557 }
 558
 559 static void __finish_generic_request(struct ceph_mon_generic_request *req)
 560 {
 561         struct ceph_mon_client *monc = req->monc;
 562
 563         dout("%s greq %p tid %llu\n", __func__, req, req->tid);
 564         erase_generic_request(&monc->generic_request_tree, req);
 565
 566         ceph_msg_revoke(req->request);
 567         ceph_msg_revoke_incoming(req->reply);
 568 }
 569
 570 static void finish_generic_request(struct ceph_mon_generic_request *req)
 571 {
 572         __finish_generic_request(req);
 573         put_generic_request(req);
 574 }
 575
 576 static void complete_generic_request(struct ceph_mon_generic_request *req)
 577 {
 578         if (req->complete_cb)
 579                 req->complete_cb(req);
 580         else
 581                 complete_all(&req->completion);
 582         put_generic_request(req);
 583 }
 584
 585 static void cancel_generic_request(struct ceph_mon_generic_request *req)
 586 {
 587         struct ceph_mon_client *monc = req->monc;
 588         struct ceph_mon_generic_request *lookup_req;
 589
 590         dout("%s greq %p tid %llu\n", __func__, req, req->tid);
 591
 592         mutex_lock(&monc->mutex);
 593         lookup_req = lookup_generic_request(&monc->generic_request_tree,
 594                                             req->tid);
 595         if (lookup_req) {
 596                 WARN_ON(lookup_req != req);
 597                 finish_generic_request(req);
 598         }
 599
 600         mutex_unlock(&monc->mutex);
 601 }
 602
 603 static int wait_generic_request(struct ceph_mon_generic_request *req)
 604 {
 605         int ret;
 606
 607         dout("%s greq %p tid %llu\n", __func__, req, req->tid);
 608         ret = wait_for_completion_interruptible(&req->completion);
 609         if (ret)
 610                 cancel_generic_request(req);
 611         else
 612                 ret = req->result; /* completed */
 613
 614         return ret;
 615 }
 616
 617 static struct ceph_msg *get_generic_reply(struct ceph_connection *con,
 618                                          struct ceph_msg_header *hdr,
 619                                          int *skip)
 620 {
 621         struct ceph_mon_client *monc = con->private;
 622         struct ceph_mon_generic_request *req;
 623         u64 tid = le64_to_cpu(hdr->tid);
 624         struct ceph_msg *m;
 625
 626         mutex_lock(&monc->mutex);
 627         req = lookup_generic_request(&monc->generic_request_tree, tid);
 628         if (!req) {
 629                 dout("get_generic_reply %lld dne\n", tid);
 630                 *skip = 1;
 631                 m = NULL;
 632         } else {
 633                 dout("get_generic_reply %lld got %p\n", tid, req->reply);
 634                 *skip = 0;
 635                 m = ceph_msg_get(req->reply);
 636                 /*
 637                  * we don't need to track the connection reading into
 638                  * this reply because we only have one open connection
 639                  * at a time, ever.
 640                  */
 641         }
 642         mutex_unlock(&monc->mutex);
 643         return m;
 644 }
 645
 646 /*
 647  * statfs
 648  */
 649 static void handle_statfs_reply(struct ceph_mon_client *monc,
 650                                 struct ceph_msg *msg)
 651 {
 652         struct ceph_mon_generic_request *req;
 653         struct ceph_mon_statfs_reply *reply = msg->front.iov_base;
 654         u64 tid = le64_to_cpu(msg->hdr.tid);
 655
 656         dout("%s msg %p tid %llu\n", __func__, msg, tid);
 657
 658         if (msg->front.iov_len != sizeof(*reply))
 659                 goto bad;
 660
 661         mutex_lock(&monc->mutex);
 662         req = lookup_generic_request(&monc->generic_request_tree, tid);
 663         if (!req) {
 664                 mutex_unlock(&monc->mutex);
 665                 return;
 666         }
 667
 668         req->result = 0;
 669         *req->u.st = reply->st; /* struct */
 670         __finish_generic_request(req);
 671         mutex_unlock(&monc->mutex);
 672
 673         complete_generic_request(req);
 674         return;
 675
 676 bad:
 677         pr_err("corrupt statfs reply, tid %llu\n", tid);
 678         ceph_msg_dump(msg);
 679 }
 680
 681 /*
 682  * Do a synchronous statfs().
 683  */
 684 int ceph_monc_do_statfs(struct ceph_mon_client *monc, struct ceph_statfs *buf)
 685 {
 686         struct ceph_mon_generic_request *req;
 687         struct ceph_mon_statfs *h;
 688         int ret = -ENOMEM;
 689
 690         req = alloc_generic_request(monc, GFP_NOFS);
 691         if (!req)
 692                 goto out;
 693
 694         req->request = ceph_msg_new(CEPH_MSG_STATFS, sizeof(*h), GFP_NOFS,
 695                                     true);
 696         if (!req->request)
 697                 goto out;
 698
 699         req->reply = ceph_msg_new(CEPH_MSG_STATFS_REPLY, 64, GFP_NOFS, true);
 700         if (!req->reply)
 701                 goto out;
 702
 703         req->u.st = buf;
 704
 705         mutex_lock(&monc->mutex);
 706         register_generic_request(req);
 707         /* fill out request */
 708         h = req->request->front.iov_base;
 709         h->monhdr.have_version = 0;
 710         h->monhdr.session_mon = cpu_to_le16(-1);
 711         h->monhdr.session_mon_tid = 0;
 712         h->fsid = monc->monmap->fsid;
 713         send_generic_request(monc, req);
 714         mutex_unlock(&monc->mutex);
 715
 716         ret = wait_generic_request(req);
 717 out:
 718         put_generic_request(req);
 719         return ret;
 720 }
 721 EXPORT_SYMBOL(ceph_monc_do_statfs);
 722
 723 static void handle_get_version_reply(struct ceph_mon_client *monc,
 724                                      struct ceph_msg *msg)
 725 {
 726         struct ceph_mon_generic_request *req;
 727         u64 tid = le64_to_cpu(msg->hdr.tid);
 728         void *p = msg->front.iov_base;
 729         void *end = p + msg->front_alloc_len;
 730         u64 handle;
 731
 732         dout("%s msg %p tid %llu\n", __func__, msg, tid);
 733
 734         ceph_decode_need(&p, end, 2*sizeof(u64), bad);
 735         handle = ceph_decode_64(&p);
 736         if (tid != 0 && tid != handle)
 737                 goto bad;
 738
 739         mutex_lock(&monc->mutex);
 740         req = lookup_generic_request(&monc->generic_request_tree, handle);
 741         if (!req) {
 742                 mutex_unlock(&monc->mutex);
 743                 return;
 744         }
 745
 746         req->result = 0;
 747         req->u.newest = ceph_decode_64(&p);
 748         __finish_generic_request(req);
 749         mutex_unlock(&monc->mutex);
 750
 751         complete_generic_request(req);
 752         return;
 753
 754 bad:
 755         pr_err("corrupt mon_get_version reply, tid %llu\n", tid);
 756         ceph_msg_dump(msg);
 757 }
 758
 759 static struct ceph_mon_generic_request *
 760 __ceph_monc_get_version(struct ceph_mon_client *monc, const char *what,
 761                         ceph_monc_callback_t cb, u64 private_data)
 762 {
 763         struct ceph_mon_generic_request *req;
 764
 765         req = alloc_generic_request(monc, GFP_NOIO);
 766         if (!req)
 767                 goto err_put_req;
 768
 769         req->request = ceph_msg_new(CEPH_MSG_MON_GET_VERSION,
 770                                     sizeof(u64) + sizeof(u32) + strlen(what),
 771                                     GFP_NOIO, true);
 772         if (!req->request)
 773                 goto err_put_req;
 774
 775         req->reply = ceph_msg_new(CEPH_MSG_MON_GET_VERSION_REPLY, 32, GFP_NOIO,
 776                                   true);
 777         if (!req->reply)
 778                 goto err_put_req;
 779
 780         req->complete_cb = cb;
 781         req->private_data = private_data;
 782
 783         mutex_lock(&monc->mutex);
 784         register_generic_request(req);
 785         {
 786                 void *p = req->request->front.iov_base;
 787                 void *const end = p + req->request->front_alloc_len;
 788
 789                 ceph_encode_64(&p, req->tid); /* handle */
 790                 ceph_encode_string(&p, end, what, strlen(what));
 791                 WARN_ON(p != end);
 792         }
 793         send_generic_request(monc, req);
 794         mutex_unlock(&monc->mutex);
 795
 796         return req;
 797
 798 err_put_req:
 799         put_generic_request(req);
 800         return ERR_PTR(-ENOMEM);
 801 }
 802
 803 /*
 804  * Send MMonGetVersion and wait for the reply.
 805  *
 806  * @what: one of "mdsmap", "osdmap" or "monmap"
 807  */
 808 int ceph_monc_get_version(struct ceph_mon_client *monc, const char *what,
 809                           u64 *newest)
 810 {
 811         struct ceph_mon_generic_request *req;
 812         int ret;
 813
 814         req = __ceph_monc_get_version(monc, what, NULL, 0);
 815         if (IS_ERR(req))
 816                 return PTR_ERR(req);
 817
 818         ret = wait_generic_request(req);
 819         if (!ret)
 820                 *newest = req->u.newest;
 821
 822         put_generic_request(req);
 823         return ret;
 824 }
 825 EXPORT_SYMBOL(ceph_monc_get_version);
 826
 827 /*
 828  * Send MMonGetVersion,
 829  *
 830  * @what: one of "mdsmap", "osdmap" or "monmap"
 831  */
 832 int ceph_monc_get_version_async(struct ceph_mon_client *monc, const char *what,
 833                                 ceph_monc_callback_t cb, u64 private_data)
 834 {
 835         struct ceph_mon_generic_request *req;
 836
 837         req = __ceph_monc_get_version(monc, what, cb, private_data);
 838         if (IS_ERR(req))
 839                 return PTR_ERR(req);
 840
 841         put_generic_request(req);
 842         return 0;
 843 }
 844 EXPORT_SYMBOL(ceph_monc_get_version_async);
 845
 846 static void handle_command_ack(struct ceph_mon_client *monc,
 847                                struct ceph_msg *msg)
 848 {
 849         struct ceph_mon_generic_request *req;
 850         void *p = msg->front.iov_base;
 851         void *const end = p + msg->front_alloc_len;
 852         u64 tid = le64_to_cpu(msg->hdr.tid);
 853
 854         dout("%s msg %p tid %llu\n", __func__, msg, tid);
 855
 856         ceph_decode_need(&p, end, sizeof(struct ceph_mon_request_header) +
 857                                                             sizeof(u32), bad);
 858         p += sizeof(struct ceph_mon_request_header);
 859
 860         mutex_lock(&monc->mutex);
 861         req = lookup_generic_request(&monc->generic_request_tree, tid);
 862         if (!req) {
 863                 mutex_unlock(&monc->mutex);
 864                 return;
 865         }
 866
 867         req->result = ceph_decode_32(&p);
 868         __finish_generic_request(req);
 869         mutex_unlock(&monc->mutex);
 870
 871         complete_generic_request(req);
 872         return;
 873
 874 bad:
 875         pr_err("corrupt mon_command ack, tid %llu\n", tid);
 876         ceph_msg_dump(msg);
 877 }
 878
 879 int ceph_monc_blacklist_add(struct ceph_mon_client *monc,
 880                             struct ceph_entity_addr *client_addr)
 881 {
 882         struct ceph_mon_generic_request *req;
 883         struct ceph_mon_command *h;
 884         int ret = -ENOMEM;
 885         int len;
 886
 887         req = alloc_generic_request(monc, GFP_NOIO);
 888         if (!req)
 889                 goto out;
 890
 891         req->request = ceph_msg_new(CEPH_MSG_MON_COMMAND, 256, GFP_NOIO, true);
 892         if (!req->request)
 893                 goto out;
 894
 895         req->reply = ceph_msg_new(CEPH_MSG_MON_COMMAND_ACK, 512, GFP_NOIO,
 896                                   true);
 897         if (!req->reply)
 898                 goto out;
 899
 900         mutex_lock(&monc->mutex);
 901         register_generic_request(req);
 902         h = req->request->front.iov_base;
 903         h->monhdr.have_version = 0;
 904         h->monhdr.session_mon = cpu_to_le16(-1);
 905         h->monhdr.session_mon_tid = 0;
 906         h->fsid = monc->monmap->fsid;
 907         h->num_strs = cpu_to_le32(1);
 908         len = sprintf(h->str, "{ \"prefix\": \"osd blacklist\", \
 909                                  \"blacklistop\": \"add\", \
 910                                  \"addr\": \"%pISpc/%u\" }",
 911                       &client_addr->in_addr, le32_to_cpu(client_addr->nonce));
 912         h->str_len = cpu_to_le32(len);
 913         send_generic_request(monc, req);
 914         mutex_unlock(&monc->mutex);
 915
 916         ret = wait_generic_request(req);
 917         if (!ret)
 918                 /*
 919                  * Make sure we have the osdmap that includes the blacklist
 920                  * entry.  This is needed to ensure that the OSDs pick up the
 921                  * new blacklist before processing any future requests from
 922                  * this client.
 923                  */
 924                 ret = ceph_wait_for_latest_osdmap(monc->client, 0);
 925
 926 out:
 927         put_generic_request(req);
 928         return ret;
 929 }
 930 EXPORT_SYMBOL(ceph_monc_blacklist_add);
 931
 932 /*
 933  * Resend pending generic requests.
 934  */
 935 static void __resend_generic_request(struct ceph_mon_client *monc)
 936 {
 937         struct ceph_mon_generic_request *req;
 938         struct rb_node *p;
 939
 940         for (p = rb_first(&monc->generic_request_tree); p; p = rb_next(p)) {
 941                 req = rb_entry(p, struct ceph_mon_generic_request, node);
 942                 ceph_msg_revoke(req->request);
 943                 ceph_msg_revoke_incoming(req->reply);
 944                 ceph_con_send(&monc->con, ceph_msg_get(req->request));
 945         }
 946 }
 947
 948 /*
 949  * Delayed work.  If we haven't mounted yet, retry.  Otherwise,
 950  * renew/retry subscription as needed (in case it is timing out, or we
 951  * got an ENOMEM).  And keep the monitor connection alive.
 952  */
 953 static void delayed_work(struct work_struct *work)
 954 {
 955         struct ceph_mon_client *monc =
 956                 container_of(work, struct ceph_mon_client, delayed_work.work);
 957
 958         dout("monc delayed_work\n");
 959         mutex_lock(&monc->mutex);
 960         if (monc->hunting) {
 961                 dout("%s continuing hunt\n", __func__);
 962                 reopen_session(monc);
 963         } else {
 964                 int is_auth = ceph_auth_is_authenticated(monc->auth);
 965                 if (ceph_con_keepalive_expired(&monc->con,
 966                                                CEPH_MONC_PING_TIMEOUT)) {
 967                         dout("monc keepalive timeout\n");
 968                         is_auth = 0;
 969                         reopen_session(monc);
 970                 }
 971
 972                 if (!monc->hunting) {
 973                         ceph_con_keepalive(&monc->con);
 974                         __validate_auth(monc);
 975                         un_backoff(monc);
 976                 }
 977
 978                 if (is_auth) {
 979                         unsigned long now = jiffies;
 980
 981                         dout("%s renew subs? now %lu renew after %lu\n",
 982                              __func__, now, monc->sub_renew_after);
 983                         if (time_after_eq(now, monc->sub_renew_after))
 984                                 __send_subscribe(monc);
 985                 }
 986         }
 987         __schedule_delayed(monc);
 988         mutex_unlock(&monc->mutex);
 989 }
 990
 991 /*
 992  * On startup, we build a temporary monmap populated with the IPs
 993  * provided by mount(2).
 994  */
 995 static int build_initial_monmap(struct ceph_mon_client *monc)
 996 {
 997         struct ceph_options *opt = monc->client->options;
 998         struct ceph_entity_addr *mon_addr = opt->mon_addr;
 999         int num_mon = opt->num_mon;
1000         int i;
1001
1002         /* build initial monmap */
1003         monc->monmap = kzalloc(sizeof(*monc->monmap) +
1004                                num_mon*sizeof(monc->monmap->mon_inst[0]),
1005                                GFP_KERNEL);
1006         if (!monc->monmap)
1007                 return -ENOMEM;
1008         for (i = 0; i < num_mon; i++) {
1009                 monc->monmap->mon_inst[i].addr = mon_addr[i];
1010                 monc->monmap->mon_inst[i].addr.nonce = 0;
1011                 monc->monmap->mon_inst[i].name.type =
1012                         CEPH_ENTITY_TYPE_MON;
1013                 monc->monmap->mon_inst[i].name.num = cpu_to_le64(i);
1014         }
1015         monc->monmap->num_mon = num_mon;
1016         return 0;
1017 }
1018
1019 int ceph_monc_init(struct ceph_mon_client *monc, struct ceph_client *cl)
1020 {
1021         int err = 0;
1022
1023         dout("init\n");
1024         memset(monc, 0, sizeof(*monc));
1025         monc->client = cl;
1026         monc->monmap = NULL;
1027         mutex_init(&monc->mutex);
1028
1029         err = build_initial_monmap(monc);
1030         if (err)
1031                 goto out;
1032
1033         /* connection */
1034         /* authentication */
1035         monc->auth = ceph_auth_init(cl->options->name,
1036                                     cl->options->key);
1037         if (IS_ERR(monc->auth)) {
1038                 err = PTR_ERR(monc->auth);
1039                 goto out_monmap;
1040         }
1041         monc->auth->want_keys =
1042                 CEPH_ENTITY_TYPE_AUTH | CEPH_ENTITY_TYPE_MON |
1043                 CEPH_ENTITY_TYPE_OSD | CEPH_ENTITY_TYPE_MDS;
1044
1045         /* msgs */
1046         err = -ENOMEM;
1047         monc->m_subscribe_ack = ceph_msg_new(CEPH_MSG_MON_SUBSCRIBE_ACK,
1048                                      sizeof(struct ceph_mon_subscribe_ack),
1049                                      GFP_NOFS, true);
1050         if (!monc->m_subscribe_ack)
1051                 goto out_auth;
1052
1053         monc->m_subscribe = ceph_msg_new(CEPH_MSG_MON_SUBSCRIBE, 128, GFP_NOFS,
1054                                          true);
1055         if (!monc->m_subscribe)
1056                 goto out_subscribe_ack;
1057
1058         monc->m_auth_reply = ceph_msg_new(CEPH_MSG_AUTH_REPLY, 4096, GFP_NOFS,
1059                                           true);
1060         if (!monc->m_auth_reply)
1061                 goto out_subscribe;
1062
1063         monc->m_auth = ceph_msg_new(CEPH_MSG_AUTH, 4096, GFP_NOFS, true);
1064         monc->pending_auth = 0;
1065         if (!monc->m_auth)
1066                 goto out_auth_reply;
1067
1068         ceph_con_init(&monc->con, monc, &mon_con_ops,
1069                       &monc->client->msgr);
1070
1071         monc->cur_mon = -1;
1072         monc->had_a_connection = false;
1073         monc->hunt_mult = 1;
1074
1075         INIT_DELAYED_WORK(&monc->delayed_work, delayed_work);
1076         monc->generic_request_tree = RB_ROOT;
1077         monc->last_tid = 0;
1078
1079         monc->fs_cluster_id = CEPH_FS_CLUSTER_ID_NONE;
1080
1081         return 0;
1082
1083 out_auth_reply:
1084         ceph_msg_put(monc->m_auth_reply);
1085 out_subscribe:
1086         ceph_msg_put(monc->m_subscribe);
1087 out_subscribe_ack:
1088         ceph_msg_put(monc->m_subscribe_ack);
1089 out_auth:
1090         ceph_auth_destroy(monc->auth);
1091 out_monmap:
1092         kfree(monc->monmap);
1093 out:
1094         return err;
1095 }
1096 EXPORT_SYMBOL(ceph_monc_init);
1097
1098 void ceph_monc_stop(struct ceph_mon_client *monc)
1099 {
1100         dout("stop\n");
1101         cancel_delayed_work_sync(&monc->delayed_work);
1102
1103         mutex_lock(&monc->mutex);
1104         __close_session(monc);
1105         monc->cur_mon = -1;
1106         mutex_unlock(&monc->mutex);
1107
1108         /*
1109          * flush msgr queue before we destroy ourselves to ensure that:
1110          *  - any work that references our embedded con is finished.
1111          *  - any osd_client or other work that may reference an authorizer
1112          *    finishes before we shut down the auth subsystem.
1113          */
1114         ceph_msgr_flush();
1115
1116         ceph_auth_destroy(monc->auth);
1117
1118         WARN_ON(!RB_EMPTY_ROOT(&monc->generic_request_tree));
1119
1120         ceph_msg_put(monc->m_auth);
1121         ceph_msg_put(monc->m_auth_reply);
1122         ceph_msg_put(monc->m_subscribe);
1123         ceph_msg_put(monc->m_subscribe_ack);
1124
1125         kfree(monc->monmap);
1126 }
1127 EXPORT_SYMBOL(ceph_monc_stop);
1128
1129 static void finish_hunting(struct ceph_mon_client *monc)
1130 {
1131         if (monc->hunting) {
1132                 dout("%s found mon%d\n", __func__, monc->cur_mon);
1133                 monc->hunting = false;
1134                 monc->had_a_connection = true;
1135                 un_backoff(monc);
1136                 __schedule_delayed(monc);
1137         }
1138 }
1139
1140 static void handle_auth_reply(struct ceph_mon_client *monc,
1141                               struct ceph_msg *msg)
1142 {
1143         int ret;
1144         int was_auth = 0;
1145
1146         mutex_lock(&monc->mutex);
1147         was_auth = ceph_auth_is_authenticated(monc->auth);
1148         monc->pending_auth = 0;
1149         ret = ceph_handle_auth_reply(monc->auth, msg->front.iov_base,
1150                                      msg->front.iov_len,
1151                                      monc->m_auth->front.iov_base,
1152                                      monc->m_auth->front_alloc_len);
1153         if (ret > 0) {
1154                 __send_prepared_auth_request(monc, ret);
1155                 goto out;
1156         }
1157
1158         finish_hunting(monc);
1159
1160         if (ret < 0) {
1161                 monc->client->auth_err = ret;
1162         } else if (!was_auth && ceph_auth_is_authenticated(monc->auth)) {
1163                 dout("authenticated, starting session\n");
1164
1165                 monc->client->msgr.inst.name.type = CEPH_ENTITY_TYPE_CLIENT;
1166                 monc->client->msgr.inst.name.num =
1167                                         cpu_to_le64(monc->auth->global_id);
1168
1169                 __send_subscribe(monc);
1170                 __resend_generic_request(monc);
1171
1172                 pr_info("mon%d %s session established\n", monc->cur_mon,
1173                         ceph_pr_addr(&monc->con.peer_addr.in_addr));
1174         }
1175
1176 out:
1177         mutex_unlock(&monc->mutex);
1178         if (monc->client->auth_err < 0)
1179                 wake_up_all(&monc->client->auth_wq);
1180 }
1181
1182 static int __validate_auth(struct ceph_mon_client *monc)
1183 {
1184         int ret;
1185
1186         if (monc->pending_auth)
1187                 return 0;
1188
1189         ret = ceph_build_auth(monc->auth, monc->m_auth->front.iov_base,
1190                               monc->m_auth->front_alloc_len);
1191         if (ret <= 0)
1192                 return ret; /* either an error, or no need to authenticate */
1193         __send_prepared_auth_request(monc, ret);
1194         return 0;
1195 }
1196
1197 int ceph_monc_validate_auth(struct ceph_mon_client *monc)
1198 {
1199         int ret;
1200
1201         mutex_lock(&monc->mutex);
1202         ret = __validate_auth(monc);
1203         mutex_unlock(&monc->mutex);
1204         return ret;
1205 }
1206 EXPORT_SYMBOL(ceph_monc_validate_auth);
1207
1208 /*
1209  * handle incoming message
1210  */
1211 static void dispatch(struct ceph_connection *con, struct ceph_msg *msg)
1212 {
1213         struct ceph_mon_client *monc = con->private;
1214         int type = le16_to_cpu(msg->hdr.type);
1215
1216         if (!monc)
1217                 return;
1218
1219         switch (type) {
1220         case CEPH_MSG_AUTH_REPLY:
1221                 handle_auth_reply(monc, msg);
1222                 break;
1223
1224         case CEPH_MSG_MON_SUBSCRIBE_ACK:
1225                 handle_subscribe_ack(monc, msg);
1226                 break;
1227
1228         case CEPH_MSG_STATFS_REPLY:
1229                 handle_statfs_reply(monc, msg);
1230                 break;
1231
1232         case CEPH_MSG_MON_GET_VERSION_REPLY:
1233                 handle_get_version_reply(monc, msg);
1234                 break;
1235
1236         case CEPH_MSG_MON_COMMAND_ACK:
1237                 handle_command_ack(monc, msg);
1238                 break;
1239
1240         case CEPH_MSG_MON_MAP:
1241                 ceph_monc_handle_map(monc, msg);
1242                 break;
1243
1244         case CEPH_MSG_OSD_MAP:
1245                 ceph_osdc_handle_map(&monc->client->osdc, msg);
1246                 break;
1247
1248         default:
1249                 /* can the chained handler handle it? */
1250                 if (monc->client->extra_mon_dispatch &&
1251                     monc->client->extra_mon_dispatch(monc->client, msg) == 0)
1252                         break;
1253
1254                 pr_err("received unknown message type %d %s\n", type,
1255                        ceph_msg_type_name(type));
1256         }
1257         ceph_msg_put(msg);
1258 }
1259
1260 /*
1261  * Allocate memory for incoming message
1262  */
1263 static struct ceph_msg *mon_alloc_msg(struct ceph_connection *con,
1264                                       struct ceph_msg_header *hdr,
1265                                       int *skip)
1266 {
1267         struct ceph_mon_client *monc = con->private;
1268         int type = le16_to_cpu(hdr->type);
1269         int front_len = le32_to_cpu(hdr->front_len);
1270         struct ceph_msg *m = NULL;
1271
1272         *skip = 0;
1273
1274         switch (type) {
1275         case CEPH_MSG_MON_SUBSCRIBE_ACK:
1276                 m = ceph_msg_get(monc->m_subscribe_ack);
1277                 break;
1278         case CEPH_MSG_STATFS_REPLY:
1279         case CEPH_MSG_MON_COMMAND_ACK:
1280                 return get_generic_reply(con, hdr, skip);
1281         case CEPH_MSG_AUTH_REPLY:
1282                 m = ceph_msg_get(monc->m_auth_reply);
1283                 break;
1284         case CEPH_MSG_MON_GET_VERSION_REPLY:
1285                 if (le64_to_cpu(hdr->tid) != 0)
1286                         return get_generic_reply(con, hdr, skip);
1287
1288                 /*
1289                  * Older OSDs don't set reply tid even if the orignal
1290                  * request had a non-zero tid.  Workaround this weirdness
1291                  * by falling through to the allocate case.
1292                  */
1293         case CEPH_MSG_MON_MAP:
1294         case CEPH_MSG_MDS_MAP:
1295         case CEPH_MSG_OSD_MAP:
1296         case CEPH_MSG_FS_MAP_USER:
1297                 m = ceph_msg_new(type, front_len, GFP_NOFS, false);
1298                 if (!m)
1299                         return NULL;    /* ENOMEM--return skip == 0 */
1300                 break;
1301         }
1302
1303         if (!m) {
1304                 pr_info("alloc_msg unknown type %d\n", type);
1305                 *skip = 1;
1306         } else if (front_len > m->front_alloc_len) {
1307                 pr_warn("mon_alloc_msg front %d > prealloc %d (%u#%llu)\n",
1308                         front_len, m->front_alloc_len,
1309                         (unsigned int)con->peer_name.type,
1310                         le64_to_cpu(con->peer_name.num));
1311                 ceph_msg_put(m);
1312                 m = ceph_msg_new(type, front_len, GFP_NOFS, false);
1313         }
1314
1315         return m;
1316 }
1317
1318 /*
1319  * If the monitor connection resets, pick a new monitor and resubmit
1320  * any pending requests.
1321  */
1322 static void mon_fault(struct ceph_connection *con)
1323 {
1324         struct ceph_mon_client *monc = con->private;
1325
1326         mutex_lock(&monc->mutex);
1327         dout("%s mon%d\n", __func__, monc->cur_mon);
1328         if (monc->cur_mon >= 0) {
1329                 if (!monc->hunting) {
1330                         dout("%s hunting for new mon\n", __func__);
1331                         reopen_session(monc);
1332                         __schedule_delayed(monc);
1333                 } else {
1334                         dout("%s already hunting\n", __func__);
1335                 }
1336         }
1337         mutex_unlock(&monc->mutex);
1338 }
1339
1340 /*
1341  * We can ignore refcounting on the connection struct, as all references
1342  * will come from the messenger workqueue, which is drained prior to
1343  * mon_client destruction.
1344  */
1345 static struct ceph_connection *con_get(struct ceph_connection *con)
1346 {
1347         return con;
1348 }
1349
1350 static void con_put(struct ceph_connection *con)
1351 {
1352 }
1353
1354 static const struct ceph_connection_operations mon_con_ops = {
1355         .get = con_get,
1356         .put = con_put,
1357         .dispatch = dispatch,
1358         .fault = mon_fault,
1359         .alloc_msg = mon_alloc_msg,
1360 };