drivers/gpu/drm/nouveau/nouveau_fbcon.c

   1 /*
   2  * Copyright © 2007 David Airlie
   3  *
   4  * Permission is hereby granted, free of charge, to any person obtaining a
   5  * copy of this software and associated documentation files (the "Software"),
   6  * to deal in the Software without restriction, including without limitation
   7  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
   8  * and/or sell copies of the Software, and to permit persons to whom the
   9  * Software is furnished to do so, subject to the following conditions:
  10  *
  11  * The above copyright notice and this permission notice (including the next
  12  * paragraph) shall be included in all copies or substantial portions of the
  13  * Software.
  14  *
  15  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  16  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  17  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL
  18  * THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
  19  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING
  20  * FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER
  21  * DEALINGS IN THE SOFTWARE.
  22  *
  23  * Authors:
  24  *     David Airlie
  25  */
  26
  27 #include <linux/module.h>
  28 #include <linux/kernel.h>
  29 #include <linux/errno.h>
  30 #include <linux/string.h>
  31 #include <linux/mm.h>
  32 #include <linux/tty.h>
  33 #include <linux/sysrq.h>
  34 #include <linux/delay.h>
  35 #include <linux/init.h>
  36 #include <linux/screen_info.h>
  37 #include <linux/vga_switcheroo.h>
  38 #include <linux/console.h>
  39
  40 #include <drm/drmP.h>
  41 #include <drm/drm_crtc.h>
  42 #include <drm/drm_crtc_helper.h>
  43 #include <drm/drm_fb_helper.h>
  44 #include <drm/drm_atomic.h>
  45
  46 #include "nouveau_drv.h"
  47 #include "nouveau_gem.h"
  48 #include "nouveau_bo.h"
  49 #include "nouveau_fbcon.h"
  50 #include "nouveau_chan.h"
  51
  52 #include "nouveau_crtc.h"
  53
  54 MODULE_PARM_DESC(nofbaccel, "Disable fbcon acceleration");
  55 int nouveau_nofbaccel = 0;
  56 module_param_named(nofbaccel, nouveau_nofbaccel, int, 0400);
  57
  58 static void
  59 nouveau_fbcon_fillrect(struct fb_info *info, const struct fb_fillrect *rect)
  60 {
  61         struct nouveau_fbdev *fbcon = info->par;
  62         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
  63         struct nvif_device *device = &drm->client.device;
  64         int ret;
  65
  66         if (info->state != FBINFO_STATE_RUNNING)
  67                 return;
  68
  69         ret = -ENODEV;
  70         if (!in_interrupt() && !(info->flags & FBINFO_HWACCEL_DISABLED) &&
  71             mutex_trylock(&drm->client.mutex)) {
  72                 if (device->info.family < NV_DEVICE_INFO_V0_TESLA)
  73                         ret = nv04_fbcon_fillrect(info, rect);
  74                 else
  75                 if (device->info.family < NV_DEVICE_INFO_V0_FERMI)
  76                         ret = nv50_fbcon_fillrect(info, rect);
  77                 else
  78                         ret = nvc0_fbcon_fillrect(info, rect);
  79                 mutex_unlock(&drm->client.mutex);
  80         }
  81
  82         if (ret == 0)
  83                 return;
  84
  85         if (ret != -ENODEV)
  86                 nouveau_fbcon_gpu_lockup(info);
  87         drm_fb_helper_cfb_fillrect(info, rect);
  88 }
  89
  90 static void
  91 nouveau_fbcon_copyarea(struct fb_info *info, const struct fb_copyarea *image)
  92 {
  93         struct nouveau_fbdev *fbcon = info->par;
  94         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
  95         struct nvif_device *device = &drm->client.device;
  96         int ret;
  97
  98         if (info->state != FBINFO_STATE_RUNNING)
  99                 return;
 100
 101         ret = -ENODEV;
 102         if (!in_interrupt() && !(info->flags & FBINFO_HWACCEL_DISABLED) &&
 103             mutex_trylock(&drm->client.mutex)) {
 104                 if (device->info.family < NV_DEVICE_INFO_V0_TESLA)
 105                         ret = nv04_fbcon_copyarea(info, image);
 106                 else
 107                 if (device->info.family < NV_DEVICE_INFO_V0_FERMI)
 108                         ret = nv50_fbcon_copyarea(info, image);
 109                 else
 110                         ret = nvc0_fbcon_copyarea(info, image);
 111                 mutex_unlock(&drm->client.mutex);
 112         }
 113
 114         if (ret == 0)
 115                 return;
 116
 117         if (ret != -ENODEV)
 118                 nouveau_fbcon_gpu_lockup(info);
 119         drm_fb_helper_cfb_copyarea(info, image);
 120 }
 121
 122 static void
 123 nouveau_fbcon_imageblit(struct fb_info *info, const struct fb_image *image)
 124 {
 125         struct nouveau_fbdev *fbcon = info->par;
 126         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 127         struct nvif_device *device = &drm->client.device;
 128         int ret;
 129
 130         if (info->state != FBINFO_STATE_RUNNING)
 131                 return;
 132
 133         ret = -ENODEV;
 134         if (!in_interrupt() && !(info->flags & FBINFO_HWACCEL_DISABLED) &&
 135             mutex_trylock(&drm->client.mutex)) {
 136                 if (device->info.family < NV_DEVICE_INFO_V0_TESLA)
 137                         ret = nv04_fbcon_imageblit(info, image);
 138                 else
 139                 if (device->info.family < NV_DEVICE_INFO_V0_FERMI)
 140                         ret = nv50_fbcon_imageblit(info, image);
 141                 else
 142                         ret = nvc0_fbcon_imageblit(info, image);
 143                 mutex_unlock(&drm->client.mutex);
 144         }
 145
 146         if (ret == 0)
 147                 return;
 148
 149         if (ret != -ENODEV)
 150                 nouveau_fbcon_gpu_lockup(info);
 151         drm_fb_helper_cfb_imageblit(info, image);
 152 }
 153
 154 static int
 155 nouveau_fbcon_sync(struct fb_info *info)
 156 {
 157         struct nouveau_fbdev *fbcon = info->par;
 158         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 159         struct nouveau_channel *chan = drm->channel;
 160         int ret;
 161
 162         if (!chan || !chan->accel_done || in_interrupt() ||
 163             info->state != FBINFO_STATE_RUNNING ||
 164             info->flags & FBINFO_HWACCEL_DISABLED)
 165                 return 0;
 166
 167         if (!mutex_trylock(&drm->client.mutex))
 168                 return 0;
 169
 170         ret = nouveau_channel_idle(chan);
 171         mutex_unlock(&drm->client.mutex);
 172         if (ret) {
 173                 nouveau_fbcon_gpu_lockup(info);
 174                 return 0;
 175         }
 176
 177         chan->accel_done = false;
 178         return 0;
 179 }
 180
 181 static int
 182 nouveau_fbcon_open(struct fb_info *info, int user)
 183 {
 184         struct nouveau_fbdev *fbcon = info->par;
 185         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 186         int ret = pm_runtime_get_sync(drm->dev->dev);
 187         if (ret < 0 && ret != -EACCES) {
 188                 pm_runtime_put(drm->dev->dev);
 189                 return ret;
 190         }
 191         return 0;
 192 }
 193
 194 static int
 195 nouveau_fbcon_release(struct fb_info *info, int user)
 196 {
 197         struct nouveau_fbdev *fbcon = info->par;
 198         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 199         pm_runtime_put(drm->dev->dev);
 200         return 0;
 201 }
 202
 203 static struct fb_ops nouveau_fbcon_ops = {
 204         .owner = THIS_MODULE,
 205         DRM_FB_HELPER_DEFAULT_OPS,
 206         .fb_open = nouveau_fbcon_open,
 207         .fb_release = nouveau_fbcon_release,
 208         .fb_fillrect = nouveau_fbcon_fillrect,
 209         .fb_copyarea = nouveau_fbcon_copyarea,
 210         .fb_imageblit = nouveau_fbcon_imageblit,
 211         .fb_sync = nouveau_fbcon_sync,
 212 };
 213
 214 static struct fb_ops nouveau_fbcon_sw_ops = {
 215         .owner = THIS_MODULE,
 216         DRM_FB_HELPER_DEFAULT_OPS,
 217         .fb_open = nouveau_fbcon_open,
 218         .fb_release = nouveau_fbcon_release,
 219         .fb_fillrect = drm_fb_helper_cfb_fillrect,
 220         .fb_copyarea = drm_fb_helper_cfb_copyarea,
 221         .fb_imageblit = drm_fb_helper_cfb_imageblit,
 222 };
 223
 224 void
 225 nouveau_fbcon_accel_save_disable(struct drm_device *dev)
 226 {
 227         struct nouveau_drm *drm = nouveau_drm(dev);
 228         if (drm->fbcon && drm->fbcon->helper.fbdev) {
 229                 drm->fbcon->saved_flags = drm->fbcon->helper.fbdev->flags;
 230                 drm->fbcon->helper.fbdev->flags |= FBINFO_HWACCEL_DISABLED;
 231         }
 232 }
 233
 234 void
 235 nouveau_fbcon_accel_restore(struct drm_device *dev)
 236 {
 237         struct nouveau_drm *drm = nouveau_drm(dev);
 238         if (drm->fbcon && drm->fbcon->helper.fbdev) {
 239                 drm->fbcon->helper.fbdev->flags = drm->fbcon->saved_flags;
 240         }
 241 }
 242
 243 static void
 244 nouveau_fbcon_accel_fini(struct drm_device *dev)
 245 {
 246         struct nouveau_drm *drm = nouveau_drm(dev);
 247         struct nouveau_fbdev *fbcon = drm->fbcon;
 248         if (fbcon && drm->channel) {
 249                 console_lock();
 250                 if (fbcon->helper.fbdev)
 251                         fbcon->helper.fbdev->flags |= FBINFO_HWACCEL_DISABLED;
 252                 console_unlock();
 253                 nouveau_channel_idle(drm->channel);
 254                 nvif_object_fini(&fbcon->twod);
 255                 nvif_object_fini(&fbcon->blit);
 256                 nvif_object_fini(&fbcon->gdi);
 257                 nvif_object_fini(&fbcon->patt);
 258                 nvif_object_fini(&fbcon->rop);
 259                 nvif_object_fini(&fbcon->clip);
 260                 nvif_object_fini(&fbcon->surf2d);
 261         }
 262 }
 263
 264 static void
 265 nouveau_fbcon_accel_init(struct drm_device *dev)
 266 {
 267         struct nouveau_drm *drm = nouveau_drm(dev);
 268         struct nouveau_fbdev *fbcon = drm->fbcon;
 269         struct fb_info *info = fbcon->helper.fbdev;
 270         int ret;
 271
 272         if (drm->client.device.info.family < NV_DEVICE_INFO_V0_TESLA)
 273                 ret = nv04_fbcon_accel_init(info);
 274         else
 275         if (drm->client.device.info.family < NV_DEVICE_INFO_V0_FERMI)
 276                 ret = nv50_fbcon_accel_init(info);
 277         else
 278                 ret = nvc0_fbcon_accel_init(info);
 279
 280         if (ret == 0)
 281                 info->fbops = &nouveau_fbcon_ops;
 282 }
 283
 284 static void
 285 nouveau_fbcon_zfill(struct drm_device *dev, struct nouveau_fbdev *fbcon)
 286 {
 287         struct fb_info *info = fbcon->helper.fbdev;
 288         struct fb_fillrect rect;
 289
 290         /* Clear the entire fbcon.  The drm will program every connector
 291          * with it's preferred mode.  If the sizes differ, one display will
 292          * quite likely have garbage around the console.
 293          */
 294         rect.dx = rect.dy = 0;
 295         rect.width = info->var.xres_virtual;
 296         rect.height = info->var.yres_virtual;
 297         rect.color = 0;
 298         rect.rop = ROP_COPY;
 299         info->fbops->fb_fillrect(info, &rect);
 300 }
 301
 302 static int
 303 nouveau_fbcon_create(struct drm_fb_helper *helper,
 304                      struct drm_fb_helper_surface_size *sizes)
 305 {
 306         struct nouveau_fbdev *fbcon =
 307                 container_of(helper, struct nouveau_fbdev, helper);
 308         struct drm_device *dev = fbcon->helper.dev;
 309         struct nouveau_drm *drm = nouveau_drm(dev);
 310         struct nvif_device *device = &drm->client.device;
 311         struct fb_info *info;
 312         struct nouveau_framebuffer *fb;
 313         struct nouveau_channel *chan;
 314         struct nouveau_bo *nvbo;
 315         struct drm_mode_fb_cmd2 mode_cmd = {};
 316         int ret;
 317
 318         mode_cmd.width = sizes->surface_width;
 319         mode_cmd.height = sizes->surface_height;
 320
 321         mode_cmd.pitches[0] = mode_cmd.width * (sizes->surface_bpp >> 3);
 322         mode_cmd.pitches[0] = roundup(mode_cmd.pitches[0], 256);
 323
 324         mode_cmd.pixel_format = drm_mode_legacy_fb_format(sizes->surface_bpp,
 325                                                           sizes->surface_depth);
 326
 327         ret = nouveau_gem_new(&drm->client, mode_cmd.pitches[0] *
 328                               mode_cmd.height, 0, NOUVEAU_GEM_DOMAIN_VRAM,
 329                               0, 0x0000, &nvbo);
 330         if (ret) {
 331                 NV_ERROR(drm, "failed to allocate framebuffer\n");
 332                 goto out;
 333         }
 334
 335         ret = nouveau_framebuffer_new(dev, &mode_cmd, nvbo, &fb);
 336         if (ret)
 337                 goto out_unref;
 338
 339         ret = nouveau_bo_pin(nvbo, TTM_PL_FLAG_VRAM, false);
 340         if (ret) {
 341                 NV_ERROR(drm, "failed to pin fb: %d\n", ret);
 342                 goto out_unref;
 343         }
 344
 345         ret = nouveau_bo_map(nvbo);
 346         if (ret) {
 347                 NV_ERROR(drm, "failed to map fb: %d\n", ret);
 348                 goto out_unpin;
 349         }
 350
 351         chan = nouveau_nofbaccel ? NULL : drm->channel;
 352         if (chan && device->info.family >= NV_DEVICE_INFO_V0_TESLA) {
 353                 ret = nouveau_bo_vma_add(nvbo, drm->client.vm, &fb->vma);
 354                 if (ret) {
 355                         NV_ERROR(drm, "failed to map fb into chan: %d\n", ret);
 356                         chan = NULL;
 357                 }
 358         }
 359
 360         info = drm_fb_helper_alloc_fbi(helper);
 361         if (IS_ERR(info)) {
 362                 ret = PTR_ERR(info);
 363                 goto out_unlock;
 364         }
 365         info->skip_vt_switch = 1;
 366
 367         info->par = fbcon;
 368
 369         /* setup helper */
 370         fbcon->helper.fb = &fb->base;
 371
 372         strcpy(info->fix.id, "nouveaufb");
 373         if (!chan)
 374                 info->flags = FBINFO_DEFAULT | FBINFO_HWACCEL_DISABLED;
 375         else
 376                 info->flags = FBINFO_DEFAULT | FBINFO_HWACCEL_COPYAREA |
 377                               FBINFO_HWACCEL_FILLRECT |
 378                               FBINFO_HWACCEL_IMAGEBLIT;
 379         info->flags |= FBINFO_CAN_FORCE_OUTPUT;
 380         info->fbops = &nouveau_fbcon_sw_ops;
 381         info->fix.smem_start = fb->nvbo->bo.mem.bus.base +
 382                                fb->nvbo->bo.mem.bus.offset;
 383         info->fix.smem_len = fb->nvbo->bo.mem.num_pages << PAGE_SHIFT;
 384
 385         info->screen_base = nvbo_kmap_obj_iovirtual(fb->nvbo);
 386         info->screen_size = fb->nvbo->bo.mem.num_pages << PAGE_SHIFT;
 387
 388         drm_fb_helper_fill_fix(info, fb->base.pitches[0],
 389                                fb->base.format->depth);
 390         drm_fb_helper_fill_var(info, &fbcon->helper, sizes->fb_width, sizes->fb_height);
 391
 392         /* Use default scratch pixmap (info->pixmap.flags = FB_PIXMAP_SYSTEM) */
 393
 394         if (chan)
 395                 nouveau_fbcon_accel_init(dev);
 396         nouveau_fbcon_zfill(dev, fbcon);
 397
 398         /* To allow resizeing without swapping buffers */
 399         NV_INFO(drm, "allocated %dx%d fb: 0x%llx, bo %p\n",
 400                 fb->base.width, fb->base.height, fb->nvbo->bo.offset, nvbo);
 401
 402         vga_switcheroo_client_fb_set(dev->pdev, info);
 403         return 0;
 404
 405 out_unlock:
 406         if (chan)
 407                 nouveau_bo_vma_del(fb->nvbo, &fb->vma);
 408         nouveau_bo_unmap(fb->nvbo);
 409 out_unpin:
 410         nouveau_bo_unpin(fb->nvbo);
 411 out_unref:
 412         nouveau_bo_ref(NULL, &fb->nvbo);
 413 out:
 414         return ret;
 415 }
 416
 417 void
 418 nouveau_fbcon_output_poll_changed(struct drm_device *dev)
 419 {
 420         struct nouveau_drm *drm = nouveau_drm(dev);
 421         if (drm->fbcon)
 422                 drm_fb_helper_hotplug_event(&drm->fbcon->helper);
 423 }
 424
 425 static int
 426 nouveau_fbcon_destroy(struct drm_device *dev, struct nouveau_fbdev *fbcon)
 427 {
 428         struct nouveau_framebuffer *nouveau_fb = nouveau_framebuffer(fbcon->helper.fb);
 429
 430         drm_fb_helper_unregister_fbi(&fbcon->helper);
 431         drm_fb_helper_fini(&fbcon->helper);
 432
 433         if (nouveau_fb->nvbo) {
 434                 nouveau_bo_vma_del(nouveau_fb->nvbo, &nouveau_fb->vma);
 435                 nouveau_bo_unmap(nouveau_fb->nvbo);
 436                 nouveau_bo_unpin(nouveau_fb->nvbo);
 437                 drm_framebuffer_unreference(&nouveau_fb->base);
 438         }
 439
 440         return 0;
 441 }
 442
 443 void nouveau_fbcon_gpu_lockup(struct fb_info *info)
 444 {
 445         struct nouveau_fbdev *fbcon = info->par;
 446         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 447
 448         NV_ERROR(drm, "GPU lockup - switching to software fbcon\n");
 449         info->flags |= FBINFO_HWACCEL_DISABLED;
 450 }
 451
 452 static const struct drm_fb_helper_funcs nouveau_fbcon_helper_funcs = {
 453         .fb_probe = nouveau_fbcon_create,
 454 };
 455
 456 static void
 457 nouveau_fbcon_set_suspend_work(struct work_struct *work)
 458 {
 459         struct nouveau_drm *drm = container_of(work, typeof(*drm), fbcon_work);
 460         int state = READ_ONCE(drm->fbcon_new_state);
 461
 462         if (state == FBINFO_STATE_RUNNING)
 463                 pm_runtime_get_sync(drm->dev->dev);
 464
 465         console_lock();
 466         if (state == FBINFO_STATE_RUNNING)
 467                 nouveau_fbcon_accel_restore(drm->dev);
 468         drm_fb_helper_set_suspend(&drm->fbcon->helper, state);
 469         if (state != FBINFO_STATE_RUNNING)
 470                 nouveau_fbcon_accel_save_disable(drm->dev);
 471         console_unlock();
 472
 473         if (state == FBINFO_STATE_RUNNING) {
 474                 pm_runtime_mark_last_busy(drm->dev->dev);
 475                 pm_runtime_put_sync(drm->dev->dev);
 476         }
 477 }
 478
 479 void
 480 nouveau_fbcon_set_suspend(struct drm_device *dev, int state)
 481 {
 482         struct nouveau_drm *drm = nouveau_drm(dev);
 483
 484         if (!drm->fbcon)
 485                 return;
 486
 487         drm->fbcon_new_state = state;
 488         /* Since runtime resume can happen as a result of a sysfs operation,
 489          * it's possible we already have the console locked. So handle fbcon
 490          * init/deinit from a seperate work thread
 491          */
 492         schedule_work(&drm->fbcon_work);
 493 }
 494
 495 int
 496 nouveau_fbcon_init(struct drm_device *dev)
 497 {
 498         struct nouveau_drm *drm = nouveau_drm(dev);
 499         struct nouveau_fbdev *fbcon;
 500         int preferred_bpp;
 501         int ret;
 502
 503         if (!dev->mode_config.num_crtc ||
 504             (dev->pdev->class >> 8) != PCI_CLASS_DISPLAY_VGA)
 505                 return 0;
 506
 507         fbcon = kzalloc(sizeof(struct nouveau_fbdev), GFP_KERNEL);
 508         if (!fbcon)
 509                 return -ENOMEM;
 510
 511         drm->fbcon = fbcon;
 512         INIT_WORK(&drm->fbcon_work, nouveau_fbcon_set_suspend_work);
 513
 514         drm_fb_helper_prepare(dev, &fbcon->helper, &nouveau_fbcon_helper_funcs);
 515
 516         ret = drm_fb_helper_init(dev, &fbcon->helper, 4);
 517         if (ret)
 518                 goto free;
 519
 520         ret = drm_fb_helper_single_add_all_connectors(&fbcon->helper);
 521         if (ret)
 522                 goto fini;
 523
 524         if (drm->client.device.info.ram_size <= 32 * 1024 * 1024)
 525                 preferred_bpp = 8;
 526         else
 527         if (drm->client.device.info.ram_size <= 64 * 1024 * 1024)
 528                 preferred_bpp = 16;
 529         else
 530                 preferred_bpp = 32;
 531
 532         /* disable all the possible outputs/crtcs before entering KMS mode */
 533         if (!drm_drv_uses_atomic_modeset(dev))
 534                 drm_helper_disable_unused_functions(dev);
 535
 536         ret = drm_fb_helper_initial_config(&fbcon->helper, preferred_bpp);
 537         if (ret)
 538                 goto fini;
 539
 540         if (fbcon->helper.fbdev)
 541                 fbcon->helper.fbdev->pixmap.buf_align = 4;
 542         return 0;
 543
 544 fini:
 545         drm_fb_helper_fini(&fbcon->helper);
 546 free:
 547         kfree(fbcon);
 548         drm->fbcon = NULL;
 549         return ret;
 550 }
 551
 552 void
 553 nouveau_fbcon_fini(struct drm_device *dev)
 554 {
 555         struct nouveau_drm *drm = nouveau_drm(dev);
 556
 557         if (!drm->fbcon)
 558                 return;
 559
 560         nouveau_fbcon_accel_fini(dev);
 561         nouveau_fbcon_destroy(dev, drm->fbcon);
 562         kfree(drm->fbcon);
 563         drm->fbcon = NULL;
 564 }