arch/powerpc/kernel/vmlinux.lds.S

   1 #ifdef CONFIG_PPC64
   2 #define PROVIDE32(x)    PROVIDE(__unused__##x)
   3 #else
   4 #define PROVIDE32(x)    PROVIDE(x)
   5 #endif
   6 #include <asm/page.h>
   7 #include <asm-generic/vmlinux.lds.h>
   8 #include <asm/cache.h>
   9 #include <asm/thread_info.h>
  10
  11 ENTRY(_stext)
  12
  13 PHDRS {
  14         kernel PT_LOAD FLAGS(7); /* RWX */
  15         notes PT_NOTE FLAGS(0);
  16         dummy PT_NOTE FLAGS(0);
  17
  18         /* binutils < 2.18 has a bug that makes it misbehave when taking an
  19            ELF file with all segments at load address 0 as input.  This
  20            happens when running "strip" on vmlinux, because of the AT() magic
  21            in this linker script.  People using GCC >= 4.2 won't run into
  22            this problem, because the "build-id" support will put some data
  23            into the "notes" segment (at a non-zero load address).
  24
  25            To work around this, we force some data into both the "dummy"
  26            segment and the kernel segment, so the dummy segment will get a
  27            non-zero load address.  It's not enough to always create the
  28            "notes" segment, since if nothing gets assigned to it, its load
  29            address will be zero.  */
  30 }
  31
  32 #ifdef CONFIG_PPC64
  33 OUTPUT_ARCH(powerpc:common64)
  34 jiffies = jiffies_64;
  35 #else
  36 OUTPUT_ARCH(powerpc:common)
  37 jiffies = jiffies_64 + 4;
  38 #endif
  39 SECTIONS
  40 {
  41         . = KERNELBASE;
  42
  43 /*
  44  * Text, read only data and other permanent read-only sections
  45  */
  46
  47         _text = .;
  48         _stext = .;
  49
  50         /*
  51          * Head text.
  52          * This needs to be in its own output section to avoid ld placing
  53          * branch trampoline stubs randomly throughout the fixed sections,
  54          * which it will do (even if the branch comes from another section)
  55          * in order to optimize stub generation.
  56          */
  57         .head.text : AT(ADDR(.head.text) - LOAD_OFFSET) {
  58 #ifdef CONFIG_PPC64
  59                 KEEP(*(.head.text.first_256B));
  60 #ifdef CONFIG_PPC_BOOK3E
  61 # define END_FIXED      0x100
  62 #else
  63                 KEEP(*(.head.text.real_vectors));
  64                 *(.head.text.real_trampolines);
  65                 KEEP(*(.head.text.virt_vectors));
  66                 *(.head.text.virt_trampolines);
  67 # if defined(CONFIG_PPC_PSERIES) || defined(CONFIG_PPC_POWERNV)
  68                 KEEP(*(.head.data.fwnmi_page));
  69 #  define END_FIXED     0x8000
  70 # else
  71 #  define END_FIXED     0x7000
  72 # endif
  73 #endif
  74                 ASSERT((. == END_FIXED), "vmlinux.lds.S: fixed section overflow error");
  75 #else /* !CONFIG_PPC64 */
  76                 HEAD_TEXT
  77 #endif
  78         } :kernel
  79
  80         /*
  81          * If the build dies here, it's likely code in head_64.S is referencing
  82          * labels it can't reach, and the linker inserting stubs without the
  83          * assembler's knowledge. To debug, remove the above assert and
  84          * rebuild. Look for branch stubs in the fixed section region.
  85          *
  86          * Linker stub generation could be allowed in "trampoline"
  87          * sections if absolutely necessary, but this would require
  88          * some rework of the fixed sections. Before resorting to this,
  89          * consider references that have sufficient addressing range,
  90          * (e.g., hand coded trampolines) so the linker does not have
  91          * to add stubs.
  92          *
  93          * Linker stubs at the top of the main text section are currently not
  94          * detected, and will result in a crash at boot due to offsets being
  95          * wrong.
  96          */
  97 #ifdef CONFIG_PPC64
  98         /*
  99          * BLOCK(0) overrides the default output section alignment because
 100          * this needs to start right after .head.text in order for fixed
 101          * section placement to work.
 102          */
 103         .text BLOCK(0) : AT(ADDR(.text) - LOAD_OFFSET) {
 104 #else
 105         .text : AT(ADDR(.text) - LOAD_OFFSET) {
 106                 ALIGN_FUNCTION();
 107 #endif
 108                 /* careful! __ftr_alt_* sections need to be close to .text */
 109                 *(.text .fixup __ftr_alt_* .ref.text)
 110                 SCHED_TEXT
 111                 CPUIDLE_TEXT
 112                 LOCK_TEXT
 113                 KPROBES_TEXT
 114                 IRQENTRY_TEXT
 115                 SOFTIRQENTRY_TEXT
 116                 MEM_KEEP(init.text)
 117                 MEM_KEEP(exit.text)
 118
 119 #ifdef CONFIG_PPC32
 120                 *(.got1)
 121                 __got2_start = .;
 122                 *(.got2)
 123                 __got2_end = .;
 124 #endif /* CONFIG_PPC32 */
 125
 126         } :kernel
 127
 128         . = ALIGN(PAGE_SIZE);
 129         _etext = .;
 130         PROVIDE32 (etext = .);
 131
 132         /* Read-only data */
 133         RODATA
 134
 135 #ifdef CONFIG_PPC64
 136         . = ALIGN(8);
 137         __stf_entry_barrier_fixup : AT(ADDR(__stf_entry_barrier_fixup) - LOAD_OFFSET) {
 138                 __start___stf_entry_barrier_fixup = .;
 139                 *(__stf_entry_barrier_fixup)
 140                 __stop___stf_entry_barrier_fixup = .;
 141         }
 142
 143         . = ALIGN(8);
 144         __uaccess_flush_fixup : AT(ADDR(__uaccess_flush_fixup) - LOAD_OFFSET) {
 145                 __start___uaccess_flush_fixup = .;
 146                 *(__uaccess_flush_fixup)
 147                 __stop___uaccess_flush_fixup = .;
 148         }
 149
 150         . = ALIGN(8);
 151         __entry_flush_fixup : AT(ADDR(__entry_flush_fixup) - LOAD_OFFSET) {
 152                 __start___entry_flush_fixup = .;
 153                 *(__entry_flush_fixup)
 154                 __stop___entry_flush_fixup = .;
 155         }
 156
 157         . = ALIGN(8);
 158         __stf_exit_barrier_fixup : AT(ADDR(__stf_exit_barrier_fixup) - LOAD_OFFSET) {
 159                 __start___stf_exit_barrier_fixup = .;
 160                 *(__stf_exit_barrier_fixup)
 161                 __stop___stf_exit_barrier_fixup = .;
 162         }
 163
 164         . = ALIGN(8);
 165         __rfi_flush_fixup : AT(ADDR(__rfi_flush_fixup) - LOAD_OFFSET) {
 166                 __start___rfi_flush_fixup = .;
 167                 *(__rfi_flush_fixup)
 168                 __stop___rfi_flush_fixup = .;
 169         }
 170 #endif /* CONFIG_PPC64 */
 171
 172 #ifdef CONFIG_PPC_BARRIER_NOSPEC
 173         . = ALIGN(8);
 174         __spec_barrier_fixup : AT(ADDR(__spec_barrier_fixup) - LOAD_OFFSET) {
 175                 __start___barrier_nospec_fixup = .;
 176                 *(__barrier_nospec_fixup)
 177                 __stop___barrier_nospec_fixup = .;
 178         }
 179 #endif /* CONFIG_PPC_BARRIER_NOSPEC */
 180
 181 #ifdef CONFIG_PPC_FSL_BOOK3E
 182         . = ALIGN(8);
 183         __spec_btb_flush_fixup : AT(ADDR(__spec_btb_flush_fixup) - LOAD_OFFSET) {
 184                 __start__btb_flush_fixup = .;
 185                 *(__btb_flush_fixup)
 186                 __stop__btb_flush_fixup = .;
 187         }
 188 #endif
 189         EXCEPTION_TABLE(0)
 190
 191         NOTES :kernel :notes
 192
 193         /* The dummy segment contents for the bug workaround mentioned above
 194            near PHDRS.  */
 195         .dummy : AT(ADDR(.dummy) - LOAD_OFFSET) {
 196                 LONG(0)
 197                 LONG(0)
 198                 LONG(0)
 199         } :kernel :dummy
 200
 201 /*
 202  * Init sections discarded at runtime
 203  */
 204         . = ALIGN(PAGE_SIZE);
 205         __init_begin = .;
 206         INIT_TEXT_SECTION(PAGE_SIZE) :kernel
 207
 208         /* .exit.text is discarded at runtime, not link time,
 209          * to deal with references from __bug_table
 210          */
 211         .exit.text : AT(ADDR(.exit.text) - LOAD_OFFSET) {
 212                 EXIT_TEXT
 213         }
 214
 215         .init.data : AT(ADDR(.init.data) - LOAD_OFFSET) {
 216                 INIT_DATA
 217                 __vtop_table_begin = .;
 218                 *(.vtop_fixup);
 219                 __vtop_table_end = .;
 220                 __ptov_table_begin = .;
 221                 *(.ptov_fixup);
 222                 __ptov_table_end = .;
 223         }
 224
 225         .init.setup : AT(ADDR(.init.setup) - LOAD_OFFSET) {
 226                 INIT_SETUP(16)
 227         }
 228
 229         .initcall.init : AT(ADDR(.initcall.init) - LOAD_OFFSET) {
 230                 INIT_CALLS
 231         }
 232
 233         .con_initcall.init : AT(ADDR(.con_initcall.init) - LOAD_OFFSET) {
 234                 CON_INITCALL
 235         }
 236
 237         SECURITY_INIT
 238
 239         . = ALIGN(8);
 240         __ftr_fixup : AT(ADDR(__ftr_fixup) - LOAD_OFFSET) {
 241                 __start___ftr_fixup = .;
 242                 *(__ftr_fixup)
 243                 __stop___ftr_fixup = .;
 244         }
 245         . = ALIGN(8);
 246         __mmu_ftr_fixup : AT(ADDR(__mmu_ftr_fixup) - LOAD_OFFSET) {
 247                 __start___mmu_ftr_fixup = .;
 248                 *(__mmu_ftr_fixup)
 249                 __stop___mmu_ftr_fixup = .;
 250         }
 251         . = ALIGN(8);
 252         __lwsync_fixup : AT(ADDR(__lwsync_fixup) - LOAD_OFFSET) {
 253                 __start___lwsync_fixup = .;
 254                 *(__lwsync_fixup)
 255                 __stop___lwsync_fixup = .;
 256         }
 257 #ifdef CONFIG_PPC64
 258         . = ALIGN(8);
 259         __fw_ftr_fixup : AT(ADDR(__fw_ftr_fixup) - LOAD_OFFSET) {
 260                 __start___fw_ftr_fixup = .;
 261                 *(__fw_ftr_fixup)
 262                 __stop___fw_ftr_fixup = .;
 263         }
 264 #endif
 265         .init.ramfs : AT(ADDR(.init.ramfs) - LOAD_OFFSET) {
 266                 INIT_RAM_FS
 267         }
 268
 269         PERCPU_SECTION(L1_CACHE_BYTES)
 270
 271         . = ALIGN(8);
 272         .machine.desc : AT(ADDR(.machine.desc) - LOAD_OFFSET) {
 273                 __machine_desc_start = . ;
 274                 *(.machine.desc)
 275                 __machine_desc_end = . ;
 276         }
 277 #ifdef CONFIG_RELOCATABLE
 278         . = ALIGN(8);
 279         .dynsym : AT(ADDR(.dynsym) - LOAD_OFFSET)
 280         {
 281 #ifdef CONFIG_PPC32
 282                 __dynamic_symtab = .;
 283 #endif
 284                 *(.dynsym)
 285         }
 286         .dynstr : AT(ADDR(.dynstr) - LOAD_OFFSET) { *(.dynstr) }
 287         .dynamic : AT(ADDR(.dynamic) - LOAD_OFFSET)
 288         {
 289                 __dynamic_start = .;
 290                 *(.dynamic)
 291         }
 292         .hash : AT(ADDR(.hash) - LOAD_OFFSET) { *(.hash) }
 293         .interp : AT(ADDR(.interp) - LOAD_OFFSET) { *(.interp) }
 294         .rela.dyn : AT(ADDR(.rela.dyn) - LOAD_OFFSET)
 295         {
 296                 __rela_dyn_start = .;
 297                 *(.rela*)
 298         }
 299 #endif
 300         /* .exit.data is discarded at runtime, not link time,
 301          * to deal with references from .exit.text
 302          */
 303         .exit.data : AT(ADDR(.exit.data) - LOAD_OFFSET) {
 304                 EXIT_DATA
 305         }
 306
 307         /* freed after init ends here */
 308         . = ALIGN(PAGE_SIZE);
 309         __init_end = .;
 310
 311 /*
 312  * And now the various read/write data
 313  */
 314
 315         . = ALIGN(PAGE_SIZE);
 316         _sdata = .;
 317
 318 #ifdef CONFIG_PPC32
 319         .data : AT(ADDR(.data) - LOAD_OFFSET) {
 320                 DATA_DATA
 321                 *(.sdata)
 322                 *(.got.plt) *(.got)
 323         }
 324 #else
 325         .data : AT(ADDR(.data) - LOAD_OFFSET) {
 326                 DATA_DATA
 327                 *(.data.rel*)
 328                 *(.toc1)
 329                 *(.branch_lt)
 330         }
 331
 332 #ifdef CONFIG_DEBUG_INFO_BTF
 333         .BTF : AT(ADDR(.BTF) - LOAD_OFFSET) {
 334                 *(.BTF)
 335         }
 336 #endif
 337
 338         .opd : AT(ADDR(.opd) - LOAD_OFFSET) {
 339                 *(.opd)
 340         }
 341
 342         . = ALIGN(256);
 343         .got : AT(ADDR(.got) - LOAD_OFFSET) {
 344                 __toc_start = .;
 345 #ifndef CONFIG_RELOCATABLE
 346                 __prom_init_toc_start = .;
 347                 arch/powerpc/kernel/prom_init.o*(.toc .got)
 348                 __prom_init_toc_end = .;
 349 #endif
 350                 *(.got)
 351                 *(.toc)
 352         }
 353 #endif
 354
 355         /* The initial task and kernel stack */
 356         INIT_TASK_DATA_SECTION(THREAD_SIZE)
 357
 358         .data..page_aligned : AT(ADDR(.data..page_aligned) - LOAD_OFFSET) {
 359                 PAGE_ALIGNED_DATA(PAGE_SIZE)
 360         }
 361
 362         .data..cacheline_aligned : AT(ADDR(.data..cacheline_aligned) - LOAD_OFFSET) {
 363                 CACHELINE_ALIGNED_DATA(L1_CACHE_BYTES)
 364         }
 365
 366         .data..read_mostly : AT(ADDR(.data..read_mostly) - LOAD_OFFSET) {
 367                 READ_MOSTLY_DATA(L1_CACHE_BYTES)
 368         }
 369
 370         . = ALIGN(PAGE_SIZE);
 371         .data_nosave : AT(ADDR(.data_nosave) - LOAD_OFFSET) {
 372                 NOSAVE_DATA
 373         }
 374
 375         . = ALIGN(PAGE_SIZE);
 376         _edata  =  .;
 377         PROVIDE32 (edata = .);
 378
 379 /*
 380  * And finally the bss
 381  */
 382
 383         BSS_SECTION(0, 0, 0)
 384
 385         . = ALIGN(PAGE_SIZE);
 386         _end = . ;
 387         PROVIDE32 (end = .);
 388
 389         /* Sections to be discarded. */
 390         DISCARDS
 391 }