hc
2023-12-09 b22da3d8526a935aa31e086e63f60ff3246cb61c
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
/* SPDX-License-Identifier: GPL-2.0-only */
/*
 * arch/arm/mm/proc-v7-3level.S
 *
 * Copyright (C) 2001 Deep Blue Solutions Ltd.
 * Copyright (C) 2011 ARM Ltd.
 * Author: Catalin Marinas <catalin.marinas@arm.com>
 *   based on arch/arm/mm/proc-v7-2level.S
 */
#include <asm/assembler.h>
 
#define TTB_IRGN_NC    (0 << 8)
#define TTB_IRGN_WBWA    (1 << 8)
#define TTB_IRGN_WT    (2 << 8)
#define TTB_IRGN_WB    (3 << 8)
#define TTB_RGN_NC    (0 << 10)
#define TTB_RGN_OC_WBWA    (1 << 10)
#define TTB_RGN_OC_WT    (2 << 10)
#define TTB_RGN_OC_WB    (3 << 10)
#define TTB_S        (3 << 12)
#define TTB_EAE        (1 << 31)
 
/* PTWs cacheable, inner WB not shareable, outer WB not shareable */
#define TTB_FLAGS_UP    (TTB_IRGN_WB|TTB_RGN_OC_WB)
#define PMD_FLAGS_UP    (PMD_SECT_WB)
 
/* PTWs cacheable, inner WBWA shareable, outer WBWA not shareable */
#define TTB_FLAGS_SMP    (TTB_IRGN_WBWA|TTB_S|TTB_RGN_OC_WBWA)
#define PMD_FLAGS_SMP    (PMD_SECT_WBWA|PMD_SECT_S)
 
#ifndef __ARMEB__
#  define rpgdl    r0
#  define rpgdh    r1
#else
#  define rpgdl    r1
#  define rpgdh    r0
#endif
 
/*
 * cpu_v7_switch_mm(pgd_phys, tsk)
 *
 * Set the translation table base pointer to be pgd_phys (physical address of
 * the new TTB).
 */
ENTRY(cpu_v7_switch_mm)
#ifdef CONFIG_MMU
   mmid    r2, r2
   asid    r2, r2
   orr    rpgdh, rpgdh, r2, lsl #(48 - 32)    @ upper 32-bits of pgd
   mcrr    p15, 0, rpgdl, rpgdh, c2        @ set TTB 0
   isb
#endif
   ret    lr
ENDPROC(cpu_v7_switch_mm)
 
#ifdef __ARMEB__
#define rl r3
#define rh r2
#else
#define rl r2
#define rh r3
#endif
 
/*
 * cpu_v7_set_pte_ext(ptep, pte)
 *
 * Set a level 2 translation table entry.
 * - ptep - pointer to level 3 translation table entry
 * - pte - PTE value to store (64-bit in r2 and r3)
 */
ENTRY(cpu_v7_set_pte_ext)
#ifdef CONFIG_MMU
   tst    rl, #L_PTE_VALID
   beq    1f
   tst    rh, #1 << (57 - 32)        @ L_PTE_NONE
   bicne    rl, #L_PTE_VALID
   bne    1f
 
   eor    ip, rh, #1 << (55 - 32)    @ toggle L_PTE_DIRTY in temp reg to
                   @ test for !L_PTE_DIRTY || L_PTE_RDONLY
   tst    ip, #1 << (55 - 32) | 1 << (58 - 32)
   orrne    rl, #PTE_AP2
   biceq    rl, #PTE_AP2
 
1:    strd    r2, r3, [r0]
   ALT_SMP(W(nop))
   ALT_UP (mcr    p15, 0, r0, c7, c10, 1)        @ flush_pte
#endif
   ret    lr
ENDPROC(cpu_v7_set_pte_ext)
 
   /*
    * Memory region attributes for LPAE (defined in pgtable-3level.h):
    *
    *   n = AttrIndx[2:0]
    *
    *            n    MAIR
    *   UNCACHED        000    00000000
    *   BUFFERABLE        001    01000100
    *   DEV_WC        001    01000100
    *   WRITETHROUGH    010    10101010
    *   WRITEBACK        011    11101110
    *   DEV_CACHED        011    11101110
    *   DEV_SHARED        100    00000100
    *   DEV_NONSHARED    100    00000100
    *   unused        101
    *   unused        110
    *   WRITEALLOC        111    11111111
    */
.equ    PRRR,    0xeeaa4400            @ MAIR0
.equ    NMRR,    0xff000004            @ MAIR1
 
   /*
    * Macro for setting up the TTBRx and TTBCR registers.
    * - \ttbr1 updated.
    */
   .macro    v7_ttb_setup, zero, ttbr0l, ttbr0h, ttbr1, tmp
   ldr    \tmp, =swapper_pg_dir        @ swapper_pg_dir virtual address
   cmp    \ttbr1, \tmp, lsr #12        @ PHYS_OFFSET > PAGE_OFFSET?
   mov    \tmp, #TTB_EAE            @ for TTB control egister
   ALT_SMP(orr    \tmp, \tmp, #TTB_FLAGS_SMP)
   ALT_UP(orr    \tmp, \tmp, #TTB_FLAGS_UP)
   ALT_SMP(orr    \tmp, \tmp, #TTB_FLAGS_SMP << 16)
   ALT_UP(orr    \tmp, \tmp, #TTB_FLAGS_UP << 16)
   /*
    * Only use split TTBRs if PHYS_OFFSET <= PAGE_OFFSET (cmp above),
    * otherwise booting secondary CPUs would end up using TTBR1 for the
    * identity mapping set up in TTBR0.
    */
   orrls    \tmp, \tmp, #TTBR1_SIZE                @ TTBCR.T1SZ
   mcr    p15, 0, \tmp, c2, c0, 2                @ TTBCR
   mov    \tmp, \ttbr1, lsr #20
   mov    \ttbr1, \ttbr1, lsl #12
   addls    \ttbr1, \ttbr1, #TTBR1_OFFSET
   mcrr    p15, 1, \ttbr1, \tmp, c2            @ load TTBR1
   .endm
 
   /*
    *   AT
    *  TFR   EV X F   IHD LR    S
    * .EEE ..EE PUI. .TAT 4RVI ZWRS BLDP WCAM
    * rxxx rrxx xxx0 0101 xxxx xxxx x111 xxxx < forced
    *   11    0 110    0  0011 1100 .111 1101 < we want
    */
   .align    2
   .type    v7_crval, #object
v7_crval:
   crval    clear=0x0122c302, mmuset=0x30c03c7d, ucset=0x00c01c7c