hc
2024-12-19 9370bb92b2d16684ee45cf24e879c93c509162da
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
/* SPDX-License-Identifier: GPL-2.0-only */
/*
 *  linux/arch/arm/mm/arm946.S: utility functions for ARM946E-S
 *
 *  Copyright (C) 2004-2006 Hyok S. Choi (hyok.choi@samsung.com)
 *
 *  (Many of cache codes are from proc-arm926.S)
 */
#include <linux/linkage.h>
#include <linux/init.h>
#include <linux/pgtable.h>
#include <asm/assembler.h>
#include <asm/hwcap.h>
#include <asm/pgtable-hwdef.h>
#include <asm/ptrace.h>
#include "proc-macros.S"
 
/*
 * ARM946E-S is synthesizable to have 0KB to 1MB sized D-Cache,
 * comprising 256 lines of 32 bytes (8 words).
 */
#define CACHE_DSIZE    (CONFIG_CPU_DCACHE_SIZE) /* typically 8KB. */
#define CACHE_DLINESIZE    32            /* fixed */
#define CACHE_DSEGMENTS    4            /* fixed */
#define CACHE_DENTRIES    (CACHE_DSIZE / CACHE_DSEGMENTS / CACHE_DLINESIZE)
#define CACHE_DLIMIT    (CACHE_DSIZE * 4)    /* benchmark needed */
 
   .text
/*
 * cpu_arm946_proc_init()
 * cpu_arm946_switch_mm()
 *
 * These are not required.
 */
ENTRY(cpu_arm946_proc_init)
ENTRY(cpu_arm946_switch_mm)
   ret    lr
 
/*
 * cpu_arm946_proc_fin()
 */
ENTRY(cpu_arm946_proc_fin)
   mrc    p15, 0, r0, c1, c0, 0        @ ctrl register
   bic    r0, r0, #0x00001000        @ i-cache
   bic    r0, r0, #0x00000004        @ d-cache
   mcr    p15, 0, r0, c1, c0, 0        @ disable caches
   ret    lr
 
/*
 * cpu_arm946_reset(loc)
 * Params  : r0 = address to jump to
 * Notes   : This sets up everything for a reset
 */
   .pushsection    .idmap.text, "ax"
ENTRY(cpu_arm946_reset)
   mov    ip, #0
   mcr    p15, 0, ip, c7, c5, 0        @ flush I cache
   mcr    p15, 0, ip, c7, c6, 0        @ flush D cache
   mcr    p15, 0, ip, c7, c10, 4        @ drain WB
   mrc    p15, 0, ip, c1, c0, 0        @ ctrl register
   bic    ip, ip, #0x00000005        @ .............c.p
   bic    ip, ip, #0x00001000        @ i-cache
   mcr    p15, 0, ip, c1, c0, 0        @ ctrl register
   ret    r0
ENDPROC(cpu_arm946_reset)
   .popsection
 
/*
 * cpu_arm946_do_idle()
 */
   .align    5
ENTRY(cpu_arm946_do_idle)
   mcr    p15, 0, r0, c7, c0, 4        @ Wait for interrupt
   ret    lr
 
/*
 *    flush_icache_all()
 *
 *    Unconditionally clean and invalidate the entire icache.
 */
ENTRY(arm946_flush_icache_all)
   mov    r0, #0
   mcr    p15, 0, r0, c7, c5, 0        @ invalidate I cache
   ret    lr
ENDPROC(arm946_flush_icache_all)
 
/*
 *    flush_user_cache_all()
 */
ENTRY(arm946_flush_user_cache_all)
   /* FALLTHROUGH */
 
/*
 *    flush_kern_cache_all()
 *
 *    Clean and invalidate the entire cache.
 */
ENTRY(arm946_flush_kern_cache_all)
   mov    r2, #VM_EXEC
   mov    ip, #0
__flush_whole_cache:
#ifdef CONFIG_CPU_DCACHE_WRITETHROUGH
   mcr    p15, 0, ip, c7, c6, 0        @ flush D cache
#else
   mov    r1, #(CACHE_DSEGMENTS - 1) << 29 @ 4 segments
1:    orr    r3, r1, #(CACHE_DENTRIES - 1) << 4 @ n entries
2:    mcr    p15, 0, r3, c7, c14, 2        @ clean/flush D index
   subs    r3, r3, #1 << 4
   bcs    2b                @ entries n to 0
   subs    r1, r1, #1 << 29
   bcs    1b                @ segments 3 to 0
#endif
   tst    r2, #VM_EXEC
   mcrne    p15, 0, ip, c7, c5, 0        @ flush I cache
   mcrne    p15, 0, ip, c7, c10, 4        @ drain WB
   ret    lr
 
/*
 *    flush_user_cache_range(start, end, flags)
 *
 *    Clean and invalidate a range of cache entries in the
 *    specified address range.
 *
 *    - start    - start address (inclusive)
 *    - end    - end address (exclusive)
 *    - flags    - vm_flags describing address space
 * (same as arm926)
 */
ENTRY(arm946_flush_user_cache_range)
   mov    ip, #0
   sub    r3, r1, r0            @ calculate total size
   cmp    r3, #CACHE_DLIMIT
   bhs    __flush_whole_cache
 
1:    tst    r2, #VM_EXEC
#ifdef CONFIG_CPU_DCACHE_WRITETHROUGH
   mcr    p15, 0, r0, c7, c6, 1        @ invalidate D entry
   mcrne    p15, 0, r0, c7, c5, 1        @ invalidate I entry
   add    r0, r0, #CACHE_DLINESIZE
   mcr    p15, 0, r0, c7, c6, 1        @ invalidate D entry
   mcrne    p15, 0, r0, c7, c5, 1        @ invalidate I entry
   add    r0, r0, #CACHE_DLINESIZE
#else
   mcr    p15, 0, r0, c7, c14, 1        @ clean and invalidate D entry
   mcrne    p15, 0, r0, c7, c5, 1        @ invalidate I entry
   add    r0, r0, #CACHE_DLINESIZE
   mcr    p15, 0, r0, c7, c14, 1        @ clean and invalidate D entry
   mcrne    p15, 0, r0, c7, c5, 1        @ invalidate I entry
   add    r0, r0, #CACHE_DLINESIZE
#endif
   cmp    r0, r1
   blo    1b
   tst    r2, #VM_EXEC
   mcrne    p15, 0, ip, c7, c10, 4        @ drain WB
   ret    lr
 
/*
 *    coherent_kern_range(start, end)
 *
 *    Ensure coherency between the Icache and the Dcache in the
 *    region described by start, end.  If you have non-snooping
 *    Harvard caches, you need to implement this function.
 *
 *    - start    - virtual start address
 *    - end    - virtual end address
 */
ENTRY(arm946_coherent_kern_range)
   /* FALLTHROUGH */
 
/*
 *    coherent_user_range(start, end)
 *
 *    Ensure coherency between the Icache and the Dcache in the
 *    region described by start, end.  If you have non-snooping
 *    Harvard caches, you need to implement this function.
 *
 *    - start    - virtual start address
 *    - end    - virtual end address
 * (same as arm926)
 */
ENTRY(arm946_coherent_user_range)
   bic    r0, r0, #CACHE_DLINESIZE - 1
1:    mcr    p15, 0, r0, c7, c10, 1        @ clean D entry
   mcr    p15, 0, r0, c7, c5, 1        @ invalidate I entry
   add    r0, r0, #CACHE_DLINESIZE
   cmp    r0, r1
   blo    1b
   mcr    p15, 0, r0, c7, c10, 4        @ drain WB
   mov    r0, #0
   ret    lr
 
/*
 *    flush_kern_dcache_area(void *addr, size_t size)
 *
 *    Ensure no D cache aliasing occurs, either with itself or
 *    the I cache
 *
 *    - addr    - kernel address
 *    - size    - region size
 * (same as arm926)
 */
ENTRY(arm946_flush_kern_dcache_area)
   add    r1, r0, r1
1:    mcr    p15, 0, r0, c7, c14, 1        @ clean+invalidate D entry
   add    r0, r0, #CACHE_DLINESIZE
   cmp    r0, r1
   blo    1b
   mov    r0, #0
   mcr    p15, 0, r0, c7, c5, 0        @ invalidate I cache
   mcr    p15, 0, r0, c7, c10, 4        @ drain WB
   ret    lr
 
/*
 *    dma_inv_range(start, end)
 *
 *    Invalidate (discard) the specified virtual address range.
 *    May not write back any entries.  If 'start' or 'end'
 *    are not cache line aligned, those lines must be written
 *    back.
 *
 *    - start    - virtual start address
 *    - end    - virtual end address
 * (same as arm926)
 */
arm946_dma_inv_range:
#ifndef CONFIG_CPU_DCACHE_WRITETHROUGH
   tst    r0, #CACHE_DLINESIZE - 1
   mcrne    p15, 0, r0, c7, c10, 1        @ clean D entry
   tst    r1, #CACHE_DLINESIZE - 1
   mcrne    p15, 0, r1, c7, c10, 1        @ clean D entry
#endif
   bic    r0, r0, #CACHE_DLINESIZE - 1
1:    mcr    p15, 0, r0, c7, c6, 1        @ invalidate D entry
   add    r0, r0, #CACHE_DLINESIZE
   cmp    r0, r1
   blo    1b
   mcr    p15, 0, r0, c7, c10, 4        @ drain WB
   ret    lr
 
/*
 *    dma_clean_range(start, end)
 *
 *    Clean the specified virtual address range.
 *
 *    - start    - virtual start address
 *    - end    - virtual end address
 *
 * (same as arm926)
 */
arm946_dma_clean_range:
#ifndef CONFIG_CPU_DCACHE_WRITETHROUGH
   bic    r0, r0, #CACHE_DLINESIZE - 1
1:    mcr    p15, 0, r0, c7, c10, 1        @ clean D entry
   add    r0, r0, #CACHE_DLINESIZE
   cmp    r0, r1
   blo    1b
#endif
   mcr    p15, 0, r0, c7, c10, 4        @ drain WB
   ret    lr
 
/*
 *    dma_flush_range(start, end)
 *
 *    Clean and invalidate the specified virtual address range.
 *
 *    - start    - virtual start address
 *    - end    - virtual end address
 *
 * (same as arm926)
 */
ENTRY(arm946_dma_flush_range)
   bic    r0, r0, #CACHE_DLINESIZE - 1
1:
#ifndef CONFIG_CPU_DCACHE_WRITETHROUGH
   mcr    p15, 0, r0, c7, c14, 1        @ clean+invalidate D entry
#else
   mcr    p15, 0, r0, c7, c6, 1        @ invalidate D entry
#endif
   add    r0, r0, #CACHE_DLINESIZE
   cmp    r0, r1
   blo    1b
   mcr    p15, 0, r0, c7, c10, 4        @ drain WB
   ret    lr
 
/*
 *    dma_map_area(start, size, dir)
 *    - start    - kernel virtual start address
 *    - size    - size of region
 *    - dir    - DMA direction
 */
ENTRY(arm946_dma_map_area)
   add    r1, r1, r0
   cmp    r2, #DMA_TO_DEVICE
   beq    arm946_dma_clean_range
   bcs    arm946_dma_inv_range
   b    arm946_dma_flush_range
ENDPROC(arm946_dma_map_area)
 
/*
 *    dma_unmap_area(start, size, dir)
 *    - start    - kernel virtual start address
 *    - size    - size of region
 *    - dir    - DMA direction
 */
ENTRY(arm946_dma_unmap_area)
   ret    lr
ENDPROC(arm946_dma_unmap_area)
 
   .globl    arm946_flush_kern_cache_louis
   .equ    arm946_flush_kern_cache_louis, arm946_flush_kern_cache_all
 
   @ define struct cpu_cache_fns (see <asm/cacheflush.h> and proc-macros.S)
   define_cache_functions arm946
 
ENTRY(cpu_arm946_dcache_clean_area)
#ifndef CONFIG_CPU_DCACHE_WRITETHROUGH
1:    mcr    p15, 0, r0, c7, c10, 1        @ clean D entry
   add    r0, r0, #CACHE_DLINESIZE
   subs    r1, r1, #CACHE_DLINESIZE
   bhi    1b
#endif
   mcr    p15, 0, r0, c7, c10, 4        @ drain WB
   ret    lr
 
   .type    __arm946_setup, #function
__arm946_setup:
   mov    r0, #0
   mcr    p15, 0, r0, c7, c5, 0        @ invalidate I cache
   mcr    p15, 0, r0, c7, c6, 0        @ invalidate D cache
   mcr    p15, 0, r0, c7, c10, 4        @ drain WB
 
   mcr    p15, 0, r0, c6, c3, 0        @ disable memory region 3~7
   mcr    p15, 0, r0, c6, c4, 0
   mcr    p15, 0, r0, c6, c5, 0
   mcr    p15, 0, r0, c6, c6, 0
   mcr    p15, 0, r0, c6, c7, 0
 
   mov    r0, #0x0000003F            @ base = 0, size = 4GB
   mcr    p15, 0, r0, c6,    c0, 0        @ set region 0, default
 
   ldr    r0, =(CONFIG_DRAM_BASE & 0xFFFFF000) @ base[31:12] of RAM
   ldr    r7, =CONFIG_DRAM_SIZE        @ size of RAM (must be >= 4KB)
   pr_val    r3, r0, r7, #1
   mcr    p15, 0, r3, c6, c1, 0
 
   ldr    r0, =(CONFIG_FLASH_MEM_BASE & 0xFFFFF000) @ base[31:12] of FLASH
   ldr    r7, =CONFIG_FLASH_SIZE        @ size of FLASH (must be >= 4KB)
   pr_val    r3, r0, r7, #1
   mcr    p15, 0, r3, c6, c2, 0
 
   mov    r0, #0x06
   mcr    p15, 0, r0, c2, c0, 0        @ region 1,2 d-cacheable
   mcr    p15, 0, r0, c2, c0, 1        @ region 1,2 i-cacheable
#ifdef CONFIG_CPU_DCACHE_WRITETHROUGH
   mov    r0, #0x00            @ disable whole write buffer
#else
   mov    r0, #0x02            @ region 1 write bufferred
#endif
   mcr    p15, 0, r0, c3, c0, 0
 
/*
 *  Access Permission Settings for future permission control by PU.
 *
 *                priv.    user
 *     region 0 (whole)    rw    --    : b0001
 *     region 1 (RAM)        rw    rw    : b0011
 *     region 2 (FLASH)    rw    r-    : b0010
 *    region 3~7 (none)    --    --    : b0000
 */
   mov    r0, #0x00000031
   orr    r0, r0, #0x00000200
   mcr    p15, 0, r0, c5, c0, 2        @ set data access permission
   mcr    p15, 0, r0, c5, c0, 3        @ set inst. access permission
 
   mrc    p15, 0, r0, c1, c0        @ get control register
   orr    r0, r0, #0x00001000        @ I-cache
   orr    r0, r0, #0x00000005        @ MPU/D-cache
#ifdef CONFIG_CPU_CACHE_ROUND_ROBIN
   orr    r0, r0, #0x00004000        @ .1.. .... .... ....
#endif
   ret    lr
 
   .size    __arm946_setup, . - __arm946_setup
 
   __INITDATA
 
   @ define struct processor (see <asm/proc-fns.h> and proc-macros.S)
   define_processor_functions arm946, dabort=nommu_early_abort, pabort=legacy_pabort, nommu=1
 
   .section ".rodata"
 
   string    cpu_arch_name, "armv5te"
   string    cpu_elf_name, "v5t"
   string    cpu_arm946_name, "ARM946E-S"
 
   .align
 
   .section ".proc.info.init", "a"
   .type    __arm946_proc_info,#object
__arm946_proc_info:
   .long    0x41009460
   .long    0xff00fff0
   .long    0
   .long    0
   initfn    __arm946_setup, __arm946_proc_info
   .long    cpu_arch_name
   .long    cpu_elf_name
   .long    HWCAP_SWP | HWCAP_HALF | HWCAP_THUMB
   .long    cpu_arm946_name
   .long    arm946_processor_functions
   .long    0
   .long    0
   .long    arm946_cache_fns
   .size    __arm946_proc_info, . - __arm946_proc_info