hc
2024-12-19 9370bb92b2d16684ee45cf24e879c93c509162da
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
/* SPDX-License-Identifier: GPL-2.0-only */
/*
 *  linux/arch/arm/lib/copy_from_user.S
 *
 *  Author:    Nicolas Pitre
 *  Created:    Sep 29, 2005
 *  Copyright:    MontaVista Software, Inc.
 */
 
#include <linux/linkage.h>
#include <asm/assembler.h>
#include <asm/unwind.h>
 
/*
 * Prototype:
 *
 *    size_t arm_copy_from_user(void *to, const void *from, size_t n)
 *
 * Purpose:
 *
 *    copy a block to kernel memory from user memory
 *
 * Params:
 *
 *    to = kernel memory
 *    from = user memory
 *    n = number of bytes to copy
 *
 * Return value:
 *
 *    Number of bytes NOT copied.
 */
 
#ifdef CONFIG_CPU_USE_DOMAINS
 
#ifndef CONFIG_THUMB2_KERNEL
#define LDR1W_SHIFT    0
#else
#define LDR1W_SHIFT    1
#endif
 
   .macro ldr1w ptr reg abort
   ldrusr    \reg, \ptr, 4, abort=\abort
   .endm
 
   .macro ldr4w ptr reg1 reg2 reg3 reg4 abort
   ldr1w \ptr, \reg1, \abort
   ldr1w \ptr, \reg2, \abort
   ldr1w \ptr, \reg3, \abort
   ldr1w \ptr, \reg4, \abort
   .endm
 
   .macro ldr8w ptr reg1 reg2 reg3 reg4 reg5 reg6 reg7 reg8 abort
   ldr4w \ptr, \reg1, \reg2, \reg3, \reg4, \abort
   ldr4w \ptr, \reg5, \reg6, \reg7, \reg8, \abort
   .endm
 
#else
 
#define LDR1W_SHIFT    0
 
   .macro ldr1w ptr reg abort
   USERL(\abort, W(ldr) \reg, [\ptr], #4)
   .endm
 
   .macro ldr4w ptr reg1 reg2 reg3 reg4 abort
   USERL(\abort, ldmia \ptr!, {\reg1, \reg2, \reg3, \reg4})
   .endm
 
   .macro ldr8w ptr reg1 reg2 reg3 reg4 reg5 reg6 reg7 reg8 abort
   USERL(\abort, ldmia \ptr!, {\reg1, \reg2, \reg3, \reg4, \reg5, \reg6, \reg7, \reg8})
   .endm
 
#endif /* CONFIG_CPU_USE_DOMAINS */
 
   .macro ldr1b ptr reg cond=al abort
   ldrusr    \reg, \ptr, 1, \cond, abort=\abort
   .endm
 
#define STR1W_SHIFT    0
 
   .macro str1w ptr reg abort
   W(str) \reg, [\ptr], #4
   .endm
 
   .macro str8w ptr reg1 reg2 reg3 reg4 reg5 reg6 reg7 reg8 abort
   stmia \ptr!, {\reg1, \reg2, \reg3, \reg4, \reg5, \reg6, \reg7, \reg8}
   .endm
 
   .macro str1b ptr reg cond=al abort
   strb\cond \reg, [\ptr], #1
   .endm
 
   .macro enter reg1 reg2
   mov    r3, #0
   stmdb    sp!, {r0, r2, r3, \reg1, \reg2}
   .endm
 
   .macro usave reg1 reg2
   UNWIND(    .save {r0, r2, r3, \reg1, \reg2}    )
   .endm
 
   .macro exit reg1 reg2
   add    sp, sp, #8
   ldmfd    sp!, {r0, \reg1, \reg2}
   .endm
 
   .text
 
ENTRY(arm_copy_from_user)
#ifdef CONFIG_CPU_SPECTRE
   get_thread_info r3
   ldr    r3, [r3, #TI_ADDR_LIMIT]
   uaccess_mask_range_ptr r1, r2, r3, ip
#endif
 
#include "copy_template.S"
 
ENDPROC(arm_copy_from_user)
 
   .pushsection .text.fixup,"ax"
   .align 0
   copy_abort_preamble
   ldmfd    sp!, {r1, r2, r3}
   sub    r0, r0, r1
   rsb    r0, r0, r2
   copy_abort_end
   .popsection