hc
2024-11-01 2f529f9b558ca1c1bd74be7437a84e4711743404
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
/* SPDX-License-Identifier: GPL-2.0 */
/*
 * Copyright (C) 2018 ARM Limited
 */
#ifndef __ASM_VDSO_GETTIMEOFDAY_H
#define __ASM_VDSO_GETTIMEOFDAY_H
 
#ifndef __ASSEMBLY__
 
#include <asm/barrier.h>
#include <asm/unistd.h>
 
#define VDSO_HAS_CLOCK_GETRES        1
 
static __always_inline
int gettimeofday_fallback(struct __kernel_old_timeval *_tv,
             struct timezone *_tz)
{
   register struct timezone *tz asm("x1") = _tz;
   register struct __kernel_old_timeval *tv asm("x0") = _tv;
   register long ret asm ("x0");
   register long nr asm("x8") = __NR_gettimeofday;
 
   asm volatile(
   "       svc #0\n"
   : "=r" (ret)
   : "r" (tv), "r" (tz), "r" (nr)
   : "memory");
 
   return ret;
}
 
static __always_inline
long clock_gettime_fallback(clockid_t _clkid, struct __kernel_timespec *_ts)
{
   register struct __kernel_timespec *ts asm("x1") = _ts;
   register clockid_t clkid asm("x0") = _clkid;
   register long ret asm ("x0");
   register long nr asm("x8") = __NR_clock_gettime;
 
   asm volatile(
   "       svc #0\n"
   : "=r" (ret)
   : "r" (clkid), "r" (ts), "r" (nr)
   : "memory");
 
   return ret;
}
 
static __always_inline
int clock_getres_fallback(clockid_t _clkid, struct __kernel_timespec *_ts)
{
   register struct __kernel_timespec *ts asm("x1") = _ts;
   register clockid_t clkid asm("x0") = _clkid;
   register long ret asm ("x0");
   register long nr asm("x8") = __NR_clock_getres;
 
   asm volatile(
   "       svc #0\n"
   : "=r" (ret)
   : "r" (clkid), "r" (ts), "r" (nr)
   : "memory");
 
   return ret;
}
 
static __always_inline u64 __arch_get_hw_counter(s32 clock_mode,
                        const struct vdso_data *vd)
{
   u64 res;
 
   /*
    * Core checks for mode already, so this raced against a concurrent
    * update. Return something. Core will do another round and then
    * see the mode change and fallback to the syscall.
    */
   if (clock_mode == VDSO_CLOCKMODE_NONE)
       return 0;
 
   /*
    * This isb() is required to prevent that the counter value
    * is speculated.
    */
   isb();
   asm volatile("mrs %0, cntvct_el0" : "=r" (res) :: "memory");
   arch_counter_enforce_ordering(res);
 
   return res;
}
 
static __always_inline
const struct vdso_data *__arch_get_vdso_data(void)
{
   return _vdso_data;
}
 
#ifdef CONFIG_TIME_NS
static __always_inline
const struct vdso_data *__arch_get_timens_vdso_data(void)
{
   return _timens_data;
}
#endif
 
#ifdef CONFIG_GENERIC_CLOCKSOURCE_VDSO
 
#include <uapi/linux/fcntl.h>
 
extern struct vdso_priv _vdso_priv; /* vdso.lds.S */
 
static __always_inline struct vdso_priv *__arch_get_vdso_priv(void)
{
   return &_vdso_priv;
}
 
static __always_inline int clock_open_device(const char *path, int mode)
{
   register int  sc  asm("w8") = __NR_openat;
   register long ret asm("x0");
   register long x0  asm("x0") = AT_FDCWD;
   register long x1  asm("x1") = (long)path;
   register long x2  asm("x2") = mode;
 
   asm volatile(
       "svc #0\n"
       : "=r" (ret)
       : "r" (sc),
         "r" (x0), "r" (x1), "r" (x2)
       : "cc", "memory");
 
   return ret;
}
 
static __always_inline int clock_ioctl_device(int fd, unsigned int cmd, long arg)
{
   register int  sc  asm("w8") = __NR_ioctl;
   register long ret asm("x0");
   register long x0  asm("x0") = fd;
   register long x1  asm("x1") = cmd;
   register long x2  asm("x2") = arg;
 
   asm volatile(
       "svc #0\n"
       : "=r" (ret)
       : "r" (sc),
         "r" (x0), "r" (x1), "r" (x2)
       : "cc", "memory");
 
   return ret;
}
 
static __always_inline int clock_close_device(int fd)
{
   register int  sc  asm("w8") = __NR_close;
   register long ret asm("x0");
   register long x0  asm("x0") = fd;
 
   asm volatile(
       "svc #0\n"
       : "=r" (ret)
       : "r" (sc),
         "r" (x0)
       : "cc", "memory");
 
   return ret;
}
 
#endif    /* CONFIG_GENERIC_CLOCKSOURCE_VDSO */
 
#endif /* !__ASSEMBLY__ */
 
#endif /* __ASM_VDSO_GETTIMEOFDAY_H */