hc
2024-12-19 9370bb92b2d16684ee45cf24e879c93c509162da
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
/* SPDX-License-Identifier: GPL-2.0 */
#ifndef _ASM_POWERPC_CPUIDLE_H
#define _ASM_POWERPC_CPUIDLE_H
 
#ifdef CONFIG_PPC_POWERNV
/* Thread state used in powernv idle state management */
#define PNV_THREAD_RUNNING              0
#define PNV_THREAD_NAP                  1
#define PNV_THREAD_SLEEP                2
#define PNV_THREAD_WINKLE               3
 
/*
 * Core state used in powernv idle for POWER8.
 *
 * The lock bit synchronizes updates to the state, as well as parts of the
 * sleep/wake code (see kernel/idle_book3s.S).
 *
 * Bottom 8 bits track the idle state of each thread. Bit is cleared before
 * the thread executes an idle instruction (nap/sleep/winkle).
 *
 * Then there is winkle tracking. A core does not lose complete state
 * until every thread is in winkle. So the winkle count field counts the
 * number of threads in winkle (small window of false positives is okay
 * around the sleep/wake, so long as there are no false negatives).
 *
 * When the winkle count reaches 8 (the COUNT_ALL_BIT becomes set), then
 * the THREAD_WINKLE_BITS are set, which indicate which threads have not
 * yet woken from the winkle state.
 */
#define NR_PNV_CORE_IDLE_LOCK_BIT        28
#define PNV_CORE_IDLE_LOCK_BIT            (1ULL << NR_PNV_CORE_IDLE_LOCK_BIT)
 
#define PNV_CORE_IDLE_WINKLE_COUNT_SHIFT    16
#define PNV_CORE_IDLE_WINKLE_COUNT        0x00010000
#define PNV_CORE_IDLE_WINKLE_COUNT_BITS        0x000F0000
#define PNV_CORE_IDLE_THREAD_WINKLE_BITS_SHIFT    8
#define PNV_CORE_IDLE_THREAD_WINKLE_BITS    0x0000FF00
 
#define PNV_CORE_IDLE_THREAD_BITS           0x000000FF
 
/*
 * ============================ NOTE =================================
 * The older firmware populates only the RL field in the psscr_val and
 * sets the psscr_mask to 0xf. On such a firmware, the kernel sets the
 * remaining PSSCR fields to default values as follows:
 *
 * - ESL and EC bits are to 1. So wakeup from any stop state will be
 *   at vector 0x100.
 *
 * - MTL and PSLL are set to the maximum allowed value as per the ISA,
 *    i.e. 15.
 *
 * - The Transition Rate, TR is set to the Maximum value 3.
 */
#define PSSCR_HV_DEFAULT_VAL    (PSSCR_ESL | PSSCR_EC |            \
               PSSCR_PSLL_MASK | PSSCR_TR_MASK |   \
               PSSCR_MTL_MASK)
 
#define PSSCR_HV_DEFAULT_MASK   (PSSCR_ESL | PSSCR_EC |            \
               PSSCR_PSLL_MASK | PSSCR_TR_MASK |   \
               PSSCR_MTL_MASK | PSSCR_RL_MASK)
#define PSSCR_EC_SHIFT    20
#define PSSCR_ESL_SHIFT   21
#define GET_PSSCR_EC(x)   (((x) & PSSCR_EC) >> PSSCR_EC_SHIFT)
#define GET_PSSCR_ESL(x)  (((x) & PSSCR_ESL) >> PSSCR_ESL_SHIFT)
#define GET_PSSCR_RL(x)   ((x) & PSSCR_RL_MASK)
 
#define ERR_EC_ESL_MISMATCH        -1
#define ERR_DEEP_STATE_ESL_MISMATCH    -2
 
#ifndef __ASSEMBLY__
 
#define PNV_IDLE_NAME_LEN    16
struct pnv_idle_states_t {
   char name[PNV_IDLE_NAME_LEN];
   u32 latency_ns;
   u32 residency_ns;
   u64 psscr_val;
   u64 psscr_mask;
   u32 flags;
   bool valid;
};
 
extern struct pnv_idle_states_t *pnv_idle_states;
extern int nr_pnv_idle_states;
 
unsigned long pnv_cpu_offline(unsigned int cpu);
int validate_psscr_val_mask(u64 *psscr_val, u64 *psscr_mask, u32 flags);
static inline void report_invalid_psscr_val(u64 psscr_val, int err)
{
   switch (err) {
   case ERR_EC_ESL_MISMATCH:
       pr_warn("Invalid psscr 0x%016llx : ESL,EC bits unequal",
           psscr_val);
       break;
   case ERR_DEEP_STATE_ESL_MISMATCH:
       pr_warn("Invalid psscr 0x%016llx : ESL cleared for deep stop-state",
           psscr_val);
   }
}
#endif
 
#endif
 
#endif