LCOV - code coverage report
Current view: top level - Objects - dictobject.c (source / functions) Hit Total Coverage
Test: CPython 3.12 LCOV report [commit 5e6661bce9] Lines: 1440 2485 57.9 %
Date: 2023-03-20 08:15:36 Functions: 127 172 73.8 %
Branches: 745 1519 49.0 %

           Branch data     Line data    Source code
       1                 :            : /* Dictionary object implementation using a hash table */
       2                 :            : 
       3                 :            : /* The distribution includes a separate file, Objects/dictnotes.txt,
       4                 :            :    describing explorations into dictionary design and optimization.
       5                 :            :    It covers typical dictionary use patterns, the parameters for
       6                 :            :    tuning dictionaries, and several ideas for possible optimizations.
       7                 :            : */
       8                 :            : 
       9                 :            : /* PyDictKeysObject
      10                 :            : 
      11                 :            : This implements the dictionary's hashtable.
      12                 :            : 
      13                 :            : As of Python 3.6, this is compact and ordered. Basic idea is described here:
      14                 :            : * https://mail.python.org/pipermail/python-dev/2012-December/123028.html
      15                 :            : * https://morepypy.blogspot.com/2015/01/faster-more-memory-efficient-and-more.html
      16                 :            : 
      17                 :            : layout:
      18                 :            : 
      19                 :            : +---------------------+
      20                 :            : | dk_refcnt           |
      21                 :            : | dk_log2_size        |
      22                 :            : | dk_log2_index_bytes |
      23                 :            : | dk_kind             |
      24                 :            : | dk_usable           |
      25                 :            : | dk_nentries         |
      26                 :            : +---------------------+
      27                 :            : | dk_indices[]        |
      28                 :            : |                     |
      29                 :            : +---------------------+
      30                 :            : | dk_entries[]        |
      31                 :            : |                     |
      32                 :            : +---------------------+
      33                 :            : 
      34                 :            : dk_indices is actual hashtable.  It holds index in entries, or DKIX_EMPTY(-1)
      35                 :            : or DKIX_DUMMY(-2).
      36                 :            : Size of indices is dk_size.  Type of each index in indices is vary on dk_size:
      37                 :            : 
      38                 :            : * int8  for          dk_size <= 128
      39                 :            : * int16 for 256   <= dk_size <= 2**15
      40                 :            : * int32 for 2**16 <= dk_size <= 2**31
      41                 :            : * int64 for 2**32 <= dk_size
      42                 :            : 
      43                 :            : dk_entries is array of PyDictKeyEntry when dk_kind == DICT_KEYS_GENERAL or
      44                 :            : PyDictUnicodeEntry otherwise. Its length is USABLE_FRACTION(dk_size).
      45                 :            : 
      46                 :            : NOTE: Since negative value is used for DKIX_EMPTY and DKIX_DUMMY, type of
      47                 :            : dk_indices entry is signed integer and int16 is used for table which
      48                 :            : dk_size == 256.
      49                 :            : */
      50                 :            : 
      51                 :            : 
      52                 :            : /*
      53                 :            : The DictObject can be in one of two forms.
      54                 :            : 
      55                 :            : Either:
      56                 :            :   A combined table:
      57                 :            :     ma_values == NULL, dk_refcnt == 1.
      58                 :            :     Values are stored in the me_value field of the PyDictKeysObject.
      59                 :            : Or:
      60                 :            :   A split table:
      61                 :            :     ma_values != NULL, dk_refcnt >= 1
      62                 :            :     Values are stored in the ma_values array.
      63                 :            :     Only string (unicode) keys are allowed.
      64                 :            : 
      65                 :            : There are four kinds of slots in the table (slot is index, and
      66                 :            : DK_ENTRIES(keys)[index] if index >= 0):
      67                 :            : 
      68                 :            : 1. Unused.  index == DKIX_EMPTY
      69                 :            :    Does not hold an active (key, value) pair now and never did.  Unused can
      70                 :            :    transition to Active upon key insertion.  This is each slot's initial state.
      71                 :            : 
      72                 :            : 2. Active.  index >= 0, me_key != NULL and me_value != NULL
      73                 :            :    Holds an active (key, value) pair.  Active can transition to Dummy or
      74                 :            :    Pending upon key deletion (for combined and split tables respectively).
      75                 :            :    This is the only case in which me_value != NULL.
      76                 :            : 
      77                 :            : 3. Dummy.  index == DKIX_DUMMY  (combined only)
      78                 :            :    Previously held an active (key, value) pair, but that was deleted and an
      79                 :            :    active pair has not yet overwritten the slot.  Dummy can transition to
      80                 :            :    Active upon key insertion.  Dummy slots cannot be made Unused again
      81                 :            :    else the probe sequence in case of collision would have no way to know
      82                 :            :    they were once active.
      83                 :            : 
      84                 :            : 4. Pending. index >= 0, key != NULL, and value == NULL  (split only)
      85                 :            :    Not yet inserted in split-table.
      86                 :            : */
      87                 :            : 
      88                 :            : /*
      89                 :            : Preserving insertion order
      90                 :            : 
      91                 :            : It's simple for combined table.  Since dk_entries is mostly append only, we can
      92                 :            : get insertion order by just iterating dk_entries.
      93                 :            : 
      94                 :            : One exception is .popitem().  It removes last item in dk_entries and decrement
      95                 :            : dk_nentries to achieve amortized O(1).  Since there are DKIX_DUMMY remains in
      96                 :            : dk_indices, we can't increment dk_usable even though dk_nentries is
      97                 :            : decremented.
      98                 :            : 
      99                 :            : To preserve the order in a split table, a bit vector is used  to record the
     100                 :            : insertion order. When a key is inserted the bit vector is shifted up by 4 bits
     101                 :            : and the index of the key is stored in the low 4 bits.
     102                 :            : As a consequence of this, split keys have a maximum size of 16.
     103                 :            : */
     104                 :            : 
     105                 :            : /* PyDict_MINSIZE is the starting size for any new dict.
     106                 :            :  * 8 allows dicts with no more than 5 active entries; experiments suggested
     107                 :            :  * this suffices for the majority of dicts (consisting mostly of usually-small
     108                 :            :  * dicts created to pass keyword arguments).
     109                 :            :  * Making this 8, rather than 4 reduces the number of resizes for most
     110                 :            :  * dictionaries, without any significant extra memory use.
     111                 :            :  */
     112                 :            : #define PyDict_LOG_MINSIZE 3
     113                 :            : #define PyDict_MINSIZE 8
     114                 :            : 
     115                 :            : #include "Python.h"
     116                 :            : #include "pycore_bitutils.h"      // _Py_bit_length
     117                 :            : #include "pycore_call.h"          // _PyObject_CallNoArgs()
     118                 :            : #include "pycore_code.h"          // stats
     119                 :            : #include "pycore_dict.h"          // PyDictKeysObject
     120                 :            : #include "pycore_gc.h"            // _PyObject_GC_IS_TRACKED()
     121                 :            : #include "pycore_object.h"        // _PyObject_GC_TRACK()
     122                 :            : #include "pycore_pyerrors.h"      // _PyErr_GetRaisedException()
     123                 :            : #include "pycore_pystate.h"       // _PyThreadState_GET()
     124                 :            : #include "stringlib/eq.h"         // unicode_eq()
     125                 :            : 
     126                 :            : #include <stdbool.h>
     127                 :            : 
     128                 :            : /*[clinic input]
     129                 :            : class dict "PyDictObject *" "&PyDict_Type"
     130                 :            : [clinic start generated code]*/
     131                 :            : /*[clinic end generated code: output=da39a3ee5e6b4b0d input=f157a5a0ce9589d6]*/
     132                 :            : 
     133                 :            : 
     134                 :            : /*
     135                 :            : To ensure the lookup algorithm terminates, there must be at least one Unused
     136                 :            : slot (NULL key) in the table.
     137                 :            : To avoid slowing down lookups on a near-full table, we resize the table when
     138                 :            : it's USABLE_FRACTION (currently two-thirds) full.
     139                 :            : */
     140                 :            : 
     141                 :            : #define PERTURB_SHIFT 5
     142                 :            : 
     143                 :            : /*
     144                 :            : Major subtleties ahead:  Most hash schemes depend on having a "good" hash
     145                 :            : function, in the sense of simulating randomness.  Python doesn't:  its most
     146                 :            : important hash functions (for ints) are very regular in common
     147                 :            : cases:
     148                 :            : 
     149                 :            :   >>>[hash(i) for i in range(4)]
     150                 :            :   [0, 1, 2, 3]
     151                 :            : 
     152                 :            : This isn't necessarily bad!  To the contrary, in a table of size 2**i, taking
     153                 :            : the low-order i bits as the initial table index is extremely fast, and there
     154                 :            : are no collisions at all for dicts indexed by a contiguous range of ints. So
     155                 :            : this gives better-than-random behavior in common cases, and that's very
     156                 :            : desirable.
     157                 :            : 
     158                 :            : OTOH, when collisions occur, the tendency to fill contiguous slices of the
     159                 :            : hash table makes a good collision resolution strategy crucial.  Taking only
     160                 :            : the last i bits of the hash code is also vulnerable:  for example, consider
     161                 :            : the list [i << 16 for i in range(20000)] as a set of keys.  Since ints are
     162                 :            : their own hash codes, and this fits in a dict of size 2**15, the last 15 bits
     163                 :            :  of every hash code are all 0:  they *all* map to the same table index.
     164                 :            : 
     165                 :            : But catering to unusual cases should not slow the usual ones, so we just take
     166                 :            : the last i bits anyway.  It's up to collision resolution to do the rest.  If
     167                 :            : we *usually* find the key we're looking for on the first try (and, it turns
     168                 :            : out, we usually do -- the table load factor is kept under 2/3, so the odds
     169                 :            : are solidly in our favor), then it makes best sense to keep the initial index
     170                 :            : computation dirt cheap.
     171                 :            : 
     172                 :            : The first half of collision resolution is to visit table indices via this
     173                 :            : recurrence:
     174                 :            : 
     175                 :            :     j = ((5*j) + 1) mod 2**i
     176                 :            : 
     177                 :            : For any initial j in range(2**i), repeating that 2**i times generates each
     178                 :            : int in range(2**i) exactly once (see any text on random-number generation for
     179                 :            : proof).  By itself, this doesn't help much:  like linear probing (setting
     180                 :            : j += 1, or j -= 1, on each loop trip), it scans the table entries in a fixed
     181                 :            : order.  This would be bad, except that's not the only thing we do, and it's
     182                 :            : actually *good* in the common cases where hash keys are consecutive.  In an
     183                 :            : example that's really too small to make this entirely clear, for a table of
     184                 :            : size 2**3 the order of indices is:
     185                 :            : 
     186                 :            :     0 -> 1 -> 6 -> 7 -> 4 -> 5 -> 2 -> 3 -> 0 [and here it's repeating]
     187                 :            : 
     188                 :            : If two things come in at index 5, the first place we look after is index 2,
     189                 :            : not 6, so if another comes in at index 6 the collision at 5 didn't hurt it.
     190                 :            : Linear probing is deadly in this case because there the fixed probe order
     191                 :            : is the *same* as the order consecutive keys are likely to arrive.  But it's
     192                 :            : extremely unlikely hash codes will follow a 5*j+1 recurrence by accident,
     193                 :            : and certain that consecutive hash codes do not.
     194                 :            : 
     195                 :            : The other half of the strategy is to get the other bits of the hash code
     196                 :            : into play.  This is done by initializing a (unsigned) vrbl "perturb" to the
     197                 :            : full hash code, and changing the recurrence to:
     198                 :            : 
     199                 :            :     perturb >>= PERTURB_SHIFT;
     200                 :            :     j = (5*j) + 1 + perturb;
     201                 :            :     use j % 2**i as the next table index;
     202                 :            : 
     203                 :            : Now the probe sequence depends (eventually) on every bit in the hash code,
     204                 :            : and the pseudo-scrambling property of recurring on 5*j+1 is more valuable,
     205                 :            : because it quickly magnifies small differences in the bits that didn't affect
     206                 :            : the initial index.  Note that because perturb is unsigned, if the recurrence
     207                 :            : is executed often enough perturb eventually becomes and remains 0.  At that
     208                 :            : point (very rarely reached) the recurrence is on (just) 5*j+1 again, and
     209                 :            : that's certain to find an empty slot eventually (since it generates every int
     210                 :            : in range(2**i), and we make sure there's always at least one empty slot).
     211                 :            : 
     212                 :            : Selecting a good value for PERTURB_SHIFT is a balancing act.  You want it
     213                 :            : small so that the high bits of the hash code continue to affect the probe
     214                 :            : sequence across iterations; but you want it large so that in really bad cases
     215                 :            : the high-order hash bits have an effect on early iterations.  5 was "the
     216                 :            : best" in minimizing total collisions across experiments Tim Peters ran (on
     217                 :            : both normal and pathological cases), but 4 and 6 weren't significantly worse.
     218                 :            : 
     219                 :            : Historical: Reimer Behrends contributed the idea of using a polynomial-based
     220                 :            : approach, using repeated multiplication by x in GF(2**n) where an irreducible
     221                 :            : polynomial for each table size was chosen such that x was a primitive root.
     222                 :            : Christian Tismer later extended that to use division by x instead, as an
     223                 :            : efficient way to get the high bits of the hash code into play.  This scheme
     224                 :            : also gave excellent collision statistics, but was more expensive:  two
     225                 :            : if-tests were required inside the loop; computing "the next" index took about
     226                 :            : the same number of operations but without as much potential parallelism
     227                 :            : (e.g., computing 5*j can go on at the same time as computing 1+perturb in the
     228                 :            : above, and then shifting perturb can be done while the table index is being
     229                 :            : masked); and the PyDictObject struct required a member to hold the table's
     230                 :            : polynomial.  In Tim's experiments the current scheme ran faster, produced
     231                 :            : equally good collision statistics, needed less code & used less memory.
     232                 :            : 
     233                 :            : */
     234                 :            : 
     235                 :            : static int dictresize(PyInterpreterState *interp, PyDictObject *mp,
     236                 :            :                       uint8_t log_newsize, int unicode);
     237                 :            : 
     238                 :            : static PyObject* dict_iter(PyDictObject *dict);
     239                 :            : 
     240                 :            : #include "clinic/dictobject.c.h"
     241                 :            : 
     242                 :            : 
     243                 :            : #if PyDict_MAXFREELIST > 0
     244                 :            : static struct _Py_dict_state *
     245                 :    3535921 : get_dict_state(PyInterpreterState *interp)
     246                 :            : {
     247                 :    3535921 :     return &interp->dict_state;
     248                 :            : }
     249                 :            : #endif
     250                 :            : 
     251                 :            : 
     252                 :            : void
     253                 :        137 : _PyDict_ClearFreeList(PyInterpreterState *interp)
     254                 :            : {
     255                 :            : #if PyDict_MAXFREELIST > 0
     256                 :        137 :     struct _Py_dict_state *state = &interp->dict_state;
     257         [ +  + ]:       9102 :     while (state->numfree) {
     258                 :       8965 :         PyDictObject *op = state->free_list[--state->numfree];
     259                 :            :         assert(PyDict_CheckExact(op));
     260                 :       8965 :         PyObject_GC_Del(op);
     261                 :            :     }
     262         [ +  + ]:       8950 :     while (state->keys_numfree) {
     263                 :       8813 :         PyObject_Free(state->keys_free_list[--state->keys_numfree]);
     264                 :            :     }
     265                 :            : #endif
     266                 :        137 : }
     267                 :            : 
     268                 :            : 
     269                 :            : void
     270                 :         25 : _PyDict_Fini(PyInterpreterState *interp)
     271                 :            : {
     272                 :         25 :     _PyDict_ClearFreeList(interp);
     273                 :            : #if defined(Py_DEBUG) && PyDict_MAXFREELIST > 0
     274                 :            :     struct _Py_dict_state *state = &interp->dict_state;
     275                 :            :     state->numfree = -1;
     276                 :            :     state->keys_numfree = -1;
     277                 :            : #endif
     278                 :         25 : }
     279                 :            : 
     280                 :            : static inline Py_hash_t
     281                 :   18883179 : unicode_get_hash(PyObject *o)
     282                 :            : {
     283                 :            :     assert(PyUnicode_CheckExact(o));
     284                 :   18883179 :     return _PyASCIIObject_CAST(o)->hash;
     285                 :            : }
     286                 :            : 
     287                 :            : /* Print summary info about the state of the optimized allocator */
     288                 :            : void
     289                 :          0 : _PyDict_DebugMallocStats(FILE *out)
     290                 :            : {
     291                 :            : #if PyDict_MAXFREELIST > 0
     292                 :          0 :     PyInterpreterState *interp = _PyInterpreterState_GET();
     293                 :          0 :     struct _Py_dict_state *state = get_dict_state(interp);
     294                 :          0 :     _PyDebugAllocatorStats(out, "free PyDictObject",
     295                 :            :                            state->numfree, sizeof(PyDictObject));
     296                 :            : #endif
     297                 :          0 : }
     298                 :            : 
     299                 :            : #define DK_MASK(dk) (DK_SIZE(dk)-1)
     300                 :            : 
     301                 :            : static void free_keys_object(PyInterpreterState *interp, PyDictKeysObject *keys);
     302                 :            : 
     303                 :            : static inline void
     304                 :     745160 : dictkeys_incref(PyDictKeysObject *dk)
     305                 :            : {
     306                 :            : #ifdef Py_REF_DEBUG
     307                 :            :     _Py_IncRefTotal();
     308                 :            : #endif
     309                 :     745160 :     dk->dk_refcnt++;
     310                 :     745160 : }
     311                 :            : 
     312                 :            : static inline void
     313                 :    1319832 : dictkeys_decref(PyInterpreterState *interp, PyDictKeysObject *dk)
     314                 :            : {
     315                 :            :     assert(dk->dk_refcnt > 0);
     316                 :            : #ifdef Py_REF_DEBUG
     317                 :            :     _Py_DecRefTotal();
     318                 :            : #endif
     319         [ +  + ]:    1319832 :     if (--dk->dk_refcnt == 0) {
     320                 :     576632 :         free_keys_object(interp, dk);
     321                 :            :     }
     322                 :    1319832 : }
     323                 :            : 
     324                 :            : /* lookup indices.  returns DKIX_EMPTY, DKIX_DUMMY, or ix >=0 */
     325                 :            : static inline Py_ssize_t
     326                 :   25872714 : dictkeys_get_index(const PyDictKeysObject *keys, Py_ssize_t i)
     327                 :            : {
     328                 :   25872714 :     int log2size = DK_LOG_SIZE(keys);
     329                 :            :     Py_ssize_t ix;
     330                 :            : 
     331         [ +  + ]:   25872714 :     if (log2size < 8) {
     332                 :   23090746 :         const int8_t *indices = (const int8_t*)(keys->dk_indices);
     333                 :   23090746 :         ix = indices[i];
     334                 :            :     }
     335         [ +  - ]:    2781968 :     else if (log2size < 16) {
     336                 :    2781968 :         const int16_t *indices = (const int16_t*)(keys->dk_indices);
     337                 :    2781968 :         ix = indices[i];
     338                 :            :     }
     339                 :            : #if SIZEOF_VOID_P > 4
     340         [ #  # ]:          0 :     else if (log2size >= 32) {
     341                 :          0 :         const int64_t *indices = (const int64_t*)(keys->dk_indices);
     342                 :          0 :         ix = indices[i];
     343                 :            :     }
     344                 :            : #endif
     345                 :            :     else {
     346                 :          0 :         const int32_t *indices = (const int32_t*)(keys->dk_indices);
     347                 :          0 :         ix = indices[i];
     348                 :            :     }
     349                 :            :     assert(ix >= DKIX_DUMMY);
     350                 :   25872714 :     return ix;
     351                 :            : }
     352                 :            : 
     353                 :            : /* write to indices. */
     354                 :            : static inline void
     355                 :    6216532 : dictkeys_set_index(PyDictKeysObject *keys, Py_ssize_t i, Py_ssize_t ix)
     356                 :            : {
     357                 :    6216532 :     int log2size = DK_LOG_SIZE(keys);
     358                 :            : 
     359                 :            :     assert(ix >= DKIX_DUMMY);
     360                 :            :     assert(keys->dk_version == 0);
     361                 :            : 
     362         [ +  + ]:    6216532 :     if (log2size < 8) {
     363                 :    5542218 :         int8_t *indices = (int8_t*)(keys->dk_indices);
     364                 :            :         assert(ix <= 0x7f);
     365                 :    5542218 :         indices[i] = (char)ix;
     366                 :            :     }
     367         [ +  - ]:     674314 :     else if (log2size < 16) {
     368                 :     674314 :         int16_t *indices = (int16_t*)(keys->dk_indices);
     369                 :            :         assert(ix <= 0x7fff);
     370                 :     674314 :         indices[i] = (int16_t)ix;
     371                 :            :     }
     372                 :            : #if SIZEOF_VOID_P > 4
     373         [ #  # ]:          0 :     else if (log2size >= 32) {
     374                 :          0 :         int64_t *indices = (int64_t*)(keys->dk_indices);
     375                 :          0 :         indices[i] = ix;
     376                 :            :     }
     377                 :            : #endif
     378                 :            :     else {
     379                 :          0 :         int32_t *indices = (int32_t*)(keys->dk_indices);
     380                 :            :         assert(ix <= 0x7fffffff);
     381                 :          0 :         indices[i] = (int32_t)ix;
     382                 :            :     }
     383                 :    6216532 : }
     384                 :            : 
     385                 :            : 
     386                 :            : /* USABLE_FRACTION is the maximum dictionary load.
     387                 :            :  * Increasing this ratio makes dictionaries more dense resulting in more
     388                 :            :  * collisions.  Decreasing it improves sparseness at the expense of spreading
     389                 :            :  * indices over more cache lines and at the cost of total memory consumed.
     390                 :            :  *
     391                 :            :  * USABLE_FRACTION must obey the following:
     392                 :            :  *     (0 < USABLE_FRACTION(n) < n) for all n >= 2
     393                 :            :  *
     394                 :            :  * USABLE_FRACTION should be quick to calculate.
     395                 :            :  * Fractions around 1/2 to 2/3 seem to work well in practice.
     396                 :            :  */
     397                 :            : #define USABLE_FRACTION(n) (((n) << 1)/3)
     398                 :            : 
     399                 :            : /* Find the smallest dk_size >= minsize. */
     400                 :            : static inline uint8_t
     401                 :     464552 : calculate_log2_keysize(Py_ssize_t minsize)
     402                 :            : {
     403                 :            : #if SIZEOF_LONG == SIZEOF_SIZE_T
     404                 :     464552 :     minsize = (minsize | PyDict_MINSIZE) - 1;
     405                 :     464552 :     return _Py_bit_length(minsize | (PyDict_MINSIZE-1));
     406                 :            : #elif defined(_MSC_VER)
     407                 :            :     // On 64bit Windows, sizeof(long) == 4.
     408                 :            :     minsize = (minsize | PyDict_MINSIZE) - 1;
     409                 :            :     unsigned long msb;
     410                 :            :     _BitScanReverse64(&msb, (uint64_t)minsize);
     411                 :            :     return (uint8_t)(msb + 1);
     412                 :            : #else
     413                 :            :     uint8_t log2_size;
     414                 :            :     for (log2_size = PyDict_LOG_MINSIZE;
     415                 :            :             (((Py_ssize_t)1) << log2_size) < minsize;
     416                 :            :             log2_size++)
     417                 :            :         ;
     418                 :            :     return log2_size;
     419                 :            : #endif
     420                 :            : }
     421                 :            : 
     422                 :            : /* estimate_keysize is reverse function of USABLE_FRACTION.
     423                 :            :  *
     424                 :            :  * This can be used to reserve enough size to insert n entries without
     425                 :            :  * resizing.
     426                 :            :  */
     427                 :            : static inline uint8_t
     428                 :       2106 : estimate_log2_keysize(Py_ssize_t n)
     429                 :            : {
     430                 :       2106 :     return calculate_log2_keysize((n*3 + 1) / 2);
     431                 :            : }
     432                 :            : 
     433                 :            : 
     434                 :            : /* GROWTH_RATE. Growth rate upon hitting maximum load.
     435                 :            :  * Currently set to used*3.
     436                 :            :  * This means that dicts double in size when growing without deletions,
     437                 :            :  * but have more head room when the number of deletions is on a par with the
     438                 :            :  * number of insertions.  See also bpo-17563 and bpo-33205.
     439                 :            :  *
     440                 :            :  * GROWTH_RATE was set to used*4 up to version 3.2.
     441                 :            :  * GROWTH_RATE was set to used*2 in version 3.3.0
     442                 :            :  * GROWTH_RATE was set to used*2 + capacity/2 in 3.4.0-3.6.0.
     443                 :            :  */
     444                 :            : #define GROWTH_RATE(d) ((d)->ma_used*3)
     445                 :            : 
     446                 :            : /* This immutable, empty PyDictKeysObject is used for PyDict_Clear()
     447                 :            :  * (which cannot fail and thus can do no allocation).
     448                 :            :  */
     449                 :            : static PyDictKeysObject empty_keys_struct = {
     450                 :            :         1, /* dk_refcnt */
     451                 :            :         0, /* dk_log2_size */
     452                 :            :         0, /* dk_log2_index_bytes */
     453                 :            :         DICT_KEYS_UNICODE, /* dk_kind */
     454                 :            :         1, /* dk_version */
     455                 :            :         0, /* dk_usable (immutable) */
     456                 :            :         0, /* dk_nentries */
     457                 :            :         {DKIX_EMPTY, DKIX_EMPTY, DKIX_EMPTY, DKIX_EMPTY,
     458                 :            :          DKIX_EMPTY, DKIX_EMPTY, DKIX_EMPTY, DKIX_EMPTY}, /* dk_indices */
     459                 :            : };
     460                 :            : 
     461                 :            : #define Py_EMPTY_KEYS &empty_keys_struct
     462                 :            : 
     463                 :            : /* Uncomment to check the dict content in _PyDict_CheckConsistency() */
     464                 :            : // #define DEBUG_PYDICT
     465                 :            : 
     466                 :            : #ifdef DEBUG_PYDICT
     467                 :            : #  define ASSERT_CONSISTENT(op) assert(_PyDict_CheckConsistency((PyObject *)(op), 1))
     468                 :            : #else
     469                 :            : #  define ASSERT_CONSISTENT(op) assert(_PyDict_CheckConsistency((PyObject *)(op), 0))
     470                 :            : #endif
     471                 :            : 
     472                 :            : static inline int
     473                 :      50010 : get_index_from_order(PyDictObject *mp, Py_ssize_t i)
     474                 :            : {
     475                 :            :     assert(mp->ma_used <= SHARED_KEYS_MAX_SIZE);
     476                 :            :     assert(i < (((char *)mp->ma_values)[-2]));
     477                 :      50010 :     return ((char *)mp->ma_values)[-3-i];
     478                 :            : }
     479                 :            : 
     480                 :            : #ifdef DEBUG_PYDICT
     481                 :            : static void
     482                 :            : dump_entries(PyDictKeysObject *dk)
     483                 :            : {
     484                 :            :     for (Py_ssize_t i = 0; i < dk->dk_nentries; i++) {
     485                 :            :         if (DK_IS_UNICODE(dk)) {
     486                 :            :             PyDictUnicodeEntry *ep = &DK_UNICODE_ENTRIES(dk)[i];
     487                 :            :             printf("key=%p value=%p\n", ep->me_key, ep->me_value);
     488                 :            :         }
     489                 :            :         else {
     490                 :            :             PyDictKeyEntry *ep = &DK_ENTRIES(dk)[i];
     491                 :            :             printf("key=%p hash=%lx value=%p\n", ep->me_key, ep->me_hash, ep->me_value);
     492                 :            :         }
     493                 :            :     }
     494                 :            : }
     495                 :            : #endif
     496                 :            : 
     497                 :            : int
     498                 :          0 : _PyDict_CheckConsistency(PyObject *op, int check_content)
     499                 :            : {
     500                 :            : #define CHECK(expr) \
     501                 :            :     do { if (!(expr)) { _PyObject_ASSERT_FAILED_MSG(op, Py_STRINGIFY(expr)); } } while (0)
     502                 :            : 
     503                 :            :     assert(op != NULL);
     504         [ #  # ]:          0 :     CHECK(PyDict_Check(op));
     505                 :          0 :     PyDictObject *mp = (PyDictObject *)op;
     506                 :            : 
     507                 :          0 :     PyDictKeysObject *keys = mp->ma_keys;
     508                 :          0 :     int splitted = _PyDict_HasSplitTable(mp);
     509                 :          0 :     Py_ssize_t usable = USABLE_FRACTION(DK_SIZE(keys));
     510                 :            : 
     511   [ #  #  #  # ]:          0 :     CHECK(0 <= mp->ma_used && mp->ma_used <= usable);
     512   [ #  #  #  # ]:          0 :     CHECK(0 <= keys->dk_usable && keys->dk_usable <= usable);
     513   [ #  #  #  # ]:          0 :     CHECK(0 <= keys->dk_nentries && keys->dk_nentries <= usable);
     514         [ #  # ]:          0 :     CHECK(keys->dk_usable + keys->dk_nentries <= usable);
     515                 :            : 
     516         [ #  # ]:          0 :     if (!splitted) {
     517                 :            :         /* combined table */
     518         [ #  # ]:          0 :         CHECK(keys->dk_kind != DICT_KEYS_SPLIT);
     519   [ #  #  #  # ]:          0 :         CHECK(keys->dk_refcnt == 1 || keys == Py_EMPTY_KEYS);
     520                 :            :     }
     521                 :            :     else {
     522         [ #  # ]:          0 :         CHECK(keys->dk_kind == DICT_KEYS_SPLIT);
     523         [ #  # ]:          0 :         CHECK(mp->ma_used <= SHARED_KEYS_MAX_SIZE);
     524                 :            :     }
     525                 :            : 
     526         [ #  # ]:          0 :     if (check_content) {
     527         [ #  # ]:          0 :         for (Py_ssize_t i=0; i < DK_SIZE(keys); i++) {
     528                 :          0 :             Py_ssize_t ix = dictkeys_get_index(keys, i);
     529   [ #  #  #  # ]:          0 :             CHECK(DKIX_DUMMY <= ix && ix <= usable);
     530                 :            :         }
     531                 :            : 
     532         [ #  # ]:          0 :         if (keys->dk_kind == DICT_KEYS_GENERAL) {
     533                 :          0 :             PyDictKeyEntry *entries = DK_ENTRIES(keys);
     534         [ #  # ]:          0 :             for (Py_ssize_t i=0; i < usable; i++) {
     535                 :          0 :                 PyDictKeyEntry *entry = &entries[i];
     536                 :          0 :                 PyObject *key = entry->me_key;
     537                 :            : 
     538         [ #  # ]:          0 :                 if (key != NULL) {
     539                 :            :                     /* test_dict fails if PyObject_Hash() is called again */
     540         [ #  # ]:          0 :                     CHECK(entry->me_hash != -1);
     541         [ #  # ]:          0 :                     CHECK(entry->me_value != NULL);
     542                 :            : 
     543         [ #  # ]:          0 :                     if (PyUnicode_CheckExact(key)) {
     544                 :          0 :                         Py_hash_t hash = unicode_get_hash(key);
     545         [ #  # ]:          0 :                         CHECK(entry->me_hash == hash);
     546                 :            :                     }
     547                 :            :                 }
     548                 :            :             }
     549                 :            :         }
     550                 :            :         else {
     551                 :          0 :             PyDictUnicodeEntry *entries = DK_UNICODE_ENTRIES(keys);
     552         [ #  # ]:          0 :             for (Py_ssize_t i=0; i < usable; i++) {
     553                 :          0 :                 PyDictUnicodeEntry *entry = &entries[i];
     554                 :          0 :                 PyObject *key = entry->me_key;
     555                 :            : 
     556         [ #  # ]:          0 :                 if (key != NULL) {
     557         [ #  # ]:          0 :                     CHECK(PyUnicode_CheckExact(key));
     558                 :          0 :                     Py_hash_t hash = unicode_get_hash(key);
     559         [ #  # ]:          0 :                     CHECK(hash != -1);
     560         [ #  # ]:          0 :                     if (!splitted) {
     561         [ #  # ]:          0 :                         CHECK(entry->me_value != NULL);
     562                 :            :                     }
     563                 :            :                 }
     564                 :            : 
     565         [ #  # ]:          0 :                 if (splitted) {
     566         [ #  # ]:          0 :                     CHECK(entry->me_value == NULL);
     567                 :            :                 }
     568                 :            :             }
     569                 :            :         }
     570                 :            : 
     571         [ #  # ]:          0 :         if (splitted) {
     572         [ #  # ]:          0 :             CHECK(mp->ma_used <= SHARED_KEYS_MAX_SIZE);
     573                 :            :             /* splitted table */
     574                 :          0 :             int duplicate_check = 0;
     575         [ #  # ]:          0 :             for (Py_ssize_t i=0; i < mp->ma_used; i++) {
     576                 :          0 :                 int index = get_index_from_order(mp, i);
     577         [ #  # ]:          0 :                 CHECK((duplicate_check & (1<<index)) == 0);
     578                 :          0 :                 duplicate_check |= (1<<index);
     579         [ #  # ]:          0 :                 CHECK(mp->ma_values->values[index] != NULL);
     580                 :            :             }
     581                 :            :         }
     582                 :            :     }
     583                 :          0 :     return 1;
     584                 :            : 
     585                 :            : #undef CHECK
     586                 :            : }
     587                 :            : 
     588                 :            : 
     589                 :            : static PyDictKeysObject*
     590                 :     998465 : new_keys_object(PyInterpreterState *interp, uint8_t log2_size, bool unicode)
     591                 :            : {
     592                 :            :     PyDictKeysObject *dk;
     593                 :            :     Py_ssize_t usable;
     594                 :            :     int log2_bytes;
     595         [ +  + ]:     998465 :     size_t entry_size = unicode ? sizeof(PyDictUnicodeEntry) : sizeof(PyDictKeyEntry);
     596                 :            : 
     597                 :            :     assert(log2_size >= PyDict_LOG_MINSIZE);
     598                 :            : 
     599                 :     998465 :     usable = USABLE_FRACTION((size_t)1<<log2_size);
     600         [ +  + ]:     998465 :     if (log2_size < 8) {
     601                 :     997291 :         log2_bytes = log2_size;
     602                 :            :     }
     603         [ +  - ]:       1174 :     else if (log2_size < 16) {
     604                 :       1174 :         log2_bytes = log2_size + 1;
     605                 :            :     }
     606                 :            : #if SIZEOF_VOID_P > 4
     607         [ #  # ]:          0 :     else if (log2_size >= 32) {
     608                 :          0 :         log2_bytes = log2_size + 3;
     609                 :            :     }
     610                 :            : #endif
     611                 :            :     else {
     612                 :          0 :         log2_bytes = log2_size + 2;
     613                 :            :     }
     614                 :            : 
     615                 :            : #if PyDict_MAXFREELIST > 0
     616                 :     998465 :     struct _Py_dict_state *state = get_dict_state(interp);
     617                 :            : #ifdef Py_DEBUG
     618                 :            :     // new_keys_object() must not be called after _PyDict_Fini()
     619                 :            :     assert(state->keys_numfree != -1);
     620                 :            : #endif
     621   [ +  +  +  +  :     998465 :     if (log2_size == PyDict_LOG_MINSIZE && unicode && state->keys_numfree > 0) {
                   +  + ]
     622                 :     504060 :         dk = state->keys_free_list[--state->keys_numfree];
     623                 :     504060 :         OBJECT_STAT_INC(from_freelist);
     624                 :            :     }
     625                 :            :     else
     626                 :            : #endif
     627                 :            :     {
     628                 :     494405 :         dk = PyObject_Malloc(sizeof(PyDictKeysObject)
     629                 :     494405 :                              + ((size_t)1 << log2_bytes)
     630                 :     494405 :                              + entry_size * usable);
     631         [ -  + ]:     494405 :         if (dk == NULL) {
     632                 :          0 :             PyErr_NoMemory();
     633                 :          0 :             return NULL;
     634                 :            :         }
     635                 :            :     }
     636                 :            : #ifdef Py_REF_DEBUG
     637                 :            :     _Py_IncRefTotal();
     638                 :            : #endif
     639                 :     998465 :     dk->dk_refcnt = 1;
     640                 :     998465 :     dk->dk_log2_size = log2_size;
     641                 :     998465 :     dk->dk_log2_index_bytes = log2_bytes;
     642                 :     998465 :     dk->dk_kind = unicode ? DICT_KEYS_UNICODE : DICT_KEYS_GENERAL;
     643                 :     998465 :     dk->dk_nentries = 0;
     644                 :     998465 :     dk->dk_usable = usable;
     645                 :     998465 :     dk->dk_version = 0;
     646                 :     998465 :     memset(&dk->dk_indices[0], 0xff, ((size_t)1 << log2_bytes));
     647                 :     998465 :     memset(&dk->dk_indices[(size_t)1 << log2_bytes], 0, entry_size * usable);
     648                 :     998465 :     return dk;
     649                 :            : }
     650                 :            : 
     651                 :            : static void
     652                 :     576632 : free_keys_object(PyInterpreterState *interp, PyDictKeysObject *keys)
     653                 :            : {
     654                 :            :     assert(keys != Py_EMPTY_KEYS);
     655         [ +  + ]:     576632 :     if (DK_IS_UNICODE(keys)) {
     656                 :     549046 :         PyDictUnicodeEntry *entries = DK_UNICODE_ENTRIES(keys);
     657                 :            :         Py_ssize_t i, n;
     658         [ +  + ]:    3710050 :         for (i = 0, n = keys->dk_nentries; i < n; i++) {
     659                 :    3161004 :             Py_XDECREF(entries[i].me_key);
     660                 :    3161004 :             Py_XDECREF(entries[i].me_value);
     661                 :            :         }
     662                 :            :     }
     663                 :            :     else {
     664                 :      27586 :         PyDictKeyEntry *entries = DK_ENTRIES(keys);
     665                 :            :         Py_ssize_t i, n;
     666         [ +  + ]:     259696 :         for (i = 0, n = keys->dk_nentries; i < n; i++) {
     667                 :     232110 :             Py_XDECREF(entries[i].me_key);
     668                 :     232110 :             Py_XDECREF(entries[i].me_value);
     669                 :            :         }
     670                 :            :     }
     671                 :            : #if PyDict_MAXFREELIST > 0
     672                 :     576632 :     struct _Py_dict_state *state = get_dict_state(interp);
     673                 :            : #ifdef Py_DEBUG
     674                 :            :     // free_keys_object() must not be called after _PyDict_Fini()
     675                 :            :     assert(state->keys_numfree != -1);
     676                 :            : #endif
     677         [ +  + ]:     576632 :     if (DK_LOG_SIZE(keys) == PyDict_LOG_MINSIZE
     678         [ +  + ]:     123540 :             && state->keys_numfree < PyDict_MAXFREELIST
     679         [ +  + ]:      89839 :             && DK_IS_UNICODE(keys)) {
     680                 :      84425 :         state->keys_free_list[state->keys_numfree++] = keys;
     681                 :            :         OBJECT_STAT_INC(to_freelist);
     682                 :      84425 :         return;
     683                 :            :     }
     684                 :            : #endif
     685                 :     492207 :     PyObject_Free(keys);
     686                 :            : }
     687                 :            : 
     688                 :            : static inline PyDictValues*
     689                 :     139093 : new_values(size_t size)
     690                 :            : {
     691                 :            :     assert(size >= 1);
     692                 :     139093 :     size_t prefix_size = _Py_SIZE_ROUND_UP(size+2, sizeof(PyObject *));
     693                 :            :     assert(prefix_size < 256);
     694                 :     139093 :     size_t n = prefix_size + size * sizeof(PyObject *);
     695                 :     139093 :     uint8_t *mem = PyMem_Malloc(n);
     696         [ -  + ]:     139093 :     if (mem == NULL) {
     697                 :          0 :         return NULL;
     698                 :            :     }
     699                 :            :     assert(prefix_size % sizeof(PyObject *) == 0);
     700                 :     139093 :     mem[prefix_size-1] = (uint8_t)prefix_size;
     701                 :     139093 :     return (PyDictValues*)(mem + prefix_size);
     702                 :            : }
     703                 :            : 
     704                 :            : static inline void
     705                 :     139079 : free_values(PyDictValues *values)
     706                 :            : {
     707                 :     139079 :     int prefix_size = ((uint8_t *)values)[-1];
     708                 :     139079 :     PyMem_Free(((char *)values)-prefix_size);
     709                 :     139079 : }
     710                 :            : 
     711                 :            : /* Consumes a reference to the keys object */
     712                 :            : static PyObject *
     713                 :     749393 : new_dict(PyInterpreterState *interp,
     714                 :            :          PyDictKeysObject *keys, PyDictValues *values,
     715                 :            :          Py_ssize_t used, int free_values_on_failure)
     716                 :            : {
     717                 :            :     PyDictObject *mp;
     718                 :            :     assert(keys != NULL);
     719                 :            : #if PyDict_MAXFREELIST > 0
     720                 :     749393 :     struct _Py_dict_state *state = get_dict_state(interp);
     721                 :            : #ifdef Py_DEBUG
     722                 :            :     // new_dict() must not be called after _PyDict_Fini()
     723                 :            :     assert(state->numfree != -1);
     724                 :            : #endif
     725         [ +  + ]:     749393 :     if (state->numfree) {
     726                 :     316365 :         mp = state->free_list[--state->numfree];
     727                 :            :         assert (mp != NULL);
     728                 :            :         assert (Py_IS_TYPE(mp, &PyDict_Type));
     729                 :            :         OBJECT_STAT_INC(from_freelist);
     730                 :     316365 :         _Py_NewReference((PyObject *)mp);
     731                 :            :     }
     732                 :            :     else
     733                 :            : #endif
     734                 :            :     {
     735                 :     433028 :         mp = PyObject_GC_New(PyDictObject, &PyDict_Type);
     736         [ -  + ]:     433028 :         if (mp == NULL) {
     737                 :          0 :             dictkeys_decref(interp, keys);
     738         [ #  # ]:          0 :             if (free_values_on_failure) {
     739                 :          0 :                 free_values(values);
     740                 :            :             }
     741                 :          0 :             return NULL;
     742                 :            :         }
     743                 :            :     }
     744                 :     749393 :     mp->ma_keys = keys;
     745                 :     749393 :     mp->ma_values = values;
     746                 :     749393 :     mp->ma_used = used;
     747                 :     749393 :     mp->ma_version_tag = DICT_NEXT_VERSION(interp);
     748                 :            :     ASSERT_CONSISTENT(mp);
     749                 :     749393 :     return (PyObject *)mp;
     750                 :            : }
     751                 :            : 
     752                 :            : static inline size_t
     753                 :     139888 : shared_keys_usable_size(PyDictKeysObject *keys)
     754                 :            : {
     755                 :     139888 :     return (size_t)keys->dk_nentries + (size_t)keys->dk_usable;
     756                 :            : }
     757                 :            : 
     758                 :            : /* Consumes a reference to the keys object */
     759                 :            : static PyObject *
     760                 :        826 : new_dict_with_shared_keys(PyInterpreterState *interp, PyDictKeysObject *keys)
     761                 :            : {
     762                 :        826 :     size_t size = shared_keys_usable_size(keys);
     763                 :        826 :     PyDictValues *values = new_values(size);
     764         [ -  + ]:        826 :     if (values == NULL) {
     765                 :          0 :         dictkeys_decref(interp, keys);
     766                 :          0 :         return PyErr_NoMemory();
     767                 :            :     }
     768                 :        826 :     ((char *)values)[-2] = 0;
     769         [ +  + ]:      25606 :     for (size_t i = 0; i < size; i++) {
     770                 :      24780 :         values->values[i] = NULL;
     771                 :            :     }
     772                 :        826 :     return new_dict(interp, keys, values, 0, 1);
     773                 :            : }
     774                 :            : 
     775                 :            : 
     776                 :            : static PyDictKeysObject *
     777                 :      42101 : clone_combined_dict_keys(PyDictObject *orig)
     778                 :            : {
     779                 :            :     assert(PyDict_Check(orig));
     780                 :            :     assert(Py_TYPE(orig)->tp_iter == (getiterfunc)dict_iter);
     781                 :            :     assert(orig->ma_values == NULL);
     782                 :            :     assert(orig->ma_keys->dk_refcnt == 1);
     783                 :            : 
     784                 :      42101 :     size_t keys_size = _PyDict_KeysSize(orig->ma_keys);
     785                 :      42101 :     PyDictKeysObject *keys = PyObject_Malloc(keys_size);
     786         [ -  + ]:      42101 :     if (keys == NULL) {
     787                 :          0 :         PyErr_NoMemory();
     788                 :          0 :         return NULL;
     789                 :            :     }
     790                 :            : 
     791                 :      42101 :     memcpy(keys, orig->ma_keys, keys_size);
     792                 :            : 
     793                 :            :     /* After copying key/value pairs, we need to incref all
     794                 :            :        keys and values and they are about to be co-owned by a
     795                 :            :        new dict object. */
     796                 :            :     PyObject **pkey, **pvalue;
     797                 :            :     size_t offs;
     798         [ +  + ]:      42101 :     if (DK_IS_UNICODE(orig->ma_keys)) {
     799                 :      41925 :         PyDictUnicodeEntry *ep0 = DK_UNICODE_ENTRIES(keys);
     800                 :      41925 :         pkey = &ep0->me_key;
     801                 :      41925 :         pvalue = &ep0->me_value;
     802                 :      41925 :         offs = sizeof(PyDictUnicodeEntry) / sizeof(PyObject*);
     803                 :            :     }
     804                 :            :     else {
     805                 :        176 :         PyDictKeyEntry *ep0 = DK_ENTRIES(keys);
     806                 :        176 :         pkey = &ep0->me_key;
     807                 :        176 :         pvalue = &ep0->me_value;
     808                 :        176 :         offs = sizeof(PyDictKeyEntry) / sizeof(PyObject*);
     809                 :            :     }
     810                 :            : 
     811                 :      42101 :     Py_ssize_t n = keys->dk_nentries;
     812         [ +  + ]:     179595 :     for (Py_ssize_t i = 0; i < n; i++) {
     813                 :     137494 :         PyObject *value = *pvalue;
     814         [ +  + ]:     137494 :         if (value != NULL) {
     815                 :     134625 :             Py_INCREF(value);
     816                 :     134625 :             Py_INCREF(*pkey);
     817                 :            :         }
     818                 :     137494 :         pvalue += offs;
     819                 :     137494 :         pkey += offs;
     820                 :            :     }
     821                 :            : 
     822                 :            :     /* Since we copied the keys table we now have an extra reference
     823                 :            :        in the system.  Manually call increment _Py_RefTotal to signal that
     824                 :            :        we have it now; calling dictkeys_incref would be an error as
     825                 :            :        keys->dk_refcnt is already set to 1 (after memcpy). */
     826                 :            : #ifdef Py_REF_DEBUG
     827                 :            :     _Py_IncRefTotal();
     828                 :            : #endif
     829                 :      42101 :     return keys;
     830                 :            : }
     831                 :            : 
     832                 :            : PyObject *
     833                 :     734656 : PyDict_New(void)
     834                 :            : {
     835                 :     734656 :     PyInterpreterState *interp = _PyInterpreterState_GET();
     836                 :     734656 :     dictkeys_incref(Py_EMPTY_KEYS);
     837                 :     734656 :     return new_dict(interp, Py_EMPTY_KEYS, NULL, 0, 0);
     838                 :            : }
     839                 :            : 
     840                 :            : /* Search index of hash table from offset of entry table */
     841                 :            : static Py_ssize_t
     842                 :     111717 : lookdict_index(PyDictKeysObject *k, Py_hash_t hash, Py_ssize_t index)
     843                 :            : {
     844                 :     111717 :     size_t mask = DK_MASK(k);
     845                 :     111717 :     size_t perturb = (size_t)hash;
     846                 :     111717 :     size_t i = (size_t)hash & mask;
     847                 :            : 
     848                 :      49345 :     for (;;) {
     849                 :     161062 :         Py_ssize_t ix = dictkeys_get_index(k, i);
     850         [ +  + ]:     161062 :         if (ix == index) {
     851                 :     111717 :             return i;
     852                 :            :         }
     853         [ -  + ]:      49345 :         if (ix == DKIX_EMPTY) {
     854                 :          0 :             return DKIX_EMPTY;
     855                 :            :         }
     856                 :      49345 :         perturb >>= PERTURB_SHIFT;
     857                 :      49345 :         i = mask & (i*5 + perturb + 1);
     858                 :            :     }
     859                 :            :     Py_UNREACHABLE();
     860                 :            : }
     861                 :            : 
     862                 :            : // Search non-Unicode key from Unicode table
     863                 :            : static Py_ssize_t
     864                 :       8121 : unicodekeys_lookup_generic(PyDictObject *mp, PyDictKeysObject* dk, PyObject *key, Py_hash_t hash)
     865                 :            : {
     866                 :       8121 :     PyDictUnicodeEntry *ep0 = DK_UNICODE_ENTRIES(dk);
     867                 :       8121 :     size_t mask = DK_MASK(dk);
     868                 :       8121 :     size_t perturb = hash;
     869                 :       8121 :     size_t i = (size_t)hash & mask;
     870                 :            :     Py_ssize_t ix;
     871                 :            :     for (;;) {
     872                 :       8969 :         ix = dictkeys_get_index(dk, i);
     873         [ +  + ]:       8969 :         if (ix >= 0) {
     874                 :        848 :             PyDictUnicodeEntry *ep = &ep0[ix];
     875                 :            :             assert(ep->me_key != NULL);
     876                 :            :             assert(PyUnicode_CheckExact(ep->me_key));
     877         [ -  + ]:        848 :             if (ep->me_key == key) {
     878                 :          0 :                 return ix;
     879                 :            :             }
     880         [ +  + ]:        848 :             if (unicode_get_hash(ep->me_key) == hash) {
     881                 :          5 :                 PyObject *startkey = ep->me_key;
     882                 :          5 :                 Py_INCREF(startkey);
     883                 :          5 :                 int cmp = PyObject_RichCompareBool(startkey, key, Py_EQ);
     884                 :          5 :                 Py_DECREF(startkey);
     885         [ -  + ]:          5 :                 if (cmp < 0) {
     886                 :          0 :                     return DKIX_ERROR;
     887                 :            :                 }
     888   [ +  -  +  - ]:          5 :                 if (dk == mp->ma_keys && ep->me_key == startkey) {
     889         [ -  + ]:          5 :                     if (cmp > 0) {
     890                 :          0 :                         return ix;
     891                 :            :                     }
     892                 :            :                 }
     893                 :            :                 else {
     894                 :            :                     /* The dict was mutated, restart */
     895                 :          0 :                     return DKIX_KEY_CHANGED;
     896                 :            :                 }
     897                 :            :             }
     898                 :            :         }
     899         [ +  - ]:       8121 :         else if (ix == DKIX_EMPTY) {
     900                 :       8121 :             return DKIX_EMPTY;
     901                 :            :         }
     902                 :        848 :         perturb >>= PERTURB_SHIFT;
     903                 :        848 :         i = mask & (i*5 + perturb + 1);
     904                 :            :     }
     905                 :            :     Py_UNREACHABLE();
     906                 :            : }
     907                 :            : 
     908                 :            : // Search Unicode key from Unicode table.
     909                 :            : static Py_ssize_t _Py_HOT_FUNCTION
     910                 :   11978967 : unicodekeys_lookup_unicode(PyDictKeysObject* dk, PyObject *key, Py_hash_t hash)
     911                 :            : {
     912                 :   11978967 :     PyDictUnicodeEntry *ep0 = DK_UNICODE_ENTRIES(dk);
     913                 :   11978967 :     size_t mask = DK_MASK(dk);
     914                 :   11978967 :     size_t perturb = hash;
     915                 :   11978967 :     size_t i = (size_t)hash & mask;
     916                 :            :     Py_ssize_t ix;
     917                 :            :     for (;;) {
     918                 :   13695953 :         ix = dictkeys_get_index(dk, i);
     919         [ +  + ]:   13695953 :         if (ix >= 0) {
     920                 :    7997806 :             PyDictUnicodeEntry *ep = &ep0[ix];
     921                 :            :             assert(ep->me_key != NULL);
     922                 :            :             assert(PyUnicode_CheckExact(ep->me_key));
     923   [ +  +  +  + ]:   13089231 :             if (ep->me_key == key ||
     924         [ +  - ]:    7110232 :                     (unicode_get_hash(ep->me_key) == hash && unicode_eq(ep->me_key, key))) {
     925                 :    4925188 :                 return ix;
     926                 :            :             }
     927                 :            :         }
     928         [ +  + ]:    5698147 :         else if (ix == DKIX_EMPTY) {
     929                 :    5644460 :             return DKIX_EMPTY;
     930                 :            :         }
     931                 :    3126305 :         perturb >>= PERTURB_SHIFT;
     932                 :    3126305 :         i = mask & (i*5 + perturb + 1);
     933                 :    3126305 :         ix = dictkeys_get_index(dk, i);
     934         [ +  + ]:    3126305 :         if (ix >= 0) {
     935                 :    1944170 :             PyDictUnicodeEntry *ep = &ep0[ix];
     936                 :            :             assert(ep->me_key != NULL);
     937                 :            :             assert(PyUnicode_CheckExact(ep->me_key));
     938   [ +  +  +  + ]:    3720400 :             if (ep->me_key == key ||
     939         [ +  - ]:    1862524 :                     (unicode_get_hash(ep->me_key) == hash && unicode_eq(ep->me_key, key))) {
     940                 :     254234 :                 return ix;
     941                 :            :             }
     942                 :            :         }
     943         [ +  + ]:    1182135 :         else if (ix == DKIX_EMPTY) {
     944                 :    1155085 :             return DKIX_EMPTY;
     945                 :            :         }
     946                 :    1716986 :         perturb >>= PERTURB_SHIFT;
     947                 :    1716986 :         i = mask & (i*5 + perturb + 1);
     948                 :            :     }
     949                 :            :     Py_UNREACHABLE();
     950                 :            : }
     951                 :            : 
     952                 :            : // Search key from Generic table.
     953                 :            : static Py_ssize_t
     954                 :     478303 : dictkeys_generic_lookup(PyDictObject *mp, PyDictKeysObject* dk, PyObject *key, Py_hash_t hash)
     955                 :            : {
     956                 :     478303 :     PyDictKeyEntry *ep0 = DK_ENTRIES(dk);
     957                 :     478303 :     size_t mask = DK_MASK(dk);
     958                 :     478303 :     size_t perturb = hash;
     959                 :     478303 :     size_t i = (size_t)hash & mask;
     960                 :            :     Py_ssize_t ix;
     961                 :            :     for (;;) {
     962                 :     953552 :         ix = dictkeys_get_index(dk, i);
     963         [ +  + ]:     953552 :         if (ix >= 0) {
     964                 :     579632 :             PyDictKeyEntry *ep = &ep0[ix];
     965                 :            :             assert(ep->me_key != NULL);
     966         [ +  + ]:     579632 :             if (ep->me_key == key) {
     967                 :      35733 :                 return ix;
     968                 :            :             }
     969         [ +  + ]:     543899 :             if (ep->me_hash == hash) {
     970                 :      74717 :                 PyObject *startkey = ep->me_key;
     971                 :      74717 :                 Py_INCREF(startkey);
     972                 :      74717 :                 int cmp = PyObject_RichCompareBool(startkey, key, Py_EQ);
     973                 :      74717 :                 Py_DECREF(startkey);
     974         [ -  + ]:      74717 :                 if (cmp < 0) {
     975                 :          0 :                     return DKIX_ERROR;
     976                 :            :                 }
     977   [ +  -  +  - ]:      74717 :                 if (dk == mp->ma_keys && ep->me_key == startkey) {
     978         [ +  + ]:      74717 :                     if (cmp > 0) {
     979                 :      73368 :                         return ix;
     980                 :            :                     }
     981                 :            :                 }
     982                 :            :                 else {
     983                 :            :                     /* The dict was mutated, restart */
     984                 :          0 :                     return DKIX_KEY_CHANGED;
     985                 :            :                 }
     986                 :            :             }
     987                 :            :         }
     988         [ +  + ]:     373920 :         else if (ix == DKIX_EMPTY) {
     989                 :     369202 :             return DKIX_EMPTY;
     990                 :            :         }
     991                 :     475249 :         perturb >>= PERTURB_SHIFT;
     992                 :     475249 :         i = mask & (i*5 + perturb + 1);
     993                 :            :     }
     994                 :            :     Py_UNREACHABLE();
     995                 :            : }
     996                 :            : 
     997                 :            : /* Lookup a string in a (all unicode) dict keys.
     998                 :            :  * Returns DKIX_ERROR if key is not a string,
     999                 :            :  * or if the dict keys is not all strings.
    1000                 :            :  * If the keys is present then return the index of key.
    1001                 :            :  * If the key is not present then return DKIX_EMPTY.
    1002                 :            :  */
    1003                 :            : Py_ssize_t
    1004                 :     223579 : _PyDictKeys_StringLookup(PyDictKeysObject* dk, PyObject *key)
    1005                 :            : {
    1006                 :     223579 :     DictKeysKind kind = dk->dk_kind;
    1007   [ +  -  -  + ]:     223579 :     if (!PyUnicode_CheckExact(key) || kind == DICT_KEYS_GENERAL) {
    1008                 :          0 :         return DKIX_ERROR;
    1009                 :            :     }
    1010                 :     223579 :     Py_hash_t hash = unicode_get_hash(key);
    1011         [ -  + ]:     223579 :     if (hash == -1) {
    1012                 :          0 :         hash = PyUnicode_Type.tp_hash(key);
    1013         [ #  # ]:          0 :         if (hash == -1) {
    1014                 :          0 :             PyErr_Clear();
    1015                 :          0 :             return DKIX_ERROR;
    1016                 :            :         }
    1017                 :            :     }
    1018                 :     223579 :     return unicodekeys_lookup_unicode(dk, key, hash);
    1019                 :            : }
    1020                 :            : 
    1021                 :            : /*
    1022                 :            : The basic lookup function used by all operations.
    1023                 :            : This is based on Algorithm D from Knuth Vol. 3, Sec. 6.4.
    1024                 :            : Open addressing is preferred over chaining since the link overhead for
    1025                 :            : chaining would be substantial (100% with typical malloc overhead).
    1026                 :            : 
    1027                 :            : The initial probe index is computed as hash mod the table size. Subsequent
    1028                 :            : probe indices are computed as explained earlier.
    1029                 :            : 
    1030                 :            : All arithmetic on hash should ignore overflow.
    1031                 :            : 
    1032                 :            : _Py_dict_lookup() is general-purpose, and may return DKIX_ERROR if (and only if) a
    1033                 :            : comparison raises an exception.
    1034                 :            : When the key isn't found a DKIX_EMPTY is returned.
    1035                 :            : */
    1036                 :            : Py_ssize_t
    1037                 :   11831163 : _Py_dict_lookup(PyDictObject *mp, PyObject *key, Py_hash_t hash, PyObject **value_addr)
    1038                 :            : {
    1039                 :            :     PyDictKeysObject *dk;
    1040                 :            :     DictKeysKind kind;
    1041                 :            :     Py_ssize_t ix;
    1042                 :            : 
    1043                 :   11831163 : start:
    1044                 :   11831163 :     dk = mp->ma_keys;
    1045                 :   11831163 :     kind = dk->dk_kind;
    1046                 :            : 
    1047         [ +  + ]:   11831163 :     if (kind != DICT_KEYS_GENERAL) {
    1048         [ +  + ]:   11352860 :         if (PyUnicode_CheckExact(key)) {
    1049                 :   11344739 :             ix = unicodekeys_lookup_unicode(dk, key, hash);
    1050                 :            :         }
    1051                 :            :         else {
    1052                 :       8121 :             ix = unicodekeys_lookup_generic(mp, dk, key, hash);
    1053         [ -  + ]:       8121 :             if (ix == DKIX_KEY_CHANGED) {
    1054                 :          0 :                 goto start;
    1055                 :            :             }
    1056                 :            :         }
    1057                 :            : 
    1058         [ +  + ]:   11352860 :         if (ix >= 0) {
    1059         [ +  + ]:    4736190 :             if (kind == DICT_KEYS_SPLIT) {
    1060                 :     554192 :                 *value_addr = mp->ma_values->values[ix];
    1061                 :            :             }
    1062                 :            :             else {
    1063                 :    4181998 :                 *value_addr = DK_UNICODE_ENTRIES(dk)[ix].me_value;
    1064                 :            :             }
    1065                 :            :         }
    1066                 :            :         else {
    1067                 :    6616670 :             *value_addr = NULL;
    1068                 :            :         }
    1069                 :            :     }
    1070                 :            :     else {
    1071                 :     478303 :         ix = dictkeys_generic_lookup(mp, dk, key, hash);
    1072         [ -  + ]:     478303 :         if (ix == DKIX_KEY_CHANGED) {
    1073                 :          0 :             goto start;
    1074                 :            :         }
    1075         [ +  + ]:     478303 :         if (ix >= 0) {
    1076                 :     109101 :             *value_addr = DK_ENTRIES(dk)[ix].me_value;
    1077                 :            :         }
    1078                 :            :         else {
    1079                 :     369202 :             *value_addr = NULL;
    1080                 :            :         }
    1081                 :            :     }
    1082                 :            : 
    1083                 :   11831163 :     return ix;
    1084                 :            : }
    1085                 :            : 
    1086                 :            : int
    1087                 :        124 : _PyDict_HasOnlyStringKeys(PyObject *dict)
    1088                 :            : {
    1089                 :        124 :     Py_ssize_t pos = 0;
    1090                 :            :     PyObject *key, *value;
    1091                 :            :     assert(PyDict_Check(dict));
    1092                 :            :     /* Shortcut */
    1093         [ +  - ]:        124 :     if (((PyDictObject *)dict)->ma_keys->dk_kind != DICT_KEYS_GENERAL)
    1094                 :        124 :         return 1;
    1095         [ #  # ]:          0 :     while (PyDict_Next(dict, &pos, &key, &value))
    1096         [ #  # ]:          0 :         if (!PyUnicode_Check(key))
    1097                 :          0 :             return 0;
    1098                 :          0 :     return 1;
    1099                 :            : }
    1100                 :            : 
    1101                 :            : #define MAINTAIN_TRACKING(mp, key, value) \
    1102                 :            :     do { \
    1103                 :            :         if (!_PyObject_GC_IS_TRACKED(mp)) { \
    1104                 :            :             if (_PyObject_GC_MAY_BE_TRACKED(key) || \
    1105                 :            :                 _PyObject_GC_MAY_BE_TRACKED(value)) { \
    1106                 :            :                 _PyObject_GC_TRACK(mp); \
    1107                 :            :             } \
    1108                 :            :         } \
    1109                 :            :     } while(0)
    1110                 :            : 
    1111                 :            : void
    1112                 :      61845 : _PyDict_MaybeUntrack(PyObject *op)
    1113                 :            : {
    1114                 :            :     PyDictObject *mp;
    1115                 :            :     PyObject *value;
    1116                 :            :     Py_ssize_t i, numentries;
    1117                 :            : 
    1118   [ +  -  -  + ]:      61845 :     if (!PyDict_CheckExact(op) || !_PyObject_GC_IS_TRACKED(op))
    1119                 :          0 :         return;
    1120                 :            : 
    1121                 :      61845 :     mp = (PyDictObject *) op;
    1122                 :      61845 :     numentries = mp->ma_keys->dk_nentries;
    1123         [ +  + ]:      61845 :     if (_PyDict_HasSplitTable(mp)) {
    1124         [ +  + ]:       6168 :         for (i = 0; i < numentries; i++) {
    1125         [ +  + ]:       6167 :             if ((value = mp->ma_values->values[i]) == NULL)
    1126                 :          1 :                 continue;
    1127         [ +  + ]:       6166 :             if (_PyObject_GC_MAY_BE_TRACKED(value)) {
    1128                 :       2079 :                 return;
    1129                 :            :             }
    1130                 :            :         }
    1131                 :            :     }
    1132                 :            :     else {
    1133         [ +  + ]:      59765 :         if (DK_IS_UNICODE(mp->ma_keys)) {
    1134                 :      49836 :             PyDictUnicodeEntry *ep0 = DK_UNICODE_ENTRIES(mp->ma_keys);
    1135         [ +  + ]:     134415 :             for (i = 0; i < numentries; i++) {
    1136         [ +  + ]:     132661 :                 if ((value = ep0[i].me_value) == NULL)
    1137                 :       7340 :                     continue;
    1138         [ +  + ]:     125321 :                 if (_PyObject_GC_MAY_BE_TRACKED(value))
    1139                 :      48082 :                     return;
    1140                 :            :             }
    1141                 :            :         }
    1142                 :            :         else {
    1143                 :       9929 :             PyDictKeyEntry *ep0 = DK_ENTRIES(mp->ma_keys);
    1144         [ +  + ]:      13058 :             for (i = 0; i < numentries; i++) {
    1145         [ +  + ]:      13026 :                 if ((value = ep0[i].me_value) == NULL)
    1146                 :        117 :                     continue;
    1147   [ +  +  +  + ]:      16043 :                 if (_PyObject_GC_MAY_BE_TRACKED(value) ||
    1148                 :       3134 :                     _PyObject_GC_MAY_BE_TRACKED(ep0[i].me_key))
    1149                 :       9897 :                     return;
    1150                 :            :             }
    1151                 :            :         }
    1152                 :            :     }
    1153                 :       1787 :     _PyObject_GC_UNTRACK(op);
    1154                 :            : }
    1155                 :            : 
    1156                 :            : /* Internal function to find slot for an item from its hash
    1157                 :            :    when it is known that the key is not present in the dict.
    1158                 :            : 
    1159                 :            :    The dict must be combined. */
    1160                 :            : static Py_ssize_t
    1161                 :    2751820 : find_empty_slot(PyDictKeysObject *keys, Py_hash_t hash)
    1162                 :            : {
    1163                 :            :     assert(keys != NULL);
    1164                 :            : 
    1165                 :    2751820 :     const size_t mask = DK_MASK(keys);
    1166                 :    2751820 :     size_t i = hash & mask;
    1167                 :    2751820 :     Py_ssize_t ix = dictkeys_get_index(keys, i);
    1168         [ +  + ]:    4121251 :     for (size_t perturb = hash; ix >= 0;) {
    1169                 :    1369431 :         perturb >>= PERTURB_SHIFT;
    1170                 :    1369431 :         i = (i*5 + perturb + 1) & mask;
    1171                 :    1369431 :         ix = dictkeys_get_index(keys, i);
    1172                 :            :     }
    1173                 :    2751820 :     return i;
    1174                 :            : }
    1175                 :            : 
    1176                 :            : static int
    1177                 :     462446 : insertion_resize(PyInterpreterState *interp, PyDictObject *mp, int unicode)
    1178                 :            : {
    1179                 :     462446 :     return dictresize(interp, mp, calculate_log2_keysize(GROWTH_RATE(mp)), unicode);
    1180                 :            : }
    1181                 :            : 
    1182                 :            : static Py_ssize_t
    1183                 :     410649 : insert_into_dictkeys(PyDictKeysObject *keys, PyObject *name)
    1184                 :            : {
    1185                 :            :     assert(PyUnicode_CheckExact(name));
    1186                 :     410649 :     Py_hash_t hash = unicode_get_hash(name);
    1187         [ -  + ]:     410649 :     if (hash == -1) {
    1188                 :          0 :         hash = PyUnicode_Type.tp_hash(name);
    1189         [ #  # ]:          0 :         if (hash == -1) {
    1190                 :          0 :             PyErr_Clear();
    1191                 :          0 :             return DKIX_EMPTY;
    1192                 :            :         }
    1193                 :            :     }
    1194                 :     410649 :     Py_ssize_t ix = unicodekeys_lookup_unicode(keys, name, hash);
    1195         [ +  + ]:     410649 :     if (ix == DKIX_EMPTY) {
    1196         [ +  + ]:       2063 :         if (keys->dk_usable <= 0) {
    1197                 :          2 :             return DKIX_EMPTY;
    1198                 :            :         }
    1199                 :            :         /* Insert into new slot. */
    1200                 :       2061 :         keys->dk_version = 0;
    1201                 :       2061 :         Py_ssize_t hashpos = find_empty_slot(keys, hash);
    1202                 :       2061 :         ix = keys->dk_nentries;
    1203                 :       2061 :         PyDictUnicodeEntry *ep = &DK_UNICODE_ENTRIES(keys)[ix];
    1204                 :       2061 :         dictkeys_set_index(keys, hashpos, ix);
    1205                 :            :         assert(ep->me_key == NULL);
    1206                 :       2061 :         ep->me_key = Py_NewRef(name);
    1207                 :       2061 :         keys->dk_usable--;
    1208                 :       2061 :         keys->dk_nentries++;
    1209                 :            :     }
    1210                 :            :     assert (ix < SHARED_KEYS_MAX_SIZE);
    1211                 :     410647 :     return ix;
    1212                 :            : }
    1213                 :            : 
    1214                 :            : /*
    1215                 :            : Internal routine to insert a new item into the table.
    1216                 :            : Used both by the internal resize routine and by the public insert routine.
    1217                 :            : Returns -1 if an error occurred, or 0 on success.
    1218                 :            : Consumes key and value references.
    1219                 :            : */
    1220                 :            : static int
    1221                 :    3020461 : insertdict(PyInterpreterState *interp, PyDictObject *mp,
    1222                 :            :            PyObject *key, Py_hash_t hash, PyObject *value)
    1223                 :            : {
    1224                 :            :     PyObject *old_value;
    1225                 :            : 
    1226   [ +  +  +  + ]:    3020461 :     if (DK_IS_UNICODE(mp->ma_keys) && !PyUnicode_CheckExact(key)) {
    1227         [ -  + ]:       3532 :         if (insertion_resize(interp, mp, 0) < 0)
    1228                 :          0 :             goto Fail;
    1229                 :            :         assert(mp->ma_keys->dk_kind == DICT_KEYS_GENERAL);
    1230                 :            :     }
    1231                 :            : 
    1232                 :    3020461 :     Py_ssize_t ix = _Py_dict_lookup(mp, key, hash, &old_value);
    1233         [ -  + ]:    3020461 :     if (ix == DKIX_ERROR)
    1234                 :          0 :         goto Fail;
    1235                 :            : 
    1236   [ +  +  +  +  :    3020461 :     MAINTAIN_TRACKING(mp, key, value);
                   +  + ]
    1237                 :            : 
    1238         [ +  + ]:    3020461 :     if (ix == DKIX_EMPTY) {
    1239                 :    2526044 :         uint64_t new_version = _PyDict_NotifyEvent(
    1240                 :            :                 interp, PyDict_EVENT_ADDED, mp, key, value);
    1241                 :            :         /* Insert into new slot. */
    1242                 :    2526044 :         mp->ma_keys->dk_version = 0;
    1243                 :            :         assert(old_value == NULL);
    1244         [ +  + ]:    2526044 :         if (mp->ma_keys->dk_usable <= 0) {
    1245                 :            :             /* Need to resize. */
    1246         [ -  + ]:     452818 :             if (insertion_resize(interp, mp, 1) < 0)
    1247                 :          0 :                 goto Fail;
    1248                 :            :         }
    1249                 :            : 
    1250                 :    2526044 :         Py_ssize_t hashpos = find_empty_slot(mp->ma_keys, hash);
    1251                 :    2526044 :         dictkeys_set_index(mp->ma_keys, hashpos, mp->ma_keys->dk_nentries);
    1252                 :            : 
    1253         [ +  + ]:    2526044 :         if (DK_IS_UNICODE(mp->ma_keys)) {
    1254                 :            :             PyDictUnicodeEntry *ep;
    1255                 :    2387608 :             ep = &DK_UNICODE_ENTRIES(mp->ma_keys)[mp->ma_keys->dk_nentries];
    1256                 :    2387608 :             ep->me_key = key;
    1257         [ +  + ]:    2387608 :             if (mp->ma_values) {
    1258                 :        383 :                 Py_ssize_t index = mp->ma_keys->dk_nentries;
    1259                 :        383 :                 _PyDictValues_AddToInsertionOrder(mp->ma_values, index);
    1260                 :            :                 assert (mp->ma_values->values[index] == NULL);
    1261                 :        383 :                 mp->ma_values->values[index] = value;
    1262                 :            :             }
    1263                 :            :             else {
    1264                 :    2387225 :                 ep->me_value = value;
    1265                 :            :             }
    1266                 :            :         }
    1267                 :            :         else {
    1268                 :            :             PyDictKeyEntry *ep;
    1269                 :     138436 :             ep = &DK_ENTRIES(mp->ma_keys)[mp->ma_keys->dk_nentries];
    1270                 :     138436 :             ep->me_key = key;
    1271                 :     138436 :             ep->me_hash = hash;
    1272                 :     138436 :             ep->me_value = value;
    1273                 :            :         }
    1274                 :    2526044 :         mp->ma_used++;
    1275                 :    2526044 :         mp->ma_version_tag = new_version;
    1276                 :    2526044 :         mp->ma_keys->dk_usable--;
    1277                 :    2526044 :         mp->ma_keys->dk_nentries++;
    1278                 :            :         assert(mp->ma_keys->dk_usable >= 0);
    1279                 :            :         ASSERT_CONSISTENT(mp);
    1280                 :    2526044 :         return 0;
    1281                 :            :     }
    1282                 :            : 
    1283         [ +  + ]:     494417 :     if (old_value != value) {
    1284                 :     342561 :         uint64_t new_version = _PyDict_NotifyEvent(
    1285                 :            :                 interp, PyDict_EVENT_MODIFIED, mp, key, value);
    1286         [ +  + ]:     342561 :         if (_PyDict_HasSplitTable(mp)) {
    1287                 :     214597 :             mp->ma_values->values[ix] = value;
    1288         [ +  + ]:     214597 :             if (old_value == NULL) {
    1289                 :      14584 :                 _PyDictValues_AddToInsertionOrder(mp->ma_values, ix);
    1290                 :      14584 :                 mp->ma_used++;
    1291                 :            :             }
    1292                 :            :         }
    1293                 :            :         else {
    1294                 :            :             assert(old_value != NULL);
    1295         [ +  + ]:     127964 :             if (DK_IS_UNICODE(mp->ma_keys)) {
    1296                 :     127940 :                 DK_UNICODE_ENTRIES(mp->ma_keys)[ix].me_value = value;
    1297                 :            :             }
    1298                 :            :             else {
    1299                 :         24 :                 DK_ENTRIES(mp->ma_keys)[ix].me_value = value;
    1300                 :            :             }
    1301                 :            :         }
    1302                 :     342561 :         mp->ma_version_tag = new_version;
    1303                 :            :     }
    1304                 :     494417 :     Py_XDECREF(old_value); /* which **CAN** re-enter (see issue #22653) */
    1305                 :            :     ASSERT_CONSISTENT(mp);
    1306                 :     494417 :     Py_DECREF(key);
    1307                 :     494417 :     return 0;
    1308                 :            : 
    1309                 :          0 : Fail:
    1310                 :          0 :     Py_DECREF(value);
    1311                 :          0 :     Py_DECREF(key);
    1312                 :          0 :     return -1;
    1313                 :            : }
    1314                 :            : 
    1315                 :            : // Same to insertdict but specialized for ma_keys = Py_EMPTY_KEYS.
    1316                 :            : // Consumes key and value references.
    1317                 :            : static int
    1318                 :     531972 : insert_to_emptydict(PyInterpreterState *interp, PyDictObject *mp,
    1319                 :            :                     PyObject *key, Py_hash_t hash, PyObject *value)
    1320                 :            : {
    1321                 :            :     assert(mp->ma_keys == Py_EMPTY_KEYS);
    1322                 :            : 
    1323                 :     531972 :     uint64_t new_version = _PyDict_NotifyEvent(
    1324                 :            :             interp, PyDict_EVENT_ADDED, mp, key, value);
    1325                 :            : 
    1326                 :     531972 :     int unicode = PyUnicode_CheckExact(key);
    1327                 :     531972 :     PyDictKeysObject *newkeys = new_keys_object(
    1328                 :            :             interp, PyDict_LOG_MINSIZE, unicode);
    1329         [ -  + ]:     531972 :     if (newkeys == NULL) {
    1330                 :          0 :         Py_DECREF(key);
    1331                 :          0 :         Py_DECREF(value);
    1332                 :          0 :         return -1;
    1333                 :            :     }
    1334                 :     531972 :     dictkeys_decref(interp, Py_EMPTY_KEYS);
    1335                 :     531972 :     mp->ma_keys = newkeys;
    1336                 :     531972 :     mp->ma_values = NULL;
    1337                 :            : 
    1338   [ +  +  +  +  :     531972 :     MAINTAIN_TRACKING(mp, key, value);
                   +  + ]
    1339                 :            : 
    1340                 :     531972 :     size_t hashpos = (size_t)hash & (PyDict_MINSIZE-1);
    1341                 :     531972 :     dictkeys_set_index(mp->ma_keys, hashpos, 0);
    1342         [ +  + ]:     531972 :     if (unicode) {
    1343                 :     509890 :         PyDictUnicodeEntry *ep = DK_UNICODE_ENTRIES(mp->ma_keys);
    1344                 :     509890 :         ep->me_key = key;
    1345                 :     509890 :         ep->me_value = value;
    1346                 :            :     }
    1347                 :            :     else {
    1348                 :      22082 :         PyDictKeyEntry *ep = DK_ENTRIES(mp->ma_keys);
    1349                 :      22082 :         ep->me_key = key;
    1350                 :      22082 :         ep->me_hash = hash;
    1351                 :      22082 :         ep->me_value = value;
    1352                 :            :     }
    1353                 :     531972 :     mp->ma_used++;
    1354                 :     531972 :     mp->ma_version_tag = new_version;
    1355                 :     531972 :     mp->ma_keys->dk_usable--;
    1356                 :     531972 :     mp->ma_keys->dk_nentries++;
    1357                 :     531972 :     return 0;
    1358                 :            : }
    1359                 :            : 
    1360                 :            : /*
    1361                 :            : Internal routine used by dictresize() to build a hashtable of entries.
    1362                 :            : */
    1363                 :            : static void
    1364                 :      24355 : build_indices_generic(PyDictKeysObject *keys, PyDictKeyEntry *ep, Py_ssize_t n)
    1365                 :            : {
    1366                 :      24355 :     size_t mask = DK_MASK(keys);
    1367         [ +  + ]:     260111 :     for (Py_ssize_t ix = 0; ix != n; ix++, ep++) {
    1368                 :     235756 :         Py_hash_t hash = ep->me_hash;
    1369                 :     235756 :         size_t i = hash & mask;
    1370         [ +  + ]:     301231 :         for (size_t perturb = hash; dictkeys_get_index(keys, i) != DKIX_EMPTY;) {
    1371                 :      65475 :             perturb >>= PERTURB_SHIFT;
    1372                 :      65475 :             i = mask & (i*5 + perturb + 1);
    1373                 :            :         }
    1374                 :     235756 :         dictkeys_set_index(keys, i, ix);
    1375                 :            :     }
    1376                 :      24355 : }
    1377                 :            : 
    1378                 :            : static void
    1379                 :     439956 : build_indices_unicode(PyDictKeysObject *keys, PyDictUnicodeEntry *ep, Py_ssize_t n)
    1380                 :            : {
    1381                 :     439956 :     size_t mask = DK_MASK(keys);
    1382         [ +  + ]:    3025223 :     for (Py_ssize_t ix = 0; ix != n; ix++, ep++) {
    1383                 :    2585267 :         Py_hash_t hash = unicode_get_hash(ep->me_key);
    1384                 :            :         assert(hash != -1);
    1385                 :    2585267 :         size_t i = hash & mask;
    1386         [ +  + ]:    3504391 :         for (size_t perturb = hash; dictkeys_get_index(keys, i) != DKIX_EMPTY;) {
    1387                 :     919124 :             perturb >>= PERTURB_SHIFT;
    1388                 :     919124 :             i = mask & (i*5 + perturb + 1);
    1389                 :            :         }
    1390                 :    2585267 :         dictkeys_set_index(keys, i, ix);
    1391                 :            :     }
    1392                 :     439956 : }
    1393                 :            : 
    1394                 :            : /*
    1395                 :            : Restructure the table by allocating a new table and reinserting all
    1396                 :            : items again.  When entries have been deleted, the new table may
    1397                 :            : actually be smaller than the old one.
    1398                 :            : If a table is split (its keys and hashes are shared, its values are not),
    1399                 :            : then the values are temporarily copied into the table, it is resized as
    1400                 :            : a combined table, then the me_value slots in the old table are NULLed out.
    1401                 :            : After resizing a table is always combined.
    1402                 :            : 
    1403                 :            : This function supports:
    1404                 :            :  - Unicode split -> Unicode combined or Generic
    1405                 :            :  - Unicode combined -> Unicode combined or Generic
    1406                 :            :  - Generic -> Generic
    1407                 :            : */
    1408                 :            : static int
    1409                 :     464311 : dictresize(PyInterpreterState *interp, PyDictObject *mp,
    1410                 :            :            uint8_t log2_newsize, int unicode)
    1411                 :            : {
    1412                 :            :     PyDictKeysObject *oldkeys;
    1413                 :            :     PyDictValues *oldvalues;
    1414                 :            : 
    1415         [ -  + ]:     464311 :     if (log2_newsize >= SIZEOF_SIZE_T*8) {
    1416                 :          0 :         PyErr_NoMemory();
    1417                 :          0 :         return -1;
    1418                 :            :     }
    1419                 :            :     assert(log2_newsize >= PyDict_LOG_MINSIZE);
    1420                 :            : 
    1421                 :     464311 :     oldkeys = mp->ma_keys;
    1422                 :     464311 :     oldvalues = mp->ma_values;
    1423                 :            : 
    1424         [ +  + ]:     464311 :     if (!DK_IS_UNICODE(oldkeys)) {
    1425                 :      18882 :         unicode = 0;
    1426                 :            :     }
    1427                 :            : 
    1428                 :            :     /* NOTE: Current odict checks mp->ma_keys to detect resize happen.
    1429                 :            :      * So we can't reuse oldkeys even if oldkeys->dk_size == newsize.
    1430                 :            :      * TODO: Try reusing oldkeys when reimplement odict.
    1431                 :            :      */
    1432                 :            : 
    1433                 :            :     /* Allocate a new table. */
    1434                 :     464311 :     mp->ma_keys = new_keys_object(interp, log2_newsize, unicode);
    1435         [ -  + ]:     464311 :     if (mp->ma_keys == NULL) {
    1436                 :          0 :         mp->ma_keys = oldkeys;
    1437                 :          0 :         return -1;
    1438                 :            :     }
    1439                 :            :     // New table must be large enough.
    1440                 :            :     assert(mp->ma_keys->dk_usable >= mp->ma_used);
    1441                 :            : 
    1442                 :     464311 :     Py_ssize_t numentries = mp->ma_used;
    1443                 :            : 
    1444         [ +  + ]:     464311 :     if (oldvalues != NULL) {
    1445                 :          2 :          PyDictUnicodeEntry *oldentries = DK_UNICODE_ENTRIES(oldkeys);
    1446                 :            :         /* Convert split table into new combined table.
    1447                 :            :          * We must incref keys; we can transfer values.
    1448                 :            :          */
    1449         [ -  + ]:          2 :         if (mp->ma_keys->dk_kind == DICT_KEYS_GENERAL) {
    1450                 :            :             // split -> generic
    1451                 :          0 :             PyDictKeyEntry *newentries = DK_ENTRIES(mp->ma_keys);
    1452                 :            : 
    1453         [ #  # ]:          0 :             for (Py_ssize_t i = 0; i < numentries; i++) {
    1454                 :          0 :                 int index = get_index_from_order(mp, i);
    1455                 :          0 :                 PyDictUnicodeEntry *ep = &oldentries[index];
    1456                 :            :                 assert(oldvalues->values[index] != NULL);
    1457                 :          0 :                 newentries[i].me_key = Py_NewRef(ep->me_key);
    1458                 :          0 :                 newentries[i].me_hash = unicode_get_hash(ep->me_key);
    1459                 :          0 :                 newentries[i].me_value = oldvalues->values[index];
    1460                 :            :             }
    1461                 :          0 :             build_indices_generic(mp->ma_keys, newentries, numentries);
    1462                 :            :         }
    1463                 :            :         else { // split -> combined unicode
    1464                 :          2 :             PyDictUnicodeEntry *newentries = DK_UNICODE_ENTRIES(mp->ma_keys);
    1465                 :            : 
    1466         [ +  + ]:         60 :             for (Py_ssize_t i = 0; i < numentries; i++) {
    1467                 :         58 :                 int index = get_index_from_order(mp, i);
    1468                 :         58 :                 PyDictUnicodeEntry *ep = &oldentries[index];
    1469                 :            :                 assert(oldvalues->values[index] != NULL);
    1470                 :         58 :                 newentries[i].me_key = Py_NewRef(ep->me_key);
    1471                 :         58 :                 newentries[i].me_value = oldvalues->values[index];
    1472                 :            :             }
    1473                 :          2 :             build_indices_unicode(mp->ma_keys, newentries, numentries);
    1474                 :            :         }
    1475                 :          2 :         dictkeys_decref(interp, oldkeys);
    1476                 :          2 :         mp->ma_values = NULL;
    1477                 :          2 :         free_values(oldvalues);
    1478                 :            :     }
    1479                 :            :     else {  // oldkeys is combined.
    1480         [ +  + ]:     464309 :         if (oldkeys->dk_kind == DICT_KEYS_GENERAL) {
    1481                 :            :             // generic -> generic
    1482                 :            :             assert(mp->ma_keys->dk_kind == DICT_KEYS_GENERAL);
    1483                 :      18882 :             PyDictKeyEntry *oldentries = DK_ENTRIES(oldkeys);
    1484                 :      18882 :             PyDictKeyEntry *newentries = DK_ENTRIES(mp->ma_keys);
    1485         [ +  + ]:      18882 :             if (oldkeys->dk_nentries == numentries) {
    1486                 :      18870 :                 memcpy(newentries, oldentries, numentries * sizeof(PyDictKeyEntry));
    1487                 :            :             }
    1488                 :            :             else {
    1489                 :         12 :                 PyDictKeyEntry *ep = oldentries;
    1490         [ +  + ]:       1345 :                 for (Py_ssize_t i = 0; i < numentries; i++) {
    1491         [ +  + ]:       1376 :                     while (ep->me_value == NULL)
    1492                 :         43 :                         ep++;
    1493                 :       1333 :                     newentries[i] = *ep++;
    1494                 :            :                 }
    1495                 :            :             }
    1496                 :      18882 :             build_indices_generic(mp->ma_keys, newentries, numentries);
    1497                 :            :         }
    1498                 :            :         else {  // oldkeys is combined unicode
    1499                 :     445427 :             PyDictUnicodeEntry *oldentries = DK_UNICODE_ENTRIES(oldkeys);
    1500         [ +  + ]:     445427 :             if (unicode) { // combined unicode -> combined unicode
    1501                 :     439954 :                 PyDictUnicodeEntry *newentries = DK_UNICODE_ENTRIES(mp->ma_keys);
    1502   [ +  +  +  - ]:     439954 :                 if (oldkeys->dk_nentries == numentries && mp->ma_keys->dk_kind == DICT_KEYS_UNICODE) {
    1503                 :     438628 :                     memcpy(newentries, oldentries, numentries * sizeof(PyDictUnicodeEntry));
    1504                 :            :                 }
    1505                 :            :                 else {
    1506                 :       1326 :                     PyDictUnicodeEntry *ep = oldentries;
    1507         [ +  + ]:     121197 :                     for (Py_ssize_t i = 0; i < numentries; i++) {
    1508         [ +  + ]:     125854 :                         while (ep->me_value == NULL)
    1509                 :       5983 :                             ep++;
    1510                 :     119871 :                         newentries[i] = *ep++;
    1511                 :            :                     }
    1512                 :            :                 }
    1513                 :     439954 :                 build_indices_unicode(mp->ma_keys, newentries, numentries);
    1514                 :            :             }
    1515                 :            :             else { // combined unicode -> generic
    1516                 :       5473 :                 PyDictKeyEntry *newentries = DK_ENTRIES(mp->ma_keys);
    1517                 :       5473 :                 PyDictUnicodeEntry *ep = oldentries;
    1518         [ +  + ]:      11725 :                 for (Py_ssize_t i = 0; i < numentries; i++) {
    1519         [ -  + ]:       6252 :                     while (ep->me_value == NULL)
    1520                 :          0 :                         ep++;
    1521                 :       6252 :                     newentries[i].me_key = ep->me_key;
    1522                 :       6252 :                     newentries[i].me_hash = unicode_get_hash(ep->me_key);
    1523                 :       6252 :                     newentries[i].me_value = ep->me_value;
    1524                 :       6252 :                     ep++;
    1525                 :            :                 }
    1526                 :       5473 :                 build_indices_generic(mp->ma_keys, newentries, numentries);
    1527                 :            :             }
    1528                 :            :         }
    1529                 :            : 
    1530                 :            :         // We can not use free_keys_object here because key's reference
    1531                 :            :         // are moved already.
    1532                 :            : #ifdef Py_REF_DEBUG
    1533                 :            :         _Py_DecRefTotal();
    1534                 :            : #endif
    1535         [ +  + ]:     464309 :         if (oldkeys == Py_EMPTY_KEYS) {
    1536                 :       1859 :             oldkeys->dk_refcnt--;
    1537                 :            :             assert(oldkeys->dk_refcnt > 0);
    1538                 :            :         }
    1539                 :            :         else {
    1540                 :            :             assert(oldkeys->dk_kind != DICT_KEYS_SPLIT);
    1541                 :            :             assert(oldkeys->dk_refcnt == 1);
    1542                 :            : #if PyDict_MAXFREELIST > 0
    1543                 :     462450 :             struct _Py_dict_state *state = get_dict_state(interp);
    1544                 :            : #ifdef Py_DEBUG
    1545                 :            :             // dictresize() must not be called after _PyDict_Fini()
    1546                 :            :             assert(state->keys_numfree != -1);
    1547                 :            : #endif
    1548         [ +  + ]:     462450 :             if (DK_LOG_SIZE(oldkeys) == PyDict_LOG_MINSIZE &&
    1549         [ +  + ]:     444921 :                     DK_IS_UNICODE(oldkeys) &&
    1550         [ +  + ]:     429021 :                     state->keys_numfree < PyDict_MAXFREELIST)
    1551                 :            :             {
    1552                 :     428614 :                 state->keys_free_list[state->keys_numfree++] = oldkeys;
    1553                 :     428614 :                 OBJECT_STAT_INC(to_freelist);
    1554                 :            :             }
    1555                 :            :             else
    1556                 :            : #endif
    1557                 :            :             {
    1558                 :      33836 :                 PyObject_Free(oldkeys);
    1559                 :            :             }
    1560                 :            :         }
    1561                 :            :     }
    1562                 :            : 
    1563                 :     464311 :     mp->ma_keys->dk_usable -= numentries;
    1564                 :     464311 :     mp->ma_keys->dk_nentries = numentries;
    1565                 :            :     ASSERT_CONSISTENT(mp);
    1566                 :     464311 :     return 0;
    1567                 :            : }
    1568                 :            : 
    1569                 :            : static PyObject *
    1570                 :     124998 : dict_new_presized(PyInterpreterState *interp, Py_ssize_t minused, bool unicode)
    1571                 :            : {
    1572                 :     124998 :     const uint8_t log2_max_presize = 17;
    1573                 :     124998 :     const Py_ssize_t max_presize = ((Py_ssize_t)1) << log2_max_presize;
    1574                 :            :     uint8_t log2_newsize;
    1575                 :            :     PyDictKeysObject *new_keys;
    1576                 :            : 
    1577         [ +  + ]:     124998 :     if (minused <= USABLE_FRACTION(PyDict_MINSIZE)) {
    1578                 :     124757 :         return PyDict_New();
    1579                 :            :     }
    1580                 :            :     /* There are no strict guarantee that returned dict can contain minused
    1581                 :            :      * items without resize.  So we create medium size dict instead of very
    1582                 :            :      * large dict or MemoryError.
    1583                 :            :      */
    1584         [ -  + ]:        241 :     if (minused > USABLE_FRACTION(max_presize)) {
    1585                 :          0 :         log2_newsize = log2_max_presize;
    1586                 :            :     }
    1587                 :            :     else {
    1588                 :        241 :         log2_newsize = estimate_log2_keysize(minused);
    1589                 :            :     }
    1590                 :            : 
    1591                 :        241 :     new_keys = new_keys_object(interp, log2_newsize, unicode);
    1592         [ -  + ]:        241 :     if (new_keys == NULL)
    1593                 :          0 :         return NULL;
    1594                 :        241 :     return new_dict(interp, new_keys, NULL, 0, 0);
    1595                 :            : }
    1596                 :            : 
    1597                 :            : PyObject *
    1598                 :          0 : _PyDict_NewPresized(Py_ssize_t minused)
    1599                 :            : {
    1600                 :          0 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    1601                 :          0 :     return dict_new_presized(interp, minused, false);
    1602                 :            : }
    1603                 :            : 
    1604                 :            : PyObject *
    1605                 :     124998 : _PyDict_FromItems(PyObject *const *keys, Py_ssize_t keys_offset,
    1606                 :            :                   PyObject *const *values, Py_ssize_t values_offset,
    1607                 :            :                   Py_ssize_t length)
    1608                 :            : {
    1609                 :     124998 :     bool unicode = true;
    1610                 :     124998 :     PyObject *const *ks = keys;
    1611                 :     124998 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    1612                 :            : 
    1613         [ +  + ]:     134167 :     for (Py_ssize_t i = 0; i < length; i++) {
    1614         [ +  + ]:       9232 :         if (!PyUnicode_CheckExact(*ks)) {
    1615                 :         63 :             unicode = false;
    1616                 :         63 :             break;
    1617                 :            :         }
    1618                 :       9169 :         ks += keys_offset;
    1619                 :            :     }
    1620                 :            : 
    1621                 :     124998 :     PyObject *dict = dict_new_presized(interp, length, unicode);
    1622         [ -  + ]:     124998 :     if (dict == NULL) {
    1623                 :          0 :         return NULL;
    1624                 :            :     }
    1625                 :            : 
    1626                 :     124998 :     ks = keys;
    1627                 :     124998 :     PyObject *const *vs = values;
    1628                 :            : 
    1629         [ +  + ]:     134418 :     for (Py_ssize_t i = 0; i < length; i++) {
    1630                 :       9420 :         PyObject *key = *ks;
    1631                 :       9420 :         PyObject *value = *vs;
    1632         [ -  + ]:       9420 :         if (PyDict_SetItem(dict, key, value) < 0) {
    1633                 :          0 :             Py_DECREF(dict);
    1634                 :          0 :             return NULL;
    1635                 :            :         }
    1636                 :       9420 :         ks += keys_offset;
    1637                 :       9420 :         vs += values_offset;
    1638                 :            :     }
    1639                 :            : 
    1640                 :     124998 :     return dict;
    1641                 :            : }
    1642                 :            : 
    1643                 :            : /* Note that, for historical reasons, PyDict_GetItem() suppresses all errors
    1644                 :            :  * that may occur (originally dicts supported only string keys, and exceptions
    1645                 :            :  * weren't possible).  So, while the original intent was that a NULL return
    1646                 :            :  * meant the key wasn't present, in reality it can mean that, or that an error
    1647                 :            :  * (suppressed) occurred while computing the key's hash, or that some error
    1648                 :            :  * (suppressed) occurred when comparing keys in the dict's internal probe
    1649                 :            :  * sequence.  A nasty example of the latter is when a Python-coded comparison
    1650                 :            :  * function hits a stack-depth error, which can cause this to return NULL
    1651                 :            :  * even if the key is present.
    1652                 :            :  */
    1653                 :            : PyObject *
    1654                 :      25993 : PyDict_GetItem(PyObject *op, PyObject *key)
    1655                 :            : {
    1656         [ -  + ]:      25993 :     if (!PyDict_Check(op)) {
    1657                 :          0 :         return NULL;
    1658                 :            :     }
    1659                 :      25993 :     PyDictObject *mp = (PyDictObject *)op;
    1660                 :            : 
    1661                 :            :     Py_hash_t hash;
    1662   [ +  -  -  + ]:      25993 :     if (!PyUnicode_CheckExact(key) || (hash = unicode_get_hash(key)) == -1) {
    1663                 :          0 :         hash = PyObject_Hash(key);
    1664         [ #  # ]:          0 :         if (hash == -1) {
    1665                 :          0 :             PyErr_Clear();
    1666                 :          0 :             return NULL;
    1667                 :            :         }
    1668                 :            :     }
    1669                 :            : 
    1670                 :      25993 :     PyThreadState *tstate = _PyThreadState_GET();
    1671                 :            : #ifdef Py_DEBUG
    1672                 :            :     // bpo-40839: Before Python 3.10, it was possible to call PyDict_GetItem()
    1673                 :            :     // with the GIL released.
    1674                 :            :     _Py_EnsureTstateNotNULL(tstate);
    1675                 :            : #endif
    1676                 :            : 
    1677                 :            :     /* Preserve the existing exception */
    1678                 :            :     PyObject *value;
    1679                 :            :     Py_ssize_t ix; (void)ix;
    1680                 :            : 
    1681                 :            : 
    1682                 :      25993 :     PyObject *exc = _PyErr_GetRaisedException(tstate);
    1683                 :      25993 :     ix = _Py_dict_lookup(mp, key, hash, &value);
    1684                 :            : 
    1685                 :            :     /* Ignore any exception raised by the lookup */
    1686                 :      25993 :     _PyErr_SetRaisedException(tstate, exc);
    1687                 :            : 
    1688                 :            : 
    1689                 :            :     assert(ix >= 0 || value == NULL);
    1690                 :      25993 :     return value;
    1691                 :            : }
    1692                 :            : 
    1693                 :            : Py_ssize_t
    1694                 :      16518 : _PyDict_LookupIndex(PyDictObject *mp, PyObject *key)
    1695                 :            : {
    1696                 :            :     PyObject *value;
    1697                 :            :     assert(PyDict_CheckExact((PyObject*)mp));
    1698                 :            :     assert(PyUnicode_CheckExact(key));
    1699                 :            : 
    1700                 :      16518 :     Py_hash_t hash = unicode_get_hash(key);
    1701         [ -  + ]:      16518 :     if (hash == -1) {
    1702                 :          0 :         hash = PyObject_Hash(key);
    1703         [ #  # ]:          0 :         if (hash == -1) {
    1704                 :          0 :             return -1;
    1705                 :            :         }
    1706                 :            :     }
    1707                 :            : 
    1708                 :      16518 :     return _Py_dict_lookup(mp, key, hash, &value);
    1709                 :            : }
    1710                 :            : 
    1711                 :            : /* Same as PyDict_GetItemWithError() but with hash supplied by caller.
    1712                 :            :    This returns NULL *with* an exception set if an exception occurred.
    1713                 :            :    It returns NULL *without* an exception set if the key wasn't present.
    1714                 :            : */
    1715                 :            : PyObject *
    1716                 :    3649594 : _PyDict_GetItem_KnownHash(PyObject *op, PyObject *key, Py_hash_t hash)
    1717                 :            : {
    1718                 :            :     Py_ssize_t ix; (void)ix;
    1719                 :    3649594 :     PyDictObject *mp = (PyDictObject *)op;
    1720                 :            :     PyObject *value;
    1721                 :            : 
    1722         [ -  + ]:    3649594 :     if (!PyDict_Check(op)) {
    1723                 :          0 :         PyErr_BadInternalCall();
    1724                 :          0 :         return NULL;
    1725                 :            :     }
    1726                 :            : 
    1727                 :    3649594 :     ix = _Py_dict_lookup(mp, key, hash, &value);
    1728                 :            :     assert(ix >= 0 || value == NULL);
    1729                 :    3649594 :     return value;
    1730                 :            : }
    1731                 :            : 
    1732                 :            : /* Variant of PyDict_GetItem() that doesn't suppress exceptions.
    1733                 :            :    This returns NULL *with* an exception set if an exception occurred.
    1734                 :            :    It returns NULL *without* an exception set if the key wasn't present.
    1735                 :            : */
    1736                 :            : PyObject *
    1737                 :    3752984 : PyDict_GetItemWithError(PyObject *op, PyObject *key)
    1738                 :            : {
    1739                 :            :     Py_ssize_t ix; (void)ix;
    1740                 :            :     Py_hash_t hash;
    1741                 :    3752984 :     PyDictObject*mp = (PyDictObject *)op;
    1742                 :            :     PyObject *value;
    1743                 :            : 
    1744         [ -  + ]:    3752984 :     if (!PyDict_Check(op)) {
    1745                 :          0 :         PyErr_BadInternalCall();
    1746                 :          0 :         return NULL;
    1747                 :            :     }
    1748   [ +  +  +  + ]:    3752984 :     if (!PyUnicode_CheckExact(key) || (hash = unicode_get_hash(key)) == -1)
    1749                 :            :     {
    1750                 :      80980 :         hash = PyObject_Hash(key);
    1751         [ -  + ]:      80980 :         if (hash == -1) {
    1752                 :          0 :             return NULL;
    1753                 :            :         }
    1754                 :            :     }
    1755                 :            : 
    1756                 :    3752984 :     ix = _Py_dict_lookup(mp, key, hash, &value);
    1757                 :            :     assert(ix >= 0 || value == NULL);
    1758                 :    3752984 :     return value;
    1759                 :            : }
    1760                 :            : 
    1761                 :            : PyObject *
    1762                 :       6878 : _PyDict_GetItemWithError(PyObject *dp, PyObject *kv)
    1763                 :            : {
    1764                 :            :     assert(PyUnicode_CheckExact(kv));
    1765                 :       6878 :     Py_hash_t hash = kv->ob_type->tp_hash(kv);
    1766         [ -  + ]:       6878 :     if (hash == -1) {
    1767                 :          0 :         return NULL;
    1768                 :            :     }
    1769                 :       6878 :     return _PyDict_GetItem_KnownHash(dp, kv, hash);
    1770                 :            : }
    1771                 :            : 
    1772                 :            : PyObject *
    1773                 :          0 : _PyDict_GetItemIdWithError(PyObject *dp, _Py_Identifier *key)
    1774                 :            : {
    1775                 :            :     PyObject *kv;
    1776                 :          0 :     kv = _PyUnicode_FromId(key); /* borrowed */
    1777         [ #  # ]:          0 :     if (kv == NULL)
    1778                 :          0 :         return NULL;
    1779                 :          0 :     Py_hash_t hash = unicode_get_hash(kv);
    1780                 :            :     assert (hash != -1);  /* interned strings have their hash value initialised */
    1781                 :          0 :     return _PyDict_GetItem_KnownHash(dp, kv, hash);
    1782                 :            : }
    1783                 :            : 
    1784                 :            : PyObject *
    1785                 :       5848 : _PyDict_GetItemStringWithError(PyObject *v, const char *key)
    1786                 :            : {
    1787                 :            :     PyObject *kv, *rv;
    1788                 :       5848 :     kv = PyUnicode_FromString(key);
    1789         [ -  + ]:       5848 :     if (kv == NULL) {
    1790                 :          0 :         return NULL;
    1791                 :            :     }
    1792                 :       5848 :     rv = PyDict_GetItemWithError(v, kv);
    1793                 :       5848 :     Py_DECREF(kv);
    1794                 :       5848 :     return rv;
    1795                 :            : }
    1796                 :            : 
    1797                 :            : /* Fast version of global value lookup (LOAD_GLOBAL).
    1798                 :            :  * Lookup in globals, then builtins.
    1799                 :            :  *
    1800                 :            :  *
    1801                 :            :  *
    1802                 :            :  *
    1803                 :            :  * Raise an exception and return NULL if an error occurred (ex: computing the
    1804                 :            :  * key hash failed, key comparison failed, ...). Return NULL if the key doesn't
    1805                 :            :  * exist. Return the value if the key exists.
    1806                 :            :  */
    1807                 :            : PyObject *
    1808                 :      63803 : _PyDict_LoadGlobal(PyDictObject *globals, PyDictObject *builtins, PyObject *key)
    1809                 :            : {
    1810                 :            :     Py_ssize_t ix;
    1811                 :            :     Py_hash_t hash;
    1812                 :            :     PyObject *value;
    1813                 :            : 
    1814   [ +  -  -  + ]:      63803 :     if (!PyUnicode_CheckExact(key) || (hash = unicode_get_hash(key)) == -1) {
    1815                 :          0 :         hash = PyObject_Hash(key);
    1816         [ #  # ]:          0 :         if (hash == -1)
    1817                 :          0 :             return NULL;
    1818                 :            :     }
    1819                 :            : 
    1820                 :            :     /* namespace 1: globals */
    1821                 :      63803 :     ix = _Py_dict_lookup(globals, key, hash, &value);
    1822         [ -  + ]:      63803 :     if (ix == DKIX_ERROR)
    1823                 :          0 :         return NULL;
    1824   [ +  +  +  - ]:      63803 :     if (ix != DKIX_EMPTY && value != NULL)
    1825                 :      30524 :         return value;
    1826                 :            : 
    1827                 :            :     /* namespace 2: builtins */
    1828                 :      33279 :     ix = _Py_dict_lookup(builtins, key, hash, &value);
    1829                 :            :     assert(ix >= 0 || value == NULL);
    1830                 :      33279 :     return value;
    1831                 :            : }
    1832                 :            : 
    1833                 :            : /* Consumes references to key and value */
    1834                 :            : int
    1835                 :    3534518 : _PyDict_SetItem_Take2(PyDictObject *mp, PyObject *key, PyObject *value)
    1836                 :            : {
    1837                 :            :     assert(key);
    1838                 :            :     assert(value);
    1839                 :            :     assert(PyDict_Check(mp));
    1840                 :            :     Py_hash_t hash;
    1841   [ +  +  +  + ]:    3534518 :     if (!PyUnicode_CheckExact(key) || (hash = unicode_get_hash(key)) == -1) {
    1842                 :     150120 :         hash = PyObject_Hash(key);
    1843         [ -  + ]:     150120 :         if (hash == -1) {
    1844                 :          0 :             Py_DECREF(key);
    1845                 :          0 :             Py_DECREF(value);
    1846                 :          0 :             return -1;
    1847                 :            :         }
    1848                 :            :     }
    1849                 :    3534518 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    1850         [ +  + ]:    3534518 :     if (mp->ma_keys == Py_EMPTY_KEYS) {
    1851                 :     531341 :         return insert_to_emptydict(interp, mp, key, hash, value);
    1852                 :            :     }
    1853                 :            :     /* insertdict() handles any resizing that might be necessary */
    1854                 :    3003177 :     return insertdict(interp, mp, key, hash, value);
    1855                 :            : }
    1856                 :            : 
    1857                 :            : /* CAUTION: PyDict_SetItem() must guarantee that it won't resize the
    1858                 :            :  * dictionary if it's merely replacing the value for an existing key.
    1859                 :            :  * This means that it's safe to loop over a dictionary with PyDict_Next()
    1860                 :            :  * and occasionally replace a value -- but you can't insert new keys or
    1861                 :            :  * remove them.
    1862                 :            :  */
    1863                 :            : int
    1864                 :    3419051 : PyDict_SetItem(PyObject *op, PyObject *key, PyObject *value)
    1865                 :            : {
    1866         [ -  + ]:    3419051 :     if (!PyDict_Check(op)) {
    1867                 :          0 :         PyErr_BadInternalCall();
    1868                 :          0 :         return -1;
    1869                 :            :     }
    1870                 :            :     assert(key);
    1871                 :            :     assert(value);
    1872                 :    3419051 :     return _PyDict_SetItem_Take2((PyDictObject *)op,
    1873                 :            :                                  Py_NewRef(key), Py_NewRef(value));
    1874                 :            : }
    1875                 :            : 
    1876                 :            : int
    1877                 :         61 : _PyDict_SetItem_KnownHash(PyObject *op, PyObject *key, PyObject *value,
    1878                 :            :                          Py_hash_t hash)
    1879                 :            : {
    1880                 :            :     PyDictObject *mp;
    1881                 :            : 
    1882         [ -  + ]:         61 :     if (!PyDict_Check(op)) {
    1883                 :          0 :         PyErr_BadInternalCall();
    1884                 :          0 :         return -1;
    1885                 :            :     }
    1886                 :            :     assert(key);
    1887                 :            :     assert(value);
    1888                 :            :     assert(hash != -1);
    1889                 :         61 :     mp = (PyDictObject *)op;
    1890                 :            : 
    1891                 :         61 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    1892         [ +  + ]:         61 :     if (mp->ma_keys == Py_EMPTY_KEYS) {
    1893                 :         14 :         return insert_to_emptydict(interp, mp, Py_NewRef(key), hash, Py_NewRef(value));
    1894                 :            :     }
    1895                 :            :     /* insertdict() handles any resizing that might be necessary */
    1896                 :         47 :     return insertdict(interp, mp, Py_NewRef(key), hash, Py_NewRef(value));
    1897                 :            : }
    1898                 :            : 
    1899                 :            : static void
    1900                 :     292839 : delete_index_from_values(PyDictValues *values, Py_ssize_t ix)
    1901                 :            : {
    1902                 :     292839 :     uint8_t *size_ptr = ((uint8_t *)values)-2;
    1903                 :     292839 :     int size = *size_ptr;
    1904                 :            :     int i;
    1905         [ +  + ]:     780904 :     for (i = 1; size_ptr[-i] != ix; i++) {
    1906                 :            :         assert(i <= size);
    1907                 :            :     }
    1908                 :            :     assert(i <= size);
    1909         [ +  + ]:     683291 :     for (; i < size; i++) {
    1910                 :     390452 :         size_ptr[-i] = size_ptr[-i-1];
    1911                 :            :     }
    1912                 :     292839 :     *size_ptr = size -1;
    1913                 :     292839 : }
    1914                 :            : 
    1915                 :            : static int
    1916                 :     111717 : delitem_common(PyDictObject *mp, Py_hash_t hash, Py_ssize_t ix,
    1917                 :            :                PyObject *old_value, uint64_t new_version)
    1918                 :            : {
    1919                 :            :     PyObject *old_key;
    1920                 :            : 
    1921                 :     111717 :     Py_ssize_t hashpos = lookdict_index(mp->ma_keys, hash, ix);
    1922                 :            :     assert(hashpos >= 0);
    1923                 :            : 
    1924                 :     111717 :     mp->ma_used--;
    1925                 :     111717 :     mp->ma_version_tag = new_version;
    1926         [ -  + ]:     111717 :     if (mp->ma_values) {
    1927                 :            :         assert(old_value == mp->ma_values->values[ix]);
    1928                 :          0 :         mp->ma_values->values[ix] = NULL;
    1929                 :            :         assert(ix < SHARED_KEYS_MAX_SIZE);
    1930                 :            :         /* Update order */
    1931                 :          0 :         delete_index_from_values(mp->ma_values, ix);
    1932                 :            :         ASSERT_CONSISTENT(mp);
    1933                 :            :     }
    1934                 :            :     else {
    1935                 :     111717 :         mp->ma_keys->dk_version = 0;
    1936                 :     111717 :         dictkeys_set_index(mp->ma_keys, hashpos, DKIX_DUMMY);
    1937         [ +  + ]:     111717 :         if (DK_IS_UNICODE(mp->ma_keys)) {
    1938                 :      99271 :             PyDictUnicodeEntry *ep = &DK_UNICODE_ENTRIES(mp->ma_keys)[ix];
    1939                 :      99271 :             old_key = ep->me_key;
    1940                 :      99271 :             ep->me_key = NULL;
    1941                 :      99271 :             ep->me_value = NULL;
    1942                 :            :         }
    1943                 :            :         else {
    1944                 :      12446 :             PyDictKeyEntry *ep = &DK_ENTRIES(mp->ma_keys)[ix];
    1945                 :      12446 :             old_key = ep->me_key;
    1946                 :      12446 :             ep->me_key = NULL;
    1947                 :      12446 :             ep->me_value = NULL;
    1948                 :      12446 :             ep->me_hash = 0;
    1949                 :            :         }
    1950                 :     111717 :         Py_DECREF(old_key);
    1951                 :            :     }
    1952                 :     111717 :     Py_DECREF(old_value);
    1953                 :            : 
    1954                 :            :     ASSERT_CONSISTENT(mp);
    1955                 :     111717 :     return 0;
    1956                 :            : }
    1957                 :            : 
    1958                 :            : int
    1959                 :     110534 : PyDict_DelItem(PyObject *op, PyObject *key)
    1960                 :            : {
    1961                 :            :     Py_hash_t hash;
    1962                 :            :     assert(key);
    1963   [ +  +  +  + ]:     110534 :     if (!PyUnicode_CheckExact(key) || (hash = unicode_get_hash(key)) == -1) {
    1964                 :      12491 :         hash = PyObject_Hash(key);
    1965         [ -  + ]:      12491 :         if (hash == -1)
    1966                 :          0 :             return -1;
    1967                 :            :     }
    1968                 :            : 
    1969                 :     110534 :     return _PyDict_DelItem_KnownHash(op, key, hash);
    1970                 :            : }
    1971                 :            : 
    1972                 :            : int
    1973                 :     110534 : _PyDict_DelItem_KnownHash(PyObject *op, PyObject *key, Py_hash_t hash)
    1974                 :            : {
    1975                 :            :     Py_ssize_t ix;
    1976                 :            :     PyDictObject *mp;
    1977                 :            :     PyObject *old_value;
    1978                 :            : 
    1979         [ -  + ]:     110534 :     if (!PyDict_Check(op)) {
    1980                 :          0 :         PyErr_BadInternalCall();
    1981                 :          0 :         return -1;
    1982                 :            :     }
    1983                 :            :     assert(key);
    1984                 :            :     assert(hash != -1);
    1985                 :     110534 :     mp = (PyDictObject *)op;
    1986                 :     110534 :     ix = _Py_dict_lookup(mp, key, hash, &old_value);
    1987         [ -  + ]:     110534 :     if (ix == DKIX_ERROR)
    1988                 :          0 :         return -1;
    1989   [ +  +  -  + ]:     110534 :     if (ix == DKIX_EMPTY || old_value == NULL) {
    1990                 :          5 :         _PyErr_SetKeyError(key);
    1991                 :          5 :         return -1;
    1992                 :            :     }
    1993                 :            : 
    1994                 :     110529 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    1995                 :     110529 :     uint64_t new_version = _PyDict_NotifyEvent(
    1996                 :            :             interp, PyDict_EVENT_DELETED, mp, key, NULL);
    1997                 :     110529 :     return delitem_common(mp, hash, ix, old_value, new_version);
    1998                 :            : }
    1999                 :            : 
    2000                 :            : /* This function promises that the predicate -> deletion sequence is atomic
    2001                 :            :  * (i.e. protected by the GIL), assuming the predicate itself doesn't
    2002                 :            :  * release the GIL.
    2003                 :            :  */
    2004                 :            : int
    2005                 :          0 : _PyDict_DelItemIf(PyObject *op, PyObject *key,
    2006                 :            :                   int (*predicate)(PyObject *value))
    2007                 :            : {
    2008                 :            :     Py_ssize_t hashpos, ix;
    2009                 :            :     PyDictObject *mp;
    2010                 :            :     Py_hash_t hash;
    2011                 :            :     PyObject *old_value;
    2012                 :            :     int res;
    2013                 :            : 
    2014         [ #  # ]:          0 :     if (!PyDict_Check(op)) {
    2015                 :          0 :         PyErr_BadInternalCall();
    2016                 :          0 :         return -1;
    2017                 :            :     }
    2018                 :            :     assert(key);
    2019                 :          0 :     hash = PyObject_Hash(key);
    2020         [ #  # ]:          0 :     if (hash == -1)
    2021                 :          0 :         return -1;
    2022                 :          0 :     mp = (PyDictObject *)op;
    2023                 :          0 :     ix = _Py_dict_lookup(mp, key, hash, &old_value);
    2024         [ #  # ]:          0 :     if (ix == DKIX_ERROR)
    2025                 :          0 :         return -1;
    2026   [ #  #  #  # ]:          0 :     if (ix == DKIX_EMPTY || old_value == NULL) {
    2027                 :          0 :         _PyErr_SetKeyError(key);
    2028                 :          0 :         return -1;
    2029                 :            :     }
    2030                 :            : 
    2031                 :          0 :     res = predicate(old_value);
    2032         [ #  # ]:          0 :     if (res == -1)
    2033                 :          0 :         return -1;
    2034                 :            : 
    2035                 :          0 :     hashpos = lookdict_index(mp->ma_keys, hash, ix);
    2036                 :            :     assert(hashpos >= 0);
    2037                 :            : 
    2038         [ #  # ]:          0 :     if (res > 0) {
    2039                 :          0 :         PyInterpreterState *interp = _PyInterpreterState_GET();
    2040                 :          0 :         uint64_t new_version = _PyDict_NotifyEvent(
    2041                 :            :                 interp, PyDict_EVENT_DELETED, mp, key, NULL);
    2042                 :          0 :         return delitem_common(mp, hashpos, ix, old_value, new_version);
    2043                 :            :     } else {
    2044                 :          0 :         return 0;
    2045                 :            :     }
    2046                 :            : }
    2047                 :            : 
    2048                 :            : 
    2049                 :            : void
    2050                 :       8415 : PyDict_Clear(PyObject *op)
    2051                 :            : {
    2052                 :            :     PyDictObject *mp;
    2053                 :            :     PyDictKeysObject *oldkeys;
    2054                 :            :     PyDictValues *oldvalues;
    2055                 :            :     Py_ssize_t i, n;
    2056                 :            : 
    2057         [ -  + ]:       8415 :     if (!PyDict_Check(op))
    2058                 :          0 :         return;
    2059                 :       8415 :     mp = ((PyDictObject *)op);
    2060                 :       8415 :     oldkeys = mp->ma_keys;
    2061                 :       8415 :     oldvalues = mp->ma_values;
    2062         [ +  + ]:       8415 :     if (oldkeys == Py_EMPTY_KEYS) {
    2063                 :        650 :         return;
    2064                 :            :     }
    2065                 :            :     /* Empty the dict... */
    2066                 :       7765 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    2067                 :       7765 :     uint64_t new_version = _PyDict_NotifyEvent(
    2068                 :            :             interp, PyDict_EVENT_CLEARED, mp, NULL, NULL);
    2069                 :       7765 :     dictkeys_incref(Py_EMPTY_KEYS);
    2070                 :       7765 :     mp->ma_keys = Py_EMPTY_KEYS;
    2071                 :       7765 :     mp->ma_values = NULL;
    2072                 :       7765 :     mp->ma_used = 0;
    2073                 :       7765 :     mp->ma_version_tag = new_version;
    2074                 :            :     /* ...then clear the keys and values */
    2075         [ -  + ]:       7765 :     if (oldvalues != NULL) {
    2076                 :          0 :         n = oldkeys->dk_nentries;
    2077         [ #  # ]:          0 :         for (i = 0; i < n; i++)
    2078         [ #  # ]:          0 :             Py_CLEAR(oldvalues->values[i]);
    2079                 :          0 :         free_values(oldvalues);
    2080                 :          0 :         dictkeys_decref(interp, oldkeys);
    2081                 :            :     }
    2082                 :            :     else {
    2083                 :            :        assert(oldkeys->dk_refcnt == 1);
    2084                 :       7765 :        dictkeys_decref(interp, oldkeys);
    2085                 :            :     }
    2086                 :            :     ASSERT_CONSISTENT(mp);
    2087                 :            : }
    2088                 :            : 
    2089                 :            : /* Internal version of PyDict_Next that returns a hash value in addition
    2090                 :            :  * to the key and value.
    2091                 :            :  * Return 1 on success, return 0 when the reached the end of the dictionary
    2092                 :            :  * (or if op is not a dictionary)
    2093                 :            :  */
    2094                 :            : int
    2095                 :     758455 : _PyDict_Next(PyObject *op, Py_ssize_t *ppos, PyObject **pkey,
    2096                 :            :              PyObject **pvalue, Py_hash_t *phash)
    2097                 :            : {
    2098                 :            :     Py_ssize_t i;
    2099                 :            :     PyDictObject *mp;
    2100                 :            :     PyObject *key, *value;
    2101                 :            :     Py_hash_t hash;
    2102                 :            : 
    2103         [ -  + ]:     758455 :     if (!PyDict_Check(op))
    2104                 :          0 :         return 0;
    2105                 :     758455 :     mp = (PyDictObject *)op;
    2106                 :     758455 :     i = *ppos;
    2107         [ +  + ]:     758455 :     if (mp->ma_values) {
    2108                 :            :         assert(mp->ma_used <= SHARED_KEYS_MAX_SIZE);
    2109   [ +  -  +  + ]:      53074 :         if (i < 0 || i >= mp->ma_used)
    2110                 :       3122 :             return 0;
    2111                 :      49952 :         int index = get_index_from_order(mp, i);
    2112                 :      49952 :         value = mp->ma_values->values[index];
    2113                 :            : 
    2114                 :      49952 :         key = DK_UNICODE_ENTRIES(mp->ma_keys)[index].me_key;
    2115                 :      49952 :         hash = unicode_get_hash(key);
    2116                 :            :         assert(value != NULL);
    2117                 :            :     }
    2118                 :            :     else {
    2119                 :     705381 :         Py_ssize_t n = mp->ma_keys->dk_nentries;
    2120   [ +  -  +  + ]:     705381 :         if (i < 0 || i >= n)
    2121                 :     126964 :             return 0;
    2122         [ +  + ]:     578417 :         if (DK_IS_UNICODE(mp->ma_keys)) {
    2123                 :     530258 :             PyDictUnicodeEntry *entry_ptr = &DK_UNICODE_ENTRIES(mp->ma_keys)[i];
    2124   [ +  +  +  + ]:     621049 :             while (i < n && entry_ptr->me_value == NULL) {
    2125                 :      90791 :                 entry_ptr++;
    2126                 :      90791 :                 i++;
    2127                 :            :             }
    2128         [ +  + ]:     530258 :             if (i >= n)
    2129                 :        137 :                 return 0;
    2130                 :     530121 :             key = entry_ptr->me_key;
    2131                 :     530121 :             hash = unicode_get_hash(entry_ptr->me_key);
    2132                 :     530121 :             value = entry_ptr->me_value;
    2133                 :            :         }
    2134                 :            :         else {
    2135                 :      48159 :             PyDictKeyEntry *entry_ptr = &DK_ENTRIES(mp->ma_keys)[i];
    2136   [ +  +  +  + ]:      58475 :             while (i < n && entry_ptr->me_value == NULL) {
    2137                 :      10316 :                 entry_ptr++;
    2138                 :      10316 :                 i++;
    2139                 :            :             }
    2140         [ +  + ]:      48159 :             if (i >= n)
    2141                 :       1858 :                 return 0;
    2142                 :      46301 :             key = entry_ptr->me_key;
    2143                 :      46301 :             hash = entry_ptr->me_hash;
    2144                 :      46301 :             value = entry_ptr->me_value;
    2145                 :            :         }
    2146                 :            :     }
    2147                 :     626374 :     *ppos = i+1;
    2148         [ +  + ]:     626374 :     if (pkey)
    2149                 :     625043 :         *pkey = key;
    2150         [ +  + ]:     626374 :     if (pvalue)
    2151                 :     500857 :         *pvalue = value;
    2152         [ +  + ]:     626374 :     if (phash)
    2153                 :      17300 :         *phash = hash;
    2154                 :     626374 :     return 1;
    2155                 :            : }
    2156                 :            : 
    2157                 :            : /*
    2158                 :            :  * Iterate over a dict.  Use like so:
    2159                 :            :  *
    2160                 :            :  *     Py_ssize_t i;
    2161                 :            :  *     PyObject *key, *value;
    2162                 :            :  *     i = 0;   # important!  i should not otherwise be changed by you
    2163                 :            :  *     while (PyDict_Next(yourdict, &i, &key, &value)) {
    2164                 :            :  *         Refer to borrowed references in key and value.
    2165                 :            :  *     }
    2166                 :            :  *
    2167                 :            :  * Return 1 on success, return 0 when the reached the end of the dictionary
    2168                 :            :  * (or if op is not a dictionary)
    2169                 :            :  *
    2170                 :            :  * CAUTION:  In general, it isn't safe to use PyDict_Next in a loop that
    2171                 :            :  * mutates the dict.  One exception:  it is safe if the loop merely changes
    2172                 :            :  * the values associated with the keys (but doesn't insert new keys or
    2173                 :            :  * delete keys), via PyDict_SetItem().
    2174                 :            :  */
    2175                 :            : int
    2176                 :     596732 : PyDict_Next(PyObject *op, Py_ssize_t *ppos, PyObject **pkey, PyObject **pvalue)
    2177                 :            : {
    2178                 :     596732 :     return _PyDict_Next(op, ppos, pkey, pvalue, NULL);
    2179                 :            : }
    2180                 :            : 
    2181                 :            : /* Internal version of dict.pop(). */
    2182                 :            : PyObject *
    2183                 :       1361 : _PyDict_Pop_KnownHash(PyObject *dict, PyObject *key, Py_hash_t hash, PyObject *deflt)
    2184                 :            : {
    2185                 :            :     Py_ssize_t ix;
    2186                 :            :     PyObject *old_value;
    2187                 :            :     PyDictObject *mp;
    2188                 :       1361 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    2189                 :            : 
    2190                 :            :     assert(PyDict_Check(dict));
    2191                 :       1361 :     mp = (PyDictObject *)dict;
    2192                 :            : 
    2193         [ -  + ]:       1361 :     if (mp->ma_used == 0) {
    2194         [ #  # ]:          0 :         if (deflt) {
    2195                 :          0 :             return Py_NewRef(deflt);
    2196                 :            :         }
    2197                 :          0 :         _PyErr_SetKeyError(key);
    2198                 :          0 :         return NULL;
    2199                 :            :     }
    2200                 :       1361 :     ix = _Py_dict_lookup(mp, key, hash, &old_value);
    2201         [ -  + ]:       1361 :     if (ix == DKIX_ERROR)
    2202                 :          0 :         return NULL;
    2203   [ +  +  -  + ]:       1361 :     if (ix == DKIX_EMPTY || old_value == NULL) {
    2204         [ +  - ]:        173 :         if (deflt) {
    2205                 :        173 :             return Py_NewRef(deflt);
    2206                 :            :         }
    2207                 :          0 :         _PyErr_SetKeyError(key);
    2208                 :          0 :         return NULL;
    2209                 :            :     }
    2210                 :            :     assert(old_value != NULL);
    2211                 :       1188 :     uint64_t new_version = _PyDict_NotifyEvent(
    2212                 :            :             interp, PyDict_EVENT_DELETED, mp, key, NULL);
    2213                 :       1188 :     delitem_common(mp, hash, ix, Py_NewRef(old_value), new_version);
    2214                 :            : 
    2215                 :            :     ASSERT_CONSISTENT(mp);
    2216                 :       1188 :     return old_value;
    2217                 :            : }
    2218                 :            : 
    2219                 :            : PyObject *
    2220                 :       1428 : _PyDict_Pop(PyObject *dict, PyObject *key, PyObject *deflt)
    2221                 :            : {
    2222                 :            :     Py_hash_t hash;
    2223                 :            : 
    2224         [ +  + ]:       1428 :     if (((PyDictObject *)dict)->ma_used == 0) {
    2225         [ +  - ]:         67 :         if (deflt) {
    2226                 :         67 :             return Py_NewRef(deflt);
    2227                 :            :         }
    2228                 :          0 :         _PyErr_SetKeyError(key);
    2229                 :          0 :         return NULL;
    2230                 :            :     }
    2231   [ +  +  -  + ]:       1361 :     if (!PyUnicode_CheckExact(key) || (hash = unicode_get_hash(key)) == -1) {
    2232                 :         67 :         hash = PyObject_Hash(key);
    2233         [ -  + ]:         67 :         if (hash == -1)
    2234                 :          0 :             return NULL;
    2235                 :            :     }
    2236                 :       1361 :     return _PyDict_Pop_KnownHash(dict, key, hash, deflt);
    2237                 :            : }
    2238                 :            : 
    2239                 :            : /* Internal version of dict.from_keys().  It is subclass-friendly. */
    2240                 :            : PyObject *
    2241                 :        152 : _PyDict_FromKeys(PyObject *cls, PyObject *iterable, PyObject *value)
    2242                 :            : {
    2243                 :            :     PyObject *it;       /* iter(iterable) */
    2244                 :            :     PyObject *key;
    2245                 :            :     PyObject *d;
    2246                 :            :     int status;
    2247                 :        152 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    2248                 :            : 
    2249                 :        152 :     d = _PyObject_CallNoArgs(cls);
    2250         [ -  + ]:        152 :     if (d == NULL)
    2251                 :          0 :         return NULL;
    2252                 :            : 
    2253   [ +  -  +  - ]:        152 :     if (PyDict_CheckExact(d) && ((PyDictObject *)d)->ma_used == 0) {
    2254         [ -  + ]:        152 :         if (PyDict_CheckExact(iterable)) {
    2255                 :          0 :             PyDictObject *mp = (PyDictObject *)d;
    2256                 :            :             PyObject *oldvalue;
    2257                 :          0 :             Py_ssize_t pos = 0;
    2258                 :            :             PyObject *key;
    2259                 :            :             Py_hash_t hash;
    2260                 :            : 
    2261                 :          0 :             int unicode = DK_IS_UNICODE(((PyDictObject*)iterable)->ma_keys);
    2262         [ #  # ]:          0 :             if (dictresize(interp, mp,
    2263                 :          0 :                            estimate_log2_keysize(PyDict_GET_SIZE(iterable)),
    2264                 :            :                            unicode)) {
    2265                 :          0 :                 Py_DECREF(d);
    2266                 :          0 :                 return NULL;
    2267                 :            :             }
    2268                 :            : 
    2269         [ #  # ]:          0 :             while (_PyDict_Next(iterable, &pos, &key, &oldvalue, &hash)) {
    2270         [ #  # ]:          0 :                 if (insertdict(interp, mp,
    2271                 :            :                                Py_NewRef(key), hash, Py_NewRef(value))) {
    2272                 :          0 :                     Py_DECREF(d);
    2273                 :          0 :                     return NULL;
    2274                 :            :                 }
    2275                 :            :             }
    2276                 :          0 :             return d;
    2277                 :            :         }
    2278   [ +  -  -  + ]:        152 :         if (PyAnySet_CheckExact(iterable)) {
    2279                 :          0 :             PyDictObject *mp = (PyDictObject *)d;
    2280                 :          0 :             Py_ssize_t pos = 0;
    2281                 :            :             PyObject *key;
    2282                 :            :             Py_hash_t hash;
    2283                 :            : 
    2284         [ #  # ]:          0 :             if (dictresize(interp, mp,
    2285                 :          0 :                            estimate_log2_keysize(PySet_GET_SIZE(iterable)), 0)) {
    2286                 :          0 :                 Py_DECREF(d);
    2287                 :          0 :                 return NULL;
    2288                 :            :             }
    2289                 :            : 
    2290         [ #  # ]:          0 :             while (_PySet_NextEntry(iterable, &pos, &key, &hash)) {
    2291         [ #  # ]:          0 :                 if (insertdict(interp, mp, Py_NewRef(key), hash, Py_NewRef(value))) {
    2292                 :          0 :                     Py_DECREF(d);
    2293                 :          0 :                     return NULL;
    2294                 :            :                 }
    2295                 :            :             }
    2296                 :          0 :             return d;
    2297                 :            :         }
    2298                 :            :     }
    2299                 :            : 
    2300                 :        152 :     it = PyObject_GetIter(iterable);
    2301         [ -  + ]:        152 :     if (it == NULL){
    2302                 :          0 :         Py_DECREF(d);
    2303                 :          0 :         return NULL;
    2304                 :            :     }
    2305                 :            : 
    2306         [ +  - ]:        152 :     if (PyDict_CheckExact(d)) {
    2307         [ +  + ]:        677 :         while ((key = PyIter_Next(it)) != NULL) {
    2308                 :        525 :             status = PyDict_SetItem(d, key, value);
    2309                 :        525 :             Py_DECREF(key);
    2310         [ -  + ]:        525 :             if (status < 0)
    2311                 :          0 :                 goto Fail;
    2312                 :            :         }
    2313                 :            :     } else {
    2314         [ #  # ]:          0 :         while ((key = PyIter_Next(it)) != NULL) {
    2315                 :          0 :             status = PyObject_SetItem(d, key, value);
    2316                 :          0 :             Py_DECREF(key);
    2317         [ #  # ]:          0 :             if (status < 0)
    2318                 :          0 :                 goto Fail;
    2319                 :            :         }
    2320                 :            :     }
    2321                 :            : 
    2322         [ -  + ]:        152 :     if (PyErr_Occurred())
    2323                 :          0 :         goto Fail;
    2324                 :        152 :     Py_DECREF(it);
    2325                 :        152 :     return d;
    2326                 :            : 
    2327                 :          0 : Fail:
    2328                 :          0 :     Py_DECREF(it);
    2329                 :          0 :     Py_DECREF(d);
    2330                 :          0 :     return NULL;
    2331                 :            : }
    2332                 :            : 
    2333                 :            : /* Methods */
    2334                 :            : 
    2335                 :            : static void
    2336                 :     748981 : dict_dealloc(PyDictObject *mp)
    2337                 :            : {
    2338                 :     748981 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    2339                 :            :     assert(Py_REFCNT(mp) == 0);
    2340                 :     748981 :     Py_SET_REFCNT(mp, 1);
    2341                 :     748981 :     _PyDict_NotifyEvent(interp, PyDict_EVENT_DEALLOCATED, mp, NULL, NULL);
    2342         [ -  + ]:     748981 :     if (Py_REFCNT(mp) > 1) {
    2343                 :          0 :         Py_SET_REFCNT(mp, Py_REFCNT(mp) - 1);
    2344                 :          0 :         return;
    2345                 :            :     }
    2346                 :     748981 :     Py_SET_REFCNT(mp, 0);
    2347                 :     748981 :     PyDictValues *values = mp->ma_values;
    2348                 :     748981 :     PyDictKeysObject *keys = mp->ma_keys;
    2349                 :            :     Py_ssize_t i, n;
    2350                 :            : 
    2351                 :            :     /* bpo-31095: UnTrack is needed before calling any callbacks */
    2352                 :     748981 :     PyObject_GC_UnTrack(mp);
    2353   [ +  +  -  + ]:     748981 :     Py_TRASHCAN_BEGIN(mp, dict_dealloc)
    2354         [ +  + ]:     748981 :     if (values != NULL) {
    2355         [ +  + ]:      16762 :         for (i = 0, n = mp->ma_keys->dk_nentries; i < n; i++) {
    2356                 :      15143 :             Py_XDECREF(values->values[i]);
    2357                 :            :         }
    2358                 :       1619 :         free_values(values);
    2359                 :       1619 :         dictkeys_decref(interp, keys);
    2360                 :            :     }
    2361         [ +  - ]:     747362 :     else if (keys != NULL) {
    2362                 :            :         assert(keys->dk_refcnt == 1 || keys == Py_EMPTY_KEYS);
    2363                 :     747362 :         dictkeys_decref(interp, keys);
    2364                 :            :     }
    2365                 :            : #if PyDict_MAXFREELIST > 0
    2366                 :     748981 :     struct _Py_dict_state *state = get_dict_state(interp);
    2367                 :            : #ifdef Py_DEBUG
    2368                 :            :     // new_dict() must not be called after _PyDict_Fini()
    2369                 :            :     assert(state->numfree != -1);
    2370                 :            : #endif
    2371   [ +  +  +  + ]:     748981 :     if (state->numfree < PyDict_MAXFREELIST && Py_IS_TYPE(mp, &PyDict_Type)) {
    2372                 :     325558 :         state->free_list[state->numfree++] = mp;
    2373                 :     325558 :         OBJECT_STAT_INC(to_freelist);
    2374                 :            :     }
    2375                 :            :     else
    2376                 :            : #endif
    2377                 :            :     {
    2378                 :     423423 :         Py_TYPE(mp)->tp_free((PyObject *)mp);
    2379                 :            :     }
    2380         [ +  + ]:     748981 :     Py_TRASHCAN_END
    2381                 :            : }
    2382                 :            : 
    2383                 :            : 
    2384                 :            : static PyObject *
    2385                 :       3122 : dict_repr(PyDictObject *mp)
    2386                 :            : {
    2387                 :            :     Py_ssize_t i;
    2388                 :       3122 :     PyObject *key = NULL, *value = NULL;
    2389                 :            :     _PyUnicodeWriter writer;
    2390                 :            :     int first;
    2391                 :            : 
    2392                 :       3122 :     i = Py_ReprEnter((PyObject *)mp);
    2393         [ -  + ]:       3122 :     if (i != 0) {
    2394         [ #  # ]:          0 :         return i > 0 ? PyUnicode_FromString("{...}") : NULL;
    2395                 :            :     }
    2396                 :            : 
    2397         [ -  + ]:       3122 :     if (mp->ma_used == 0) {
    2398                 :          0 :         Py_ReprLeave((PyObject *)mp);
    2399                 :          0 :         return PyUnicode_FromString("{}");
    2400                 :            :     }
    2401                 :            : 
    2402                 :       3122 :     _PyUnicodeWriter_Init(&writer);
    2403                 :       3122 :     writer.overallocate = 1;
    2404                 :            :     /* "{" + "1: 2" + ", 3: 4" * (len - 1) + "}" */
    2405                 :       3122 :     writer.min_length = 1 + 4 + (2 + 4) * (mp->ma_used - 1) + 1;
    2406                 :            : 
    2407         [ -  + ]:       3122 :     if (_PyUnicodeWriter_WriteChar(&writer, '{') < 0)
    2408                 :          0 :         goto error;
    2409                 :            : 
    2410                 :            :     /* Do repr() on each key+value pair, and insert ": " between them.
    2411                 :            :        Note that repr may mutate the dict. */
    2412                 :       3122 :     i = 0;
    2413                 :       3122 :     first = 1;
    2414         [ +  + ]:      53074 :     while (PyDict_Next((PyObject *)mp, &i, &key, &value)) {
    2415                 :            :         PyObject *s;
    2416                 :            :         int res;
    2417                 :            : 
    2418                 :            :         /* Prevent repr from deleting key or value during key format. */
    2419                 :      49952 :         Py_INCREF(key);
    2420                 :      49952 :         Py_INCREF(value);
    2421                 :            : 
    2422         [ +  + ]:      49952 :         if (!first) {
    2423         [ -  + ]:      46830 :             if (_PyUnicodeWriter_WriteASCIIString(&writer, ", ", 2) < 0)
    2424                 :          0 :                 goto error;
    2425                 :            :         }
    2426                 :      49952 :         first = 0;
    2427                 :            : 
    2428                 :      49952 :         s = PyObject_Repr(key);
    2429         [ -  + ]:      49952 :         if (s == NULL)
    2430                 :          0 :             goto error;
    2431                 :      49952 :         res = _PyUnicodeWriter_WriteStr(&writer, s);
    2432                 :      49952 :         Py_DECREF(s);
    2433         [ -  + ]:      49952 :         if (res < 0)
    2434                 :          0 :             goto error;
    2435                 :            : 
    2436         [ -  + ]:      49952 :         if (_PyUnicodeWriter_WriteASCIIString(&writer, ": ", 2) < 0)
    2437                 :          0 :             goto error;
    2438                 :            : 
    2439                 :      49952 :         s = PyObject_Repr(value);
    2440         [ -  + ]:      49952 :         if (s == NULL)
    2441                 :          0 :             goto error;
    2442                 :      49952 :         res = _PyUnicodeWriter_WriteStr(&writer, s);
    2443                 :      49952 :         Py_DECREF(s);
    2444         [ -  + ]:      49952 :         if (res < 0)
    2445                 :          0 :             goto error;
    2446                 :            : 
    2447         [ +  - ]:      49952 :         Py_CLEAR(key);
    2448         [ +  - ]:      49952 :         Py_CLEAR(value);
    2449                 :            :     }
    2450                 :            : 
    2451                 :       3122 :     writer.overallocate = 0;
    2452         [ -  + ]:       3122 :     if (_PyUnicodeWriter_WriteChar(&writer, '}') < 0)
    2453                 :          0 :         goto error;
    2454                 :            : 
    2455                 :       3122 :     Py_ReprLeave((PyObject *)mp);
    2456                 :            : 
    2457                 :       3122 :     return _PyUnicodeWriter_Finish(&writer);
    2458                 :            : 
    2459                 :          0 : error:
    2460                 :          0 :     Py_ReprLeave((PyObject *)mp);
    2461                 :          0 :     _PyUnicodeWriter_Dealloc(&writer);
    2462                 :          0 :     Py_XDECREF(key);
    2463                 :          0 :     Py_XDECREF(value);
    2464                 :          0 :     return NULL;
    2465                 :            : }
    2466                 :            : 
    2467                 :            : static Py_ssize_t
    2468                 :        754 : dict_length(PyDictObject *mp)
    2469                 :            : {
    2470                 :        754 :     return mp->ma_used;
    2471                 :            : }
    2472                 :            : 
    2473                 :            : static PyObject *
    2474                 :       7262 : dict_subscript(PyDictObject *mp, PyObject *key)
    2475                 :            : {
    2476                 :            :     Py_ssize_t ix;
    2477                 :            :     Py_hash_t hash;
    2478                 :            :     PyObject *value;
    2479                 :            : 
    2480   [ +  +  +  + ]:       7262 :     if (!PyUnicode_CheckExact(key) || (hash = unicode_get_hash(key)) == -1) {
    2481                 :       1255 :         hash = PyObject_Hash(key);
    2482         [ -  + ]:       1255 :         if (hash == -1)
    2483                 :          0 :             return NULL;
    2484                 :            :     }
    2485                 :       7262 :     ix = _Py_dict_lookup(mp, key, hash, &value);
    2486         [ -  + ]:       7262 :     if (ix == DKIX_ERROR)
    2487                 :          0 :         return NULL;
    2488   [ +  +  -  + ]:       7262 :     if (ix == DKIX_EMPTY || value == NULL) {
    2489         [ +  + ]:       2564 :         if (!PyDict_CheckExact(mp)) {
    2490                 :            :             /* Look up __missing__ method if we're a subclass. */
    2491                 :            :             PyObject *missing, *res;
    2492                 :       2323 :             missing = _PyObject_LookupSpecial(
    2493                 :            :                     (PyObject *)mp, &_Py_ID(__missing__));
    2494         [ +  + ]:       2323 :             if (missing != NULL) {
    2495                 :       2233 :                 res = PyObject_CallOneArg(missing, key);
    2496                 :       2233 :                 Py_DECREF(missing);
    2497                 :       2233 :                 return res;
    2498                 :            :             }
    2499         [ -  + ]:         90 :             else if (PyErr_Occurred())
    2500                 :          0 :                 return NULL;
    2501                 :            :         }
    2502                 :        331 :         _PyErr_SetKeyError(key);
    2503                 :        331 :         return NULL;
    2504                 :            :     }
    2505                 :       4698 :     return Py_NewRef(value);
    2506                 :            : }
    2507                 :            : 
    2508                 :            : static int
    2509                 :       8810 : dict_ass_sub(PyDictObject *mp, PyObject *v, PyObject *w)
    2510                 :            : {
    2511         [ +  + ]:       8810 :     if (w == NULL)
    2512                 :       1609 :         return PyDict_DelItem((PyObject *)mp, v);
    2513                 :            :     else
    2514                 :       7201 :         return PyDict_SetItem((PyObject *)mp, v, w);
    2515                 :            : }
    2516                 :            : 
    2517                 :            : static PyMappingMethods dict_as_mapping = {
    2518                 :            :     (lenfunc)dict_length, /*mp_length*/
    2519                 :            :     (binaryfunc)dict_subscript, /*mp_subscript*/
    2520                 :            :     (objobjargproc)dict_ass_sub, /*mp_ass_subscript*/
    2521                 :            : };
    2522                 :            : 
    2523                 :            : static PyObject *
    2524                 :      16221 : dict_keys(PyDictObject *mp)
    2525                 :            : {
    2526                 :            :     PyObject *v;
    2527                 :            :     Py_ssize_t n;
    2528                 :            : 
    2529                 :      16221 :   again:
    2530                 :      16221 :     n = mp->ma_used;
    2531                 :      16221 :     v = PyList_New(n);
    2532         [ -  + ]:      16221 :     if (v == NULL)
    2533                 :          0 :         return NULL;
    2534         [ -  + ]:      16221 :     if (n != mp->ma_used) {
    2535                 :            :         /* Durnit.  The allocations caused the dict to resize.
    2536                 :            :          * Just start over, this shouldn't normally happen.
    2537                 :            :          */
    2538                 :          0 :         Py_DECREF(v);
    2539                 :          0 :         goto again;
    2540                 :            :     }
    2541                 :            : 
    2542                 :            :     /* Nothing we do below makes any function calls. */
    2543                 :      16221 :     Py_ssize_t j = 0, pos = 0;
    2544                 :            :     PyObject *key;
    2545         [ +  + ]:     141738 :     while (_PyDict_Next((PyObject*)mp, &pos, &key, NULL, NULL)) {
    2546                 :            :         assert(j < n);
    2547                 :     125517 :         PyList_SET_ITEM(v, j, Py_NewRef(key));
    2548                 :     125517 :         j++;
    2549                 :            :     }
    2550                 :            :     assert(j == n);
    2551                 :      16221 :     return v;
    2552                 :            : }
    2553                 :            : 
    2554                 :            : static PyObject *
    2555                 :          0 : dict_values(PyDictObject *mp)
    2556                 :            : {
    2557                 :            :     PyObject *v;
    2558                 :            :     Py_ssize_t n;
    2559                 :            : 
    2560                 :          0 :   again:
    2561                 :          0 :     n = mp->ma_used;
    2562                 :          0 :     v = PyList_New(n);
    2563         [ #  # ]:          0 :     if (v == NULL)
    2564                 :          0 :         return NULL;
    2565         [ #  # ]:          0 :     if (n != mp->ma_used) {
    2566                 :            :         /* Durnit.  The allocations caused the dict to resize.
    2567                 :            :          * Just start over, this shouldn't normally happen.
    2568                 :            :          */
    2569                 :          0 :         Py_DECREF(v);
    2570                 :          0 :         goto again;
    2571                 :            :     }
    2572                 :            : 
    2573                 :            :     /* Nothing we do below makes any function calls. */
    2574                 :          0 :     Py_ssize_t j = 0, pos = 0;
    2575                 :            :     PyObject *value;
    2576         [ #  # ]:          0 :     while (_PyDict_Next((PyObject*)mp, &pos, NULL, &value, NULL)) {
    2577                 :            :         assert(j < n);
    2578                 :          0 :         PyList_SET_ITEM(v, j, Py_NewRef(value));
    2579                 :          0 :         j++;
    2580                 :            :     }
    2581                 :            :     assert(j == n);
    2582                 :          0 :     return v;
    2583                 :            : }
    2584                 :            : 
    2585                 :            : static PyObject *
    2586                 :          0 : dict_items(PyDictObject *mp)
    2587                 :            : {
    2588                 :            :     PyObject *v;
    2589                 :            :     Py_ssize_t i, n;
    2590                 :            :     PyObject *item;
    2591                 :            : 
    2592                 :            :     /* Preallocate the list of tuples, to avoid allocations during
    2593                 :            :      * the loop over the items, which could trigger GC, which
    2594                 :            :      * could resize the dict. :-(
    2595                 :            :      */
    2596                 :          0 :   again:
    2597                 :          0 :     n = mp->ma_used;
    2598                 :          0 :     v = PyList_New(n);
    2599         [ #  # ]:          0 :     if (v == NULL)
    2600                 :          0 :         return NULL;
    2601         [ #  # ]:          0 :     for (i = 0; i < n; i++) {
    2602                 :          0 :         item = PyTuple_New(2);
    2603         [ #  # ]:          0 :         if (item == NULL) {
    2604                 :          0 :             Py_DECREF(v);
    2605                 :          0 :             return NULL;
    2606                 :            :         }
    2607                 :          0 :         PyList_SET_ITEM(v, i, item);
    2608                 :            :     }
    2609         [ #  # ]:          0 :     if (n != mp->ma_used) {
    2610                 :            :         /* Durnit.  The allocations caused the dict to resize.
    2611                 :            :          * Just start over, this shouldn't normally happen.
    2612                 :            :          */
    2613                 :          0 :         Py_DECREF(v);
    2614                 :          0 :         goto again;
    2615                 :            :     }
    2616                 :            : 
    2617                 :            :     /* Nothing we do below makes any function calls. */
    2618                 :          0 :     Py_ssize_t j = 0, pos = 0;
    2619                 :            :     PyObject *key, *value;
    2620         [ #  # ]:          0 :     while (_PyDict_Next((PyObject*)mp, &pos, &key, &value, NULL)) {
    2621                 :            :         assert(j < n);
    2622                 :          0 :         PyObject *item = PyList_GET_ITEM(v, j);
    2623                 :          0 :         PyTuple_SET_ITEM(item, 0, Py_NewRef(key));
    2624                 :          0 :         PyTuple_SET_ITEM(item, 1, Py_NewRef(value));
    2625                 :          0 :         j++;
    2626                 :            :     }
    2627                 :            :     assert(j == n);
    2628                 :          0 :     return v;
    2629                 :            : }
    2630                 :            : 
    2631                 :            : /*[clinic input]
    2632                 :            : @classmethod
    2633                 :            : dict.fromkeys
    2634                 :            :     iterable: object
    2635                 :            :     value: object=None
    2636                 :            :     /
    2637                 :            : 
    2638                 :            : Create a new dictionary with keys from iterable and values set to value.
    2639                 :            : [clinic start generated code]*/
    2640                 :            : 
    2641                 :            : static PyObject *
    2642                 :        152 : dict_fromkeys_impl(PyTypeObject *type, PyObject *iterable, PyObject *value)
    2643                 :            : /*[clinic end generated code: output=8fb98e4b10384999 input=382ba4855d0f74c3]*/
    2644                 :            : {
    2645                 :        152 :     return _PyDict_FromKeys((PyObject *)type, iterable, value);
    2646                 :            : }
    2647                 :            : 
    2648                 :            : /* Single-arg dict update; used by dict_update_common and operators. */
    2649                 :            : static int
    2650                 :       1329 : dict_update_arg(PyObject *self, PyObject *arg)
    2651                 :            : {
    2652         [ +  + ]:       1329 :     if (PyDict_CheckExact(arg)) {
    2653                 :       1215 :         return PyDict_Merge(self, arg, 1);
    2654                 :            :     }
    2655                 :            :     PyObject *func;
    2656         [ -  + ]:        114 :     if (_PyObject_LookupAttr(arg, &_Py_ID(keys), &func) < 0) {
    2657                 :          0 :         return -1;
    2658                 :            :     }
    2659         [ +  + ]:        114 :     if (func != NULL) {
    2660                 :         63 :         Py_DECREF(func);
    2661                 :         63 :         return PyDict_Merge(self, arg, 1);
    2662                 :            :     }
    2663                 :         51 :     return PyDict_MergeFromSeq2(self, arg, 1);
    2664                 :            : }
    2665                 :            : 
    2666                 :            : static int
    2667                 :       2065 : dict_update_common(PyObject *self, PyObject *args, PyObject *kwds,
    2668                 :            :                    const char *methname)
    2669                 :            : {
    2670                 :       2065 :     PyObject *arg = NULL;
    2671                 :       2065 :     int result = 0;
    2672                 :            : 
    2673         [ -  + ]:       2065 :     if (!PyArg_UnpackTuple(args, methname, 0, 1, &arg)) {
    2674                 :          0 :         result = -1;
    2675                 :            :     }
    2676         [ +  + ]:       2065 :     else if (arg != NULL) {
    2677                 :       1211 :         result = dict_update_arg(self, arg);
    2678                 :            :     }
    2679                 :            : 
    2680   [ +  -  +  + ]:       2065 :     if (result == 0 && kwds != NULL) {
    2681         [ +  - ]:          2 :         if (PyArg_ValidateKeywordArguments(kwds))
    2682                 :          2 :             result = PyDict_Merge(self, kwds, 1);
    2683                 :            :         else
    2684                 :          0 :             result = -1;
    2685                 :            :     }
    2686                 :       2065 :     return result;
    2687                 :            : }
    2688                 :            : 
    2689                 :            : /* Note: dict.update() uses the METH_VARARGS|METH_KEYWORDS calling convention.
    2690                 :            :    Using METH_FASTCALL|METH_KEYWORDS would make dict.update(**dict2) calls
    2691                 :            :    slower, see the issue #29312. */
    2692                 :            : static PyObject *
    2693                 :       1213 : dict_update(PyObject *self, PyObject *args, PyObject *kwds)
    2694                 :            : {
    2695         [ +  - ]:       1213 :     if (dict_update_common(self, args, kwds, "update") != -1)
    2696                 :       1213 :         Py_RETURN_NONE;
    2697                 :          0 :     return NULL;
    2698                 :            : }
    2699                 :            : 
    2700                 :            : /* Update unconditionally replaces existing items.
    2701                 :            :    Merge has a 3rd argument 'override'; if set, it acts like Update,
    2702                 :            :    otherwise it leaves existing items unchanged.
    2703                 :            : 
    2704                 :            :    PyDict_{Update,Merge} update/merge from a mapping object.
    2705                 :            : 
    2706                 :            :    PyDict_MergeFromSeq2 updates/merges from any iterable object
    2707                 :            :    producing iterable objects of length 2.
    2708                 :            : */
    2709                 :            : 
    2710                 :            : int
    2711                 :         51 : PyDict_MergeFromSeq2(PyObject *d, PyObject *seq2, int override)
    2712                 :            : {
    2713                 :            :     PyObject *it;       /* iter(seq2) */
    2714                 :            :     Py_ssize_t i;       /* index into seq2 of current element */
    2715                 :            :     PyObject *item;     /* seq2[i] */
    2716                 :            :     PyObject *fast;     /* item as a 2-tuple or 2-list */
    2717                 :            : 
    2718                 :            :     assert(d != NULL);
    2719                 :            :     assert(PyDict_Check(d));
    2720                 :            :     assert(seq2 != NULL);
    2721                 :            : 
    2722                 :         51 :     it = PyObject_GetIter(seq2);
    2723         [ -  + ]:         51 :     if (it == NULL)
    2724                 :          0 :         return -1;
    2725                 :            : 
    2726                 :        540 :     for (i = 0; ; ++i) {
    2727                 :            :         PyObject *key, *value;
    2728                 :            :         Py_ssize_t n;
    2729                 :            : 
    2730                 :        540 :         fast = NULL;
    2731                 :        540 :         item = PyIter_Next(it);
    2732         [ +  + ]:        540 :         if (item == NULL) {
    2733         [ -  + ]:         51 :             if (PyErr_Occurred())
    2734                 :          0 :                 goto Fail;
    2735                 :         51 :             break;
    2736                 :            :         }
    2737                 :            : 
    2738                 :            :         /* Convert item to sequence, and verify length 2. */
    2739                 :        489 :         fast = PySequence_Fast(item, "");
    2740         [ -  + ]:        489 :         if (fast == NULL) {
    2741         [ #  # ]:          0 :             if (PyErr_ExceptionMatches(PyExc_TypeError))
    2742                 :          0 :                 PyErr_Format(PyExc_TypeError,
    2743                 :            :                     "cannot convert dictionary update "
    2744                 :            :                     "sequence element #%zd to a sequence",
    2745                 :            :                     i);
    2746                 :          0 :             goto Fail;
    2747                 :            :         }
    2748         [ -  + ]:        489 :         n = PySequence_Fast_GET_SIZE(fast);
    2749         [ -  + ]:        489 :         if (n != 2) {
    2750                 :          0 :             PyErr_Format(PyExc_ValueError,
    2751                 :            :                          "dictionary update sequence element #%zd "
    2752                 :            :                          "has length %zd; 2 is required",
    2753                 :            :                          i, n);
    2754                 :          0 :             goto Fail;
    2755                 :            :         }
    2756                 :            : 
    2757                 :            :         /* Update/merge with this (key, value) pair. */
    2758         [ -  + ]:        489 :         key = PySequence_Fast_GET_ITEM(fast, 0);
    2759         [ -  + ]:        489 :         value = PySequence_Fast_GET_ITEM(fast, 1);
    2760                 :        489 :         Py_INCREF(key);
    2761                 :        489 :         Py_INCREF(value);
    2762         [ +  - ]:        489 :         if (override) {
    2763         [ -  + ]:        489 :             if (PyDict_SetItem(d, key, value) < 0) {
    2764                 :          0 :                 Py_DECREF(key);
    2765                 :          0 :                 Py_DECREF(value);
    2766                 :          0 :                 goto Fail;
    2767                 :            :             }
    2768                 :            :         }
    2769                 :            :         else {
    2770         [ #  # ]:          0 :             if (PyDict_SetDefault(d, key, value) == NULL) {
    2771                 :          0 :                 Py_DECREF(key);
    2772                 :          0 :                 Py_DECREF(value);
    2773                 :          0 :                 goto Fail;
    2774                 :            :             }
    2775                 :            :         }
    2776                 :            : 
    2777                 :        489 :         Py_DECREF(key);
    2778                 :        489 :         Py_DECREF(value);
    2779                 :        489 :         Py_DECREF(fast);
    2780                 :        489 :         Py_DECREF(item);
    2781                 :            :     }
    2782                 :            : 
    2783                 :         51 :     i = 0;
    2784                 :            :     ASSERT_CONSISTENT(d);
    2785                 :         51 :     goto Return;
    2786                 :          0 : Fail:
    2787                 :          0 :     Py_XDECREF(item);
    2788                 :          0 :     Py_XDECREF(fast);
    2789                 :          0 :     i = -1;
    2790                 :         51 : Return:
    2791                 :         51 :     Py_DECREF(it);
    2792                 :         51 :     return Py_SAFE_DOWNCAST(i, Py_ssize_t, int);
    2793                 :            : }
    2794                 :            : 
    2795                 :            : static int
    2796                 :     106366 : dict_merge(PyInterpreterState *interp, PyObject *a, PyObject *b, int override)
    2797                 :            : {
    2798                 :            :     PyDictObject *mp, *other;
    2799                 :            : 
    2800                 :            :     assert(0 <= override && override <= 2);
    2801                 :            : 
    2802                 :            :     /* We accept for the argument either a concrete dictionary object,
    2803                 :            :      * or an abstract "mapping" object.  For the former, we can do
    2804                 :            :      * things quite efficiently.  For the latter, we only require that
    2805                 :            :      * PyMapping_Keys() and PyObject_GetItem() be supported.
    2806                 :            :      */
    2807   [ +  -  +  -  :     106366 :     if (a == NULL || !PyDict_Check(a) || b == NULL) {
                   -  + ]
    2808                 :          0 :         PyErr_BadInternalCall();
    2809                 :          0 :         return -1;
    2810                 :            :     }
    2811                 :     106366 :     mp = (PyDictObject*)a;
    2812   [ +  +  +  - ]:     109012 :     if (PyDict_Check(b) && (Py_TYPE(b)->tp_iter == (getiterfunc)dict_iter)) {
    2813                 :     106297 :         other = (PyDictObject*)b;
    2814   [ +  -  +  + ]:     106297 :         if (other == mp || other->ma_used == 0)
    2815                 :            :             /* a.update(a) or a.update({}); nothing to do */
    2816                 :     103651 :             return 0;
    2817         [ +  + ]:      31872 :         if (mp->ma_used == 0) {
    2818                 :            :             /* Since the target dict is empty, PyDict_GetItem()
    2819                 :            :              * always returns NULL.  Setting override to 1
    2820                 :            :              * skips the unnecessary test.
    2821                 :            :              */
    2822                 :      31085 :             override = 1;
    2823                 :      31085 :             PyDictKeysObject *okeys = other->ma_keys;
    2824                 :            : 
    2825                 :            :             // If other is clean, combined, and just allocated, just clone it.
    2826         [ +  - ]:      31085 :             if (other->ma_values == NULL &&
    2827         [ +  + ]:      31085 :                     other->ma_used == okeys->dk_nentries &&
    2828         [ +  + ]:      29254 :                     (DK_LOG_SIZE(okeys) == PyDict_LOG_MINSIZE ||
    2829         [ +  + ]:         70 :                      USABLE_FRACTION(DK_SIZE(okeys)/2) < other->ma_used)) {
    2830                 :      29226 :                 uint64_t new_version = _PyDict_NotifyEvent(
    2831                 :            :                         interp, PyDict_EVENT_CLONED, mp, b, NULL);
    2832                 :      29226 :                 PyDictKeysObject *keys = clone_combined_dict_keys(other);
    2833         [ -  + ]:      29226 :                 if (keys == NULL) {
    2834                 :          0 :                     return -1;
    2835                 :            :                 }
    2836                 :            : 
    2837                 :      29226 :                 dictkeys_decref(interp, mp->ma_keys);
    2838                 :      29226 :                 mp->ma_keys = keys;
    2839         [ -  + ]:      29226 :                 if (mp->ma_values != NULL) {
    2840                 :          0 :                     free_values(mp->ma_values);
    2841                 :          0 :                     mp->ma_values = NULL;
    2842                 :            :                 }
    2843                 :            : 
    2844                 :      29226 :                 mp->ma_used = other->ma_used;
    2845                 :      29226 :                 mp->ma_version_tag = new_version;
    2846                 :            :                 ASSERT_CONSISTENT(mp);
    2847                 :            : 
    2848   [ +  +  +  + ]:      29226 :                 if (_PyObject_GC_IS_TRACKED(other) && !_PyObject_GC_IS_TRACKED(mp)) {
    2849                 :            :                     /* Maintain tracking. */
    2850                 :         70 :                     _PyObject_GC_TRACK(mp);
    2851                 :            :                 }
    2852                 :            : 
    2853                 :      29226 :                 return 0;
    2854                 :            :             }
    2855                 :            :         }
    2856                 :            :         /* Do one big resize at the start, rather than
    2857                 :            :          * incrementally resizing as we insert new items.  Expect
    2858                 :            :          * that there will be no (or few) overlapping keys.
    2859                 :            :          */
    2860         [ +  + ]:       2646 :         if (USABLE_FRACTION(DK_SIZE(mp->ma_keys)) < other->ma_used) {
    2861                 :       1865 :             int unicode = DK_IS_UNICODE(other->ma_keys);
    2862         [ -  + ]:       1865 :             if (dictresize(interp, mp,
    2863                 :       1865 :                            estimate_log2_keysize(mp->ma_used + other->ma_used),
    2864                 :            :                            unicode)) {
    2865                 :          0 :                return -1;
    2866                 :            :             }
    2867                 :            :         }
    2868                 :            : 
    2869                 :       2646 :         Py_ssize_t orig_size = other->ma_keys->dk_nentries;
    2870                 :       2646 :         Py_ssize_t pos = 0;
    2871                 :            :         Py_hash_t hash;
    2872                 :            :         PyObject *key, *value;
    2873                 :            : 
    2874         [ +  + ]:      19883 :         while (_PyDict_Next((PyObject*)other, &pos, &key, &value, &hash)) {
    2875                 :      17237 :             int err = 0;
    2876                 :      17237 :             Py_INCREF(key);
    2877                 :      17237 :             Py_INCREF(value);
    2878         [ +  + ]:      17237 :             if (override == 1) {
    2879                 :      17207 :                 err = insertdict(interp, mp,
    2880                 :            :                                  Py_NewRef(key), hash, Py_NewRef(value));
    2881                 :            :             }
    2882                 :            :             else {
    2883                 :         30 :                 err = _PyDict_Contains_KnownHash(a, key, hash);
    2884         [ +  - ]:         30 :                 if (err == 0) {
    2885                 :         30 :                     err = insertdict(interp, mp,
    2886                 :            :                                      Py_NewRef(key), hash, Py_NewRef(value));
    2887                 :            :                 }
    2888         [ #  # ]:          0 :                 else if (err > 0) {
    2889         [ #  # ]:          0 :                     if (override != 0) {
    2890                 :          0 :                         _PyErr_SetKeyError(key);
    2891                 :          0 :                         Py_DECREF(value);
    2892                 :          0 :                         Py_DECREF(key);
    2893                 :          0 :                         return -1;
    2894                 :            :                     }
    2895                 :          0 :                     err = 0;
    2896                 :            :                 }
    2897                 :            :             }
    2898                 :      17237 :             Py_DECREF(value);
    2899                 :      17237 :             Py_DECREF(key);
    2900         [ -  + ]:      17237 :             if (err != 0)
    2901                 :          0 :                 return -1;
    2902                 :            : 
    2903         [ -  + ]:      17237 :             if (orig_size != other->ma_keys->dk_nentries) {
    2904                 :          0 :                 PyErr_SetString(PyExc_RuntimeError,
    2905                 :            :                         "dict mutated during update");
    2906                 :          0 :                 return -1;
    2907                 :            :             }
    2908                 :            :         }
    2909                 :            :     }
    2910                 :            :     else {
    2911                 :            :         /* Do it the generic, slower way */
    2912                 :         69 :         PyObject *keys = PyMapping_Keys(b);
    2913                 :            :         PyObject *iter;
    2914                 :            :         PyObject *key, *value;
    2915                 :            :         int status;
    2916                 :            : 
    2917         [ -  + ]:         69 :         if (keys == NULL)
    2918                 :            :             /* Docstring says this is equivalent to E.keys() so
    2919                 :            :              * if E doesn't have a .keys() method we want
    2920                 :            :              * AttributeError to percolate up.  Might as well
    2921                 :            :              * do the same for any other error.
    2922                 :            :              */
    2923                 :          0 :             return -1;
    2924                 :            : 
    2925                 :         69 :         iter = PyObject_GetIter(keys);
    2926                 :         69 :         Py_DECREF(keys);
    2927         [ -  + ]:         69 :         if (iter == NULL)
    2928                 :          0 :             return -1;
    2929                 :            : 
    2930         [ +  + ]:       1743 :         for (key = PyIter_Next(iter); key; key = PyIter_Next(iter)) {
    2931         [ -  + ]:       1674 :             if (override != 1) {
    2932                 :          0 :                 status = PyDict_Contains(a, key);
    2933         [ #  # ]:          0 :                 if (status != 0) {
    2934         [ #  # ]:          0 :                     if (status > 0) {
    2935         [ #  # ]:          0 :                         if (override == 0) {
    2936                 :          0 :                             Py_DECREF(key);
    2937                 :          0 :                             continue;
    2938                 :            :                         }
    2939                 :          0 :                         _PyErr_SetKeyError(key);
    2940                 :            :                     }
    2941                 :          0 :                     Py_DECREF(key);
    2942                 :          0 :                     Py_DECREF(iter);
    2943                 :          0 :                     return -1;
    2944                 :            :                 }
    2945                 :            :             }
    2946                 :       1674 :             value = PyObject_GetItem(b, key);
    2947         [ -  + ]:       1674 :             if (value == NULL) {
    2948                 :          0 :                 Py_DECREF(iter);
    2949                 :          0 :                 Py_DECREF(key);
    2950                 :          0 :                 return -1;
    2951                 :            :             }
    2952                 :       1674 :             status = PyDict_SetItem(a, key, value);
    2953                 :       1674 :             Py_DECREF(key);
    2954                 :       1674 :             Py_DECREF(value);
    2955         [ -  + ]:       1674 :             if (status < 0) {
    2956                 :          0 :                 Py_DECREF(iter);
    2957                 :          0 :                 return -1;
    2958                 :            :             }
    2959                 :            :         }
    2960                 :         69 :         Py_DECREF(iter);
    2961         [ -  + ]:         69 :         if (PyErr_Occurred())
    2962                 :            :             /* Iterator completed, via error */
    2963                 :          0 :             return -1;
    2964                 :            :     }
    2965                 :            :     ASSERT_CONSISTENT(a);
    2966                 :       2715 :     return 0;
    2967                 :            : }
    2968                 :            : 
    2969                 :            : int
    2970                 :        998 : PyDict_Update(PyObject *a, PyObject *b)
    2971                 :            : {
    2972                 :        998 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    2973                 :        998 :     return dict_merge(interp, a, b, 1);
    2974                 :            : }
    2975                 :            : 
    2976                 :            : int
    2977                 :       1280 : PyDict_Merge(PyObject *a, PyObject *b, int override)
    2978                 :            : {
    2979                 :       1280 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    2980                 :            :     /* XXX Deprecate override not in (0, 1). */
    2981                 :       1280 :     return dict_merge(interp, a, b, override != 0);
    2982                 :            : }
    2983                 :            : 
    2984                 :            : int
    2985                 :     102304 : _PyDict_MergeEx(PyObject *a, PyObject *b, int override)
    2986                 :            : {
    2987                 :     102304 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    2988                 :     102304 :     return dict_merge(interp, a, b, override);
    2989                 :            : }
    2990                 :            : 
    2991                 :            : static PyObject *
    2992                 :       1975 : dict_copy(PyDictObject *mp, PyObject *Py_UNUSED(ignored))
    2993                 :            : {
    2994                 :       1975 :     return PyDict_Copy((PyObject*)mp);
    2995                 :            : }
    2996                 :            : 
    2997                 :            : PyObject *
    2998                 :      14694 : PyDict_Copy(PyObject *o)
    2999                 :            : {
    3000                 :            :     PyObject *copy;
    3001                 :            :     PyDictObject *mp;
    3002                 :      14694 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    3003                 :            : 
    3004   [ +  -  -  + ]:      14694 :     if (o == NULL || !PyDict_Check(o)) {
    3005                 :          0 :         PyErr_BadInternalCall();
    3006                 :          0 :         return NULL;
    3007                 :            :     }
    3008                 :            : 
    3009                 :      14694 :     mp = (PyDictObject *)o;
    3010         [ +  + ]:      14694 :     if (mp->ma_used == 0) {
    3011                 :            :         /* The dict is empty; just return a new dict. */
    3012                 :         35 :         return PyDict_New();
    3013                 :            :     }
    3014                 :            : 
    3015         [ -  + ]:      14659 :     if (_PyDict_HasSplitTable(mp)) {
    3016                 :            :         PyDictObject *split_copy;
    3017                 :          0 :         size_t size = shared_keys_usable_size(mp->ma_keys);
    3018                 :          0 :         PyDictValues *newvalues = new_values(size);
    3019         [ #  # ]:          0 :         if (newvalues == NULL)
    3020                 :          0 :             return PyErr_NoMemory();
    3021                 :          0 :         split_copy = PyObject_GC_New(PyDictObject, &PyDict_Type);
    3022         [ #  # ]:          0 :         if (split_copy == NULL) {
    3023                 :          0 :             free_values(newvalues);
    3024                 :          0 :             return NULL;
    3025                 :            :         }
    3026                 :          0 :         size_t prefix_size = ((uint8_t *)newvalues)[-1];
    3027                 :          0 :         memcpy(((char *)newvalues)-prefix_size, ((char *)mp->ma_values)-prefix_size, prefix_size-1);
    3028                 :          0 :         split_copy->ma_values = newvalues;
    3029                 :          0 :         split_copy->ma_keys = mp->ma_keys;
    3030                 :          0 :         split_copy->ma_used = mp->ma_used;
    3031                 :          0 :         split_copy->ma_version_tag = DICT_NEXT_VERSION(interp);
    3032                 :          0 :         dictkeys_incref(mp->ma_keys);
    3033         [ #  # ]:          0 :         for (size_t i = 0; i < size; i++) {
    3034                 :          0 :             PyObject *value = mp->ma_values->values[i];
    3035                 :          0 :             split_copy->ma_values->values[i] = Py_XNewRef(value);
    3036                 :            :         }
    3037         [ #  # ]:          0 :         if (_PyObject_GC_IS_TRACKED(mp))
    3038                 :          0 :             _PyObject_GC_TRACK(split_copy);
    3039                 :          0 :         return (PyObject *)split_copy;
    3040                 :            :     }
    3041                 :            : 
    3042         [ +  - ]:      14659 :     if (Py_TYPE(mp)->tp_iter == (getiterfunc)dict_iter &&
    3043         [ +  - ]:      14659 :             mp->ma_values == NULL &&
    3044         [ +  + ]:      14659 :             (mp->ma_used >= (mp->ma_keys->dk_nentries * 2) / 3))
    3045                 :            :     {
    3046                 :            :         /* Use fast-copy if:
    3047                 :            : 
    3048                 :            :            (1) type(mp) doesn't override tp_iter; and
    3049                 :            : 
    3050                 :            :            (2) 'mp' is not a split-dict; and
    3051                 :            : 
    3052                 :            :            (3) if 'mp' is non-compact ('del' operation does not resize dicts),
    3053                 :            :                do fast-copy only if it has at most 1/3 non-used keys.
    3054                 :            : 
    3055                 :            :            The last condition (3) is important to guard against a pathological
    3056                 :            :            case when a large dict is almost emptied with multiple del/pop
    3057                 :            :            operations and copied after that.  In cases like this, we defer to
    3058                 :            :            PyDict_Merge, which produces a compacted copy.
    3059                 :            :         */
    3060                 :      12875 :         PyDictKeysObject *keys = clone_combined_dict_keys(mp);
    3061         [ -  + ]:      12875 :         if (keys == NULL) {
    3062                 :          0 :             return NULL;
    3063                 :            :         }
    3064                 :      12875 :         PyDictObject *new = (PyDictObject *)new_dict(interp, keys, NULL, 0, 0);
    3065         [ -  + ]:      12875 :         if (new == NULL) {
    3066                 :            :             /* In case of an error, `new_dict()` takes care of
    3067                 :            :                cleaning up `keys`. */
    3068                 :          0 :             return NULL;
    3069                 :            :         }
    3070                 :            : 
    3071                 :      12875 :         new->ma_used = mp->ma_used;
    3072                 :            :         ASSERT_CONSISTENT(new);
    3073         [ +  + ]:      12875 :         if (_PyObject_GC_IS_TRACKED(mp)) {
    3074                 :            :             /* Maintain tracking. */
    3075                 :       9855 :             _PyObject_GC_TRACK(new);
    3076                 :            :         }
    3077                 :            : 
    3078                 :      12875 :         return (PyObject *)new;
    3079                 :            :     }
    3080                 :            : 
    3081                 :       1784 :     copy = PyDict_New();
    3082         [ -  + ]:       1784 :     if (copy == NULL)
    3083                 :          0 :         return NULL;
    3084         [ +  - ]:       1784 :     if (dict_merge(interp, copy, o, 1) == 0)
    3085                 :       1784 :         return copy;
    3086                 :          0 :     Py_DECREF(copy);
    3087                 :          0 :     return NULL;
    3088                 :            : }
    3089                 :            : 
    3090                 :            : Py_ssize_t
    3091                 :      12404 : PyDict_Size(PyObject *mp)
    3092                 :            : {
    3093   [ +  -  -  + ]:      12404 :     if (mp == NULL || !PyDict_Check(mp)) {
    3094                 :          0 :         PyErr_BadInternalCall();
    3095                 :          0 :         return -1;
    3096                 :            :     }
    3097                 :      12404 :     return ((PyDictObject *)mp)->ma_used;
    3098                 :            : }
    3099                 :            : 
    3100                 :            : PyObject *
    3101                 :      16221 : PyDict_Keys(PyObject *mp)
    3102                 :            : {
    3103   [ +  -  -  + ]:      16221 :     if (mp == NULL || !PyDict_Check(mp)) {
    3104                 :          0 :         PyErr_BadInternalCall();
    3105                 :          0 :         return NULL;
    3106                 :            :     }
    3107                 :      16221 :     return dict_keys((PyDictObject *)mp);
    3108                 :            : }
    3109                 :            : 
    3110                 :            : PyObject *
    3111                 :          0 : PyDict_Values(PyObject *mp)
    3112                 :            : {
    3113   [ #  #  #  # ]:          0 :     if (mp == NULL || !PyDict_Check(mp)) {
    3114                 :          0 :         PyErr_BadInternalCall();
    3115                 :          0 :         return NULL;
    3116                 :            :     }
    3117                 :          0 :     return dict_values((PyDictObject *)mp);
    3118                 :            : }
    3119                 :            : 
    3120                 :            : PyObject *
    3121                 :          0 : PyDict_Items(PyObject *mp)
    3122                 :            : {
    3123   [ #  #  #  # ]:          0 :     if (mp == NULL || !PyDict_Check(mp)) {
    3124                 :          0 :         PyErr_BadInternalCall();
    3125                 :          0 :         return NULL;
    3126                 :            :     }
    3127                 :          0 :     return dict_items((PyDictObject *)mp);
    3128                 :            : }
    3129                 :            : 
    3130                 :            : /* Return 1 if dicts equal, 0 if not, -1 if error.
    3131                 :            :  * Gets out as soon as any difference is detected.
    3132                 :            :  * Uses only Py_EQ comparison.
    3133                 :            :  */
    3134                 :            : static int
    3135                 :         13 : dict_equal(PyDictObject *a, PyDictObject *b)
    3136                 :            : {
    3137                 :            :     Py_ssize_t i;
    3138                 :            : 
    3139         [ -  + ]:         13 :     if (a->ma_used != b->ma_used)
    3140                 :            :         /* can't be equal if # of entries differ */
    3141                 :          0 :         return 0;
    3142                 :            :     /* Same # of entries -- check all of 'em.  Exit early on any diff. */
    3143         [ +  + ]:       2180 :     for (i = 0; i < a->ma_keys->dk_nentries; i++) {
    3144                 :            :         PyObject *key, *aval;
    3145                 :            :         Py_hash_t hash;
    3146         [ +  + ]:       2167 :         if (DK_IS_UNICODE(a->ma_keys)) {
    3147                 :       2166 :             PyDictUnicodeEntry *ep = &DK_UNICODE_ENTRIES(a->ma_keys)[i];
    3148                 :       2166 :             key = ep->me_key;
    3149         [ -  + ]:       2166 :             if (key == NULL) {
    3150                 :          0 :                 continue;
    3151                 :            :             }
    3152                 :       2166 :             hash = unicode_get_hash(key);
    3153         [ -  + ]:       2166 :             if (a->ma_values)
    3154                 :          0 :                 aval = a->ma_values->values[i];
    3155                 :            :             else
    3156                 :       2166 :                 aval = ep->me_value;
    3157                 :            :         }
    3158                 :            :         else {
    3159                 :          1 :             PyDictKeyEntry *ep = &DK_ENTRIES(a->ma_keys)[i];
    3160                 :          1 :             key = ep->me_key;
    3161                 :          1 :             aval = ep->me_value;
    3162                 :          1 :             hash = ep->me_hash;
    3163                 :            :         }
    3164         [ +  - ]:       2167 :         if (aval != NULL) {
    3165                 :            :             int cmp;
    3166                 :            :             PyObject *bval;
    3167                 :            :             /* temporarily bump aval's refcount to ensure it stays
    3168                 :            :                alive until we're done with it */
    3169                 :       2167 :             Py_INCREF(aval);
    3170                 :            :             /* ditto for key */
    3171                 :       2167 :             Py_INCREF(key);
    3172                 :            :             /* reuse the known hash value */
    3173                 :       2167 :             _Py_dict_lookup(b, key, hash, &bval);
    3174         [ -  + ]:       2167 :             if (bval == NULL) {
    3175                 :          0 :                 Py_DECREF(key);
    3176                 :          0 :                 Py_DECREF(aval);
    3177         [ #  # ]:          0 :                 if (PyErr_Occurred())
    3178                 :          0 :                     return -1;
    3179                 :          0 :                 return 0;
    3180                 :            :             }
    3181                 :       2167 :             Py_INCREF(bval);
    3182                 :       2167 :             cmp = PyObject_RichCompareBool(aval, bval, Py_EQ);
    3183                 :       2167 :             Py_DECREF(key);
    3184                 :       2167 :             Py_DECREF(aval);
    3185                 :       2167 :             Py_DECREF(bval);
    3186         [ -  + ]:       2167 :             if (cmp <= 0)  /* error or not equal */
    3187                 :          0 :                 return cmp;
    3188                 :            :         }
    3189                 :            :     }
    3190                 :         13 :     return 1;
    3191                 :            : }
    3192                 :            : 
    3193                 :            : static PyObject *
    3194                 :         13 : dict_richcompare(PyObject *v, PyObject *w, int op)
    3195                 :            : {
    3196                 :            :     int cmp;
    3197                 :            :     PyObject *res;
    3198                 :            : 
    3199   [ +  -  -  + ]:         13 :     if (!PyDict_Check(v) || !PyDict_Check(w)) {
    3200                 :          0 :         res = Py_NotImplemented;
    3201                 :            :     }
    3202   [ +  +  +  - ]:         13 :     else if (op == Py_EQ || op == Py_NE) {
    3203                 :         13 :         cmp = dict_equal((PyDictObject *)v, (PyDictObject *)w);
    3204         [ -  + ]:         13 :         if (cmp < 0)
    3205                 :          0 :             return NULL;
    3206         [ +  + ]:         13 :         res = (cmp == (op == Py_EQ)) ? Py_True : Py_False;
    3207                 :            :     }
    3208                 :            :     else
    3209                 :          0 :         res = Py_NotImplemented;
    3210                 :         13 :     return Py_NewRef(res);
    3211                 :            : }
    3212                 :            : 
    3213                 :            : /*[clinic input]
    3214                 :            : 
    3215                 :            : @coexist
    3216                 :            : dict.__contains__
    3217                 :            : 
    3218                 :            :   key: object
    3219                 :            :   /
    3220                 :            : 
    3221                 :            : True if the dictionary has the specified key, else False.
    3222                 :            : [clinic start generated code]*/
    3223                 :            : 
    3224                 :            : static PyObject *
    3225                 :         63 : dict___contains__(PyDictObject *self, PyObject *key)
    3226                 :            : /*[clinic end generated code: output=a3d03db709ed6e6b input=fe1cb42ad831e820]*/
    3227                 :            : {
    3228                 :         63 :     register PyDictObject *mp = self;
    3229                 :            :     Py_hash_t hash;
    3230                 :            :     Py_ssize_t ix;
    3231                 :            :     PyObject *value;
    3232                 :            : 
    3233   [ +  -  -  + ]:         63 :     if (!PyUnicode_CheckExact(key) || (hash = unicode_get_hash(key)) == -1) {
    3234                 :          0 :         hash = PyObject_Hash(key);
    3235         [ #  # ]:          0 :         if (hash == -1)
    3236                 :          0 :             return NULL;
    3237                 :            :     }
    3238                 :         63 :     ix = _Py_dict_lookup(mp, key, hash, &value);
    3239         [ -  + ]:         63 :     if (ix == DKIX_ERROR)
    3240                 :          0 :         return NULL;
    3241   [ -  +  -  - ]:         63 :     if (ix == DKIX_EMPTY || value == NULL)
    3242                 :         63 :         Py_RETURN_FALSE;
    3243                 :          0 :     Py_RETURN_TRUE;
    3244                 :            : }
    3245                 :            : 
    3246                 :            : /*[clinic input]
    3247                 :            : dict.get
    3248                 :            : 
    3249                 :            :     key: object
    3250                 :            :     default: object = None
    3251                 :            :     /
    3252                 :            : 
    3253                 :            : Return the value for key if key is in the dictionary, else default.
    3254                 :            : [clinic start generated code]*/
    3255                 :            : 
    3256                 :            : static PyObject *
    3257                 :     132694 : dict_get_impl(PyDictObject *self, PyObject *key, PyObject *default_value)
    3258                 :            : /*[clinic end generated code: output=bba707729dee05bf input=279ddb5790b6b107]*/
    3259                 :            : {
    3260                 :     132694 :     PyObject *val = NULL;
    3261                 :            :     Py_hash_t hash;
    3262                 :            :     Py_ssize_t ix;
    3263                 :            : 
    3264   [ +  +  +  + ]:     132694 :     if (!PyUnicode_CheckExact(key) || (hash = unicode_get_hash(key)) == -1) {
    3265                 :     127580 :         hash = PyObject_Hash(key);
    3266         [ -  + ]:     127580 :         if (hash == -1)
    3267                 :          0 :             return NULL;
    3268                 :            :     }
    3269                 :     132694 :     ix = _Py_dict_lookup(self, key, hash, &val);
    3270         [ -  + ]:     132694 :     if (ix == DKIX_ERROR)
    3271                 :          0 :         return NULL;
    3272   [ +  +  -  + ]:     132694 :     if (ix == DKIX_EMPTY || val == NULL) {
    3273                 :     129968 :         val = default_value;
    3274                 :            :     }
    3275                 :     132694 :     return Py_NewRef(val);
    3276                 :            : }
    3277                 :            : 
    3278                 :            : PyObject *
    3279                 :     905324 : PyDict_SetDefault(PyObject *d, PyObject *key, PyObject *defaultobj)
    3280                 :            : {
    3281                 :     905324 :     PyDictObject *mp = (PyDictObject *)d;
    3282                 :            :     PyObject *value;
    3283                 :            :     Py_hash_t hash;
    3284                 :     905324 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    3285                 :            : 
    3286         [ -  + ]:     905324 :     if (!PyDict_Check(d)) {
    3287                 :          0 :         PyErr_BadInternalCall();
    3288                 :          0 :         return NULL;
    3289                 :            :     }
    3290                 :            : 
    3291   [ +  +  +  + ]:     905324 :     if (!PyUnicode_CheckExact(key) || (hash = unicode_get_hash(key)) == -1) {
    3292                 :     825259 :         hash = PyObject_Hash(key);
    3293         [ -  + ]:     825259 :         if (hash == -1)
    3294                 :          0 :             return NULL;
    3295                 :            :     }
    3296                 :            : 
    3297         [ +  + ]:     905324 :     if (mp->ma_keys == Py_EMPTY_KEYS) {
    3298         [ -  + ]:        617 :         if (insert_to_emptydict(interp, mp, Py_NewRef(key), hash,
    3299                 :            :                                 Py_NewRef(defaultobj)) < 0) {
    3300                 :          0 :             return NULL;
    3301                 :            :         }
    3302                 :        617 :         return defaultobj;
    3303                 :            :     }
    3304                 :            : 
    3305   [ +  +  +  + ]:     904707 :     if (!PyUnicode_CheckExact(key) && DK_IS_UNICODE(mp->ma_keys)) {
    3306         [ -  + ]:        157 :         if (insertion_resize(interp, mp, 0) < 0) {
    3307                 :          0 :             return NULL;
    3308                 :            :         }
    3309                 :            :     }
    3310                 :            : 
    3311                 :     904707 :     Py_ssize_t ix = _Py_dict_lookup(mp, key, hash, &value);
    3312         [ -  + ]:     904707 :     if (ix == DKIX_ERROR)
    3313                 :          0 :         return NULL;
    3314                 :            : 
    3315         [ +  + ]:     904707 :     if (ix == DKIX_EMPTY) {
    3316                 :     223715 :         uint64_t new_version = _PyDict_NotifyEvent(
    3317                 :            :                 interp, PyDict_EVENT_ADDED, mp, key, defaultobj);
    3318                 :     223715 :         mp->ma_keys->dk_version = 0;
    3319                 :     223715 :         value = defaultobj;
    3320         [ +  + ]:     223715 :         if (mp->ma_keys->dk_usable <= 0) {
    3321         [ -  + ]:       5939 :             if (insertion_resize(interp, mp, 1) < 0) {
    3322                 :          0 :                 return NULL;
    3323                 :            :             }
    3324                 :            :         }
    3325                 :     223715 :         Py_ssize_t hashpos = find_empty_slot(mp->ma_keys, hash);
    3326                 :     223715 :         dictkeys_set_index(mp->ma_keys, hashpos, mp->ma_keys->dk_nentries);
    3327         [ +  + ]:     223715 :         if (DK_IS_UNICODE(mp->ma_keys)) {
    3328                 :            :             assert(PyUnicode_CheckExact(key));
    3329                 :     157601 :             PyDictUnicodeEntry *ep = &DK_UNICODE_ENTRIES(mp->ma_keys)[mp->ma_keys->dk_nentries];
    3330                 :     157601 :             ep->me_key = Py_NewRef(key);
    3331         [ -  + ]:     157601 :             if (_PyDict_HasSplitTable(mp)) {
    3332                 :          0 :                 Py_ssize_t index = (int)mp->ma_keys->dk_nentries;
    3333                 :            :                 assert(index < SHARED_KEYS_MAX_SIZE);
    3334                 :            :                 assert(mp->ma_values->values[index] == NULL);
    3335                 :          0 :                 mp->ma_values->values[index] = Py_NewRef(value);
    3336                 :          0 :                 _PyDictValues_AddToInsertionOrder(mp->ma_values, index);
    3337                 :            :             }
    3338                 :            :             else {
    3339                 :     157601 :                 ep->me_value = Py_NewRef(value);
    3340                 :            :             }
    3341                 :            :         }
    3342                 :            :         else {
    3343                 :      66114 :             PyDictKeyEntry *ep = &DK_ENTRIES(mp->ma_keys)[mp->ma_keys->dk_nentries];
    3344                 :      66114 :             ep->me_key = Py_NewRef(key);
    3345                 :      66114 :             ep->me_hash = hash;
    3346                 :      66114 :             ep->me_value = Py_NewRef(value);
    3347                 :            :         }
    3348   [ +  +  +  +  :     223715 :         MAINTAIN_TRACKING(mp, key, value);
                   +  + ]
    3349                 :     223715 :         mp->ma_used++;
    3350                 :     223715 :         mp->ma_version_tag = new_version;
    3351                 :     223715 :         mp->ma_keys->dk_usable--;
    3352                 :     223715 :         mp->ma_keys->dk_nentries++;
    3353                 :            :         assert(mp->ma_keys->dk_usable >= 0);
    3354                 :            :     }
    3355         [ -  + ]:     680992 :     else if (value == NULL) {
    3356                 :          0 :         uint64_t new_version = _PyDict_NotifyEvent(
    3357                 :            :                 interp, PyDict_EVENT_ADDED, mp, key, defaultobj);
    3358                 :          0 :         value = defaultobj;
    3359                 :            :         assert(_PyDict_HasSplitTable(mp));
    3360                 :            :         assert(mp->ma_values->values[ix] == NULL);
    3361   [ #  #  #  #  :          0 :         MAINTAIN_TRACKING(mp, key, value);
                   #  # ]
    3362                 :          0 :         mp->ma_values->values[ix] = Py_NewRef(value);
    3363                 :          0 :         _PyDictValues_AddToInsertionOrder(mp->ma_values, ix);
    3364                 :          0 :         mp->ma_used++;
    3365                 :          0 :         mp->ma_version_tag = new_version;
    3366                 :            :     }
    3367                 :            : 
    3368                 :            :     ASSERT_CONSISTENT(mp);
    3369                 :     904707 :     return value;
    3370                 :            : }
    3371                 :            : 
    3372                 :            : /*[clinic input]
    3373                 :            : dict.setdefault
    3374                 :            : 
    3375                 :            :     key: object
    3376                 :            :     default: object = None
    3377                 :            :     /
    3378                 :            : 
    3379                 :            : Insert key with a value of default if key is not in the dictionary.
    3380                 :            : 
    3381                 :            : Return the value for key if key is in the dictionary, else default.
    3382                 :            : [clinic start generated code]*/
    3383                 :            : 
    3384                 :            : static PyObject *
    3385                 :       1723 : dict_setdefault_impl(PyDictObject *self, PyObject *key,
    3386                 :            :                      PyObject *default_value)
    3387                 :            : /*[clinic end generated code: output=f8c1101ebf69e220 input=0f063756e815fd9d]*/
    3388                 :            : {
    3389                 :            :     PyObject *val;
    3390                 :            : 
    3391                 :       1723 :     val = PyDict_SetDefault((PyObject *)self, key, default_value);
    3392                 :       1723 :     return Py_XNewRef(val);
    3393                 :            : }
    3394                 :            : 
    3395                 :            : static PyObject *
    3396                 :         11 : dict_clear(PyDictObject *mp, PyObject *Py_UNUSED(ignored))
    3397                 :            : {
    3398                 :         11 :     PyDict_Clear((PyObject *)mp);
    3399                 :         11 :     Py_RETURN_NONE;
    3400                 :            : }
    3401                 :            : 
    3402                 :            : /*[clinic input]
    3403                 :            : dict.pop
    3404                 :            : 
    3405                 :            :     key: object
    3406                 :            :     default: object = NULL
    3407                 :            :     /
    3408                 :            : 
    3409                 :            : D.pop(k[,d]) -> v, remove specified key and return the corresponding value.
    3410                 :            : 
    3411                 :            : If the key is not found, return the default if given; otherwise,
    3412                 :            : raise a KeyError.
    3413                 :            : [clinic start generated code]*/
    3414                 :            : 
    3415                 :            : static PyObject *
    3416                 :       1427 : dict_pop_impl(PyDictObject *self, PyObject *key, PyObject *default_value)
    3417                 :            : /*[clinic end generated code: output=3abb47b89f24c21c input=e221baa01044c44c]*/
    3418                 :            : {
    3419                 :       1427 :     return _PyDict_Pop((PyObject*)self, key, default_value);
    3420                 :            : }
    3421                 :            : 
    3422                 :            : /*[clinic input]
    3423                 :            : dict.popitem
    3424                 :            : 
    3425                 :            : Remove and return a (key, value) pair as a 2-tuple.
    3426                 :            : 
    3427                 :            : Pairs are returned in LIFO (last-in, first-out) order.
    3428                 :            : Raises KeyError if the dict is empty.
    3429                 :            : [clinic start generated code]*/
    3430                 :            : 
    3431                 :            : static PyObject *
    3432                 :          0 : dict_popitem_impl(PyDictObject *self)
    3433                 :            : /*[clinic end generated code: output=e65fcb04420d230d input=1c38a49f21f64941]*/
    3434                 :            : {
    3435                 :            :     Py_ssize_t i, j;
    3436                 :            :     PyObject *res;
    3437                 :            :     uint64_t new_version;
    3438                 :          0 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    3439                 :            : 
    3440                 :            :     /* Allocate the result tuple before checking the size.  Believe it
    3441                 :            :      * or not, this allocation could trigger a garbage collection which
    3442                 :            :      * could empty the dict, so if we checked the size first and that
    3443                 :            :      * happened, the result would be an infinite loop (searching for an
    3444                 :            :      * entry that no longer exists).  Note that the usual popitem()
    3445                 :            :      * idiom is "while d: k, v = d.popitem()". so needing to throw the
    3446                 :            :      * tuple away if the dict *is* empty isn't a significant
    3447                 :            :      * inefficiency -- possible, but unlikely in practice.
    3448                 :            :      */
    3449                 :          0 :     res = PyTuple_New(2);
    3450         [ #  # ]:          0 :     if (res == NULL)
    3451                 :          0 :         return NULL;
    3452         [ #  # ]:          0 :     if (self->ma_used == 0) {
    3453                 :          0 :         Py_DECREF(res);
    3454                 :          0 :         PyErr_SetString(PyExc_KeyError, "popitem(): dictionary is empty");
    3455                 :          0 :         return NULL;
    3456                 :            :     }
    3457                 :            :     /* Convert split table to combined table */
    3458         [ #  # ]:          0 :     if (self->ma_keys->dk_kind == DICT_KEYS_SPLIT) {
    3459         [ #  # ]:          0 :         if (dictresize(interp, self, DK_LOG_SIZE(self->ma_keys), 1)) {
    3460                 :          0 :             Py_DECREF(res);
    3461                 :          0 :             return NULL;
    3462                 :            :         }
    3463                 :            :     }
    3464                 :          0 :     self->ma_keys->dk_version = 0;
    3465                 :            : 
    3466                 :            :     /* Pop last item */
    3467                 :            :     PyObject *key, *value;
    3468                 :            :     Py_hash_t hash;
    3469         [ #  # ]:          0 :     if (DK_IS_UNICODE(self->ma_keys)) {
    3470                 :          0 :         PyDictUnicodeEntry *ep0 = DK_UNICODE_ENTRIES(self->ma_keys);
    3471                 :          0 :         i = self->ma_keys->dk_nentries - 1;
    3472   [ #  #  #  # ]:          0 :         while (i >= 0 && ep0[i].me_value == NULL) {
    3473                 :          0 :             i--;
    3474                 :            :         }
    3475                 :            :         assert(i >= 0);
    3476                 :            : 
    3477                 :          0 :         key = ep0[i].me_key;
    3478                 :          0 :         new_version = _PyDict_NotifyEvent(
    3479                 :            :                 interp, PyDict_EVENT_DELETED, self, key, NULL);
    3480                 :          0 :         hash = unicode_get_hash(key);
    3481                 :          0 :         value = ep0[i].me_value;
    3482                 :          0 :         ep0[i].me_key = NULL;
    3483                 :          0 :         ep0[i].me_value = NULL;
    3484                 :            :     }
    3485                 :            :     else {
    3486                 :          0 :         PyDictKeyEntry *ep0 = DK_ENTRIES(self->ma_keys);
    3487                 :          0 :         i = self->ma_keys->dk_nentries - 1;
    3488   [ #  #  #  # ]:          0 :         while (i >= 0 && ep0[i].me_value == NULL) {
    3489                 :          0 :             i--;
    3490                 :            :         }
    3491                 :            :         assert(i >= 0);
    3492                 :            : 
    3493                 :          0 :         key = ep0[i].me_key;
    3494                 :          0 :         new_version = _PyDict_NotifyEvent(
    3495                 :            :                 interp, PyDict_EVENT_DELETED, self, key, NULL);
    3496                 :          0 :         hash = ep0[i].me_hash;
    3497                 :          0 :         value = ep0[i].me_value;
    3498                 :          0 :         ep0[i].me_key = NULL;
    3499                 :          0 :         ep0[i].me_hash = -1;
    3500                 :          0 :         ep0[i].me_value = NULL;
    3501                 :            :     }
    3502                 :            : 
    3503                 :          0 :     j = lookdict_index(self->ma_keys, hash, i);
    3504                 :            :     assert(j >= 0);
    3505                 :            :     assert(dictkeys_get_index(self->ma_keys, j) == i);
    3506                 :          0 :     dictkeys_set_index(self->ma_keys, j, DKIX_DUMMY);
    3507                 :            : 
    3508                 :          0 :     PyTuple_SET_ITEM(res, 0, key);
    3509                 :          0 :     PyTuple_SET_ITEM(res, 1, value);
    3510                 :            :     /* We can't dk_usable++ since there is DKIX_DUMMY in indices */
    3511                 :          0 :     self->ma_keys->dk_nentries = i;
    3512                 :          0 :     self->ma_used--;
    3513                 :          0 :     self->ma_version_tag = new_version;
    3514                 :            :     ASSERT_CONSISTENT(self);
    3515                 :          0 :     return res;
    3516                 :            : }
    3517                 :            : 
    3518                 :            : static int
    3519                 :     187680 : dict_traverse(PyObject *op, visitproc visit, void *arg)
    3520                 :            : {
    3521                 :     187680 :     PyDictObject *mp = (PyDictObject *)op;
    3522                 :     187680 :     PyDictKeysObject *keys = mp->ma_keys;
    3523                 :     187680 :     Py_ssize_t i, n = keys->dk_nentries;
    3524                 :            : 
    3525         [ +  + ]:     187680 :     if (DK_IS_UNICODE(keys)) {
    3526         [ +  + ]:     161670 :         if (mp->ma_values != NULL) {
    3527         [ +  + ]:      88600 :             for (i = 0; i < n; i++) {
    3528   [ +  +  -  + ]:      78662 :                 Py_VISIT(mp->ma_values->values[i]);
    3529                 :            :             }
    3530                 :            :         }
    3531                 :            :         else {
    3532                 :     151732 :             PyDictUnicodeEntry *entries = DK_UNICODE_ENTRIES(keys);
    3533         [ +  + ]:    2342540 :             for (i = 0; i < n; i++) {
    3534   [ +  +  -  + ]:    2190808 :                 Py_VISIT(entries[i].me_value);
    3535                 :            :             }
    3536                 :            :         }
    3537                 :            :     }
    3538                 :            :     else {
    3539                 :      26010 :         PyDictKeyEntry *entries = DK_ENTRIES(keys);
    3540         [ +  + ]:     209834 :         for (i = 0; i < n; i++) {
    3541         [ +  + ]:     183824 :             if (entries[i].me_value != NULL) {
    3542   [ +  -  -  + ]:     177394 :                 Py_VISIT(entries[i].me_value);
    3543   [ +  -  -  + ]:     177394 :                 Py_VISIT(entries[i].me_key);
    3544                 :            :             }
    3545                 :            :         }
    3546                 :            :     }
    3547                 :     187680 :     return 0;
    3548                 :            : }
    3549                 :            : 
    3550                 :            : static int
    3551                 :       1165 : dict_tp_clear(PyObject *op)
    3552                 :            : {
    3553                 :       1165 :     PyDict_Clear(op);
    3554                 :       1165 :     return 0;
    3555                 :            : }
    3556                 :            : 
    3557                 :            : static PyObject *dictiter_new(PyDictObject *, PyTypeObject *);
    3558                 :            : 
    3559                 :            : Py_ssize_t
    3560                 :          0 : _PyDict_SizeOf(PyDictObject *mp)
    3561                 :            : {
    3562                 :          0 :     size_t res = _PyObject_SIZE(Py_TYPE(mp));
    3563         [ #  # ]:          0 :     if (mp->ma_values) {
    3564                 :          0 :         res += shared_keys_usable_size(mp->ma_keys) * sizeof(PyObject*);
    3565                 :            :     }
    3566                 :            :     /* If the dictionary is split, the keys portion is accounted-for
    3567                 :            :        in the type object. */
    3568         [ #  # ]:          0 :     if (mp->ma_keys->dk_refcnt == 1) {
    3569                 :          0 :         res += _PyDict_KeysSize(mp->ma_keys);
    3570                 :            :     }
    3571                 :            :     assert(res <= (size_t)PY_SSIZE_T_MAX);
    3572                 :          0 :     return (Py_ssize_t)res;
    3573                 :            : }
    3574                 :            : 
    3575                 :            : size_t
    3576                 :      42101 : _PyDict_KeysSize(PyDictKeysObject *keys)
    3577                 :            : {
    3578                 :      84202 :     size_t es = (keys->dk_kind == DICT_KEYS_GENERAL
    3579         [ +  + ]:      42101 :                  ? sizeof(PyDictKeyEntry) : sizeof(PyDictUnicodeEntry));
    3580                 :      42101 :     size_t size = sizeof(PyDictKeysObject);
    3581                 :      42101 :     size += (size_t)1 << keys->dk_log2_index_bytes;
    3582                 :      42101 :     size += USABLE_FRACTION((size_t)DK_SIZE(keys)) * es;
    3583                 :      42101 :     return size;
    3584                 :            : }
    3585                 :            : 
    3586                 :            : static PyObject *
    3587                 :          0 : dict_sizeof(PyDictObject *mp, PyObject *Py_UNUSED(ignored))
    3588                 :            : {
    3589                 :          0 :     return PyLong_FromSsize_t(_PyDict_SizeOf(mp));
    3590                 :            : }
    3591                 :            : 
    3592                 :            : static PyObject *
    3593                 :          0 : dict_or(PyObject *self, PyObject *other)
    3594                 :            : {
    3595   [ #  #  #  # ]:          0 :     if (!PyDict_Check(self) || !PyDict_Check(other)) {
    3596                 :          0 :         Py_RETURN_NOTIMPLEMENTED;
    3597                 :            :     }
    3598                 :          0 :     PyObject *new = PyDict_Copy(self);
    3599         [ #  # ]:          0 :     if (new == NULL) {
    3600                 :          0 :         return NULL;
    3601                 :            :     }
    3602         [ #  # ]:          0 :     if (dict_update_arg(new, other)) {
    3603                 :          0 :         Py_DECREF(new);
    3604                 :          0 :         return NULL;
    3605                 :            :     }
    3606                 :          0 :     return new;
    3607                 :            : }
    3608                 :            : 
    3609                 :            : static PyObject *
    3610                 :          4 : dict_ior(PyObject *self, PyObject *other)
    3611                 :            : {
    3612         [ -  + ]:          4 :     if (dict_update_arg(self, other)) {
    3613                 :          0 :         return NULL;
    3614                 :            :     }
    3615                 :          4 :     return Py_NewRef(self);
    3616                 :            : }
    3617                 :            : 
    3618                 :            : PyDoc_STRVAR(getitem__doc__,
    3619                 :            : "__getitem__($self, key, /)\n--\n\nReturn self[key].");
    3620                 :            : 
    3621                 :            : PyDoc_STRVAR(sizeof__doc__,
    3622                 :            : "D.__sizeof__() -> size of D in memory, in bytes");
    3623                 :            : 
    3624                 :            : PyDoc_STRVAR(update__doc__,
    3625                 :            : "D.update([E, ]**F) -> None.  Update D from dict/iterable E and F.\n\
    3626                 :            : If E is present and has a .keys() method, then does:  for k in E: D[k] = E[k]\n\
    3627                 :            : If E is present and lacks a .keys() method, then does:  for k, v in E: D[k] = v\n\
    3628                 :            : In either case, this is followed by: for k in F:  D[k] = F[k]");
    3629                 :            : 
    3630                 :            : PyDoc_STRVAR(clear__doc__,
    3631                 :            : "D.clear() -> None.  Remove all items from D.");
    3632                 :            : 
    3633                 :            : PyDoc_STRVAR(copy__doc__,
    3634                 :            : "D.copy() -> a shallow copy of D");
    3635                 :            : 
    3636                 :            : /* Forward */
    3637                 :            : static PyObject *dictkeys_new(PyObject *, PyObject *);
    3638                 :            : static PyObject *dictitems_new(PyObject *, PyObject *);
    3639                 :            : static PyObject *dictvalues_new(PyObject *, PyObject *);
    3640                 :            : 
    3641                 :            : PyDoc_STRVAR(keys__doc__,
    3642                 :            :              "D.keys() -> a set-like object providing a view on D's keys");
    3643                 :            : PyDoc_STRVAR(items__doc__,
    3644                 :            :              "D.items() -> a set-like object providing a view on D's items");
    3645                 :            : PyDoc_STRVAR(values__doc__,
    3646                 :            :              "D.values() -> an object providing a view on D's values");
    3647                 :            : 
    3648                 :            : static PyMethodDef mapp_methods[] = {
    3649                 :            :     DICT___CONTAINS___METHODDEF
    3650                 :            :     {"__getitem__", _PyCFunction_CAST(dict_subscript),        METH_O | METH_COEXIST,
    3651                 :            :      getitem__doc__},
    3652                 :            :     {"__sizeof__",      _PyCFunction_CAST(dict_sizeof),       METH_NOARGS,
    3653                 :            :      sizeof__doc__},
    3654                 :            :     DICT_GET_METHODDEF
    3655                 :            :     DICT_SETDEFAULT_METHODDEF
    3656                 :            :     DICT_POP_METHODDEF
    3657                 :            :     DICT_POPITEM_METHODDEF
    3658                 :            :     {"keys",            dictkeys_new,                   METH_NOARGS,
    3659                 :            :     keys__doc__},
    3660                 :            :     {"items",           dictitems_new,                  METH_NOARGS,
    3661                 :            :     items__doc__},
    3662                 :            :     {"values",          dictvalues_new,                 METH_NOARGS,
    3663                 :            :     values__doc__},
    3664                 :            :     {"update",          _PyCFunction_CAST(dict_update), METH_VARARGS | METH_KEYWORDS,
    3665                 :            :      update__doc__},
    3666                 :            :     DICT_FROMKEYS_METHODDEF
    3667                 :            :     {"clear",           (PyCFunction)dict_clear,        METH_NOARGS,
    3668                 :            :      clear__doc__},
    3669                 :            :     {"copy",            (PyCFunction)dict_copy,         METH_NOARGS,
    3670                 :            :      copy__doc__},
    3671                 :            :     DICT___REVERSED___METHODDEF
    3672                 :            :     {"__class_getitem__", Py_GenericAlias, METH_O|METH_CLASS, PyDoc_STR("See PEP 585")},
    3673                 :            :     {NULL,              NULL}   /* sentinel */
    3674                 :            : };
    3675                 :            : 
    3676                 :            : /* Return 1 if `key` is in dict `op`, 0 if not, and -1 on error. */
    3677                 :            : int
    3678                 :     109713 : PyDict_Contains(PyObject *op, PyObject *key)
    3679                 :            : {
    3680                 :            :     Py_hash_t hash;
    3681                 :            :     Py_ssize_t ix;
    3682                 :     109713 :     PyDictObject *mp = (PyDictObject *)op;
    3683                 :            :     PyObject *value;
    3684                 :            : 
    3685   [ +  +  +  + ]:     109713 :     if (!PyUnicode_CheckExact(key) || (hash = unicode_get_hash(key)) == -1) {
    3686                 :      20256 :         hash = PyObject_Hash(key);
    3687         [ -  + ]:      20256 :         if (hash == -1)
    3688                 :          0 :             return -1;
    3689                 :            :     }
    3690                 :     109713 :     ix = _Py_dict_lookup(mp, key, hash, &value);
    3691         [ -  + ]:     109713 :     if (ix == DKIX_ERROR)
    3692                 :          0 :         return -1;
    3693   [ +  +  +  - ]:     109713 :     return (ix != DKIX_EMPTY && value != NULL);
    3694                 :            : }
    3695                 :            : 
    3696                 :            : /* Internal version of PyDict_Contains used when the hash value is already known */
    3697                 :            : int
    3698                 :         30 : _PyDict_Contains_KnownHash(PyObject *op, PyObject *key, Py_hash_t hash)
    3699                 :            : {
    3700                 :         30 :     PyDictObject *mp = (PyDictObject *)op;
    3701                 :            :     PyObject *value;
    3702                 :            :     Py_ssize_t ix;
    3703                 :            : 
    3704                 :         30 :     ix = _Py_dict_lookup(mp, key, hash, &value);
    3705         [ -  + ]:         30 :     if (ix == DKIX_ERROR)
    3706                 :          0 :         return -1;
    3707   [ -  +  -  - ]:         30 :     return (ix != DKIX_EMPTY && value != NULL);
    3708                 :            : }
    3709                 :            : 
    3710                 :            : int
    3711                 :          0 : _PyDict_ContainsId(PyObject *op, _Py_Identifier *key)
    3712                 :            : {
    3713                 :          0 :     PyObject *kv = _PyUnicode_FromId(key); /* borrowed */
    3714         [ #  # ]:          0 :     if (kv == NULL) {
    3715                 :          0 :         return -1;
    3716                 :            :     }
    3717                 :          0 :     return PyDict_Contains(op, kv);
    3718                 :            : }
    3719                 :            : 
    3720                 :            : /* Hack to implement "key in dict" */
    3721                 :            : static PySequenceMethods dict_as_sequence = {
    3722                 :            :     0,                          /* sq_length */
    3723                 :            :     0,                          /* sq_concat */
    3724                 :            :     0,                          /* sq_repeat */
    3725                 :            :     0,                          /* sq_item */
    3726                 :            :     0,                          /* sq_slice */
    3727                 :            :     0,                          /* sq_ass_item */
    3728                 :            :     0,                          /* sq_ass_slice */
    3729                 :            :     PyDict_Contains,            /* sq_contains */
    3730                 :            :     0,                          /* sq_inplace_concat */
    3731                 :            :     0,                          /* sq_inplace_repeat */
    3732                 :            : };
    3733                 :            : 
    3734                 :            : static PyNumberMethods dict_as_number = {
    3735                 :            :     .nb_or = dict_or,
    3736                 :            :     .nb_inplace_or = dict_ior,
    3737                 :            : };
    3738                 :            : 
    3739                 :            : static PyObject *
    3740                 :       1118 : dict_new(PyTypeObject *type, PyObject *args, PyObject *kwds)
    3741                 :            : {
    3742                 :            :     assert(type != NULL);
    3743                 :            :     assert(type->tp_alloc != NULL);
    3744                 :            :     // dict subclasses must implement the GC protocol
    3745                 :            :     assert(_PyType_IS_GC(type));
    3746                 :            : 
    3747                 :       1118 :     PyObject *self = type->tp_alloc(type, 0);
    3748         [ -  + ]:       1118 :     if (self == NULL) {
    3749                 :          0 :         return NULL;
    3750                 :            :     }
    3751                 :       1118 :     PyDictObject *d = (PyDictObject *)self;
    3752                 :            : 
    3753                 :       1118 :     d->ma_used = 0;
    3754                 :       1118 :     d->ma_version_tag = DICT_NEXT_VERSION(
    3755                 :            :             _PyInterpreterState_GET());
    3756                 :       1118 :     dictkeys_incref(Py_EMPTY_KEYS);
    3757                 :       1118 :     d->ma_keys = Py_EMPTY_KEYS;
    3758                 :       1118 :     d->ma_values = NULL;
    3759                 :            :     ASSERT_CONSISTENT(d);
    3760                 :            : 
    3761         [ +  + ]:       1118 :     if (type != &PyDict_Type) {
    3762                 :            :         // Don't track if a subclass tp_alloc is PyType_GenericAlloc()
    3763         [ +  + ]:        852 :         if (!_PyObject_GC_IS_TRACKED(d)) {
    3764                 :         38 :             _PyObject_GC_TRACK(d);
    3765                 :            :         }
    3766                 :            :     }
    3767                 :            :     else {
    3768                 :            :         // _PyType_AllocNoTrack() does not track the created object
    3769                 :            :         assert(!_PyObject_GC_IS_TRACKED(d));
    3770                 :            :     }
    3771                 :       1118 :     return self;
    3772                 :            : }
    3773                 :            : 
    3774                 :            : static int
    3775                 :        852 : dict_init(PyObject *self, PyObject *args, PyObject *kwds)
    3776                 :            : {
    3777                 :        852 :     return dict_update_common(self, args, kwds, "dict");
    3778                 :            : }
    3779                 :            : 
    3780                 :            : static PyObject *
    3781                 :        266 : dict_vectorcall(PyObject *type, PyObject * const*args,
    3782                 :            :                 size_t nargsf, PyObject *kwnames)
    3783                 :            : {
    3784                 :        266 :     Py_ssize_t nargs = PyVectorcall_NARGS(nargsf);
    3785   [ +  -  -  +  :        266 :     if (!_PyArg_CheckPositional("dict", nargs, 0, 1)) {
                   -  - ]
    3786                 :          0 :         return NULL;
    3787                 :            :     }
    3788                 :            : 
    3789                 :        266 :     PyObject *self = dict_new(_PyType_CAST(type), NULL, NULL);
    3790         [ -  + ]:        266 :     if (self == NULL) {
    3791                 :          0 :         return NULL;
    3792                 :            :     }
    3793         [ +  + ]:        266 :     if (nargs == 1) {
    3794         [ -  + ]:        114 :         if (dict_update_arg(self, args[0]) < 0) {
    3795                 :          0 :             Py_DECREF(self);
    3796                 :          0 :             return NULL;
    3797                 :            :         }
    3798                 :        114 :         args++;
    3799                 :            :     }
    3800         [ +  + ]:        266 :     if (kwnames != NULL) {
    3801         [ +  + ]:        156 :         for (Py_ssize_t i = 0; i < PyTuple_GET_SIZE(kwnames); i++) {
    3802         [ -  + ]:        104 :             if (PyDict_SetItem(self, PyTuple_GET_ITEM(kwnames, i), args[i]) < 0) {
    3803                 :          0 :                 Py_DECREF(self);
    3804                 :          0 :                 return NULL;
    3805                 :            :             }
    3806                 :            :         }
    3807                 :            :     }
    3808                 :        266 :     return self;
    3809                 :            : }
    3810                 :            : 
    3811                 :            : static PyObject *
    3812                 :        292 : dict_iter(PyDictObject *dict)
    3813                 :            : {
    3814                 :        292 :     return dictiter_new(dict, &PyDictIterKey_Type);
    3815                 :            : }
    3816                 :            : 
    3817                 :            : PyDoc_STRVAR(dictionary_doc,
    3818                 :            : "dict() -> new empty dictionary\n"
    3819                 :            : "dict(mapping) -> new dictionary initialized from a mapping object's\n"
    3820                 :            : "    (key, value) pairs\n"
    3821                 :            : "dict(iterable) -> new dictionary initialized as if via:\n"
    3822                 :            : "    d = {}\n"
    3823                 :            : "    for k, v in iterable:\n"
    3824                 :            : "        d[k] = v\n"
    3825                 :            : "dict(**kwargs) -> new dictionary initialized with the name=value pairs\n"
    3826                 :            : "    in the keyword argument list.  For example:  dict(one=1, two=2)");
    3827                 :            : 
    3828                 :            : PyTypeObject PyDict_Type = {
    3829                 :            :     PyVarObject_HEAD_INIT(&PyType_Type, 0)
    3830                 :            :     "dict",
    3831                 :            :     sizeof(PyDictObject),
    3832                 :            :     0,
    3833                 :            :     (destructor)dict_dealloc,                   /* tp_dealloc */
    3834                 :            :     0,                                          /* tp_vectorcall_offset */
    3835                 :            :     0,                                          /* tp_getattr */
    3836                 :            :     0,                                          /* tp_setattr */
    3837                 :            :     0,                                          /* tp_as_async */
    3838                 :            :     (reprfunc)dict_repr,                        /* tp_repr */
    3839                 :            :     &dict_as_number,                            /* tp_as_number */
    3840                 :            :     &dict_as_sequence,                          /* tp_as_sequence */
    3841                 :            :     &dict_as_mapping,                           /* tp_as_mapping */
    3842                 :            :     PyObject_HashNotImplemented,                /* tp_hash */
    3843                 :            :     0,                                          /* tp_call */
    3844                 :            :     0,                                          /* tp_str */
    3845                 :            :     PyObject_GenericGetAttr,                    /* tp_getattro */
    3846                 :            :     0,                                          /* tp_setattro */
    3847                 :            :     0,                                          /* tp_as_buffer */
    3848                 :            :     Py_TPFLAGS_DEFAULT | Py_TPFLAGS_HAVE_GC |
    3849                 :            :         Py_TPFLAGS_BASETYPE | Py_TPFLAGS_DICT_SUBCLASS |
    3850                 :            :         _Py_TPFLAGS_MATCH_SELF | Py_TPFLAGS_MAPPING,  /* tp_flags */
    3851                 :            :     dictionary_doc,                             /* tp_doc */
    3852                 :            :     dict_traverse,                              /* tp_traverse */
    3853                 :            :     dict_tp_clear,                              /* tp_clear */
    3854                 :            :     dict_richcompare,                           /* tp_richcompare */
    3855                 :            :     0,                                          /* tp_weaklistoffset */
    3856                 :            :     (getiterfunc)dict_iter,                     /* tp_iter */
    3857                 :            :     0,                                          /* tp_iternext */
    3858                 :            :     mapp_methods,                               /* tp_methods */
    3859                 :            :     0,                                          /* tp_members */
    3860                 :            :     0,                                          /* tp_getset */
    3861                 :            :     0,                                          /* tp_base */
    3862                 :            :     0,                                          /* tp_dict */
    3863                 :            :     0,                                          /* tp_descr_get */
    3864                 :            :     0,                                          /* tp_descr_set */
    3865                 :            :     0,                                          /* tp_dictoffset */
    3866                 :            :     dict_init,                                  /* tp_init */
    3867                 :            :     _PyType_AllocNoTrack,                       /* tp_alloc */
    3868                 :            :     dict_new,                                   /* tp_new */
    3869                 :            :     PyObject_GC_Del,                            /* tp_free */
    3870                 :            :     .tp_vectorcall = dict_vectorcall,
    3871                 :            : };
    3872                 :            : 
    3873                 :            : /* For backward compatibility with old dictionary interface */
    3874                 :            : 
    3875                 :            : PyObject *
    3876                 :          0 : PyDict_GetItemString(PyObject *v, const char *key)
    3877                 :            : {
    3878                 :            :     PyObject *kv, *rv;
    3879                 :          0 :     kv = PyUnicode_FromString(key);
    3880         [ #  # ]:          0 :     if (kv == NULL) {
    3881                 :          0 :         PyErr_Clear();
    3882                 :          0 :         return NULL;
    3883                 :            :     }
    3884                 :          0 :     rv = PyDict_GetItem(v, kv);
    3885                 :          0 :     Py_DECREF(kv);
    3886                 :          0 :     return rv;
    3887                 :            : }
    3888                 :            : 
    3889                 :            : int
    3890                 :          0 : _PyDict_SetItemId(PyObject *v, _Py_Identifier *key, PyObject *item)
    3891                 :            : {
    3892                 :            :     PyObject *kv;
    3893                 :          0 :     kv = _PyUnicode_FromId(key); /* borrowed */
    3894         [ #  # ]:          0 :     if (kv == NULL)
    3895                 :          0 :         return -1;
    3896                 :          0 :     return PyDict_SetItem(v, kv, item);
    3897                 :            : }
    3898                 :            : 
    3899                 :            : int
    3900                 :      25199 : PyDict_SetItemString(PyObject *v, const char *key, PyObject *item)
    3901                 :            : {
    3902                 :            :     PyObject *kv;
    3903                 :            :     int err;
    3904                 :      25199 :     kv = PyUnicode_FromString(key);
    3905         [ -  + ]:      25199 :     if (kv == NULL)
    3906                 :          0 :         return -1;
    3907                 :      25199 :     PyUnicode_InternInPlace(&kv); /* XXX Should we really? */
    3908                 :      25199 :     err = PyDict_SetItem(v, kv, item);
    3909                 :      25199 :     Py_DECREF(kv);
    3910                 :      25199 :     return err;
    3911                 :            : }
    3912                 :            : 
    3913                 :            : int
    3914                 :          0 : _PyDict_DelItemId(PyObject *v, _Py_Identifier *key)
    3915                 :            : {
    3916                 :          0 :     PyObject *kv = _PyUnicode_FromId(key); /* borrowed */
    3917         [ #  # ]:          0 :     if (kv == NULL)
    3918                 :          0 :         return -1;
    3919                 :          0 :     return PyDict_DelItem(v, kv);
    3920                 :            : }
    3921                 :            : 
    3922                 :            : int
    3923                 :         44 : PyDict_DelItemString(PyObject *v, const char *key)
    3924                 :            : {
    3925                 :            :     PyObject *kv;
    3926                 :            :     int err;
    3927                 :         44 :     kv = PyUnicode_FromString(key);
    3928         [ -  + ]:         44 :     if (kv == NULL)
    3929                 :          0 :         return -1;
    3930                 :         44 :     err = PyDict_DelItem(v, kv);
    3931                 :         44 :     Py_DECREF(kv);
    3932                 :         44 :     return err;
    3933                 :            : }
    3934                 :            : 
    3935                 :            : /* Dictionary iterator types */
    3936                 :            : 
    3937                 :            : typedef struct {
    3938                 :            :     PyObject_HEAD
    3939                 :            :     PyDictObject *di_dict; /* Set to NULL when iterator is exhausted */
    3940                 :            :     Py_ssize_t di_used;
    3941                 :            :     Py_ssize_t di_pos;
    3942                 :            :     PyObject* di_result; /* reusable result tuple for iteritems */
    3943                 :            :     Py_ssize_t len;
    3944                 :            : } dictiterobject;
    3945                 :            : 
    3946                 :            : static PyObject *
    3947                 :       3987 : dictiter_new(PyDictObject *dict, PyTypeObject *itertype)
    3948                 :            : {
    3949                 :            :     dictiterobject *di;
    3950                 :       3987 :     di = PyObject_GC_New(dictiterobject, itertype);
    3951         [ -  + ]:       3987 :     if (di == NULL) {
    3952                 :          0 :         return NULL;
    3953                 :            :     }
    3954                 :       3987 :     di->di_dict = (PyDictObject*)Py_NewRef(dict);
    3955                 :       3987 :     di->di_used = dict->ma_used;
    3956                 :       3987 :     di->len = dict->ma_used;
    3957   [ +  -  +  - ]:       3987 :     if (itertype == &PyDictRevIterKey_Type ||
    3958         [ -  + ]:       3987 :          itertype == &PyDictRevIterItem_Type ||
    3959                 :            :          itertype == &PyDictRevIterValue_Type) {
    3960         [ #  # ]:          0 :         if (dict->ma_values) {
    3961                 :          0 :             di->di_pos = dict->ma_used - 1;
    3962                 :            :         }
    3963                 :            :         else {
    3964                 :          0 :             di->di_pos = dict->ma_keys->dk_nentries - 1;
    3965                 :            :         }
    3966                 :            :     }
    3967                 :            :     else {
    3968                 :       3987 :         di->di_pos = 0;
    3969                 :            :     }
    3970   [ +  +  -  + ]:       3987 :     if (itertype == &PyDictIterItem_Type ||
    3971                 :            :         itertype == &PyDictRevIterItem_Type) {
    3972                 :       1238 :         di->di_result = PyTuple_Pack(2, Py_None, Py_None);
    3973         [ -  + ]:       1238 :         if (di->di_result == NULL) {
    3974                 :          0 :             Py_DECREF(di);
    3975                 :          0 :             return NULL;
    3976                 :            :         }
    3977                 :            :     }
    3978                 :            :     else {
    3979                 :       2749 :         di->di_result = NULL;
    3980                 :            :     }
    3981                 :       3987 :     _PyObject_GC_TRACK(di);
    3982                 :       3987 :     return (PyObject *)di;
    3983                 :            : }
    3984                 :            : 
    3985                 :            : static void
    3986                 :       3987 : dictiter_dealloc(dictiterobject *di)
    3987                 :            : {
    3988                 :            :     /* bpo-31095: UnTrack is needed before calling any callbacks */
    3989                 :       3987 :     _PyObject_GC_UNTRACK(di);
    3990                 :       3987 :     Py_XDECREF(di->di_dict);
    3991                 :       3987 :     Py_XDECREF(di->di_result);
    3992                 :       3987 :     PyObject_GC_Del(di);
    3993                 :       3987 : }
    3994                 :            : 
    3995                 :            : static int
    3996                 :          0 : dictiter_traverse(dictiterobject *di, visitproc visit, void *arg)
    3997                 :            : {
    3998   [ #  #  #  # ]:          0 :     Py_VISIT(di->di_dict);
    3999   [ #  #  #  # ]:          0 :     Py_VISIT(di->di_result);
    4000                 :          0 :     return 0;
    4001                 :            : }
    4002                 :            : 
    4003                 :            : static PyObject *
    4004                 :       1027 : dictiter_len(dictiterobject *di, PyObject *Py_UNUSED(ignored))
    4005                 :            : {
    4006                 :       1027 :     Py_ssize_t len = 0;
    4007   [ +  -  +  - ]:       1027 :     if (di->di_dict != NULL && di->di_used == di->di_dict->ma_used)
    4008                 :       1027 :         len = di->len;
    4009                 :       1027 :     return PyLong_FromSize_t(len);
    4010                 :            : }
    4011                 :            : 
    4012                 :            : PyDoc_STRVAR(length_hint_doc,
    4013                 :            :              "Private method returning an estimate of len(list(it)).");
    4014                 :            : 
    4015                 :            : static PyObject *
    4016                 :            : dictiter_reduce(dictiterobject *di, PyObject *Py_UNUSED(ignored));
    4017                 :            : 
    4018                 :            : PyDoc_STRVAR(reduce_doc, "Return state information for pickling.");
    4019                 :            : 
    4020                 :            : static PyMethodDef dictiter_methods[] = {
    4021                 :            :     {"__length_hint__", _PyCFunction_CAST(dictiter_len), METH_NOARGS,
    4022                 :            :      length_hint_doc},
    4023                 :            :      {"__reduce__", _PyCFunction_CAST(dictiter_reduce), METH_NOARGS,
    4024                 :            :      reduce_doc},
    4025                 :            :     {NULL,              NULL}           /* sentinel */
    4026                 :            : };
    4027                 :            : 
    4028                 :            : static PyObject*
    4029                 :       6252 : dictiter_iternextkey(dictiterobject *di)
    4030                 :            : {
    4031                 :            :     PyObject *key;
    4032                 :            :     Py_ssize_t i;
    4033                 :            :     PyDictKeysObject *k;
    4034                 :       6252 :     PyDictObject *d = di->di_dict;
    4035                 :            : 
    4036         [ -  + ]:       6252 :     if (d == NULL)
    4037                 :          0 :         return NULL;
    4038                 :            :     assert (PyDict_Check(d));
    4039                 :            : 
    4040         [ -  + ]:       6252 :     if (di->di_used != d->ma_used) {
    4041                 :          0 :         PyErr_SetString(PyExc_RuntimeError,
    4042                 :            :                         "dictionary changed size during iteration");
    4043                 :          0 :         di->di_used = -1; /* Make this state sticky */
    4044                 :          0 :         return NULL;
    4045                 :            :     }
    4046                 :            : 
    4047                 :       6252 :     i = di->di_pos;
    4048                 :       6252 :     k = d->ma_keys;
    4049                 :            :     assert(i >= 0);
    4050         [ -  + ]:       6252 :     if (d->ma_values) {
    4051         [ #  # ]:          0 :         if (i >= d->ma_used)
    4052                 :          0 :             goto fail;
    4053                 :          0 :         int index = get_index_from_order(d, i);
    4054                 :          0 :         key = DK_UNICODE_ENTRIES(k)[index].me_key;
    4055                 :            :         assert(d->ma_values->values[index] != NULL);
    4056                 :            :     }
    4057                 :            :     else {
    4058                 :       6252 :         Py_ssize_t n = k->dk_nentries;
    4059         [ +  + ]:       6252 :         if (DK_IS_UNICODE(k)) {
    4060                 :       5291 :             PyDictUnicodeEntry *entry_ptr = &DK_UNICODE_ENTRIES(k)[i];
    4061   [ +  +  +  + ]:       5416 :             while (i < n && entry_ptr->me_value == NULL) {
    4062                 :        125 :                 entry_ptr++;
    4063                 :        125 :                 i++;
    4064                 :            :             }
    4065         [ +  + ]:       5291 :             if (i >= n)
    4066                 :        976 :                 goto fail;
    4067                 :       4315 :             key = entry_ptr->me_key;
    4068                 :            :         }
    4069                 :            :         else {
    4070                 :        961 :             PyDictKeyEntry *entry_ptr = &DK_ENTRIES(k)[i];
    4071   [ +  +  -  + ]:        961 :             while (i < n && entry_ptr->me_value == NULL) {
    4072                 :          0 :                 entry_ptr++;
    4073                 :          0 :                 i++;
    4074                 :            :             }
    4075         [ +  + ]:        961 :             if (i >= n)
    4076                 :        157 :                 goto fail;
    4077                 :        804 :             key = entry_ptr->me_key;
    4078                 :            :         }
    4079                 :            :     }
    4080                 :            :     // We found an element (key), but did not expect it
    4081         [ -  + ]:       5119 :     if (di->len == 0) {
    4082                 :          0 :         PyErr_SetString(PyExc_RuntimeError,
    4083                 :            :                         "dictionary keys changed during iteration");
    4084                 :          0 :         goto fail;
    4085                 :            :     }
    4086                 :       5119 :     di->di_pos = i+1;
    4087                 :       5119 :     di->len--;
    4088                 :       5119 :     return Py_NewRef(key);
    4089                 :            : 
    4090                 :       1133 : fail:
    4091                 :       1133 :     di->di_dict = NULL;
    4092                 :       1133 :     Py_DECREF(d);
    4093                 :       1133 :     return NULL;
    4094                 :            : }
    4095                 :            : 
    4096                 :            : PyTypeObject PyDictIterKey_Type = {
    4097                 :            :     PyVarObject_HEAD_INIT(&PyType_Type, 0)
    4098                 :            :     "dict_keyiterator",                         /* tp_name */
    4099                 :            :     sizeof(dictiterobject),                     /* tp_basicsize */
    4100                 :            :     0,                                          /* tp_itemsize */
    4101                 :            :     /* methods */
    4102                 :            :     (destructor)dictiter_dealloc,               /* tp_dealloc */
    4103                 :            :     0,                                          /* tp_vectorcall_offset */
    4104                 :            :     0,                                          /* tp_getattr */
    4105                 :            :     0,                                          /* tp_setattr */
    4106                 :            :     0,                                          /* tp_as_async */
    4107                 :            :     0,                                          /* tp_repr */
    4108                 :            :     0,                                          /* tp_as_number */
    4109                 :            :     0,                                          /* tp_as_sequence */
    4110                 :            :     0,                                          /* tp_as_mapping */
    4111                 :            :     0,                                          /* tp_hash */
    4112                 :            :     0,                                          /* tp_call */
    4113                 :            :     0,                                          /* tp_str */
    4114                 :            :     PyObject_GenericGetAttr,                    /* tp_getattro */
    4115                 :            :     0,                                          /* tp_setattro */
    4116                 :            :     0,                                          /* tp_as_buffer */
    4117                 :            :     Py_TPFLAGS_DEFAULT | Py_TPFLAGS_HAVE_GC,/* tp_flags */
    4118                 :            :     0,                                          /* tp_doc */
    4119                 :            :     (traverseproc)dictiter_traverse,            /* tp_traverse */
    4120                 :            :     0,                                          /* tp_clear */
    4121                 :            :     0,                                          /* tp_richcompare */
    4122                 :            :     0,                                          /* tp_weaklistoffset */
    4123                 :            :     PyObject_SelfIter,                          /* tp_iter */
    4124                 :            :     (iternextfunc)dictiter_iternextkey,         /* tp_iternext */
    4125                 :            :     dictiter_methods,                           /* tp_methods */
    4126                 :            :     0,
    4127                 :            : };
    4128                 :            : 
    4129                 :            : static PyObject *
    4130                 :       4732 : dictiter_iternextvalue(dictiterobject *di)
    4131                 :            : {
    4132                 :            :     PyObject *value;
    4133                 :            :     Py_ssize_t i;
    4134                 :       4732 :     PyDictObject *d = di->di_dict;
    4135                 :            : 
    4136         [ -  + ]:       4732 :     if (d == NULL)
    4137                 :          0 :         return NULL;
    4138                 :            :     assert (PyDict_Check(d));
    4139                 :            : 
    4140         [ -  + ]:       4732 :     if (di->di_used != d->ma_used) {
    4141                 :          0 :         PyErr_SetString(PyExc_RuntimeError,
    4142                 :            :                         "dictionary changed size during iteration");
    4143                 :          0 :         di->di_used = -1; /* Make this state sticky */
    4144                 :          0 :         return NULL;
    4145                 :            :     }
    4146                 :            : 
    4147                 :       4732 :     i = di->di_pos;
    4148                 :            :     assert(i >= 0);
    4149         [ -  + ]:       4732 :     if (d->ma_values) {
    4150         [ #  # ]:          0 :         if (i >= d->ma_used)
    4151                 :          0 :             goto fail;
    4152                 :          0 :         int index = get_index_from_order(d, i);
    4153                 :          0 :         value = d->ma_values->values[index];
    4154                 :            :         assert(value != NULL);
    4155                 :            :     }
    4156                 :            :     else {
    4157                 :       4732 :         Py_ssize_t n = d->ma_keys->dk_nentries;
    4158         [ +  + ]:       4732 :         if (DK_IS_UNICODE(d->ma_keys)) {
    4159                 :       4531 :             PyDictUnicodeEntry *entry_ptr = &DK_UNICODE_ENTRIES(d->ma_keys)[i];
    4160   [ +  +  +  + ]:       4593 :             while (i < n && entry_ptr->me_value == NULL) {
    4161                 :         62 :                 entry_ptr++;
    4162                 :         62 :                 i++;
    4163                 :            :             }
    4164         [ +  + ]:       4531 :             if (i >= n)
    4165                 :       1563 :                 goto fail;
    4166                 :       2968 :             value = entry_ptr->me_value;
    4167                 :            :         }
    4168                 :            :         else {
    4169                 :        201 :             PyDictKeyEntry *entry_ptr = &DK_ENTRIES(d->ma_keys)[i];
    4170   [ +  +  -  + ]:        201 :             while (i < n && entry_ptr->me_value == NULL) {
    4171                 :          0 :                 entry_ptr++;
    4172                 :          0 :                 i++;
    4173                 :            :             }
    4174         [ +  + ]:        201 :             if (i >= n)
    4175                 :          3 :                 goto fail;
    4176                 :        198 :             value = entry_ptr->me_value;
    4177                 :            :         }
    4178                 :            :     }
    4179                 :            :     // We found an element, but did not expect it
    4180         [ -  + ]:       3166 :     if (di->len == 0) {
    4181                 :          0 :         PyErr_SetString(PyExc_RuntimeError,
    4182                 :            :                         "dictionary keys changed during iteration");
    4183                 :          0 :         goto fail;
    4184                 :            :     }
    4185                 :       3166 :     di->di_pos = i+1;
    4186                 :       3166 :     di->len--;
    4187                 :       3166 :     return Py_NewRef(value);
    4188                 :            : 
    4189                 :       1566 : fail:
    4190                 :       1566 :     di->di_dict = NULL;
    4191                 :       1566 :     Py_DECREF(d);
    4192                 :       1566 :     return NULL;
    4193                 :            : }
    4194                 :            : 
    4195                 :            : PyTypeObject PyDictIterValue_Type = {
    4196                 :            :     PyVarObject_HEAD_INIT(&PyType_Type, 0)
    4197                 :            :     "dict_valueiterator",                       /* tp_name */
    4198                 :            :     sizeof(dictiterobject),                     /* tp_basicsize */
    4199                 :            :     0,                                          /* tp_itemsize */
    4200                 :            :     /* methods */
    4201                 :            :     (destructor)dictiter_dealloc,               /* tp_dealloc */
    4202                 :            :     0,                                          /* tp_vectorcall_offset */
    4203                 :            :     0,                                          /* tp_getattr */
    4204                 :            :     0,                                          /* tp_setattr */
    4205                 :            :     0,                                          /* tp_as_async */
    4206                 :            :     0,                                          /* tp_repr */
    4207                 :            :     0,                                          /* tp_as_number */
    4208                 :            :     0,                                          /* tp_as_sequence */
    4209                 :            :     0,                                          /* tp_as_mapping */
    4210                 :            :     0,                                          /* tp_hash */
    4211                 :            :     0,                                          /* tp_call */
    4212                 :            :     0,                                          /* tp_str */
    4213                 :            :     PyObject_GenericGetAttr,                    /* tp_getattro */
    4214                 :            :     0,                                          /* tp_setattro */
    4215                 :            :     0,                                          /* tp_as_buffer */
    4216                 :            :     Py_TPFLAGS_DEFAULT | Py_TPFLAGS_HAVE_GC,    /* tp_flags */
    4217                 :            :     0,                                          /* tp_doc */
    4218                 :            :     (traverseproc)dictiter_traverse,            /* tp_traverse */
    4219                 :            :     0,                                          /* tp_clear */
    4220                 :            :     0,                                          /* tp_richcompare */
    4221                 :            :     0,                                          /* tp_weaklistoffset */
    4222                 :            :     PyObject_SelfIter,                          /* tp_iter */
    4223                 :            :     (iternextfunc)dictiter_iternextvalue,       /* tp_iternext */
    4224                 :            :     dictiter_methods,                           /* tp_methods */
    4225                 :            :     0,
    4226                 :            : };
    4227                 :            : 
    4228                 :            : static PyObject *
    4229                 :      17595 : dictiter_iternextitem(dictiterobject *di)
    4230                 :            : {
    4231                 :            :     PyObject *key, *value, *result;
    4232                 :            :     Py_ssize_t i;
    4233                 :      17595 :     PyDictObject *d = di->di_dict;
    4234                 :            : 
    4235         [ -  + ]:      17595 :     if (d == NULL)
    4236                 :          0 :         return NULL;
    4237                 :            :     assert (PyDict_Check(d));
    4238                 :            : 
    4239         [ -  + ]:      17595 :     if (di->di_used != d->ma_used) {
    4240                 :          0 :         PyErr_SetString(PyExc_RuntimeError,
    4241                 :            :                         "dictionary changed size during iteration");
    4242                 :          0 :         di->di_used = -1; /* Make this state sticky */
    4243                 :          0 :         return NULL;
    4244                 :            :     }
    4245                 :            : 
    4246                 :      17595 :     i = di->di_pos;
    4247                 :            :     assert(i >= 0);
    4248         [ -  + ]:      17595 :     if (d->ma_values) {
    4249         [ #  # ]:          0 :         if (i >= d->ma_used)
    4250                 :          0 :             goto fail;
    4251                 :          0 :         int index = get_index_from_order(d, i);
    4252                 :          0 :         key = DK_UNICODE_ENTRIES(d->ma_keys)[index].me_key;
    4253                 :          0 :         value = d->ma_values->values[index];
    4254                 :            :         assert(value != NULL);
    4255                 :            :     }
    4256                 :            :     else {
    4257                 :      17595 :         Py_ssize_t n = d->ma_keys->dk_nentries;
    4258         [ +  + ]:      17595 :         if (DK_IS_UNICODE(d->ma_keys)) {
    4259                 :      17477 :             PyDictUnicodeEntry *entry_ptr = &DK_UNICODE_ENTRIES(d->ma_keys)[i];
    4260   [ +  +  +  + ]:      18367 :             while (i < n && entry_ptr->me_value == NULL) {
    4261                 :        890 :                 entry_ptr++;
    4262                 :        890 :                 i++;
    4263                 :            :             }
    4264         [ +  + ]:      17477 :             if (i >= n)
    4265                 :       1209 :                 goto fail;
    4266                 :      16268 :             key = entry_ptr->me_key;
    4267                 :      16268 :             value = entry_ptr->me_value;
    4268                 :            :         }
    4269                 :            :         else {
    4270                 :        118 :             PyDictKeyEntry *entry_ptr = &DK_ENTRIES(d->ma_keys)[i];
    4271   [ +  +  -  + ]:        118 :             while (i < n && entry_ptr->me_value == NULL) {
    4272                 :          0 :                 entry_ptr++;
    4273                 :          0 :                 i++;
    4274                 :            :             }
    4275         [ +  + ]:        118 :             if (i >= n)
    4276                 :          4 :                 goto fail;
    4277                 :        114 :             key = entry_ptr->me_key;
    4278                 :        114 :             value = entry_ptr->me_value;
    4279                 :            :         }
    4280                 :            :     }
    4281                 :            :     // We found an element, but did not expect it
    4282         [ -  + ]:      16382 :     if (di->len == 0) {
    4283                 :          0 :         PyErr_SetString(PyExc_RuntimeError,
    4284                 :            :                         "dictionary keys changed during iteration");
    4285                 :          0 :         goto fail;
    4286                 :            :     }
    4287                 :      16382 :     di->di_pos = i+1;
    4288                 :      16382 :     di->len--;
    4289                 :      16382 :     result = di->di_result;
    4290         [ +  + ]:      16382 :     if (Py_REFCNT(result) == 1) {
    4291                 :       7586 :         PyObject *oldkey = PyTuple_GET_ITEM(result, 0);
    4292                 :       7586 :         PyObject *oldvalue = PyTuple_GET_ITEM(result, 1);
    4293                 :       7586 :         PyTuple_SET_ITEM(result, 0, Py_NewRef(key));
    4294                 :       7586 :         PyTuple_SET_ITEM(result, 1, Py_NewRef(value));
    4295                 :       7586 :         Py_INCREF(result);
    4296                 :       7586 :         Py_DECREF(oldkey);
    4297                 :       7586 :         Py_DECREF(oldvalue);
    4298                 :            :         // bpo-42536: The GC may have untracked this result tuple. Since we're
    4299                 :            :         // recycling it, make sure it's tracked again:
    4300         [ -  + ]:       7586 :         if (!_PyObject_GC_IS_TRACKED(result)) {
    4301                 :          0 :             _PyObject_GC_TRACK(result);
    4302                 :            :         }
    4303                 :            :     }
    4304                 :            :     else {
    4305                 :       8796 :         result = PyTuple_New(2);
    4306         [ -  + ]:       8796 :         if (result == NULL)
    4307                 :          0 :             return NULL;
    4308                 :       8796 :         PyTuple_SET_ITEM(result, 0, Py_NewRef(key));
    4309                 :       8796 :         PyTuple_SET_ITEM(result, 1, Py_NewRef(value));
    4310                 :            :     }
    4311                 :      16382 :     return result;
    4312                 :            : 
    4313                 :       1213 : fail:
    4314                 :       1213 :     di->di_dict = NULL;
    4315                 :       1213 :     Py_DECREF(d);
    4316                 :       1213 :     return NULL;
    4317                 :            : }
    4318                 :            : 
    4319                 :            : PyTypeObject PyDictIterItem_Type = {
    4320                 :            :     PyVarObject_HEAD_INIT(&PyType_Type, 0)
    4321                 :            :     "dict_itemiterator",                        /* tp_name */
    4322                 :            :     sizeof(dictiterobject),                     /* tp_basicsize */
    4323                 :            :     0,                                          /* tp_itemsize */
    4324                 :            :     /* methods */
    4325                 :            :     (destructor)dictiter_dealloc,               /* tp_dealloc */
    4326                 :            :     0,                                          /* tp_vectorcall_offset */
    4327                 :            :     0,                                          /* tp_getattr */
    4328                 :            :     0,                                          /* tp_setattr */
    4329                 :            :     0,                                          /* tp_as_async */
    4330                 :            :     0,                                          /* tp_repr */
    4331                 :            :     0,                                          /* tp_as_number */
    4332                 :            :     0,                                          /* tp_as_sequence */
    4333                 :            :     0,                                          /* tp_as_mapping */
    4334                 :            :     0,                                          /* tp_hash */
    4335                 :            :     0,                                          /* tp_call */
    4336                 :            :     0,                                          /* tp_str */
    4337                 :            :     PyObject_GenericGetAttr,                    /* tp_getattro */
    4338                 :            :     0,                                          /* tp_setattro */
    4339                 :            :     0,                                          /* tp_as_buffer */
    4340                 :            :     Py_TPFLAGS_DEFAULT | Py_TPFLAGS_HAVE_GC,/* tp_flags */
    4341                 :            :     0,                                          /* tp_doc */
    4342                 :            :     (traverseproc)dictiter_traverse,            /* tp_traverse */
    4343                 :            :     0,                                          /* tp_clear */
    4344                 :            :     0,                                          /* tp_richcompare */
    4345                 :            :     0,                                          /* tp_weaklistoffset */
    4346                 :            :     PyObject_SelfIter,                          /* tp_iter */
    4347                 :            :     (iternextfunc)dictiter_iternextitem,        /* tp_iternext */
    4348                 :            :     dictiter_methods,                           /* tp_methods */
    4349                 :            :     0,
    4350                 :            : };
    4351                 :            : 
    4352                 :            : 
    4353                 :            : /* dictreviter */
    4354                 :            : 
    4355                 :            : static PyObject *
    4356                 :          0 : dictreviter_iternext(dictiterobject *di)
    4357                 :            : {
    4358                 :          0 :     PyDictObject *d = di->di_dict;
    4359                 :            : 
    4360         [ #  # ]:          0 :     if (d == NULL) {
    4361                 :          0 :         return NULL;
    4362                 :            :     }
    4363                 :            :     assert (PyDict_Check(d));
    4364                 :            : 
    4365         [ #  # ]:          0 :     if (di->di_used != d->ma_used) {
    4366                 :          0 :         PyErr_SetString(PyExc_RuntimeError,
    4367                 :            :                          "dictionary changed size during iteration");
    4368                 :          0 :         di->di_used = -1; /* Make this state sticky */
    4369                 :          0 :         return NULL;
    4370                 :            :     }
    4371                 :            : 
    4372                 :          0 :     Py_ssize_t i = di->di_pos;
    4373                 :          0 :     PyDictKeysObject *k = d->ma_keys;
    4374                 :            :     PyObject *key, *value, *result;
    4375                 :            : 
    4376         [ #  # ]:          0 :     if (i < 0) {
    4377                 :          0 :         goto fail;
    4378                 :            :     }
    4379         [ #  # ]:          0 :     if (d->ma_values) {
    4380                 :          0 :         int index = get_index_from_order(d, i);
    4381                 :          0 :         key = DK_UNICODE_ENTRIES(k)[index].me_key;
    4382                 :          0 :         value = d->ma_values->values[index];
    4383                 :            :         assert (value != NULL);
    4384                 :            :     }
    4385                 :            :     else {
    4386         [ #  # ]:          0 :         if (DK_IS_UNICODE(k)) {
    4387                 :          0 :             PyDictUnicodeEntry *entry_ptr = &DK_UNICODE_ENTRIES(k)[i];
    4388         [ #  # ]:          0 :             while (entry_ptr->me_value == NULL) {
    4389         [ #  # ]:          0 :                 if (--i < 0) {
    4390                 :          0 :                     goto fail;
    4391                 :            :                 }
    4392                 :          0 :                 entry_ptr--;
    4393                 :            :             }
    4394                 :          0 :             key = entry_ptr->me_key;
    4395                 :          0 :             value = entry_ptr->me_value;
    4396                 :            :         }
    4397                 :            :         else {
    4398                 :          0 :             PyDictKeyEntry *entry_ptr = &DK_ENTRIES(k)[i];
    4399         [ #  # ]:          0 :             while (entry_ptr->me_value == NULL) {
    4400         [ #  # ]:          0 :                 if (--i < 0) {
    4401                 :          0 :                     goto fail;
    4402                 :            :                 }
    4403                 :          0 :                 entry_ptr--;
    4404                 :            :             }
    4405                 :          0 :             key = entry_ptr->me_key;
    4406                 :          0 :             value = entry_ptr->me_value;
    4407                 :            :         }
    4408                 :            :     }
    4409                 :          0 :     di->di_pos = i-1;
    4410                 :          0 :     di->len--;
    4411                 :            : 
    4412         [ #  # ]:          0 :     if (Py_IS_TYPE(di, &PyDictRevIterKey_Type)) {
    4413                 :          0 :         return Py_NewRef(key);
    4414                 :            :     }
    4415         [ #  # ]:          0 :     else if (Py_IS_TYPE(di, &PyDictRevIterValue_Type)) {
    4416                 :          0 :         return Py_NewRef(value);
    4417                 :            :     }
    4418         [ #  # ]:          0 :     else if (Py_IS_TYPE(di, &PyDictRevIterItem_Type)) {
    4419                 :          0 :         result = di->di_result;
    4420         [ #  # ]:          0 :         if (Py_REFCNT(result) == 1) {
    4421                 :          0 :             PyObject *oldkey = PyTuple_GET_ITEM(result, 0);
    4422                 :          0 :             PyObject *oldvalue = PyTuple_GET_ITEM(result, 1);
    4423                 :          0 :             PyTuple_SET_ITEM(result, 0, Py_NewRef(key));
    4424                 :          0 :             PyTuple_SET_ITEM(result, 1, Py_NewRef(value));
    4425                 :          0 :             Py_INCREF(result);
    4426                 :          0 :             Py_DECREF(oldkey);
    4427                 :          0 :             Py_DECREF(oldvalue);
    4428                 :            :             // bpo-42536: The GC may have untracked this result tuple. Since
    4429                 :            :             // we're recycling it, make sure it's tracked again:
    4430         [ #  # ]:          0 :             if (!_PyObject_GC_IS_TRACKED(result)) {
    4431                 :          0 :                 _PyObject_GC_TRACK(result);
    4432                 :            :             }
    4433                 :            :         }
    4434                 :            :         else {
    4435                 :          0 :             result = PyTuple_New(2);
    4436         [ #  # ]:          0 :             if (result == NULL) {
    4437                 :          0 :                 return NULL;
    4438                 :            :             }
    4439                 :          0 :             PyTuple_SET_ITEM(result, 0, Py_NewRef(key));
    4440                 :          0 :             PyTuple_SET_ITEM(result, 1, Py_NewRef(value));
    4441                 :            :         }
    4442                 :          0 :         return result;
    4443                 :            :     }
    4444                 :            :     else {
    4445                 :          0 :         Py_UNREACHABLE();
    4446                 :            :     }
    4447                 :            : 
    4448                 :          0 : fail:
    4449                 :          0 :     di->di_dict = NULL;
    4450                 :          0 :     Py_DECREF(d);
    4451                 :          0 :     return NULL;
    4452                 :            : }
    4453                 :            : 
    4454                 :            : PyTypeObject PyDictRevIterKey_Type = {
    4455                 :            :     PyVarObject_HEAD_INIT(&PyType_Type, 0)
    4456                 :            :     "dict_reversekeyiterator",
    4457                 :            :     sizeof(dictiterobject),
    4458                 :            :     .tp_dealloc = (destructor)dictiter_dealloc,
    4459                 :            :     .tp_flags = Py_TPFLAGS_DEFAULT | Py_TPFLAGS_HAVE_GC,
    4460                 :            :     .tp_traverse = (traverseproc)dictiter_traverse,
    4461                 :            :     .tp_iter = PyObject_SelfIter,
    4462                 :            :     .tp_iternext = (iternextfunc)dictreviter_iternext,
    4463                 :            :     .tp_methods = dictiter_methods
    4464                 :            : };
    4465                 :            : 
    4466                 :            : 
    4467                 :            : /*[clinic input]
    4468                 :            : dict.__reversed__
    4469                 :            : 
    4470                 :            : Return a reverse iterator over the dict keys.
    4471                 :            : [clinic start generated code]*/
    4472                 :            : 
    4473                 :            : static PyObject *
    4474                 :          0 : dict___reversed___impl(PyDictObject *self)
    4475                 :            : /*[clinic end generated code: output=e674483336d1ed51 input=23210ef3477d8c4d]*/
    4476                 :            : {
    4477                 :            :     assert (PyDict_Check(self));
    4478                 :          0 :     return dictiter_new(self, &PyDictRevIterKey_Type);
    4479                 :            : }
    4480                 :            : 
    4481                 :            : static PyObject *
    4482                 :          0 : dictiter_reduce(dictiterobject *di, PyObject *Py_UNUSED(ignored))
    4483                 :            : {
    4484                 :            :     /* copy the iterator state */
    4485                 :          0 :     dictiterobject tmp = *di;
    4486                 :          0 :     Py_XINCREF(tmp.di_dict);
    4487                 :          0 :     PyObject *list = PySequence_List((PyObject*)&tmp);
    4488                 :          0 :     Py_XDECREF(tmp.di_dict);
    4489         [ #  # ]:          0 :     if (list == NULL) {
    4490                 :          0 :         return NULL;
    4491                 :            :     }
    4492                 :          0 :     return Py_BuildValue("N(N)", _PyEval_GetBuiltin(&_Py_ID(iter)), list);
    4493                 :            : }
    4494                 :            : 
    4495                 :            : PyTypeObject PyDictRevIterItem_Type = {
    4496                 :            :     PyVarObject_HEAD_INIT(&PyType_Type, 0)
    4497                 :            :     "dict_reverseitemiterator",
    4498                 :            :     sizeof(dictiterobject),
    4499                 :            :     .tp_dealloc = (destructor)dictiter_dealloc,
    4500                 :            :     .tp_flags = Py_TPFLAGS_DEFAULT | Py_TPFLAGS_HAVE_GC,
    4501                 :            :     .tp_traverse = (traverseproc)dictiter_traverse,
    4502                 :            :     .tp_iter = PyObject_SelfIter,
    4503                 :            :     .tp_iternext = (iternextfunc)dictreviter_iternext,
    4504                 :            :     .tp_methods = dictiter_methods
    4505                 :            : };
    4506                 :            : 
    4507                 :            : PyTypeObject PyDictRevIterValue_Type = {
    4508                 :            :     PyVarObject_HEAD_INIT(&PyType_Type, 0)
    4509                 :            :     "dict_reversevalueiterator",
    4510                 :            :     sizeof(dictiterobject),
    4511                 :            :     .tp_dealloc = (destructor)dictiter_dealloc,
    4512                 :            :     .tp_flags = Py_TPFLAGS_DEFAULT | Py_TPFLAGS_HAVE_GC,
    4513                 :            :     .tp_traverse = (traverseproc)dictiter_traverse,
    4514                 :            :     .tp_iter = PyObject_SelfIter,
    4515                 :            :     .tp_iternext = (iternextfunc)dictreviter_iternext,
    4516                 :            :     .tp_methods = dictiter_methods
    4517                 :            : };
    4518                 :            : 
    4519                 :            : /***********************************************/
    4520                 :            : /* View objects for keys(), items(), values(). */
    4521                 :            : /***********************************************/
    4522                 :            : 
    4523                 :            : /* The instance lay-out is the same for all three; but the type differs. */
    4524                 :            : 
    4525                 :            : static void
    4526                 :       3771 : dictview_dealloc(_PyDictViewObject *dv)
    4527                 :            : {
    4528                 :            :     /* bpo-31095: UnTrack is needed before calling any callbacks */
    4529                 :       3771 :     _PyObject_GC_UNTRACK(dv);
    4530                 :       3771 :     Py_XDECREF(dv->dv_dict);
    4531                 :       3771 :     PyObject_GC_Del(dv);
    4532                 :       3771 : }
    4533                 :            : 
    4534                 :            : static int
    4535                 :         28 : dictview_traverse(_PyDictViewObject *dv, visitproc visit, void *arg)
    4536                 :            : {
    4537   [ +  -  -  + ]:         28 :     Py_VISIT(dv->dv_dict);
    4538                 :         28 :     return 0;
    4539                 :            : }
    4540                 :            : 
    4541                 :            : static Py_ssize_t
    4542                 :       1564 : dictview_len(_PyDictViewObject *dv)
    4543                 :            : {
    4544                 :       1564 :     Py_ssize_t len = 0;
    4545         [ +  - ]:       1564 :     if (dv->dv_dict != NULL)
    4546                 :       1564 :         len = dv->dv_dict->ma_used;
    4547                 :       1564 :     return len;
    4548                 :            : }
    4549                 :            : 
    4550                 :            : PyObject *
    4551                 :       3771 : _PyDictView_New(PyObject *dict, PyTypeObject *type)
    4552                 :            : {
    4553                 :            :     _PyDictViewObject *dv;
    4554         [ -  + ]:       3771 :     if (dict == NULL) {
    4555                 :          0 :         PyErr_BadInternalCall();
    4556                 :          0 :         return NULL;
    4557                 :            :     }
    4558         [ -  + ]:       3771 :     if (!PyDict_Check(dict)) {
    4559                 :            :         /* XXX Get rid of this restriction later */
    4560                 :          0 :         PyErr_Format(PyExc_TypeError,
    4561                 :            :                      "%s() requires a dict argument, not '%s'",
    4562                 :          0 :                      type->tp_name, Py_TYPE(dict)->tp_name);
    4563                 :          0 :         return NULL;
    4564                 :            :     }
    4565                 :       3771 :     dv = PyObject_GC_New(_PyDictViewObject, type);
    4566         [ -  + ]:       3771 :     if (dv == NULL)
    4567                 :          0 :         return NULL;
    4568                 :       3771 :     dv->dv_dict = (PyDictObject *)Py_NewRef(dict);
    4569                 :       3771 :     _PyObject_GC_TRACK(dv);
    4570                 :       3771 :     return (PyObject *)dv;
    4571                 :            : }
    4572                 :            : 
    4573                 :            : static PyObject *
    4574                 :          0 : dictview_mapping(PyObject *view, void *Py_UNUSED(ignored)) {
    4575                 :            :     assert(view != NULL);
    4576                 :            :     assert(PyDictKeys_Check(view)
    4577                 :            :            || PyDictValues_Check(view)
    4578                 :            :            || PyDictItems_Check(view));
    4579                 :          0 :     PyObject *mapping = (PyObject *)((_PyDictViewObject *)view)->dv_dict;
    4580                 :          0 :     return PyDictProxy_New(mapping);
    4581                 :            : }
    4582                 :            : 
    4583                 :            : static PyGetSetDef dictview_getset[] = {
    4584                 :            :     {"mapping", dictview_mapping, (setter)NULL,
    4585                 :            :      "dictionary that this view refers to", NULL},
    4586                 :            :     {0}
    4587                 :            : };
    4588                 :            : 
    4589                 :            : /* TODO(guido): The views objects are not complete:
    4590                 :            : 
    4591                 :            :  * support more set operations
    4592                 :            :  * support arbitrary mappings?
    4593                 :            :    - either these should be static or exported in dictobject.h
    4594                 :            :    - if public then they should probably be in builtins
    4595                 :            : */
    4596                 :            : 
    4597                 :            : /* Return 1 if self is a subset of other, iterating over self;
    4598                 :            :    0 if not; -1 if an error occurred. */
    4599                 :            : static int
    4600                 :          0 : all_contained_in(PyObject *self, PyObject *other)
    4601                 :            : {
    4602                 :          0 :     PyObject *iter = PyObject_GetIter(self);
    4603                 :          0 :     int ok = 1;
    4604                 :            : 
    4605         [ #  # ]:          0 :     if (iter == NULL)
    4606                 :          0 :         return -1;
    4607                 :          0 :     for (;;) {
    4608                 :          0 :         PyObject *next = PyIter_Next(iter);
    4609         [ #  # ]:          0 :         if (next == NULL) {
    4610         [ #  # ]:          0 :             if (PyErr_Occurred())
    4611                 :          0 :                 ok = -1;
    4612                 :          0 :             break;
    4613                 :            :         }
    4614                 :          0 :         ok = PySequence_Contains(other, next);
    4615                 :          0 :         Py_DECREF(next);
    4616         [ #  # ]:          0 :         if (ok <= 0)
    4617                 :          0 :             break;
    4618                 :            :     }
    4619                 :          0 :     Py_DECREF(iter);
    4620                 :          0 :     return ok;
    4621                 :            : }
    4622                 :            : 
    4623                 :            : static PyObject *
    4624                 :          0 : dictview_richcompare(PyObject *self, PyObject *other, int op)
    4625                 :            : {
    4626                 :            :     Py_ssize_t len_self, len_other;
    4627                 :            :     int ok;
    4628                 :            :     PyObject *result;
    4629                 :            : 
    4630                 :            :     assert(self != NULL);
    4631                 :            :     assert(PyDictViewSet_Check(self));
    4632                 :            :     assert(other != NULL);
    4633                 :            : 
    4634   [ #  #  #  #  :          0 :     if (!PyAnySet_Check(other) && !PyDictViewSet_Check(other))
          #  #  #  #  #  
                #  #  # ]
    4635                 :          0 :         Py_RETURN_NOTIMPLEMENTED;
    4636                 :            : 
    4637                 :          0 :     len_self = PyObject_Size(self);
    4638         [ #  # ]:          0 :     if (len_self < 0)
    4639                 :          0 :         return NULL;
    4640                 :          0 :     len_other = PyObject_Size(other);
    4641         [ #  # ]:          0 :     if (len_other < 0)
    4642                 :          0 :         return NULL;
    4643                 :            : 
    4644                 :          0 :     ok = 0;
    4645   [ #  #  #  #  :          0 :     switch(op) {
                   #  # ]
    4646                 :            : 
    4647                 :          0 :     case Py_NE:
    4648                 :            :     case Py_EQ:
    4649         [ #  # ]:          0 :         if (len_self == len_other)
    4650                 :          0 :             ok = all_contained_in(self, other);
    4651   [ #  #  #  # ]:          0 :         if (op == Py_NE && ok >= 0)
    4652                 :          0 :             ok = !ok;
    4653                 :          0 :         break;
    4654                 :            : 
    4655                 :          0 :     case Py_LT:
    4656         [ #  # ]:          0 :         if (len_self < len_other)
    4657                 :          0 :             ok = all_contained_in(self, other);
    4658                 :          0 :         break;
    4659                 :            : 
    4660                 :          0 :       case Py_LE:
    4661         [ #  # ]:          0 :           if (len_self <= len_other)
    4662                 :          0 :               ok = all_contained_in(self, other);
    4663                 :          0 :           break;
    4664                 :            : 
    4665                 :          0 :     case Py_GT:
    4666         [ #  # ]:          0 :         if (len_self > len_other)
    4667                 :          0 :             ok = all_contained_in(other, self);
    4668                 :          0 :         break;
    4669                 :            : 
    4670                 :          0 :     case Py_GE:
    4671         [ #  # ]:          0 :         if (len_self >= len_other)
    4672                 :          0 :             ok = all_contained_in(other, self);
    4673                 :          0 :         break;
    4674                 :            : 
    4675                 :            :     }
    4676         [ #  # ]:          0 :     if (ok < 0)
    4677                 :          0 :         return NULL;
    4678         [ #  # ]:          0 :     result = ok ? Py_True : Py_False;
    4679                 :          0 :     return Py_NewRef(result);
    4680                 :            : }
    4681                 :            : 
    4682                 :            : static PyObject *
    4683                 :          0 : dictview_repr(_PyDictViewObject *dv)
    4684                 :            : {
    4685                 :            :     PyObject *seq;
    4686                 :          0 :     PyObject *result = NULL;
    4687                 :            :     Py_ssize_t rc;
    4688                 :            : 
    4689                 :          0 :     rc = Py_ReprEnter((PyObject *)dv);
    4690         [ #  # ]:          0 :     if (rc != 0) {
    4691         [ #  # ]:          0 :         return rc > 0 ? PyUnicode_FromString("...") : NULL;
    4692                 :            :     }
    4693                 :          0 :     seq = PySequence_List((PyObject *)dv);
    4694         [ #  # ]:          0 :     if (seq == NULL) {
    4695                 :          0 :         goto Done;
    4696                 :            :     }
    4697                 :          0 :     result = PyUnicode_FromFormat("%s(%R)", Py_TYPE(dv)->tp_name, seq);
    4698                 :          0 :     Py_DECREF(seq);
    4699                 :            : 
    4700                 :          0 : Done:
    4701                 :          0 :     Py_ReprLeave((PyObject *)dv);
    4702                 :          0 :     return result;
    4703                 :            : }
    4704                 :            : 
    4705                 :            : /*** dict_keys ***/
    4706                 :            : 
    4707                 :            : static PyObject *
    4708                 :        866 : dictkeys_iter(_PyDictViewObject *dv)
    4709                 :            : {
    4710         [ -  + ]:        866 :     if (dv->dv_dict == NULL) {
    4711                 :          0 :         Py_RETURN_NONE;
    4712                 :            :     }
    4713                 :        866 :     return dictiter_new(dv->dv_dict, &PyDictIterKey_Type);
    4714                 :            : }
    4715                 :            : 
    4716                 :            : static int
    4717                 :        161 : dictkeys_contains(_PyDictViewObject *dv, PyObject *obj)
    4718                 :            : {
    4719         [ -  + ]:        161 :     if (dv->dv_dict == NULL)
    4720                 :          0 :         return 0;
    4721                 :        161 :     return PyDict_Contains((PyObject *)dv->dv_dict, obj);
    4722                 :            : }
    4723                 :            : 
    4724                 :            : static PySequenceMethods dictkeys_as_sequence = {
    4725                 :            :     (lenfunc)dictview_len,              /* sq_length */
    4726                 :            :     0,                                  /* sq_concat */
    4727                 :            :     0,                                  /* sq_repeat */
    4728                 :            :     0,                                  /* sq_item */
    4729                 :            :     0,                                  /* sq_slice */
    4730                 :            :     0,                                  /* sq_ass_item */
    4731                 :            :     0,                                  /* sq_ass_slice */
    4732                 :            :     (objobjproc)dictkeys_contains,      /* sq_contains */
    4733                 :            : };
    4734                 :            : 
    4735                 :            : // Create a set object from dictviews object.
    4736                 :            : // Returns a new reference.
    4737                 :            : // This utility function is used by set operations.
    4738                 :            : static PyObject*
    4739                 :          0 : dictviews_to_set(PyObject *self)
    4740                 :            : {
    4741                 :          0 :     PyObject *left = self;
    4742         [ #  # ]:          0 :     if (PyDictKeys_Check(self)) {
    4743                 :            :         // PySet_New() has fast path for the dict object.
    4744                 :          0 :         PyObject *dict = (PyObject *)((_PyDictViewObject *)self)->dv_dict;
    4745         [ #  # ]:          0 :         if (PyDict_CheckExact(dict)) {
    4746                 :          0 :             left = dict;
    4747                 :            :         }
    4748                 :            :     }
    4749                 :          0 :     return PySet_New(left);
    4750                 :            : }
    4751                 :            : 
    4752                 :            : static PyObject*
    4753                 :          0 : dictviews_sub(PyObject *self, PyObject *other)
    4754                 :            : {
    4755                 :          0 :     PyObject *result = dictviews_to_set(self);
    4756         [ #  # ]:          0 :     if (result == NULL) {
    4757                 :          0 :         return NULL;
    4758                 :            :     }
    4759                 :            : 
    4760                 :          0 :     PyObject *tmp = PyObject_CallMethodOneArg(
    4761                 :            :             result, &_Py_ID(difference_update), other);
    4762         [ #  # ]:          0 :     if (tmp == NULL) {
    4763                 :          0 :         Py_DECREF(result);
    4764                 :          0 :         return NULL;
    4765                 :            :     }
    4766                 :            : 
    4767                 :          0 :     Py_DECREF(tmp);
    4768                 :          0 :     return result;
    4769                 :            : }
    4770                 :            : 
    4771                 :            : static int
    4772                 :            : dictitems_contains(_PyDictViewObject *dv, PyObject *obj);
    4773                 :            : 
    4774                 :            : PyObject *
    4775                 :          0 : _PyDictView_Intersect(PyObject* self, PyObject *other)
    4776                 :            : {
    4777                 :            :     PyObject *result;
    4778                 :            :     PyObject *it;
    4779                 :            :     PyObject *key;
    4780                 :            :     Py_ssize_t len_self;
    4781                 :            :     int rv;
    4782                 :            :     int (*dict_contains)(_PyDictViewObject *, PyObject *);
    4783                 :            : 
    4784                 :            :     /* Python interpreter swaps parameters when dict view
    4785                 :            :        is on right side of & */
    4786   [ #  #  #  # ]:          0 :     if (!PyDictViewSet_Check(self)) {
    4787                 :          0 :         PyObject *tmp = other;
    4788                 :          0 :         other = self;
    4789                 :          0 :         self = tmp;
    4790                 :            :     }
    4791                 :            : 
    4792                 :          0 :     len_self = dictview_len((_PyDictViewObject *)self);
    4793                 :            : 
    4794                 :            :     /* if other is a set and self is smaller than other,
    4795                 :            :        reuse set intersection logic */
    4796   [ #  #  #  # ]:          0 :     if (PySet_CheckExact(other) && len_self <= PyObject_Size(other)) {
    4797                 :          0 :         return PyObject_CallMethodObjArgs(
    4798                 :            :                 other, &_Py_ID(intersection), self, NULL);
    4799                 :            :     }
    4800                 :            : 
    4801                 :            :     /* if other is another dict view, and it is bigger than self,
    4802                 :            :        swap them */
    4803   [ #  #  #  # ]:          0 :     if (PyDictViewSet_Check(other)) {
    4804                 :          0 :         Py_ssize_t len_other = dictview_len((_PyDictViewObject *)other);
    4805         [ #  # ]:          0 :         if (len_other > len_self) {
    4806                 :          0 :             PyObject *tmp = other;
    4807                 :          0 :             other = self;
    4808                 :          0 :             self = tmp;
    4809                 :            :         }
    4810                 :            :     }
    4811                 :            : 
    4812                 :            :     /* at this point, two things should be true
    4813                 :            :        1. self is a dictview
    4814                 :            :        2. if other is a dictview then it is smaller than self */
    4815                 :          0 :     result = PySet_New(NULL);
    4816         [ #  # ]:          0 :     if (result == NULL)
    4817                 :          0 :         return NULL;
    4818                 :            : 
    4819                 :          0 :     it = PyObject_GetIter(other);
    4820         [ #  # ]:          0 :     if (it == NULL) {
    4821                 :          0 :         Py_DECREF(result);
    4822                 :          0 :         return NULL;
    4823                 :            :     }
    4824                 :            : 
    4825         [ #  # ]:          0 :     if (PyDictKeys_Check(self)) {
    4826                 :          0 :         dict_contains = dictkeys_contains;
    4827                 :            :     }
    4828                 :            :     /* else PyDictItems_Check(self) */
    4829                 :            :     else {
    4830                 :          0 :         dict_contains = dictitems_contains;
    4831                 :            :     }
    4832                 :            : 
    4833         [ #  # ]:          0 :     while ((key = PyIter_Next(it)) != NULL) {
    4834                 :          0 :         rv = dict_contains((_PyDictViewObject *)self, key);
    4835         [ #  # ]:          0 :         if (rv < 0) {
    4836                 :          0 :             goto error;
    4837                 :            :         }
    4838         [ #  # ]:          0 :         if (rv) {
    4839         [ #  # ]:          0 :             if (PySet_Add(result, key)) {
    4840                 :          0 :                 goto error;
    4841                 :            :             }
    4842                 :            :         }
    4843                 :          0 :         Py_DECREF(key);
    4844                 :            :     }
    4845                 :          0 :     Py_DECREF(it);
    4846         [ #  # ]:          0 :     if (PyErr_Occurred()) {
    4847                 :          0 :         Py_DECREF(result);
    4848                 :          0 :         return NULL;
    4849                 :            :     }
    4850                 :          0 :     return result;
    4851                 :            : 
    4852                 :          0 : error:
    4853                 :          0 :     Py_DECREF(it);
    4854                 :          0 :     Py_DECREF(result);
    4855                 :          0 :     Py_DECREF(key);
    4856                 :          0 :     return NULL;
    4857                 :            : }
    4858                 :            : 
    4859                 :            : static PyObject*
    4860                 :          0 : dictviews_or(PyObject* self, PyObject *other)
    4861                 :            : {
    4862                 :          0 :     PyObject *result = dictviews_to_set(self);
    4863         [ #  # ]:          0 :     if (result == NULL) {
    4864                 :          0 :         return NULL;
    4865                 :            :     }
    4866                 :            : 
    4867         [ #  # ]:          0 :     if (_PySet_Update(result, other) < 0) {
    4868                 :          0 :         Py_DECREF(result);
    4869                 :          0 :         return NULL;
    4870                 :            :     }
    4871                 :          0 :     return result;
    4872                 :            : }
    4873                 :            : 
    4874                 :            : static PyObject *
    4875                 :          0 : dictitems_xor(PyObject *self, PyObject *other)
    4876                 :            : {
    4877                 :            :     assert(PyDictItems_Check(self));
    4878                 :            :     assert(PyDictItems_Check(other));
    4879                 :          0 :     PyObject *d1 = (PyObject *)((_PyDictViewObject *)self)->dv_dict;
    4880                 :          0 :     PyObject *d2 = (PyObject *)((_PyDictViewObject *)other)->dv_dict;
    4881                 :            : 
    4882                 :          0 :     PyObject *temp_dict = PyDict_Copy(d1);
    4883         [ #  # ]:          0 :     if (temp_dict == NULL) {
    4884                 :          0 :         return NULL;
    4885                 :            :     }
    4886                 :          0 :     PyObject *result_set = PySet_New(NULL);
    4887         [ #  # ]:          0 :     if (result_set == NULL) {
    4888         [ #  # ]:          0 :         Py_CLEAR(temp_dict);
    4889                 :          0 :         return NULL;
    4890                 :            :     }
    4891                 :            : 
    4892                 :          0 :     PyObject *key = NULL, *val1 = NULL, *val2 = NULL;
    4893                 :          0 :     Py_ssize_t pos = 0;
    4894                 :            :     Py_hash_t hash;
    4895                 :            : 
    4896         [ #  # ]:          0 :     while (_PyDict_Next(d2, &pos, &key, &val2, &hash)) {
    4897                 :          0 :         Py_INCREF(key);
    4898                 :          0 :         Py_INCREF(val2);
    4899                 :          0 :         val1 = _PyDict_GetItem_KnownHash(temp_dict, key, hash);
    4900                 :            : 
    4901                 :            :         int to_delete;
    4902         [ #  # ]:          0 :         if (val1 == NULL) {
    4903         [ #  # ]:          0 :             if (PyErr_Occurred()) {
    4904                 :          0 :                 goto error;
    4905                 :            :             }
    4906                 :          0 :             to_delete = 0;
    4907                 :            :         }
    4908                 :            :         else {
    4909                 :          0 :             Py_INCREF(val1);
    4910                 :          0 :             to_delete = PyObject_RichCompareBool(val1, val2, Py_EQ);
    4911         [ #  # ]:          0 :             if (to_delete < 0) {
    4912                 :          0 :                 goto error;
    4913                 :            :             }
    4914                 :            :         }
    4915                 :            : 
    4916         [ #  # ]:          0 :         if (to_delete) {
    4917         [ #  # ]:          0 :             if (_PyDict_DelItem_KnownHash(temp_dict, key, hash) < 0) {
    4918                 :          0 :                 goto error;
    4919                 :            :             }
    4920                 :            :         }
    4921                 :            :         else {
    4922                 :          0 :             PyObject *pair = PyTuple_Pack(2, key, val2);
    4923         [ #  # ]:          0 :             if (pair == NULL) {
    4924                 :          0 :                 goto error;
    4925                 :            :             }
    4926         [ #  # ]:          0 :             if (PySet_Add(result_set, pair) < 0) {
    4927                 :          0 :                 Py_DECREF(pair);
    4928                 :          0 :                 goto error;
    4929                 :            :             }
    4930                 :          0 :             Py_DECREF(pair);
    4931                 :            :         }
    4932                 :          0 :         Py_DECREF(key);
    4933                 :          0 :         Py_XDECREF(val1);
    4934                 :          0 :         Py_DECREF(val2);
    4935                 :            :     }
    4936                 :          0 :     key = val1 = val2 = NULL;
    4937                 :            : 
    4938                 :          0 :     PyObject *remaining_pairs = PyObject_CallMethodNoArgs(
    4939                 :            :             temp_dict, &_Py_ID(items));
    4940         [ #  # ]:          0 :     if (remaining_pairs == NULL) {
    4941                 :          0 :         goto error;
    4942                 :            :     }
    4943         [ #  # ]:          0 :     if (_PySet_Update(result_set, remaining_pairs) < 0) {
    4944                 :          0 :         Py_DECREF(remaining_pairs);
    4945                 :          0 :         goto error;
    4946                 :            :     }
    4947                 :          0 :     Py_DECREF(temp_dict);
    4948                 :          0 :     Py_DECREF(remaining_pairs);
    4949                 :          0 :     return result_set;
    4950                 :            : 
    4951                 :          0 : error:
    4952                 :          0 :     Py_XDECREF(temp_dict);
    4953                 :          0 :     Py_XDECREF(result_set);
    4954                 :          0 :     Py_XDECREF(key);
    4955                 :          0 :     Py_XDECREF(val1);
    4956                 :          0 :     Py_XDECREF(val2);
    4957                 :          0 :     return NULL;
    4958                 :            : }
    4959                 :            : 
    4960                 :            : static PyObject*
    4961                 :          0 : dictviews_xor(PyObject* self, PyObject *other)
    4962                 :            : {
    4963   [ #  #  #  # ]:          0 :     if (PyDictItems_Check(self) && PyDictItems_Check(other)) {
    4964                 :          0 :         return dictitems_xor(self, other);
    4965                 :            :     }
    4966                 :          0 :     PyObject *result = dictviews_to_set(self);
    4967         [ #  # ]:          0 :     if (result == NULL) {
    4968                 :          0 :         return NULL;
    4969                 :            :     }
    4970                 :            : 
    4971                 :          0 :     PyObject *tmp = PyObject_CallMethodOneArg(
    4972                 :            :             result, &_Py_ID(symmetric_difference_update), other);
    4973         [ #  # ]:          0 :     if (tmp == NULL) {
    4974                 :          0 :         Py_DECREF(result);
    4975                 :          0 :         return NULL;
    4976                 :            :     }
    4977                 :            : 
    4978                 :          0 :     Py_DECREF(tmp);
    4979                 :          0 :     return result;
    4980                 :            : }
    4981                 :            : 
    4982                 :            : static PyNumberMethods dictviews_as_number = {
    4983                 :            :     0,                                  /*nb_add*/
    4984                 :            :     (binaryfunc)dictviews_sub,          /*nb_subtract*/
    4985                 :            :     0,                                  /*nb_multiply*/
    4986                 :            :     0,                                  /*nb_remainder*/
    4987                 :            :     0,                                  /*nb_divmod*/
    4988                 :            :     0,                                  /*nb_power*/
    4989                 :            :     0,                                  /*nb_negative*/
    4990                 :            :     0,                                  /*nb_positive*/
    4991                 :            :     0,                                  /*nb_absolute*/
    4992                 :            :     0,                                  /*nb_bool*/
    4993                 :            :     0,                                  /*nb_invert*/
    4994                 :            :     0,                                  /*nb_lshift*/
    4995                 :            :     0,                                  /*nb_rshift*/
    4996                 :            :     (binaryfunc)_PyDictView_Intersect,  /*nb_and*/
    4997                 :            :     (binaryfunc)dictviews_xor,          /*nb_xor*/
    4998                 :            :     (binaryfunc)dictviews_or,           /*nb_or*/
    4999                 :            : };
    5000                 :            : 
    5001                 :            : static PyObject*
    5002                 :          0 : dictviews_isdisjoint(PyObject *self, PyObject *other)
    5003                 :            : {
    5004                 :            :     PyObject *it;
    5005                 :          0 :     PyObject *item = NULL;
    5006                 :            : 
    5007         [ #  # ]:          0 :     if (self == other) {
    5008         [ #  # ]:          0 :         if (dictview_len((_PyDictViewObject *)self) == 0)
    5009                 :          0 :             Py_RETURN_TRUE;
    5010                 :            :         else
    5011                 :          0 :             Py_RETURN_FALSE;
    5012                 :            :     }
    5013                 :            : 
    5014                 :            :     /* Iterate over the shorter object (only if other is a set,
    5015                 :            :      * because PySequence_Contains may be expensive otherwise): */
    5016   [ #  #  #  #  :          0 :     if (PyAnySet_Check(other) || PyDictViewSet_Check(other)) {
          #  #  #  #  #  
                #  #  # ]
    5017                 :          0 :         Py_ssize_t len_self = dictview_len((_PyDictViewObject *)self);
    5018                 :          0 :         Py_ssize_t len_other = PyObject_Size(other);
    5019         [ #  # ]:          0 :         if (len_other == -1)
    5020                 :          0 :             return NULL;
    5021                 :            : 
    5022         [ #  # ]:          0 :         if ((len_other > len_self)) {
    5023                 :          0 :             PyObject *tmp = other;
    5024                 :          0 :             other = self;
    5025                 :          0 :             self = tmp;
    5026                 :            :         }
    5027                 :            :     }
    5028                 :            : 
    5029                 :          0 :     it = PyObject_GetIter(other);
    5030         [ #  # ]:          0 :     if (it == NULL)
    5031                 :          0 :         return NULL;
    5032                 :            : 
    5033         [ #  # ]:          0 :     while ((item = PyIter_Next(it)) != NULL) {
    5034                 :          0 :         int contains = PySequence_Contains(self, item);
    5035                 :          0 :         Py_DECREF(item);
    5036         [ #  # ]:          0 :         if (contains == -1) {
    5037                 :          0 :             Py_DECREF(it);
    5038                 :          0 :             return NULL;
    5039                 :            :         }
    5040                 :            : 
    5041         [ #  # ]:          0 :         if (contains) {
    5042                 :          0 :             Py_DECREF(it);
    5043                 :          0 :             Py_RETURN_FALSE;
    5044                 :            :         }
    5045                 :            :     }
    5046                 :          0 :     Py_DECREF(it);
    5047         [ #  # ]:          0 :     if (PyErr_Occurred())
    5048                 :          0 :         return NULL; /* PyIter_Next raised an exception. */
    5049                 :          0 :     Py_RETURN_TRUE;
    5050                 :            : }
    5051                 :            : 
    5052                 :            : PyDoc_STRVAR(isdisjoint_doc,
    5053                 :            : "Return True if the view and the given iterable have a null intersection.");
    5054                 :            : 
    5055                 :            : static PyObject* dictkeys_reversed(_PyDictViewObject *dv, PyObject *Py_UNUSED(ignored));
    5056                 :            : 
    5057                 :            : PyDoc_STRVAR(reversed_keys_doc,
    5058                 :            : "Return a reverse iterator over the dict keys.");
    5059                 :            : 
    5060                 :            : static PyMethodDef dictkeys_methods[] = {
    5061                 :            :     {"isdisjoint",      (PyCFunction)dictviews_isdisjoint,  METH_O,
    5062                 :            :      isdisjoint_doc},
    5063                 :            :     {"__reversed__",    _PyCFunction_CAST(dictkeys_reversed),    METH_NOARGS,
    5064                 :            :      reversed_keys_doc},
    5065                 :            :     {NULL,              NULL}           /* sentinel */
    5066                 :            : };
    5067                 :            : 
    5068                 :            : PyTypeObject PyDictKeys_Type = {
    5069                 :            :     PyVarObject_HEAD_INIT(&PyType_Type, 0)
    5070                 :            :     "dict_keys",                                /* tp_name */
    5071                 :            :     sizeof(_PyDictViewObject),                  /* tp_basicsize */
    5072                 :            :     0,                                          /* tp_itemsize */
    5073                 :            :     /* methods */
    5074                 :            :     (destructor)dictview_dealloc,               /* tp_dealloc */
    5075                 :            :     0,                                          /* tp_vectorcall_offset */
    5076                 :            :     0,                                          /* tp_getattr */
    5077                 :            :     0,                                          /* tp_setattr */
    5078                 :            :     0,                                          /* tp_as_async */
    5079                 :            :     (reprfunc)dictview_repr,                    /* tp_repr */
    5080                 :            :     &dictviews_as_number,                       /* tp_as_number */
    5081                 :            :     &dictkeys_as_sequence,                      /* tp_as_sequence */
    5082                 :            :     0,                                          /* tp_as_mapping */
    5083                 :            :     0,                                          /* tp_hash */
    5084                 :            :     0,                                          /* tp_call */
    5085                 :            :     0,                                          /* tp_str */
    5086                 :            :     PyObject_GenericGetAttr,                    /* tp_getattro */
    5087                 :            :     0,                                          /* tp_setattro */
    5088                 :            :     0,                                          /* tp_as_buffer */
    5089                 :            :     Py_TPFLAGS_DEFAULT | Py_TPFLAGS_HAVE_GC,/* tp_flags */
    5090                 :            :     0,                                          /* tp_doc */
    5091                 :            :     (traverseproc)dictview_traverse,            /* tp_traverse */
    5092                 :            :     0,                                          /* tp_clear */
    5093                 :            :     dictview_richcompare,                       /* tp_richcompare */
    5094                 :            :     0,                                          /* tp_weaklistoffset */
    5095                 :            :     (getiterfunc)dictkeys_iter,                 /* tp_iter */
    5096                 :            :     0,                                          /* tp_iternext */
    5097                 :            :     dictkeys_methods,                           /* tp_methods */
    5098                 :            :     .tp_getset = dictview_getset,
    5099                 :            : };
    5100                 :            : 
    5101                 :            : static PyObject *
    5102                 :        892 : dictkeys_new(PyObject *dict, PyObject *Py_UNUSED(ignored))
    5103                 :            : {
    5104                 :        892 :     return _PyDictView_New(dict, &PyDictKeys_Type);
    5105                 :            : }
    5106                 :            : 
    5107                 :            : static PyObject *
    5108                 :          0 : dictkeys_reversed(_PyDictViewObject *dv, PyObject *Py_UNUSED(ignored))
    5109                 :            : {
    5110         [ #  # ]:          0 :     if (dv->dv_dict == NULL) {
    5111                 :          0 :         Py_RETURN_NONE;
    5112                 :            :     }
    5113                 :          0 :     return dictiter_new(dv->dv_dict, &PyDictRevIterKey_Type);
    5114                 :            : }
    5115                 :            : 
    5116                 :            : /*** dict_items ***/
    5117                 :            : 
    5118                 :            : static PyObject *
    5119                 :       1238 : dictitems_iter(_PyDictViewObject *dv)
    5120                 :            : {
    5121         [ -  + ]:       1238 :     if (dv->dv_dict == NULL) {
    5122                 :          0 :         Py_RETURN_NONE;
    5123                 :            :     }
    5124                 :       1238 :     return dictiter_new(dv->dv_dict, &PyDictIterItem_Type);
    5125                 :            : }
    5126                 :            : 
    5127                 :            : static int
    5128                 :          0 : dictitems_contains(_PyDictViewObject *dv, PyObject *obj)
    5129                 :            : {
    5130                 :            :     int result;
    5131                 :            :     PyObject *key, *value, *found;
    5132         [ #  # ]:          0 :     if (dv->dv_dict == NULL)
    5133                 :          0 :         return 0;
    5134   [ #  #  #  # ]:          0 :     if (!PyTuple_Check(obj) || PyTuple_GET_SIZE(obj) != 2)
    5135                 :          0 :         return 0;
    5136                 :          0 :     key = PyTuple_GET_ITEM(obj, 0);
    5137                 :          0 :     value = PyTuple_GET_ITEM(obj, 1);
    5138                 :          0 :     found = PyDict_GetItemWithError((PyObject *)dv->dv_dict, key);
    5139         [ #  # ]:          0 :     if (found == NULL) {
    5140         [ #  # ]:          0 :         if (PyErr_Occurred())
    5141                 :          0 :             return -1;
    5142                 :          0 :         return 0;
    5143                 :            :     }
    5144                 :          0 :     Py_INCREF(found);
    5145                 :          0 :     result = PyObject_RichCompareBool(found, value, Py_EQ);
    5146                 :          0 :     Py_DECREF(found);
    5147                 :          0 :     return result;
    5148                 :            : }
    5149                 :            : 
    5150                 :            : static PySequenceMethods dictitems_as_sequence = {
    5151                 :            :     (lenfunc)dictview_len,              /* sq_length */
    5152                 :            :     0,                                  /* sq_concat */
    5153                 :            :     0,                                  /* sq_repeat */
    5154                 :            :     0,                                  /* sq_item */
    5155                 :            :     0,                                  /* sq_slice */
    5156                 :            :     0,                                  /* sq_ass_item */
    5157                 :            :     0,                                  /* sq_ass_slice */
    5158                 :            :     (objobjproc)dictitems_contains,     /* sq_contains */
    5159                 :            : };
    5160                 :            : 
    5161                 :            : static PyObject* dictitems_reversed(_PyDictViewObject *dv, PyObject *Py_UNUSED(ignored));
    5162                 :            : 
    5163                 :            : PyDoc_STRVAR(reversed_items_doc,
    5164                 :            : "Return a reverse iterator over the dict items.");
    5165                 :            : 
    5166                 :            : static PyMethodDef dictitems_methods[] = {
    5167                 :            :     {"isdisjoint",      (PyCFunction)dictviews_isdisjoint,  METH_O,
    5168                 :            :      isdisjoint_doc},
    5169                 :            :     {"__reversed__",    (PyCFunction)dictitems_reversed,    METH_NOARGS,
    5170                 :            :      reversed_items_doc},
    5171                 :            :     {NULL,              NULL}           /* sentinel */
    5172                 :            : };
    5173                 :            : 
    5174                 :            : PyTypeObject PyDictItems_Type = {
    5175                 :            :     PyVarObject_HEAD_INIT(&PyType_Type, 0)
    5176                 :            :     "dict_items",                               /* tp_name */
    5177                 :            :     sizeof(_PyDictViewObject),                  /* tp_basicsize */
    5178                 :            :     0,                                          /* tp_itemsize */
    5179                 :            :     /* methods */
    5180                 :            :     (destructor)dictview_dealloc,               /* tp_dealloc */
    5181                 :            :     0,                                          /* tp_vectorcall_offset */
    5182                 :            :     0,                                          /* tp_getattr */
    5183                 :            :     0,                                          /* tp_setattr */
    5184                 :            :     0,                                          /* tp_as_async */
    5185                 :            :     (reprfunc)dictview_repr,                    /* tp_repr */
    5186                 :            :     &dictviews_as_number,                       /* tp_as_number */
    5187                 :            :     &dictitems_as_sequence,                     /* tp_as_sequence */
    5188                 :            :     0,                                          /* tp_as_mapping */
    5189                 :            :     0,                                          /* tp_hash */
    5190                 :            :     0,                                          /* tp_call */
    5191                 :            :     0,                                          /* tp_str */
    5192                 :            :     PyObject_GenericGetAttr,                    /* tp_getattro */
    5193                 :            :     0,                                          /* tp_setattro */
    5194                 :            :     0,                                          /* tp_as_buffer */
    5195                 :            :     Py_TPFLAGS_DEFAULT | Py_TPFLAGS_HAVE_GC,/* tp_flags */
    5196                 :            :     0,                                          /* tp_doc */
    5197                 :            :     (traverseproc)dictview_traverse,            /* tp_traverse */
    5198                 :            :     0,                                          /* tp_clear */
    5199                 :            :     dictview_richcompare,                       /* tp_richcompare */
    5200                 :            :     0,                                          /* tp_weaklistoffset */
    5201                 :            :     (getiterfunc)dictitems_iter,                /* tp_iter */
    5202                 :            :     0,                                          /* tp_iternext */
    5203                 :            :     dictitems_methods,                          /* tp_methods */
    5204                 :            :     .tp_getset = dictview_getset,
    5205                 :            : };
    5206                 :            : 
    5207                 :            : static PyObject *
    5208                 :       1263 : dictitems_new(PyObject *dict, PyObject *Py_UNUSED(ignored))
    5209                 :            : {
    5210                 :       1263 :     return _PyDictView_New(dict, &PyDictItems_Type);
    5211                 :            : }
    5212                 :            : 
    5213                 :            : static PyObject *
    5214                 :          0 : dictitems_reversed(_PyDictViewObject *dv, PyObject *Py_UNUSED(ignored))
    5215                 :            : {
    5216         [ #  # ]:          0 :     if (dv->dv_dict == NULL) {
    5217                 :          0 :         Py_RETURN_NONE;
    5218                 :            :     }
    5219                 :          0 :     return dictiter_new(dv->dv_dict, &PyDictRevIterItem_Type);
    5220                 :            : }
    5221                 :            : 
    5222                 :            : /*** dict_values ***/
    5223                 :            : 
    5224                 :            : static PyObject *
    5225                 :       1591 : dictvalues_iter(_PyDictViewObject *dv)
    5226                 :            : {
    5227         [ -  + ]:       1591 :     if (dv->dv_dict == NULL) {
    5228                 :          0 :         Py_RETURN_NONE;
    5229                 :            :     }
    5230                 :       1591 :     return dictiter_new(dv->dv_dict, &PyDictIterValue_Type);
    5231                 :            : }
    5232                 :            : 
    5233                 :            : static PySequenceMethods dictvalues_as_sequence = {
    5234                 :            :     (lenfunc)dictview_len,              /* sq_length */
    5235                 :            :     0,                                  /* sq_concat */
    5236                 :            :     0,                                  /* sq_repeat */
    5237                 :            :     0,                                  /* sq_item */
    5238                 :            :     0,                                  /* sq_slice */
    5239                 :            :     0,                                  /* sq_ass_item */
    5240                 :            :     0,                                  /* sq_ass_slice */
    5241                 :            :     (objobjproc)0,                      /* sq_contains */
    5242                 :            : };
    5243                 :            : 
    5244                 :            : static PyObject* dictvalues_reversed(_PyDictViewObject *dv, PyObject *Py_UNUSED(ignored));
    5245                 :            : 
    5246                 :            : PyDoc_STRVAR(reversed_values_doc,
    5247                 :            : "Return a reverse iterator over the dict values.");
    5248                 :            : 
    5249                 :            : static PyMethodDef dictvalues_methods[] = {
    5250                 :            :     {"__reversed__",    (PyCFunction)dictvalues_reversed,    METH_NOARGS,
    5251                 :            :      reversed_values_doc},
    5252                 :            :     {NULL,              NULL}           /* sentinel */
    5253                 :            : };
    5254                 :            : 
    5255                 :            : PyTypeObject PyDictValues_Type = {
    5256                 :            :     PyVarObject_HEAD_INIT(&PyType_Type, 0)
    5257                 :            :     "dict_values",                              /* tp_name */
    5258                 :            :     sizeof(_PyDictViewObject),                  /* tp_basicsize */
    5259                 :            :     0,                                          /* tp_itemsize */
    5260                 :            :     /* methods */
    5261                 :            :     (destructor)dictview_dealloc,               /* tp_dealloc */
    5262                 :            :     0,                                          /* tp_vectorcall_offset */
    5263                 :            :     0,                                          /* tp_getattr */
    5264                 :            :     0,                                          /* tp_setattr */
    5265                 :            :     0,                                          /* tp_as_async */
    5266                 :            :     (reprfunc)dictview_repr,                    /* tp_repr */
    5267                 :            :     0,                                          /* tp_as_number */
    5268                 :            :     &dictvalues_as_sequence,                    /* tp_as_sequence */
    5269                 :            :     0,                                          /* tp_as_mapping */
    5270                 :            :     0,                                          /* tp_hash */
    5271                 :            :     0,                                          /* tp_call */
    5272                 :            :     0,                                          /* tp_str */
    5273                 :            :     PyObject_GenericGetAttr,                    /* tp_getattro */
    5274                 :            :     0,                                          /* tp_setattro */
    5275                 :            :     0,                                          /* tp_as_buffer */
    5276                 :            :     Py_TPFLAGS_DEFAULT | Py_TPFLAGS_HAVE_GC,/* tp_flags */
    5277                 :            :     0,                                          /* tp_doc */
    5278                 :            :     (traverseproc)dictview_traverse,            /* tp_traverse */
    5279                 :            :     0,                                          /* tp_clear */
    5280                 :            :     0,                                          /* tp_richcompare */
    5281                 :            :     0,                                          /* tp_weaklistoffset */
    5282                 :            :     (getiterfunc)dictvalues_iter,               /* tp_iter */
    5283                 :            :     0,                                          /* tp_iternext */
    5284                 :            :     dictvalues_methods,                         /* tp_methods */
    5285                 :            :     .tp_getset = dictview_getset,
    5286                 :            : };
    5287                 :            : 
    5288                 :            : static PyObject *
    5289                 :       1616 : dictvalues_new(PyObject *dict, PyObject *Py_UNUSED(ignored))
    5290                 :            : {
    5291                 :       1616 :     return _PyDictView_New(dict, &PyDictValues_Type);
    5292                 :            : }
    5293                 :            : 
    5294                 :            : static PyObject *
    5295                 :          0 : dictvalues_reversed(_PyDictViewObject *dv, PyObject *Py_UNUSED(ignored))
    5296                 :            : {
    5297         [ #  # ]:          0 :     if (dv->dv_dict == NULL) {
    5298                 :          0 :         Py_RETURN_NONE;
    5299                 :            :     }
    5300                 :          0 :     return dictiter_new(dv->dv_dict, &PyDictRevIterValue_Type);
    5301                 :            : }
    5302                 :            : 
    5303                 :            : 
    5304                 :            : /* Returns NULL if cannot allocate a new PyDictKeysObject,
    5305                 :            :    but does not set an error */
    5306                 :            : PyDictKeysObject *
    5307                 :       1941 : _PyDict_NewKeysForClass(void)
    5308                 :            : {
    5309                 :       1941 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    5310                 :       1941 :     PyDictKeysObject *keys = new_keys_object(
    5311                 :            :             interp, NEXT_LOG2_SHARED_KEYS_MAX_SIZE, 1);
    5312         [ -  + ]:       1941 :     if (keys == NULL) {
    5313                 :          0 :         PyErr_Clear();
    5314                 :            :     }
    5315                 :            :     else {
    5316                 :            :         assert(keys->dk_nentries == 0);
    5317                 :            :         /* Set to max size+1 as it will shrink by one before each new object */
    5318                 :       1941 :         keys->dk_usable = SHARED_KEYS_MAX_SIZE;
    5319                 :       1941 :         keys->dk_kind = DICT_KEYS_SPLIT;
    5320                 :            :     }
    5321                 :       1941 :     return keys;
    5322                 :            : }
    5323                 :            : 
    5324                 :            : #define CACHED_KEYS(tp) (((PyHeapTypeObject*)tp)->ht_cached_keys)
    5325                 :            : 
    5326                 :            : static int
    5327                 :     138267 : init_inline_values(PyObject *obj, PyTypeObject *tp)
    5328                 :            : {
    5329                 :            :     assert(tp->tp_flags & Py_TPFLAGS_HEAPTYPE);
    5330                 :            :     // assert(type->tp_dictoffset > 0);  -- TO DO Update this assert.
    5331                 :            :     assert(tp->tp_flags & Py_TPFLAGS_MANAGED_DICT);
    5332                 :     138267 :     PyDictKeysObject *keys = CACHED_KEYS(tp);
    5333                 :            :     assert(keys != NULL);
    5334         [ +  + ]:     138267 :     if (keys->dk_usable > 1) {
    5335                 :       5240 :         keys->dk_usable--;
    5336                 :            :     }
    5337                 :     138267 :     size_t size = shared_keys_usable_size(keys);
    5338                 :     138267 :     PyDictValues *values = new_values(size);
    5339         [ -  + ]:     138267 :     if (values == NULL) {
    5340                 :          0 :         PyErr_NoMemory();
    5341                 :          0 :         return -1;
    5342                 :            :     }
    5343                 :            :     assert(((uint8_t *)values)[-1] >= (size + 2));
    5344                 :     138267 :     ((uint8_t *)values)[-2] = 0;
    5345         [ +  + ]:    1051934 :     for (size_t i = 0; i < size; i++) {
    5346                 :     913667 :         values->values[i] = NULL;
    5347                 :            :     }
    5348                 :     138267 :     _PyDictOrValues_SetValues(_PyObject_DictOrValuesPointer(obj), values);
    5349                 :     138267 :     return 0;
    5350                 :            : }
    5351                 :            : 
    5352                 :            : int
    5353                 :     273167 : _PyObject_InitializeDict(PyObject *obj)
    5354                 :            : {
    5355                 :     273167 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    5356                 :     273167 :     PyTypeObject *tp = Py_TYPE(obj);
    5357         [ +  + ]:     273167 :     if (tp->tp_dictoffset == 0) {
    5358                 :     134900 :         return 0;
    5359                 :            :     }
    5360         [ +  - ]:     138267 :     if (tp->tp_flags & Py_TPFLAGS_MANAGED_DICT) {
    5361                 :            :         OBJECT_STAT_INC(new_values);
    5362                 :     138267 :         return init_inline_values(obj, tp);
    5363                 :            :     }
    5364                 :            :     PyObject *dict;
    5365   [ #  #  #  # ]:          0 :     if (_PyType_HasFeature(tp, Py_TPFLAGS_HEAPTYPE) && CACHED_KEYS(tp)) {
    5366                 :          0 :         dictkeys_incref(CACHED_KEYS(tp));
    5367                 :          0 :         dict = new_dict_with_shared_keys(interp, CACHED_KEYS(tp));
    5368                 :            :     }
    5369                 :            :     else {
    5370                 :          0 :         dict = PyDict_New();
    5371                 :            :     }
    5372         [ #  # ]:          0 :     if (dict == NULL) {
    5373                 :          0 :         return -1;
    5374                 :            :     }
    5375                 :          0 :     PyObject **dictptr = _PyObject_ComputedDictPointer(obj);
    5376                 :          0 :     *dictptr = dict;
    5377                 :          0 :     return 0;
    5378                 :            : }
    5379                 :            : 
    5380                 :            : static PyObject *
    5381                 :        795 : make_dict_from_instance_attributes(PyInterpreterState *interp,
    5382                 :            :                                    PyDictKeysObject *keys, PyDictValues *values)
    5383                 :            : {
    5384                 :        795 :     dictkeys_incref(keys);
    5385                 :        795 :     Py_ssize_t used = 0;
    5386                 :        795 :     Py_ssize_t track = 0;
    5387                 :        795 :     size_t size = shared_keys_usable_size(keys);
    5388         [ +  + ]:      14580 :     for (size_t i = 0; i < size; i++) {
    5389                 :      13785 :         PyObject *val = values->values[i];
    5390         [ +  + ]:      13785 :         if (val != NULL) {
    5391                 :        216 :             used += 1;
    5392                 :        216 :             track += _PyObject_GC_MAY_BE_TRACKED(val);
    5393                 :            :         }
    5394                 :            :     }
    5395                 :        795 :     PyObject *res = new_dict(interp, keys, values, used, 0);
    5396   [ +  +  +  - ]:        795 :     if (track && res) {
    5397                 :         23 :         _PyObject_GC_TRACK(res);
    5398                 :            :     }
    5399                 :        795 :     return res;
    5400                 :            : }
    5401                 :            : 
    5402                 :            : PyObject *
    5403                 :          0 : _PyObject_MakeDictFromInstanceAttributes(PyObject *obj, PyDictValues *values)
    5404                 :            : {
    5405                 :          0 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    5406                 :          0 :     PyDictKeysObject *keys = CACHED_KEYS(Py_TYPE(obj));
    5407                 :            :     OBJECT_STAT_INC(dict_materialized_on_request);
    5408                 :          0 :     return make_dict_from_instance_attributes(interp, keys, values);
    5409                 :            : }
    5410                 :            : 
    5411                 :            : int
    5412                 :     410649 : _PyObject_StoreInstanceAttribute(PyObject *obj, PyDictValues *values,
    5413                 :            :                               PyObject *name, PyObject *value)
    5414                 :            : {
    5415                 :     410649 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    5416                 :     410649 :     PyDictKeysObject *keys = CACHED_KEYS(Py_TYPE(obj));
    5417                 :            :     assert(keys != NULL);
    5418                 :            :     assert(values != NULL);
    5419                 :            :     assert(Py_TYPE(obj)->tp_flags & Py_TPFLAGS_MANAGED_DICT);
    5420                 :     410649 :     Py_ssize_t ix = DKIX_EMPTY;
    5421         [ +  - ]:     410649 :     if (PyUnicode_CheckExact(name)) {
    5422                 :     410649 :         ix = insert_into_dictkeys(keys, name);
    5423                 :            :     }
    5424         [ +  + ]:     410649 :     if (ix == DKIX_EMPTY) {
    5425                 :            : #ifdef Py_STATS
    5426                 :            :         if (PyUnicode_CheckExact(name)) {
    5427                 :            :             if (shared_keys_usable_size(keys) == SHARED_KEYS_MAX_SIZE) {
    5428                 :            :                 OBJECT_STAT_INC(dict_materialized_too_big);
    5429                 :            :             }
    5430                 :            :             else {
    5431                 :            :                 OBJECT_STAT_INC(dict_materialized_new_key);
    5432                 :            :             }
    5433                 :            :         }
    5434                 :            :         else {
    5435                 :            :             OBJECT_STAT_INC(dict_materialized_str_subclass);
    5436                 :            :         }
    5437                 :            : #endif
    5438                 :          2 :         PyObject *dict = make_dict_from_instance_attributes(
    5439                 :            :                 interp, keys, values);
    5440         [ -  + ]:          2 :         if (dict == NULL) {
    5441                 :          0 :             return -1;
    5442                 :            :         }
    5443                 :          2 :         _PyObject_DictOrValuesPointer(obj)->dict = dict;
    5444         [ -  + ]:          2 :         if (value == NULL) {
    5445                 :          0 :             return PyDict_DelItem(dict, name);
    5446                 :            :         }
    5447                 :            :         else {
    5448                 :          2 :             return PyDict_SetItem(dict, name, value);
    5449                 :            :         }
    5450                 :            :     }
    5451                 :     410647 :     PyObject *old_value = values->values[ix];
    5452                 :     410647 :     values->values[ix] = Py_XNewRef(value);
    5453         [ +  + ]:     410647 :     if (old_value == NULL) {
    5454         [ -  + ]:     116995 :         if (value == NULL) {
    5455                 :          0 :             PyErr_Format(PyExc_AttributeError,
    5456                 :            :                          "'%.100s' object has no attribute '%U'",
    5457                 :          0 :                          Py_TYPE(obj)->tp_name, name);
    5458                 :          0 :             return -1;
    5459                 :            :         }
    5460                 :     116995 :         _PyDictValues_AddToInsertionOrder(values, ix);
    5461                 :            :     }
    5462                 :            :     else {
    5463         [ +  + ]:     293652 :         if (value == NULL) {
    5464                 :     292839 :             delete_index_from_values(values, ix);
    5465                 :            :         }
    5466                 :     293652 :         Py_DECREF(old_value);
    5467                 :            :     }
    5468                 :     410647 :     return 0;
    5469                 :            : }
    5470                 :            : 
    5471                 :            : /* Sanity check for managed dicts */
    5472                 :            : #if 0
    5473                 :            : #define CHECK(val) assert(val); if (!(val)) { return 0; }
    5474                 :            : 
    5475                 :            : int
    5476                 :            : _PyObject_ManagedDictValidityCheck(PyObject *obj)
    5477                 :            : {
    5478                 :            :     PyTypeObject *tp = Py_TYPE(obj);
    5479                 :            :     CHECK(tp->tp_flags & Py_TPFLAGS_MANAGED_DICT);
    5480                 :            :     PyDictOrValues *dorv_ptr = _PyObject_DictOrValuesPointer(obj);
    5481                 :            :     if (_PyDictOrValues_IsValues(*dorv_ptr)) {
    5482                 :            :         PyDictValues *values = _PyDictOrValues_GetValues(*dorv_ptr);
    5483                 :            :         int size = ((uint8_t *)values)[-2];
    5484                 :            :         int count = 0;
    5485                 :            :         PyDictKeysObject *keys = CACHED_KEYS(tp);
    5486                 :            :         for (Py_ssize_t i = 0; i < keys->dk_nentries; i++) {
    5487                 :            :             if (values->values[i] != NULL) {
    5488                 :            :                 count++;
    5489                 :            :             }
    5490                 :            :         }
    5491                 :            :         CHECK(size == count);
    5492                 :            :     }
    5493                 :            :     else {
    5494                 :            :         if (dorv_ptr->dict != NULL) {
    5495                 :            :             CHECK(PyDict_Check(dorv_ptr->dict));
    5496                 :            :         }
    5497                 :            :     }
    5498                 :            :     return 1;
    5499                 :            : }
    5500                 :            : #endif
    5501                 :            : 
    5502                 :            : PyObject *
    5503                 :     203615 : _PyObject_GetInstanceAttribute(PyObject *obj, PyDictValues *values,
    5504                 :            :                               PyObject *name)
    5505                 :            : {
    5506                 :            :     assert(PyUnicode_CheckExact(name));
    5507                 :     203615 :     PyDictKeysObject *keys = CACHED_KEYS(Py_TYPE(obj));
    5508                 :            :     assert(keys != NULL);
    5509                 :     203615 :     Py_ssize_t ix = _PyDictKeys_StringLookup(keys, name);
    5510         [ +  + ]:     203615 :     if (ix == DKIX_EMPTY) {
    5511                 :     183973 :         return NULL;
    5512                 :            :     }
    5513                 :      19642 :     PyObject *value = values->values[ix];
    5514                 :      19642 :     return Py_XNewRef(value);
    5515                 :            : }
    5516                 :            : 
    5517                 :            : int
    5518                 :          0 : _PyObject_IsInstanceDictEmpty(PyObject *obj)
    5519                 :            : {
    5520                 :          0 :     PyTypeObject *tp = Py_TYPE(obj);
    5521         [ #  # ]:          0 :     if (tp->tp_dictoffset == 0) {
    5522                 :          0 :         return 1;
    5523                 :            :     }
    5524                 :            :     PyObject *dict;
    5525         [ #  # ]:          0 :     if (tp->tp_flags & Py_TPFLAGS_MANAGED_DICT) {
    5526                 :          0 :         PyDictOrValues dorv = *_PyObject_DictOrValuesPointer(obj);
    5527         [ #  # ]:          0 :         if (_PyDictOrValues_IsValues(dorv)) {
    5528                 :          0 :             PyDictKeysObject *keys = CACHED_KEYS(tp);
    5529         [ #  # ]:          0 :             for (Py_ssize_t i = 0; i < keys->dk_nentries; i++) {
    5530         [ #  # ]:          0 :                 if (_PyDictOrValues_GetValues(dorv)->values[i] != NULL) {
    5531                 :          0 :                     return 0;
    5532                 :            :                 }
    5533                 :            :             }
    5534                 :          0 :             return 1;
    5535                 :            :         }
    5536                 :          0 :         dict = _PyDictOrValues_GetDict(dorv);
    5537                 :            :     }
    5538                 :            :     else {
    5539                 :          0 :         PyObject **dictptr = _PyObject_ComputedDictPointer(obj);
    5540                 :          0 :         dict = *dictptr;
    5541                 :            :     }
    5542         [ #  # ]:          0 :     if (dict == NULL) {
    5543                 :          0 :         return 1;
    5544                 :            :     }
    5545                 :          0 :     return ((PyDictObject *)dict)->ma_used == 0;
    5546                 :            : }
    5547                 :            : 
    5548                 :            : void
    5549                 :     137332 : _PyObject_FreeInstanceAttributes(PyObject *self)
    5550                 :            : {
    5551                 :     137332 :     PyTypeObject *tp = Py_TYPE(self);
    5552                 :            :     assert(Py_TYPE(self)->tp_flags & Py_TPFLAGS_MANAGED_DICT);
    5553                 :     137332 :     PyDictOrValues dorv = *_PyObject_DictOrValuesPointer(self);
    5554         [ -  + ]:     137332 :     if (!_PyDictOrValues_IsValues(dorv)) {
    5555                 :          0 :         return;
    5556                 :            :     }
    5557                 :     137332 :     PyDictValues *values = _PyDictOrValues_GetValues(dorv);
    5558                 :     137332 :     PyDictKeysObject *keys = CACHED_KEYS(tp);
    5559         [ +  + ]:     823076 :     for (Py_ssize_t i = 0; i < keys->dk_nentries; i++) {
    5560                 :     685744 :         Py_XDECREF(values->values[i]);
    5561                 :            :     }
    5562                 :     137332 :     free_values(values);
    5563                 :            : }
    5564                 :            : 
    5565                 :            : int
    5566                 :      50728 : _PyObject_VisitManagedDict(PyObject *obj, visitproc visit, void *arg)
    5567                 :            : {
    5568                 :      50728 :     PyTypeObject *tp = Py_TYPE(obj);
    5569         [ -  + ]:      50728 :     if((tp->tp_flags & Py_TPFLAGS_MANAGED_DICT) == 0) {
    5570                 :          0 :         return 0;
    5571                 :            :     }
    5572                 :            :     assert(tp->tp_dictoffset);
    5573                 :      50728 :     PyDictOrValues dorv = *_PyObject_DictOrValuesPointer(obj);
    5574         [ +  + ]:      50728 :     if (_PyDictOrValues_IsValues(dorv)) {
    5575                 :      35542 :         PyDictValues *values = _PyDictOrValues_GetValues(dorv);
    5576                 :      35542 :         PyDictKeysObject *keys = CACHED_KEYS(tp);
    5577         [ +  + ]:     263098 :         for (Py_ssize_t i = 0; i < keys->dk_nentries; i++) {
    5578   [ +  +  -  + ]:     227556 :             Py_VISIT(values->values[i]);
    5579                 :            :         }
    5580                 :            :     }
    5581                 :            :     else {
    5582                 :      15186 :         PyObject *dict = _PyDictOrValues_GetDict(dorv);
    5583   [ +  +  -  + ]:      15186 :         Py_VISIT(dict);
    5584                 :            :     }
    5585                 :      50728 :     return 0;
    5586                 :            : }
    5587                 :            : 
    5588                 :            : void
    5589                 :        416 : _PyObject_ClearManagedDict(PyObject *obj)
    5590                 :            : {
    5591                 :        416 :     PyTypeObject *tp = Py_TYPE(obj);
    5592         [ -  + ]:        416 :     if((tp->tp_flags & Py_TPFLAGS_MANAGED_DICT) == 0) {
    5593                 :          0 :         return;
    5594                 :            :     }
    5595                 :        416 :     PyDictOrValues *dorv_ptr = _PyObject_DictOrValuesPointer(obj);
    5596         [ +  + ]:        416 :     if (_PyDictOrValues_IsValues(*dorv_ptr)) {
    5597                 :        126 :         PyDictValues *values = _PyDictOrValues_GetValues(*dorv_ptr);
    5598                 :        126 :         PyDictKeysObject *keys = CACHED_KEYS(tp);
    5599         [ +  + ]:        615 :         for (Py_ssize_t i = 0; i < keys->dk_nentries; i++) {
    5600         [ +  + ]:        489 :             Py_CLEAR(values->values[i]);
    5601                 :            :         }
    5602                 :        126 :         dorv_ptr->dict = NULL;
    5603                 :        126 :         free_values(values);
    5604                 :            :     }
    5605                 :            :     else {
    5606                 :        290 :         PyObject *dict = dorv_ptr->dict;
    5607         [ +  - ]:        290 :         if (dict) {
    5608                 :        290 :             dorv_ptr->dict = NULL;
    5609                 :        290 :             Py_DECREF(dict);
    5610                 :            :         }
    5611                 :            :     }
    5612                 :            : }
    5613                 :            : 
    5614                 :            : PyObject *
    5615                 :       4636 : PyObject_GenericGetDict(PyObject *obj, void *context)
    5616                 :            : {
    5617                 :            :     PyObject *dict;
    5618                 :       4636 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    5619                 :       4636 :     PyTypeObject *tp = Py_TYPE(obj);
    5620         [ +  + ]:       4636 :     if (_PyType_HasFeature(tp, Py_TPFLAGS_MANAGED_DICT)) {
    5621                 :       3919 :         PyDictOrValues *dorv_ptr = _PyObject_DictOrValuesPointer(obj);
    5622         [ +  + ]:       3919 :         if (_PyDictOrValues_IsValues(*dorv_ptr)) {
    5623                 :        793 :             PyDictValues *values = _PyDictOrValues_GetValues(*dorv_ptr);
    5624                 :            :             OBJECT_STAT_INC(dict_materialized_on_request);
    5625                 :        793 :             dict = make_dict_from_instance_attributes(
    5626                 :        793 :                     interp, CACHED_KEYS(tp), values);
    5627         [ +  - ]:        793 :             if (dict != NULL) {
    5628                 :        793 :                 dorv_ptr->dict = dict;
    5629                 :            :             }
    5630                 :            :         }
    5631                 :            :         else {
    5632                 :       3126 :             dict = _PyDictOrValues_GetDict(*dorv_ptr);
    5633         [ -  + ]:       3126 :             if (dict == NULL) {
    5634                 :          0 :                 dictkeys_incref(CACHED_KEYS(tp));
    5635                 :          0 :                 dict = new_dict_with_shared_keys(interp, CACHED_KEYS(tp));
    5636                 :          0 :                 dorv_ptr->dict = dict;
    5637                 :            :             }
    5638                 :            :         }
    5639                 :            :     }
    5640                 :            :     else {
    5641                 :        717 :         PyObject **dictptr = _PyObject_ComputedDictPointer(obj);
    5642         [ -  + ]:        717 :         if (dictptr == NULL) {
    5643                 :          0 :             PyErr_SetString(PyExc_AttributeError,
    5644                 :            :                             "This object has no __dict__");
    5645                 :          0 :             return NULL;
    5646                 :            :         }
    5647                 :        717 :         dict = *dictptr;
    5648         [ +  + ]:        717 :         if (dict == NULL) {
    5649                 :        655 :             PyTypeObject *tp = Py_TYPE(obj);
    5650   [ -  +  -  - ]:        655 :             if (_PyType_HasFeature(tp, Py_TPFLAGS_HEAPTYPE) && CACHED_KEYS(tp)) {
    5651                 :          0 :                 dictkeys_incref(CACHED_KEYS(tp));
    5652                 :          0 :                 *dictptr = dict = new_dict_with_shared_keys(
    5653                 :          0 :                         interp, CACHED_KEYS(tp));
    5654                 :            :             }
    5655                 :            :             else {
    5656                 :        655 :                 *dictptr = dict = PyDict_New();
    5657                 :            :             }
    5658                 :            :         }
    5659                 :            :     }
    5660                 :       4636 :     return Py_XNewRef(dict);
    5661                 :            : }
    5662                 :            : 
    5663                 :            : int
    5664                 :    2788515 : _PyObjectDict_SetItem(PyTypeObject *tp, PyObject **dictptr,
    5665                 :            :                       PyObject *key, PyObject *value)
    5666                 :            : {
    5667                 :            :     PyObject *dict;
    5668                 :            :     int res;
    5669                 :            :     PyDictKeysObject *cached;
    5670                 :    2788515 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    5671                 :            : 
    5672                 :            :     assert(dictptr != NULL);
    5673   [ +  +  +  + ]:    2788515 :     if ((tp->tp_flags & Py_TPFLAGS_HEAPTYPE) && (cached = CACHED_KEYS(tp))) {
    5674                 :            :         assert(dictptr != NULL);
    5675                 :     315012 :         dict = *dictptr;
    5676         [ +  + ]:     315012 :         if (dict == NULL) {
    5677                 :        826 :             dictkeys_incref(cached);
    5678                 :        826 :             dict = new_dict_with_shared_keys(interp, cached);
    5679         [ -  + ]:        826 :             if (dict == NULL)
    5680                 :          0 :                 return -1;
    5681                 :        826 :             *dictptr = dict;
    5682                 :            :         }
    5683         [ -  + ]:     315012 :         if (value == NULL) {
    5684                 :          0 :             res = PyDict_DelItem(dict, key);
    5685                 :            :         }
    5686                 :            :         else {
    5687                 :     315012 :             res = PyDict_SetItem(dict, key, value);
    5688                 :            :         }
    5689                 :            :     } else {
    5690                 :    2473503 :         dict = *dictptr;
    5691         [ +  + ]:    2473503 :         if (dict == NULL) {
    5692                 :     411123 :             dict = PyDict_New();
    5693         [ -  + ]:     411123 :             if (dict == NULL)
    5694                 :          0 :                 return -1;
    5695                 :     411123 :             *dictptr = dict;
    5696                 :            :         }
    5697         [ +  + ]:    2473503 :         if (value == NULL) {
    5698                 :        187 :             res = PyDict_DelItem(dict, key);
    5699                 :            :         } else {
    5700                 :    2473316 :             res = PyDict_SetItem(dict, key, value);
    5701                 :            :         }
    5702                 :            :     }
    5703                 :            :     ASSERT_CONSISTENT(dict);
    5704                 :    2788515 :     return res;
    5705                 :            : }
    5706                 :            : 
    5707                 :            : void
    5708                 :       1886 : _PyDictKeys_DecRef(PyDictKeysObject *keys)
    5709                 :            : {
    5710                 :       1886 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    5711                 :       1886 :     dictkeys_decref(interp, keys);
    5712                 :       1886 : }
    5713                 :            : 
    5714                 :      18693 : uint32_t _PyDictKeys_GetVersionForCurrentState(PyInterpreterState *interp,
    5715                 :            :                                                PyDictKeysObject *dictkeys)
    5716                 :            : {
    5717         [ +  + ]:      18693 :     if (dictkeys->dk_version != 0) {
    5718                 :      17354 :         return dictkeys->dk_version;
    5719                 :            :     }
    5720         [ -  + ]:       1339 :     if (interp->dict_state.next_keys_version == 0) {
    5721                 :          0 :         return 0;
    5722                 :            :     }
    5723                 :       1339 :     uint32_t v = interp->dict_state.next_keys_version++;
    5724                 :       1339 :     dictkeys->dk_version = v;
    5725                 :       1339 :     return v;
    5726                 :            : }
    5727                 :            : 
    5728                 :            : static inline int
    5729                 :          0 : validate_watcher_id(PyInterpreterState *interp, int watcher_id)
    5730                 :            : {
    5731   [ #  #  #  # ]:          0 :     if (watcher_id < 0 || watcher_id >= DICT_MAX_WATCHERS) {
    5732                 :          0 :         PyErr_Format(PyExc_ValueError, "Invalid dict watcher ID %d", watcher_id);
    5733                 :          0 :         return -1;
    5734                 :            :     }
    5735         [ #  # ]:          0 :     if (!interp->dict_state.watchers[watcher_id]) {
    5736                 :          0 :         PyErr_Format(PyExc_ValueError, "No dict watcher set for ID %d", watcher_id);
    5737                 :          0 :         return -1;
    5738                 :            :     }
    5739                 :          0 :     return 0;
    5740                 :            : }
    5741                 :            : 
    5742                 :            : int
    5743                 :          0 : PyDict_Watch(int watcher_id, PyObject* dict)
    5744                 :            : {
    5745         [ #  # ]:          0 :     if (!PyDict_Check(dict)) {
    5746                 :          0 :         PyErr_SetString(PyExc_ValueError, "Cannot watch non-dictionary");
    5747                 :          0 :         return -1;
    5748                 :            :     }
    5749                 :          0 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    5750         [ #  # ]:          0 :     if (validate_watcher_id(interp, watcher_id)) {
    5751                 :          0 :         return -1;
    5752                 :            :     }
    5753                 :          0 :     ((PyDictObject*)dict)->ma_version_tag |= (1LL << watcher_id);
    5754                 :          0 :     return 0;
    5755                 :            : }
    5756                 :            : 
    5757                 :            : int
    5758                 :          0 : PyDict_Unwatch(int watcher_id, PyObject* dict)
    5759                 :            : {
    5760         [ #  # ]:          0 :     if (!PyDict_Check(dict)) {
    5761                 :          0 :         PyErr_SetString(PyExc_ValueError, "Cannot watch non-dictionary");
    5762                 :          0 :         return -1;
    5763                 :            :     }
    5764                 :          0 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    5765         [ #  # ]:          0 :     if (validate_watcher_id(interp, watcher_id)) {
    5766                 :          0 :         return -1;
    5767                 :            :     }
    5768                 :          0 :     ((PyDictObject*)dict)->ma_version_tag &= ~(1LL << watcher_id);
    5769                 :          0 :     return 0;
    5770                 :            : }
    5771                 :            : 
    5772                 :            : int
    5773                 :          0 : PyDict_AddWatcher(PyDict_WatchCallback callback)
    5774                 :            : {
    5775                 :          0 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    5776                 :            : 
    5777         [ #  # ]:          0 :     for (int i = 0; i < DICT_MAX_WATCHERS; i++) {
    5778         [ #  # ]:          0 :         if (!interp->dict_state.watchers[i]) {
    5779                 :          0 :             interp->dict_state.watchers[i] = callback;
    5780                 :          0 :             return i;
    5781                 :            :         }
    5782                 :            :     }
    5783                 :            : 
    5784                 :          0 :     PyErr_SetString(PyExc_RuntimeError, "no more dict watcher IDs available");
    5785                 :          0 :     return -1;
    5786                 :            : }
    5787                 :            : 
    5788                 :            : int
    5789                 :          0 : PyDict_ClearWatcher(int watcher_id)
    5790                 :            : {
    5791                 :          0 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    5792         [ #  # ]:          0 :     if (validate_watcher_id(interp, watcher_id)) {
    5793                 :          0 :         return -1;
    5794                 :            :     }
    5795                 :          0 :     interp->dict_state.watchers[watcher_id] = NULL;
    5796                 :          0 :     return 0;
    5797                 :            : }
    5798                 :            : 
    5799                 :            : static const char *
    5800                 :          0 : dict_event_name(PyDict_WatchEvent event) {
    5801   [ #  #  #  #  :          0 :     switch (event) {
                #  #  # ]
    5802                 :            :         #define CASE(op)                \
    5803                 :            :         case PyDict_EVENT_##op:         \
    5804                 :            :             return "PyDict_EVENT_" #op;
    5805                 :          0 :         PY_FOREACH_DICT_EVENT(CASE)
    5806                 :            :         #undef CASE
    5807                 :            :     }
    5808                 :          0 :     Py_UNREACHABLE();
    5809                 :            : }
    5810                 :            : 
    5811                 :            : void
    5812                 :          0 : _PyDict_SendEvent(int watcher_bits,
    5813                 :            :                   PyDict_WatchEvent event,
    5814                 :            :                   PyDictObject *mp,
    5815                 :            :                   PyObject *key,
    5816                 :            :                   PyObject *value)
    5817                 :            : {
    5818                 :          0 :     PyInterpreterState *interp = _PyInterpreterState_GET();
    5819         [ #  # ]:          0 :     for (int i = 0; i < DICT_MAX_WATCHERS; i++) {
    5820         [ #  # ]:          0 :         if (watcher_bits & 1) {
    5821                 :          0 :             PyDict_WatchCallback cb = interp->dict_state.watchers[i];
    5822   [ #  #  #  # ]:          0 :             if (cb && (cb(event, (PyObject*)mp, key, value) < 0)) {
    5823                 :            :                 // We don't want to resurrect the dict by potentially having an
    5824                 :            :                 // unraisablehook keep a reference to it, so we don't pass the
    5825                 :            :                 // dict as context, just an informative string message.  Dict
    5826                 :            :                 // repr can call arbitrary code, so we invent a simpler version.
    5827                 :          0 :                 PyObject *context = PyUnicode_FromFormat(
    5828                 :            :                     "%s watcher callback for <dict at %p>",
    5829                 :            :                     dict_event_name(event), mp);
    5830         [ #  # ]:          0 :                 if (context == NULL) {
    5831                 :          0 :                     context = Py_NewRef(Py_None);
    5832                 :            :                 }
    5833                 :          0 :                 PyErr_WriteUnraisable(context);
    5834                 :          0 :                 Py_DECREF(context);
    5835                 :            :             }
    5836                 :            :         }
    5837                 :          0 :         watcher_bits >>= 1;
    5838                 :            :     }
    5839                 :          0 : }

Generated by: LCOV version 1.14