-
Notifications
You must be signed in to change notification settings - Fork 13.7k
Prevent Vec::drain_filter from double dropping on panic #61224
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
Changes from 5 commits
84ae969
17a517a
53d46ae
b13ae65
f5ab031
a4a6a67
df5b32e
File filter
Filter by extension
Conversations
Jump to
Diff view
Diff view
There are no files selected for viewing
Original file line number | Diff line number | Diff line change | ||||||||||||||||||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
|
@@ -2120,6 +2120,7 @@ impl<T> Vec<T> { | |||||||||||||||||||||||||||||||||||||||||||||||||||||||
del: 0, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
old_len, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
pred: filter, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
panic_flag: false, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
@@ -2751,6 +2752,7 @@ pub struct DrainFilter<'a, T, F> | |||||||||||||||||||||||||||||||||||||||||||||||||||||||
del: usize, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
old_len: usize, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
pred: F, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
panic_flag: bool, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. This has grown enough fields that they should really be documented. Either individually here, or with a high-level description of what we're trying to do in the implementation of There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. I added docs to each field in the latest commit. |
||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||
#[unstable(feature = "drain_filter", reason = "recently added", issue = "43244")] | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
@@ -2761,20 +2763,23 @@ impl<T, F> Iterator for DrainFilter<'_, T, F> | |||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||
fn next(&mut self) -> Option<T> { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
unsafe { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
while self.idx != self.old_len { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
while self.idx < self.old_len { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
let i = self.idx; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
self.idx += 1; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
let v = slice::from_raw_parts_mut(self.vec.as_mut_ptr(), self.old_len); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
if (self.pred)(&mut v[i]) { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
self.panic_flag = true; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
let drained = (self.pred)(&mut v[i]); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
self.panic_flag = false; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. I have a terrible compulsion to try to encode this state in some magic combination of old_len/idx/del, but this is probably clearest, and easiest for llvm to evaporate when it sees pred can't unwind. There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. I considered that route initially but came to the conclusion that even if it's possible, the simple flag would be much easier to understand and maintain. |
||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// Update the index *after* the predicate is called. If the index | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// is updated prior and the predicate panics, the element at this | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// index would be leaked. | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
self.idx += 1; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
if drained { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
self.del += 1; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
return Some(ptr::read(&v[i])); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} else if self.del > 0 { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
let del = self.del; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
let src: *const T = &v[i]; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
let dst: *mut T = &mut v[i - del]; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// This is safe because self.vec has length 0 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// thus its elements will not have Drop::drop | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// called on them in the event of a panic. | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. Is this comment no longer true? Why is it safe instead then? There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. I believe the intent was to leak instead of double drop, but it didn't quite work. I've done some minor refactoring and added additional comments. It's safe now because there are additional checks in |
||||||||||||||||||||||||||||||||||||||||||||||||||||||||
ptr::copy_nonoverlapping(src, dst, 1); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
@@ -2792,9 +2797,53 @@ impl<T, F> Drop for DrainFilter<'_, T, F> | |||||||||||||||||||||||||||||||||||||||||||||||||||||||
where F: FnMut(&mut T) -> bool, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
{ | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
fn drop(&mut self) { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
self.for_each(drop); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
unsafe { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
self.vec.set_len(self.old_len - self.del); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
struct BackshiftOnDrop<'a, 'b, T, F> | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
where | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
F: FnMut(&mut T) -> bool, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
{ | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
drain: &'b mut DrainFilter<'a, T, F>, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||
impl<'a, 'b, T, F> Drop for BackshiftOnDrop<'a, 'b, T, F> | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
where | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
F: FnMut(&mut T) -> bool | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
{ | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
fn drop(&mut self) { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
unsafe { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// Backshift any unprocessed elements, preventing double-drop | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// of any element that *should* have been previously overwritten | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// but was not due to a panic in the filter predicate. This is | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// implemented via drop so that it's guaranteed to run even in | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// the event of a panic while consuming the remainder of the | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// DrainFilter. | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. (currently checking with the lang team that we guarantee that this works) There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. cc @rust-lang/lang @matthewjasper @arielb1 There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. specifically: if we panic in a destructor and we weren't yet panicking:
(the middle point I'm not sure is necessary here, but is just my understanding of what is supposed to happen.) There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. cc also rust-lang/reference#514 There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more.
This is indeed what we're currently doing: rust/src/test/mir-opt/unusual-item-types.rs Lines 48 to 74 in 254f201
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. @gankro your understanding is correct. If drop panics:
If dropping a value in Note also that the panic doesn't need to originate in the Drop::impl, this one can succeed, but then the fields are dropped in declaration order, and one of them can panic. When this happens, the remaining fields are still dropped in place, so if a second one of them panics, then you have a double drop. If the Drop::impl does not panic, but dropping one of the fields panics, and you don't get a double drop, you are guaranteed that the field that panicked is the only one that wasn't properly dropped. EDIT: for all practical purposes, if dropping a value panics, you should treat that value as dropped, since "most" of the value will have been dropped in the process (at most one field wasn't dropped). |
||||||||||||||||||||||||||||||||||||||||||||||||||||||||
while self.drain.idx < self.drain.old_len { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
let i = self.drain.idx; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
self.drain.idx += 1; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
let v = slice::from_raw_parts_mut( | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
self.drain.vec.as_mut_ptr(), | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
self.drain.old_len, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
if self.drain.del > 0 { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
let del = self.drain.del; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
let src: *const T = &v[i]; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
let dst: *mut T = &mut v[i - del]; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
ptr::copy_nonoverlapping(src, dst, 1); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. I don't understand why this while loop exists. Surely this should just be: if self.drain.idx < self.drain.old_len {
// It looks like `pred` panicked, so we didn't process all the elements.
// This is a pretty messed up state, and there isn't really an obviously right
// thing to do (and we don't want to keep trying to execute `pred`). So we
// just backshift all the unprocessed elements and tell the vec that they still
// exist, hoping that doesn't mess up anyone further along in the panic.
let idx = self.drain.idx;
let num_deleted = self.drain.del;
let tail_len = self.drain.old_len - idx;
let ptr = self.drain.vec.as_mut_ptr();
if num_deleted > 0 {
ptr.add(idx).copy_to(ptr.add(idx - num_deleted), tail_len);
}
}
self.drain.vec.set_len(self.drain.old_len - self.drain.del); (Here I modernized the code a bit to use the newer raw pointer APIs, and some clearer names. It would be a nice cleanup to this code if you also did that to the Iterator's fields and its next impl as well, although not a blocker.) There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. I incorporated this in the latest commit. I also consolidated the the |
||||||||||||||||||||||||||||||||||||||||||||||||||||||||
self.drain.vec.set_len(self.drain.old_len - self.drain.del); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||
let backshift = BackshiftOnDrop { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
drain: self | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
}; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// Attempt to consume any remaining elements if the filter predicate | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// has not yet panicked. We'll backshift any remaining elements | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// whether we've already panicked or if the consumption here panics. | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
if !backshift.drain.panic_flag { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
backshift.drain.for_each(drop); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} |
Uh oh!
There was an error while loading. Please reload this page.