udf: Check output buffer length when converting name to CS0
authorAndrew Gabbasov <andrew_gabbasov@mentor.com>
Thu, 24 Dec 2015 16:25:33 +0000 (10:25 -0600)
committerWilly Tarreau <w@1wt.eu>
Sat, 12 Mar 2016 13:25:43 +0000 (14:25 +0100)
commitf1005e5f1cfedbec13c5a376416a43891601746b
tree30494f8d32733ab830e873b535ae763bbbac9b8c
parent7fe6afeeeb4a09006370274782338c1750d872f2
udf: Check output buffer length when converting name to CS0

commit bb00c898ad1ce40c4bb422a8207ae562e9aea7ae upstream.

If a name contains at least some characters with Unicode values
exceeding single byte, the CS0 output should have 2 bytes per character.
And if other input characters have single byte Unicode values, then
the single input byte is converted to 2 output bytes, and the length
of output becomes larger than the length of input. And if the input
name is long enough, the output length may exceed the allocated buffer
length.

All this means that conversion from UTF8 or NLS to CS0 requires
checking of output length in order to stop when it exceeds the given
output buffer size.

[JK: Make code return -ENAMETOOLONG instead of silently truncating the
name]

Signed-off-by: Andrew Gabbasov <andrew_gabbasov@mentor.com>
Signed-off-by: Jan Kara <jack@suse.cz>
Signed-off-by: Ben Hutchings <ben@decadent.org.uk>
Signed-off-by: Willy Tarreau <w@1wt.eu>
fs/udf/unicode.c