IPSEC: Avoid undefined shift operation when testing algorithm ID
authorHerbert Xu <herbert@gondor.apana.org.au>
Fri, 11 Jan 2008 09:32:51 +0000 (01:32 -0800)
committerGreg Kroah-Hartman <gregkh@suse.de>
Fri, 8 Feb 2008 20:01:24 +0000 (12:01 -0800)
commitd7ebea7d9e242d5eb968c9512d323f15c3894e20
tree088b42c8b8a9a624d60262fd6a4f028f1025112b
parent58cfd02363cefb05d624a30ba323c4afd1cedc4c
IPSEC: Avoid undefined shift operation when testing algorithm ID

[IPSEC]: Avoid undefined shift operation when testing algorithm ID

[ Upstream commit: f398035f2dec0a6150833b0bc105057953594edb ]

The aalgos/ealgos fields are only 32 bits wide.  However, af_key tries
to test them with the expression 1 << id where id can be as large as
253.  This produces different behaviour on different architectures.

The following patch explicitly checks whether ID is greater than 31
and fails the check if that's the case.

We cannot easily extend the mask to be longer than 32 bits due to
exposure to user-space.  Besides, this whole interface is obsolete
anyway in favour of the xfrm_user interface which doesn't use this
bit mask in templates (well not within the kernel anyway).

Signed-off-by: Herbert Xu <herbert@gondor.apana.org.au>
Signed-off-by: David S. Miller <davem@davemloft.net>
Signed-off-by: Greg Kroah-Hartman <gregkh@suse.de>
net/key/af_key.c