RMagick2.soではなくて・・・

libMagickWand.soなんだぜ？

RMagick Installation FAQ

This message is extremely confusing. It looks like Ruby is complaining that it can’t find RMagick.so, but actually Ruby is complaining that it can’t find libMagickWand.so.

ということで、libMagickWand.soのあるディレクトリに

% export LD_LIBRARY_PATH=/path/to/lib

とLD_LIBRARY_PATHを通して解決。