Pokud se s touto chybou znovu setkáte po upgradu na 12.04 (nebo u lidí, kteří se sem dostanou po vygooglování názvu této stránky po upgradu na 12.04), fungovalo pro mě následující:
gem uninstall mysql2
gem install mysql2
Toto překompiluje drahokam pomocí libmysqlclient18 a fungovalo to pro mě.
Doufám, že to někomu pomůže.