Setkal jsem se se stejným problémem při instalaci mysql2-0.3.21 na Mac pro.
Níže uvedené řešení pro mě fungovalo (spusťte níže uvedené 3 příkazy v terminálu směřujícím do složky vašeho projektu):
brew install mysql
gem install mysql2 -v '0.3.21' -- --srcdir=/usr/local/mysql/include
bundle install