Вот команда для скринкаста:
ffmpeg -f alsa -ac 2 -i pulse -f x11grab -r 30 -s 1024x768 -i :0.0 -acodec pcm_s16le -vcodec libx264 -vpre lossless_ultrafast -threads 0 output.mkv
Если не ошибаюсь, для захвата только звука будет так:
ffmpeg -f alsa -ac 2 -i pulse -acodec pcm_s16le -threads 0 output.mka

Если звуковая карта AC'97, то должны быть каналы Mono Mix и Stereo Mix - ставишь захват с них, и потом просто arecord, если не AC'97, то скорее всего, без pulseaudio не обойтись. how-to с pulseaudio тут

хммм, это не совсем то что надо. Дело в том что я пишу небольшую программу на си которая должна захватывать звук воспроизводимый в системе, затем анализировать его и отправлять сигналы на внешний графический лампочный эквалайзер. Можно конечно и тут использовать выход ffmpeg на вход другой программы, но хотелось бы проще

а еще лучше было бы найти какую нибудь кросс платформенную библиотеку чтобы можно было заводить это еще и их винды

да-да, я просто ответ пока пишу ваш уже появляется

Думаю тебе подойдет Jack Audio Connection Kit

надо будет посмотреть что там к чему

Есть очень простой способ сделать это с помощью PulseAudio.
Запускаем записывающее приложение, включаем в нем запись, запускаем pavucontrol и на вкладке "Запись" (а может и другой) ставим источник для этого приложения "Monitor of...". Всё!

небольшая поправка. /dev/dsp - это устройство вывода OSS. То есть при использовании ALSA работать не должно.

оно будет работать так как для обратной совместимости в большинстве дистрибутивов загружается модуль snd_pcm_oss