Всем привет.
Да, я не использую переключение по CapsLock.
Да, ни на какие другие клавиши это переключение я вешать не буду.
Около месяца назад где-то читал, что сабж возникает из за того, что Гном (или кто там еще) при переключении языков опрашивает клавиши по событию OnKeyDown, а не OnKeyUp, и предлагался какой-то патч, решающий эту проблему.

Решение под катом, уважаемый veksha напомнил склеротику ссылку с хабра.