Добавить в начало цепочки, в которой устанавливается маскарадинг, правило, рубящее пакеты с конкретной машины. В начало - это если добавлять правило на ходу, а так - просто перед маскарадигом.
Про ограничение трафика: сделай простой счётчик внешнего трафика и проверяй его, скажем, каждые 5 минут, например. Кто превысил лимит - заменять разрешающее правило на запрещающее. И спи-отдыхай. :).[snapback]4517[/snapback]