очевидно -8 это максимум
копипаста из хелпа:
-7, --compression-level-7 Synonymous with -l 8 -b 4096 -m -e -r 6
-8, --compression-level-8, --best Synonymous with -l 12 -b 4096 -m -e -r 6
-b, --blocksize=# Specify blocksize in samples
-m, --mid-side etc
было бы не лишним почитать документацию
http://flac.sourceforge.net/ru/documentation.html