Primero que todo, no todo se soluciona con plugins.
Hace tiempo me puse a experimentar con este tipo de cosas:
http://forobeta.com/charla-del-webmaster/208654-llegue-a-mejor-optimizacion-web.html (ya no tengo la web optimizada de ese modo y me borraron la captura de gtmetrix)
Si mal no recuerdo llegué a 100% y 98% en gtmetrix en aquella ocasión y a 95/100 en pigdom.
Para llegar a esos resultados solo hay que leer la descripción del error y procurar aplicar las soluciones que se me indicaba o las que encontraba buscando en google.
En el proceso también creé este programita para optimizar imágenes:
[GPSIO] Google Page Speed Image Optimizer ? Optimizar imágenes para Google « OutControl
Algunos plugins de seguro te van a hacer parte del trabajo, pero ninguno te hará todo, aparte que aunque llegues a 100 de todos modos puede que tu web quede muy lenta o gaste demasiado recursos del servidor (sobre todo si haces todo a base de plugins).
Siempre es bueno usar algún plugin de caché, pero cada cual tiene sus problemas (actualmente yo uso flexicache y wprocket en mis sitios, también he usado wp super cache).
kj