Bueno, ahora lo que tenés que hacer es subir poco a poco las frecuencias y ver como se comporta la tarjeta. Lo ideal es subir primero el GPU y dejar las memos quietas, digamos en incrementos de 5 MHz. Luego de subir tenés que correr un par de test (tipo 3DMark, Aquamark, etc) para medir la performance y para ver que sea estable. Si todo va bien seguís subiendo. Cuando la tarjeta se vuelva inestable (o sea, cuando empieces a ver artifacts y cosas extrañas en la pantalla) bajás al escalón anterior y listo, ya tenés el máximo para el GPU.
Ahora tenés que hacer lo mismo con las memos, ahí podrías subir de a 10 MHz. (sueles subir mas que la GPU) y, de vuelta un par de Benchs, hasta encontrar el máximo.
Una vez que tenés los valores máximos de OC para cada parámetetro, los tenés que convinar, pero es posible que para mantener la estabilidad con ambas cosas oceadas (memos y GPU), debas bajar un poco la GPU. De nuevo y pruebas y benchs para ver que todo ande bien.
Una vez que tenés el máximo OC estable, ya está, podés hacer lo que quieras, usar esos valores o valores menores (si no querés darle tanta rosca).
Es un proceso largo y tedioso, pero es la única manera de hacerlo bien. También podés variar ambos valores a la vez, pero cuando tengas inestabilidad no vas a saber cual es el culpable.
Respecto de hasta donde puede llegar tu placa, bueno, quién sabe? Es casi imposible saberlo de antemano. Podés buscar en Internet resultados para placas similares a la tuya, pero en el OC lo único que vale son las pruebas en el equipo propio. Dos placas iguales pueden tener comportamientos diferentes a la hora del OC (y, de hecho, suelen tenerlo). Yo, con una 5200, partiendo de 250/333 llego a 295/445.
Sería interesante saber las especificaciones de los chips de memoria de tu placa (si no están cubiertos por disipadores).