La solución es usar Frames. Los frames se hacen con HTML y también puedes hacerlos con Dreamweaver, así que no debes tenerles miedo, porque te será muy sencillo aprender a manejarlos.
En DesarrolloWeb.com tenemos varios artículos que explican con detalle la creación de Frames, en el manual de HTML. http://www.desarrolloweb.com/manuales/21/
De todos modos, por comentarte, es bueno que sepas que el hecho de que aparezca la URL de cada uno de los archivos de tu página es algo normal y es bueno para el usuario y para los buscadores, a la hora de indexar tu página. Así que te animaría a replantearte si es adecuada la estrategia que comentas que quieres implementar.