El nombre de Paramore fue tomado de "Par l'amour" lo que en frances significa "para el amor". A los 13 años de edad, Hayley Williams se mudó de Meridian, Mississippi, a Franklin, Tennesse, donde conoció en el instituto a los hermanos Farro con los que inició la banda. El nombre de la banda proviene del apellido de la madre de uno de los primeros miembros de la banda, cuando se dieron cuenta que sonaba igual que la palabra paramour en frances y significaba amante secreto decidieron adoptarla como nombre pero con la ortografía de paramore. El dueño de la discográfica Fueled by Ramen los contrató tras verlos actuar. Ese año Jeremy Davis salió de la banda por razones personales, dejando a Paramore con 3 miembros, y el nombre del disco All we Know is Falling fue inspirado por Jeremy. En el sillón rojo de la portada del disco se ve una sombra que se va, representando el abandono de Jeremy y dejando un espacio. Después la banda le pidió que regresara, Jeremy aceptó, volviendo a la banda en julio de 2005. La primera canción escrita por todos los miembros se titula "Conspiracy" y la pusieron en su primer disco All we know is falling (2005) del cual lanzaron como primer sencillo la canción “Pressure”, pero la canción no tuvo el éxito esperado. El mayor éxito de este álbum fue la canción “Emergency”.
