The New Amsterdams comenzó como un proyecto del cantante de The Get Up Kids, Matt Pryor. En el 2000, sacó su álbum debut Never You Mind, el cual tiene una fuerte prescencia acústica.
Dos años después, Pryor publica Para Toda Vida, también acústico. Para 2003, Worse For The Wear incluye por vez primera una banda completa, que para el tiempo incluía a Ryan Rope y su hermano, ambos de Get Up Kids.
En 2005, cuando Get Up Kids anunciaba su separación, salió a luz Killed Or Cured. La productora no quería lanzar el álbum hasta que terminase la gira de despedida de Get Up Kids, por lo que algunas canciones del álbum de New Amsterdams estaban para descargar gratuitamente en su sitio web.