Tras el colapso de la alineación responsable de The Life & Times of a Ballad Monger, Tyla inició un proyecto titulado Hot Knives con el amigo de Spike desde hace mucho tiempo, de The Quireboys. El álbum contó con dos cantantes de voces, incluyendo las voces y armonías compartidos, algo de una rareza en la discografía de Tyla.

El álbum Flagrantly Yours recibió críticas mixtas, pero sigue siendo un favorito de los fans. Fue re-titulado y re-lanzado en 2005, menos los nombres de los cuchillos calientes, así como la incorporación de un segundo disco que ofrece una acústica re-grabación del álbum.