Από το 1937 στράφηκε στο ρεμπέτικο και το λαϊκό τραγούδι.
Το 1947 εκτοπίστηκε στη Μακρόνησο, όπου γνώρισε το Μίκη Θεοδωράκη.
Όταν απελευθερώθηκε, δημιούργησε δικό του συγκρότημα και μπήκε στη δισκογραφία, ως συνθέτης και[GLi] τραγουδιστής, το 1949, με το δίσκο «Καντήλι τρεμοσβήνει».
Στη συνέχεια συνεργάστηκε με πολλούς σημαντικούς Έλληνες συνθέτες όπως ο Μ. Θεοδωράκης
(«Της δικαιοσύνης», «Ένα το χελιδόνι», «Στο περιγιάλι το κρυφό», «Γωνιά γωνιά», «Βράχο βράχο», «Άνθη της πέτρας», «Απρίλη μου», «Βραδιάζει», «Βρέχει στη φτωχογειτονιά», «Δόξα τω Θεώ», «Δραπετσώνα», «Η νήσος των Αζορών», «Κράτησα τη ζωή μου», «Μαργαρίτα Μαργαρώ», «Χρυσοπράσινο φύλλο», «Της δικαιοσύνης ήλιε νοητέ», «Της αγάπης αίματα» κ.ά.), ο Μ. Χατζηδάκις («Πάει ο καιρός», «Στο Λαύριο γίνεται χορός», «Είμαι αϊτός χωρίς φτερά», «Γαρίφαλο στ’ αφτί», «Φιλντισένιο καραβάκι» κ.ά.),
ο Στ. Ξαρχάκος («Άπονη ζωή», «Άσπρη μέρα», «Μάτια βουρκωμένα», «Υπομονή», «Στα χέρια σου μεγάλωσαν» κ.ά.),
ο Δ. Μούτσης («Αύριο πάλι», «Μ’ ένα παράπονο» κ.ά.),
ο Β. Τσιτσάνης («Δώδεκα η ώρα θα ’ρθω βρε Μαριώ», «Στα Τρίκαλα στα δυο στενά» κ.ά.),
ο Μ. Βαμβακάρης («Αντιλαλούνε οι φυλακές», «Για σένα μαυρομάτα μου» κ.ά.) και πολλοί άλλοι.
Μεγάλη επιτυχία γνώρισαν και δικές του[GLi]συνθέσεις, όπως: «Το μεσημέρι καίει το μέτωπό μου», «Μια γυναίκα φεύγει», «Αμφιβολίες», «Εγνατίας 406», «Δώδεκα και πέντε», «Ένα αμάξι με δυο άλογα», «Τρελοκόριτσο», «Του Βοτανικού ο μάγκας», «Ο μπατίρης ο Λουκάς» κ.ά.
Η μοναδική φωνή του τον έκανε έναν από τους πιο δημοφιλείς και αγαπητούς ερμηνευτές στο χώρο του ελληνικού λαϊκού τραγουδιού και για το λόγο αυτόν επονομάστηκε από τους θαυμαστές του «σερ».
