Đỗ tú tài tham gia phong trào Duy Tân cùng với Đặng Thái Tan, năm 1905 Phan Bội Châu sang Nhật ông vẫn tiếp tục hoạt động, đem một số đồng chí ra Yên Thế tham gia chiến đấu dưới cờ Hoàng Hoa Thám. Đề Thám cho ông đóng quân ở một đồn thường gọi là đồn Tú Nghệ, 1909 ông về hoạt động tại Nghệ An, bị lộ, ông bị bắt và bị đầy ra Côn Đảo và mất tại đó.
Dưới đây là một giai thoại kể về thời trẻ của ông.
Một lần Phạm Văn Ngôn cùng các bạn lang nho đi chơi, gặp một cô gái rất xinh đẹp. Các thầy buông lời trêu ghẹo, tán tụng nọ kia nhưng cô chỉ cười không đáp. Một thầy đồ trẻ buột miệng ra một câu tức cảnh, lấy chữ trong Kiều:
Tài sắc đó đà nghiêng cả nước.
Cô gái nghe xong, bỗng dừng lại, mạnh dạn nói với các thầy:
- Em đố các thầy vẫn dùng chữ Kiều mà đối lại một câu khác xem.
Các thầy lúng túng nhìn nhau. Phạm Văn Ngôn liền đọc:
Anh hùng đây cũng lúc không nhà !
Đọc rồi anh còn gặng hỏi:
- Cô thấy thế nào?
Cô gái phải chịu là hay. Nghe đâu sau đó, cô hỏi thăm biết anh khóa mẫn tiệp có hiệu là Tùng Nham, quê ở Yên Nội, Đức Thọ, Hà Tĩnh, cũng gần chỗ với quê cô. Hai người làm quen và cuộc tình duyên thắm thiết cũng bắt đầu từ đó.
Kho tàng Giai thoại VN