Tổ sư vốn người họ Triệu, quê ở Trường Khê, Phúc Châu. Ngài xuất gia năm 15 tuổi, theo thầy là Pháp Thường ở chùa Kiến Thiện. Năm 20 tuổi thọ giới Cụ túc tại chùa Long Hưng thuộc Hàng Châu, pháp hiệu là Linh Hựu.

Từ khi xuất gia, ngài chuyên cần học tập kinh điển của cả Đại thừa và Tiểu thừa. Năm 23 tuổi đến Giang Tây tham bái tổ Bách Trượng. Tổ Bách Trượng vừa gặp ngài đã biết ngay là bậc pháp khí, liền thu nhận làm đệ tử, cho được sớm tối kề cận để tham học.

Một hôm, ngài đang đứng hầu tổ Bách Trượng. Tổ hỏi: “Ai đó?” Ngài đáp: “Con là Linh Hựu.” Tổ nói: “Ông khơi trong bếp xem có lửa hay không?” Ngài đến khơi trong bếp thấy đã tắt hết, bèn nói là không có lửa. Tổ sư thân tới bên bếp lửa, bới sâu trong tro lấy ra được chút than còn đỏ, đưa lên mà hỏi rằng: “Ông nói không có lửa, vậy đây là cái gì?” Ngài nhân lúc đó bừng tỉnh ngộ, lễ tạ thầy trình chỗ sở kiến.

Tổ Bách Trượng nói: “Đây chỉ là chỗ rẽ tạm thời trên đường đi. Trong kinh nói: Muốn hiểu nghĩa Phật tánh phải xem nơi thời tiết nhân duyên. Một khi thời tiết đến, như mê chợt ngộ, như quên chợt nhớ, mới biết ra đó là vật của mình, không phải do bên ngoài mà có được. Vì thế, Tổ sư nói rằng: Ngộ rồi cũng như chưa ngộ, không có tâm cũng không có pháp, chính là không các tâm hư vọng, tâm phàm, tâm thánh… Từ xưa nay tâm pháp vốn tự đầy đủ, nay ông đã được rồi, phải khéo tự giữ gìn.”

Sau, ngài được tổ Bách Trượng cho giữ chức Điển tòa.

Bấy giờ có Tư Mã Đầu Đà là một vị thiền sư du phương. Một hôm từ Hồ Nam đến chỗ tổ Bách Trượng, nói rằng: “Tôi đến xứ Hồ Nam tìm được một ngọn núi tên là Đại Quy, là nơi có thể dung chứa đến 1.500 người, chính là chỗ dành cho bậc thiện tri thức cư ngụ.”

Tổ Bách Trượng hỏi: “Lão tăng này đến đó ở được chăng?”

Tư Mã Đầu Đà đáp: “Không phải chỗ Hòa thượng ở được.”

Lại hỏi: “Vì sao vậy?”

Tư Mã Đầu Đà nói: “Hòa thượng như xương, núi kia như thịt, nếu có đến ở thì đồ chúng không tới số ngàn.”

Tổ Bách Trượng lại hỏi: “Như trong đồ chúng của ta, có ai được chăng?”

Tư Mã Đầu Đà đáp: “Phải đợi xem qua mới biết.”

Tổ Bách Trượng liền bảo thị giả gọi vị Thủ tòa là thiền sư Hoa Lâm đến, hỏi Tư Mã Đầu Đà rằng: “Người này được chăng?”

Tư Mã Đầu Đà quan sát, bảo Hoa Lâm đằng hắng một tiếng và bước đi mấy bước, rồi nói: “Không thể được.”

Tổ Bách Trượng lại cho gọi ngài tổ Quy Sơn đến. Tư Mã Đầu Đà vừa nhìn thấy liền nói: “Vị này chính là chủ nhân của Quy Sơn rồi.”

Đêm ấy, tổ Bách Trượng gọi ngài vào trong phòng, dặn dò rằng: “Ta tùy duyên giảng pháp nơi đây, còn chỗ thắng cảnh Quy Sơn là nơi ông nên đến ở để tiếp nối tông môn của ta mà rộng độ cho những người hậu học.”

Thiền sư Hoa Lâm nghe biết chuyện, thưa hỏi: “Con nay là người đứng đầu trong chúng, sao vị Điển tòa lại được làm trụ trì?”

Tổ Bách Trượng nói: “Nếu ai có thể đối trước chúng nói ra một câu xuất cách sẽ cho làm trụ trì.”

Rồi chỉ cái tịnh bình mà hỏi: “Không được gọi là tịnh bình, ông gọi là gì?”

Hoa Lâm nói: “Không thể gọi là cây lủng.” Tổ Bách Trượng lại hỏi ngài. Ngài đá cái tịnh bình ngã nhào rồi đi ra.

Tổ Bách Trượng cười nói: “Ông đệ nhất tòa thua mất hòn núi này rồi.”

Liền sai ngài đến Quy Sơn. Quy Sơn là ngọn núi cao chót vót, không có bóng người, vượn khỉ tụ tập thành bầy. Ngài nhặt những trái sung, trái dẻ mà làm thức ăn. Được chừng năm bảy năm qua, chẳng có ai lui tới. Ngài tự nghĩ: “Ta đến đây làm trụ trì là muốn làm lợi ích cho người. Nay đường xá đến đây chẳng được, làm sao có người tụ họp?” Liền rời khỏi am thất mà tìm xuống núi. Ra đến cửa núi, thấy những rắn độc, hổ báo, lang sói chặn đầy ngang đường.

Ngài nói: “Này các giống thú, đừng chặn đường đi của ta. Như ta có duyên với núi này, các ngươi hãy nên đi nơi khác. Như ta không có duyên với núi này, các ngươi không cần đi, ta theo đường mà đến cho các ngươi ăn thịt vậy.” Nói xong, tất cả các giống thú dữ ấy liền tứ tản đi mất hết. Ngài lại quay về am thất. Chưa được một năm sau, Thượng tọa Lại An cùng với một số tăng chúng từ chỗ ngài Bách Trượng tìm đến mà trợ giúp với ngài. Lại An nói: “Tôi xin vì Hòa thượng mà làm chức Điển tòa, đợi tăng chúng được 500 vị mới thôi.”

Từ đó về sau dân cư dưới núi mới dần dần biết đến, lập nên cảnh chùa. Liên soái Lý Cảnh Nhượng có tâu lên vua xin ban hiệu chùa là Đồng Khánh. Tướng quốc Bùi Hưu cũng thường đến thưa hỏi những chỗ sâu xa huyền diệu. Người trong thiên hạ đến học thiền ngày càng đông đúc. Trong những vị đắc pháp có thiền sư Ngưỡng Sơn Huệ Tịch là bậc cao trổi, nên người đời tôn xưng tông này là tông Quy Ngưỡng.

Ngài rộng truyền giáo pháp được hơn 40 năm.

Vào niên hiệu Đại Trung thứ 7 đời nhà Đường, tức là năm 853 theo Tây lịch, ngày mồng 9 tháng Giêng, ngài tắm gội sạch sẽ rồi ngồi an nhiên vui vẻ mà thị tịch, thọ 83 tuổi, trải 64 tuổi Hạ. Vua ban thụy hiệu là Đại Viên Thiền sư, dựng tháp thờ tại Quy Sơn, đặt tên tháp là Thanh Tịnh. Vì thế, pháp hiệu của ngài là Linh Hựu nhưng người đời thường tôn kính gọi là Quy Sơn Đại Viên Thiền sư.

Bài văn cảnh sách do ngài làm ra được truyền tụng khắp chốn thiền môn, trải qua nhiều đời sau vẫn còn được trân trọng.