Khái niệm hiệu quả được được các nhà ngôn ngữ học nêu ra là: “Kết quả của việc làm mang lại hoặc là kết quả đạt được trong việc thực hiện một nhiệm vụ nhất định”. Như vậy nếu trên lĩnh vực kinh tế thì kết quả đó được tính bằng sự so sánh giữa các chi phí đầu vào với các giá trị của đầu ra, giá trị đầu ra càng lớn, chi phí đầu vào càng nhỏ thì hiệu quả càng cao. Còn trong lĩnh vực xã hội nói chung, hoạt động giám sát HĐND nói riêng chắc rất khó để xác định chi phí đầu vào và giá trị đầu ra cụ thể, vì hoạt động giám sát mang nặng định tính. Nếu hiểu theo khái niệm hiệu quả là kết quả của hoạt động giám sát, thì kết quả đó là quá trình triển khai giám sát kể từ khi quyết định giám sát dược ban hành đến khi kết thúc bằng báo cáo kết quả giám sát. Chính là báo cáo kết quả giám sát là thể hiện khá cơ bản và đầy đủ của cuộc giám sát. Cụ thể là những nhận định đánh giá về kết quả đạt được, về những tồn tại, yếu kém, nguyên nhân của tình hình trên, trách nhiệm của các tổ chức cá nhân về nội dung được giám sát và những kiến nghị được đưa ra. Còn hiệu lực của giám sát chính là việc tổ chức thực hiện nghiêm túc, đầy đủ các kiến nghị của báo cáo kết quả  giám sát. Như vậy chúng ta thấy hiệu lực càng cao thì hiệu quả càng tốt và ngược lại hiệu lực không cao thì hiệu quả thấp. Để nâng cao hiệu lực, hiểu quả của giám sát phải có những điều kiện nhất định.

Trước hết là các quy định của pháp luật về giám sát phải được hoàn chỉnh. Đây là yếu tố đầu tiên tác động rất lớn đến hiệu quả giám sát của Hội đồng nhân dân, bởi các quy định của pháp luật về giám sát là cơ sở pháp lý cho HĐND thực hiện quyền năng của mình. Năm 2003 trở về trước các quy định về giám sát chưa cụ thể. Từ 2003 lại nay, các quy định về giám sát  được đưa vào luật tổ chức Hội đồng nhân dân và Ủy ban nhân dân, và Quy chế hoạt động Hội đồng nhân dân được ban hành kèm theo Nghị quyết 753/2005/NQ-UBTVQH11. Đây là bước tiến lớn của Pháp luật về giám sát của HĐND, đã tạo điều kiện cho hoạt động giám sát hiệu lực, hiệu quả hơn. Tuy vậy các quy định nhìn chung vẫn chưa chưa đầy đủ, chưa đồng bộ, chưa quy định cụ thể về thủ tục, trách nhiệm, quyền hạn.... của các đối tượng liên quan đến hoạt động giám sát nên trong quá trình thực thi còn gặp nhiều khó khăn, nhất là các chế tài cụ thể đảm bảo hiệu lực trong việc thực hiện các kiến nghị của báo cáo kết quả giám sát. Hiện nay Quốc hội đã có luật giám sát nhưng Luật giám sát của hội đồng nhân dân chưa được ban hành. Thiết nghĩ Quốc hội nên sớm ban hành Luật giám sát của Hội đồng nhân dân để hiệu lực, hiệu quả của giám sát ngày càng cao.

Hiệu quả giám sát còn phụ thuộc vào tổ chức bộ máy, nhân sự của Hội đồng nhân dân và cơ quan tham mưu phục vụ. Về tổ chức bộ máy, hiện nay theo qui định của Luật tổ chức Hội đồng nhân dân và Ủy ban nhân dân và các văn bản hưởng dẫn của Chính phủ thì đại biểu HĐND chủ yếu là hoạt động kiêm nhiệm, số đại biểu chuyên trách ít. Ở cấp tỉnh Thường trực 2 người các ban mỗi ban 1 người, (trừ các tỉnh thành phố thực hiện thí điểm thôi không tổ chức HĐND huyện, quận, phường mỗi ban 2 người). Ở cấp huyện xã lại càng ít hơn. Phần lớn đại biểu HĐND hoạt động theo chế độ kiêm nhiệm nên ảnh hưởng rất lớn đến hiệu quả hoạt động của Hội đồng nhân dân. Tuy có qui định đại biểu kiêm nhiệm phải giành 1/3 thời gian để thực hiện nhiệm vụ đại biểu, nhưng thời gian như vậy là không đủ để thực thi hết nhiệm vụ đại biểu. Để thực hiện tốt chức năng của mình, đặc biệt là chức năng giám sát, đòi hỏi Hội đồng nhân dân phải có một bộ máy làm việc đủ mạnh. Do vậy cần sớm sữa đổi Luật tổ chức Hội đồng nhân dân và UBND, nên tách ra thành 2 luật riêng biệt là Luật tổ chức HĐND và Luật tổ chức UBND. Tổ chức bộ máy của HĐND hợp lý hơn, cần nghiên cứu sữa đổi, bổ sung để Thường trực và các ban là cơ quan của HĐND với nhiệm vụ và quyền hạn được mở rộng, để HĐND thực sự là cơ quan quyền lực nhà nước ở địa phương. Về số đại biểu chuyên trách phải tăng lên ít nhất là 20%, mỗi ban tối thiểu có 2 đại biểu chuyên trách đối với cấp tỉnh và ít nhất là 1 người đối với cấp huyện, xã.

Đi đôi với việc sửa đổi Luật tổ chức HĐND, càn sửa đổi Nghị quyết 545/2007/NQ-UBTVQH12 để hoàn chỉnh và thống nhất về bộ máy tham mưu phục. Cần quy định cụ thể chức năng nhiệm vụ, vai trò vị trí và địa vị pháp lý của cơ quan văn phòng Đoàn đại biểu Quốc hội và HĐND, tăng thêm các phòng chuyên môn và biên chế, tăng cường công tác đào tạo bồi dưỡng để đội ngũ làm công tác tham mưu phải thực sự chuyên nghiệp, có như vậy công tác giám sát của HĐND sẽ thực hiện tốt đồng thời chính bộ máy văn phòng là yếu tố góp phần tạo sự bền vững của hiệu quả giám sát qua các nhiệm kỳ HĐND khác nhau.

Về chủ quan của HĐND phải tập trung thực hiện tốt các nội dung sau: Theo quy định hằng năm HĐND sẽ quyết định chương trình giám sát tài kỳ họp cuối năm, để lựa chọn những nội dung đưa vào chương trình giám sát giữ vai trò rất quan trọng đối với hiệu quả của giám sát. tại điều 59 luật tổ chức Hội đồng nhân dân và Ủy ban nhân dân và điều 51 qui chế hoạt động của hội đồng nhân dân thì “Chậm nhất hai mươi ngày trước ngày khai mạc kỳ họp HĐND, Thường trực HĐND tập hợp đề nghị của các ban HĐND, đại biểu HĐND, Ban thường trực UBMT tổ quốc Việt nam cùng cấp và kiến nghị của cử tri ở địa phương về nội dung giám sát của Hội đồng nhân dân. Thường trực Hội đồng nhân dân tự mình hoặc trên cơ sở đề nghị của các cơ quan, tổ chức cá nhân nêu trên lập dự kiến nội dung chương trình giám sát của HĐND năm sau, trình HĐND xem xét quyết định tại kỳ họp cuối năm”.

Vấn đề đặt ra là thường trực lựa chọn những nội dung đưa vào chương trình giám sát trình HĐND. Đây là công việc có những khó khăn nhất định, nhất là phải xem xét để tham mưu trong một năm tiến hành giám sát bao nhiêu cuộc là hợp lý, đó là những vấn đề gì? để Thường trực thực hiện tốt nội dung này cần dựa trên một số cơ sở sau: Các văn bản quy phạm pháp luật và các chính sách của cấp trên đang được tổ chức thực hiện trên địa bàn; Chương trình hoạt động của UBTVQH và Hội đồng dân tộc, các Uỷ ban của QH; Các Nghị quyết của HĐND tỉnh đang còn hiệu lực; Tình hình thực tiễn những thông tin được thu thập từ các nguồn: ý kiến của cử tri, đơn thư của công dân, dư luận xã hội, phương tiên thông tin đại chúng v.v. Từ đó để lựa chọn, xác định những nội dung trọng tâm đưa vào chương trình giám sát hàng năm. Song trong rất nhiều nội dung được gửi đến và những thông tin thu nhân được từ nhiều nguồn khác nhau, trong khi các điều kiện về nguồn lực có hạn, việc lựa chọn nội dung nào, nội dung nào chưa lựa chọn là hết sức quan trọng, làm sao để giám sát đúng trọng tâm, trọng điểm và mang lại hiệu quả cao nhất.

Trước hết cần ưu tiên những nội dung có tác động rộng, được nhiều cử tri quan tâm, có ảnh hưởng trên địa bàn toàn địa phương, quá trinh đã triển khai thực hiên tương đối dài, nhưng trong quá trình thực hiện bộc lộ nhiều tồn tại cần được xem xét để tìm ra nguyên nhân và có giải pháp để khắc phục; Vấn đề cử tri quan tâm có thể chính sách này tác động trực tiếp đến quyền và lợi ích trực tiếp của họ, hoặc là nằm trong sự kỳ vọng của cử tri khi chính sách được thực hiện tốt, cho dù là cử tri quan tâm ở góc độ nào thì dây vẫn là ưu tiên số một để đưa vào giám sát, suy cho cùng giám sát là để đảm bảo cho quyền và lợi ích chính đáng của cử tri.

Thứ hai cần ưu tiên những chính sách thực hiện trong ngắn hạn, thường những chính sách tuy mới tổ chức thực hiện nhưng thời hạn thực hiện ngắn, tuy chưa có nhiều thông tin về những kết quả cũng như những tồn tại, nhưng nếu không giám sát kịp thời, khi chính sách đã thực hiện xong mới giám sát, nếu phát hiện ra những tồn tại, thiếu sót việc đưa ra những kiến nghị chỉ mang tính chất rút kinh nghiệm thì hiệu quả giám sát cũng bị hạn chế.

Thứ ba cần có sự cân đối trong các lĩnh vực khi xây dựng chương trình giám sát của cả năm.

Một nội dung nữa có tính quyết định tới hiệu quả giám sát là năng lực, bản lĩnh và trách nhiệm thực hiện chức năng giám sát của Đại biểu HĐND. Đại biểu HĐND là nguồn gốc của mọi vấn đề liên quan đến chất lượng và hiệu quả giám sát của cơ quan quyền lực Nhà nước ở địa phương. Do vậy, bên cạnh việc đảm bảo về mặt số lượng, trình độ am hiểu pháp luật, người đại biểu cần phải có năng lực bản lĩnh và trách nhiệm khi tiến hành các hoạt động giám sát. Nghĩa là các đại biểu dân cử phải có đủ tâm và đủ tài. Bởi người làm công tác giám sát, ngoài xem xét ghi nhận những kết quả đạt được còn phải phát hiện những tồn tại thiếu sót, đề ra các kiến nghị để khắc phục, hoặc sữa đổi, bổ sung các quy định  pháp luật. Như vây, người đại biểu nhân dân phải có quan điểm, trình độ, bản lĩnh vững vàng, có cách nhìn sáng suốt và phương pháp làm việc khoa học, hợp lý. Phải có bản lĩnh dám nói thẳng sự thật, không nể nang né tránh, phải vì lợi ích của dân, của nhà nước.

Ngoài những điều kiện nêu trên dể hoạt động giám sát thu được hiệu quả các điều kiện như cơ sở vật chất, phương tiện, thiết bị, kinh phí phục vụ hoạt động giám sát của HĐND phải được đảm bảo. Có như vậy hiệu lực, hiệu quả hoạt động giám sát của HĐND mới được nâng lên góp phần để HĐND các cấp hoạt động thực chất hơn xứng đáng là cơ quan quyền lực nhà nước ở địa phương.