世行项目监测评价实践对国家科技重大专项监测评价的启示,本文主要内容关键词为:评价论文,世行论文,专项论文,启示论文,项目论文,此文献不代表本站观点,内容供学术参考,文章仅供参考阅读下载。
1 引言
在重视以结果为导向管理的国际大背景下,随着我国公共财政框架的确立,纳税人对政府资助的重大科技活动日益关注。《国家中长期科学和技术发展规划纲要(2006-2020年)》所确定的水体污染控制与治理和重大新药创制等16个重大科技专项实施周期长、时效性强、综合性强、难度大,是我国未来十五年科技工作的重中之重,这些专项的组织管理效率、目标完成情况和项目实施的绩效也将成为社会各界关注的焦点。根据科技部等部门联合发布的“关于印发《国家科技重大专项管理暂行规定》的通知”(国科发计[2008]453号文)的要求,有关部门要开展重大专项的监测评估工作,并将重大专项的监测评价体系建设作为有关政府部门加强和完善重大专项过程管理、强化宏观管理的重要抓手。
国际上有关项目管理和监测评价的理论、方法比较成熟,世界银行、亚洲开发银行等国际金融组织开展了大量的项目监测评价实践,积累了20多年项目监测与评价的经验。借鉴国际上先进的项目管理经验,开展国家科技重大专项的监测评价工作,进一步优化科技资源配置和提高国家科技重大专项的管理绩效,也成为重大专项管理的重要命题。因此,了解和分析世行贷款项目监测评价实践,将有助于构建我国国家科技重大专项的监测与评价体系,以保证国家科技重大专项的顺利实施。
2 世行项目周期及对监测评价的要求
世行贷款项目从项目提出直至项目完成,需要经历包括项目选定、准备、评估、谈判、实施与监督、项目评价等六个阶段构成的项目周期[1,2]。分析世行有关项目管理文件发现,世行项目周期中的六个阶段都有监测评价方面的要求[7,8](见图1)。
图1 世行项目周期与监测评价的关系
Figure 1 The relationship between the project cycle and M&E of World Bank financed project
①在项目选定和项目准备阶段,借款方要开展相关基础数据的收集、整理和分析工作,其中包括与目标相关的基线数据的收集;②在项目评估阶段,双方共同协商,确定项目的具体目标、考核指标、相关监测指标和基线数据;③在项目谈判阶段,明确项目监测评价方面的权利和责任;④在实施与监督阶段,中方项目办定期收集进度监测数据,定期组织开展专题监测,提交年度监测评价报告。世行派出监督检查团进行检查监督,审查项目进度报告和年度监测评价报告,在项目执行中期,组织专家进行项目中期评价;⑤总体评价阶段,中方项目办和世行经理进行自评价,世行独立评估小组(IEG)审查完工报告。另外,独立评价小组可根据其判断或实际需要对某些单个项目或几个类似项目,通过有针对性的抽查进行绩效评估,形成绩效评估报告。一般来讲,世行每年会挑选1/4的项目进行绩效评价。在整个项目管理周期中,世行质量保证小组(QAG)选择部分项目,对立项准备和项目执行过程中的活动进行质量分析评价,每年发布业务绩效年度报告。
在世行项目的法律文本中规定,借款方负责项目的实施,世行的责任是对项目实施的整个过程实施不间断的监督。项目监测评价工作为世行在项目实施阶段的权利和责任,也是项目管理的主要手段之一[8]。通过监测评估及时发现项目实施中出现的问题,帮助处理和解决这些问题,以保证借款方能认真地实施项目,实现项目预期的任务目标,确保世行的贷款资金用于协定所规定的范围及贷款所确定的项目目标。
3 世行项目监测评价体系
世行在项目监测评价方面,对所有项目建立了一套共性的监测评价框架、程序、方法和运行机制,并根据不同类型的项目以及不同实施阶段的监测评估,设计了针对性的监测评价内容框架。
3.1 监测评价的主要内容和指标框架
根据有关管理文件的要求,世行对项目的进度与质量、投资与效益、环境变化、经济财务和社会经济影响等方面进行全方位的监测[6]。通过监测评估总结、分析和评价项目执行过程中的成功经验和存在的问题,并及时加以调整和完善,保证项目的顺利实施。其监测评价包括项目执行期间的定期监测评价、中期评价、项目完成时的自评价和完工后的独立评价(见图2)。
3.1.1 执行期间监测评价内容
在项目执行期间,有关人员要对实施进度、资金使用、任务目标完成程度、采购和法律文件条款遵守情况等方面进行监测[6]。具体工作包括:(a)比照项目立项评估文件(PAD)和项目执行计划提出任务目标进度和业绩监测指标等,监测项目进度;(b)监测项目的采购和放款;(c)审议借款方提交的经审计经费使用报告以及其它项目进度报告;(d)检查有关环境及社会保障条款的执行情况;(e)评估威胁项目顺利执行和运作的风险;(f)考察项目与借款方及世行工作重点的关联是否中断。
图2 世行项目监测评价的类型及其关系
Figure 2 The relationship among the different M&E of World Bank financed project
其中,进度监测主要依据评估文件所确定的内容,按计划对实施进度进行监测,包括项目投资进度监测、工程进度监测,也包括一些能够明示的直接效果。资金使用监测是监测国内各级配套资金是否按时筹集、到位,各级财政的资金拨付或停留时间,资金支付与措施完成情况,还贷落实情况等。项目目标监测则是根据评估文件提出的任务目标,对项目实施的效果、效益和影响等进行监测。
3.1.2 项目中期评价内容
在项目实施中期,世行组织专家对项目实施情况、项目执行中的问题进行客观分析,并根据实际需要对项目建设计划、内容、措施等进行适当调整。其中,重点对项目实施进度和目标完成情况进行评价。
3.1.3 项目完成后自评价内容
项目完工以后,中方项目办和世行项目经理要对项目完成情况进行自评价,形成项目完工报告。报告内容包括:项目数据,主要业绩等级,对发展目标和设计及立项质量评估的评价,目标的实现和产出,影响实施和结果的主要因素,可持续性,银行和借款方业绩,经验教训总结和合作伙伴意见。
3.1.4 项目完成后独立评价内容
世行独立评价小组的主要评价内容包括:(a)项目实施是否产生预期的结果;(b)是否将监测评价的过程和结果纳入到相关的建议中;(c)项目自我评价执行情况以及项目风险管理与控制情况;(d)评估结果反馈执行情况,如所采取的行动和措施;(e)借款方在监测评价方面的能力建设情况等[6]。
3.1.5 绩效评价指标体系
项目绩效评价指标框架包括相关性、目标实现程度(效果)、效率、可持续性、机构发展、影响、世行绩效、借款方绩效和监测评价系统等方面[6]。
表1 世行项目监测评价指标框架
Table 1 The M&E index frame of World Bank financed project
注:风险和假设与项目监测评价的各个方面存在一定的垂直逻辑关系,即:投入+假设与风险=活动;活动+假设与风险=产出;产出+假设与风险=效果;效果+假设与风险=影响。
总之,世行项目的监测评价采用了不同类型的监测评价方式,监测评价内容上也各有侧重。分析发现,对于不同的项目基本上都采用上述共性的评价框架。监测评价指标按照投入、活动、产出、效果和影响的逻辑框架(见表1)进行设计,商量确定了项目的产出和结果的指标、关键绩效指标、基线数据、信息来源和假设条件等,并为进度设定不同阶段的里程碑(关键节点)和最后完成期限。构建了由监测指标及其基线数据,数据来源和监测时点构成的监测评价框架。监测指标具有可衡量、可采集、可跟踪、可对比的特点。当然,具体项目的监测评价框架则是根据项目的具体情况和项目活动的内容、规模和范围,依据上述框架,设计针对性的指标。例如,产出指标和项目的活动相对应,效果指标和任务目标相对应。
3.2 世行项目监测评价的主要方式
3.2.1 项目监测的主要方式
项目监测一般通过世行检查监督团的检查、进度监测和第三方专题监测等方式进行。检查监督团在全面监测的基础上,重点了解各项治理措施完成的数量、质量和效益,并对发现的问题及时公布,形成详细的备忘录。一般采取定点监测、抽样监测、重点监测和跟踪监测等多种手段,有的项目还采取随机抽查的方式,进行检查监督。例如,黄土高原水土保持世行项目按照图、表、地面措施“三对应”的要求,随机抽项目区和农户,进行严格、细致的实地检查和走访了解。
项目进度方面的监测,主要由各级项目办采取自下而上的方式执行。具体监测工作由项目管理机构人员来做,通过项目办收集每年各级项目的投资进度和工程进度形成各种报表,并与项目计划进行对比分析。
项目目标方面指标(特别是经济运行指标)的监测评价工作,主要是以第三方专题监测的形式进行,中方项目办委托有关机构,根据不同的分工各自独立开展监测评价和研究工作。如,塔里木农业灌溉排水与环境保护二期项目的监测评价中,项目办委托有关机构进行水源监测、环境监测、农户/受益户监测、移民监测等方面的专题监测和研究工作,各地州项目办委托院校每年进行水源监测(见表2)。
经费使用监测方面,专业审计机构受有关方面的委托,按照世行资金使用规定和国家外资管理办法,进行项目经费落实和使用情况审计,并提供审计报告[5]。项目工程进度和质量方面的监测,一般通过委托有关工程监理单位进行。也有的通过检查监督团,实施有关工程进度、质量方面的检查监督。
在监测数据收集、整理方面,一般通过管理信息系统收集统计执行进度情况。世行项目信息管理系统是监测评价工作的根本,在项目实施之初就建立信息管理系统。各级项目办利用管理信息系统,收集进度指标的数据,并输入到信息管理系统。目标类监测指标的数据收集通过第三方专题研究获得,并由项目办输入到信息管理系统。
3.2.2 项目评价的主要方式
世行项目监测评价采用自评价和独立评价相结合方式,并高度重视自评价的作用,将其作为监测与评价系统的重要环节,并采取一系列措施不断提高自评价的质量。
在项目中期评价和完工评价主要采用自评价的方式,由中方项目办和项目经理采用定量为主、定性与定量相结合的方法,对项目实施过程和效果进行自评价。项目经理组织专家组开展项目中期评估,在项目完成时,由中方项目办完成项目验收报告,世行世行项目经理负责项目完工自评价报告。
项目完工后的完工报告审查和绩效评估工作由世行独立评估组负责开展。世行独立评估组对全部自评价报告进行书面审核,并对自评价报告的质量进行评价,形成完工报告的审查报告。独立评估小组的独立评价,是在与借款国政府、受益者、共同出资人、其他利益相关者及业务经理、同行评议专家和专家咨询委员会进行商讨的基础上进行。
3.3 世行项目不同监测评价方式之间的关系
在整个项目实施过程中,不同层次的监测评价工作均按照评估文件的范围、内容、方法和数据来源等来实施,无论数据还是其他方面的要求,均以评估文件为基准,保证了不同阶段的监测评价工作在指标和具体实施等方面具有很高的一致性。
年度监测评价是以进度监测和第三方专题监测研究为基础,利用有关中方和世行检查督促团的检查结果,由子项目年度监测评价分报告和专题监测报告汇总形成年度监测报告(见图3)。世行对中方提交的监测评价报告进行审查。
图3 年度监测评价报告的形成
Figure 3 The forming of the annual report of M&E project
进度监测和目标监测为项目中期评估和项目完工后的自评价提供信息数据关键事实。项目完成时,中方项目办的项目验收报告,为世行项目经理编写项目完工报告提供数据资料的支撑。世行独立评价小组的审查报告是对世行项目经理提交的《项目完工报告》进行书面审查的结果。
4 世行项目监测评价工作的组织实施与结果利用
关于世行监测评估的职责划分,负责区域事务的副行长对地区项目组合的业绩负责,而世行国家局局长对该驻在国的项目组合业绩负责。国家局局长和部门主任监督各项目的监测评估工作流程,对项目组监测评价工作的总体质量负共同责任。具体项目的监测评价工作由包括地区任命的本地区工作人员和地区副行长办公室指派的一名律师兼财务官员组成的项目组负责。项目监测评价的具体工作由项目经理负责联络,项目经理代表世行与借款方共同协商,制订监测评价计划,组织开展项目监督检查,审核中方项目办提供的年度监测评价报告等。
4.1 监测评价计划
监测评价计划是项目监测评价工作的具体安排,监测评价计划制订是以评估文件为基础,有双方共同商量确定,并确保借款方将监测评价工作安排纳入项目执行计划。具体内容包括:(a)以业绩为导向的框架、绩效指标以及相关的成果目标;(b)监测和评价指标,监测和评价项目执行进展及是否实现目标;(c)要求借款方提供的各种报告及其纲要、内容和格式;(d)列出监督重点,尤其是攸关项目成败的风险点,并说明在项目执行过程中如何监测这些风险。
4.2 监测评价的制度保障
世行在监测评价方面,已逐步形成了一系列的监测与评价的制度文件,明确了监测评价在项目管理中的地位,规定了监测与评价的目的、内容和要求,并明确了相应的责任主体。项目实施前的项目评估文件作为项目谈判的技术内容之一,写入贷款协议中,作为实施监测与评价的依据和规则。在项目立项评估文件(PAD)中,对项目监测与评价的范围、内容、关键指标和具体做法提出明确的要求,定期进行进度监测和监督检查,并要求借款方配合。
为保障项目监测评价工作的顺利实施,不少项目的项目管理办法中有监测评价的章节,有的项目还制定了“项目监测评价办法”、编制了“项目监测评价技术规程”,制订了“项目监测评价实施方案”。如,黄土高原水土保持世行项目制定了《黄土高原水土保持世行贷款项目监测评价办法》,编制了《黄土高原水土保持世行贷款项目监测评价技术规程》等,编制了统一的监测指标、农户监测表[3,5]。
4.3 项目监测评价的组织实施
在项目实施中期,世行组织专家对项目进行中期评估。项目完工后,项目经理组织验收监督团,为项目完工进行检查,组织专家或委托有关机构形成项目完工报告。独立评估小组的独立评价工作,由评估总干事直接向董事会报告,独立评估小组的报告和研究结果无需获得管理层的批准。在董事会批准的授权范围内,世行根据独立评估小组政策规定公布独立评价报告。
项目实施过程中,中方各级项目办都设有监测评价机构或配备有专职监测评价人员,对项目实施进度、质量、效益等开展监测评价工作[4]。有的项目还成立专门的项目监测评价组织机构,聘请有关专家组成组,对项目进展情况进行全面地督促检查。例如,黄土高原水土保持世行项目设立了4级监测评价机构,中央项目办设立监测评价中心,省级项目办设立监测评价分中心,地区设立监测评价总站,县级设立监测评价分站[4,5]。监测评价机构负责项目实施进度、质量、效益的监测与评价,按项目技术规程进行监测或验收,为项目的财务报账提供依据。各级项目办根据项目监测评价整体规划,布设了较为完整的监测网点,成立了专门机构或固定专职监评人员。
4.4 项目监测评价的结果使用
在评价结果使用方面,主要体现在检查备忘录的使用和其他监测评价结果的使用等两种情况。检查监督团备忘录的使用上,有关单位将在限定时间内根据世行检查监督团的备忘录中提出的问题和改进意见进行落实。项目办通过检查、实地考察,并对考察结果要进行通报,有的还进行现场办公,对现场解决不了的问题,要求限时整改。检查团会在下一次检查时,以上年度备忘录为依据,对重点问题进行检查,对未按要求整改的,坚决予以调整[4]。这是世行项目管理的一大特色,也是区别于其他项目的最大不同点。
图4 检查监督团的备忘录及其结果利用
Figure 4 The result using of M&E report
关于其他监测评价结果的使用,有四个方面的内容:(1)世行根据项目执行质量确定检查频率和范围,项目年度监测评为“不满意”或检查中发现问题较多的项目,世行将加大检查的力度;(2)如果项目的中期评价被评为“不满意”,则该项目会被列为“问题项目”,需要与受援国政府对项目进行协商,对项目进行改进;(3)通过监测评价,发现项目不能实现开发目标或无法再继续下去时,及时地采取补救行动或取消项目;(4)项目完工后的总体评价结果,为改进以后的工作和新的项目实施提供参考和借鉴。通过项目的监测评价,积累项目管理经验,以便把这种经验“反馈”到未来项目的设计以及世行、有关部门和国家的发展战略和贷款政策中去。
5 世行项目监测评价实践的经验借鉴
总结世行在项目监测评价方面的经验发现,世行项目监测评价具有以下几个特点:(一)项目监测与评价的制度化。世行逐步形成了一系列的监测与评价的制度文件,明确了监测评价在项目管理中的地位,有关文件规定,项目监测与评价不是附加在项目管理上的额外负担,而是一项规范化、制度化的工作;(二)监测与评价嵌入项目建设周期的各阶段。监测评价工作是世行的主要责任和工作内容,也是对项目管理的重要手段,项目周期中各阶段都有监测评价的要求;(三)监测评价指标数量有限,简单明了。项目的监测指标数量在30-50个,其中,目标方面的指标为10个左右;(四)监测评价流程规范、科学、简单。项目监测评价工作按照评估文件的范围、内容、方法和数据来源等来实施,无论数据还是其他方面的要求,均以评估文件所列内容为基准;(五)组织管理上层次清晰,责任明确。世行在相关政策、业务手册中明确规定了世行业务部门和相关业务官员在监测与评价中的权力和责任。借款方在项目实施过程中关于监测与评价的责任写入贷款协议。
同时发现,自2003年以来,从重视产出到重视效果(From output to outcome)是世行在监测与评价方面的重要趋势[8]。世行正在努力推行结果导向的监测与评价,并进行了大量的研究和实践。不仅在项目完工后对项目的效果进行评价,即项目目标实现程度的评价作为重点,而且有的项目已经进行了中间效果的监测。例如,西北扶贫项目设计了8个中间效果指标,监测项目区贫困人群状态的变化。
虽然科技项目与工程项目存在较大的差别,尤其是科技项目的不确定性与探索性,决定了科技项目在目标、组织方式和评价指标等方面与一般的工程项目存在一定的差别。但是,一些面向工程和产品的、投资额度大、周期长的科技重大项目,与世行贷款项目在项目特点、组织管理方面具有一定的可比性。特别是《规划纲要》所确定的重大科技专项是,为了实现国家目标,通过核心技术突破和资源集成,在一定时限内完成的重大战略产品、关键共性技术或重大工程。民口9个重大专项涉及近30个部门、地方政府和企业集团,每个专项由7-11个单位参与组织实施。另外,这些重大专项涉及科技、工程、经济、金融管理等多方面因素,实施周期长、时效性强、综合性强、难度大,尤其需要以建立重大专项监测评价体系为抓手,加强重大专项组织实施的过程管理。通过监测评价工作,了解重大专项的执行进度、资金使用情况、目标任务的完成进度,已成为加强和完善重大专项管理的重要手段,这也是有关政府部门的重要职能和主要工作内容。
我国已经开始了科技项目监测评价的探索。例如,“十五”863计划的部分重大专项和主题课题的在管理过程中引入了监理制和“以测代评”,跟踪重大专项、课题的进度、技术指标和财务指标;中小企业创新基金、农业转化基金对项目实施过程中投入的各种资源和达到的目标进行监理,保证项目的顺利实施和目标的完成。但是,监测与评价作为政府的重要职能,在中国还是一个新的理念。目前监测与评价的制度框架和技术支撑体系尚未建立,监测与评价工作还未纳入制度化、常规化轨道。为建立健全重大专项监测评价制度,应加强以下几个方面工作,使监测评估满足重大专项管理的要求,保证国家科技重大专项的顺利实施和专项目标的实现。
1.细化重大专项实施方案、实施计划和项目任务书的编制工作,明确专项各层次的目标、考核指标,根据科技项目的特点,研究建立符合科技项目特点的监测评价指标。世行项目的前期准备中,项目可行性研究、评价、规划、设计等工作做得充分、扎实、细致,形成了项目评估文件、信贷协定等具有约束效力的文本和可行性研究报告和实施方案等技术文件,为项目顺利实施奠定了坚实的基础。在重大专项的论证阶段,应组织各方面的专家认真细致地分析重大专项实施的可行性和可操作性,明确科技重大专项的研究目标、考核指标和监测指标。同时,要建立监测指标设计的互动机制,由利益相关方共同确定专项各层次的监测指标、及其基线数据和数据来源等。并将专项各层次目标的监测指标及其要求以附件的形式作为项目合同的组成部分,将它作为重大专项管理、检查、监测、验收和绩效评价的重要依据。
2.建立重大专项的监测评价体系,突出结果导向,重视效果的关键绩效指标。在借鉴国际经验的基础上,根据我国政府管理决策的需求,建立重大专项自监测和第三方独立监测体系,收集相关的数据,对重大专项的研究进度、重大专项管理、产出、效果与影响等进行全面的监测。在评价方面,建立面向结果的评价体系,重视研究关于重大专项效果的关键绩效指标评价。要以目标相关性、效果、效率、可持续性及影响作为项目评价的准则,构建重大专项监测评价的基本框架,并针对不同重大专项特点,逐步建立个性化的重大专项监测评价内容框架。
3.制订切实可行的重大专项监测评价整体规划、年度计划。世行项目制定了项目的检查计划和监测评价计划,明确了检查、监测的时间、程序、具体要求和实施机构等。有关管理部门应综合考虑管理决策的需求、各方面的共识程度、评价实施能力和保障条件等多方面因素,建立科技重大专项监测评价整体规划、年度计划和实施方案,通过开展面向结果的监测评价试点,取得经验后逐步进行推广,积极稳妥地推动重大专项的监测评价工作。重大专项的监测评价年度计划和实施方案应将包括监测评价的内容、要求和具体时间安排。
4.分析重大专项组织管理的特点,研究专项监测评估在重大专项管理中作用机理,探讨专项监测评估过程中专项的监测与评估之间关系、监测评估信息与专项管理信息的关系、不同层次监测评估之间的关系,创新重大专项的组织管理形式,研究建立重大专项决策、执行和监督互相协调又相互制约的新型科技管理模式。
5.研究制定科技重大专项监测评价管理办法,进一步明确重大专项监测价在重大专项管理中的地位和作用,并对重大专项监测评价的组织管理、责任机制、监测评价的主要内容、基本程序、监测评价结果的使用等提出明确的要求。同时,监测评价工作经费是保证此项工作得以顺利进行的基础条件。例如,世行、亚行的监测评价工作经费约占项目预算的1-3%。为保证科技重大专项监测评价工作的开展,建议将监测评价工作经费列入各重大专项管理费预算中。
标签:项目执行论文; 项目管理流程论文; 项目管理专业论文; 项目目标论文; 项目实施计划论文; 项目组织论文; 项目管理理论论文; 项目分析论文; 项目评估论文; 年度报告论文; 计划管理论文; 质量监督论文; 工作管理论文; 科技论文; 时政论文;