登入帳戶  | 訂單查詢  | 購物車/收銀台( 0 ) | 在線留言板  | 付款方式  | 運費計算  | 聯絡我們  | 幫助中心 |  加入書簽
會員登入 新用戶登記
HOME新書上架暢銷書架好書推介特價區會員書架精選月讀2023年度TOP分類瀏覽雜誌 臺灣用戶
品種:超過100萬種各類書籍/音像和精品,正品正價,放心網購,悭钱省心 服務:香港台灣澳門海外 送貨:速遞郵局服務站

新書上架簡體書 繁體書
暢銷書架簡體書 繁體書
好書推介簡體書 繁體書

四月出版:大陸書 台灣書
三月出版:大陸書 台灣書
二月出版:大陸書 台灣書
一月出版:大陸書 台灣書
12月出版:大陸書 台灣書
11月出版:大陸書 台灣書
十月出版:大陸書 台灣書
九月出版:大陸書 台灣書
八月出版:大陸書 台灣書
七月出版:大陸書 台灣書
六月出版:大陸書 台灣書
五月出版:大陸書 台灣書
四月出版:大陸書 台灣書
三月出版:大陸書 台灣書
二月出版:大陸書 台灣書

『簡體書』(南大智库文丛)智库与教育评价大师课

書城自編碼: 3672277
分類:簡體書→大陸圖書→管理管理信息系统
作者: [美]罗伯特·E. 斯塔克[Robert E. Stake]
國際書號(ISBN): 9787305238048
出版社: 南京大学出版社
出版日期: 2021-08-01

頁數/字數: /
書度/開本: 16开 釘裝: 平装

售價:HK$ 107.4

我要買

 

** 我創建的書架 **
未登入.


新書推薦:
今日宜偏爱(全二册)
《 今日宜偏爱(全二册) 》

售價:HK$ 95.8
氢经济
《 氢经济 》

售價:HK$ 117.6
为你沦陷
《 为你沦陷 》

售價:HK$ 56.2
校园欺凌
《 校园欺凌 》

售價:HK$ 59.8
培训需求分析与年度计划制订——基于组织战略,做”对的”培训!
《 培训需求分析与年度计划制订——基于组织战略,做”对的”培训! 》

售價:HK$ 82.8
这就是心理咨询:全球心理咨询师都在用的45项技术(第3版)
《 这就是心理咨询:全球心理咨询师都在用的45项技术(第3版) 》

售價:HK$ 153.6
正说清朝十二帝(修订珍藏版)
《 正说清朝十二帝(修订珍藏版) 》

售價:HK$ 105.6
黑海史:从历史涟漪到时代巨浪
《 黑海史:从历史涟漪到时代巨浪 》

售價:HK$ 115.2

 

建議一齊購買:

+

HK$ 58.5
《 SPS案例研究方法:流程、建模与范例 》
+

HK$ 94.4
《 数据驱动的智能城市 》
+

HK$ 132.2
《 大数据时代(《对话》节目“谁在引爆大数据?”展开热议。迄今为止全世界最好的一本大数据专著,宽带资本董事长田溯宁、微软全球资深副总裁张亚勤、知名IT评论人谢文等10位专家联袂推荐) 》
+

HK$ 85.4
《 决战大数据(升级版):大数据的关键思考 》
+

HK$ 122.5
《 健康大数据产业发展与隐私规制 》
+

HK$ 94.4
《 信息背后的信息 》
編輯推薦:
作者罗伯特· 斯塔克是美国评价学大师,曾任“教育研究与课程评价中心”(CIRCE)主任,获得过得美国评价协会颁发的拉扎斯菲尔德奖,在现代综合评价领域造诣深厚。

“回应式评价”的理论与方法是罗伯特· 斯塔克提出的原创性贡献,也是本书重点介绍的一种评价理论与方法,这个理论完全颠覆了评价就是话语权的概念,是对传统的定量、指标化和结构化评价理论与方法的一次革命。

罗伯特· 斯塔克将自己多年的教学经验融入本书,用平实流畅的语言,幽默诙谐的表达方式,深入浅出地揭示了评价学的基本原理,令本书极具可读性!本书也提供了大量极具参考意义的评价工具、标准、流程和案例,对实践中的评价实务活动将大有裨益!

人类社会的进步取决于学习的意愿、方式和效率。评价是一种古老而自发的学习方式。孔子曾提倡一日三省,反省、反思、反求诸己都是从自我出发的评价路径,是中国评价思想的源头。这本 《智库与教育评价大师课:基于标准的评价与回应式评价》是西方评价学的集大成之作,其思想与智慧定会令读者感到无比惊艳!
內容簡介:
本书是美国评价学大师罗伯特·E. 斯塔克几十年来的理论研究、教学工作和评价实践的经验与心血结晶,是面向大学有关专业师生和评价一线专业人士的一本经典教科书和实务指南。政治学、教育学、心理学、社会学、人类学、图书馆学、档案学、传播研究、智库研究等应用社会科学的研究人员都将从中受益匪浅。 本书主要介绍了两种基本的评价理论与方法:基于标准的评价与回应式评价。罗伯特教授的评价体系着眼于解释和理解评价对象,是超越评价主客体两分法的,更具人文关怀、更加个性化、更具建设性的评价理论。他把自己数十年的教学经验融入本书,高屋建瓴,用诙谐的语言、流畅的文字揭示了评价学的基本原理,并提供了大量的极具参考意义的评价工具、标准、流程和案例。
關於作者:
作者简介:
罗伯特·E. 斯塔克(Robert E. Stake) 1958年获得普林斯顿大学的心理计量学博士学位,1963年入职伊利诺伊大学,从事评价工作,1975年任“教育研究与课程评价中心”(CIRCE)主任,在教育评价领域有长达数十年的教学、研究和行业实践经验。1988年,他获得美国评价协会颁发的拉扎斯菲尔德奖(Paul F. Lazarsfeld Evaluation Theory Award)。

译者简介:
李刚 南京大学中国智库研究与评价中心主任、首席专家,南京大学信息管理学院教授、博士生导师,《智库理论与实践》副主编,江苏省政协委员,江苏紫金文化英才。主持开发了中国个聚合智库搜索、智库数据管理和智库评价功能三位一体的“中国智库索引”系统(CTTI);“中国智库治理论坛”的联合创始人之一;先后主持教育部哲学社会科学研究重大课题攻关项目、国家社科基金重点项目等各类项目20余项,并在《光明日报》《中国图书馆学报》等权威媒体和学术期刊上发表论文100余篇,出版专著和译著十余部。

王传奇 盐城师范学院助理研究员,南京大学管理学博士。美国伊利诺伊大学香槟分校(UIUC)访问学者。主要从事行政管理、图书情报与档案管理教学和研究工作,发表论文20余篇,主持多项省部级社科基金项目。

甘琳 南京大学信息管理学院博士研究生,南京大学中国智库研究与评价中心助理研究员。参与多个教育部社科重大项目、江苏省社科重大项目,参加“中国智库索引”(CTTI)的设计开发与“南大智库文丛”的组织翻译工作,在《图书与情报》《图书情报知识》和《图书馆论坛》上发表多篇论文。

拜争刚 兰州大学与美国南加利福尼亚大学联合培养博士,南京理工大学循证社会科学与健康研究中心主任,南京理工大学社会学系副系主任,教授,中国儿童与老年健康证据转化平台负责人,中国社会工作学会理事,国际Campbell中国联盟秘书长,主要从事循证老年健康、医务社会工作、循证社会科学研究。
目錄
目录

序言 / i

章 指标性评价和解释性评价 / 001

第二章 评价的作用、模型和倾向 / 031

第三章 基于标准的评价 / 060

第四章 回应式评价 / 092

第五章 数据收集 / 115

第六章 分析、综合推理与元评价 / 165

第七章 客户、利益相关者、受益人与读者 / 201

第八章 需要解释的议题 / 238

第九章 基于证据的评价 / 262

第十章 做正确的事情 / 279

后的话 / 306

参考文献 / 309

参考书目 / 321

索引 / 325
內容試閱
第八章:需要解释的议题

至强之力
也无法将一根至细之绳
拉成一条横线
保持其的平直
——威廉·惠威尔(William Whewell),1819


项目公平

请阅读下一节并摘抄一些和项目公平有关的单词,这些单词应该写在黑板上进行讨论。
引用军队预备役上校的话来说:“我们并不一定是在歧视,我们只是排除了某种类型的人。”在社会环境中,大多数人认为歧视是不好的,但实际上每个人拥有均等机会是不存在的。所以,在测试环境中,我们认为区别对待是妥当的。对于心理计量学家所谈及测试项目的区分度,统计学家有他们称之为判别分析(discriminant analysis)的方法。在这种背景下,歧视仅仅指差异性。评价者应给予那些有更强能力、更丰富经历或更高生产力的人特殊的考虑,区分性测量就是在较少和较多中进行辨别。
在我们所生活的社会中,因性别、社会等级或肤色等原因给予人们特权通常不对。然而,给予那些有学术能力或有潜力利用机会的人额外权利却被认为是公平的。因此,那些已经有能力和机会的人被给予了更多的权利。我们称这样的社会为精英政治(meritocracy)。据称,在有天赋的人身上投资越多,就会为全社会带来更多的重要成就和更少的危机。但有一种可能性很少受到人们的关注,那就是许多人会拒绝被给予的额外权利,因为他们认为自己受到了歧视,这样做会造成很大的社会负担。当受到歧视后,人们会失去志气,对公共福利漠不关心,并产生更深层次的自我依赖感。选择性特权分配既有益处也有代价。

精英政治
精英政治中的公平性何在?精英政治很少被评价者所质疑,但对于项目中的受训者、工作者、管理者或学生而言,他们之间可能会产生很大差别。当了解他们的绩效质量变得很重要时,评价机构就要尽其所能对它们进行测量。当我们不能准确地测量出机构所需的价值,不能有效地在绩效等级基础上进行机会判断时,区别对待就会成为一个问题。
社会学家丹尼尔·贝尔(Daniel Bell)(1977)辨析了三种反对精英政治的言论,标出了其中矛盾并且重合的部分:

遗传和智力。如果有人假定精英政治仅仅是一种基于智力的选择,且这种智力是建立在遗传基因差异的基础上的,那么他所拥有的特权就来自于基因的运气,这会使社会正义建立在一种很随意的基础之上。社会阶级。纯粹的精英政治不存在,因为社会地位高的父母要么靠其势力要么简单地借助他们的孩子所掌握的文化优势来传承他们的位置,这一点是不变的。因此,一代之后,精英政治仅仅由阶级地位所掌控。机遇的作用。美国有大量(向上)的社会流动,但这与教育或能力甚至是家庭背景相关性较小,而更多地与无形的和随机的因素有关,比如某人从事某种特定工作的运气。

除了这三种言论,我还提到了其他影响问题的因素。这些问题已经超出了对智力和社会阶级的关注,比如,当毕业、升职或工资上涨是建立在标准绩效基础上时(因为质量检查和性能效用与之前的地位和机遇有关),建立“一个按等级竞争的环境”,从而声称所有的竞争都是公平的,这是不可能的。标准化测试应该是在能力和成就上都具有公平性的测试,但是心理学家克劳德·斯蒂尔(Claude Steele)(2003)论证了这些测试中的威胁因素,特别是对于少数群体中的高能力者来说。
李·克龙巴赫和戈尔登·格列塞(Goldene Gleser)(1965)在选择决策(selection decisions)和决策(placement decisions)之间做出了重要区分。当一个职位有很多申请者时,比如在普通工作的求职中或者为唱诗班演出选择独奏者或者选择士兵打头阵,这是一种选择决策。
当每一个员工都参与了员工发展,并且决定接下来要进行哪些培训时,这就是一个决策。一个家庭在分配家务劳动时会做出决策。在决策中,评价机构有责任观察援助是否得到公平分配,这并不一定意味着年长的或等级的人就获利多,个人福祉和团队的整体福祉都需要考虑在内。
选择奖励或无视员工的表现是一个“高风险”决定。这不仅仅是要对表现优异者有所奖励的问题,有时也会牵扯到决策是否公平和明智。如果表现优异的员工总是得到奖赏,他们的进取心就会不升反降,对于那些没有得到奖励的员工来说,他们的自信心会受到不小的打击。所以我们需要不断对出台的政策及时评价,以免产生不良效果。我们需要借助以往经验并考虑个人心理因素,以此评价团队中因区别对待而导致的高风险问题。
对于研究政策和组织实践的项目评价者来说,能力测定和区别对待会成为议题。不是所有政策都可以被研究,而且评价团队经常缺乏专业知识来研究令人烦恼的政策;另外,评价赞助商通常不希望研究管理政策。前一章已经举出了一个案例——国家青年体育项目。这个被终止的评价项目情况如下文所述:
1996年,李萨尼·德斯特法诺,德尔·哈尼施(Del Harnish),凯瑟琳·斯隆,丽塔·戴维斯和我评价了国家青年体育项目——一个主要针对城市青年的夏季项目。国家青年体育项目是全国大学生运动协会(the National Collegiate Athletic Association)、高等学校和联邦政府之间的合作项目,专为弱势青少年(10至16周岁)提供5个星期的运动、身体素质和教育上的指导。那个夏天,是其举办的第27年,它帮助了来自170个大学的66000个男生和女生。我们根据合同,对当地项目的样本(4个)进行深入的评价描述,同时描述了学生团体,将项目特点与学生成果联系起来,并调研了政策问题。我们发现当地举办的活动质量很高,对于实现他们的目标卓有成效。“标准化”和“公平性”的议题都出现了,我们思考了一会儿,然后转向了其他议题。我们没有发现和歧视相关的实质性问题。我们预想评价会受到校队教练的干扰,但是并没有。我们的确发现了专制管理并质疑了它的价值。这项评价本该是一个历时三年的研究,但是我们的行为却被一些人认为干扰了正常工作,特别是在调查国家协调委员会的管理政策期间。当被告知工作越界时,我们说我们正在执行合同上的内容。全国大学生运动协会并没有在第二年和第三年续签这个合同。(完整报告可以在www.ed.uiuc.edu/CIRCE/NYSP/index上获得。)通常在咨询之后,评价者必须判定对机会分配的分析是否可能加深对项目价值的理解。

儿童平等机会
为每一个孩子提供平等的教育机会是公平准则中的一部分(Segerholm, 2002)。测量这一机会的大小很困难,而保证每一个孩子的平等性似乎也超出了我们的能力范围,我们能做的只是争取减少现有机会的不平等性。
每一个孩子都是不同的,这体现在他们的现有知识储备、学习动力以及利用学习机会的能力上。保证每一个孩子拥有相同的时间、同样好的学习环境和一个同等能力的老师将会是一个较大的进步。但这种方法忽略了一点,即不同的孩子应该根据个人能力学习相应的知识。
易保证机会平等的方法是不给予个别孩子额外的学习机会,或者给予每个孩子的都是极小的机会,但这种方法并未得到人们的认可。作为大人,我们可以尽可能地为每一个孩子提供差异化的、力所能及的、好的机会,但那反而会拉大孩子们在机会和成就上的差异。
通常,良好教育的运转应当是帮助那些已经领先的孩子们跑得更快些,帮助落后的孩子们以他们适应的速度继续前进。教育是一个区别对待的过程,它增加了儿童之间差异的种类和大小。不论教师是否为孩子们提供了平等的学习机会,还是给一些儿童提供额外帮助,差异都将一直存在。
教育有一项被预期发挥的功能,如乔尔·斯普林(Joel Spring)在《分拣机》(The Sorting Machine)(1976)中所描述,教育是去鉴别哪个孩子已经预备好学习高级课程的能力。人们希望教师能够识别和鼓励那些功课做得好的孩子,因为他们通常是之前拥有机会并能做到好的人。而大多数教师认为,他们有职责帮助学习进度慢的学生确信他们在智力发展或应用领域取得有限成功。在孩子们的一些支持者当中,人们常说孩子应该得到帮助以发挥他的潜力。这是一句好的箴言,但也确实带有误导性。孩子们和我们所有人都有可以进步的空间和还未被发掘的潜力。但是没有人拥有可知的命运,或是将来必定会上升的潜力。无论一个人的潜力已经被开发多少,只要他还活着,他就还有继续上升的持久潜力,承认这一点很重要。当我写下这些时,我刚刚73岁。如果任何人暗示我,我的潜力已经发挥殆尽,我会表示非常愤恨。事实上,我可能已经在很多年前达到了好的状态,但是就像德博拉·劳顿(Deborah Laughton)(我的编辑)所提醒我的那样,我仍旧有潜力做得更好。潜力不是某种命运,而是为即将到来的更好的事物做基础的资源。
教师们有意识地根据不同学生的情况采取不同的教育方式。当然,教师当中也存在着巨大的差异,但是他们在某些方面有很多共同点。大多数教师都能保证其所做的一直都是对每一个孩子好的事,这里指的是他们所认为的好的事。人们通常会发现,在学校里的每个地方老师们会花很多心思去思考对于不同的孩子来说什么才是好的。他们很少尽力给予每一个孩子等量的时间,相反的是,他们把时间分配给那些在他们看来需要的人身上。有时教师太过讲求统一性和传统型思维模式,以至于影响了孩子独有的成长模式,正因为每个孩子都是不同的,所以教师应该采取因材施教的方法,但往往这种方法会过犹不及,比如有时教师又会盯着文化差异不放(其实这点是孩子们不想提及的)。教育的目的究竟是为了引导孩子们走向普通意义上的成熟,还是帮助孩子们发展他们的个人专长,这是哲学家和教育工作者所要面对的永恒问题。

试读二
第九章:基于证据的评价

事实是难以改变的。不管我们的希望和偏好是什么,也不管我们内心如何要求,事实和证据都无法改变。
——约翰·亚当斯(John Adams),1770

偏见

偏见正如所有的评价都包含证据一样,所有的评价(包括高质量的评价)也都包含着主张。主张就是一种偏见,而偏见会削弱证据的效力。著名的科学哲学家托马斯·库恩(Thomas Kuhn)曾说,所有的观察都是观察渗透理论(theory laden)的产物,也就是说,观察者个人的文化价值会给他的预期戴上有色眼镜,使他不能中立地解读事实真相。但是评价中的偏见并不总是坏的。在我2003年发表的一篇文章中,识别出了六种大多数评价者会采用和维护的主张:

对有希望成功的评价对象的主张
对未来会越来越多地发生的评价工作的主张
对能更好地管理评价对象的合理行为的主张
希望我们的研究发现能得到应用,即对实用性的主张
希望公平的条件成为主流,即对道德标准的主张
为弱势群体发声,主张民主与支持

在第二章中我还提到另外几种评价者主张,并将其称之为“倾向”。
评价者们会分出一部分工作时间来促成这些主张,并且他们认为这些主张会提升他们的工作成果。他们在价值上的承诺会影响他们的认知与解读。所以,这些主张可能会导致他们对评价对象的质量做出无效解读。但同时我相信,这些承诺会促使评价者们对重要问题进行更深入的挖掘。这不是说所有的评价者主张都是好的,只是说,我们不能一味地限制主张,而应该对它们进行反思、挖掘,让读者们更清楚地认识它们,并且寻找方法把那些在我们对立面的主张囊括进我们的数据与报告中。
这里的关键在于控制偏见,而控制偏见要比消除偏见更加容易。迈克尔·斯克里文(1998)对这一点进行了精彩阐释,他说:

在统计学与方法文本中常提到一个关于“偏见”的例子——读数总是过高的温度计。但一个科学家……不会把它作为偏见的典型案例。他只会说这个工具不精确或者读数过高。换言之,偏见不是系统误差,它在我们常用说法中的核心含义是人对系统认知误差的倾向。我们可以用草地保龄球来做类比。由于球是有重量的,实际上我们常常说它是“带偏见的”,以至于它会沿着弧线滚动,偏离在没有偏见的情况下本应是直线的轨迹。
在草地保龄球的例子中,我们所说的“偏见”其实就是球体里的铅坠,它会使球具有沿弧线滚动的倾向。这个例子或许可以被称为“纯粹描述意义下的偏见”(the purely descriptive sense of bias)。它表达的仅仅是球有偏见这一事实。这不是一个评价学术语,因为这里的误差是一个比喻,代表的是球相对(传统方式下的)直线轨迹的偏离。这个例子中偏见的性质是带有倾向性的性质。
……偏见并不是指偏离原有轨道这件事本身,而是指偏离的倾向。偏见和系统误差之间的区别……不是一个单纯的术语问题。系统误差……会创造可能的补救措施……偏见与它所产生的系统误差在评价学被严格区分,因为这种区别会带来一种可能性,即在不消除偏见的情况下对偏见进行控制。而且,对于大多数偏见来说,控制比消除更容易。如果偏见就是不良结果本身,那么通常它是无法被消除的。(p.14)

对评价者来说,偏见就是指我们自己、我们的群体或者我们的文化过分热衷地对待被认为有价值的事物的倾向。偏见不仅会造成数据解读的偏见,还会影响我们设计的研究方式、提出的问题、选择的数据源以及撰写报告的方式。我们的良知与道德都在要求我们做到不偏不倚,即使我们可以削弱心中强烈的偏见,但它终究难以消除,特别是由单个个体或高度一致的团队来进行观察、解读与报告时所带有的偏见。所以,我们需要多样化的观点,需要有力的元评价机制,也需要自信地展现非传统且(对我们来说)没有吸引力的观点。这些都是对偏见的调整措施。

作为承诺的怀疑主义

我曾听巴里·麦克唐纳说,如果评价者不支持一个项目的目标,那他就不应该承担该项目的评价工作。尽管我们说,即使项目的目的令人质疑,它也应该被公正地评价(就像法院指定的律师一样),但评价者不认同项目目标确实不是一个好现象。这并不是说评价者应该完全认同项目活动和结果,只是说他至少要认同项目目的。
另外,评价者们必须抱有充分的怀疑精神。在第六章中,我谈到过持续的自我质疑。那接下来让我们谈谈怀疑精神的好处吧!我们不必对遇见的任何事物都表示怀疑,但每个评价者都应该对评价对象的每个方面,以及他自己所进行的评价工作保持怀疑态度。在生活中,怀疑一切会让我们疲惫不堪,因此必须有所选择。尽管评价者的个性各不相同,但评价工作依靠的是评价者担心和关心一切事物的那种特质。我们需要一套机制来建立起对事物的自觉怀疑,包括怀疑目标意义、员工贡献程度、证词可信性以及推断的有效性。当然,你还应该适当地关注自己工作的整体性。
要操心的事太多,我们怎么才能知道究竟有多少事是需要我们真正关心的呢?事实上我们并不能面面俱到。但我们必须要广泛征询其他人的意见,不断地检查和反思自己的工作,保证自己的思维不被固化。我们应该写下操作计划中的关键点,同时让直觉发挥作用。
我们应该在元评价计划中凸显一部分自己在怀疑论方面的道德伦理。按照唐·舍恩(1987)的建议,做一个反思实践者。我们应该和具有批判性的朋友一起工作,让他们来批评指导我们的计划、选择的研究工具以及撰写报告所采取的策略。我们还要做“人员检查”,让数据提供者检查我们的草案,看看跟他们的言行是否一致。我们还要做三角测量。此外,在评价接近尾声,开始撰写报告时,需要元评价人员介入。在工作的整个过程里,我们总是要问自己:“这确实是我们探究项目质量所需要的方法吗?”
元评价同时起着两种作用。一方面,它引入了新的声音、多种观点以及更多观察结果,让我们进行更深入、充分的解读;另一方面,它不断引入新的多样性和解读,也增加了需要确认的语境的其他方面。你或许会发现,未婚与已婚的受训者有不同的见解,古巴的西班牙裔不认同墨西哥人等情况。这些描述和结论往往不会让读者对优势与价值有一个简单的理解,而是会使情况更复杂。
直觉告诉我们,读者喜欢一致性而不是多样性,他们想要直截了当的答案,而不是复杂的叙述。但是,我们需要让自己的直觉学会欣赏多样性。就像我在第六章中说的,不管是把世界描述得比它本身更简单还是更复杂都毫无意义。
辩证法(dialectic):黑格尔和马克思用它来分析社会和经济过程,这里部分利用了“把对某一观点或事件的解读和与其相反的解读进行对比可以增强该解读”这一原理。
如果你没有展现出你对项目质量的不同解读以及解决方法,那么你的工作就不可能是好的。你可以把不同的观点当作辩证法,让读者参与到问题解决过程中。因为辩证法不仅是对现实的反映,也是怀疑论中道德伦理的一部分。我们创造不同的解读,有一部分原因是为了让自己能接纳更多新的可能性(Proppé, 1983)。

 

 

書城介紹  | 合作申請 | 索要書目  | 新手入門 | 聯絡方式  | 幫助中心 | 找書說明  | 送貨方式 | 付款方式 香港用户  | 台灣用户 | 大陸用户 | 海外用户
megBook.com.hk
Copyright © 2013 - 2024 (香港)大書城有限公司  All Rights Reserved.