登录  |  加入学会

 昨日,十二位无人驾驶(自动驾驶)创业公司CEO在网易讲讲“问道无人驾驶”话题上掀起一波巨浪。大家围绕无人驾驶带来的伦理道德争议进行了全方位讨论。

  无人驾驶汽车在危险情况下可以不计后果地保护自己的主人吗?如果无人车在极端情况下必须撞人,是牺牲少数人拯救多数人吗?如果发生致死事故,如何定责?你是否愿意购买一辆没有方向盘的无人驾驶汽车?带着这些问题,来看看十二位大牛如何回答。 

  当发生危险不得不抉择的时候,无人车应该保护谁牺牲谁? 

  无人驾驶会引发哪些伦理道德争议?十二位大牛这样说 

  在AutoX创始人兼CEO肖健雄看来,在突发危险情况下,?论是有?驾驶还是??驾驶,都很难精准判断如何保护?外的?,此时最可控的、最可以实现的就是保护?内的?。

  而MINIEYE CEO刘国清则对此持反对意见,他认为一旦将车辆评价系统的最高目标设置为车主本人,那么很有可能造成“越有钱的人就能买到越好的车、越先进的系统”的情况,在事故发生时,这些更为先进的系统就会选择保护这些有钱的群体。

  刘国清认为,这样对弱势群体很不公平。 

  地平线创始人兼CEO余凯和驭势科技创始人兼CEO吴甘沙则指出,无人驾驶技术应当只是手段,机器智能也不应该凌驾于人类伦理之上。同时,他们都提到了德国政府于2017年出台的全球首个“无人驾驶道德指引”。

  这份指引规定,保护人类生命始终是首要任务,如果发生意外是不可避免的,无人驾驶车不能选择去救谁,不应该就年龄、性别、种族、残疾等做出决定,所有人类生命都是平等的。“自动驾驶的首要目标是提升所有交通参与者的安全,在同等程度上降低所有交通参与者的风险。” 吴甘沙说。

  另外,禾多科技创始人兼CEO倪凯和智行者创始人兼CEO张德兆则强调了“规则”的重要性。

  倪凯举例说,“市场上任何产品都不是孤立的,政府会制定法律法规,行业协会会制定行业标准,产品首先要遵守这些规定,这样才能使用。比如无人机不能在禁飞区飞行,自动驾驶汽车要遵守交通规则。“他同时强调,遵守规则是整个社会的共识,与保护自己的主人不矛盾,而且在产品推出时,会让用户清楚了解到产品的运行原则和安全边界。 

  张德兆也表示,尽管无人驾驶厂商不应该将无人驾驶汽车置于伦理道德争议的范围内,但这不是无人驾驶的判断和逻辑能够解决的事。但是万一陷入了这种争议,无人驾驶汽车在危险情况下会选择“保护规则”,规则怎么制定的,就怎么遵守规则。

  从更加理性的层面,领骏科技CEO杨文利发表了这样的看法,他说,自动驾驶车辆的行为决策都依赖其算法,依靠不同的设置和规则,自动驾驶汽车可以有不同的决策行为。在危险不可避免的情况下,决策算法会按照一定方法对不同驾驶策略进行综合评估,最终选择总体损害最低的策略来执行。

  总之,人身安全以及事故责任是无人车引起广泛争议的焦点问题,无论如何,人的安全始终应该摆在第一位。 

  如果发生无人车事故,如何定责? 

  从目前来看,自动驾驶在全球范围内造成的交通事故越来越多,谷歌无人驾驶汽车发生过十几次的交通事故,稍微严重的是在2016年2月14日那天,一辆雷克萨斯SUV试验车撞上了一辆公交车。

  另外,去年的一月份,特斯拉的首起自动驾驶致死事故发生在中国,在京港澳高速河北邯郸段,一辆特斯拉轿车撞上了一辆正在作业的清扫车,司机不幸身亡,据报道,当时车主开启了特斯拉的自动驾驶模式。 

  无人驾驶会引发哪些伦理道德争议?十二位大牛这样说 

  

  图:2018年5月5日,Waymo无人车在美国亚利桑那州发生交通事故。

  可以预见的是,无人驾驶技术虽然理论上可以降低交通事故发生率,但一定不能完全消除事故发生。那么,无人车发生交通事故到底如何判责呢? 

  领骏科技CEO杨文利分析到,关于事故如何定责,更多的是立法部门和执法部门的职责,一般来讲,L3级别及以下的自动驾驶交通事故责任主体为驾驶员,L4及以上级别自动驾驶责任主体尚未有明确的法律法规可以依照。

  对于具体的事故判定,禾多科技CEO倪凯表示,“首先需要根据交通法规判断事故的肇事方,如果其它车辆一方是肇事方,由它承担责任,如果是自动驾驶汽车方造成的,由自动驾驶一方来承担责任。至于是司机还是自动驾驶车来承担责任,要看自动驾驶的级别和当时驾驶的情况来决定。车厂也会在用户协议里跟用户做细致的交代,未来国家也会出台相应的法律法规做一些基础性的约束。”

  从宏观的层面,地平线创始人兼CEO余凯认为,事故发生后的定责问题是一个系统性的社会工程,需要制定一套明确、清晰的机制来明确责任划分。这也是技术发展到一定程度后必然会衍生出的法律问题。所以要完善地解决这个问题需要技术专家和法律专家共同来制定更加细节的法律细则。从具体操作流程来上来说,未来原则上应该也是技术协助执法部门定责,保险公司赔付。 

  无独有偶,飞步科技CEO何晓飞也指出,参与交通的主体都要受到当地交通法律法规的制约,相信受到新技术的推动,现行交管体系会变得更加完善,在对应事故的处理原则上也会有新的思路。MINIEYE CEO刘国清也指出,定责是一个复杂的过程,这种规则和秩序的建立必然是要经过长时间的、逐步的完善。 

  以上几位大牛呼吁交通政策法规的完善,让未来的无人车上路更加有法可依。 

  当然,在政策之外,先进技术参与定责同样不容忽视。 

  驭势科技CEO吴甘沙在参与网易智能此次《问道无人驾驶》年终策划中就表示了技术在定责中的重要性:“第一,未来要在技术上让无人车通过完整的测试体系,确认通过测试认证的汽车是安全、可销售的,即使极偶然情况下出现失效时,可以豁免产品质量责任。第二,通过完善的黑匣子机制,确保事故后可以明确责任的归属。”

  “无人车都有详细数据记录,事故发?后,都可以回放现场录制的详细数据,进?追溯定责。”AutoX创始人兼CEO肖健雄同样认为通过技术手段定责将?现有定责办法更公平可追溯。

  同样作为技术派的代表,余凯分析到,V2X技术、激光雷达技术、视觉感知技术、红外感知技术、高精度地图等等……每一项能力都是对人类自身能力的大幅提升,这些技术如果实现成熟的综合应用,对于安全性的保证一定是高于人类驾驶的,而且,机器不会疲劳驾驶,也不会酒后驾驶。余凯还预测说:“这个世界上没有百分之百的绝对安全,但我相信未来成熟的自动驾驶技术能把这个数据提升到小数点后很多个9(99.99%)。”

  智行者CEO张德兆也表达了相似的观点,他认为,无人驾驶不保证绝对安全,但是能保证在任何情况下不违法交通规则,实现最小人员伤亡。 

  未来,你愿意购买一辆没有方向盘的无人车吗? 

  无人驾驶会引发哪些伦理道德争议?十二位大牛这样说 

  

  首先,参与话题的大多数从业者都明确表态,愿意乘坐或购买没有方向盘的无人车,当然,这也和他们深耕这一行业有关。 

  AutoX创始人兼CEO肖健雄认为,车就是个交通工具,无人车是个更便捷的交通?具,更具价值。他的观点代表了部分乐观消费者对自动驾驶技术的态度。

  而地平线创始人兼CEO余凯认为,应该分情况讨论。例如,在购置园区内通勤车时,应该优先考虑无方向盘巴士;在复杂道路上,现有的自动驾驶技术还有待完善,在技术成熟的时候,他是会购买的。

  同时,余凯提出了一个有趣的观点:未来的汽车根据使用场景的不同,可以自由变换产品形态。”

  禾多科技创始人兼CEO倪凯在对问题给出肯定答案的同时也坦言,对于像他一样享受驾驶乐趣的人群来说,无人驾驶也许与享受驾驶乐趣并不冲突。他认为,“古时候人们出门靠骑马,马是交通工具,后来有汽车了,交通工具从马变成了汽车,但是喜欢骑马的人还是可以去马场骑马,享受骑马的乐趣。同样,等到无人驾驶实现的时候,无人驾驶车是我的交通工具,帮我们节省时间、提升效率,但我想开车的时候还是可以去开传统的汽车,这是我的爱好。”

  无人驾驶会引发哪些伦理道德争议?十二位大牛这样说 


  据《日本经济新闻》12月20日报道,日本川崎重工业和医疗保健企业希森美康(Sysmex)共同开发的第1台日本国产手术机器人最早将于2019年度问世。该机器人能够充当外科医生的眼睛和手,使精密、安全的手术成为可能,与垄断市场近20年的美国直观医疗器械公司(Intuitive Surgical,Inc.)的达芬奇手术机器人进行对抗。

  如果能够打破1家公司垄断的格局,掀起性能和成本的竞争,则有望推动手术机器人的正式普及。

  1999年上市的达芬奇手术机器人能够辅助完成在患者腹部等部位开几个孔然后插入手术器械的内窥镜手术。使用时外科医生一边看着3D图像一边操控安装在机械臂上的手术刀。

  手术器械的关节能够360度活动,所以在狭小的空间也能进行作业。还具备防止手抖的功能,能够进行精密手术。此外,还被认为对患者有很大好处,包括减少出血、缩短术后恢复时间等。

  截至2017年度末,全球各地共引进了约4500台达芬奇手术机器人,预计2018年使用该机器人的手术数量达到100万件。日本方面,大型医院等已经引进了约300台,4月诊疗报酬(针对保险医疗中医疗行为的报酬。日本将诊疗报酬按相关规定打分,患者根据分数承担其中的一部分,其余由医保承担)修改后,肺癌和胃癌等大部分癌症被纳入医保。有的疾病的患者负担额从100万日元(约合人民币6.14万元)以上降至几万~几十万日元,手术数量较上年增加了40~50%。

  美国联合市场研究机构(Allied Market Research)预测,全球手术机器人的相关市场规模到2024年将扩大至约11万亿日元。如果新一代通信标准5G得到普及,远程手术等的市场规模很可能进一步扩大,因此向达芬奇发起挑战的动向越来越活跃。

  在日本,川崎重工业与希森美康对半出资的Medicaroid想要打头阵。该公司计划2019年度在日本市场投放基本构造和动作与达芬奇手术机器人相似的手术机器人,似乎正在与审查部门讨论相关事宜。

  在主要用于工厂的工业机器人领域,川崎重工是与发那科和安川电机等比肩的日本国内巨头,在精密控制和小型化方面有优势。该公司在面向制药和配药的医用机器人领域也取得了成绩,在新涉足的手术机器人方面也“实现了接近人的尺寸和动作”(Medicaroid)。该公司正在开发传达手术器械尖端触感等达芬奇所不具备的功能。

  虽然并未对外公布价格,不过不少业内人士预测,价格“可能不会超过1亿日元”。达芬奇手术机器人旗舰型号售价近3亿日元,廉价版也超过1.5亿日元。目前,普通手术的保险分数不会增加,使用手术机器人的医疗机构每台手术的收益将减少。有声音表示,“期待竞争企业的出现带动手术机器人的价格大幅降低”(在大学医院借助达芬奇进行手术的医生)。

  受到挑战的达芬奇手术机器人阵营则自信地表示,“我们垄断市场20年的状态并不健康。希望其他公司也能参与进来,使对患者有益的机器人辅助手术得到渗透”(Intuitive Surgical有限公司社长泷泽一浩)。该公司除了投放廉价版手术机器人外,还将在美国引入减少在身体上打孔数量的最新机型。有声音指出,“新涉足企业的实力与Intuitive Surgical存在很大差距”(经常使用达芬奇手术机器人进行手术的医生)。

  Intuitive Surgical在软件方面也具有优势,包括自主运营培育达芬奇手术机器人医生的设施等。因此,追赶该公司的企业除了提升机器人的性能、降低成本外,在支持一线医生的体制等方面能否打破垄断也成为课题。

  谷歌等相继涉足手术机器人领域

  近年来,达芬奇手术机器人拥有的手术机器人相关专利开始到期,全球各地打算进入该领域的企业正在增加。

  海外方面,美国谷歌与美国强生公司成立的Verb Surgical正在开发手术辅助机器人,力争2020年前后上市。有观点猜测“或将推动手术的自动化,例如使用人工智能(AI)显示最合适切除范围等”(手术辅助机器人开发企业)。

  源于日本国立癌症研究中心的A-Traction公司专注于开发辅助主刀医生的机器人,提出价格“比达芬奇手术机器人便宜1位数”的目标。力争实现无需由医生或助手操控内窥镜、只需1名外科医生即可完成手术。该公司社长安藤岳洋自信满满地表示,“力争于2021-2022年度上市”。


  人工智能要与产业紧密融合,既要助推人工智能应用场景的落地,也要基础数据和平台技术的突破创新,还要搭建好与传统行业生态有效衔接的桥梁 

  人工智能产业应用总体上处于起步阶段,仍有一些难题制约应用场景落地 

  人工智能被认为是引领新一轮科技革命和产业变革的战略性技术。当前,我国人工智能与产业融合的情况如何?

  业内专家认为,我国人工智能产业应用总体上处于起步阶段。

  当前,新一代人工智能已经从最初的算法驱动逐渐向数据、算法和算力的复合驱动转变,其中,基于数据的应用驱动作用日益显著。以医疗领域为例,志诺维思基因科技创始人、人工智能专家凌少平介绍,我国智慧医疗近几年发展比较快,一个重要原因是有比较丰富的电子病历、医疗影像、病理图像等数据,基于这些数据,科研人员能够通过标注来训练人工智能模型。地平线创始人兼首席执行官、人工智能专家余凯说,受益于行业丰富的需求,我国在人工智能的应用探索上比较活跃。智能安防、智能金融、平安城市等需求,助推了人脸识别技术的发展和落地。无人驾驶、智能教育等发展又加速了我国计算机视觉、语音识别和自然语言理解等技术的应用落地。

  专家表示,我国拥有海量数据和巨大市场规模,应充分发挥这些优势,加快推动人工智能的应用场景落地。但在实际推进过程中,还有一些难题制约着人工智能与产业更好地融合。

  其中产业界普遍关注的是如何取得有价值的数据。首先是数据的有效性不够。通常数据越多,人工智能算法越智能。但也要看到,海量的数据固然重要,可只有经过计算、进行训练的数据才能产生价值,这就需要提高数据的有效性。专家表示,我国的数据样本非常丰富,但数据的“噪音”也非常大,有时获取的大部分数据没有价值,这就给利用数据训练算法带来较大困难。在智慧医疗领域,优质的数据一般要经过精选、清洗和标注,而高质量的标注数据门槛较高,通常由专业的医生来完成,但当前医生协助人工智能企业标注数据的积极性不高。由于高质量的标注数据缺乏,制约了人工智能在医疗领域的拓展。

  其次是数据之间缺乏联动。数据孤岛现象影响了人工智能应用的落地。云天励飞首席方案总监王军说,一些核心数据掌握在相关管理部门和行业机构手中,在保障数据安全和隐私安全前提下,如果能将这些优质数据投入到算法模型训练上,既能降低行业参与者的成本,也有助于拓展人工智能应用的深度。

  此外,人工智能芯片、智能平台搭建等技术难题也有待突破,这些都在一定程度上影响了应用场景落地。

  人工智能赋能产业是一个从量变到质变的过程,需要搭建良好的产业生态链条 

  人工智能赋能产业是一个从量变到质变的过程。专家认为,要想进一步推进人工智能产业发展,就需要搭建良好的产业生态链条,需要学界和产业界共同努力,探索拓展产业的边界和范围。这包括了从源头找到有价值的问题、基础支撑平台技术的创新、培育领军企业等。

  推进人工智能产业化,找到有价值的问题尤为关键。

  “近年来,人工智能在医疗领域的应用很热,但多数扎堆在眼底筛查、肺结节检测及宫颈癌筛查等几个应用点,却很少有人去研究还有哪些领域需要应用人工智能技术。”凌少平说,“我国医疗人工智能应用要以需求为导向,运用大数据来分析目前诊疗中的痛点问题,有针对性地培育基于人工智能的产品和服务,进而提升人工智能与产业的融合度。”

  推进人工智能产业化,需要基础支撑平台技术上的突破创新。

  “无人驾驶、智能安防等终端场景是人工智能应用的重要场景,但人工智能在这些场景能不能落地、落地后有多大价值,需要依靠智能平台的支撑。”余凯以自动驾驶为例,当前无人驾驶技术仍不成熟,一个重要的影响因素是计算效率不够高。“1000辆上路的自动驾驶汽车,每天要处理相当于当前百度图像搜索的数据量,要及时、有效地处理好信息,在底层架构上就需要高性能的人工智能芯片。”

  芯片的特点和性能往往决定了人工智能应用平台的架构和发展生态。鲲云科技创始人牛昕宇说,人工智能芯片通常会针对人工智能算法做特殊设计,我国在传统芯片上与国外领先企业有较大差距,但人工智能芯片与传统芯片底层物理结构完全不同,这样就相当于大家来到同一起点,我国应抓住人工智能芯片发展的机遇,为人工智能应用落地、产业发展提供强劲支撑。

  推进人工智能产业化,还要培育领军企业。

  虽然商业化刚起步,但人工智能巨大的发展前景已赢得了世界各国极大关注。我国已经成为全球人工智能产业发展的重要推动者。当前全球人工智能产业总体上由少数科技巨头公司引领,但也涌现出许多人工智能初创企业,在一些细分领域很有竞争力。受访专家认为,当前全球人工智能应用生态尚未成形,要积极搭建人工智能生态圈,进而在人工智能产业上取得主动权。同时,培育一批具有行业引领带动作用的人工智能企业和产业,建立起从基础研发、平台技术开发到应用落地的人工智能产业生态链条,并最终支撑起人工智能在各行业的终端应用。

  “人工智能时代的产品将是定制化的,需要形态、性能各异的产品。因此,虽然我国在一些领域与发达国家有一定差距,但在人工智能产业上仍然有很多机会,甚至实现换道超车。”王军表示。

  提升社会整体智能化水平,促进人工智能与传统产业深入融合 

  “人工智能+”在深刻改变着传统产业。人工智能与传统产业的关系如何?怎样推进人工智能与传统产业深入融合?

  “如果说人工智能是供给侧,传统行业则是需求侧,它们不是谁颠覆谁的关系。推进人工智能应用场景落地,要处理好‘供给侧’和‘需求侧’的匹配问题,还要打通两者之间的壁垒,让双方加深理解,明白传统行业在哪些方面需要人工智能,人工智能又能对产业发展起什么作用。”余凯表示。

  专家认为,为了实现人工智能与传统产业良性互动,需要社会整体智能化水平的提升。因此,有必要推进智能化信息基础设施建设,提升传统基础设施智能化水平。

  比如,无人驾驶需要车与路、车与人以及交通基础设施之间的互联互通,要实现这一点,稳定快速的通信网络就很重要,而5G技术和5G网络正好能满足车、路、人等协同的要求。因此,无人驾驶汽车要上路,绝不是有了好算法就行,它还需要新一代通信技术基础设施的配合,以及相关标准、协议的兼容畅通。

  仍以数据为例,人工智能时代,数据是基石,但标注好的数据更重要、更有价值。对大多数行业参与者来说,它们难以负担也没有能力做好海量数据的标注工作,因此需要引导行业专家共同参与,整合各行业的力量,服务人工智能产业发展。

  “提高数据标注质量,可以尝试探索由第三方权威机构牵头,逐步建立市场导向的面向全行业公开共享的大型数据标注集,最终通过人工智能模型应用市场终端反馈给予贡献数据集的机构或个人报酬,这样既提高了效率又保障了参与者的积极性。”凌少平建议。

  应该正视的是,当前我国人工智能产业尚未形成有影响力的生态圈和产业链,这就需要行业参与者积极布局,发挥好各自的优势,搭建起人工智能产业生态;管理部门也应发挥好引导作用,帮助解决制约行业发展的共性难题。此外,人工智能产业的有效推进还离不开行业标准管理、政策法规等外部环境。受访专家表示,在人工智能时代,我们应该意识到“信息”与“智能”已经成为新的生产要素,与劳动、资本、土地等其他财富创造要素具有同等重要的地位,拥抱人工智能产业,还要在产业之外下功夫。(喻思南)


Copyright © 2018 江苏省人工智能学会 苏ICP备17071693号-1